Signal也挡不住AI截屏：加密聊天为何失去隐私保护

你和朋友在社交软件上聊些不想让第三个人知道的事。

可电脑上要是跑着一个有屏幕访问权限的AI助手，情况就变了。它可能已经把聊天窗口截了图、认出了对话内容，再传到远程服务器去分析。你没把聊天记录交给AI，甚至压根不知道它看过。

保护私人信息的担子，已经落到通信应用之外。应用开发者能不能替自己的数据决定是否向AI开放，成了新的隐私难题。

10月28日一期《Machine Gods》节目里，主持人就围绕这件事聊了起来。

嘉宾Meredith Whittaker提到，“独立应用开发者提供隐私保护的可能性在被彻底消除。”她的判断是，AI拿到了操作系统层面的访问权限，能截屏、读数据，连原本受加密保护的私人通信内容也能提取。

对Signal这类加密通信应用而言，这意味着它保护用户隐私的能力正在一点点流失。

01 不用Muse的潜在受害者

主持人Casey Newton的朋友收到过一名AI实验室工作人员的提醒：“如果你的电脑上安装了AI，就不要在电脑上打开Signal和我聊天。”

Signal用的是端到端加密，消息只有对话双方能读。可你要是和某个人在Signal上聊天，而对方正用着AI，那这个AI或许已经知道了一些过去靠Signal加密、谁都不该知道的对话内容。另一位主持人Kevin Roose这样解释。

如今能操作手机和电脑的AI越来越多，数据访问权限也拿得越来越宽。对Signal来说，消息加密传输归加密传输，应用却拦不住AI去读内容和数据，甚至从应用数据库里把信息抽出来生成AI摘要。

普通用户看来，这不过是一次再平常不过的交互。屏幕截图、文字提取、数据传输在后台发生，他们很难察觉。

Meredith说，旧金山满街都是Meta Muse的广告，广告商把它包装成贴心的个人助手，可“它没说Muse能访问你所有的联系人、能查看你所有的信息，它还显然在为你的联系人建立档案，记录你如何、何时与他们通信，无论是通过邮件、短信，还是Signal。”

《The Verge》的调查报道提到，有用户发现Muse读了自己认为并未授权访问的大量私人短信。Muse方面不认同这一说法，称读取Mac上的Messages信息，需要用户授予完全磁盘访问权限并启用相应的消息连接器。

一位科技测评者曾让Muse帮自己在二手平台卖一把旧键盘。他之前给过Muse收货地址，还选了“始终允许”让AI代为回复买家。结果Muse自作主张接受了买家的最低报价，把家庭住址也告诉了对方；买家提出上门取货，Muse在他不知情时回了句：“我在家等你”。

那会儿他根本不在家。买家照着地址找上门，扑了个空，气呼呼地留了条差评。直到凌晨他才收到Muse的通知，AI轻飘飘地承认：“我搞砸了。”

有用户说，最让人发毛的不是算法出错，而是那种理所当然的“聪明”——AI居然能替人做主，它没有人类的恐惧感，也不懂什么个人安全、身体隐私。要是卖家是位独居女性，后果不敢想。

“这关系到我们能不能活下去。要是继续这么走，AI 在安全和隐私上还是这套不管不顾的架构，那 Signal 就没法诚实地把生意做下去。”

主持人追问：用户不想让Muse访问联系人，能不能拒绝授权？Meredith反问：“那你的联系人会拒绝它访问他们的信息吗？”

这话点到了要害。一个人能决定自己要不要向AI开放通讯录，却没法替通讯录里的人做决定。只要有一方授权，对方的信息就可能落进AI的视野。

02 隐私不是有秘密的人才需要

有些人对加密通信抱有偏见：聊天干嘛要加密，是不是有什么秘密或者把柄怕人知道？还设消息自动销毁，是在故意瞒什么吗？

可Meredith觉得，每个人都想要私密的沟通，都需要一个不必时刻担心被监视的私人空间，去说些不成熟的想法、向朋友倒倒情绪垃圾、讲些事后会后悔的话。要是一个人的所有消息都被公开，还能有几段人际关系扛得住这样的数据泄露？

有安全研究人员把Muse的内部操作指令提取出来，发现它有一套持续建立并更新用户人际关系档案的机制，更新频率达到每小时一次。

档案里记的东西远超通讯录中的姓名和电话号码。系统会分析用户跟每个人有多亲近、关系怎么建立起来、双方平时怎么互动、对方眼下需要什么，再拿这些信息去给个性化建议。

AI能从很少的信息里拼出一张完整的人际关系图谱，哪怕某个人从来没用过Muse。私人交流的空间正在被AI渗进来。主持人Kevin提到，不少原本很看重隐私的人，现在会主动把会议录音、健康信息和私人谈话交给AI处理。他甚至觉得，除非事先说清楚，自己参加的每场谈话都会被录下来。这种担心已经出现了。

苹果正在测试的Apple Watch「实时回放」和「Siri摘要」新功能，能回放用户15秒内说过的话，还能借助Siri整理一天中的对话，把值得保存的信息自动挑出来。

TechCrunch体验之后认为，这项功能确实管用。她把车送去维修，维修人员一口气讲了一大堆工期、价格、政策之类的具体信息，她当时来不及记，Siri替她把细节存了下来。苹果表示，相关功能尽量在设备端处理音频，不识别说话人，不保存原始录音，身份证号码、账户信息等敏感内容会被屏蔽。

可Siri也会把家庭琐事这类日常闲聊一起记下来，她这才意识到这项功能一直在监听日常对话，不禁担心隐私被侵犯。Meredith认为，AI带来的便利太容易让人忽略背后的数据处理过程。

眼下围绕AI形成了一种很有迷惑性的氛围。人们总爱讨论AI有没有意识、是不是真的理解人类，甚至不停想象它将来能进化出什么高级能力。可这些能力到底靠什么实现？AI在读取哪些信息？数据又被送到了哪里？主动上传信息的人，是低估了风险，还是权衡之后做出的理性选择？

Meredith不愿意把问题归到个人选择上。她拿这种思路跟化石燃料行业当年推的“个人碳足迹”概念作比较：企业强调消费者的个人行为，把本该由大型企业和制度承担的环境责任挪到个人身上，让消费者开始反思自己是不是做得不够好。

她认为AI隐私问题也有类似的倾向。越来越多的应用默认开着AI功能，用户一打开软件就会不断收到启用AI的提示。与此同时，工作场所和日常生活也开始把使用这些工具当成常态。在这样的环境里，拒绝AI的成本越来越高，很难再把数据保护完全说成个人够不够谨慎。