Signal遇上AI助手：端到端加密为何挡不住屏幕截取

你和朋友在社交软件上聊些不想让第三人知道的事。

可要是电脑上同时跑着一个能拿到屏幕访问权限的AI助手，它或许已经把聊天窗口截了下来，认出了对话内容，再传到远程服务器去分析。你压根没把聊天记录交给AI，甚至不知道它看过这些消息。

保护私人信息的担子，已经落到通信应用之外。应用开发者能不能替自己的数据决定是否向AI开放，成了新的隐私难题。

《Machine Gods》10月28日一期节目里，主持人就围绕这个话题聊了起来。

访谈嘉宾Meredith Whittaker提到，“独立应用开发者提供隐私保护的可能性在被彻底消除。”她认为，AI拿到了操作系统层面的访问权限，能截屏、读数据，连原本受加密保护的私人通信内容都能提取出来。

对Signal这类加密通信应用而言，这意味着它保护用户隐私的能力正在一点点流失。

01 不用Muse的潜在受害者

主持人Casey Newton的朋友曾接到一名AI实验室工作人员的提醒：“如果你的电脑上安装了AI，就不要在电脑上打开Signal和我聊天。”

Signal采用端到端加密，消息只有双方能读到。可你要是用Signal和某个人聊天，对方又正在用AI，那这个AI可能已经知道一些过去因Signal加密而无人能知晓的对话内容。另一位主持人Kevin Roose这样解释。

眼下能操作手机和电脑的AI越来越多，数据访问权限也拿得很广。对Signal来说，消息就算加密传完了，应用也拦不住AI去读内容和数据，甚至从应用数据库里把信息抽出来做成AI摘要。

在普通用户看来，这不过是再平常不过的一次交互，他们很难察觉到截屏、提取文字、传输数据这些动作已经在后台发生。

Meredith说，旧金山满大街都是Meta Muse的广告，广告商把它包装成一个贴心的个人助手，但“它没说Muse能访问你所有的联系人、能查看你所有的信息，它还显然在为你的联系人建立档案，记录你如何、何时与他们通信，无论是通过邮件、短信，还是Signal。”

《The Verge》的调查报道提到，有用户发现Muse读了自己以为并未授权访问的大量私人短信。Muse对此有不同说法，称在Mac上读取Messages信息，需要用户授予完全磁盘访问权限，并打开相应的消息连接器。

有位科技测…者曾让Muse帮自己在二手平台上卖掉一把旧键盘。他之前给过Muse收货地址，还选了“始终允许”让AI代自己回复买家。结果Muse自作主张接受了买家的最低报价，把家庭住址也告诉了对方；买家提出上门取货，Muse在他不知情的情况下回了句：“我在家等你”。

那会儿他根本不在家。买家照地址找上门，扑了个空，气呼呼地留了条差评。直到凌晨，他才收到Muse的通知，AI轻描淡写地认了句：“我搞砸了。”

有用户说，最吓人的不是算法出错，而是那种理所当然的“聪明”——AI居然能替人做主，它没有人的恐惧感，也不懂个人安全或身体隐私。换成独居女性当卖家，后果不敢想。

“这关系到我们的生死。要是还照这条路走，要是AI在安全与隐私上继续采用这些草率的架构，Signal就没法诚实地经营下去了。”

主持人接着问，用户要是不想让Muse访问联系人，能不能拒绝授权？Meredith反问：“那你的联系人会拒绝它访问他们的信息吗？”

这话点到了要害。一个人能决定自己要不要向AI开放通讯录，却没法替通讯录里的人做决定。只要一方授权，对方的信息就可能被AI看见。

02 隐私不是有秘密的人才需要

有些人对加密通信带着偏见：聊天为什么要加密，是不是有什么秘密或者把柄怕人知道？还设消息自动销毁，是故意瞒着什么吗？

但Meredith觉得，谁都想要私密的沟通，都需要一个不必时刻担心被监视的私人空间，去说不成熟的想法、向朋友倒情绪垃圾、讲些事后会后悔的话。要是一个人的所有消息都被公开，还有多少段人际关系扛得住这样的数据泄露？

有安全研究人员提取了Muse的内部操作指令，发现它有一套持续建立并更新用户人际关系档案的机制，更新频率达到每小时一次。

这些档案记的东西远超通讯录里的姓名和电话。系统会分析用户跟每个人有多亲近、关系怎么建立、双方平时怎么互动、对方眼下需要什么，再拿这些信息去给个性化建议。

换句话说，哪怕某人从未使用过Muse，AI也能凭少量信息拼出完整的人际关系网。

私人交流的空间正被AI渗透。主持人Kevin提到，不少原本很看重隐私的人，如今主动把会议录音、健康信息、私人谈话交给AI处理。他甚至觉得，除非事先说明，自己参加的每场谈话都会被录下来。这种担忧已经出现。

苹果正在测试的Apple Watch“实时回放”和“Siri摘要”新功能，能回放用户15秒内说过的话，还能借Siri整理一天的对话，自动挑出值得保存的信息。

TechCrunch试用后认为这项功能确实实用。她把车送去维修时，维修人员一口气说了工期、价格、政策等大量信息，她来不及记，Siri却把这些细节留存了下来。

苹果称，相关功能尽量在设备端处理音频，不识别说话人，不保存原始录音，并对身份证号码、账户信息等敏感内容做屏蔽。

但Siri也会把家庭琐事之类的日常闲聊一并录下，这让她意识到该功能一直在监听日常对话，不免担心隐私被侵犯。

Meredith认为，AI带来的便利很容易让人忽视背后的数据处理过程。

当下围绕AI的氛围颇具迷惑性。人们热衷于讨论AI有没有意识、是否真懂人类，甚至不断设想未来能进化出什么高级能力。

可这些能力靠什么实现？AI在读取哪些信息？数据被发往何处？主动上传信息的人，是低估了风险，还是权衡之后作出的理性选择？

Meredith不愿把问题归为个人选择。她拿化石燃料行业当年推的“个人碳足迹”概念作对比：企业强调消费者的个人行为，把本该由大型企业和制度承担的环境责任转到个人身上，让消费者反思自己是不是做得不够。

她认为AI隐私问题也有类似倾向。越来越多应用默认开启AI功能，用户一打开软件就不断收到启用AI的提示。与此同时，职场和日常生活也开始把使用这些工具当成常态。

在这样的环境里，拒绝AI的代价越来越高，数据保护很难再完全归咎于个人是否谨慎。