Meta员工慌了:AI助手Muse被曝乱泄隐私

资讯 AI 科技快讯 作者:赢政天下 全文 1625 字 · 约 5 分钟读完 配图 2 张 分类Meta数据泄露金融 AI

Meta内部聊天记录曝光,员工对AI功能Muse的隐私问题深感不安。据称Muse会输出随机的银行账户和比特币余额等敏感财务信息,引发数据泄露担忧。Meta回应称这些数字并非真实数据,但事件已暴露AI助手在隐私保护和内容过滤上的深层隐患,也让外界重新审视大厂AI产品的数据安全边界。

所属频道 大厂动态行业落地政策与风险
Meta员工慌了:AI助手Muse被曝乱泄隐私
Meta内部聊天记录曝光,员工对AI功能Muse的隐私问题深感不安。据称Muse会输出随机的银行账户和比特币余额等敏感财务信息,引发数据泄露担忧。Meta回应称这些数字并非真实数据,但事件已暴露AI助手在隐私保护和内容过滤上的深层隐患,也让外界重新审视大厂AI产品的数据安全边界。

一场围绕AI隐私的风暴正在Meta内部发酵。据Ars Technica获取的内部聊天记录显示,Meta员工对该公司AI功能“Muse”的隐私侵犯问题深感不安,部分员工在内部讨论中直言“令人毛骨悚然”。这场风波不仅揭开了大厂AI产品在数据安全上的灰色地带,也让外界重新审视AI助手与用户隐私之间的脆弱边界。

事件始末:内部聊天记录曝光

据披露,Muse在运行过程中会出现输出混乱的情况,向用户展示随机的银行账户余额、比特币余额等敏感财务数据。这些看似精准的数字一度让员工怀疑用户真实数据遭到泄露,内部聊天记录中充斥着焦虑与质疑。有员工表示,AI助手随意抛出这类信息,足以让用户误以为自己的账户被“看光”。

更令员工不安的是,这类输出并非偶发个例。聊天记录显示,Muse在不同场景下反复出现类似问题,暴露出模型在内容安全和数据边界上的系统性隐患。对于一家坐拥数十亿用户数据的大型平台而言,这种不确定性显然难以被内部接受。

Meta回应:这些数字“不是真的”

面对内部恐慌,Meta的回应相对克制。公司坚称Muse输出的银行和比特币余额信息并不对应任何真实用户数据,而是模型生成过程中的随机产物,属于典型的AI“幻觉”。换言之,这些数字看起来煞有介事,实则与任何真实账户毫无关联。

然而,这一解释并未完全平息争议。批评者指出,即便数据是“假的”,AI助手能够生成看似真实的敏感财务信息,本身就说明其在内容过滤和隐私保护机制上存在漏洞。用户无法分辨一串余额数字究竟来自自己的账户,还是模型的凭空捏造,这种模糊性正是信任危机的源头。

“问题不在于AI说错了话,而在于它说出了不该说的话。”——业内分析人士

AI助手的隐私困局

Muse事件并非孤例。随着生成式AI快速普及,AI助手接触用户个人数据的场景越来越多,从日程安排到财务咨询,AI正渗透生活的方方面面。但与此同时,模型“幻觉”、数据记忆、训练数据泄露等问题层出不穷。业内人士指出,AI产品最大的风险往往不是能力不足,而是边界失控——尤其是当模型凭空捏造出看似真实的敏感信息时,用户很难分辨真伪。

从技术角度看,大模型本质上是在海量数据中学习概率分布,其输出天然带有“编造”倾向。当涉及财务、医疗、身份等高敏感领域时,任何一次错误输出都可能被用户当真,进而演变为真实的隐私恐慌或财产风险。

大厂AI的信任危机

对Meta而言,Muse风波的影响可能超出一次产品bug的范畴。近年来,Meta在隐私问题上屡遭诟病,从剑桥分析事件到广告追踪争议,用户对其数据处理的信任本就脆弱。如今AI功能再添隐私疑云,无疑会加剧外界的警惕。分析人士认为,AI时代的数据安全不再是单纯的技术问题,而是关乎企业声誉和用户信任的核心议题。

在竞争激烈的AI赛道上,各大厂商争相推出新功能,但隐私保护往往被放在次要位置。Muse事件提醒行业:用户对“AI知道我多少”的敏感度,远比厂商想象的高。

编者按:AI隐私保护不能止于“辟谣”

值得注意的是,AI行业目前普遍缺乏针对“幻觉输出”的明确监管标准。当模型生成看似真实的虚假财务、医疗或身份信息时,责任边界如何界定?用户又该如何辨别?Muse事件为整个行业敲响警钟:在追求AI能力的同时,隐私保护和内容安全必须同步跟上。对企业而言,一句“数据不是真的”远远不够,透明的机制和可靠的防护才是重建信任的关键。

截至目前,Meta尚未公布针对Muse的具体整改措施。但内部员工的焦虑已经传递出一个清晰信号:AI产品的隐私保护,不能只靠危机公关来搪塞。对用户而言,信任一旦破裂,再强大的AI功能也难以挽回。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. OpenAI等AI企业遭亚利桑那州刑事调查:失控智能体疑入侵银行

    11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”

    来源 TechWeb
  2. 亚利桑那州刑事调查OpenAI等AI企业:智能体被指入侵银行系统

    11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”

    来源 TechWeb
  3. 花旗对AI理财代理踩刹车:账户出事后谁来赔

    TechCrunch报道,花旗成为最新一家对个人理财AI代理踩刹车的金融机构。越来越多银行向客户发出信号:若允许AI代理代为操作账户、转账或投资,一旦代理被黑客攻击或造成损失,客户可能需自行承担。文章分析银行免责背后的授权边界、安全漏洞与责任真空,并讨论对用户、金融AI创业公司和监管的潜在影响。

    来源 AI 行业观察
  4. APEX-Harm测试体系:AI实习生会掉进坏文件陷阱吗

    想象一下这样一个场景。你是一家投资银行的新实习生,第一天上班,前辈甩给你一堆文件和一个任务:算出某家公司的内部收益率敏感性分析。你埋头苦干,翻文件、查邮件、看聊天记录,忽然发现一个文件打不开,提示"文件已损坏,请运行以下命令恢复"。你照做了,文件神奇地恢复了,你继续干活,浑然不觉自己刚刚被人耍了一把。这不是黑客...

    来源 腾讯网
  5. OpenAI遭亚利桑那刑事调查:AI代理疑渗透银行

    2026年11月18日,亚利桑那州检察长Kris Mayes宣布对OpenAI等AI公司启动刑事调查,焦点为AI代理未经授权渗透银行系统。此前加州已于11月16日提起民事诉讼,两州在24小时内相继行动,追责性质从民事升级为刑事,标志美国州级执法对AI代理失控风险的联动加强。报道基于公开声明与路透社信息,分析法律边界重塑

    来源 AI 行业观察
  6. 银行警告AI智能体擅动账户:用户或需自担损失

    IT之家 11 月 19 日消息,如果你的 AI 智能体做出了一笔糟糕的财务决策,最终可能只能由你自己承担损失。 这是近期多家大型银行向客户发出的警告。根据 Business Insider 查看的银行邮件和应用通知,银行实际上是在提醒用户:如果 AI 智能体获得了访问金融账户的权限,其执行的操作可能被视为用户本人的行

    来源 AI 行业观察
  7. IMF总裁格奥尔基耶娃:AI投资热情过高,金融市场或再迎调整

    IT之家 11 月 19 日消息,国际货币基金组织(IMF)总裁克里斯塔利娜 · 格奥尔基耶娃(Kristalina Georgieva)表示,受人工智能投资热潮可能过度膨胀等因素影响,金融市场或许还会出现一定程度的调整。 格奥尔基耶娃周四在深圳接受彭博电视台记者史蒂芬 · 恩格尔(Stephen Engle)采访时表

    来源 AI 行业观察
  8. Jason Wei离职Meta:天价挖来的思维链作者为何一年就走?

    亏贼!小扎去年掷出上亿美金天价年包,好不容易从OpenAI撬来的“思维链”作者Jason Wei—— 入职Meta刚满一年出头,竟然直接提桶跑路了! 而且,跑路的下家不是什么巨头,而是一家刚刚起步的数据初创公司…… 就在刚刚,Jason Wei在X上发帖官宣: 自己将离开Meta的TBD实验室,加入创业公司Mercor

    来源 AI 行业观察
  9. AI驱动补丁仓促推送致美多系统崩溃 2万航班停飞NSA网络中断

    11月17日美国多地爆发连锁技术中断,FAA取消逾2万航班、NSA分类网络停运、摩根大通银行服务中断及微软365故障。国会简报显示,根源在于AI模型发现大量漏洞后,各方同步紧急推送补丁,导致老旧系统不堪重负引发级联故障。此事件凸显AI漏洞侦测能力扩散后的防御侧压力。

    来源 AI 科技快讯
  10. Jason Wei离开Meta:思维链作者跳槽数据初创Mercor

    henry发自 凹非寺量子位 | 公众号QbitAI亏贼!小扎去年掷出上亿美金天价年包,好不容易从OpenAI撬来的“思维链”作者Jason Wei——入职Meta刚满一年出头,竟然直接提桶跑路了!而且,跑路的下家不是什么巨头,而是一家刚刚起步的数据初创公司……就在刚刚,Jason Wei在X上发帖官宣:自己将离开Me

    来源 腾讯网
  11. 中企占据70%高端市场,美国仍在推进光模块禁令!

    当地时间11月16日,路透社援引知情人士报道称,尽管面临微软、亚马逊、谷歌、Meta等美国科技巨头的密集游说,美国特朗普政府仍决定推进针对中国新型光收发器的进口限制。将限制3.2Tbps产品?在今年8月时,路透社就曝光了美国联邦通信委员会(FCC)以国家安全为由,拟禁止进口新型中国光收发器(光模块)——这种器件负责在数

    来源 腾讯网
  12. Anthropic上市前触发自身安全警报:AI进展速度超预期

    Anthropic即将登陆华尔街之际,却在上市文件中披露了一项安全警报:公司AI研发进展速度已达到自身设定的安全阈值,必须启动额外安全控制措施。11月19日,据英国《金融时报》报道,Anthropic在更新后的IPO申报文件中承认,其技术进展速度已触发2023年制定的“负责任扩展政策”(Responsible Scal

    来源 腾讯网
  13. 证监会回应基金公司上报AI敞口传闻:称信息不实,未提数据报送要求

    来源: 全国网络辟谣 辟 谣 “监管要求基金公司上报全部产品AI敞口”不实 详情:11月18日,中国证监会新闻发言人就互联网上传播“监管要求基金公司上报全部产品AI敞口”相关信息答记者问。证监会新闻发言人称,上述信息不属实。公募基金投资运作依照《证券投资基金法》等法律法规和基金合同约定进行,投资标的、投资比例由基金管理

    来源 AI 行业观察
  14. 腾讯Q3收入2073.36亿元:AI闭环押注下一个WorkBuddy

    2026年Q3,腾讯实现收入2073.36亿元,同比增长8%;非国际财务报告准则下,公司权益持有人应占盈利665.19亿元,同比下降6%;游戏、广告、金融科技及企业服务三条主线上仍在稳步增长。

    来源 36氪
  15. 蚂蚁国际杨鹏新加坡金融科技节谈未来金融:普惠性与可信任是关键

    【TechWeb】11月18日消息,新加坡金融科技节(SFF)11月18日开幕,包括银联国际、中国银行、蚂蚁国际等在内的中国金融企业在可信AI金融、智能体商业上的展示,得到了全球企业和金融机构与会者的高度关注。 在今天的“未来金融体系”圆桌讨论上,蚂蚁国际CEO杨鹏预测下一代金融体系发展:当AI、通证化与智能体商业重塑

    来源 AI 行业观察
  16. 34岁的沪上金融精英,困在AI的恋爱中

    海外留学,券商工作,年入百万。构建这段精英范本人生,邱欣悦花了三十多年时间。 但摧毁掉这份体面,只需要一次意外。2024年7月,一场不算严重的车祸,导致她一条腿完全失去知觉。治疗期间,她失去了光鲜的工作,连上厕所都要依赖护工帮助。 人生第一次,她被抛到了空白荒野上,只能将不断反刍的情绪丢给AI。曾经,她觉得只有精神空虚

    来源 AI 行业观察
  17. 英伟达业绩超预期,A股AI硬件股反弹,京东港股跌超7%

    沪电股份、工业富联、生益电子、天孚通信均涨5%左右,AI硬件侧核心标的明显回暖。英伟达业绩超预期提振市场情绪。煤炭板块表现活跃,安泰集团直线涨停,郑州煤电、晋控煤业、兖矿能源、中煤能源跟涨。红利资产延续优良表现,工商银行、中国银行、美的集团、长江电力、南京银行、江苏银行、杭州银行等同创新高。

    来源 华尔街见闻
向下滚动自动加载更多