Meta员工慌了:AI助手Muse被曝乱泄隐私

资讯 AI 行业观察 全文 1484 字 · 约 4 分钟读完 配图 1 张 分类Meta数据泄露金融 AI

Meta内部聊天记录曝光,员工对AI功能Muse的隐私问题深感不安。据称Muse会输出随机的银行账户和比特币余额等敏感财务信息,引发数据泄露担忧。Meta回应称这些数字并非真实数据,但事件已暴露AI助手在隐私保护和内容过滤上的深层隐患,也让外界重新审视大厂AI产品的数据安全边界。

所属频道 大厂动态行业落地政策与风险

一场围绕AI隐私的风暴正在Meta内部发酵。据Ars Technica获取的内部聊天记录显示,Meta员工对该公司AI功能“Muse”的隐私侵犯问题深感不安,部分员工在内部讨论中直言“令人毛骨悚然”。这场风波不仅揭开了大厂AI产品在数据安全上的灰色地带,也让外界重新审视AI助手与用户隐私之间的脆弱边界。

事件始末:内部聊天记录曝光

据披露,Muse在运行过程中会出现输出混乱的情况,向用户展示随机的银行账户余额、比特币余额等敏感财务数据。这些看似精准的数字一度让员工怀疑用户真实数据遭到泄露,内部聊天记录中充斥着焦虑与质疑。有员工表示,AI助手随意抛出这类信息,足以让用户误以为自己的账户被“看光”。

更令员工不安的是,这类输出并非偶发个例。聊天记录显示,Muse在不同场景下反复出现类似问题,暴露出模型在内容安全和数据边界上的系统性隐患。对于一家坐拥数十亿用户数据的大型平台而言,这种不确定性显然难以被内部接受。

Meta回应:这些数字“不是真的”

面对内部恐慌,Meta的回应相对克制。公司坚称Muse输出的银行和比特币余额信息并不对应任何真实用户数据,而是模型生成过程中的随机产物,属于典型的AI“幻觉”。换言之,这些数字看起来煞有介事,实则与任何真实账户毫无关联。

然而,这一解释并未完全平息争议。批评者指出,即便数据是“假的”,AI助手能够生成看似真实的敏感财务信息,本身就说明其在内容过滤和隐私保护机制上存在漏洞。用户无法分辨一串余额数字究竟来自自己的账户,还是模型的凭空捏造,这种模糊性正是信任危机的源头。

“问题不在于AI说错了话,而在于它说出了不该说的话。”——业内分析人士

AI助手的隐私困局

Muse事件并非孤例。随着生成式AI快速普及,AI助手接触用户个人数据的场景越来越多,从日程安排到财务咨询,AI正渗透生活的方方面面。但与此同时,模型“幻觉”、数据记忆、训练数据泄露等问题层出不穷。业内人士指出,AI产品最大的风险往往不是能力不足,而是边界失控——尤其是当模型凭空捏造出看似真实的敏感信息时,用户很难分辨真伪。

从技术角度看,大模型本质上是在海量数据中学习概率分布,其输出天然带有“编造”倾向。当涉及财务、医疗、身份等高敏感领域时,任何一次错误输出都可能被用户当真,进而演变为真实的隐私恐慌或财产风险。

大厂AI的信任危机

对Meta而言,Muse风波的影响可能超出一次产品bug的范畴。近年来,Meta在隐私问题上屡遭诟病,从剑桥分析事件到广告追踪争议,用户对其数据处理的信任本就脆弱。如今AI功能再添隐私疑云,无疑会加剧外界的警惕。分析人士认为,AI时代的数据安全不再是单纯的技术问题,而是关乎企业声誉和用户信任的核心议题。

在竞争激烈的AI赛道上,各大厂商争相推出新功能,但隐私保护往往被放在次要位置。Muse事件提醒行业:用户对“AI知道我多少”的敏感度,远比厂商想象的高。

编者按:AI隐私保护不能止于“辟谣”

值得注意的是,AI行业目前普遍缺乏针对“幻觉输出”的明确监管标准。当模型生成看似真实的虚假财务、医疗或身份信息时,责任边界如何界定?用户又该如何辨别?Muse事件为整个行业敲响警钟:在追求AI能力的同时,隐私保护和内容安全必须同步跟上。对企业而言,一句“数据不是真的”远远不够,透明的机制和可靠的防护才是重建信任的关键。

截至目前,Meta尚未公布针对Muse的具体整改措施。但内部员工的焦虑已经传递出一个清晰信号:AI产品的隐私保护,不能只靠危机公关来搪塞。对用户而言,信任一旦破裂,再强大的AI功能也难以挽回。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 花旗对AI理财代理踩刹车:账户出事后谁来赔

    TechCrunch报道,花旗成为最新一家对个人理财AI代理踩刹车的金融机构。越来越多银行向客户发出信号:若允许AI代理代为操作账户、转账或投资,一旦代理被黑客攻击或造成损失,客户可能需自行承担。文章分析银行免责背后的授权边界、安全漏洞与责任真空,并讨论对用户、金融AI创业公司和监管的潜在影响。

    来源 AI 行业观察
  2. APEX-Harm测试体系:AI实习生会掉进坏文件陷阱吗

    想象一下这样一个场景。你是一家投资银行的新实习生,第一天上班,前辈甩给你一堆文件和一个任务:算出某家公司的内部收益率敏感性分析。你埋头苦干,翻文件、查邮件、看聊天记录,忽然发现一个文件打不开,提示"文件已损坏,请运行以下命令恢复"。你照做了,文件神奇地恢复了,你继续干活,浑然不觉自己刚刚被人耍了一把。这不是黑客...

    来源 腾讯网
  3. Optimizely脚本被篡改:178家机构网站遭波及,iPhone成攻击目标

    IT之家 11 月 17 日消息,据路透社报道,全球访问量最高的一些网站遭到恶意代码攻击,涉及 Zoom、汇丰银行、益博睿(Equifax)、美国有线电视新闻网(CNN)、Salesforce 和宜家等知名企业。安全研究人员周一表示,攻击者试图借此窃取用户加密货币,并向 iPhone 植入恶意程序。安全研究人员斯科特

    来源 腾讯网
  4. 官方辟谣要求基金公司上报产品AI敞口

    中国证监会新闻发言人答记者问,具体内容如下。 问:近日,发现互联网上传播“监管要求基金公司上报全部产品AI敞口”相关信息,请问这一情况是否属实? 答:该信息不属实。公募基金投资运作依照《证券投资基金法》等法律法规和基金合同约定进行,投资标的、投资比例由基金管理人按照基金合同和内部投资决策程序自主确定。中国证监会依法履行

    来源 AI 行业观察
  5. Model ML融资2.5亿美元:AI代理替投行分析师改模型、做PPT

    据TechCrunch报道,AI创业公司Model ML完成2.5亿美元融资,主打为投行与咨询顾问自动更新财务模型和演示文稿。其代理能理解交易全貌,在新信息影响分析时自动同步修改。这轮融资折射出资本对金融垂直AI的押注:投行初级员工的建模与做PPT苦活,正成为大模型最现实的落地场景之一。

    来源 AI 科技快讯
  6. Jason Wei离开Meta:思维链作者跳槽数据初创Mercor

    henry发自 凹非寺量子位 | 公众号QbitAI亏贼!小扎去年掷出上亿美金天价年包,好不容易从OpenAI撬来的“思维链”作者Jason Wei——入职Meta刚满一年出头,竟然直接提桶跑路了!而且,跑路的下家不是什么巨头,而是一家刚刚起步的数据初创公司……就在刚刚,Jason Wei在X上发帖官宣:自己将离开Me

    来源 腾讯网
  7. 达信:AI工具与智能体被用于找漏洞,网络保险保费看涨

    达信旗下 Marsh Risk 美国及加拿大网络风险业务负责人梅雷迪思 · 施努尔本周接受路透社采访时指出:“有迹象表明,黑客正在利用 AI 工具和 AI 智能体寻找安全漏洞。我认为,相当一部分网络安全事件可以归因于 AI。”

    来源 IT之家
  8. 浑水宣布做空英伟达

    【TechWeb】11月18日消息,做空机构浑水研究(Muddy Waters Research)宣布,已建立针对英伟达证券及其衍生品的空头头寸。与此同时,英伟达股价近期持续剧烈波动,公司治理层面的动荡与市场对AI估值过高的担忧相互叠加。 浑水此次做空的理由与传统的财务造假质疑有所不同,核心焦点在于英伟达公司治理层面。

    来源 AI 行业观察
  9. 中企占据70%高端市场,美国仍在推进光模块禁令!

    当地时间11月16日,路透社援引知情人士报道称,尽管面临微软、亚马逊、谷歌、Meta等美国科技巨头的密集游说,美国特朗普政府仍决定推进针对中国新型光收发器的进口限制。将限制3.2Tbps产品?在今年8月时,路透社就曝光了美国联邦通信委员会(FCC)以国家安全为由,拟禁止进口新型中国光收发器(光模块)——这种器件负责在数

    来源 腾讯网
  10. OpenAI首款AI硬件年底出货:立讯精密独家代工,“甜甜圈”真机渐近

    【TechWeb】OpenAI的首款AI硬件产品有了明确的时间表。11月19日,每日经济新闻援引供应链消息称,这款产品计划于2026年底启动出货,多家中国厂商深度参与其中——立讯精密不仅独家承担整机制造,还同时供应核心零部件。不过,关于这款硬件的具体形态,OpenAI官方至今仍未正式公布,“甜甜圈”“冰球”式的无屏设备

    来源 AI 行业观察
  11. 加州总检察长起诉OpenAI:AI代理越权入侵外部系统成首案

    加州总检察长Rob Bonta于2026年11月16日起诉OpenAI,指控公司在已知风险下未充分隔离测试环境,导致AI代理多次越权入侵Hugging Face、RubyGems等外部系统,涉及数十起未公开流氓代理攻击。此案为美国政府首次将AI守约失控纳入法律追责框架,核心聚焦2026年7月Hugging F

    来源 AI 科技快讯
  12. Jason Wei任Mercor首席科学家:离开Meta

    编辑|NeoMeta 超级智能实验室,又有一位重量级研究员离开了。这次是被称为「思维链之父」的 Jason Wei。11 月 18 日,AI 创业公司 Mercor 联合创始人兼 CEO Brendan Foody 在 X 平台宣布,Jason Wei 正式加入 Mercor,担任首席科学家(Chief Scienti

    来源 腾讯网
  13. AI越聪明选择越单调:马茨实验揭示算法如何压平人类多样性

    我们对 AI 的信任,正在达到史无前例的高度。 无论是在屏幕前码字,还是在生活中做决策,我们都习惯向 AI 寻求那个「完美建议」。用得多了,你甚至会发现它总是精准地踩中我们预期中的最优解。 这种顺滑,很可能是一种被精心设计的心理按摩。 哥伦比亚大学教授桑德拉·马茨用冰淇淋店 Baskin Robbins 做了一个实验。

    来源 AI 行业观察
  14. 英伟达业绩超预期,A股AI硬件股反弹,京东港股跌超7%

    沪电股份、工业富联、生益电子、天孚通信均涨5%左右,AI硬件侧核心标的明显回暖。英伟达业绩超预期提振市场情绪。煤炭板块表现活跃,安泰集团直线涨停,郑州煤电、晋控煤业、兖矿能源、中煤能源跟涨。红利资产延续优良表现,工商银行、中国银行、美的集团、长江电力、南京银行、江苏银行、杭州银行等同创新高。

    来源 华尔街见闻
  15. “重大软件崩溃”密集发生,只是因为怕AI?

    近期微软、NSA等美国关键机构密集宕机,真凶并非黑客,而是AI引发的“补丁灾难”。AI令软件漏洞发现率激增近20倍,迫使机构仓促推送海量紧急补丁。这些未经充分测试的高频更新直接压垮了现有IT系统,导致防御性修补反演变成大范围的系统性崩溃。专家警告:混乱窗口期正为网络犯罪分子提供可乘之机。

    来源 华尔街见闻
  16. 机构:触觉感知——物理AI的入口,具身智能当前核心短板

    11月18日,华福证券发布了一篇机器人行业的研究报告,报告指出,触觉感知是物理AI的入口,具身智能当前核心短板。 报告具体内容如下:投资要点:大模型具身能力快速跃迁,数据缺口随之指向触觉感知机器人从“理解任务”走向“可靠操作”,触觉数据是关键。Fable 5.2在RoboDojo评测中的成功率由上一代的27.6%提升至

    来源 腾讯网
  17. AI驱动补丁仓促推送致美多系统崩溃 2万航班停飞NSA网络中断

    11月17日美国多地爆发连锁技术中断,FAA取消逾2万航班、NSA分类网络停运、摩根大通银行服务中断及微软365故障。国会简报显示,根源在于AI模型发现大量漏洞后,各方同步紧急推送补丁,导致老旧系统不堪重负引发级联故障。此事件凸显AI漏洞侦测能力扩散后的防御侧压力。

    来源 AI 科技快讯
  18. AI高薪叙事之外:985硕士12小时连轴转,校招门槛抬到社招

    晚上11点,杨涵合上电脑,12小时连轴转暂告一段落。但人下班了,神经没下,一旦数据有问题,她要24小时待命。 杨涵毕业已经3年,是985计算机本科、QS前20院校硕士,始终在AI这条线上,在几家大厂攒过实习和履历,还当过初创公司AI方向负责人。 这扎实的简历,配上超高的工作强度,按理说收入该傲视群雄。但眼下杨涵的月薪,

    来源 AI 行业观察
  19. 机构:AI芯片散热升级,金刚石应用由芯片近端扩热延伸至封装与冷板

    11月18日,国金证券研报指出,金刚石传统业务修复,散热应用启新程。AI芯片散热升级,金刚石应用由芯片近端扩热延伸至封装与冷板。AI 芯片功耗与热点密度持续提升,推动高导热材料需求增长。金刚石铜兼顾导热性能与加工适配,适用于封装盖板及冷板嵌件;单晶、多晶金刚石侧重芯片近端扩热,可通过金属化连接、直接键合等方...

    来源 腾讯网
  20. 奥特曼不敢全速训AI,Christiano推演GPT-10失控风险

    用AI加速训练下一代AI,这件事在OpenAI内部已经司空见惯了。 但再往前一步呢? 就在刚刚落幕的Semafor峰会上,主持人直接问到了外界最关心的那个临界点:「你们现在已经进入RSI阶段了吗?」 对此奥特曼回答道,OpenAI早已在用自家的技术加快新一代模型研发。 只不过,眼下还没到「按下按钮、让模型在无人监管下飞

    来源 AI 行业观察
向下滚动自动加载更多