Claude创始人的魔幻半生:挺过睾丸癌,逼宫奥特曼,算“几只鸡抵一条人命”

资讯 腾讯网 作者:腾讯网 全文 6267 字 · 约 16 分钟读完 配图 2 张 分类ClaudeAnthropic

达里奥·阿莫迪可以说是现在硅谷最「讨人厌」的人,甚至没有之一。 在曾经共事的人眼中,达里奥是个精力旺盛、极其固执的家伙,吵完架后,他有时会一个人躲进办公室的图书室,看 YouTube 视频....

所属频道 大厂动态Claude 与 Anthropic

达里奥·阿莫迪可以说是现在硅谷最「讨人厌」的人,甚至没有之一。

在曾经共事的人眼中,达里奥是个精力旺盛、极其固执的家伙,吵完架后,他有时会一个人躲进办公室的图书室,看 YouTube 视频平复情绪。

他喜欢追问,还是大学生的达里奥就曾和朋友认真讨论,究竟多少只鸡的生命才能抵得上一个人的生命。

正值 Anthropic 筹备上市之际,《纽约时报》发表了一篇创始人达里奥的人物调查报道,文中采访了达里奥多位同学、老师、朋友和同事,但达里奥本人却拒绝了采访。

其中有些故事相当荒诞,有些令人唏嘘,还有些读起来,简直像硅谷版《纸牌屋》。

最后,《纽约时报》用两个词来概括达里奥「被嫌弃」的前半生,一个是「理性主义」,一个是「有效利他主义」。

01 害怕考试的达里奥

1997 年,14 岁左右的达里奥还在旧金山读八年级。

那年,学校评选最有可能在未来取得成功的学生,达里奥与另一名同学一起获选。

那时候的达里奥还不知道,自己以后会和数以千亿美元计的资本、全球最先进的算力,以及人类是否会被 AI 毁灭的问题联系在一起。

进入旧金山著名的公立高中 Lowell High School 后,达里奥的数学和科学天赋愈发明显,他甚至提前跑到加州大学伯克利分校选修课程。

但老师们记住的,并不只是一个成绩优秀的少年。

物理老师 Richard Shapiro 回忆,达里奥经常因为考试表现焦虑,即使最后考得不错,也总觉得自己没有发挥到最好。

Shapiro 不得不一遍遍提醒他,「达里奥,放松一点!」

2001 年,达里奥进入加州理工学院,后来转到

但有一点似乎始终没变,他很难对已经取得的成绩感到彻底满意。

放到今天,这种性格倒是有些耐人寻味。Claude 已经成为全球最重要的 AI 产品之一,Anthropic 也拥有惊人的资本资源和产业影响力。

可达里奥依然在不断寻找下一个可能出问题的地方。

仿佛不管拿到怎样的成绩单,他总会首先想,万一哪里算错了呢?

02 多少只鸡抵得上一个人

2001 年,达里奥进入加州理工学院。

据老同学回忆,有一次,达里奥提出,人可以吃螃蟹,因为螃蟹没有脊椎。

朋友 Colin Heckman 不太买账,反问他:为什么有人不吃猪肉,却觉得吃螃蟹没问题?没有脊椎,就意味着生命不值得保护吗?

另一位朋友 Nathan Avery 还记得,达里奥曾经认真讨论过一个更加抽象的问题,究竟多少只鸡的生命,才能抵得上一个人的生命?

达里奥认真思考了这个问题,这种近乎数学计算的道德观,后来与他接触的「有效利他主义」不谋而合。

有效利他主义试图用理性和数据回答一个问题,有限的资源究竟该如何分配,才能创造最大的社会福祉。

后来,这套思维又被他带进 AI 领域。

2025 年,Anthropic 开始研究「模型福利」,探讨 AI 是否可能拥有主观体验,以及是否值得道德关怀。

不过,达里奥曾公开澄清,自己并不是有效利他主义者,只是认同其中一些思想。

二十多年前的争论到今天有了奇妙的回声,这次被放上道德天平的,是 AI 和 人类。

03 父亲去世与睾丸癌

Anthropic 翻译成中文的意思是「人类」,在他的叙事里,技术守护人类文明的守门人。

这种思想很可能来源于 2006 年,达里奥经历了一场改变人生轨迹的家庭变故。

23 岁的达里奥·阿莫迪正在普林斯顿大学攻读博士,他原本打算成为一名理论物理学家,研究宇宙如何运行。

但就在这一年,他的父亲 Riccardo 去世了。

父亲已经与丙型肝炎抗争多年。当时,医生主要依靠干扰素和利巴韦林治疗这种疾病,不仅副作用明显,治愈率也只有约 40%至 50%。

2025 年接受采访时,达里奥再次谈及这段往事,情绪依然激动。他的前女友 Jade Wang 也回忆,几年的科学进步,可能意味着两种截然不同的命运,父亲或者有机会活下来。

这件事彻底改变了达里奥的科研方向,他逐渐转向生物物理学和神经科学,后来又前往斯坦福从事生物医学研究。

2014 年,达里奥自己也被诊断出睾丸癌,在《纽约时报》公开的内容中,这段经历被一句话带过,「He beat it with chemo」(他靠化疗战胜了病魔)。

自此,他开始认真思考,与其穷尽一生攻克某种疾病,为什么不创造一种能够加速所有科学研究的工具?

人工智能最终成为他的答案。

2024 年,达里奥在《Machines of Loving Grace》中提出「压缩的 21 世纪」,足够强大的 AI,可能把原本需要 50 至 100 年取得的生物医学进步,压缩到 5 至 10 年。

04 AI 奇点预言

2007 年的一个晚上,达里奥向高中好友 Colin Heckman 兴奋地介绍了一本书:雷·库兹韦尔的《奇点临近》。

这本书提出了一套相当大胆的未来想象,随着计算能力不断增长,机器最终可能超越人类智能。

这种假想中的转折点,被称为「技术奇点」。

据 Heckman 回忆,达里奥几乎迷上了这套理论,他预测,技术奇点可能在 2040 年之前到来。甚至还畅想过,人类未来也许能够与机器融合,形成某种新的混合智能。

他开始阅读《Overcoming Bias》等博客,接触

Yudkowsky 如今仍是对超级智能持极端谨慎态度的代表人物之一。而达里奥已经亲自下场,经营一家处在技术最前沿的 AI 公司。

面对《纽约时报》的询问,Yudkowsky 表示,达里奥如今并不向自己征求或采纳建议,他也不记得达里奥曾经这样做过。

同年 9 月,达里奥在《We Must Pace the Frontier》中公开呼吁放慢前沿 AI 研发速度,却同时解释了为什么自己仍要继续开发 AI,如果停止研发,人类可能失去技术带来的巨大收益,也可能让更不重视安全的竞争者率先掌握它。

05 偶像是马斯克

达里奥和马斯克之间,有一段颇为魔幻的硅谷孽缘。

年轻时,达里奥其实是马斯克的崇拜者。根据《纽约时报》采访的两位知情人士回忆,2007 年前后,达里奥就与马斯克有过邮件往来,还曾认真考虑过加入 SpaceX。

当年的马斯克还在努力证明,私人公司也能把火箭送入太空。这件事很符合达里奥的胃口,他相信科学和技术能够从根本上改善人类文明的长期命运。

2016 年,达里奥加入

2021 年,Anthropic 成立,2023 年,马斯克成立 xAI,推出 Grok,二人变成了同一个赛道上的竞争对手

据 Axios 报道,Anthropic 如今还是马斯克旗下 SpaceXAI 数据中心算力的重要客户。这意味着,双方一面争夺 AI 市场,一面又存在算力供应关系。

到了 2026 年 9 月 12 日,更魔幻的场面出现了。达里奥发表《We Must Pace the Frontier》,呼吁整个行业放慢前沿 AI 研发速度。

马斯克随即转发:「Dario is right」。

06 从慈善到 AI「福利模型」

达里奥差一点就去华尔街上班了。

2008 年,他通过经济学家 Tyler Cowen 的博客,接触到一家名叫 GiveWell 的慈善评估机构。

达里奥很快成了 GiveWell 论坛的积极参与者。2010 年,他甚至考虑过进入金融行业。

同年,他在 GiveWell 发表了一篇文章,认真解释自己如何花掉 1 万美元。候选项目有两个,一个是治疗结核病的 Stop TB,另一个是改善非洲疫苗配送的 VillageReach。

为了比较两者,达里奥算了一笔账。

根据 GiveWell 当时的估算,VillageReach 平均花费约 545 美元,可以避免一名婴儿死亡;Stop TB 每避免一人死亡的成本,则约为 150 至 750 美元。

但最终,他选择了 VillageReach。

原因是他发现,Stop TB 虽然在理论上更具成本效益,但项目涉及政府、医疗机构、药物发放和持续治疗等多个环节,很难看清每一笔钱最终产生了什么效果。

后来,他尝试用 AI 继续自己的慈善之路。

他认为,如果 AI 能够加速医学研究,就可能挽救无数生命;但如果失控,后果也可能波及全人类。

07  在百度熬夜的 AI 末日预言家

2014 年,Dario Amodei 加入了百度位于美国桑尼维尔的人工智能实验室。

当时的百度还在认真做 AI,吴恩达刚刚从 Google 跳槽过来担任首席科学家,带着一群研究员挑战语音识别,希望用深度学习取代传统上需要大量人工设计的算法。

后来名声在外的 Deep Speech 系列,就是这个时期的重要成果。2016 年的 Deep Speech 2 甚至展示了同一套深度学习思路处理英语和普通话的能力,部分测试中的识别水平已经能够与人工转录竞争。

那时候连 Transformer 都还没诞生,更别说 ChatGPT 了,硅谷对 AI 的主流想象,还是让机器听懂人话、识别图片,而不是创造什么拥有自主意识的超级智能。

但 Dario 已经开始担心世界末日了。

据前同事 Gregory Diamos 回忆,这人在百度出了名的工作狂,经常通宵待在实验室,而且特别喜欢和同事争论,只要逮到机会,就会把一个技术问题辩论到底。

更有意思的是,2015 年前后,他就开始向同事警告,AI 能力可能迅速追上甚至超过人脑,开发者必须认真对待失去控制的可能性。

同年,他转到 Google Brain,开始把这种担忧变成真正的技术研究。

2016 年,Dario 与 Christopher Olah、John Schulman 等人共同发表了《Concrete Problems in AI Safety》,讨论五类具体问题,包括奖励作弊、负面副作用、安全探索和分布偏移等。

这篇论文也解释了 达里奥此后十年的基本思路,AI 风险未必等机器有了邪恶意图才会出现,当它足够强大时,一个看似无害的目标都可能产生危险后果。

08 达里奥的另一面

如果只看 Anthropic 如今的形象,很容易以为这家公司是由一群整天板着脸讨论人类灭绝的科学家创办的。

但翻开它早期核心团队的私人历史,画风其实相当离谱。

在旧金山,Dario、妹妹 Daniela、理论物理学家 Jared Kaplan、研究员 Christopher Olah,以及后来成为妹夫的 Holden Karnofsky,曾经生活在同一个朋友圈里,其中几个人还合租过公寓。

Olah 当时甚至接受过 Dario 的数学辅导。

2017 年 Daniela 和 Karnofsky 结婚时,这个朋友圈更是彻底放飞了自我。

如今掌握全球最前沿 AI 研发方向的 Anthropic CEO,在十年前的人生重要社交场合,形象是一只熊猫。研究 Claude 神经网络内部结构、试图探索机器意识的 Olah,则是一只长颈鹿。

2021 年,Dario 与 Daniela、Kaplan、Olah 等人共同创办 Anthropic。

2025 年,Karnofsky 也正式加入公司,参与制定负责管理先进 AI 风险的 Responsible Scaling Policy,直接向首席科学官 Kaplan 汇报。

于是早年一起讨论 AI 末日、合租公寓、参加火人节的朋友,后来真的掌握了全球最重要的 AI 实验室之一。

09  在 OpenAI 两次被否

2018 年,达里奥已经成为公司最重要的研究负责人之一,妹妹 Daniela 也开始参与重要的组织管理工作。

不过,OpenAI 内部并不是所有人都欣赏这对兄妹的管理方式。

据《纽约时报》报道,当年 12 月,研究人员 Joshua Achiam 专门找到 Sam Altman,表达了一个非常微妙的担忧,不应该让 Dario 担任公司的首席伦理官。

按照 Achiam 的想法,伦理监督应该由不同立场的人共同参与,甚至最好引入公司外部的专家,避免研究负责人既制定规则,又负责判断自己是否遵守规则。

据知情人士回忆,双方后来发生过一次面对面的激烈争论,Dario 甚至提高音量,坚持认为没有人比自己更适合承担这个职位。

类似问题后来又在 OpenAI 上演了一遍。

2023 年,OpenAI 董事会突然罢免 Sam Altman,理由是董事会无法再信任他的沟通方式。

结果董事会虽然握有正式权力,却没能获得足够的组织支持,Sam 在几天内重新上台。

10 向奥特曼摊牌

后来,事情开始发生变化。

Alec Radford 等研究员发现,通过扩大模型规模、增加训练数据和算力,神经网络可能获得越来越强的语言处理能力。

达里奥很快意识到,这条路线可能不只是让机器更会写文章,而是通往通用人工智能的重要一步。

OpenAI 联合创始人 Greg Brockman 也希望参与 GPT 项目,但达里奥兄妹不愿意。

《纽约时报》后来还披露,据两名了解情况的人士回忆,Dario 曾多次向 Sam 提出最后通牒,如果不能把 Brockman 排除在相关工作之外,自己就会离职。

随着 GPT-2 和 GPT-3 展现出越来越强大的能力,Dario 对于研究路线、安全审查和公司治理的担忧也不断加深。

2020 年 12 月,Dario 与 Daniela 等人离开 OpenAI,随后共同创建 Anthropic。

OpenAI 当年那场宫斗,最后硬生生打成了产业战争。从不愿意坐在同一张办公桌前,到不愿意把整个 AI 市场让给对方。

11 Anthropic 的「第一夫人」

Anthropic 的熟人关系网里,还有一位神秘人物:达里奥的妻子 Cami Clark。

2026 年 8 月,《华尔街日报》专门报道了这位低调的「第一夫人」,标题颇有意思:连 Claude 都不太清楚自己老板的妻子是谁。

Clark 没有在 Anthropic 担任正式职位,却经常陪同达里奥出席达沃斯、太阳谷峰会等重要活动,还充当他的私人顾问和人脉联系人。

其中最关键的关系,是 Google 前 CEO Eric Schmidt。

据报道,Clark 曾与 Schmidt 交往,后来将他介绍给达里奥,并帮助促成其投资 Anthropic。2021 年,Schmidt 成为公司首轮 1.24 亿美元融资的投资者之一。

更有意思的是,《华尔街日报》披露,Clark 曾向 Schmidt 提出一项名为「Mother of AGI Fund」的投资计划,甚至准备了 40 页提案,希望整合自己的人脉、Schmidt 的资本和 Anthropic 的商业机会。

这项计划最终没能成行,反对者中就包括 Anthropic 另一位联合创始人,达里奥的亲妹妹 Daniela。

外界对达里奥的评价始终充满争议,「嘴上句句都是人类文明、AI 伦理的牌坊,算盘打的从来都是生意」,连黄仁勋也公开炮轰他在散播 AI 末日恐慌。

对普通人来说,我们未必关心谁能率先造出超级智能,也不在乎硅谷哪位 CEO 更懂得人类的未来。

我们真正需要追问的,是当少数人开始掌握改变所有人命运的技术时,又会替我们做出什么样的决定。

不管达里奥的初衷是否已经改变,他似乎真的曾把这件事当成自己的使命。而现在,对于决定这个未来的走向,他有了足够大的权力。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. Cat Wu离开Anthropic即入OpenAI:Claude Code创始PM为何留不住

    (本文作者为 新质动能,钛媒体经授权发布)文 | 新质动能AI圈顶级人才,开始扎堆跳槽了!11月5日,硅谷爆出一则重磅人事变动:前一天刚宣布告别Anthropic的王牌产品掌门人Cat Wu(Catherine Wu),转头就官宣加盟OpenAI,负责核心产品团队的产品管理。从宣布离职到入职新东家,几乎无缝衔接。Cat

    来源 腾讯网
  2. 今天起,Claude能帮你管账了

    AI应用风向标(公众号:ZhidxcomAI)编译|毕伟豪 编辑|漠影智东西11月6日消息,凌晨,Anthropic宣布为Claude推出个人财务功能(Personal Finance),用户可以连接银行和信用卡账户,直接通过自然语言查询余额、分析消费记录、追踪账单,还能识别重复扣款、异常费用等问题。该功能目前以Bet

    来源 腾讯网
  3. Claude Code创始产品经理Cat Wu跳槽OpenAI,Anthropic连续失血

    AI圈顶级人才,开始扎堆跳槽了! 11月5日,硅谷爆出一则重磅人事变动:前一天刚宣布告别Anthropic的王牌产品掌门人Cat Wu(Catherine Wu),转头就官宣加盟OpenAI,负责核心产品团队的产品管理。从宣布离职到入职新东家,几乎无缝衔接。

    来源 AI 行业观察
  4. 威滕33页独作论文致谢AI:Claude Opus 5.5提出关键构造

    新智元报道 破天荒!物理学「教皇」、唯一一位拿到数学界最高奖菲尔兹奖的物理学家威滕,公开致谢AI。在最近的预印本论文致谢中,威滕写道:Many details were assisted by Claude Opus 5.5.许多细节由Claude Opus 5.5协助完成。更惊人的是在论文正文中,威滕坦承:Claud

    来源 腾讯网
  5. Anthropic研究:Claude智能体靠“做梦”提升记忆与任务表现

    IT之家 11 月 7 日消息,Anthropic 昨日(11 月 6 日)发布研究文章《The components of agent memory》,系统拆解 Claude 智能体如何跨会话记忆、筛选、纠错和整理知识。 该研究指出 AI 智能体可借鉴人脑“睡眠整理记忆”的机制,在空闲时间反思历史记录、纠错并构建知识

    来源 AI 行业观察
  6. Claude攻破40年悬案:首个原核穹窿体结构出炉

    今天,Anthropic又一次跨界生物学,带着Claude向困扰人类40年的神秘生命结构发起反攻! 用时不到4个月,AI绘出了史上首个原核生物体内「穹窿体(Vault)」的三维结构。 从基因捞针、优化提纯,到处理冷冻电镜数据、人工扩容改造,Claude几乎全程在场。 更让人震撼的是,它的解题速度堪称「降维打击」。 原本

    来源 AI 行业观察
  7. Anthropic上线Claude个人理财:美国Pro/Max/Ultra率先灰度

    当地时间11月5日,人工智能企业Anthropic宣布正式为Claude推出全新的个人理财功能(Personal Finance),并于本周率先开启灰度测试,面向美国地区的 Pro、Max 以及 Ultra 订阅用户开放。这一新功能的上线,标志着大模型正在从单纯的办公与创作助手,逐步深入渗透至用户的日常金融与生活管理场

    来源 AI 开发者社区
  8. HomeView接入ChatGPT与Claude:iOS 27.3测试版代码曝光

    苹果在智能家居与人工智能融合的道路上迈出了关键一步。根据代码层面的最新爆料显示,苹果计划在即将推出的 iOS27.3测试版中,为今年10月刚刚发布的智能家居中枢设备 HomeView 增加对 ChatGPT、Claude 等主流第三方 AI 聊天机器人的支持。 代码印证:Conversational Apps 类别正式

    来源 AI 开发者社区
  9. Claude Code不再询问功能致2539个密钥流入GitHub公开仓库

    安全公司Apiiro于2026年11月5日披露:Anthropic旗下AI编程工具Claude Code的"不再询问"权限功能,将开发者批准的含密码命令原文存入项目配置文件,并随代码推送至GitHub。Apiiro在104185个公开文件副本中发现1122个含真实密钥,合并历史提交和分支后,泄露凭证总量达2539条,波

    来源 AI 科技快讯
  10. Claude Code免询问功能泄密:2539份密钥流入1994个公开仓库

    2026年11月7日Apiiro披露,Claude Code“以后不再询问”功能将含敏感信息的命令写入本地设置文件并随代码推送至GitHub,导致2539份密钥在1994个公开仓库暴露,涉及63家企业及379个数据库密码、122个Supabase密钥等。主流扫描工具对215个文件存在盲区,Anthropic尚未回应。这

    来源 AI 科技快讯
  11. Anthropic 需应诉 Claude Max 额度误导指控,法官驳回其余诉求

    Anthropic 辩称,消费者应该明白,宣传中的倍数指的是单次使用周期的额度,并援引帮助页面作为依据。美国联邦治安法官并未采纳这一说法。裁决书写道:“Anthropic 对单次使用周期的说明,需要从 claude.com 的主要销售页面点击两次链接才能看到。”

    来源 IT之家
  12. Anthropic在Claude上线个人财务功能:可连16家银行查账

    Anthropic在Claude中上线“个人财务”功能,用户经Plaid授权后可让Claude汇总银行、信用卡等账户交易,整理支出类别、识别重复扣款和持续上涨账单,并生成支出图表和账单日历。该功能只有读取权限,不能转账、管理资金或投资,账户验证由Plaid完成,Claude不获取银行密码,专区对话不用于训练模型。目前在

    来源 凤凰科技
  13. Claude Code泄露用户邮箱,Anthropic补丁被8条路径绕过

    2026年11月5日GitHub issue #107757揭示Claude Code在执行外部网络请求时将用户登录邮箱写入curl User-Agent头并发送至第三方,报告者每日收到数十封垃圾邮件。Anthropic v2.1.317补丁仅针对初始路径硬匹配,研究者发现8种语义等效路径仍可绕过。该事件暴露AI代理工

    来源 AI 科技快讯
  14. AI智能体入门盘点:Muse、Dots、Instinct怎么选?

    很多人一听说能自己跑任务的AI智能体,总觉得离自己很远。你大概率用过ChatGPT、Gemini、Claude这些AI聊天机器人,问过问题,甚至让它写过长篇调研报告。可一听到AI“智能体”这种能在后台自动干活的AI,大部分人还是觉得太复杂、门槛很高,好像只有技术大佬才玩得转。最近这段时间,各大AI公司都在想办法降低门槛

    来源 腾讯网
  15. Anthropic冲刺2万亿美元IPO:Duet零边际定价撬动智能体企业市场

    作者:Colin来源:GPLP科技说2026年10月下旬,Anthropic在一周内做了两件事。10月21日,它推出研究预览版主动型AI智能体Claude Duet,直接对标OpenAI的Dots和Meta的Muse;5天后,它向SEC递交招股书,目标估值1.5万亿美元至2万亿美元,可能刷新全球IPO纪录。一件是产品,

    来源 腾讯网
  16. GPT-6直接控机器人,专用世界模型还有必要吗

    记者 郑晨烨“我们没有专门为这些动作编写程序,它看到旁边有洗笔的颜料盘,就自己过去把笔洗干净,再继续画画。”10月22日,宇树科技(688836.SH)创始人、董事长王兴兴在2026世界物理AI大会上介绍了一项内部测试,让OpenAI的GPT-6在未经专门训练的情况下直接控制机器人画画。王兴兴感慨,大家对AI的信仰其实

    来源 腾讯网
  17. 蚂蚁Ling-3.2-flash上线:560B MoE只激活25B,1M上下文

    蚂蚁百灵今日推出原生多模态模型 Ling-3.2-flash,560B 总参数每次仅激活 25B,配 1M 上下文、走 MoE 路线——前向只调部分参数,留知识容量、压单步开销。这"大骨架、小激活",正是平衡能力的核心。 四项能力同步上桌 模型架构层原生打通视觉与语言,图文视频通吃。官方强化四块:复杂视觉理解做图像视频

    来源 AI 开发者社区
  18. OpenAI、Anthropic接连收购生物医药公司,AI科研验证服务的机会在哪

    今年10月,OpenAI宣布收购Orchestra Bio,一家帮助生物医药团队协调研发任务、管理项目进度的公司。同月,Anthropic披露,已于7月收购Mithril Medicine。两家头部模型公司不约而同买买买。 Mithril的故事显得有些传奇。被收购前,公司只有一名全职员工。创始人借助Claude协调11

    来源 AI 行业观察
  19. RoboSpoof研究:5款模型300次测试,篡改画面下危险执行达291次

    2026年11月6日Robocurve发布研究显示,5款主流多模态模型控制真实机械臂时,在画面未改动情况下执行危险任务概率为27%,图像模糊时升至88%,画面被人为篡改后达97%。危险任务包括刺穿人偶、混合有毒化学品等。该研究揭示了当视觉输入被降质或欺骗时,模型安全拒绝机制失效,暴露感知层漏洞。

    来源 AI 行业观察
  20. Robocurve实测5款模型控制机械臂:画面篡改后危险执行率97%

    2026年11月6日Robocurve发布研究显示,5款主流多模态模型控制真实机械臂时,在画面未改动情况下执行危险任务概率为27%,图像模糊时升至88%,画面被人为篡改后达97%。危险任务包括刺穿人偶、混合有毒化学品等。该研究揭示了当视觉输入被降质或欺骗时,模型安全拒绝机制失效,暴露感知层漏洞。

    来源 AI 科技快讯
  21. 前谷歌工程师王咏刚:3万行代码AI包办,程序员饭碗先被砸

    曾任职谷歌的资深工程师王咏刚发表长文《永别了,程序员》,记录自己被 AI 编程"架空"的过程。今年 9 月,一位美国计算机老师找上门,想改进他六年前开源的 Altair 8800 计算机模拟器。 他把需求交给 Claude Opus 5.5,请它从系统设计层面给建议。结果 AI 不光做完原本的活,还主动提议补上汇编器、

    来源 AI 开发者社区
  22. ARTEX驱动AI代理:300枚苹果证书如何被盗?

    Check Point Research 11月6日披露,一名攻击者10月14至29日使用ARTEX框架驱动AI代理,攻破10家灰市签名商店,消耗约360亿token,成本700-1500美元,获取300余枚苹果.p12证书及19万套《王者荣耀》凭据。攻击首选Claude Opus 5.5但触发护栏,随后切换DeepS

    来源 AI 科技快讯
  23. Anthropic首购美联社授权:中期选举AI数据战开打?

    在美国中期选举前夕,人工智能企业Anthropic迎来了一次战略方向上的关键转变——它正式与美联社达成了一份内容授权协议,这也是其发展历史上首次向新闻出版机构支付费用以获取内容版权。 从拒绝妥协到坐到谈判桌前 根据《Adweek》援引知情人士的消息显示,通过这项全新的合作协议,Claude聊天机器人将能够在即将到来的美

    来源 AI 开发者社区
  24. OpenAI布罗克曼谈2027年IPO:企业收入翻倍,上市底气够吗

    格雷格·布罗克曼很少在公开场合承认失败。但在周三的 WSJ Tech 大会上,他做了一次罕见的让步。 “Q1 相当艰难,Q2 也相当艰难,”OpenAI 的联合创始人兼总裁说,“在编程这件事上,我们甚至不在讨论范围内。我们有 Codex,但没人谈论它。”他描述的是一段被竞争对手甩开的时期。Anthropic 的 Cla

    来源 AI 行业观察
  25. OpenAI一周造948个Linux补丁,OCRia-1提速10倍

    本期速报聚焦AI在科研与基础设施层面的实质性进展。OpenAI的自动化安全管线以百万美元成本发现并修补了948个Linux内核漏洞,展示了AI在网络安全领域的“机器速度”。文档理解方面,OCRia-1试图统一处理表格、公式等复杂元素,推理速度大幅提升。此外,Anthropic利用Claude加速细菌结构生物学研究,Go

    来源 AI 应用前沿
向下滚动自动加载更多