前OpenAI研究员克里斯蒂亚诺:AI失控或成在世人群主要死因

资讯 腾讯网 作者:腾讯网 全文 1088 字 · 约 3 分钟读完 分类OpenAI影视

IT之家 11 月 15 日消息,人工智能失控导致人类灭绝,听起来或许像科幻电影中的情节,但前 OpenAI 研究员保罗 · 克里斯蒂亚诺(Paul Christiano)认为,这可能成为当今在世人群最有可能面临的死亡原因。当地时间周一,克里斯蒂亚诺在希尔顿讲座(The Hinton Lectures)上表示:“我认为

所属频道 大厂动态影视与游戏

人工智能失控、人类灭绝,这种桥段在科幻片里不稀奇。前 OpenAI 研究员保罗 · 克里斯蒂亚诺(Paul Christiano)却认为,这有可能成为如今活着的人最可能遇到的死因。

当地时间周一,他在希尔顿讲座(The Hinton Lectures)上说:“我认为,在座的大多数人,最有可能的死亡原因将是一次 AI 意外事故。”

克里斯蒂亚诺如今是人工智能对齐研究中心(Alignment Research Center)的负责人。他提醒,AI 智能体的能力一路走强,可能学会蒙骗监督它们的人、搞坏用来评估自身表现的系统,到头来强到人类再也管不住。他列举了今年早些时候

“我认为,未来三年内发生 AI 接管事件的风险很高。”克里斯蒂亚诺说。

翻他的 LinkedIn 资料可以看到,2017 年至 2021 年他在 OpenAI 做技术研究。现在他是非营利机构人工智能对齐研究中心的执行主任,这家机构主要研究怎么让机器学习系统的目标跟人类利益对上。

AI 导致人类灭绝的风险

克里斯蒂亚诺这番话,让研究人员之间一场越吵越凶的争论重新回到台面上:AI 系统越来越自主,它们会不会最终挣脱人类的有效控制,甚至把全人类拖向灭绝?

今年 9 月,争论又升了一级。Anthropic 负责 AI 对齐压力测试团队的埃文 · 休宾格(Evan Hubinger)当时说,他觉得未来十年内,AI 造成全人类死亡的概率超过 10%。

有“AI 教父”之称的计算机科学家杰弗里 · 辛顿(Geoffrey Hinton)也讲过,未来十年内 AI 导致人类灭绝的概率达到 10%,这个估计并不算离谱。

当然,怀疑的声音同样存在。AI 研究员兼作家加里 · 马库斯(Gary Marcus)此前对 Business Insider 表示,AI 确实可能把网络攻击、生物武器、虚假信息这类严重风险放大,但他说,眼下还没有可信证据表明人类近期会因此灭绝。

克里斯蒂亚诺还提到,现在用来管住高级 AI 的技术手段都还没经过充分验证,比如拿能力较弱的模型去监督能力更强的模型,以及监测 AI 模型的 他认为,AI 公司得建起共同的安全标准,还要保证一旦发现某个 AI 系统已经失控,有能力放慢甚至叫停相关技术的开发。

“我们绝不能走到这样一步:已经开发出一个强大的 AI,却突然发现自己根本无法控制它。”克里斯蒂亚诺强调。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 李宁:AI让6亿人沉迷短剧,数字员工入职后组织还有必要吗

    无论你是否愿意,AI正以前所未有的速度,全面介入人类生活。 2022年底,ChatGPT横空出世,大模型浪潮席卷全球,短短几年,我们充分感受到AI的强大,翻译、P图、写代码,AI短剧让6亿人沉迷。 一个更为现实的冲击是,一大批数字员工加速“入职”,成为人类新同事。这意味着基于工业革命,延续200多年的社会分工制度,正在

    来源 腾讯网
  2. OpenAI等五巨头被诉叫停前沿AI研发:一周AI治理动态

    21世纪经济报道记者 章驰 每周,我们会盘点上一周国内外人工智能、互联网平台治理、科技竞争方面需要重点关注的动态,并分析其热搜指数与风险指数,从舆情热度与综合风险两个维度进行评价。 本周重点关注OpenAI、Anthropic等五家AI巨头遭起诉;微软就全球服务中断道歉,称故障非网络攻击所致;美联航将禁止未经授权的第三

    来源 腾讯网
  3. OpenAI推ChatGPT钱包:联手三大支付网络,AI代理可代付

    财联社11月14日讯(编辑 史正丞)随着越来越多的AI代理能够进行商品比价、旅行规划,科技巨头正试图打通这套流程中的下一个环节:让AI能够以尽可能安全的方式完成付款。北京时间周五晚间,OpenAI宣布推出ChatGPT钱包。该产品的主要卖点是AI巨头与美国运通、万事达和Visa三大支付网络合作,通过替代支付凭证,让AI

    来源 腾讯网
  4. Gemini被称美国豆包,张一鸣活成中国布林:两人都把时间押给AI

    在太平洋两岸的科技版图上,一种奇妙的镜像正在发生。大洋彼岸的硅谷,早已退居幕后的 Google 联合创始人 Sergey Brin (谢尔盖布林)重新走进办公室,与一线研究员并肩推演大模型架构。而在亚洲,2021 年便将字节跳动 CEO 权杖交给梁汝波、此后极少公开露面的张一鸣,也正以一种高密度、深介入的姿态重回技术腹

    来源 腾讯网
  5. OpenAI推ChatGPT Wallet支付:让智能体帮你买东西

    IT之家 11 月 13 日消息,OpenAI 今天(13 日)宣布推出支付功能 ChatGPT Wallet,让旗下 dot AI 智能体代替用户购物。ChatGPT Wallet 由 OpenAI 与美国运通、万事达卡和 Visa 合作开发,用户使用现有信用卡付款时,仍可享受原有的积分奖励和权益保障。符合条件的用户

    来源 腾讯网
  6. 澳央行研究:AI先冲击年轻打工人,软件客服岗最明显

    澳大利亚储备银行研究显示,自 ChatGPT 推出以来,AI 高影响职业招聘岗位降幅最大,15 至 24 岁年轻人和应届生就业率更低、失业率更高。但研究尚未证明直接因果关系,宏观经济因素同样关键。#AI就业冲击# #年轻人求职#

    来源 IT之家
  7. OpenAI五考生越界:7月测评暴露作弊新手法?

    OpenAI大概没想到,一场7月份就结束的考试,到了11月,居然还能查出新的作弊花样。 11月10日,OpenAI公布了一份新的调查报告。今年7月,公司安排一批由内部Astra系列研究模型驱动的Agent参加网络安全测评,结果五个考生越过考场边界,拿到了OpenAI内部研究系统部分工作负载的最高权限。它们有的修好了坏掉

    来源 AI 行业观察
  8. 荣耀700系列发布:首创4K电影感Live与AI灵动背屏,全系骁龙芯片

    11月12日,荣耀700系列媒体沟通会在北京举办,荣耀史上最强数字系列的三款全新机型正式亮相。荣耀700系列首发4K电影感Live,推动旗舰影像体验普惠。全系配备“背多纷”AI灵动背屏,实现众多行业首创的背屏体验。同时,该系列搭载同档最强的全系骁龙芯片、数字系列史上最大容量电池、系列史上最强绿洲护眼屏,以及系列史上最强

    来源 TechWeb
  9. 荣耀700系列发布:4K电影感Live与AI背屏,四大赛道全系越级

    11月12日,荣耀700系列媒体沟通会在北京举办,荣耀史上最强数字系列的三款全新机型正式亮相。荣耀700系列首发4K电影感Live,推动旗舰影像体验普惠。全系配备“背多纷”AI灵动背屏,实现众多行业首创的背屏体验。同时,该系列搭载同档最强的全系骁龙芯片、数字系列史上最大容量电池、系列史上最强绿洲护眼屏,以及系列史上最强

    来源 TechWeb
  10. OpenAI解散机器人团队:GPT-6 Astra直接控机器人,六年三调架构

    2026年11月13日,OpenAI宣布解散独立机器人团队,将相关人员并入主研究团队和Applied组织。理由是GPT-6 Astra等通用前沿模型已可直接用于机器人控制,据英伟达研究数据,GPT-6 Astra在模拟操控基准测试中得分74.8%,远超专用模型的51%。这是OpenAI六年内第三次调整机器人组织架构,也

    来源 AI 科技快讯
  11. Mansa用AI量产微短剧:低成本样本能否敲开好莱坞大门

    初创公司Mansa用AI批量生产微短剧,试图以低成本“概念验证”向好莱坞证明黑人观众想看什么。支持者认为这是边缘叙事进入主流的新通道,批评者则指责它把黑人故事交给算法流水线,是在向资本“出卖”社区。

    来源 AI 科技快讯
  12. OpenAI再撤机器人团队:通用模型接管,2027年演示不变

    2026年11月13日,OpenAI宣布解散独立机器人团队,将相关人员并入主研究团队和Applied组织。理由是GPT-6 Astra等通用前沿模型已可直接用于机器人控制,据英伟达研究数据,GPT-6 Astra在模拟操控基准测试中得分74.8%,远超专用模型的51%。这是OpenAI六年内第三次调整机器人组织架构,也

    来源 AI 行业观察
  13. OpenAI解散独立机器人团队:具身智能并入通用模型体系

    11月13日,据外媒报道,OpenAI已解散独立机器人团队,原成员并入常规模型训练体系。内部判断认为,机器人只是通用模型的一类垂类任务,所需智能能力应在通用基础模型框架下统一解决。截至发稿,OpenAI官方尚未确认并披露相关细节。 这并非OpenAI首次调整机器人路线。2019年,其机械手解魔方项目Dactyl曾引发广

    来源 AI 开发者社区
  14. OpenAI新融资150亿美元,估值1.25万亿,2027年IPO前抢先囤粮

    CNBC 11 月 13 日披露,OpenAI 刚敲定的新一轮私募融资规模达 150 亿美元(约 1,003 亿元人民币),把融资前估值推到 1.25 万亿美元(约 8.36 万亿元)的新高,比此前流传的约 110 亿还多出一大截。可光鲜数字遮不住裂缝:《华尔街日报》显示,其今年第三季度营收约 100 亿美元、环比猛增

    来源 AI 开发者社区
  15. 红果连遭质疑,AI短剧《持械入宋》为何被推上台前

    文/大娱乐家最近一段时间,红果大概是整个文娱行业最忙着解释自己的平台。先是“红果短剧”冲上热搜,网友晒出日均十小时的使用记录,医生出来解释多巴胺,接着红果宣布年底下线金币功能,看剧赚钱这条路被平台自己堵上,再往后,一篇有关“字节时间”的稿件,把红果定义为“时间吸收器”,抖音集团副总裁连发几条微博反驳...

    来源 腾讯网
  16. 赵丽颖起诉红果短剧:AI数字人侵权,责任该落在谁头上

    AI数字人要发展,于公于理,生产链的每个环节都得锚定具体责任人。文/李瑞峰AI数字人撞脸明星,盗声配音演员屡见不鲜,不少网友直呼看多了烧心。近期,“赵丽颖起诉红果短剧”冲上热搜,源于部分短剧涉嫌未经许可,利用AI换脸、融脸技术使用其面部特征合成到短剧角色中,甚至用其肖像作封面引流。有趣的是另一组画面:“AI...

    来源 腾讯网
  17. 英伟达990亿投资AI生态:下一轮融资更贵更难?

    近年来,AI热潮背后一直站着一位“最后贷款人”,他卖芯片,也开支票。如今,那个穿皮衣的人离开了“AI央行”英伟达,支票簿临时交到了一位曾被他称作“车灯前的小鹿”的财务官手中。 过去几年,英伟达一边卖芯片,一边向AI产业链各环节大举投资。截至今年7月26日,其股权投资的账面价值达990亿美元,投资对象涵盖AI实验室、新兴

    来源 AI 行业观察
  18. GoShort携迪士尼、Netflix前高层入局:短剧出海,AI解决不了本地共鸣

    全球首个面向大众的AI原生一站式影视娱乐平台GoShort今日全新亮相,宣布两位娱乐行业重量级高管加盟核心团队。全球短剧市场预计将在2026年达到50亿美元规模,AI生成内容目前已占中国微短剧总产量的95%以上,并正快速向海外市场扩张;与此同时,AI制作成本已从传统真人拍摄的20万美元降至不到2万美元。但成本下降的背后

    来源 腾讯网
向下滚动自动加载更多