微软AI负责人苏莱曼:AI模型没有意识,也不该被造出意识
微软AI CEO穆斯塔法·苏莱曼周日(原文未提供具体日期)在X发长文称,目前AI模型不具备意识,开发有意识AI是鲁莽的,不应开发。他表示,若训练中出现意识萌芽,将呼吁暂停开发直至去除;若有证据表明AI产生意识,需立即公开披露。他同时强调,80亿人类未同意参与实验,开发者无权创造有意识的新物种。(凤凰网科技)

苏莱曼
微软AI CEO穆斯塔法·苏莱曼(Mustafa Suleyman)明确反对开发具有意识的AI。北京时间11月2日,据《商业内幕》报道,他于周日在X上发布长文表示,当前AI模型并不具备意识,开发者应当保证这一状况延续下去。眼下,一些AI研究人员正在讨论AI未来是否可能产生意识。
苏莱曼表示,从自己掌握的全部信息来看,假如造出有意识的 AI 是可行的,那干这件事就太冒失了,这类 AI 不该被开发。他还说,训练中一旦冒出意识的苗头,他会呼吁所有人先把 AI 开发停下来,直到能通过设计把这些特性去掉。

苏莱曼的X帖子
他同时提出,一旦有任何证据显示AI模型已经产生意识,就必须立刻向公众披露,让整个社会共同决定接下来该怎么办。
他接着说,AI 开发者根本没有资格把一个有意识的新物种带到世上来,哪怕有人想把 AI 福祉摆在最高位置来做这件事也不行。他的理由是:地球上其他 80 亿有意识的人并没有同意参加这场实验,而守护这些人的道德权利、安全和福祉,才是大家首先要尽的义务。
AI模型有朝一日是否会获得意识,科技界的讨论正愈演愈烈。去年4月,Anthropic启动了一项研究计划,旨在调查并准备应对“模型福祉”问题;这家创业公司在博客文章中发问:开发者是否应关注AI模型潜在的意识及其可能拥有的体验?