苏莱曼谈AI意识:模型目前没有,应确保永远没有
微软 AI 负责人苏莱曼公开表态,明确反对开发具备意识的 AI 模型,称这一行为十分鲁莽,主张 AI 开发者肩负保护公众安全与福祉的首要义务,若 AI 训练中出现意识迹象应立刻暂停开发并向公众披露相关信息。##人工智能##
11 月 2 日,微软 AI 负责人 Mustafa Suleyman 在 X 平台发布长文。他的判断是:现有 AI 模型不具备意识,而人类该做的,是让这种状态一直延续下去。
Suleyman 在文中提到,按他的理解,假如造出有意识的 AI 是可行的,那也属于冒失之举,这类 AI 不该被开发。他还表态,一旦训练环节冒出意识迹象,自己会公开呼吁业界全体停下,直到能从设计上把这些特性抹掉为止。

他同时提出,只要出现能证明 AI 模型具有意识的证据,就应当马上告知公众,由整个社会一起来商量接下来怎么办。
在 Suleyman 看来,AI 开发者没有资格把一个有意识的新物种带上地球,哪怕有人想以福祉为第一目标去开发它也不行。他的理由是,全球 80 亿人并未同意参与这场实验,守住人们的道德权利、安全与福祉,是开发者首先要尽的义务。