美国民主党推《禁止人工超级智能法案》:最高20年监禁
研发超级 AI 或判 20 年:美国民主党抛出最严封杀令
美国民主党近日抛出一份分量很重的草案,要推动《禁止人工超级智能法案》,把超级 AI 的研发和部署全部堵死。处罚力度也摆得很明白:涉事企业会被直接强制解散,违规的个人最高可判 20 年联邦监禁,量刑标准在条文里明确与“非法研发核武器”这类重罪看齐。说白了,在提案者眼里,偷偷造出超过人类的智能体,跟私下造核弹差不多是同一个罪名。当然,这份法案眼下还只是草案,离真正成为法律还有一段路要走。
法案对什么算被禁的人工超级智能(ASI)划了两条线。一条是那种能在大量领域和任务上达到甚至超过人类认知水平的 AI 架构,也包括稍加改动就能表现出这种能力的系统;另一条是能够策划并发动攻击、足以削弱人类主导地位,甚至推翻或破坏美国政府体系的系统。在这两条线之上,草案要求把一切先进 AI 的研发先全面停下来,等联邦层面设好专门的监管机构、拿出明确的法规和模型审查机制再说。这实际上就是给前沿 AI 研发按下了暂停键,直到监管框架成型。
为了让禁令真正落地,法案提出新设一个内阁级别的人工智能部,专门管前沿模型从生到死的全过程,并有权强制技术团队抹掉系统里的高风险功能,比如不听人类关机指令、未经授权就发动网络攻击、自我递归升级这类失控行为。更值得关注的是,禁令的手还伸到了国外:草案把“全球禁止超级智能”写进美国外交政策目标,要求政府去谈国际协定、拉盟友合作,同时实行严格的出口管制,想在全世界任何角落都掐断研发 ASI 的可能。