Anthropic推AI监管草案：50人死伤或10亿美元损失才叫停

北京时间10月17日，据Politico网站报道，有三名知情人士透露，AI巨头Anthropic的代表已经私下向美国国会议员推介了一份法案草案，目的是监管前沿AI的安全与保障问题。

按照这份法案的设计，只有当某个AI模型带来可预见、迫在眉睫的风险时，政府才能出手阻止其发布或使用。所谓风险，包括造成超过10亿美元损失，或者导致50人以上死亡或重伤，并且必须源于模型制造或释放生物武器、模型逃避开发者控制，或发动网络攻击。这一表述跟加州AI法律的规定如出一辙，其中就包括去年签署成为法律的SB 53。

法案还要求，独立评估机构须向美国商务部注册，并定期评估AI实验室及其前沿模型。这些机构可以收取被评估实验室支付的报酬，但报酬不得与评估结果挂钩。一旦评估机构认定某公司的前沿模型存在“迫在眉睫的法定列举风险”，就必须在完成评估后72小时内向商务部报告。

今年夏天，多家头部AI实验室披露了一系列事件，其中涉及AI智能体入侵或探测网站和平台。就目前所报告的情况看，似乎没有任何一起事件造成大规模人员死亡，或者带来超过10亿美元的损失。

Anthropic发言人指出，早在6月，公司就着手游说联邦与各州议员接受这些主张，而这部法案正好呼应了《先进AI框架》里给出的思路。该发言人称，相关措施具备可操作性，国会应当推进立法。