激进的禁令和AI的社会难题

资讯 腾讯网 作者:秦朔朋友圈 全文 4216 字 · 约 11 分钟读完 配图 1 张 分类监管处罚政策监管

在美国中期选举大获全胜后,部分民主党议员试图把一个激进反对AI的法案,列为大胜后首要推进的议题。该法案(H.R.10538法案)要求禁止超级智能的研发,违反禁令的个人最高可判20年监禁、公司强制解散,把失控的AI视作堪比核武器的毁灭魔王。激进的禁令加之对AI基建放缓的担忧,酿成前几日资本市场的惨剧。在民主党蓝色浪潮..

所属频道 政策与风险

在美国中期选举大获全胜后,部分民主党议员试图把一个激进反对

AI的法案,列为大胜后首要推进的议题。该法案(
H.R.10538法案
)要求禁止
20年监禁、公司强制解散,把失控的AI视作堪比核武器的毁灭魔王。
激进的禁令加之对
AI基建放缓的担忧,酿成前几日资本市场的惨剧。在民主党
19个月
来
最大单日跌幅
,
大量
AI相关股票跌入熊市。
若只把
AI禁令视为个别议员的政治表演,则可能低估了反对AI力量的能级。华尔街的风声鹤唳,正揭示了AI狂飙背后隐藏的深层社会难题。
就业
激进法案的
提案人格雷格
·卡萨尔
(
Greg Casar
)
并非
AI科学家,而是
劳工运动出身
。
他在进入国会前
主要推动低收入劳动者、移民工人和建筑工人的权益保护。
卡萨尔把
为
可能超越人类控制、拒绝关闭指令,甚至具有开发大规模杀伤性武器能力的系统
。
他
主张
对
AI征税
以对冲就业冲击
,
声称
即使
AI目前还没有足够能力大量
取代
员工,企业投资
AI的商业动机
已经清楚地指向
降低劳动力成本。
卡萨尔
不能代表民主党的全部,但不容忽视的事实是,民主党大胜的最重要原因是聚焦民生问题。特朗普上任以来,民众期待解决的高通胀问题不仅没有缓解,反而因关税、美伊战争导致的高油价而愈发严重。就业是比通胀更大的民生。
AI对就业的潜在冲击,显然能激起更广泛的选民共鸣。
在已经实际发生的工作冲击层面,
Challenger的统计数据显示,美国企业明确归因于AI的裁员,占全部已宣布裁员的比例从2023年的约0.6%,升至2024年的1.7%、2025年的约5%,到2026年前8个月已经大幅升至22%
。
2026年9月,美国人口普查局发表了一项特别值得关注的研究
。
该
研究考察
了
不同专业毕业生的就业与收入。
AI暴露度
的
毕业生找到第一份工作的概率相对下降约
5个百分点
,
这些专业毕业生初次就业后的季度收入相对下降约
13%。
13%的
收入下降幅度,
已经
接近遭遇大型经济衰退造成的收入损失
。
毕业生和初级员工受影响最大,而高级员工尚未感受到明显
AI冲击的原因,主要是AI的能力
暂时
还无法达到完全取代高级知识工作者的水平。然而,
Anthropic发布的自己公司内部工作情况的真实数据显示,高级研发工作正在快速被AI占领。
在今年3月到9月的半年时间里,AI能够主导完成的模型研发工作,从不足1%跃升至26%,超过90%的研发工作已有AI深度参与。这意味着,AI承担人类最尖端的知识工作的能力快速变强。
AI能力越强,反对AI的力量也越强。激进的法案只是一个预演,民众出于对就业的担忧而反对AI的声潮恐怕只会愈演愈烈。
据统计,
2022年至2026年初,全球34个国家的142个文化行业
的
劳动组织
开展了
罢工、集体谈判、抗议
等各种行动
。
文化行业受
AIGC
2026年6月,超过1600名
Meta员工联署反对公司记录员工键盘和鼠标操
作来训练
AI,反对公司无偿提取员工的工作知识,担心训练出替代自己的AI。
2026年8月,
,
过千人在现代汽车总部附近进行声势浩大的集会。现代汽车计划从
2028年开始部署
。
2026年9月,劳动法律师事务所Littler公布了对665名企业法务、人力资源和高管的调查
,
87%
的受访者
预计
,
工会未来一年会利用员工对
AI替代工作的担忧
展开行动
。
可见,民主党只是顺势而为。如何缓解就业冲击,是
AI发展绕不过的坎儿。

安全

AI安全分为微观、中观和宏观三个层面。

在微观层面,

不当使用
AI造成人身伤害和死亡已经不是新鲜事。
2
025年8月,美国康涅狄格州56岁的Soelberg
在
杀害
了他
83岁的母亲后自杀。Soelberg长期向ChatGPT描述自己
可能
受到
母亲的
监视和迫害。
ChatGPT在部分对话中肯定了这些缺乏事实依据的怀疑
,
甚至支持他将母亲视为某种阴谋的参与者。
2026年2月,31岁的西雅图软件工程师Bowen Wan因癫痫死亡。根据家属提出的诉讼,ChatGPT涉嫌在没有医生指导的情况下建议减少处方药剂量
并
建议她不要向医生披露相关用药调整。家属认为,这些建议导致
病人
最终死亡。
2026年10月,
一名
22岁的
司机
在高速公路上
开着自动驾驶睡着了。在
警方已经设置路障
、
封闭车道
的情况下,汽车
直接撞上巡逻车
,
导致
车内两名警察严重受伤
。
以上的悲剧揭示了人工智能安全问题的严重性。随着
AI越来越深入个人生活,它的错误判断、不当建议,乃至对用户行为的刻意迎合,都可能在现实世界产生不可逆的后果。人们可能因为AI表现出的专业性、理解力和自信,赋予它超出实际能力的信任,将原本需要独立判断或专业监督的决定交给AI。技术能力越强、应用范围越广,这种信任与实际可靠性之间的落差,就越可能带来风险。

在中观的企业层面,

AI技术在网络攻击和诈骗上的案例触目惊心。
2026年6月
,
Codex
了
可瘫痪
88万个网站所用服务器软件的攻击方法
。
2026年10月,安全研究人员借助AI发现并验证了
让
黑客在特定条件下未经身份验证就
能
控制服务器。
近期,
美国司法部起诉三名嫌疑人利用
AI模仿企业CEO和知名律师的声音、影像,诱导公司财务人员将资金汇入犯罪团伙控制的账户
,
涉案总金额达
1.29亿美元。
受害者涉及医院、银行、共同基金公司以及金融科技企业
,
一家美国医院被骗走
483万美元,一家马萨诸塞州共同基金公司被骗走464万美元。
一名黑客利用
。
过去需要专业黑客团队实施的网络入侵,现在一个人就可能通过
AI智能体大规模执行。
警钟已经敲响。
AI正在急剧拉低作恶的门槛。
AI可成为止痛的良药,也可成为上瘾的毒品;可守卫安全,也可成为滥杀无辜的枪支。AI技术需要进行权限管理、约束与规范。

在宏观层面,

很多技术研究机构发出警告,如果
AI控制不当,可能给社会、人类造成毁灭性灾难。
2026年2月发布的
得到
30多个国家和国际组织的支持
。报告认为,未来的
AI可能规避人的监督,抵抗关闭措施。当AI高度发展后,人类重新获得控制权的代价可能极高。最极端的假设后果是人类被边缘化乃至灭绝。尽管专家对于这些情景发生的可能性分歧很大,但报告依然强调,因为风险的极端严重性,我们必须提前做好准备。
在具体案例上,
2026年7月,OpenAI在一次网络安全测试中遇到了让人不安的事故。AI原本被关在隔离环境中,没有正常的互联网访问权限,也不该接触外部系统。但它为了完成任务,自己
想出了越狱
的办法,利用未知漏洞,获得了外部互联网访问权限。随后,
AI推断
人工智能模型与数据集平台
Hugging Face
四天半
,
AI显示出
“
狡猾
”
的
绕过封锁、隐藏痕迹的能力。
这不是一次简单的安全事故,它预示着
AI可能逃过人的控制、造成灾难性后果。
在“
911”事件中,几名恐怖分子仅学会了驾驶飞机,就造成了灾难性后果。AI能驾驭“程序”,程序的攻击能力比飞机强大很多。现代社会的交通、电网、安防和武器系统等,均由程序控制。
AI具有控制程序的超凡能力。一旦这些基础设施系统被使用AI的“坏人”所控制,其结果将是毁灭性的。
分配
亚当
·
斯密以来,西方经济学把资本凭什么取得利润构建为完整的经济学理论,资本、劳动、自然资源被列为
AI可能改变这一经济学和社会学基础。
AI已经可以达到一般人的知识或智能水平,将来的
当知识、智能体、
AI模型,能力比不上AI,找不到存在的意义,智能能力和财富分配都将出现极度的
这种端倪已经在美国显现。
英伟达最近
12个月的利润超过1900亿美元,贡献标准普尔500指数中500家公司盈利增长的18%。AI产业链的价值向极少数巨头聚拢。
根据
Anthropic公布的数据,其付费超过10万美元的企业用户有1万多家,且在快速增长。10万美元在美国仅相当于企业多雇佣了1~2个人而已。美国全年全体劳动者的薪资收入约为13万亿美元。在可预见的3~5年内,AI在工作流价值分配中占据10%的比例并非难事,Anthropic和OpenAI可能创造万亿美元以上的收入。这些巨头,不管是Anthropic、OpenAI,还是英伟达等
不同的观点
逐渐显露的就业冲击、不断涌现的安全事件、从智能到财富的分配不均,是
AI发展必须直面的社会难题。
不同的观点认为,对
AI的就业冲击担心过度了。因为,在宏观数据层面,美国的经济增长强劲、就业稳定,AI并没有造成大规模失业。这确实是事实。目前美国的情况是,AI提高部分员工生产率,企业重新分配任务,减少部分初级招聘,增加AI相关人员投入。因此,整体就业平稳。
在对待
AI态度上,民主党本身也存在分歧,其内部存在永久禁止
斯坦福大学计算机科学教授
AI导致人类灭绝的警告称为“科幻小说”。他认为,部分AI企业强调极端危险、误导公众判断,使AI技术本身的社会收益受损。
原
Google AI伦理研究员
Timnit Gebru
直接质疑大型
AI企业反复宣扬灭绝风险的动机。她认为,末日论在资本市场上强化了企业技术能力极其强大的叙事,有助于吸引投资。大型企业可能借“只有我们能够安全开发
笔者认为,当前的微风细雨和波澜不惊,不等于未来的高枕无忧,应该以前瞻性的眼光看待
AI的社会难题,早做准备,而非坐等坏事情发生才仓皇应对。不可否认的事实是,AI的能力以数个月为周期的指数级速度快速迭代。以就业为例,总体就业平稳和AI目前的能力尚未达到完全取代一个岗位有关。岗位由大量任务构成。AI还没有普遍跨越从“完成任务”到“承担岗位”的门槛。门槛被跨越,在AI能力的指数增长面前,只是时间问题。
一个激进的禁令,引出了人在面对技术进步时必须处理的社会难题。技术革命史学者卡洛塔
·佩雷斯
(
Carlota Pérez)
总结自
1771年以来的五次技术革命时指出,技术革命中反复出现的模式是技术爆发、金融狂热、不断扩大的不平等、社会动荡。AI的技术爆发和金融狂热已经发生。难题并非不可解。人们需要做好准备,趋利避害,避免后面二者的发生。
本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 韩智库:美AI投资刹车,韩国为何受冲击?

    【环球时报驻韩国特约记者 黄元载】据韩联社15日报道,韩国民间智库现代经济研究院发布报告预警,称美国人工智能(AI)投资热潮预计将延续至2027年,但随着资金压力加大、监管趋严和基础设施瓶颈逐渐显现,2028年前后可能迎来调整,部分企业或推迟投资计划、缩减新增投资。这为日益依赖半导体出口的韩国经济敲响警钟。分析...

    来源 腾讯网
  2. 英国Ofcom收紧儿童安全监管:平台须主动识别并删除性虐待内容

    IT之家 11 月 16 日消息,据路透社报道,英国通信管理局(Ofcom)周一宣布收紧网络儿童安全监管规定,要求各类网络平台加大打击儿童性虐待内容和诱骗行为的力度。此举也为英国计划实施的 16 岁以下青少年社交媒体禁令铺路。 根据新规定,社交媒体平台、文件共享服务、色情网站及其他在线服务预计将从 2027 年初开始承

    来源 AI 行业观察
  3. 特朗普AI新政:25家美企获“国家冠军”认定,芯片管制转向出海

    据《华尔街日报》报道,特朗普政府最快于11月22日正式宣布将Nvidia、OpenAI、亚马逊、微软、Anthropic等逾25家美国AI企业认定为"国家冠军",享受出口许可快速审批、海外运营政府担保及联邦融资支持。这是2025年7月行政令《美国AI出口计划》的具体落地,标志着华盛顿AI政策主轴从"卡住中国"转向"主动

    来源 AI 行业观察
  4. 前谷歌苹果高管用AI造弹药生意:十亿美元军火创业怎么走

    前谷歌与苹果校友查德·斯蒂尔伯格和安迪·贝恩斯,把经营软件公司和设计iPhone的经验带进致命弹药制造,并借助AI规划出一条十亿美元级的武器生意路径。他们的转型折射出硅谷人才与资本加速涌入国防科技的最新浪潮,也再次点燃关于技术伦理、军工创新与监管边界的争论。

    来源 AI 行业观察
  5. 美联储将AI冲击纳入政策框架:三种情景预案覆盖繁荣、失业与泡沫

    美联储主席沃什表示,美联储工作人员已开始就AI对美国经济的潜在影响制定应急预案,涵盖从生产力繁荣、大规模失业、技术泡沫破裂的三种截然不同路径。沃什着重描述第三种风险情况:"AI预期回报下降,股票下跌,经济放缓和失业率明显上升。"沃什本次讲话依旧未就货币政策走向发表评论。

    来源 华尔街见闻
  6. 方桃子AI演员首条商单被罚6.82万:虚拟人代言美瞳涉虚假广告

    AI虚拟演员“方桃子”因发布美瞳虚假广告,其运营公司广州我的影视文化传媒有限公司被广州市番禺区市场监督管理局罚款6.82万余元。调查显示,该公司为广告主安徽花信企业管理有限公司制作广告,通过“方桃子”账号推广“NUTNUTLOOK坚果力”美瞳,视频中使用“戴了一天都很舒服”“可以放心眨眼”等宣传语。

    来源 AI 产业速递
  7. 百度Q2营收308亿:AI业务占比53%,GPU云收入增191%

    智东西(公众号:zhidxcom)作者 | 程茜编辑 | 李水青智东西11月16日报道,刚刚,百度公布2026年第二季度财报。其第二季度营收为308亿元,同比下降1%,环比下降2%;归属于百度净利润13.95亿元,摊薄后每ADS收益为4.35元,非GAAP净利润24亿元,摊薄后每ADS收益为6.78元。本季度,百度的研

    来源 腾讯网
  8. 小米雷军:AI 是一个全新的时代,一定会带来非常多的商业机会

    IT之家 11 月 17 日消息,2026 年 APEC 工商领导人峰会 11 月 17 日至 18 日在深圳举办,主题为“共促繁荣,共赢未来”。据新浪科技报道,小米集团创始人、董事长兼首席执行官雷军表示,过去四年,AI 大模型技术突飞猛进,给我们的生活和工作带来了巨大的变化。但 AI 能够落地的场景非常有限,能够真正

    来源 腾讯网
  9. 10元探店,6元模特:月入800万的AI假体验生意,谁在买单?

    本地生活赛道,探店生意曾形成一条完整的产业链,如今正被AI侵蚀。 传统真人探店拍摄剪辑动辄数百上千元,而现在AI将单条内容的的成本压到10元以内。商家只需上传一张门头照、几张菜肴图,再配一个AI主播,即可生成一条AI探店视频。 此外,抖音等平台上已出现专门的AI探店账号,有博主仅1.9万粉丝,专注此类内容,首页显示累计

    来源 AI 行业观察
  10. 华为云“行业AI梦工厂”发布并开源昇腾原生具身世界模型CloudRobo-WM1.2

    【TechWeb】11月16日消息,今天,华为云“行业AI梦工厂”发布并开源昇腾原生的具身世界模型CloudRobo-WM1.2,采用共享世界模型骨干网络实现预测增强的世界表征,基于世界模型原生DualAct架构,实现了世界模型原生动作生成,在RoboTwin 2.0、LiberoPro 2.0 评测中均位列第一。 五

    来源 AI 行业观察
  11. Sam Altman谈黄仁勋:很难想象没有他的AI革命

    编译|褚杏娟从黄仁勋的去留,到 AI 行业的算力投资,再到超级智能是否会让人类失去控制权,Sam Altman 在最新访谈中谈到了 AI 产业面临的一系列关键问题。他对黄仁勋表达了强烈的敬意,非常共情黄仁勋如今的处境,并且表示很难想象没有 Jensen 的 AI 革命。对于竞争对手 Anthropic 本周上市,他表示

    来源 腾讯网
  12. 李沐出任Aimotion联合创始人兼CTO,这家AI公司做什么的?

    AI大神李沐,悄悄多了一个新身份。 最新消息,这位前AWS AI资深首席科学家、Apache MXNet创始人之一、卡内基梅隆计算机博士,已经正式出任硅谷AI公司Aimotion的联合创始人兼CTO,亲自带队搭建其下一代产业级AI技术体系。 这家公司来头不小,Aimotion主要面向汽车等高价值、长决策周期行业,提供A

    来源 AI 行业观察
  13. 百度Q3财报:AI新业务占一般性收入53%,智能云同比增94%

    第三季度经营现金流为人民币28亿元,截至2026年9月30日,百度公司现金及投资总额高达人民币2766亿元。AI新业务占比达53%,传统业务承压本季度百度最大的亮点在于业务结构的根本性改变。在11月12日的百度世界2026大会上,百度创始人李彦宏宣布推出连接AI模型服务商与客户的交易平台“词元所”。另外,AI应用板块,

    来源 TechWeb
  14. 英伟达设常设国安委员会:黄仁勋卸任后首个治理动作

    英伟达宣布设立新的常设委员会,由董事会对国家安全政策、出口管制合规及全球贸易风险实施监督。这是黄仁勋卸任后公司的首个重大治理动作,表明在AI芯片地缘政治敏感度持续上升的背景下,英伟达正把合规与风险管理提升至战略核心位置。

    来源 AI 科技快讯
  15. Anthropic筹备IPO:约5300员工全员适用10b5-1计划

    Anthropic筹备IPO期间,为员工股票出售引入罕见风控:在约5300名员工、目标估值达1.4万亿美元的快速扩张下,强制推行通常仅限高管的10b5-1交易计划,以规避上市后信息流动加剧的内幕交易合规风险。Aspiriant总监Teresa Greenip透露,该机制允许高管与员工按预设规则出售股票。

    来源 AI 产业速递
  16. 百度三季度营收308亿,53%靠AI

    智东西11月16日报道,刚刚,百度公布2026年第二季度财报。其第二季度营收为308亿元,同比下降1%,环比下降2%;归属于百度净利润13.95亿元,摊薄后每ADS收益为4.35元,非GAAP净利润24亿元,摊薄后每ADS收益为6.78元。

    来源 网易科技
  17. 刚刚,陈丹琦官宣兼职加入Noeri!新公司押注AI自进化

    普林斯顿大学计算机科学副教授陈丹琦,加入了一家刚刚亮相的 AI 公司。今天凌晨,陈丹琦在社交平台透露,自己两个月前就以兼职身份加入了 Noeri。她对这支团队的研究方向颇为期待,尤其关注 AI 在科学发现中的应用,希望让每一位科学家都能把 AI 用在自己最棘手的研究问题上。Noeri 由斯坦福大学计算机科学教授 Yej

    来源 腾讯网
  18. 百度Q3财报:AI新业务占比53%,智能云收入增94%

    【TechWeb】11月17日消息,百度集团发布2026年第三季度未经审计财务业绩。在传统在线营销业务面临宏观挑战和主动转型阵痛的背景下,百度交出了一份“新旧动能转换”特征鲜明的答卷:AI新业务已占据百度一般性业务收入的53%,全栈AI投入正逐步转化为实质性的规模增长。 营收企稳,利润与现金流保持健康 财报显示,百度第

    来源 AI 行业观察
  19. 雷军:具身智能机器人产业机会远超汽车,AI融入物理世界空间有多大?

    IT之家 11 月 17 日消息,2026 年 APEC 工商领导人峰会 11 月 17 日至 18 日在深圳举办,主题为“共促繁荣,共赢未来”。小米创办人、董事长兼 CEO 雷军认为,过去 4 年时间,AI 大模型的技术突飞猛进,给我们的生活工作带来了巨大变化。 雷军表示,当 AI 走向物理世界、与终端和各类应用场景

    来源 AI 行业观察
  20. 中兴方榕谈数字主权:合规先行,技术最终要惠及社会

    新京报贝壳财经讯(记者林子)11月17日,2026年APEC工商领导人峰会在深圳开幕。中兴通讯股份有限公司董事长方榕在“打造亚太可持续发展新范式”专题研讨上,分享了企业在亚太多地落地可复制合作模式的三个关键词:数字主权、安全治理、普惠发展,并表示数字技术最终要惠及社会。方榕表示,亚太各经济体的发展阶段和监管框架...

    来源 腾讯网
  21. 美国BIS新规:海外租算力也受限,1200万算力单位成红线

    英伟达风波未平,海外租卡也要被限制了。过去24小时内,美国商务部工业与安全局(BIS)正式发布了一项重磅临时最终规则:全球任何一个海外数据中心/机房,只要向总部或最终母公司位于受限实体提供大规模算力,相关芯片的出口、再出口或境内转移就必须申请许可证。多大算“大规模”?给出的红线是 1200 万合计总处理效能(T...

    来源 腾讯网
向下滚动自动加载更多