盖茨炮轰白宫 AI 监管僵局:生物武器风险或超新冠

资讯 AI 开发者社区 作者:编程导航 全文 3196 字 · 约 8 分钟读完 分类微软政策监管金融 AI

在《金融时报》举办的 AI 未来峰会上,微软联合创始人比尔·盖茨把话说得很重。他称 AI 模型展现出的能力"惊人",无论造福还是作恶的潜力都"不容低估"。最让他警惕的,是恶意行为者借 AI 制造生物武器、或撕开各领域网络安全缺口——而部分"开放"模型本就免费可用,其安全护栏与监控还能被直接卸掉。他直言,一旦 AI 卷入

所属频道 大厂动态行业落地政策与风险

在《金融时报》举办的 AI 未来峰会上,微软联合创始人比尔·盖茨把话说得很重。他称 AI 模型展现出的能力"惊人",无论造福还是作恶的潜力都"不容低估"。最让他警惕的,是恶意行为者借 AI 制造生物武器、或撕开各领域网络安全缺口——而部分"开放"模型本就免费可用,其安全护栏与监控还能被直接卸掉。他直言,一旦 AI 卷入生物安全事件,损害规模"可能比新冠严重得多"。这并非盖茨首次拉响警报,他此前就警告过 AI 可能夺走十亿人的生命、并搅动大规模就业。

矛头直指白宫
盖茨把国际社会的应对乏力,归咎于华盛顿的缺位。他表示,监管与监测 AI 的努力正因白宫的不作为而受阻,"除非美国参与,否则行动意义不大,我们陷入了僵局"。这番话显然指向特朗普——后者拒绝加强政府监管,把制定 G20 AI 指导方针说成"全球主义者的阴谋",转而押注行业自我监管。盖茨当场回击:自我监管根本行不通,"涉及多家公司时,解决问题的唯一途径只能落在政府肩上"。

他开出的三张药方
盖茨建议美国为模型的内部防护与监控设定统一评估基准,牵头全球合作修补网络漏洞,并搭建覆盖"空气、污水和血液"的监测网,以便尽早捕捉 AI 助长的传染病。他预计 OpenAI 与 Anthropic 今年都会推出新模型,2027 年还有"两次重大发布",而"模型本身失控"的隐忧可能就与这些版本相关,亟需第三方审计。与此同时,他呼吁加速释放 AI 好的一面,比如推进药物研发、消解医院过长的候诊名单,并明确表态支持对超级富豪征税。他还称赞 Anthropic 在上周 IPO 招股书里坦承 AI 的"灾难性或生存性风险",称这种公开透明"是又一个例证"。


1
B 站上 DeepSeek 闹鱼灾了,我发起《大肥鱼清除计划》!
490
2
Vibe Coding 实战:从零构建现代专业级 AI 搜索引擎
430
3
我的第一个出海产品!7 天 2 万
370
4
DeepSeek 重磅开源的超级 Agent,到底是个啥?
350
5
day3-如何写出一个高质量的 Skill(组内分享) 高质量 Skill 不是“一个调得很顺的巨型 Prompt”,而是一个可验证、可回归、可维护的能力包。 先定义“什么算好”,再实现“怎么做好”。评估体系先于 Skill 本身成型。 下面用“故障诊断 Markdown 转 YAML”作为例子,但方法是通用的。 --- 一、先想清楚:Skill 到底是什么 一个 Skill 至少包含四部分: 部分 作用 接口 输入什么、输出什么、边界在哪 流程 分几步做,每步的产物是什么 规则 硬约束、经验规则、失败模式 降级策略 不确定时怎么办,而不是硬编一个看似合理的结果 高质量 Skill 的共同点:职责单一、接口清晰、规则可定位、输出可验证。 反例:把几十条经验全塞进一个主 Prompt,改一条规则要重调整个 Prompt,评估时也不知道是哪条规则退化。 --- 二、核心方法:先建评估,再写 Skill 不要先写转换器再补测试。正确顺序是: 1. 定义输出契约:什么算合法、什么算合格; 2. 建金标准集:一小批人工认可“可放行”的样本; 3. 先写评估 Skill:让它在金标准集上跑出基线; 4. 再迭代生成 Skill:每次修改跑同一套评估,无退化且目标维度提升才算正向。 这就是评估驱动开发:评估是 Skill 的单元测试,金标准集是回归锚点。 --- 三、评估 Skill:三层门禁,逐层递进 前一层不过,后一层不跑。每层留可追溯证据。 第 1 层:确定性硬门禁 用解析器、Schema、校验器完成,不消耗模型成本。 · 输出可解析; · 必填字段齐全,类型/枚举合法; · 引用目标存在,无悬空引用、无不可达节点; · 关键路径至少有一条能到达预期出口。 不通过直接打回。 第 2 层:语义断言 用脚本 + 结构遍历检查“逻辑对不对”,仍然保持确定性。 通用检查项: · 覆盖率:源材料里的关键步骤、分支、条件,输出里是否都有对应? · 完整性:每个判断节点是否都有明确出口?有没有死胡同? · 可达性:每条路径是否都能到达预期终点?有没有无出口循环? · 顺序与依赖:有先后依赖的操作,是否保留了顺序?有没有被拍平成无序列表? 例子:故障诊断转换中,检查“每个判断项是否有是/否/异常出口”“每条路径是否能到根因”。 第 3 层:LLM-as-Judge 只处理解析器表达不了的维度:忠实度、完整性、可执行性。 但 Judge 会漂移,不能单独放行,必须建立在第 1、2 层之上。Judge 的 Prompt、rubric、模型版本都要版本化,换模型必须用金标准集重新校准。 通用 Judge 维度: 维度 问什么 忠实度 输出是否忠实源材料意图?有没有自行发明内容? 完整性 关键步骤、条件、证据是否保留?隐式知识有没有被压成空话? 收敛性 输出是否仍指向原目标,而不是发散? 可执行性 下游不依赖源材料能否直接使用? --- 四、金标准集:回归测试的锚点 不需要一开始就标注几百份。用已认可的样本当种子,扩到 15~30 份,覆盖失败模式而非随机抽样: · 完整正例:典型流程; · 边界/异常分支:异常路径、循环、前置失败回退; · 已知易错模式:实际踩过的坑; · 留出集:不参与调优,只用于最终验收,防过拟合。 金标准不需要完美,只需要当前标准下认可可放行。 回归指标:关键路径用 pass^k(k 次全过),稳定性用 pass@k。 --- 五、工程约束:让批量产出可重放 · 幂等:同输入 + 同 Skill 版本 + 同规则 → 输出一致,否则无法判断变好是 Skill 改了还是随机波动; · 隔离不阻断:单份失败进隔离队列,记录失败层和原因,不阻塞其余; · 版本绑定:规则、rubric、金标准集进 Git;每份报告绑定“源版本 + 生成 Skill 版本 + 评估 Skill 版本 + Judge 模型版本”; · 抽样人工复核:Judge 临界样本 + 易错模式,人工抽检结果反过来校准 rubric。 --- 六、Skill 本身怎么写 · SKILL.md 控制篇幅,写清:输入约定、输出契约、分步流程、硬规则、降级策略; · 经验规则放 references/ 或 rules/,按失败模式分类,不要全塞进主 Prompt; · 不确定时标 needs_review: true,不要硬编看似合理的结果; · 迭代由评估报告驱动:报告告诉你哪层挂了、哪类失败模式,你改对应规则文件,而不是漫无目的调 Prompt。 --- 七、落地顺序(不要反过来) 1. 固化输出契约:Schema + 结构约束; 2. 建金标准集:从已认可的 + 最易出错的样本开始; 3. 先写评估 Skill:跑出基线报告; 4. 再迭代生成 Skill:每次修改对比逐项通过率,无退化且目标提升才算正向; 5. 批量运行 + 隔离回放:失败进队列,结束后人工抽检; 6. 评估 Skill 自身版本化:换 Judge 模型必须重新校准。 --- 八、给组员的三条硬要求 1. 不许凭感觉说“变好了”:每次修改必须附评估报告对比,逐项通过率说话。 2. 不许跳过确定性门禁直接看 Judge 分数:前两层挂了,Judge 分数没有意义。 3. 不许把规则堆进主 Prompt:规则按失败模式分文件,评估报告要能定位到具体文件。 --- 一句话收尾 生成 Skill 决定“能不能做”,评估 Skill 决定“敢不敢用”。 先让评估体系站稳,再让生成器迭代。这样交付的不是一堆“看起来还行”的产出,而是一套可证明、可回归、可交接的 Skill 质量体系。
340
本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 大湾区AI创新出海模式:香港金融搭桥,广深技术铺路

    过去提及企业出海,多以制造和产品输出为主,现如今已经演变为技术设施服务与成熟金融体系的“系统化”出海,但企业在AI技术落地与全球商业化过程中,普遍面临合规摩擦、数据阻隔与资金管理等瓶颈。11月6日,中国香港特别行政区政府主办的2026年香港金融科技周落幕,在期间举行的一场关于大湾区AI创新的论坛上,来自国际金...

    来源 腾讯网
  2. 李振华:AI支付将重塑全球支付格局,中美站在同一起跑线

    随着智能体经济的到来,AI正从“能说”演进到“能做”,从信息交互演进到代理行动。过去两年,大模型展示了“能说”能力,但用户期待已不限于获取信息,而是希望AI直接完成任务、解决实际问题。2025年被业界视为AI应用元年,全球AI应用成熟度评价从关注模型参数规模转向关注“执行成功率、合规可控性、端到端闭环能力”,I...

    来源 腾讯网
  3. Cloudflare CEO 普林斯:AI 挖漏洞的冲击还要持续两年

    Cloudflare CEO 马修 · 普林斯在财报电话会议中指出,AI 正加速挖掘传统软件中隐藏的安全漏洞,未来两年严重网络安全威胁将持续出现。金融机构等企业已开始签订大规模安全合同,并倾向选择一体化平台应对风险。#网络安全# #AI漏洞#

    来源 IT之家
  4. 韩国股市暴跌触发熔断,当局紧急豁免140%担保比例三个月

    KOSPI早盘暴跌逾8%触发熔断之际,韩国金融当局紧急推出三个月信用融资担保比例豁免,暂缓140%维持义务,以阻断强制平仓引发的市场负向循环,政策公布后指数跌幅一度收窄。半导体专家认为,全球AI资本开支及Agent AI带来的芯片需求仍具支撑,中长期产业增长逻辑未变。

    来源 华尔街见闻
  5. Google校园方案:Gemini可关,AI搜索关不掉

    Google向学校提供了一项看似更灵活的新方案:可以停用Gemini AI助手,却无法关闭搜索结果中的AI生成内容。这种“有选择却无从选择”的安排,再度引发教育界对AI进课堂、数据隐私与学生信息素养的担忧。本文梳理这一政策的实质、背后动机与行业背景。

    来源 AI 科技快讯
  6. Claude上线Personal Finance:接Plaid可查账单,AI助手伸向银行账户

    Anthropic旗下AI助手Claude正式推出Personal Finance个人理财工具,用户可通过金融数据平台Plaid连接银行与信用卡账户,直接以对话方式询问消费明细与财务状况。这意味着Claude正从通用对话助手向个人生活助手延伸,也标志着AI大模型与传统金融数据服务的进一步融合,但账户授权与隐私安全问题仍

    来源 AI 科技快讯
  7. 德州AI数据中心热潮遇冷:电力、并网与政策成关键变量?

    MIT Technology Review《The Download》指出,德州一度是美国增长最快的数据中心市场,也是大型科技公司AI基础设施建设的核心地带。但能源政策变化与电网压力正让这一繁荣显得脆弱。文章分析电力供应、并网、极端天气、社区阻力与政策不确定性如何影响AI数据中心投资,并讨论AI产业从拼算力转向拼电力与

    来源 AI 科技快讯
  8. 五角大楼将公布AI实验室合规全景图:用现行法律梳理替代国会立法

    2026年11月4日,五角大楼首席技术官埃米尔·迈克尔在《华尔街日报》技术大会上宣布,美国联邦政府将在"未来一两周内"公布适用于国内AI实验室的现行联邦法律全景图。这不是在制定新法规,而是梳理已有法律体系中AI企业的合规边界——其战略意图是在国会制定专项立法之前,向行业提供合规确定性,同时向立法机构传递"现行法已足够"

    来源 AI 行业观察
  9. 国务院关于金融工作情况的报告:探索人工智能在金融管理和服务领域的应用,防范模型应用风险

    36氪获悉,中国人大网发布了《国务院关于金融工作情况的报告——2026年11月3日在十四届全国人民代表大会常务委员会第二十五次会议上》。报告称,进一步加强和完善金融监管,不断增强监管质效。全面强化“五大监管”,丰富监管手段,提高监管能力,消除监管空白,维护公平、公正的市场秩序。加强央地协同和部门联动,严厉打击非法金融活

    来源 AI 行业观察
  10. 微软收紧新云项目审查:部分数据中心押注生悔意

    【微软对押注“新云”渐生悔意 加强审查部分数据中心项目】财联社11月6日电,微软曾帮助催生“新云”热潮。为了满足市场对其云服务和AI服务的巨大需求,该公司与新兴数据中心运营商签署了数百亿美元的合同。如今,随着新云公司面临项目延误、监管障碍和高昂成本,微软一些主要高管心中升起悔意。知情人士透露,微软正加强对...

    来源 腾讯网
  11. 数据中心政策生变:150亿美元贷款受阻,AI基建股先跌为敬

    图片由AI生成文|晓静编辑|徐青阳两天之内,华尔街上演了一场剧烈反转。美国当地时间11月4日,道琼斯指数上涨约3%,标普500上涨1.6%,纳斯达克上涨1.4%。微软、亚马逊分别上涨6.7%和6.1%,大型科技股带动市场迎来美国中期选举后的反弹。但在大盘上涨的同时,AI基础设施板块已经出现明显抛售。数据中心开发商Hut

    来源 腾讯网
  12. Google教育AI新规:Gemini可关,AI搜索没得选

    Google向学校提供了一项看似更灵活的新方案:可以停用Gemini AI助手,却无法关闭搜索结果中的AI生成内容。这种“有选择却无从选择”的安排,再度引发教育界对AI进课堂、数据隐私与学生信息素养的担忧。本文梳理这一政策的实质、背后动机与行业背景。

    来源 AI 行业观察
  13. AI短剧没有清宫戏?AI:臣妾做不到啊

    AI短剧里,有人穿越回宋朝当讼师,有人重生到明初搅动朝堂,有人在唐代长安城里谈恋爱,唯独紫禁城的大门紧闭。翻看热播榜,清宫戏几乎没有。做了两年多AI短剧的老王说得直白:“清宫戏是真人剧时代的收视保险,到了AI短剧这儿,连口汤都捞不着。”

    来源 36氪
  14. DHL艾若馨:AI货物空运增长已超电商,中国区总部迁入上海市中心

    上证报中国证券网讯(记者 王文嫣)AI硬件正取代传统电商货物成为空运新主力,推动航空运价持续高于去年同期……DHL全球货运大中华区首席执行官艾若馨(Aditi Rasquinha)近日在接受上海证券报记者专访时表示,AI相关产品的运输增长率已超过电商增长,超过三分之二的AI货物通过空运完成,但市场结构分化明显。 在艾若

    来源 腾讯网
  15. 俄储银行GigaArt艺术节:近50万幅AI共创作品亮相全俄

    由参与者借助人工智能助手 GigaChat 创作的 340 件优秀作品,在活动官方网站及俄罗斯各地大型媒体立面上同步展出。 艺术消弭了界限——无论是地域、代际与职业的隔阂,还是专业艺术家与初次尝试者之间的距离。由俄罗斯联邦储蓄银行主办,近期落幕的GigaArt人工智能艺术创作节,正是这一理念的生动体现。 为庆祝俄罗斯民

    来源 AI 行业观察
  16. 易鑫开源Harness体系:汽车金融AI治理底座向行业开放

    11月5日,在2026世界互联网大会乌镇峰会上,AI驱动的金融科技平台易鑫(02858.HK)正式宣布开源自研Harness体系。这是继2025年开源业内首个Agentic大模型后,易鑫再度将核心AI能力向行业开放,标志着其AI开源战略从“模型能力开放”迈入“治理底座共享”新阶段,为汽车金融等强合规行业的智能体规模化应

    来源 AI 行业观察
  17. Qoder摘得领先科技奖:阿里AI编程47.6%份额背后

    2026年世界互联网大会领先科技奖揭晓,阿里 Qoder 成为唯一获奖的通用 Agent 产品。从 IDC 数据看,它以 47.6% 份额居国内首位。本文复盘 Qoder 如何在 Cursor、Copilot 等强敌环伺下突围,以及它如何从程序员工具演变为业务人员也能用的 AI 技术底座,通过吉利、西鲜记等案例展示其真

    来源 AI 应用前沿
  18. 软银收购ABB机器人业务遇阻:中国监管机构禁购

    据媒体报道,ABB机器人业务在全球工业机器人市场位居第二,与发那科、安川电机、库卡并称“四大家族”。中国是ABB全球最大的机器人交付市场,约占其机器人业务30%的份额。ABB在中国设有约30家企业,业务覆盖近130个城市。这笔交易最初于2025年10月宣布,软银计划以53.75亿美元的企业价值收购ABB的机器人业务,原

    来源 TechWeb
  19. AI短剧绕开紫禁城:清宫戏为何在算法里失灵

    AI短剧里,有人穿越回宋朝当讼师,有人重生到明初搅动朝堂,有人在唐代长安城里谈恋爱,唯独紫禁城的大门紧闭。翻看热播榜,清宫戏几乎没有。做了两年多AI短剧的老王说得直白:“清宫戏是真人剧时代的收视保险,到了AI短剧这儿,连口汤都捞不着。” 文丨金融八卦女作者:枳枳 · · · AI短剧里,有人穿越回宋朝当讼师,有人重生到

    来源 AI 行业观察
  20. 软银收购ABB机器人业务:中国审查否决,53.75亿美元交易遇阻

    据媒体报道,ABB机器人业务在全球工业机器人市场位居第二,与发那科、安川电机、库卡并称“四大家族”。中国是ABB全球最大的机器人交付市场,约占其机器人业务30%的份额。ABB在中国设有约30家企业,业务覆盖近130个城市。这笔交易最初于2025年10月宣布,软银计划以53.75亿美元的企业价值收购ABB的机器人业务,原

    来源 TechWeb
  21. Anthropic上市遇AI抛售潮:估值预期降至1.2-1.3万亿美元?

    Anthropic PBC的IPO计划正面临严峻考验。在科技股遭遇重挫、纳斯达克100指数单日暴跌6.4%之后,潜在投资者对这家AI公司的估值预期大幅下调,上市时机与定价合理性同时受到质疑。据彭博6日援引一位知情人士透露,部分潜在投资者目前讨论的估值区间已降至1.2万亿至1.3万亿美元。此前,投资者在10月公司财务简报

    来源 腾讯网
  22. SanSi让AI决策模型多想几遍:准确率从58.4%提到72.0%

    你有没有想过,为什么有些AI客服能秒回你的问题,有些却要"思考"半天?2026年,一种叫做"类型化决策模型"的AI开始流行起来。它们干的事情很简单:你给它一段文字和几个选项,它直接告诉你每个选项的概率,不说废话,不写长篇大论。比如判断一封邮件是不是垃圾邮件,一个案例符不符合政策,一道选择题选哪个答案。这种模型被...

    来源 腾讯网
  23. 北美AI数据中心建设或受阻,中国算力链迎来哪些机会?

    21世纪经济报道记者 赵云帆 近日,受美国中期选举结果影响,金融市场普遍预期美国大规模AI数据中心建设或出现大面积的暂停或延期。 与此同时,全球投资者热议北美科技企业可于中国建设AI数据中心,以对冲本地算力基础设施进度减缓的影响。 据悉,美国科技企业今年以来普遍采取激进的资本开支策略,并进行了大规模的提前融资...

    来源 腾讯网
向下滚动自动加载更多