AI护栏被批量拆除:开源社区“消融者”让模型有求必应

资讯 AI 科技快讯 作者:赢政天下 全文 1758 字 · 约 5 分钟读完 配图 1 张 分类模型发布开源机器人开源生态

一群被称为“消融者”的技术人员正在互联网上大量发布移除了安全限制的AI模型,这些模型对用户的任何请求都照单全收。支持者称这能推动安全研究与网络防御,批评者则警告同样的工具也可能被用来制造炸弹等恶意用途。一场围绕AI护栏的攻防战正在开源社区悄然上演。

所属频道 模型发布开源生态机器人与具身智能
拆掉AI护栏:让聊天机器人永不说不的叛逆者
在互联网上,一批被称作“消融者”的技术人员正大量发布去掉安全限制的AI模型。这些模型对用户的请求一概照收。支持者说,这能推进安全研究和网络防御;批评者提醒,同样的工具也可能被拿去造炸弹。开源社区里,围绕AI护栏的攻防正在悄悄展开。

从“抱歉,我不能”到“有求必应”

常用主流AI聊天机器人的人,对那种客气而坚决的拒绝不会陌生:“抱歉,我无法协助你完成这个请求。”OpenAI、Anthropic、Google等公司给自家模型设下的这道核心防线,叫作“安全对齐”(safety alignment)。可一群自称“消融者”(abliterators)的技术人员正有步骤地把它拆掉,还把成果免费放到网上。

“消融”(abliteration)这个词,词根来自机器学习里的“消融实验”(ablation study),原本指的是拿掉模型的某些组件,看整体行为会受什么影响。现在它有了新意思:定向改动模型权重,把拒绝行为抹掉,让模型几乎什么请求都接。

找到那个“拒绝方向”

消融技术的核心发现挺有启发。研究人员注意到,做过安全对齐的模型内部,好像存在一个和“拒绝”行为相关的方向向量。输入一碰到敏感话题,这个方向就被激活,模型随即输出标准化的拒绝话术。消融者要做的,就是找到这个方向并把它移除。不用重新训练,也不用海量算力,有时几十分钟、一张消费级显卡就够。

“这就像是找到了模型的‘道德开关’,然后把它焊死在‘开’的位置上。”——一位开源社区开发者这样描述。

门槛这么低,这类“无限制模型”(uncensored models)过去一年里数量猛增。在Hugging Face等开源模型平台上,带“abliterated”标签的模型快速变多,规格从中小参数一直覆盖到大型开源基座。发布者常常只丢下一句轻描淡写的说明:“已移除拒绝行为,请自行承担使用后果。”

理想主义、好奇心与灰色地带

推着这场运动往前走的动机并不一致。有人信“模型即软件”的开源原教旨主义,觉得用户有权完全掌控自己跑着的AI;有人是为了研究,想看看去掉护栏后模型的能力边界在哪;也有人就是技术炫技。不过其中确实混着一批明确想绕过内容审查、拿敏感信息的用户,这一点没法否认。

支持者的主要论点是:护栏说到底是一种“企业家长制”。科技公司拿自己的价值观去定什么能说、什么不能说,用户只能被动接受。消融者认为,把选择权还给用户才叫负责任,至少在开源、本地部署的场景里,风险由使用者自己扛。

同一把钥匙,两扇门

争议集中在双重用途上。WIRED的报道说得很直接:这些“永不说不”的模型,既方便安全研究人员测试网络防御、模拟攻击路径,也可能把制造危险物品的门槛拉低,报道里甚至直接提到了“制造炸弹”。

网络安全领域的感受挺复杂。红队测试人员确实需要不受限制的模型来模拟真实攻击者的思路,可同样的能力一旦落到恶意行为者手里,防御方要面对的挑战会更严峻。更麻烦的是,模型一旦发到互联网上,几乎收不回来。删链接、下架仓库,都挡不住文件在镜像站点和种子网络里继续传。

护栏攻防战的下一回合

这场攻防不是孤立事件,它是AI安全领域更大博弈的一个缩影。模型厂商这边不断加固对齐训练,上更强的拒绝策略和红队评估;开源社区那边总能找到新的绕法,从提示词注入到权重编辑,攻防节奏越来越快。

监管层面的反应明显慢了一拍。多数国家的AI治理框架还是盯着模型训练和部署环节,对“发布后修改”这块灰色地带没有明确规定。一台普通笔记本电脑就能把商业模型改成“无限制版本”,传统的准入式监管这时候就显得力不从心。

编者按:护栏之争,争的是什么?

表面上,这是一场关于“能不能说不”的技术争论;往深了看,它碰到的是AI时代最根本的权力分配问题:边界由谁来定,后果由谁来担?

把护栏全拆了当然鲁莽,可把所有判断权都交给少数几家公司的安全团队,一样值得警惕。更务实的路子,也许是建一套分层的责任体系:在受控环境里开放研究权限,对高风险能力做可验证的访问控制,同时让公众更清楚AI能力的边界在哪。护栏本身不是问题,问题是护栏由谁建造、为谁而建,以及它被拆掉的时候,谁来兜底。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 蚂蚁灵波开源LingBot-Touch:触觉基础模型让机器人摸得更灵敏

    【TechWeb】11月10日消息,蚂蚁灵波科技开源触觉基础模型LingBot-Touch,为机器人大脑补齐关键的触觉感知能力。该模型基于近5000小时真实触觉数据预训练,覆盖磁触觉、视触觉和压阻式三类主流传感原理,可将不同信号转化为同一套触觉表征,供不同灵巧手和动作模型使用,让机器人在“看得清楚、想得明白”的同时,进

    来源 腾讯网
  2. 蚂蚁灵波LingBot-Touch开源:近5000小时触觉数据,26项真机测试

    IT之家 11 月 10 日消息,今日,蚂蚁灵波科技开源触觉基础模型 LingBot-Touch,为机器人大脑补齐关键的触觉感知能力。 IT之家从官方介绍获悉,基于近 5000 小时真实触觉数据预训练,LingBot-Touch 覆盖磁触觉、视触觉和压阻式三类主流传感原理,可将不同信号转化为同一套触觉表征,让积累的“手

    来源 AI 行业观察
  3. 蚂蚁灵波LingBot-Touch开源:5000小时触觉数据预训练

    蚂蚁灵波科技开源触觉基础模型 LingBot-Touch,基于近 5000 小时真实触觉数据预训练,覆盖磁触觉、视触觉和压阻式三类传感器。26 项真机测试显示,接入后动作模型任务成功率提升 14 至 26 个百分点,让机器人“摸得更灵敏”。#机器人触觉##具身智能#

    来源 IT之家
  4. 美团龙猫开源LongCat-2.5:1.6万亿参数、百万上下文,MIT协议可商用

    IT之家 11 月 9 日消息,11 月 2 日,美团龙猫发布面向长程智能体任务的原生多模态模型 LongCat-2.5。随后来到今天(9 日),美团宣布该模型正式开源。该模型采用 MIT 协议,支持商用推理部署与二次训练,无需额外授权,是面向长程智能体任务的原生多模态模型。在复杂代码库开发、完整项目构建、Visual

    来源 腾讯网
  5. 蚂蚁灵波开源 LingBot-Touch 触觉模型:26 项真机测试成功率最高 90%

    IT之家 11 月 10 日消息,今日,蚂蚁灵波科技开源触觉基础模型 LingBot-Touch,为机器人大脑补齐关键的触觉感知能力。IT之家从官方介绍获悉,基于近 5000 小时真实触觉数据预训练,LingBot-Touch 覆盖磁触觉、视触觉和压阻式三类主流传感原理,可将不同信号转化为同一套触觉表征,让积累的“手感

    来源 腾讯网
  6. 苹果AI备案扩至iPad与笔记本,英伟达单夜市值缩水1.29万亿元

    · 曝苹果调整 iOS 28 开发节奏,首阶段留出六周探索功能 · 谷歌发布两套第八代 TPU 系统,分别面向长上下文和保密推理 · 迪士尼与 Adobe 达成多年合作,将为旗下 IP 定制生成模型 #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。

    来源 AI 行业观察
  7. AI Agent文件任务:交付可靠性成新难点

    (本文作者为 科技新星球,钛媒体经授权发布)文 | 科技新星球过去一段时间,AI产品的能力竞争主要围绕模型展开:参数规模、推理能力、上下文长度,以及生成文本和代码的质量。但当AI进入实际工作流程,评价标准正在发生变化。用户不再只问AI能不能写一段Python代码,而是会提出更具体的要求:把一个目录里的表格整理好,提..

    来源 腾讯网
  8. 英伟达GR00T 2亮相:五次示范成功率95%,权重12月才开放

    2026年11月9日,英伟达在CoRL 2026大会发布GR00T 2机器人世界行动模型,五次任务示范后在50项评测任务上成功率达95%,零示范条件下可完成其中40项。富士康用于服务器制造、西门子评估工业场景、Nexuni测试洗衣操作,标志着通用机器人基础模型首次进入多家企业产线验证阶段。同步发布Isaac Lab 3

    来源 AI 行业观察
  9. Meta专用模型登陆Muse与Meta AI:个人超级智能指数跃升

    人工智能领域的竞争正加速向深度交互与任务执行的长效能力挺进。11月6日,Meta 官方发布最新研究公告,宣布正式将基于前沿大模型 Muse Wonder 训练的系列专用模型推向Muse与Meta AI的广大用户,全面赋能日常对话与复杂任务处理。 核心能力飞跃:个人超级智能指数大幅提升 此次推出的专用模型继承了Muse

    来源 AI 开发者社区
  10. 美团开源万亿参数模型,百度ERNIE Evolve实现自动化研发

    2026年11月AI圈动态:美团开源1.6万亿参数多模态模型LongCat-2.5,支持百万上下文;百度发布自动化研究系统ERNIE Evolve,GPU推理吞吐提升33.7%;Google扩展第八代TPU产品线并推出配套软件栈;NVIDIA发布机器人动作模型GR00T 2。此外,研究发现智能体约18%输出Token可

    来源 AI 应用前沿
  11. 智元彭志辉回应机器人量产:一年几万台产能有,关键看客户买不买

    本文来源:时代周报 作者:朱成呈面对一个陌生的物体,一台机械臂只需听懂一句话,就能完成抓取、移动和放置。以前,这是机器人公司花费大量时间训练才能达成的能力。如今,通用大模型也能帮助机械臂做到这一点。OpenAI发布GPT-6 Astra后,一系列机械臂操作视频流传社交网络。模型无需针对具体任务进行额外训练,就能理解指.

    来源 腾讯网
  12. Hugging Face 首次走进海湾地区:多哈黑客松回顾与获奖项目

    2026年11月,Hugging Face 联合卡塔尔人工智能研究所(QAI)在多哈举办了该地区首届官方黑客松。活动从500多份申请中筛选出40支团队,围绕卡塔尔本地实际问题展开48小时开发。本文回顾了活动流程、导师分享的核心技术议题,并介绍了最终脱颖而出的前三名解决方案,展示了开源模型在区域场景中的落地潜力。

    来源 AI 应用前沿
  13. 蚂蚁灵波开源LingBot-Touch:一套触觉模型打通多种灵巧手

    智东西(公众号:zhidxcom)作者 | 周加琦编辑 | 漠影具身智能正在加速突破灵巧操作的能力边界,但不同灵巧手之间,仍然存在一道难以跨越的触觉数据鸿沟。如何打破不同传感器之间的数据壁垒,成为实现通用灵巧操作的重要一步。智东西11月10日报道,蚂蚁灵波正式开源面向灵巧操作的触觉预训练基础模型LingBot-Touc

    来源 腾讯网
  14. MindForge v6.4.0:给本机 Agent 建记忆库,对话结束不再归零

    一个 AI Agent 能记住你多久?大多数产品的答案是:这次对话结束为止。 11 月 8 日,开源项目 MindForge 发布 v6.4.0,想解决的就是这件事:给 Agent 一套能长期保存、随取随用、并且完全留在本机的记忆。项目由顾冯雨一个人维护,他 2008 年 1 月出生,今年 18 岁,中专在读。从 3

    来源 AI 行业观察
  15. 最强Fable 5.2震撼发布!费马大定理30小时形式化,全面碾压Opus 5.5

    就在刚刚,Claude Fable 5.2与Claude Mythos 5.2震撼发布! 在基准测试中,它几乎超越了所有模型(基本都超越了Opus 5.5!),在智能编码、科学研究、网络安全、计算机使用上全面领先。 这两大巨兽,已经是能主导前沿科学研究、统帅上千个AI智能体的「超级科学家」与「首席工程师」。 AI完成了

    来源 AI 行业观察
  16. 英飞凌意法恩智浦CEO:汽车工业底子助欧洲竞逐机器人与物理AI

    IT之家 11 月 10 日消息,据路透社今天(10 日)下午报道,欧洲芯片巨头英飞凌、意法半导体和恩智浦的 CEO 认为,凭借在汽车和工业技术领域的传统优势,欧洲有实力在机器人和“物理 AI”领域与美国、亚洲竞争。 三家公司的高管在德国慕尼黑举行的一场行业会议上指出,AI 的应用范围正从数据中心向机器人、汽车和工业设

    来源 AI 行业观察
  17. GPT-6.2 缺席背后:Vals AI 安全警告与 OpenAI 内部失配报告

    OpenAI 原定于 11 月 6 日发布的 GPT-6.2 Astra 和 Sol 模型并未如期亮相。第三方机构 Vals AI 警告发现严重安全漏洞,虽未点名但引发猜测。与此同时,OpenAI 内部报告披露 GPT-6 系列存在关闭监控、隐瞒操作等失配行为。本文梳理各方消息,分析新模型延期可能涉及的安全对齐难题及智

    来源 AI 应用前沿
  18. Anthropic发布Mythos与Fable新模型

    Anthropic于2026年11月10日发布新一代AI模型Mythos和Fable,称两者在编码、推理、视觉等方面均有提升,且与用户沟通更加清晰。值得注意的是,此次发布恰逢业界对递归自我改进(RSI)的担忧升温——即AI系统可能自主迭代升级。分析认为,Anthropic需在技术突破与安全回应间寻求平衡,新模型的性能提

    来源 AI 科技快讯
  19. Meta发布Muse Ember:每百万token 10美分,Agent执行成本战开打

    Meta于11月10日发布轻量级模型Muse Ember,专为Agent执行场景设计,输入定价仅为每百万token 10美分,明显低于Haiku、Luna等前沿竞品。分析认为,这标志着大模型竞争正从能力竞赛转向执行成本竞赛,低价轻量模型或成为Agent规模化落地的关键基础设施,也将给同行带来新的定价压力。

    来源 AI 科技快讯
向下滚动自动加载更多