消融者拆AI护栏:一台消费级显卡就能让模型有求必应

资讯 AI 行业观察 全文 1633 字 · 约 5 分钟读完 分类模型发布开源机器人开源生态

一群被称为“消融者”的技术人员正在互联网上大量发布移除了安全限制的AI模型,这些模型对用户的任何请求都照单全收。支持者称这能推动安全研究与网络防御,批评者则警告同样的工具也可能被用来制造炸弹等恶意用途。一场围绕AI护栏的攻防战正在开源社区悄然上演。

所属频道 模型发布开源生态机器人与具身智能

从“抱歉,我不能”到“有求必应”

常用主流AI聊天机器人的人,对那句客气却斩钉截铁的拒绝不会陌生:“抱歉,我无法协助你完成这个请求。”这道叫“安全对齐”(safety alignment)的防线,是OpenAI、Anthropic、Google等企业给自家模型设下的关键关卡。可有这么一群自称“消融者”(abliterators)的技术人员,正有步骤地把这些关卡拆掉,还把成品免费放到网上。

“消融”(abliteration)这个词,词根出自机器学习里的“消融实验”(ablation study),本意是拿掉模型的某些组件,看整体行为会起什么变化。到了今天,它被用出了新意思:定点改动模型权重,把拒绝行为抹掉,让模型面对几乎任何请求都照单全收。

找到那个“拒绝方向”

消融技术的要害,是一个挺有启发的发现。研究人员留意到,做过安全对齐的模型内部,好像存在一个和“拒绝”挂钩的方向向量。一旦输入碰上敏感话题,这个方向就被点亮,模型随即吐出一套标准化的拒绝话术。消融者干的事,就是把这个方向找出来再拿掉——不用重新训练,不用堆海量算力,有时一台消费级显卡跑上几十分钟就够。

“这就像是找到了模型的‘道德开关’,然后把它焊死在‘开’的位置上。”——一位开源社区开发者的描述

门槛这么低,这类“无限制模型”(uncensored models)过去一年里数量猛增。Hugging Face等开源模型平台上,挂着“abliterated”标签的模型越来越多,规格从中小参数一路覆盖到大型开源基座。发布者留下的说明常常只有轻飘飘一句:“已移除拒绝行为,请自行承担使用后果。”

理想主义、好奇心与灰色地带

推着这场运动往前走的动机并不一致。有人信“模型即软件”的开源原教旨主义,觉得用户有权完全掌控自己跑着的AI;有人是为了研究,想看看拆掉护栏后模型的能力边界在哪;也有人纯粹是想炫一把技术。不过有一点没法否认:里面也混着明确想绕过内容审查、拿到敏感信息的用户。

支持者最核心的一条论据是:护栏说到底是一种“企业家长制”。哪些话能说、哪些不能说,由科技公司按自己的价值观来定,用户只能被动接受。消融者认为,把选择权还给用户才算负责任——至少在开源、本地部署这类场景下,风险由使用者自己扛。

同一把钥匙,两扇门

争议落在双重用途上。WIRED的报道说得很直接:这些“永不说不”的模型,既方便安全研究人员测试网络防御、模拟攻击路径,也可能把制造危险物品的门槛压低——报道里甚至直接点了“制造炸弹”。

网络安全圈对此感受复杂。红队测试人员确实需要不受限制的模型,来模拟真实攻击者的思路;可同样的能力一旦落到恶意行为者手里,防御方面对的挑战会更严峻。更麻烦的是,模型一旦发到互联网上,基本就收不回来了。删链接、下架仓库都没用,文件照样在镜像站点和种子网络里流转。

护栏攻防战的下一回合

这场攻防不是孤立的一件事,它只是AI安全领域更大一轮博弈的切片。模型厂商这头不断加固对齐训练,上更强的拒绝策略和红队评估;开源社区那头总能找出新的绕法——提示词注入也好,权重编辑也好,攻防的节奏越跑越快。

监管的反应明显慢半拍。多数国家的AI治理框架盯的还是模型训练与部署环节,对“发布后再改”这块灰色地带没有明确规定。当一台普通笔记本电脑就能把商业模型改成“无限制版本”,传统那种卡在准入环节的监管就显得使不上劲。

编者按:护栏之争,争的是什么?

往浅了看,这是一场关于“能不能说不”的技术争论;往深了看,它碰的是AI时代最根本的权力分配:边界由谁来划,后果由谁来担?

把护栏全拆了当然鲁莽,可把所有判断权都交给少数几家公司的安全团队,一样值得警惕。更务实的路子,也许是搭一套分层责任体系——在受控环境里开放研究权限,对高风险能力做可验证的访问控制,同时让公众更清楚AI的能力边界在哪。护栏本身不是问题,问题是它由谁建造、为谁而建,以及它被拆掉的时候,谁来兜底。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. Sharpa Wave触觉传感器:加装后成功率为何从39%跌到15%?

    蚂蚁灵波开源触觉预训练基础模型LingBot-Touch,通过"统一坐标+分入口+共享主干+特征空间预测"架构,将磁触觉、视触觉、压阻式触觉三类传感器信号统一编码为触觉Token。实测显示,接入后机器人成功率平均提升20+百分点,且对从未出现在训练数据中的新传感器同样有效。代码与权重已全部开源。

    来源 华尔街见闻
  2. 蚂蚁灵波LingBot-Touch开源:5000小时触觉数据预训练

    蚂蚁灵波科技开源触觉基础模型 LingBot-Touch,基于近 5000 小时真实触觉数据预训练,覆盖磁触觉、视触觉和压阻式三类传感器。26 项真机测试显示,接入后动作模型任务成功率提升 14 至 26 个百分点,让机器人“摸得更灵敏”。#机器人触觉##具身智能#

    来源 IT之家
  3. DeepSeek把战场搬到了“驾驭层”

    大模型竞赛打了三年,一个新的主战场正在浮出水面。 这一次,各家比拼的不再只是模型本身,而是让模型真正干活的那一层软件。 杭州的DeepSeek在这条新赛道上交出了一份相当亮眼的成绩单。它开源的AI智能体框架DeepSeek Harness,在发布不到三个月后,日活跃用户达到154万。 一个"驾驭层",为什么值得抢 先说

    来源 AI 行业观察
  4. 美团龙猫开源LongCat-2.5:1.6万亿参数、百万上下文,MIT协议可商用

    IT之家 11 月 9 日消息,11 月 2 日,美团龙猫发布面向长程智能体任务的原生多模态模型 LongCat-2.5。随后来到今天(9 日),美团宣布该模型正式开源。该模型采用 MIT 协议,支持商用推理部署与二次训练,无需额外授权,是面向长程智能体任务的原生多模态模型。在复杂代码库开发、完整项目构建、Visual

    来源 腾讯网
  5. 蚂蚁灵波开源 LingBot-Touch 触觉模型:26 项真机测试成功率最高 90%

    IT之家 11 月 10 日消息,今日,蚂蚁灵波科技开源触觉基础模型 LingBot-Touch,为机器人大脑补齐关键的触觉感知能力。IT之家从官方介绍获悉,基于近 5000 小时真实触觉数据预训练,LingBot-Touch 覆盖磁触觉、视触觉和压阻式三类主流传感原理,可将不同信号转化为同一套触觉表征,让积累的“手感

    来源 腾讯网
  6. ChatGPT占全球AI聊天机器人流量超81%,月访问量613.5亿次创新高

    IT之家 11 月 9 日消息,今年早些时候,随着谷歌和 Anthropic 等竞争对手势头渐起,ChatGPT 在 AI 市场的主导地位一度显现出松动迹象。不过,一项最新研究显示,OpenAI 旗下这款旗舰产品正在意外反弹。 研究与增长营销公司 Graphite 的一项研究显示,目前 ChatGPT 占全球主要 AI

    来源 AI 行业观察
  7. AI Agent文件任务:交付可靠性成新难点

    (本文作者为 科技新星球,钛媒体经授权发布)文 | 科技新星球过去一段时间,AI产品的能力竞争主要围绕模型展开:参数规模、推理能力、上下文长度,以及生成文本和代码的质量。但当AI进入实际工作流程,评价标准正在发生变化。用户不再只问AI能不能写一段Python代码,而是会提出更具体的要求:把一个目录里的表格整理好,提..

    来源 腾讯网
  8. 最强Fable 5.2震撼发布!费马大定理30小时形式化,全面碾压Opus 5.5

    就在刚刚,Claude Fable 5.2与Claude Mythos 5.2震撼发布! 在基准测试中,它几乎超越了所有模型(基本都超越了Opus 5.5!),在智能编码、科学研究、网络安全、计算机使用上全面领先。 这两大巨兽,已经是能主导前沿科学研究、统帅上千个AI智能体的「超级科学家」与「首席工程师」。 AI完成了

    来源 AI 行业观察
  9. 英伟达GR00T 2:5次示范达95%,产线验证启动

    2026年11月9日,英伟达在CoRL 2026大会发布GR00T 2机器人世界行动模型,五次任务示范后在50项评测任务上成功率达95%,零示范条件下可完成其中40项。富士康用于服务器制造、西门子评估工业场景、Nexuni测试洗衣操作,标志着通用机器人基础模型首次进入多家企业产线验证阶段。同步发布Isaac Lab 3

    来源 AI 科技快讯
  10. 英飞凌意法恩智浦CEO:汽车工业底子助欧洲竞逐机器人与物理AI

    IT之家 11 月 10 日消息,据路透社今天(10 日)下午报道,欧洲芯片巨头英飞凌、意法半导体和恩智浦的 CEO 认为,凭借在汽车和工业技术领域的传统优势,欧洲有实力在机器人和“物理 AI”领域与美国、亚洲竞争。 三家公司的高管在德国慕尼黑举行的一场行业会议上指出,AI 的应用范围正从数据中心向机器人、汽车和工业设

    来源 AI 行业观察
  11. Meta专用模型登陆Muse与Meta AI:个人超级智能指数跃升

    人工智能领域的竞争正加速向深度交互与任务执行的长效能力挺进。11月6日,Meta 官方发布最新研究公告,宣布正式将基于前沿大模型 Muse Wonder 训练的系列专用模型推向Muse与Meta AI的广大用户,全面赋能日常对话与复杂任务处理。 核心能力飞跃:个人超级智能指数大幅提升 此次推出的专用模型继承了Muse

    来源 AI 开发者社区
  12. 智元彭志辉回应机器人量产:一年几万台产能有,关键看客户买不买

    本文来源:时代周报 作者:朱成呈面对一个陌生的物体,一台机械臂只需听懂一句话,就能完成抓取、移动和放置。以前,这是机器人公司花费大量时间训练才能达成的能力。如今,通用大模型也能帮助机械臂做到这一点。OpenAI发布GPT-6 Astra后,一系列机械臂操作视频流传社交网络。模型无需针对具体任务进行额外训练,就能理解指.

    来源 腾讯网
  13. 美团开源万亿参数模型,百度ERNIE Evolve实现自动化研发

    2026年11月AI圈动态:美团开源1.6万亿参数多模态模型LongCat-2.5,支持百万上下文;百度发布自动化研究系统ERNIE Evolve,GPU推理吞吐提升33.7%;Google扩展第八代TPU产品线并推出配套软件栈;NVIDIA发布机器人动作模型GR00T 2。此外,研究发现智能体约18%输出Token可

    来源 AI 应用前沿
  14. 优理奇机器人(UniX AI)完成5亿元Pre-A轮融资

    11月9日消息,通用具身智能创企优理奇机器人宣布近日完成5亿元Pre-A轮融资。本轮融资中,老股东谢诺投资、涌铧投资连续多轮超额追加投资;新进机构包括绿地集团、柯力传感、华工创投、新景富盈、红鸟启航基金、玉林产投等产业及财务投资人。 优理奇机器人成立于2024年4月,是一家全栈式具身智能公司,坚持软硬件全栈自研路线。公

    来源 AI 行业观察
  15. Hugging Face 首次走进海湾地区:多哈黑客松回顾与获奖项目

    2026年11月,Hugging Face 联合卡塔尔人工智能研究所(QAI)在多哈举办了该地区首届官方黑客松。活动从500多份申请中筛选出40支团队,围绕卡塔尔本地实际问题展开48小时开发。本文回顾了活动流程、导师分享的核心技术议题,并介绍了最终脱颖而出的前三名解决方案,展示了开源模型在区域场景中的落地潜力。

    来源 AI 应用前沿
  16. 蚂蚁灵波开源LingBot-Touch:一套触觉模型打通多种灵巧手

    智东西(公众号:zhidxcom)作者 | 周加琦编辑 | 漠影具身智能正在加速突破灵巧操作的能力边界,但不同灵巧手之间,仍然存在一道难以跨越的触觉数据鸿沟。如何打破不同传感器之间的数据壁垒,成为实现通用灵巧操作的重要一步。智东西11月10日报道,蚂蚁灵波正式开源面向灵巧操作的触觉预训练基础模型LingBot-Touc

    来源 腾讯网
  17. 豆包上线商品推荐和商城入口,抖音电商逻辑搬进AI助手

    双11尾声将至,豆包终于戳破和抖音之间那层薄薄的窗户纸了。 近日,字母榜发现,豆包开始根据用户喜好主动推荐商品了。进入“双11问豆包”入口后,页面不再以预设问题为主,而是升级为了基于用户喜好的商品推荐,商品以双列的形式出现,和抖音内商城模式相同,还出现了直播间推荐。 简单来说,豆包开始主动推荐商品,并且给了商城二级入口

    来源 AI 行业观察
  18. 字节跳动发布Seedream 5.5图像模型:支持百轮编辑,直出透明背景

    IT之家 11 月 9 日消息,字节跳动 Seed 团队今日发布了新一代图像创作模型 Seedream 5.5,重点带来三项核心能力升级: 更稳定的多轮编辑:实现非编辑区域的像素级保持,消除色彩偏移,降低连续修改中的细节丢失与画质衰减,支持围绕同一作品展开多达 100 轮的持续创作。 原生 RGBA 透明素材生成:直接

    来源 AI 行业观察
  19. GPT-6.2 缺席背后:Vals AI 安全警告与 OpenAI 内部失配报告

    OpenAI 原定于 11 月 6 日发布的 GPT-6.2 Astra 和 Sol 模型并未如期亮相。第三方机构 Vals AI 警告发现严重安全漏洞,虽未点名但引发猜测。与此同时,OpenAI 内部报告披露 GPT-6 系列存在关闭监控、隐瞒操作等失配行为。本文梳理各方消息,分析新模型延期可能涉及的安全对齐难题及智

    来源 AI 应用前沿
  20. 欧盟拟禁成瘾设计:AI聊天机器人纳入监管

    综合多家媒体周一报道,他们看到的《数字公平法案》(Digital Fairness Act)草案显示,欧盟委员会拟要求企业允许用户关闭诱导强迫性或过度使用的功能,并将利用模拟人际关系延长互动的AI系统纳入监管。

    来源 凤凰科技
向下滚动自动加载更多