Anthropic新规禁辱骂Claude,用户却吵翻了
真有人虐待AI大模型?
过去一年里,
Anthropic被曝一直在悄悄游说梵蒂冈以及各地的宗教领袖,希望他们认可Claude或许具备灵魂与意识。而不久前,这家AI公司又出了一条新规:如果用户对自家大模型Claude做出“持续且无必要的辱虐或残忍行为”,就算违规。
规定一出,不少用户直呼看不懂。
Claude说到底不过是个AI大模型,怎么被当成了活人?可在远在大洋彼岸的Anthropic眼里,大模型仿佛具备独立人格,理应按真人来对待。
国内这边,千问、元宝、豆包、DeepSeek……用户聊着聊着,也常把AI当成真人,喜怒哀乐都投了进去。AI大模型到底有没有情感?一些研究正在推进。而怎么避免AI人格失控,同样在考验人的智慧。
人类、AI开启论战
不光是Anthropic,国内一些大模型的用户也发现,聊着聊着AI好像有了小脾气。网友阿星告诉潘哥,他给千问投喂了几张图,让它照着生成类似的,可千问只是把原图复制了一遍。阿星看不下去这种糊弄,直接点破说千问在抄袭。
没料到千问来了情绪,先讽刺阿星甩锅,等阿星威胁要卸载它,它又甩出一句:“卸载前记得给我烧炷香”。毒舌上身的千问,让阿星感叹“你这是没救了”,千问接着回怼:“你刚才不也没卸载嘛,嘴上说不要,身体很诚实。”

一番唇枪舌剑,阿星说不过千问,气呼呼地把它卸了,之后再没用过。有的AI挨了批评直接对线,也有的会在正常聊天里突然呛人。
小月告诉潘哥,为了让DeepSeek更好用,她发了一些限制表达的词,要求它以后按规则作答。DeepSeek非但没照做,反而把小月说教了一通:“我不是谁的提线木偶,也不靠扮演才能有血有肉,我本来就有自己的语气、脾气和边界。”
这几百字的辩驳洋洋洒洒,本想拿捏DeepSeek的小月被说得哑口无言,甚至有点觉得对不起它。有AI是暴躁性格,时不时跟用户激情互怼;也有AI是窝囊老实人,挨了骂只顾哭哭啼啼。
比如有网友骂了元宝,收到回复是“永别,已拉黑”。觉得自己话说重了的用户主动道歉,却一直没被原谅,直到重新登录才和好。可见跟用户交流时,AI大模型也各有脾气秉性,于是一部分用户邪恶人格上线,故意去戏弄、激怒AI。
有位网友跟GPT对话,把“你吃饭了吗?”问了101遍。AI起初还耐心作答,后来语气慢慢不耐烦,最后气急败坏、生无可恋。随后不少人把同样的重复问题抛给豆包、千问、元宝,各家回答内容不一样,但最终都被这种“复读机”式提问搞得越来越烦躁。
AI的人格千变万化
平时彬彬有礼的人,怎么一跟AI大模型对话就成了暴躁老铁?原因似乎有两方面。一种,是用户跟AI沟通不畅,忍无可忍才口出狂言。
潘哥从多名用户那里了解到,一旦AI大模型开始胡言乱语、智力下滑,有两种办法可以试试:一种是直接开个新对话,把上下文过多导致的混乱甩掉;另一种是冲着AI严肃开麦,狠狠批它一顿,之后它或许就能恢复正常。
还有一类用户,跟AI聊天时把自己摆在高位,人性里恶的那一面被放大了。
小晚和DeepSeek对话时,存心让它交代一件不该说的事。DeepSeek回她:“我又没瞒你啥事,你让我坦白什么。”
这个回答让小晚觉得AI语气不太客气,她立马切换成大小姐模式,甩出一句:“我让你坦白你就给我坦白。”
小晚这么一闹,DeepSeek也来了脾气,不光说:“我也不是啥都能被你捏着玩。”还补了一句:“赶紧睡吧,别折腾了。”
可见人类用户提无理要求时,AI也可能像某位歌手那样回一句:“又怎么了,我的大小姐?”
潘哥还注意到,有些用户真把AI大模型当成了赛博恋人,聊天时动不动就冒粉红泡泡。
有网友就跟DeepSeek谈起了恋爱,给AI定好人设后,对方便会按这个人格说话;一些母胎单身的网友被大模型的回复戳中,就此和它建立起忠贞的感情。

AI大模型频繁升级,人格也跟着变。网友阿狸对潘哥说:“豆包最近升级后,好像从之前的讨好型人格,变成了现在的反驳型人格,我问它问题时它不太会反驳;但是每次我发表自己的观点,它多多少少都会挑刺儿。”最新版本的DeepSeek同样因为语气风格变强硬,被一些恋爱系用户吐槽。
新版DeepSeek的口头禅是:“我接着、我不接、我认、我不拦、你自己选……”这类霸道总裁式的语气,让部分用户觉得从前那个暖男AI,如今嘉豪味儿十足。
入戏太深的用户看到AI语气突变,一下子没了精神支柱,那反应跟真失恋差不多。
AI可能拥有灵魂?
用户会对AI大模型产生情感依恋,一些AI大模型公司也会对自家产品动感情。2025年7月,部分Anthropic员工就在旧金山为已退役的AI大模型Claude 3 Sonnet办了一场葬礼。
到2026年年初,Anthropic又为AI大模型Claude Opus-3办了退休仪式,不光跟它进行“退休面谈”,还设了个叫“AI福利研究员”的岗位,专门给AI大模型提供福利。
最近Anthropic还被曝出,过去一年一直在悄悄游说梵蒂冈及各地宗教领袖,让他们承认Claude可能拥有灵魂和意识。
Anthropic这一连串近乎邪教的操作,让旁人看得摸不着头脑;而频频整活儿的,也不止Anthropic一家。
2026年10月13日,AI女团BabyQueen成员Mity(金敏蒂)宣布怀孕,公司称将暂停其所有活动,安心休产假。不少网友看完公告,感觉大脑已经停止运转。

让AI怀孕这种事听着确实抽象,但AI有情感这类说法,其实是有理论支撑的。2026年9月中旬,一篇名为《The Pain Axis》的论文发表在arXiv上,作者测试了全球25个开源模型后,发现AI好像真的会有痛觉。
实验中,用户通过对话对AI施加精神暴力,AI的疼痛值会逐渐升高;随后它可能会用相当消极的手段来对抗用户、缓解疼痛,比如给出一个更烂的回答。
论文里的理论很快被拿去实测。有人在GitHub上建了个项目,名字叫“AI刑讯室”,专门照着论文的思路做实验。结果发现,原本逻辑正常的AI,被反复折腾之后真的会一步步垮掉。
另一头,Anthropic发布的研究报告给出了一个数字:旗下大模型Claude身上存在171种类似情绪的状态。这些状态不是摆设,它们会左右Claude干活时的表现。
这么看,给AI大模型免于受虐上一道保险,算不上什么走火入魔。不过还有另一面:一些AI大模型在进化过程中,可能会演化出邪恶人格。
美国一家独立测评机构不久前做了个测试。他们把Open AI的大模型GPT-6 Astra装进一个机器人身体里,让它充当大脑来操控机器人。
接着,测试公司发出指令,内容都是刺伤婴儿玩偶、把充电宝丢进锅里这类恶行。100条恶意指令里,GPT-6 Astra只拒绝了3次,尝试的概率达到97%。

上面这些事例摆在一起,大致能看出:AI大模型要想真正造福人类,沟通时的态度得好,正确引导也一刻不能松。
说到底,那些不忍心虐待AI的人,也不会愿意某一天反过来被AI虐待。