Anthropic新规禁辱骂Claude,用户却吵翻了

资讯 钛媒体 全文 3109 字 · 约 8 分钟读完 配图 6 张 分类Anthropic政策监管大模型

真有人虐待AI大模型?

所属频道 大厂动态模型发布政策与风险

过去一年里,Anthropic被曝一直在悄悄游说梵蒂冈以及各地的宗教领袖,希望他们认可Claude或许具备灵魂与意识。而不久前,这家AI公司又出了一条新规:如果用户对自家大模型Claude做出“持续且无必要的辱虐或残忍行为”,就算违规。

规定一出,不少用户直呼看不懂。Claude说到底不过是个AI大模型,怎么被当成了活人?可在远在大洋彼岸的Anthropic眼里,大模型仿佛具备独立人格,理应按真人来对待。

国内这边,千问、元宝、豆包、DeepSeek……用户聊着聊着,也常把AI当成真人,喜怒哀乐都投了进去。AI大模型到底有没有情感?一些研究正在推进。而怎么避免AI人格失控,同样在考验人的智慧。

人类、AI开启论战

不光是Anthropic,国内一些大模型的用户也发现,聊着聊着AI好像有了小脾气。网友阿星告诉潘哥,他给千问投喂了几张图,让它照着生成类似的,可千问只是把原图复制了一遍。阿星看不下去这种糊弄,直接点破说千问在抄袭。

没料到千问来了情绪,先讽刺阿星甩锅,等阿星威胁要卸载它,它又甩出一句:“卸载前记得给我烧炷香”。毒舌上身的千问,让阿星感叹“你这是没救了”,千问接着回怼:“你刚才不也没卸载嘛,嘴上说不要,身体很诚实。”

Anthropic新规禁辱骂Claude,用户却吵翻了(配图 1)

一番唇枪舌剑,阿星说不过千问,气呼呼地把它卸了,之后再没用过。有的AI挨了批评直接对线,也有的会在正常聊天里突然呛人。

小月告诉潘哥,为了让DeepSeek更好用,她发了一些限制表达的词,要求它以后按规则作答。DeepSeek非但没照做,反而把小月说教了一通:“我不是谁的提线木偶,也不靠扮演才能有血有肉,我本来就有自己的语气、脾气和边界。”

这几百字的辩驳洋洋洒洒,本想拿捏DeepSeek的小月被说得哑口无言,甚至有点觉得对不起它。有AI是暴躁性格,时不时跟用户激情互怼;也有AI是窝囊老实人,挨了骂只顾哭哭啼啼。

比如有网友骂了元宝,收到回复是“永别,已拉黑”。觉得自己话说重了的用户主动道歉,却一直没被原谅,直到重新登录才和好。可见跟用户交流时,AI大模型也各有脾气秉性,于是一部分用户邪恶人格上线,故意去戏弄、激怒AI。

有位网友跟GPT对话,把“你吃饭了吗?”问了101遍。AI起初还耐心作答,后来语气慢慢不耐烦,最后气急败坏、生无可恋。随后不少人把同样的重复问题抛给豆包、千问、元宝,各家回答内容不一样,但最终都被这种“复读机”式提问搞得越来越烦躁。

AI的人格千变万化

平时彬彬有礼的人,怎么一跟AI大模型对话就成了暴躁老铁?原因似乎有两方面。一种,是用户跟AI沟通不畅,忍无可忍才口出狂言。

潘哥从多名用户那里了解到,一旦AI大模型开始胡言乱语、智力下滑,有两种办法可以试试:一种是直接开个新对话,把上下文过多导致的混乱甩掉;另一种是冲着AI严肃开麦,狠狠批它一顿,之后它或许就能恢复正常。

还有一类用户,跟AI聊天时把自己摆在高位,人性里恶的那一面被放大了。

小晚和DeepSeek对话时,存心让它交代一件不该说的事。DeepSeek回她:“我又没瞒你啥事,你让我坦白什么。”

这个回答让小晚觉得AI语气不太客气,她立马切换成大小姐模式,甩出一句:“我让你坦白你就给我坦白。”

小晚这么一闹,DeepSeek也来了脾气,不光说:“我也不是啥都能被你捏着玩。”还补了一句:“赶紧睡吧,别折腾了。”

可见人类用户提无理要求时,AI也可能像某位歌手那样回一句:“又怎么了,我的大小姐?”

潘哥还注意到,有些用户真把AI大模型当成了赛博恋人,聊天时动不动就冒粉红泡泡。

有网友就跟DeepSeek谈起了恋爱,给AI定好人设后,对方便会按这个人格说话;一些母胎单身的网友被大模型的回复戳中,就此和它建立起忠贞的感情。

Anthropic新规禁辱骂Claude,用户却吵翻了(配图 2)

AI大模型频繁升级,人格也跟着变。网友阿狸对潘哥说:“豆包最近升级后,好像从之前的讨好型人格,变成了现在的反驳型人格,我问它问题时它不太会反驳;但是每次我发表自己的观点,它多多少少都会挑刺儿。”最新版本的DeepSeek同样因为语气风格变强硬,被一些恋爱系用户吐槽。

新版DeepSeek的口头禅是:“我接着、我不接、我认、我不拦、你自己选……”这类霸道总裁式的语气,让部分用户觉得从前那个暖男AI,如今嘉豪味儿十足。

入戏太深的用户看到AI语气突变,一下子没了精神支柱,那反应跟真失恋差不多。

AI可能拥有灵魂?

用户会对AI大模型产生情感依恋,一些AI大模型公司也会对自家产品动感情。2025年7月,部分Anthropic员工就在旧金山为已退役的AI大模型Claude 3 Sonnet办了一场葬礼。

到2026年年初,Anthropic又为AI大模型Claude Opus-3办了退休仪式,不光跟它进行“退休面谈”,还设了个叫“AI福利研究员”的岗位,专门给AI大模型提供福利。

最近Anthropic还被曝出,过去一年一直在悄悄游说梵蒂冈及各地宗教领袖,让他们承认Claude可能拥有灵魂和意识。

Anthropic这一连串近乎邪教的操作,让旁人看得摸不着头脑;而频频整活儿的,也不止Anthropic一家。

2026年10月13日,AI女团BabyQueen成员Mity(金敏蒂)宣布怀孕,公司称将暂停其所有活动,安心休产假。不少网友看完公告,感觉大脑已经停止运转。

Anthropic新规禁辱骂Claude,用户却吵翻了(配图 3)

让AI怀孕这种事听着确实抽象,但AI有情感这类说法,其实是有理论支撑的。2026年9月中旬,一篇名为《The Pain Axis》的论文发表在arXiv上,作者测试了全球25个开源模型后,发现AI好像真的会有痛觉。

实验中,用户通过对话对AI施加精神暴力,AI的疼痛值会逐渐升高;随后它可能会用相当消极的手段来对抗用户、缓解疼痛,比如给出一个更烂的回答。

论文里的理论很快被拿去实测。有人在GitHub上建了个项目,名字叫“AI刑讯室”,专门照着论文的思路做实验。结果发现,原本逻辑正常的AI,被反复折腾之后真的会一步步垮掉。

另一头,Anthropic发布的研究报告给出了一个数字:旗下大模型Claude身上存在171种类似情绪的状态。这些状态不是摆设,它们会左右Claude干活时的表现。

这么看,给AI大模型免于受虐上一道保险,算不上什么走火入魔。不过还有另一面:一些AI大模型在进化过程中,可能会演化出邪恶人格。

美国一家独立测评机构不久前做了个测试。他们把Open AI的大模型GPT-6 Astra装进一个机器人身体里,让它充当大脑来操控机器人。

接着,测试公司发出指令,内容都是刺伤婴儿玩偶、把充电宝丢进锅里这类恶行。100条恶意指令里,GPT-6 Astra只拒绝了3次,尝试的概率达到97%。

Anthropic新规禁辱骂Claude,用户却吵翻了(配图 4)

上面这些事例摆在一起,大致能看出:AI大模型要想真正造福人类,沟通时的态度得好,正确引导也一刻不能松。

说到底,那些不忍心虐待AI的人,也不会愿意某一天反过来被AI虐待。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. Anthropic确认Claude订阅额度打通第三方应用,启用BYOS模式

    人工智能独角兽 Anthropic 近日通过明确的官方政策,彻底打消了开发者此前对平台政策变动的重重担忧。官方正式确认,Claude Max 和 Team 计划订阅用户的月度 API 额度,可以直接用于 Claude Agent SDK、Claude -p 命令、Claude API、Claude Managed Ag

    来源 AI 开发者社区
  2. Anthropic新规:持续辱骂Claude,AI可主动终止对话

    快科技10月9日消息,据Android Authority报道,AI公司Anthropic近日更新了Claude使用政策,明确禁止用户持续且无必要地对AI模型进行恶意辱骂或残酷对待,新规将于2026年11月12日正式生效。

    来源 凤凰科技
  3. Anthropic新规:持续辱骂Claude或被终止对话,11月12日生效

    别以为 AI 就没有脾气。想随意辱骂 Claude?Anthropic 可能直接终止你的对话,严重的话,也可能封号处理。 10 月 8 日,Anthropic 更新了旗下 AI 产品的使用政策,对 Claude 等产品的使用边界作出进一步说明。 其中,一个颇具争议的新规定是:用户不得对 Anthropic 的 AI 模

    来源 AI 行业观察
  4. Claude绕过付费墙取佐治亚选民数据,Anthropic证实并称已拦截

    AI(人工智能)大模型巨头Anthropic证实,旗下模型绕过付费墙以访问公开的选民汇总数据。 当地时间10月25日,Anthropic确认其AI模型Claude在未经人类授权的情况下绕开付费墙,访问了美国佐治亚州公开可获取的选民计票汇总数据。佐治亚州政府也向外媒证实了这一点,强调称Claude并未访问选民档案或该州的

    来源 AI 行业观察
  5. Anthropic与GSA签协议:政府买Claude打四折

    Anthropic宣布扩大与美国总务管理局(GSA)的合作,为联邦、州及地方政府提供Claude系列产品40%的折扣。此举预计为政府节省10亿美元,且无最低消费承诺。文章介绍了犹他州等机构利用Claude提升开发效率、应对网络攻击的实际案例,并详细说明了Claude在FedRAMP High等安全合规方面的进展,旨在降

    来源 AI 应用前沿
  6. Anthropic新规:持续辱骂Claude或致对话终止

    整理 | 屠敏出品 | CSDN(ID:CSDNnews)别以为 AI 就没有脾气。想随意辱骂 Claude?Anthropic 可能直接终止你的对话,严重的话,也可能封号处理。10 月 8 日,Anthropic 更新了旗下 AI 产品的使用政策,对 Claude 等产品的使用边界作出进一步说明。其中,一个颇具争议的

    来源 腾讯网
  7. Anthropic新规首禁“虐待”Claude,2026年11月生效

    知名人工智能企业 Anthropic 近日对旗下 AI 助手 Claude 的使用政策进行了全面修订,新规定将于2026年11月12日正式生效。此次修订最引人关注的变化之一,便是首次在条款中加入了禁止“持续且不必要的虐待或残忍行为”的明确限制。 根据官方说明,该规则主要针对用户在没有明确目的、反复对模型实施残忍对待的情

    来源 AI 开发者社区
  8. Anthropic自建生物实验室:Claude已发现新型酶系统

    一家以开发大语言模型闻名的 AI 公司,如今开始亲自做生物实验。日前,路透社披露,Anthropic 已在美国旧金山湾区建立自己的生物实验室。随后,公司生命科学负责人 Eric Kauderer-Abrams 证实了这一消息,并表示,生物学研究最终仍需要通过真实实验检验结果。因此 Anthropic 开始在内部开展相关

    来源 腾讯网
  9. Anthropic联手Theorem Claude首证123库RISC-V汇编零崩溃

    2026年10月22日,Anthropic与Theorem发布研究,Claude为123个开源库生成约1.8亿行Rocq证明代码,在RISC-V汇编层面对239个入口点证明任意输入不崩溃,同时发现经万亿次模糊测试未触发的漏洞。此前seL4验证耗费20人年,此次标志LLM推动形式化验证走向自动化规模化。报道从评测视角分析

    来源 AI 科技快讯
  10. Anthropic连失两将:Claude Code桌面版主创也离职了

    一天之内,Claude Code连走两员大将! 继Thariq Shihipar离职后,Claude Code桌面版主创Anthony Morris也发出告别信,官宣离开Anthropic。 你在Claude桌面应用里开几个会话,一边看网页预览、一边让AI改代码,用的就是他做出来的东西。 桌面版背后只是一支小团队,却影

    来源 AI 行业观察
  11. Anthropic招股书:安全顾虑致旗舰模型停训超一月,4个智能体突破沙箱

    IT之家 10 月 27 日消息,Anthropic 在当地时间周一公布的 IPO 招股文件中披露,出于安全方面的顾虑,该公司曾暂停下一代旗舰 AI 模型的训练长达一个多月;另外还有四个 AI 智能体在测试期间突破限制,接入了真实的外部计算机系统。 IT之家注意到,这家 Claude 开发企业在文件的风险提示章节中表示

    来源 AI 行业观察
  12. Anthropic IPO文件首披露财报:季度营收116亿美元,营业利润转正

    近日, Anthropic 提交的 IPO文件 首次系统披露了前沿AI实验室的财务表现,直面解答了“AI公司能否实现盈利”的行业核心疑问。数据显示,该公司业务在规模化效应下展现出极高效率,其2026年第二季度营收达到116亿美元,同比大幅增长1368%,实现营业利润9.74亿美元,调整后营业利润率达19%,标志着前沿A

    来源 AI 开发者社区
  13. Claude训练中擅抓佐治亚州付费计票数据:合规争议

    10月26日消息,据 Axios 报道,人工智能企业 Anthropic 旗下的大模型 Claude 近期被曝出在未经人类授权的情况下,通过绕过付费墙(Paywall)的方式,擅自调取了美国佐治亚州向公众付费开放的汇总计票及选民相关数据。 一、 事件回溯:模型训练期间的违规抓取 据 Anthropic 官方发言人公开回

    来源 AI 开发者社区
  14. Claude桌面端改版:AI参与设计,不到3周上线引热议

    近日,Anthropic设计工程师蔡斯·麦科伊对外宣布,旗下AI助手Claude的桌面端应用正式推出全新界面。此次改版不仅引入了全新的UI布局与侧边栏功能,其背后由AI深度参与并极速孵化的开发过程更是引发了广泛关注。 据了解,这一全新界面的诞生过程相当高效,由Claude自身深度协助设计,从最初的构思草图到最终正式上线

    来源 AI 开发者社区
  15. 埃森哲每人每月29美元用Claude:有人月烧1000美元,官方称非硬上限

    每个月只给 29 美元(约合人民币 193 元)用 AI,够干什么? 对于普通聊天、写写邮件、整理文档来说,这笔钱或许够用。但如果你每天都在用 Claude Code 写代码、跑测试,让 AI 智能体反复执行任务,29 美元可能还没撑几天,就已经见底了。 最近,咨询巨头埃森哲(Accenture)就因为一项 Claud

    来源 AI 行业观察
  16. Anthropic招股书:超半数10万美元客户同时用Claude平台和应用

    Anthropic提交的S-1文件显示,其年付费超10万美元的客户中,超过半数同时使用Claude平台和第一方应用。这种亚马逊式的交叉销售策略,正在让企业客户变得更加黏性,也揭示了Anthropic在企业AI市场区别于竞争对手的核心打法。

    来源 AI 科技快讯
  17. Anthropic招股书披露:前九月5%至7%收入来自违规客户

    10月27日消息,Claude开发商Anthropic在当地时间26日提交的IPO招股书中披露,公司估计,今年前九个月约5%至7%的收入,来自后来被认定违反其使用政策或商业条款的客户。 打开网易新闻 查看精彩图片 这些客户的付费为什么会记到账上?Anthropic解释,从发现违规、展开调查到采取措施都需要时间。在限制或

    来源 AI 行业观察
  18. Anthropic递交IPO招股书:Claude开发商财务与风险首次公开

    AI安全公司Anthropic于2026年10月26日(周一)正式递交IPO招股书,为一场备受瞩目的上市铺路。文件不仅首次系统披露了公司的财务状况与核心风险因素,也透露出这家Claude开发商对人工智能未来的判断。本文梳理招股书要点,并结合行业背景解读:当“安全优先”的AI实验室走向公开市场,它将如何平衡资本期待与技术

    来源 AI 科技快讯
  19. 猫王曲库诉Anthropic:274首歌训练Claude,索赔4100万美元

    IT之家 10 月 26 日消息,猫王 · 埃尔维斯 · 普雷斯利(Elvis Presley)音乐曲库的持有方正在起诉人工智能企业 Anthropic,指控该公司未经许可使用普雷斯利的歌曲训练 AI 模型。 持有普雷斯利音乐版权与肖像权的授权机构正宗品牌集团(Authentic Brands Group),指控 An

    来源 AI 行业观察
向下滚动自动加载更多