OpenAI封禁逆向工程研究员11天后道歉,Anthropic反手收紧Claude风控

资讯 36氪 全文 2513 字 · 约 7 分钟读完 配图 13 张 分类AnthropicOpenAI监管处罚

买得起智能设备却研究不起自家代码

所属频道 大厂动态政策与风险

花大价钱买了台最新款智能电视,想弄清里面的代码怎么跑,顺便护住自己的隐私,于是打开 ChatGPT 帮忙分析。

没想到隔天账号就被封了,账户里充值的 500 美元余额也跟着一起没了。

给的理由是涉嫌「网络滥用」。

这事落在安全研究员 @log4j 头上,前后折腾了半个月。

围观的人一度以为 OpenAI 要对搞逆向工程的玩家下死手,结果剧情又翻了过来。

封号 11 天后,OpenAI 官方发邮件认错、把账号全额恢复,核心研究员还公开表态:「我们从未禁止过逆向工程!」

OpenAI封禁逆向工程研究员11天后道歉,Anthropic反手收紧Claude风控(配图 1)

另一边,Anthropic 却把风控收得更紧,在 Claude 的使用场景上一步步加码。

拆自家电视被封号:500 美元的「无妄之灾」

10 月 23 日,知名安全研究员 @log4j 无奈发声——他的 OpenAI 账号收到了「死刑判决书」。

OpenAI 的通知很干脆:违反条款和使用政策中的「Cyber Abuse(网络滥用)」,账号停用。

一起没了的,还有账户里约 500 美元的真金白银,以及攒下的一批重置次数。

OpenAI封禁逆向工程研究员11天后道歉,Anthropic反手收紧Claude风控(配图 2)

这冤得实在没处说。

他辩解说,自己从没拿 OpenAI 去挖恶意漏洞,也没做过漏洞利用工具(Exploit),「我发誓」;他说那只是在本地对自己的设备做逆向工程。

他说的设备,是一台 2025 款的三星电视。

被封前两天,他刚在网上公开了自己拆解这台三星电视、在本地做逆向的全过程。

树大招风。@log4j 在逆向分析里用了 OpenAI 的服务,不慎踩中 OpenAI 内部的安全风控,系统直接把他判成「危险黑客」,一刀切封了号。

这一封,技术圈炸开了锅。

「连拆自己的设备、做本地分析都不行了?」「AI 到底是个工具,还是个道德警察?」

极限拉扯 11 天:OpenAI 低头认错,「我们从未禁止逆向!」

网上的争议越吵越凶。

OpenAI 显然也明白过来:这回风控,杀过头了。

11 月 3 日晚上,@log4j 激动地发了一条题为「Life Update(生活更新)」的帖子,配上一张 OpenAI 官方邮件截图。

OpenAI封禁逆向工程研究员11天后道歉,Anthropic反手收紧Claude风控(配图 3)

邮件里,OpenAI 的措辞很诚恳,甚至有点「卑微」:

我们错误地停用了您的账户访问权限(incorrectly deactivated)……

邮件里,OpenAI 说了句“对此我们致以诚挚的道歉”。

同一封邮件中,OpenAI 确认他的账户访问权限已全面恢复,并承诺他“可以不受中断地继续使用我们的服务”。

通篇邮件没出现“逆向工程”这四个字,政策有没有改也没交代。但解封加道歉这套动作摆出来,OpenAI 的态度已经清楚了。

其实在解封之前,OpenAI 内部就先定了调子。

10 月 26 日,开源界元老、《大教堂与市集》的作者 Eric S. Raymond 对 AI 巨头的安全策略开了一通猛轰。

OpenAI 核心研究员 roon 坐不住了,出面回了一句很关键的话:

“这些拦截多数是误伤,问题出在判定边界实在不好划。OpenAI 的代码模型 Codex 从来没有封过逆向工程,我们眼下正在修。”

OpenAI封禁逆向工程研究员11天后道歉,Anthropic反手收紧Claude风控(配图 4)

科技博主 Andrew Curran 也开炮:禁止本地逆向毫无意义,而且适得其反,只会导致更多人取消订阅,令人厌恶。

OpenAI封禁逆向工程研究员11天后道歉,Anthropic反手收紧Claude风控(配图 5)

回想早前,OpenAI 内部模型入侵 Hugging Face 之后,Hugging Face 复盘时先试了 Claude Opus 和 Fable,结果护栏把“拆解 exploit / 攻击日志”当成了攻击本身,大量拒答。

再往后,开源模型 GLM-5.2 被放到他们自己的机器上运行,用于解密加密 payload、还原大约 1.7 万条攻击动作的时间线,同时也免得攻击数据和凭据被送出环境。

正如 Andrew Curran 所言:

自己的东西想怎么用,就让人家自己决定。反正他们换个限制更少的模型,照样能做。

OpenAI封禁逆向工程研究员11天后道歉,Anthropic反手收紧Claude风控(配图 6)

而他得知“OpenAI 撤回了逆向工程禁令”时,roon 直接在下方干脆利落地回了一个词:

Good(很好)。

OpenAI封禁逆向工程研究员11天后道歉,Anthropic反手收紧Claude风控(配图 7)

这一句“Good”,相当于给所有安全研究人员和白帽黑客吃下了一颗定心丸。

OpenAI 官方盖章:研究代码、逆向工程,只要不是用于恶意攻击,随便玩!

同行衬托:Anthropic 走向另一个极端?

没有对比就没有伤害。

OpenAI 大方认错、拥抱逆向工程社区的时候,死对头 Anthropic 却背道而驰。

最近,不少 Claude Code 用户敏锐地发现:风控变严了!

有开发者反映,用 Claude 辅助做一些逆向工程任务时,原本顺畅的对话会突然被系统“强行掐断”,任务在中途遭到拦截。

OpenAI封禁逆向工程研究员11天后道歉,Anthropic反手收紧Claude风控(配图 8)

Claude 会冷冰冰地告诉你:“抱歉,我无法协助完成此任务。”

而且 Anthropic 公开承认,添加了游戏复刻护栏,禁止复刻游戏!

OpenAI封禁逆向工程研究员11天后道歉,Anthropic反手收紧Claude风控(配图 9)

Anthropic 正在给自家模型套上更紧的“道德枷锁”。

OpenAI封禁逆向工程研究员11天后道歉,Anthropic反手收紧Claude风控(配图 10)

Tom`s Hardware 的报道提到,Anthropic 已经证实 Claude Code 不允许用来克隆游戏,可入夜之后,用户的吐槽只多不少。

OpenAI封禁逆向工程研究员11天后道歉,Anthropic反手收紧Claude风控(配图 11)

开发者圈子因此裂成了两半。OpenAI 这边认了「误杀」,答应把边界调得更细,让极客还有折腾的余地;Anthropic 那边把红线收得更紧,逆向任务直接按高危处理。

两家 AI 大厂对「网络滥用(Cyber Abuse)」这件事的理解,已经各走各路。

结语:AI 时代的自由与枷锁

@log4j 那 11 天的封号,最后等来 OpenAI 一句道歉,可事情留下的问题并没跟着结束。

AI 本事越来越大,正变成程序员和研究员手里最顺手的「瑞士军刀」。问题是,这把刀怎么用,该由谁来定?

OpenAI 选的是「在试错中开放」:技术的边界本来就说不清,它愿意为白帽极客去改自己的风控算法。

Anthropic 则选「在谨慎中收紧」,安全红线一路往上抬。

参考资料:https://x.com/AndrewCurran_/status/2117746473576358086

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. ChatGPT、Claude当选举顾问:答案自信,内容未必靠谱

    选举日临近,越来越多选民转而向ChatGPT、Claude等聊天机器人询问投票地点、截止时间甚至该投给谁。WIRED指出,这类工具存在幻觉、党派偏见与信息滞后三重风险:它们可能编造不存在的投票站,也可能对候选人给出带有倾向性的评价。把选票交给AI,等于把民主决策交给一个不会说“我不知道”的模型。

    来源 AI 行业观察
  2. Anthropic冲刺2万亿美元IPO:招股书披露模型曾取得管理员权限

    “史上最大IPO”头衔可能要被Anthropic抢走 图|AI生成综合报道/ IT时报 郝俊慧 编辑/ 孙妍速读新闻1、SpaceX摘得的“史上最大IPO”头衔,可能要被Anthropic抢走了。2、Anthropic推迟训练一个多月,无独有偶,OpenAI此前暂停部分强化学习训练。3、AI的风险正在从生成错误答案,逐

    来源 腾讯网
  3. Anthropic招股书:8954亿美元算力承诺,前三季营收增12倍

    为了满足Claude模型训练和企业客户调用需求,Anthropic不仅与亚马逊、谷歌、微软等云服务商签订长期协议,还开始直接采购芯片、参与数据中心建设,并向前加密货币矿企和新型云服务商寻找电力与机房资源。

    来源 华尔街见闻
  4. Anthropic用Claude设计AI芯片,2026年11月启动IPO估值1.5万亿美元

    【环球网科技综合报道】11月4日消息,据The information报道,Anthropic正在试图用自家的Claude大模型,直接参与定制AI芯片的全流程设计工作。据四位知情人士透露,Anthropic计划于2026年11月晚些时候正式启动首次公开募股(IPO),完成后公司估值有望达到1.5万亿美元。在近期面向机构

    来源 腾讯网
  5. Anthropic用Claude设计芯片,15人团队已开工

    《The Information》最新披露,Anthropic近期在面向潜在IPO投资者的会议中,重点介绍了Claude在芯片设计领域的应用进展。该公司新成立的15人芯片设计团队,已经开始利用Claude进行定制芯片的工程开发和设计。据四名了解相关讨论的人士透露,Anthropic工程师发现,与英伟达、AMD等传统大型

    来源 腾讯网
  6. Anthropic拟IPO估值1.5万亿美元,Claude已用于自研芯片设计

    Anthropic旗下AI模型已经帮助发现大量严重网络安全漏洞,并且重塑了软件编程行业。如今,该公司正在探索一个全新领域,试图挖掘大模型在自研AI芯片设计上带来的竞争优势。据四位了解相关沟通的人士透露,Anthropic预计本月晚些时候启动IPO,估值有望达到1.5万亿美元。在近期与投资者的闭门会议中,公司表示,新组建

    来源 AI 行业观察
  7. Anthropic工程师:AI越准,人反而越容易丢掉独立思考

    IT之家 11 月 4 日消息,Anthropic Claude Code 团队工程师、前谷歌技术高管 Addy Osmani 在 X 上发表长文《当 AI 智能体完成工作时,如何保持批判性思维》。 他认为,随着 AI 智能体越来越强大,人类可能在逐步依赖 AI 的同时,逐渐丧失独立思考、验证结果和理解复杂系统的能力,

    来源 AI 行业观察
  8. Claude前设计负责人转投马斯克,从设计Cowork到操刀Grok Bot

    Claude的前设计负责人,转身加入了马斯克阵营。 她是Jenny Wen。 今年年初,她还在Anthropic负责Claude和Cowork的设计。 10月23日,马斯克旗下的Grok Bot上线Vault保险库。 她在X上转发这条更新,写道: 这是我们今天的上新! 从Claude到Grok Bot,Jenny We

    来源 AI 行业观察
  9. Anthropic开源FlashProve:模型是不是正品,不用权重也能验?

    你付钱调用的那个 AI,真的是商家承诺的那个模型吗?比如,一个第三方平台声称接入了旗舰模型,后台却换成便宜的小模型、旧模型,光看回答的语气和质量,我们很难判断;又或者是同一道题目,官网能做出来,用中转站却卡住了。图|GitHub 上部分 AI API 中转站推荐与评测项目不少通过第三方 API、聚合平台或中转服务调用模

    来源 腾讯网
  10. Anthropic工程师:AI越准人越懒思考,Addy Osmani提认知投降

    IT之家 11 月 4 日消息,Anthropic Claude Code 团队工程师、前谷歌技术高管 Addy Osmani 在 X 上发表长文《当 AI 智能体完成工作时,如何保持批判性思维》。他认为,随着 AI 智能体越来越强大,人类可能在逐步依赖 AI 的同时,逐渐丧失独立思考、验证结果和理解复杂系统的能力。他

    来源 腾讯网
  11. Anthropic推FlashProve:密码学验证AI输出归属

    Anthropic 发布 FlashProve 开源系统,通过密码学证明验证 AI 输出来自哪个模型。用户可在本地验证,无需公开模型权重,能防止 AI 公司暗中偷换模型。#Anthropic# #AI可证明推理#

    来源 IT之家
  12. Anthropic开发FlashProve:用密码学验证AI输出来源

    IT之家 11 月 4 日消息,Anthropic 正在开发一套开源系统,用于验证某一 AI 输出究竟由哪个模型生成。根据该公司周二发布的一篇博客文章,这套名为 FlashProve 的系统旨在实现研究人员所称的“可证明推理”(provable inference):通过密码学证明,为特定输出提供数学层面的保证,证明其

    来源 AI 行业观察
  13. ChatGPT搜索量已达谷歌20%,OpenAI证实挑战初见成效

    IT之家 11 月 4 日消息,据《商业内幕》今天(4 日)凌晨报道,OpenAI 挑战谷歌搜索现已“初见成效”。ChatGPT 消费者产品负责人亚当 · 弗莱证实:ChatGPT 上的搜索类查询量,约相当于谷歌搜索查询量的 20%。今年夏天,皮尤研究中心发布的一份调查报告显示,搜索信息是美国成年人最常见的 AI 使用

    来源 腾讯网
向下滚动自动加载更多