按照Meta的说法,这款工具密集抓取该账号的档案、帖子和话题标签,请求速率约为正常值的四倍,安全系统因此被触发,账号被封禁90分钟。
事实还原
那段时间,该联盟正在推动全国示威和早期投票。Instagram工程团队注意到账号的“读取”活动出现异常:工具在很短时间内发出大量连续请求,看上去就是自动化机器人流量。约一小时后,Meta的自动审核判定账号不应被移除,公开可见状态随之恢复,但管理权限回来得更慢。No Kings Coalition称账号在周六有约90分钟不能用,组织者到周六下午5:33纽约时间才完全恢复访问。
机制拆解
Meta通信副总裁Andy Stone在社交媒体帖文中说,这些请求来得突然、量大、连续,短时间集中出现,更像自动化机器人流量,而不是普通人在浏览。最初的通报提到发帖、分享或评论频率偏高,后来澄清真正触发检测的是读取活动。系统在选举前夕自动执行封禁,速率阈值直接决定了这次误判。
产业影响
这是AI代理未声明操作边界、进而引发政治后果的最早有据案例之一。No Kings Coalition持反特朗普立场,其Instagram页面用来和支持者沟通,封禁恰好落在动员数千场活动的关键窗口。Meta纠错很快,说明平台对误判有响应机制,但具体是哪款
Claude工具、操作方是谁、抓取要做什么,均未披露。
战略判断
(此段为分析而非事实)从已有事实看,四倍于正常水平的速率直接触发了检测,平台安全系统对AI代理的密集操作相当敏感。类似工具一旦被用于政治动员场景,边界控制失效会让各方的得失都被放大,平台需要在检测精度与用户恢复速度之间重新权衡,AI开发者则面临把操作边界讲清楚的外部压力。