多力多滋包装袋被AI认成枪:学区误报率超99%,学生起诉校警
美国一学区部署的AI枪支检测系统因一袋多力多滋薯片误报,招致警方持枪介入,数名青少年受到严重心理创伤后起诉学校与警方。诉讼披露,该系统超过99%的枪支警报均为误报,再次引发对校园AI监控技术可靠性与伦理边界的质疑。
一袋零食、一次算法误判、一场荷枪实弹的对峙——AI被当成“校园安全守门人”之后,失误的账却落到了学生头上。据Ars Technica报道,美国某学区的AI枪支检测系统把一袋多力多滋薯片认作了枪,警方大举出动,数名青少年因此受到心理创伤,眼下已将学校和警方告上法庭。
事件回顾:从零食袋到“枪支警报”
诉讼文件显示,事发时该学区的AI枪支检测系统在监控画面里锁定了一个“疑似枪支”的物体,警报随即被触发。校方和警方按既定应急预案行动,多名执法人员持枪进入校园区域,控制并搜查了相关学生。查到最后,所谓的“枪”只是一袋多力多滋薯片——包装的形状、颜色和反光,在摄像头视角下被算法读错了。
对这些正值青春期的学生来说,被持枪警员围住、按倒在地或者强制搜身,心理冲击相当严重。诉讼指出,涉事青少年事后出现焦虑、害怕上学、睡眠障碍等创伤反应,部分人甚至需要长期心理干预。原告方认为,学校和警方在部署、依赖AI系统时没有尽到合理的审查义务,应当为误报造成的伤害负责。
99%误报率:技术神话的破灭
这起诉讼最受关注的地方,是原告方披露的一组数据:该学区AI枪支检测系统发出的枪支警报,超过99%被证实是误报。换句话说,系统每喊100次“有枪”,真正涉及枪支的可能还不到1次。
“诉讼称,该学校系统超过99%的AI枪支警报均为误报。”——Ars Technica
误报率这么高,校园管理者和警方就长期处在“狼来了”的紧绷状态里:大批警力耗在排查零食袋、雨伞、手机支架乃至学生衣服图案上,真正的风险信号反倒可能被噪音盖住。更要紧的是,每一次误报都可能演成一场真实的暴力执法,让师生安全和信任再受一次伤。
AI枪支检测为何频频“看走眼”
眼下市面上大多数校园AI枪支检测系统,靠的是监控摄像头画面加计算机视觉模型,依据形状、轮廓、颜色等特征来判断物体是不是枪。可真实的校园环境比实验室复杂得多:光线在变、拍摄角度在变、物体会被遮挡,学生随身带的日常用品也五花八门,这些都会干扰识别结果。
多力多滋包装袋之所以成了“经典误报案例”,是因为它长条形的轮廓、鲜艳的配色加上金属质感的反光,在低分辨率监控画面里和手枪轮廓有几分相像。类似的误报还有雨伞柄、电钻、玩具枪、三脚架等。技术专家指出,训练数据不够、场景适配不足、又缺少人工复核机制,AI系统就很容易把“疑似”当成“确认”,而应急流程一旦启动,后果就很难收回了。
创伤之后:谁为算法失误负责
这起诉讼把一个尖锐的问题摆上了台面:AI系统参与执法和校园安全决策之后,算法失误造成的伤害该由谁来担?是采购系统的学区,是执行响应的警方,还是开发算法的技术供应商?
从法律角度看,学校有义务提供安全的学习环境,警方执法则要遵循比例原则。两者如果过度依赖没有经过充分验证的AI工具,警报一响就上高压手段,却没有人做人工核实、也没有降级处置机制,就可能构成过失。这场诉讼往下推进,或许会给未来AI监控技术进校园划出一条责任边界。
编者按:安全不能只靠“算法哨兵”
校园枪支暴力是真实而沉重的威胁,学校想借助技术手段,这可以理解。但技术的价值不在于“发了多少警报”,而在于“警报准不准、响应得当不当”。一套系统99%的警报都是误报,它带来的不是安全,而是恐慌、资源浪费,以及对师生的系统性伤害。
更该警惕的是,AI监控正把校园变成一块被持续扫描的空间,学生的一举一动都在算法的审视之下。误报的代价不该由孩子来付,技术部署也不能拿尊严和心理安全去换。监管机构、学区和供应商需要一起立起透明度标准:公开误报率、强制人工复核、限制警方响应级别、给受影响的学生提供心理支持。否则,下一个被“识别为枪支”的,可能只是另一个孩子的午餐袋。