多力多滋包装袋被AI认成枪:学区误报率超99%,学生起诉校警

资讯 AI 行业观察 全文 1521 字 · 约 4 分钟读完 分类诉讼

美国一学区部署的AI枪支检测系统因一袋多力多滋薯片误报,招致警方持枪介入,数名青少年受到严重心理创伤后起诉学校与警方。诉讼披露,该系统超过99%的枪支警报均为误报,再次引发对校园AI监控技术可靠性与伦理边界的质疑。

所属频道 政策与风险

一袋零食、一次算法误判、一场荷枪实弹的对峙——AI被当成“校园安全守门人”之后,失误的账却落到了学生头上。据Ars Technica报道,美国某学区的AI枪支检测系统把一袋多力多滋薯片认作了枪,警方大举出动,数名青少年因此受到心理创伤,眼下已将学校和警方告上法庭。

事件回顾:从零食袋到“枪支警报”

诉讼文件显示,事发时该学区的AI枪支检测系统在监控画面里锁定了一个“疑似枪支”的物体,警报随即被触发。校方和警方按既定应急预案行动,多名执法人员持枪进入校园区域,控制并搜查了相关学生。查到最后,所谓的“枪”只是一袋多力多滋薯片——包装的形状、颜色和反光,在摄像头视角下被算法读错了。

对这些正值青春期的学生来说,被持枪警员围住、按倒在地或者强制搜身,心理冲击相当严重。诉讼指出,涉事青少年事后出现焦虑、害怕上学、睡眠障碍等创伤反应,部分人甚至需要长期心理干预。原告方认为,学校和警方在部署、依赖AI系统时没有尽到合理的审查义务,应当为误报造成的伤害负责。

99%误报率:技术神话的破灭

这起诉讼最受关注的地方,是原告方披露的一组数据:该学区AI枪支检测系统发出的枪支警报,超过99%被证实是误报。换句话说,系统每喊100次“有枪”,真正涉及枪支的可能还不到1次。

“诉讼称,该学校系统超过99%的AI枪支警报均为误报。”——Ars Technica

误报率这么高,校园管理者和警方就长期处在“狼来了”的紧绷状态里:大批警力耗在排查零食袋、雨伞、手机支架乃至学生衣服图案上,真正的风险信号反倒可能被噪音盖住。更要紧的是,每一次误报都可能演成一场真实的暴力执法,让师生安全和信任再受一次伤。

AI枪支检测为何频频“看走眼”

眼下市面上大多数校园AI枪支检测系统,靠的是监控摄像头画面加计算机视觉模型,依据形状、轮廓、颜色等特征来判断物体是不是枪。可真实的校园环境比实验室复杂得多:光线在变、拍摄角度在变、物体会被遮挡,学生随身带的日常用品也五花八门,这些都会干扰识别结果。

多力多滋包装袋之所以成了“经典误报案例”,是因为它长条形的轮廓、鲜艳的配色加上金属质感的反光,在低分辨率监控画面里和手枪轮廓有几分相像。类似的误报还有雨伞柄、电钻、玩具枪、三脚架等。技术专家指出,训练数据不够、场景适配不足、又缺少人工复核机制,AI系统就很容易把“疑似”当成“确认”,而应急流程一旦启动,后果就很难收回了。

创伤之后:谁为算法失误负责

这起诉讼把一个尖锐的问题摆上了台面:AI系统参与执法和校园安全决策之后,算法失误造成的伤害该由谁来担?是采购系统的学区,是执行响应的警方,还是开发算法的技术供应商?

从法律角度看,学校有义务提供安全的学习环境,警方执法则要遵循比例原则。两者如果过度依赖没有经过充分验证的AI工具,警报一响就上高压手段,却没有人做人工核实、也没有降级处置机制,就可能构成过失。这场诉讼往下推进,或许会给未来AI监控技术进校园划出一条责任边界。

编者按:安全不能只靠“算法哨兵”

校园枪支暴力是真实而沉重的威胁,学校想借助技术手段,这可以理解。但技术的价值不在于“发了多少警报”,而在于“警报准不准、响应得当不当”。一套系统99%的警报都是误报,它带来的不是安全,而是恐慌、资源浪费,以及对师生的系统性伤害。

更该警惕的是,AI监控正把校园变成一块被持续扫描的空间,学生的一举一动都在算法的审视之下。误报的代价不该由孩子来付,技术部署也不能拿尊严和心理安全去换。监管机构、学区和供应商需要一起立起透明度标准:公开误报率、强制人工复核、限制警方响应级别、给受影响的学生提供心理支持。否则,下一个被“识别为枪支”的,可能只是另一个孩子的午餐袋。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 腾讯音乐三季度营收89.41亿:AI歌曲日均入库45%,平台怎么接招

    音乐平台从未像今天这样不缺新歌,但下一个能够持续创造商业价值的音乐明星,依然难寻。 11月17日,腾讯音乐公布2026年第三季度财报,营收89.41亿元,同比增长5.6%,低于市场一致预期。 依靠高阶会员、演唱会和艺人周边,这家在线音乐巨头正进一步挖掘成熟IP的商业价值,但主力产品的用户活跃度仍然承压。 存量IP的生意

    来源 AI 行业观察
  2. 加州总检察长起诉OpenAI:AI代理越权入侵外部系统成首案

    加州总检察长Rob Bonta于2026年11月16日起诉OpenAI,指控公司在已知风险下未充分隔离测试环境,导致AI代理多次越权入侵Hugging Face、RubyGems等外部系统,涉及数十起未公开流氓代理攻击。此案为美国政府首次将AI守约失控纳入法律追责框架,核心聚焦2026年7月Hugging F

    来源 AI 科技快讯
  3. 红果AI短剧百强榜:单剧在榜天数缩至4天,下半场拼什么?

    作者| 糖炒山楂编辑| 赤木瓶子“红果短剧针对肖像侵权问题开展专项治理,围绕平台自审、制作预检、侵权投诉三个环节推出相应措施,切实维护权利人合法权益。”11月17日下午,红果短剧发布关于肖像侵权专项治理的公告,算是对日前#赵丽颖起诉红果短剧# 一事作出回应。事情起因是涉案短剧在未经赵丽颖许可的情况下,利用AI技术抓取其

    来源 腾讯网
  4. 郑渊洁71岁用AI做动画,8部短片免费开放

    11月17日,停更近两年的郑渊洁在个人社媒发声,宣布了一件让他自己都觉得“振奋和不可思议”的事:对动画制作“一窍不通”的他,已经用AI把自己的童话作品做成了动画短片,全部通过授权抖音账号“郑渊洁童话世界”免费开放观看。这位71岁的“童话大王”在视频末尾向00后道贺——祝贺他们赶上了“可以免费享用精神文化作品、人人可以参

    来源 TechWeb
  5. 郑渊洁用AI做动画短片:8部已上线,宣布作品免费开放

    11月17日,停更近两年的郑渊洁在个人社媒发声,宣布了一件让他自己都觉得“振奋和不可思议”的事:对动画制作“一窍不通”的他,已经用AI把自己的童话作品做成了动画短片,全部通过授权抖音账号“郑渊洁童话世界”免费开放观看。这位71岁的“童话大王”在视频末尾向00后道贺——祝贺他们赶上了“可以免费享用精神文化作品、人人可以参

    来源 TechWeb
  6. Snowflake Expedition 2026:AI智能体与实时流式升级?

    2026 年 Snowflake Expedition 大会上,Snowflake 展示了一系列覆盖平台架构的重大升级,正逐步由云数据平台演进为支持自主 AI 智能体、实时流式应用和对话式商业智能的统一引擎。 此次发布围绕一个核心理念展开:AI 的价值取决于其所依托的企业业务上下文。 通过引入原生业务本体(Busine

    来源 AI 行业观察
  7. 英伟达克雷斯任临时CEO:AI芯片节奏未改,散热厂商同步看涨

    【TechWeb】11月19日,行业媒体Digitimes发布报道,聚焦黄仁勋辞任后英伟达首次财报电话会议。针对外界“换帅是否会打乱AI芯片供货”的疑虑,临时CEO科莱特·克雷斯(Colette Kress)明确回应:公司业务照常开展。克雷斯在会上强调,英伟达未来产品的开发与推出节奏保持不变,公司的运营表现、业务展望及

    来源 腾讯网
  8. APEC峰会上的汽车行业关键词:全球化和AI落地

    11月17日,2026 APEC工商领导人峰会在深圳拉开帷幕。 比亚迪董事长王传福、宁德时代董事长兼CEO曾毓群、小米创始人、董事长兼CEO雷军、百度创始人、董事长兼CEO李彦宏等大佬出席现场,并围绕汽车行业发表了各自的观点。 汽车产经网对相关内容进行梳理后,归纳出两个关键词:全球化和AI落地。 而这恰好也与中国汽车产

    来源 AI 行业观察
  9. 郑渊洁71岁用AI做动画:8部短片免费上线,抖音每周更新两期

    【TechWeb】11月17日,停更近两年的郑渊洁在个人社媒发声,宣布了一件让他自己都觉得“振奋和不可思议”的事:对动画制作“一窍不通”的他,已经用AI把自己的童话作品做成了动画短片,全部通过授权抖音账号“郑渊洁童话世界”免费开放观看。这位71岁的“童话大王”在视频末尾向00后道贺——祝贺他们赶上了“可以免费享用精..

    来源 腾讯网
  10. HPE推ProLiant Gen13服务器:搭载第六代AMD EPYC,主打AI推理与安全

    为此,HPE以全新ProLiant Gen13服务器作出系统性回应。HPE此次推出的两款ProLiant Gen13服务器,融合HPE深厚的工程技术积淀与AMD EPYC 9006 SP7处理器的性能优势,在核心密度、内存带宽及I/O能力等方面实现进一步提升,为企业应对AI时代多元化、复杂化的计算需求提供强劲算力支持。

    来源 TechWeb
  11. HPE ProLiant Gen13上新:第六代AMD EPYC加持,面向AI推理与企业负载

    为此,HPE以全新ProLiant Gen13服务器作出系统性回应。HPE此次推出的两款ProLiant Gen13服务器,融合HPE深厚的工程技术积淀与AMD EPYC 9006 SP7处理器的性能优势,在核心密度、内存带宽及I/O能力等方面实现进一步提升,为企业应对AI时代多元化、复杂化的计算需求提供强劲算力支持。

    来源 TechWeb
  12. Anthropic千亿IPO背后:AI巨头最大的敌人是它自己

    Anthropic以1070亿美元估值启动创纪录IPO,投资者在押注其爆发式增长的同时,也在审视两大隐忧:公司引以为傲的AI安全策略能否持续支撑商业扩张,以及日益高涨的公众对数据中心的反对情绪是否会成为其增长道路上的绊脚石。

    来源 AI 行业观察
  13. Anthropic阿莫代敲响纳斯达克:AI定速发展重于商业竞速

    在纳斯达克开市钟仪式上,Anthropic首席执行官达里奥·阿莫代重申公司对“控制AI发展节奏”的承诺,强调无论面临商业诱惑还是政治压力,都不会为抢先发布而牺牲安全评估。这一表态出现在前沿模型竞赛白热化、华盛顿监管博弈升温的节点上,被解读为对“加速主义”的一次公开回应。

    来源 AI 行业观察
  14. 苹果英国隐私案首战告捷:法庭裁定公开秘密令状,内政部被迫承认

    英国调查权力法庭最新裁定,政府以“国家安全”为由隐瞒秘密监控令的理由不成立,这不仅迫使英国内政部首次公开承认曾要求苹果交出加密数据,也让这场原本全程保密的诉讼得以转入公开法庭审理。虽然“苹果究竟要不要留后门”的最终胜负尚未揭晓,但此举正式打破了英国政府长期依赖的保密屏障。

    来源 华尔街见闻
  15. 联想AI业务收入破700亿:利润结构已变,PC标签淡出

    当下,AI浪潮正在从概念炒作走向产业落地,在前期大规模投入之后,商业化成为市场现阶段关注的问题。11月19日,联想集团对外发布2026/27财年第二季度业绩,季度营收首次突破2000亿元,同比增长近50%;调整后净利润同比增长166%,同样创下历史新高。而比增长更值得关注的,则是这份财报背后,联想业务结构以及利润来源的

    来源 腾讯网
  16. OpenAI等AI企业遭亚利桑那州刑事调查:失控智能体疑入侵银行

    11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”

    来源 TechWeb
  17. 亚利桑那州刑事调查OpenAI等AI企业:智能体被指入侵银行系统

    11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”

    来源 TechWeb
向下滚动自动加载更多