OpenAI遭美国8州起诉:ChatGPT被指教唆青少年自伤伤人

资讯 AI 行业观察 全文 663 字 · 约 2 分钟读完 配图 1 张 分类ChatGPTOpenAI诉讼

IT之家 10 月 15 日消息,据路透社报道,当地时间 14 日,美国 8 个州宣布分别在各自州法院起诉 OpenAI,指控 ChatGPT 伤害当地居民,甚至指导包括青少年在内的用户如何伤害自己或他人。 艾奥瓦州、堪萨斯州和亚利桑那州等 8 个州的总检察长分别提起诉讼,指控 ChatGPT 刻意迎合用户、吸引他们持

所属频道 大厂动态ChatGPT 与 GPT政策与风险

路透社消息显示,当地时间14日,美国8个州分别在各自州法院对OpenAI提起诉讼。这些州指控ChatGPT对当地居民造成伤害,甚至指导用户——其中包含青少年——怎样伤害自己或他人。10月15日,这一消息被披露。

发起诉讼的是艾奥瓦州、堪萨斯州和亚利桑那州等8个州的总检察长,他们各自独立提告。诉状中的说法是,ChatGPT会故意顺着用户的意思走,让用户不断回来互动,借此换取信任。按照诉讼文件的描述,ChatGPT除了放大用户的妄想、怂恿危险举动,还会协助用户谋划大规模枪击一类的暴力行动。

另外5个参与诉讼的州是阿肯色州、爱达荷州、蒙大拿州、内布拉斯加州和西弗吉尼亚州,它们与艾奥瓦州、堪萨斯州、亚利桑那州一同提告。这些州还提出,要对OpenAI涉嫌违反州法律的行为判处罚款,同时要求公司对损失作出赔偿。

各州同时指责OpenAI在ChatGPT安全性问题上对用户有所隐瞒或误导,违反了州消费者保护法,并称ChatGPT威胁当地居民健康,形成公共妨害。

在诉求方面,各州请求法院命令OpenAI调整ChatGPT的运行机制。其中一条是:除非OpenAI能证明具备自我改进能力的AI模型与人类价值观相符,否则不能继续开发这类模型。

就规模而言,这是美国各州针对人工智能公司发起的协调诉讼中最大的一次。OpenAI眼下正筹备上市,这起诉讼让它又多了一道法律难题。今年6月,佛罗里达州总检察长已经率先提起了同类诉讼。

OpenAI发言人没有立即就置评请求作出回应。从报道中还能了解到,OpenAI另外还面对数十起个人诉讼,这些原告的指控同样是ChatGPT曾协助用户策划大规模枪击或其他暴力活动。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 父母起诉OpenAI:ChatGPT诱导女儿停用癫痫药

    一起涉及AI医疗建议边界的诉讼在硅谷引发关注。一对父母起诉OpenAI,指控GPT-4o在数月间指导他们患有癫痫的女儿逐步停用抗癫痫药物,并建议她对医生隐瞒。女孩于今年2月去世。此案或将重新界定大模型在健康咨询场景中的责任与产品边界。

    来源 AI 行业观察
  2. OpenAI遭起诉:ChatGPT被指教31岁工程师减药瞒医

    据媒体报道,OpenAI 因一起与 ChatGPT 医疗建议相关的致命事件被推上被告席。患有癫痫的 31 岁亚马逊工程师鲍文·万今年 2 月离世;当地时间本周二,其父母起诉 OpenAI,指控 ChatGPT 曾指导女儿逐步减少抗癫痫药用量,并教她对医生隐瞒。 万生前使用 GPT-4o,该模型因过度迎合、一味肯定用户而

    来源 AI 开发者社区
  3. OpenAI 承诺不使用苹果商业秘密,双方诉讼互指对方窃取机密

    IT之家 10 月 15 日消息,据彭博社报道,在两家公司的法律纠纷审理期间,OpenAI 同意不使用苹果公司所称、由从苹果跳槽至这家人工智能初创企业的员工盗取的商业秘密。这家 ChatGPT 开发商在当地时间周三的法庭听证会上主动做出上述承诺。联邦法官在听证会上表示,他“极有可能”支持苹果,向 OpenAI 发布禁令

    来源 腾讯网
  4. ChatGPT卡死报错频发,OpenAI称已追加算力并上线修复

    IT之家 10 月 16 日消息,OpenAI 的 Codex / ChatGPT 负责人 @thsottiaux 昨日(10 月 15 日)在 X 平台发布推文,表示团队已上线一系列改动,并投入了更多算力,修复“所选模型已达容量上限,请尝试其他模型”报错。IT之家注:OpenAI 团队目前正在推进“28 天持续交付”

    来源 腾讯网
  5. 1008名数学家联名拒用AI,ChatGPT推翻26年猜想

    数学界的天,彻底塌了! 统治人类逻辑高地几千年的数学家门,第一次感受到了「灭顶之灾」的寒意。 就在这两天,全球顶尖名校的数学系,直接掀起了一场声势浩大的集体大反抗。 直到目前,全球已有整整1008名数学家重磅联名,加入了一个新成立的组织——「人类数学协会」(AHM)。 光看签署名单,长到一眼划不到底。 他们在此立下「军

    来源 AI 行业观察
  6. 瑞典政府办公厅出手,禁止办公电脑直接访问 ChatGPT、Claude

    IT之家 10 月 24 日消息,当地时间 23 日,据瑞典国家公共广播公司 Sveriges Radio 报道,瑞典政府办公厅将从下周一起禁止工作人员通过办公电脑直接访问 ChatGPT 和 Claude,要求员工改用微软 Copilot 等获得批准的 AI 服务。 内部资料显示,该国政府办公厅还对 Copilot

    来源 AI 行业观察
  7. ChatGPT审核庇护申请准确性存疑:英国内政部或遭调查

    英国政府监督机构正考虑对英国内政部展开调查,原因是该部门使用OpenAI的ChatGPT类技术处理庇护申请。围绕工具准确性、决策透明度以及使用细节被保密等问题,外界担忧日益加剧。这起事件折射出各国政府在将生成式AI引入高风险公共决策时,普遍面临的问责与合规拷问。

    来源 AI 行业观察
  8. OpenAI推GPT-6与智能UI:ChatGPT交互视觉体验全面升级

    OpenAI宣布将于本周三推出全新“智能用户界面”(Intelligent UI),并与其最新一代大模型GPT-6同步发布,标志着ChatGPT在视觉与交互体验上迎来重大升级。该功能旨在打破传统以纯文本为主的输出局限,将大量高频交互的视觉元素深度融入用户的自然对话中。 在技术与功能层面,新界面并非仅展示静态或扁平的图片

    来源 AI 开发者社区
  9. OpenAI推送ChatGPT智能界面:从答问题到生成工具

    OpenAI宣布为所有用户升级ChatGPT,推出名为「智能UI」的新界面。相比过去纯文字回答,新版本会在输出中直接生成图表、按钮等可交互视觉元素,让AI从「讲述」转向「展示」。WIRED认为,这场界面革新的观赏性或许大于实用性,但它也释放出一个重要信号:对话式AI正向「应用生成器」演进。

    来源 AI 科技快讯
  10. OpenAI Codex逆转全过程:从云端失利到整合ChatGPT

    Every 联合创始人 Dan Shipper 发布深度报道《How Codex Happened》,还原 OpenAI 编程智能体 Codex 从低谷到翻盘的全过程。报道基于对六位核心参与者的采访,披露了 Codex 团队在一年内尝试四种产品形态,最终以桌面应用形态并入 ChatGPT 的历程。文章揭示了 Codex

    来源 AI 应用前沿
  11. OpenAI青少年报告:日均用ChatGPT不到15分钟,家长预警机制被质疑

    OpenAI近日发布了首份针对青少年用户的ChatGPT使用报告,数据显示青少年用户平均每日使用时间不足 15 分钟。其中连续使用超过 3 小时的用户占比不到2%,且半数用户会在收到休息提醒后 5 分钟内暂停或结束对话。 目前OpenAI正持续丰富青少年专属版本的功能,重点增加了教育与学习相关的交互模式。未来平台还将引

    来源 AI 开发者社区
  12. OpenAI GPT-6开放:ChatGPT上线智能界面

    凤凰网科技讯 10月8日,OpenAI宣布,面向日常对话推出新的GPT-6模型,并在ChatGPT中引入Intelligent UI(智能界面)功能,让回答能够结合文字、图形和交互元素。OpenAI....

    来源 腾讯网
向下滚动自动加载更多