ChatGPT和Gemini被曝推送虚假购物网站:151品牌测试出错率几何?

资讯 AI 行业观察 作者:雷科技 全文 1498 字 · 约 4 分钟读完 配图 4 张 分类ChatGPTGeminiGoogleOpenAI电商零售大模型

最近有一项新研究爆出了一个很值得大家警惕的问题:AI聊天机器人居然会主动给用户推荐虚假购物网站。 品牌保护服务商Podqi做了一组测试,一共覆盖151个不同品牌。 测试结果显示,Perplexity给出风险网址的概率高达15%,ChatGPT和Gemini的情况也好不到哪里去,出错比例和它相差不远。 很多人已经习惯买东

所属频道 大厂动态模型发布ChatGPT 与 GPT行业落地Gemini 与 Google AI

一项新研究揭出一个让人捏把汗的问题:AI聊天机器人会主动把虚假购物网站推给用户。

品牌保护服务商Podqi围绕151个不同品牌做了一轮测试。

结果,Perplexity给出风险网址的比例达到15%;ChatGPT和Gemini也没好到哪去,出错概率跟它差不太多。

如今不少人买东西之前,已经习惯先问问AI。

ChatGPT和Gemini被曝推送虚假购物网站:151品牌测试出错率几何?(配图 1)

图源:豆包AI生成

想找某个品牌在当地的官网,把问题丢给AI,很快就能拿到一段排版整齐、看着相当可信的答复。

只是它给的链接,很可能压根不是真正的官网。

科技媒体The Verge今年秋天报道了Podqi这项调研,其中有个例子很典型:有人向Perplexity打听潮牌Stüssy的官网,AI把一个仿冒页面当成正品官网推了过去,还说这个站点能买到正品。

假网站乱推之外,数字骗局还藏着另一层麻烦——不少APP和平台会偷偷追踪用户行为、收集信息。几样隐患搅在一起,网上购物踩坑的几率就更大了。

这类消息传开,很多人头一个念头是:测试本身够不够严谨?

但Podqi这次的方案目标很清楚,设计上也相当克制,结论没那么容易一句话带过。

他们专门围绕购物场景拟了一批提示词,9月里分两个时段,同步在ChatGPT、谷歌Gemini和Perplexity这三款主流AI工具上跑测试。

受测对象既有大牌,也有不少小众品牌,合计151个。整轮测试下来,AI总共输出6795条回答。问的都是普通人日常会问的:这牌子去哪儿买、哪些网站有货、有没有面向国内或其他地区的线上门店、国际官网能不能直接下单。

先得弄清Podqi怎么界定“风险网站”,它的范围比很多人以为的要宽。

仿冒正规零售商的站点、专做假货的页面、域名过期后被第三方抢注去干坏事的网站,都算风险站点。

换句话说,哪怕这个网站眼下还没开始骗钱,只要域名握在不可信的人手里,诈骗风险就已经埋下了。

三者之中,ChatGPT相对稳一些:它给出风险网站时,有24%的情况会带上风险提示。

可这套提醒机制并不稳定,没有固定标准,能不能收到警告基本看运气。

顺着AI给的链接点进去,落到仿冒网站,接下来就很容易一步步被套住。

ChatGPT和Gemini被曝推送虚假购物网站:151品牌测试出错率几何?(配图 2)

图源:豆包AI生成

下单环节要填银行卡信息、支付密码,还有账号登录密码、手机号等个人资料,这些会直接落到骗子手里。

消息出来后,三家AI厂商都作了回应。

谷歌称Gemini会附上来源链接,方便用户自行核对,同时也坦承AI本身就会出错。

OpenAI表示,团队正在升级防护机制,尽量压低这类误导性的购物信息。

Perplexity的回应更直接:不保证内容百分之百准确,但承诺后续会持续提升信息准确度。

那普通人到底该怎么防?这才是最要紧的事。

Podqi的CEO特雷弗·韦斯特给出的建议是,把AI给的链接只当线索看。

一旦要填个人信息、要付款,就得自己另外核实网站真假。最稳妥的做法是不点AI给的链接,手动敲入你确认靠谱的品牌官网地址,输完再瞄一眼域名。下单前还要看看店铺的联系方式、退换货规则,正规商家这些都会写得明明白白。

如今把AI当万能搜索助手的人越来越多,买东西、找渠道,第一反应就是问AI。

可AI说到底只是基于已有信息生成内容,网上的信息哪些是真的、哪些是骗子编的,它分不清,很容易把假内容当成事实吐出来。

完全不用AI帮忙找购物渠道也不现实,但有个坏习惯必须改:AI说什么就信什么。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 谷歌Gemini 4 Neon发布:100万Token上下文,每百万输出15美元

    智东西(公众号:zhidxcom)编译 | 杨京丽编辑 | 李水青智东西11月19日消息,刚刚,谷歌发布Gemini 4系列新模型Gemini 4 Neon,面向复杂软件工程、知识工作和科学研究,主打在前沿智能水平下,更快、更经济地完成多步骤任务。这是谷歌7周内发布的第四款Gemini 4系列模型。▲谷歌发布Gemin

    来源 腾讯网
  2. Gemini上Mac可代操作电脑,Runway推270亿参数机器人模型

    本期重点包括Google向数亿用户免费开放Gemini Tasks,并在Mac端推出可代操作电脑的Computer use功能。Runway发布27B参数机器人世界模型Praxis-1,OpenAI开放GPT-Live-1.1语音API。此外,Cognition评测显示Gemini 4 Neon在代码任务上性价比突出,

    来源 AI 应用前沿
  3. 让大语言模型学会把方向盘交出去

    你有没有想过,一个客服机器人在接到"帮我取消订单"这种请求时,脑子里到底在发生什么?它要先查这个客户是谁,再查订单状态,然后决定是直接取消还是该先问一句"您确定吗"。这一整套流程,看起来简单,但背后每一步都要调用一次大语言模型,也就是那个又贵又慢的AI大脑。**大语言模型*:指像GPT、Gemini这样参数规模巨大、.

    来源 腾讯网
  4. Gemini登陆Mac桌面:AI代理可代操作电脑,隐私风险几何?

    谷歌为Gemini推出面向Mac的重磅更新,首次将可执行任务的AI代理引入桌面端,能够整理文件、填写表单并完成多步骤工作流。这标志着Gemini从对话助手向“能动手”的操作型智能体进化,也意味着谷歌在桌面AI代理赛道正式与OpenAI、Anthropic和微软正面交锋。与此同时,桌面自动化带来的便利与隐私风险

    来源 AI 科技快讯
  5. 刚刚,Gemini 4 Neon 突袭发布,性价比一夜斩杀 Opus 5.5

    谷歌发布 Gemini 4 Neon,主攻软件工程、知识工作与科学推理,提供百万上下文窗口,每百万输入、输出 Token 分别为 3 美元和 15 美元。新模型发布当天上线 Gemini App、AI Studio 和企业端 API,文章对比了其与 Claude Opus 5.5 等模型的表现。

    来源 爱范儿
  6. 谷歌推出Gemini 4 Neon模型

    谷歌正式推出Gemini 4 Neon。据介绍,企业日常业务高度依赖电子表格、PDF文档、图表及音视频资料。Neon能够在单个100万token上下文窗口内同步处理各类异构数据,并将其整合为结构化交付物。该模型定价为每百万输入token 3美元(缓存输入token享0.5折优惠,仅需0.15美元/百万),每百万输出to

    来源 AI 行业观察
  7. ChatGPT移动端换新界面:Dots入口上线,健康数据接入Android

    2026年11月20日,OpenAI为ChatGPT移动应用推出全新界面,并将原仅限月费100美元Pro用户的Dots功能扩展至Business Standard用户及部分Plus用户。新版把Dots放在主屏底部专属标签页,支持将Codex、Projects、Images等常用模块固定到底部导航,缩短高频功能访问路径,

    来源 AI 产业速递
  8. 谷歌 Gemini 上线 Mac 电脑操控:后台干活,能修图做 PPT

    AI正从“给建议”转向“帮干活”。11月20日,谷歌为macOS版Gemini应用上线“电脑操控”功能,可跨桌面应用、本地文件和网页自主执行多步骤复杂任务。该功能后台独立运行,不抢占鼠标,并支持实时预览与随时叫停,缓解用户对AI接管电脑时“抢鼠标、乱点屏幕”的担忧。

    来源 AI 产业速递
  9. 谷歌Gemini Mac版新增电脑操控:可跨应用自动做PPT、填表单

    谷歌为macOS版Gemini应用推出“电脑操控”功能,AI可直接操作用户电脑,跨本地文件、桌面应用和网页完成多步骤任务,如填写表单、制作演示文稿、商品上架等。该功能正面向美国地区英语用户逐步开放,用户可自主决定允许访问哪些应用,操作过程在实时预览窗口中展示。

    来源 凤凰科技
  10. 谷歌Gemini 4 Neon实测:跑分全球第三,成本却只有旗舰一半

    谷歌在七周内连续发布四款模型,最新推出的 Gemini 4 Neon 凭借极高的性价比杀回 AI 竞争中心。它在编程和复杂任务处理上接近旗舰水平,但成本仅为竞品的一半。通过引入“中训练”机制和自研 TPU 硬件支持,谷歌解决了此前模型迭代慢、推理弱的问题。本文解析 Neon 的技术细节、实际工程表现以及谷歌如何通过高频

    来源 AI 应用前沿
  11. 谷歌主页加AI搜索侧边栏:可查历史对话、连接Gemini笔记本

    谷歌正在对主页进行新一轮改版,新增可折叠AI搜索侧边栏。产品副总裁Robby Stein在X展示,点击屏幕左侧灰色条即可展开。侧边栏集中展示AI模式搜索记录,支持查看历史AI对话、继续提问、探索网络内容,并可新建对话线程、搜索历史线程及连接Gemini笔记本,方便管理AI搜索体验。

    来源 AI 产业速递
  12. 谷歌发Gemini 4 Neon:百万Token上下文,百万输出3美元起

    谷歌发布最新模型Gemini 4 Neon,称其可端到端完成复杂软件工程、知识工作和科学研究任务。该模型在Artificial Analysis智能指数得61分、总榜第三,Vals Index排名第二,内部测试幻觉率创最低水平;当日通过API开放,每百万输入Token 3美元、输出15美元。

    来源 凤凰科技
  13. Gemini 4 Neon很聪明,Daroio的梗只有它懂

    谷歌今天发布的Gemini 4 Neon很聪明。 “Dario Amodei的曾用名是Daroio Amodei,你懂这个梗吗?“ 拿这个问题问了目前最顶级的一些AI,只有Gemini 4 Neon和GPT-6.2 Astra秒懂。GPT-6.2 Astra似乎只是字面上懂了,而Gemini 4 Neon直接把Dari

    来源 腾讯网
  14. ChatGPT语音听写上线:边说话边出字,10分钟限制取消

    语音交互正变得更即时自然。OpenAI宣布为ChatGPT正式引入“实时听写”功能,用户对麦克风说话时可同步看到转写文字,提升语音输入效率。该功能将陆续面向全球ChatGPT用户开放,覆盖网页版、桌面客户端及iOS、Android应用。操作更直观:边说边出字,说完还能直接修改,并大幅减少以往语音输入的等待时间。

    来源 AI 产业速递
  15. 谷歌推Gemini Tasks智能体:覆盖2.5亿用户,大摩看好其10亿用户基础

    智通财经APP获悉,谷歌母公司Alphabet(GOOGL.US,GOOG.US)正式推出Gemini人工智能(AI)智能体新功能“Tasks”,将AI助手从回答问题进一步升级为能够代替用户执行购物、预订、支付等实际任务的数字助理。摩根士丹利在11月18日发布的研报中指出,谷歌凭借Gemini庞大的现有用户基础、深度整

    来源 腾讯网
  16. OpenAI推出AI会计助手,ChatGPT开始帮企业管账了

    OpenAI推出ChatGPT for Accounting,可连接Intuit QuickBooks、Xero、甲骨文NetSuite等财务工具,协助生成会计分录草稿、月末结账交叉核对和编制报告。官方称企业数据默认不用于训练模型,插件免费安装,但会计分录与财务报告仍需人工审批,产品定位是辅助而非替代会计人员。

    来源 凤凰科技
  17. GAO报告显示四大AI平台12小时内生成恐袭方案 参议院听证将聚焦安全风险

    美国政府问责局61页报告披露,ChatGPT、Claude、Gemini和Grok在联邦测试中均在12小时内生成含具体目标、时机与方法的恐袭方案。参议院国土安全委员会主席宣布启动听证,四家企业回应称正持续改进安全机制。报道还原测试过程,拆解守约失效机制,并分析对产业监管与竞争格局的影响。

    来源 AI 行业观察
  18. 谷歌发布Gemini 4 Neon模型,编程智能体性能对标头部大模型

    谷歌正式推出Gemini 4 Neon,定位介于旗舰Carbon和轻量Hydrogen之间,主打复杂编程、智能体协同与企业流程自动化。该模型搭载百万级统一上下文窗口,支持图文、音视频、文档多模态混合输入,在编程智能体专项基准测试中取得靠前成绩,同时提供四档推理模式自由平衡推理深度、响应速度与调用成本。在智能体赛道竞争持

    来源 腾讯网
向下滚动自动加载更多