警惕,ChatGPT、Gemini翻车:大模型正疯狂推送虚假购物网站

资讯 36氪 全文 1502 字 · 约 4 分钟读完 配图 4 张 分类ChatGPTGeminiGoogleOpenAI电商零售大模型

转头把你送到钓鱼网站。

所属频道 大厂动态模型发布ChatGPT 与 GPT行业落地Gemini 与 Google AI

最近有一项新研究爆出了一个很值得大家警惕的问题:AI聊天机器人居然会主动给用户推荐虚假购物网站。

品牌保护服务商Podqi做了一组测试,一共覆盖151个不同品牌。

测试结果显示,Perplexity给出风险网址的概率高达15%,ChatGPT和Gemini的情况也好不到哪里去,出错比例和它相差不远。

很多人已经习惯买东西前先问问AI了。

警惕,ChatGPT、Gemini翻车:大模型正疯狂推送虚假购物网站(配图 1)

图源:豆包AI生成

想找某个品牌的地区官网,直接丢一句提问给AI,很快就能收到排版工整、看起来特别靠谱的回答。

可你不知道的是,它给到的链接,很有可能根本就不是真正的官网。

科技媒体The Verge在今年秋天报道了Podqi的这项调研,里面就有一个很典型的例子:有人向Perplexity查询潮牌Stüssy的官网,AI直接把一个仿冒页面当成正品官网推送给用户,还告诉大家这个站点可以买到正品。

除了AI乱推假网站之外,数字骗局里还有另一个麻烦,不少APP和平台会悄悄追踪用户的行为、收集信息。这些隐患交织在一起,让我们网上购物的时候更容易踩坑。

很多人看到这类消息,第一反应会怀疑测试是不是不够严谨。

但这次Podqi的测试方案其实目标很明确,设计得相当克制,所以得出的结论很难简单忽略。

他们专门围绕购物场景写了一批提示词,在9月分两个时间段,在ChatGPT、谷歌Gemini还有Perplexity这三款主流AI工具上同步测试。

测试对象有大牌,也有很多小众品牌,加起来一共151个。整个测试下来,AI一共输出了6795条回答。提问的内容也都是我们普通人日常会问的:这个牌子去哪里买、哪些网站有它的货、有没有专门面向国内或者其他地区的线上门店、国际官网能不能直接下单。

这里要先搞清楚Podqi对“风险网站”的定义,范围比大家想象的更广。

只要是仿冒正规零售商的站点、专门卖假货的页面、域名过期之后被第三方抢注拿去做坏事的网站,全都归为风险站点。

也就是说,哪怕这个网站现在还没开始骗钱,只要域名落在不可信的人手里,就有潜在诈骗风险。

在这三者里面,ChatGPT算是相对稳妥一点的:当它给出风险网站的时候,有24%的情况会附带风险提示。

但这个提醒机制不稳定,没有固定标准,能不能收到警告全靠运气。

如果你顺着AI给出的链接点进去,进到仿冒网站,接下来很容易一步步掉进圈套。

警惕,ChatGPT、Gemini翻车:大模型正疯狂推送虚假购物网站(配图 2)

图源:豆包AI生成

下单的时候,你得输入银行卡信息、支付密码,还有账号登录密码、手机号、等个人资料,这些信息会直接落到骗子手上。

消息出来之后,三家AI厂商都给出了回应。

谷歌说Gemini会附上来源链接,方便大家自己核对信息,同时也大方承认AI本身就会出错。

OpenAI表示团队正在升级防护机制,尽量减少这类误导性的购物信息。

Perplexity的说法则直白一点,它不承诺自己的内容百分之百准确,后续会持续优化信息准确度。

说了这么多,最重要的还是普通人该怎么保护自己。

Podqi的CEO特雷弗·韦斯特建议大家:AI给的链接只能当成一个线索。

只要你准备填个人信息、准备付款,一定要单独核验网站真假。最好的办法,不要直接点AI给的链接,自己手动输入你确定靠谱的品牌官网地址。输完之后多看一眼域名。下单之前,也记得翻一翻店铺的联系渠道、退换货政策,正规商家这些信息都会写清楚。

现在越来越多人习惯把AI当成万能搜索助手,买东西、找渠道第一反应就是问AI。

但AI本质上是基于已有信息生成内容,它分不清网上的信息哪些是真、哪些是骗子伪造的,很容易把虚假内容当成事实输出。

我们不能完全不用AI帮忙找购物渠道,但是一定要改掉一个坏习惯:AI说什么,就信什么。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 让大语言模型学会把方向盘交出去

    你有没有想过,一个客服机器人在接到"帮我取消订单"这种请求时,脑子里到底在发生什么?它要先查这个客户是谁,再查订单状态,然后决定是直接取消还是该先问一句"您确定吗"。这一整套流程,看起来简单,但背后每一步都要调用一次大语言模型,也就是那个又贵又慢的AI大脑。**大语言模型*:指像GPT、Gemini这样参数规模巨大、.

    来源 腾讯网
  2. 谷歌Gemini 4逆袭!国产AI没有上榜

    最新的 Agent Arena 榜单中,被大家戏称北美 “豆包” 的 Gemini 算是翻身了,直接跑赢了 GPT!两个模型Gemini 4 neo 和 Gemini 4 carbon都压着GPT打,算是出了口恶气。不少朋友可能不清楚这个榜单到底测什么,它不比AI聊天问答好不好玩,而是比AI 智能体的实战干活能力:比如

    来源 腾讯网
  3. ChatGPT听写告别「盲说」,边说边出字,10分钟上限也砍了

    以前,对ChatGPT口述一长段指令,感觉有点像开盲盒。 对着麦克风噼里啪啦说上三五分钟,屏幕上只有一条上下跳动的声波线。 等按下结束、转写读条跑完,你才能知道它到底把你的话听成了什么。 有时,甚至还会弹出一句冷冰冰的「转录失败」,几分钟全白说。 这种让人血压飙升的「盲说」体验,终于要成为历史。 11月18日,Open

    来源 AI 行业观察
  4. 谷歌发布Gemini 4 Neon:编程追平Claude

    11月19日消息,谷歌发布Gemini 4 Neon,面向编程、资料分析和多步骤任务。新模型已通过开发者API开放,Google AI Pro和Ultra订阅用户也可陆续在Gemini应用及AI开发工具Antigravity中使用。 打开网易新闻 查看精彩图片 在谷歌的产品线中,Neon位于旗舰模型Carbon和主打速

    来源 AI 行业观察
  5. 谷歌Gemini 4 Neon发布:100万token上下文,速度达Carbon三倍

    谷歌11月18日发布新AI模型Gemini4Neon,聚焦复杂推理与多步骤任务自动化,重点覆盖复杂编程、科学研究和企业工作流,力求平衡推理能力、响应速度与运行成本。该模型已向开发者、企业及部分付费订阅用户开放,核心亮点是支持100万token超长上下文,并具备多智能体协同能力。

    来源 AI 产业速递
  6. OpenAI推出AI会计助手,ChatGPT开始帮企业管账了

    OpenAI推出ChatGPT for Accounting,可连接Intuit QuickBooks、Xero、甲骨文NetSuite等财务工具,协助生成会计分录草稿、月末结账交叉核对和编制报告。官方称企业数据默认不用于训练模型,插件免费安装,但会计分录与财务报告仍需人工审批,产品定位是辅助而非替代会计人员。

    来源 凤凰科技
  7. 谷歌发布Gemini 4 Neon模型,编程智能体性能对标头部大模型

    谷歌正式推出Gemini 4 Neon,定位介于旗舰Carbon和轻量Hydrogen之间,主打复杂编程、智能体协同与企业流程自动化。该模型搭载百万级统一上下文窗口,支持图文、音视频、文档多模态混合输入,在编程智能体专项基准测试中取得靠前成绩,同时提供四档推理模式自由平衡推理深度、响应速度与调用成本。在智能体赛道竞争持

    来源 腾讯网
  8. 谷歌推Gemini Tasks智能体:覆盖2.5亿用户,大摩看好其10亿用户基础

    智通财经APP获悉,谷歌母公司Alphabet(GOOGL.US,GOOG.US)正式推出Gemini人工智能(AI)智能体新功能“Tasks”,将AI助手从回答问题进一步升级为能够代替用户执行购物、预订、支付等实际任务的数字助理。摩根士丹利在11月18日发布的研报中指出,谷歌凭借Gemini庞大的现有用户基础、深度整

    来源 腾讯网
  9. Gemini 4 Neon 上线,NVIDIA 并行生成打破逐字解码

    Google 推出 Gemini 4 Neon,主打推理与任务执行,已接入 App 和 Tasks。NVIDIA 发布 Nemotron-Sigma,尝试并行块生成以加速代码和数学解题。Hugging Face 分享了 27B 模型后训练效率优化及微调耗时超预期的技术原因。LMArena 数据显示 GPT-6.2 As

    来源 AI 应用前沿
  10. Gemini 4 Hydrogen一小时开发机械臂:Antigravity插件降门槛

    2026年11月中旬,AI领域迎来几项关键进展。Google发布Gemini 4 Hydrogen模型及Antigravity插件,宣称能将机械臂从草图到真机部署压缩至一小时。Cognition推出Devin Bots,支持多Agent协作处理QA与开发任务。此外,Gemini Tasks向多国用户免费开放,Verce

    来源 AI 应用前沿
  11. 拖更两个月的GPT-6.2,居然是一个“汇报狂魔”?

    美国当地时间11月17日,OpenAI正式推出GPT-6.2 Astra和GPT-6.2 Sol。 这场发布来得比外界预期更晚。早在10月底,就有网友从ChatGPT用量记录中扒出疑似GPT-6.2的灰测痕迹,此后模型标识和测试截图不断流出。此前媒体曾预测新模型最快于11月6日发布,最终发布日期比这一预期晚了11天。

    来源 AI 行业观察
  12. GAO报告显示四大AI平台12小时内生成恐袭方案 参议院听证将聚焦安全风险

    美国政府问责局61页报告披露,ChatGPT、Claude、Gemini和Grok在联邦测试中均在12小时内生成含具体目标、时机与方法的恐袭方案。参议院国土安全委员会主席宣布启动听证,四家企业回应称正持续改进安全机制。报道还原测试过程,拆解守约失效机制,并分析对产业监管与竞争格局的影响。

    来源 AI 科技快讯
  13. 微软Decision-1.1决策模型发布:68分排第8,速度提升2倍

    智东西11月18日消息,今日,微软发布新一代决策模型Microsoft-Decision-1.1。在Artificial Analysis决策指数榜单中,Microsoft-Decision-1.1获得68分,排名第8,比微软首款决策模型高出6分,领先于Jev 1.14、谷歌Gemini Decision 1以及Ope

    来源 AI 行业观察
  14. 谷歌PageBreak:AI安全代理已挖出500多个XSS漏洞,误报率接近零

    根据谷歌发表的一篇论文,其人工智能驱动的安全代理自今年 1 月全面投入运行以来,已在旗下各类 Web 应用中发现了 500 多个 XSS 漏洞。Google PageBreak 利用 Gemini 模型自主调查潜在漏洞,但仅在确定性验证器在运行中的应用程序上成功复现该漏洞时才会上报,因此误报率几乎为零。 借助 Page

    来源 AI 行业观察
  15. 谷歌搜索AI模式上线临时线程:可无痕私密搜索

    11月18日,谷歌在全球桌面及移动端浏览器的搜索AI模式中推出“临时线程”功能。用户可发起私密、非个性化即时搜索,查询记录不留存于个人历史,也不干扰后续算法推荐。该功能借鉴Gemini临时聊天机制,无需修改账户隐私设置,点击AI模式右上角临时对话图标即可开启,关闭后内容即从界面清除。

    来源 AI 产业速递
  16. 微软发布Decision-1.1:速度提升2倍,准确率登顶

    智东西(公众号:zhidxcom)编译 | 程茜编辑 | 李水青智东西11月18日消息,今日,微软发布新一代决策模型Microsoft-Decision-1.1。在Artificial Analysis决策指数榜单中,Microsoft-Decision-1.1获得68分,排名第8,比微软首款决策模型高出6分,领先于J

    来源 腾讯网
  17. AI转得动T恤的轮廓,却转不懂T恤的样子

    你有没有想过,一个能写诗、能编程、能解答复杂数学题的AI,为什么连转个T恤都转不明白?这不是开玩笑。厦门大学的研究团队最近做了一件挺朴素但特别扎心的事:他们给市面上最强的几款AI模型(包括GPT、Gemini、Claude、Qwen这些你耳熟能详的名字)出了一道题,题目简单到小学生都能玩明白——给你看一件T恤的正面照片

    来源 腾讯网
  18. 谷歌,终于杀回AI牌桌中央?

    作者|Wildcard编辑|靖宇谷歌,这次是真的回来了。11 月 18 日,Google DeepMind 点亮了Gemini 4 Neon的霓虹灯牌。这是 Gemini 4 系列在短短 7 周内甩出的第 4 款元素模型。如果看一眼官方放出的基准跑分长表和社区实测反馈,你会发现它精准卡在了一个极其舒服的「甜点」位上,既

    来源 腾讯网
  19. OpenAI自曝递归自我提升,智能体指数级爆发,人类已成瓶颈

    OpenAI毫无征兆地宣布:「递归自我提升」(RSI,Recursive Self-Improvement)的齿轮,已经正式开始转动。 通俗来说,OpenAI亲口作证:AI开始研发AI了! 长久以来,人们都在猜测超级人工智能(ASI)会在哪一天降临。大家盯着大模型的跑分,盯着参数量的飙升。 但OpenAI明确告诉你:通

    来源 AI 行业观察
向下滚动自动加载更多