ChatGPT和Gemini被曝推送虚假购物网站:151品牌测试出错率几何?
最近有一项新研究爆出了一个很值得大家警惕的问题:AI聊天机器人居然会主动给用户推荐虚假购物网站。 品牌保护服务商Podqi做了一组测试,一共覆盖151个不同品牌。 测试结果显示,Perplexity给出风险网址的概率高达15%,ChatGPT和Gemini的情况也好不到哪里去,出错比例和它相差不远。 很多人已经习惯买东
一项新研究揭出一个让人捏把汗的问题:AI聊天机器人会主动把虚假购物网站推给用户。
品牌保护服务商Podqi围绕151个不同品牌做了一轮测试。
结果,Perplexity给出风险网址的比例达到15%;
ChatGPT和Gemini也没好到哪去,出错概率跟它差不太多。
如今不少人买东西之前,已经习惯先问问AI。

图源:豆包AI生成
想找某个品牌在当地的官网,把问题丢给AI,很快就能拿到一段排版整齐、看着相当可信的答复。
只是它给的链接,很可能压根不是真正的官网。
科技媒体The Verge今年秋天报道了Podqi这项调研,其中有个例子很典型:有人向Perplexity打听潮牌Stüssy的官网,AI把一个仿冒页面当成正品官网推了过去,还说这个站点能买到正品。
假网站乱推之外,数字骗局还藏着另一层麻烦——不少APP和平台会偷偷追踪用户行为、收集信息。几样隐患搅在一起,网上购物踩坑的几率就更大了。
这类消息传开,很多人头一个念头是:测试本身够不够严谨?
但Podqi这次的方案目标很清楚,设计上也相当克制,结论没那么容易一句话带过。
他们专门围绕购物场景拟了一批提示词,9月里分两个时段,同步在ChatGPT、谷歌
Gemini和Perplexity这三款主流AI工具上跑测试。
受测对象既有大牌,也有不少小众品牌,合计151个。整轮测试下来,AI总共输出6795条回答。问的都是普通人日常会问的:这牌子去哪儿买、哪些网站有货、有没有面向国内或其他地区的线上门店、国际官网能不能直接下单。
先得弄清Podqi怎么界定“风险网站”,它的范围比很多人以为的要宽。
仿冒正规零售商的站点、专做假货的页面、域名过期后被第三方抢注去干坏事的网站,都算风险站点。
换句话说,哪怕这个网站眼下还没开始骗钱,只要域名握在不可信的人手里,诈骗风险就已经埋下了。
三者之中,ChatGPT相对稳一些:它给出风险网站时,有24%的情况会带上风险提示。
可这套提醒机制并不稳定,没有固定标准,能不能收到警告基本看运气。
顺着AI给的链接点进去,落到仿冒网站,接下来就很容易一步步被套住。

图源:豆包AI生成
下单环节要填银行卡信息、支付密码,还有账号登录密码、手机号等个人资料,这些会直接落到骗子手里。
消息出来后,三家AI厂商都作了回应。
谷歌称Gemini会附上来源链接,方便用户自行核对,同时也坦承AI本身就会出错。
OpenAI表示,团队正在升级防护机制,尽量压低这类误导性的购物信息。
Perplexity的回应更直接:不保证内容百分之百准确,但承诺后续会持续提升信息准确度。
那普通人到底该怎么防?这才是最要紧的事。
Podqi的CEO特雷弗·韦斯特给出的建议是,把AI给的链接只当线索看。
一旦要填个人信息、要付款,就得自己另外核实网站真假。最稳妥的做法是不点AI给的链接,手动敲入你确认靠谱的品牌官网地址,输完再瞄一眼域名。下单前还要看看店铺的联系方式、退换货规则,正规商家这些都会写得明明白白。
如今把AI当万能搜索助手的人越来越多,买东西、找渠道,第一反应就是问AI。
可AI说到底只是基于已有信息生成内容,网上的信息哪些是真的、哪些是骗子编的,它分不清,很容易把假内容当成事实吐出来。
完全不用AI帮忙找购物渠道也不现实,但有个坏习惯必须改:AI说什么就信什么。