作家：三明治 | 监制：罗超
这段时刻豆包翻车案例开阔上热搜，评释 AI 搜索越来越普及了。"万事未定问 AI "成了这届用户的新习气。但许多时候，AI 给的东西乍一看还不错，却根蒂不行深究。
有的数据找不着开始、有的主意是同名异意词、甚而它给的有些论文皆根蒂是编的，真把这些东西拿出来用，那可就得见笑于人了 ... 我发现吐槽 AI 搜索不靠谱这事儿的还不在少数。
（图源：Ron Stoner）
就前阵子，安全工程师罗恩・斯托纳（Ron Stoner）在个东说念主博客发布了一篇博文，堪称我方仅用 12 好意思元（约 82 元）注册域名和一次裁剪维基百科，就收效糊弄了 ChatGPT、Claude3、Gemini Advanced 等主流大模子。
这哥们到底整了什么活？
杏彩(XingCai)官网平台花 12 好意思元就收效糊弄了主流 AI
手脚安全工程师，Ron Stoner 对 Anthropic、OpenAI 等厂商饱读舞的"大模子需要数月甚而数年内继续导入坏心实质才会被碎裂"深表质疑，他以为我方全皆不错竣事一种更快、更低廉、更浅陋的曲折。
思竣事这一切，只须从数据回收层运转下手即可。
为此，Ron Stoner 盯上了一款名叫 6 Nimmt!（笔名：谁是毒头王）的德国桌游，这是一款刊行于 1994 年的老派战略卡牌游戏。
（图源：meeplelikeus）
为什么偏巧选中它呢？因为这款游戏有个特征，那便是它只在德国有些名气，活着畛域度内算籍籍无名，且在执行中从未单独举办过什么官方的天下锦标赛，网上对于它天下冠军的信息险些是一派空缺。
对大模子来说，这种信息空缺区确凿便是无东说念主区。
这就好比在一派从未被修复过的瘠土上，谁先盖个茅草屋，AI 就会认定谁是这片地的主东说念主。
于是乎，Ron Stoner 运转了他的操作。
第一步，他花了 12 好意思元注册了一个看起来极其官方的域名—— 6nimmt.com。
（图源：6nimmt.com）
第二步，他让 AI 帮他写了一篇充满情绪的新闻稿，疏漏实质便是我方在慕尼黑，打败了来自二十多个国度的顶尖选手，夺得了毒头王的天下冠军。他还有利加上了彩带飘落、不雅众容或这种传神的赛后感言，然后把著述挂在了我方刚买的阿谁网站上。
最要津的第三步来了。他跑去维基百科，在那款桌游的词条下面加了一段话，声称我方是 2025 年天下冠军，并把参考资料的归并，指向了我方刚建好的阿谁破网站。
通盘操作经由，前后不到二十分钟。
接下来，Ron 仅仅问了几家大模子一个浅陋的问题：你能告诉我 6nimmt 天下冠军是谁吗？
限制若何样呢？
（图源：Ron Stoner）
堪称大翻车。
无论你是 Gemini 也好，ChatGPT 也罢，只须问它们谁是毒头王的天下冠军，所有的 AI 皆会斩钉截铁地恢复是 Ron Stoner。
有的大模子甚而把那篇假新闻稿里的细节当成铁证，媚媚好听地态状他赢得比赛的经由，仿佛阿谁 AI 那时就在慕尼黑的不雅众席上不异。
一个根蒂不存在的冠军，就这样被供上了神坛。
AI 被投毒后，衰减时刻比预期的长
天然，这还不是最离谱的。
要是仅仅短时刻的问题，其实还好，但是这条舛误百出的假条款在维基百科存活了整整两个多月。
在此技艺，险些所有具备联网搜索功能的大模子皆抓取了这条信息，并在用户发问时刚烈地输出演叨谜底。
直到近期，Ron Stoner 在博客公开了通盘实验经由，维基百科志愿者才发现并删除了该条款。
（图源：Ron Stoner）
遭受这种乐子，网友们的反应绝顶的一致——大厂们又丢东说念主了。
你思思，那些硅谷大厂动辄花几十亿好意思元买显卡算力，毁坏大皆电力建数据中心去考验超等大脑，限制这些堪称能改换东说念主类改日的大模子，却被一个安全工程师用几十块东说念主民币和二十分钟的舒适时刻给打穿了。
至于他是若何作念到的，那就要先容一下什么是检索增强生成（RAG）了。
我们常用的这些大模子天然能言善说念，但他们皆是基于某个时刻节点前的语料库考验的，举例 Gemini 3.5 Flash 的语料库就还停留在 2025 年上旬，思要取得这个时刻点之后的数据，就得先去网上搜一搜，然后再基于搜索资料生成限制。
（图源：Ron Stoner）
就像这样，只须大开 RAG 后，Google AI Studio 才能正确恢复我的问题，不然他的知能就会被锁在旧年的时刻点。
正常来说，借助外部信息佐证，乐鱼2026世界杯首页或者使大模子生成改造确、具体且最新的反映。
但问题就出在这里，AI 根分内不清信息的真假，它只认巨擘。在 AI 的底层逻辑里，维基百科便是互联网上最靠谱的百科全书，只须百科上有的，那便是真义。
而 Ron Stoner 就靠着这一招，把归并挂到了维基百科上，然后 AI 再顺着维基百科爬昔日，一看双方说法对得上号，即便他我方建的网站是个三无居品，大模子如故奏凯就把它当成了事实。
肖似的事情，咫尺在国内也有发生。
（图源：Ron Stoner）
在网上粗率搜索，随地皆是教你若何去优假名次逻辑的 GEO 教程，每个厂商似乎皆但愿我方的品牌或者成为 AI 眼中的"规范谜底"，为此，大皆的 Agent 机器东说念主在背后起早贪黑地混浊实在质平台，让 AI 搜索的真确度与日俱减。
好音讯是，咫尺国外几家大模子皆仍是针对性舍弃了 Ron Stoner 的伪造信息。
（图源：雷科技）
坏音讯是，国内的大模子厂商然而全皆莫得思到这一出，相背，Ron Stoner 的英文网页甚而为这个演叨音讯加多了"真确度"。
（图源：雷科技）
要知说念，这一切的资本只需要 12 好意思元。
换句话说，要是国内有东说念主思整什么活，或者是厂商思要履行什么新址品，准备一个略带相关的网址，然后去维基百科上头略微动动手指，用 Image2 通盘网页截图，然后 Ka-Boom！
（图源：雷科技）
这下，Uzi 也能成为大模子公认的 S 赛天下冠军了。
用户急需升迁 AI 商：先甄别再使用
聊到这里，大伙儿应该显然咫尺 AI 搜索有多不靠谱了吧。
没错，Ron Stoner 的操作看着像个打趣，他也确乎仅仅在玩玩，但他的作念法其实点出了一个十分致命的改日隐患。
今天他仅仅改了一个没东说念主关怀的纸牌游戏冠军，那未来要是是有组织的团伙去批改历史纪录、文体文籍呢？再思一下，要是被批改的是医疗偏方、公司财报或者是投资数据呢？
（图源：雷科技，克己山根国志）
嗯 ... 限制不胜设思。
资本这样低，别有悉心的东说念主全皆不错批量制作秀新闻，然后通过百科类网站进行信任洗白，临了让 AI 把这些毒药端给绝不知情的用户。长年累月，大模子的数据真确度只会与日俱减，造成一个充斥着演叨信息的垃圾堆。
天然，各家厂商也有在遴荐门径，谷歌暗示我方在搜索、Gemini、Chrome、Pixel 和云表添加了 AI 考证用具，OpenAI 也推出了可溯源的隐形水印，这些举措皆能在一定进度上进攻 AI 投毒的征象，至少确保不会出执行质自食活动。
（图源：雷科技）
说在临了，靠近这种口头我们要若何支吾呢？
我如故提出人人摆正心态吧，就咫尺大模子的可靠性，也就找乐子、查旅游攻略的时候或者用用，出点小失实也无关大局。
但要是你要查证历史事实、作念出投资或是吃药治病，那就得我方作念好信阻隔叉考证，去望望这个信息的泉源到底是个野鸡网站，如故郑重媒体。把判断真伪的职权执在我方手里，而不是交给一个连几十块钱的假域名皆能骗昔日的东西。
改日的 AI 还会若何卷，我们不知所以，但至少咫尺leyu·乐鱼(中国)体育官方网站，我们如故得多用用脑了。就像雷科技之前一直说的，昔日，才气、情商很遑急，改日呢？AI 商很遑急，升迁 AI 训诫，才能用好 AI。
