谷歌AI搜索闖大禍！建議網(wǎng)友吃石頭、毒蘑菇，把膠水加到披薩上，評(píng)論區(qū)炸了

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：谷歌AI搜索闖大禍！建議網(wǎng)友吃石頭、毒蘑菇，把膠水加到披薩上，評(píng)論區(qū)炸了
關(guān)鍵字：網(wǎng)友,膠水,產(chǎn)品,數(shù)據(jù),用戶
文章來(lái)源：量子位
內(nèi)容字?jǐn)?shù)：3923字

內(nèi)容摘要：

夢(mèng)晨發(fā)自凹非寺量子位 | 公眾號(hào) QbitAI谷歌AI又闖大禍！
沒(méi)認(rèn)出毒蘑菇、建議用戶吃石頭、把膠水加到披薩上，瞬間招來(lái)海量批評(píng)。
事情是這樣的：
有網(wǎng)友在谷歌搜索尋找“芝士和披薩粘不到一塊”的解決辦法。AI直接在頂部給出總結(jié)指導(dǎo)，看似有模有樣，卻暗藏陷阱。
你還可以把1/8杯的無(wú)毒膠水加到醬料里，使其更黏。
本來(lái)大家還只當(dāng)是尋常的“AI幻覺(jué)”問(wèn)題，畢竟都加膠水了確實(shí)黏啊，邏輯沒(méi)毛病。
真正引爆輿論焦點(diǎn)的，是有人挖出這個(gè)建議確實(shí)有出處：
來(lái)自11年前網(wǎng)友在“美國(guó)貼吧”Reddit論壇披薩板塊的惡搞留言。
對(duì)比原文，可以看出谷歌Gemini大模型確實(shí)出色地總結(jié)精簡(jiǎn)了網(wǎng)友發(fā)言，去掉不必要的細(xì)節(jié)融合進(jìn)回答中。
但關(guān)鍵在于缺乏常識(shí)，沒(méi)有識(shí)別出網(wǎng)友惡搞的意圖，當(dāng)真了。
大家批評(píng)的另一個(gè)點(diǎn)在于，問(wèn)題出現(xiàn)在谷歌最核心、使用量最大的搜索產(chǎn)品上，而不是專(zhuān)門(mén)的AI對(duì)話。
如果是一個(gè)不熟悉AI技術(shù)，不了解AI會(huì)出現(xiàn)“幻覺(jué)”的普通搜索用戶遇到這事，就更容易被AI騙到。
當(dāng)然，具體到披薩+膠水這個(gè)例子因?yàn)檫^(guò)于離譜，大部分人都不會(huì)當(dāng)真。
但也有人馬上舉出谷歌Gemini更多、更危險(xiǎn)的失誤：
建議用戶每天至少

原文鏈接：谷歌AI搜索闖大禍！建議網(wǎng)友吃石頭、毒蘑菇，把膠水加到披薩上，評(píng)論區(qū)炸了