谷歌AI搜索闖大禍！建議網(wǎng)友吃石頭、毒蘑菇，把膠水加到披薩上，評論區(qū)炸了

AIGC動態(tài)歡迎閱讀

原標題：谷歌AI搜索闖大禍！建議網(wǎng)友吃石頭、毒蘑菇，把膠水加到披薩上，評論區(qū)炸了
關(guān)鍵字：網(wǎng)友,膠水,產(chǎn)品,數(shù)據(jù),用戶
文章來源：量子位
內(nèi)容字數(shù)：3923字

內(nèi)容摘要：

夢晨 發(fā)自 凹非寺量子位 | 公眾號 QbitAI谷歌AI又闖大禍！
沒認出毒蘑菇、建議用戶吃石頭、把膠水加到披薩上，瞬間招來海量批評。
事情是這樣的：
有網(wǎng)友在谷歌搜索尋找“芝士和披薩粘不到一塊”的解決辦法。AI直接在頂部給出總結(jié)指導，看似有模有樣，卻暗藏陷阱。
你還可以把1/8杯的無毒膠水加到醬料里，使其更黏。
本來大家還只當是尋常的“AI幻覺”問題，畢竟都加膠水了確實黏啊，邏輯沒毛病。
真正引爆輿論焦點的，是有人挖出這個建議確實有出處：
來自11年前網(wǎng)友在“美國貼吧”Reddit論壇披薩板塊的惡搞留言。
對比原文，可以看出谷歌Gemini大模型確實出色地總結(jié)精簡了網(wǎng)友發(fā)言，去掉不必要的細節(jié)融合進回答中。
但關(guān)鍵在于缺乏常識，沒有識別出網(wǎng)友惡搞的意圖，當真了。
大家批評的另一個點在于，問題出現(xiàn)在谷歌最核心、使用量最大的搜索產(chǎn)品上，而不是專門的AI對話。
如果是一個不熟悉AI技術(shù)，不了解AI會出現(xiàn)“幻覺”的普通搜索用戶遇到這事，就更容易被AI騙到。
當然，具體到披薩+膠水這個例子因為過于離譜，大部分人都不會當真。
但也有人馬上舉出谷歌Gemini更多、更危險的失誤：
建議用戶每天至少

原文鏈接：谷歌AI搜索闖大禍！建議網(wǎng)友吃石頭、毒蘑菇，把膠水加到披薩上，評論區(qū)炸了

聯(lián)系作者

文章來源：量子位
作者微信：QbitAI
作者簡介：追蹤人工智能新趨勢，關(guān)注科技行業(yè)新突破