AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：逼迫大模型消除幻覺，就像楊永信電擊治療網(wǎng)癮少年
關(guān)鍵字：幻覺,模型,政策,數(shù)據(jù),現(xiàn)象
文章來源：夕小瑤科技說
內(nèi)容字?jǐn)?shù)：9668字

內(nèi)容摘要：

夕小瑤科技說 原創(chuàng)作者 | 智商掉了一地在科技高速發(fā)展的領(lǐng)域，進(jìn)步往往伴隨著爭議。數(shù)字化時(shí)代，我們被海量信息所環(huán)繞，利用大模型來提取信息和生成答案，有時(shí)會(huì)遇到模型給出的所謂“幻覺（hallucination）”回應(yīng)。這就帶來了一個(gè)問題：是否應(yīng)該逼迫 AI 大模型停止產(chǎn)生幻覺？這里所說的“幻覺”，并非指心理學(xué)上的異常現(xiàn)象，而是指模型在處理復(fù)雜問題時(shí)產(chǎn)生的非預(yù)期、類人的創(chuàng)新性輸出。
以楊永信曾經(jīng)大力推崇的電擊治療網(wǎng)癮為例，這種傷害身體來控制行為的做法往往治標(biāo)不治本。這種方法和控制大模型產(chǎn)生幻覺的做法看似不同，實(shí)則極其相似。表面上看，很多人都在期待大模型純粹基于事實(shí)回答，但正如電擊最終會(huì)對(duì)青少年造成傷害一樣，太過苛求大模型消除幻覺，可能會(huì)適得其反，削弱它們的創(chuàng)造性發(fā)散能力。在這個(gè)問題上，我們必須尋求平衡，切忌矯枉過正。
因此，我們究竟應(yīng)該如何看待大規(guī)模模型產(chǎn)生的“幻覺”呢？我們別急于給出答案，在追求信息的絕對(duì)真實(shí)性之前，我們應(yīng)先深思這一模型特性應(yīng)如何被合理理解和接受，甚至可能賦予它全新的價(jià)值。
何為大模型的“幻覺”？究竟是“叮當(dāng)貓”還是耳熟能詳?shù)摹岸＃诋?dāng)）貓”？實(shí)際上，“叮當(dāng)貓”一直是唯一

原文鏈接：逼迫大模型消除幻覺，就像楊永信電擊治療網(wǎng)癮少年

聯(lián)系作者

文章來源：夕小瑤科技說
作者微信：xixiaoyaoQAQ
作者簡介：更快的AI前沿，更深的行業(yè)洞見。聚集25萬AI一線開發(fā)者、互聯(lián)網(wǎng)中高管和機(jī)構(gòu)投資人。一線作者來自清北、國內(nèi)外頂級(jí)AI實(shí)驗(yàn)室和大廠，兼?zhèn)湫袠I(yè)嗅覺與報(bào)道深度。