逼迫大模型消除幻覺,就像楊永信電擊治療網(wǎng)癮少年

AIGC動(dòng)態(tài)歡迎閱讀
原標(biāo)題:逼迫大模型消除幻覺,就像楊永信電擊治療網(wǎng)癮少年
關(guān)鍵字:幻覺,模型,政策,數(shù)據(jù),現(xiàn)象
文章來源:夕小瑤科技說
內(nèi)容字?jǐn)?shù):9668字
內(nèi)容摘要:
夕小瑤科技說 原創(chuàng)作者 | 智商掉了一地在科技高速發(fā)展的領(lǐng)域,進(jìn)步往往伴隨著爭議。數(shù)字化時(shí)代,我們被海量信息所環(huán)繞,利用大模型來提取信息和生成答案,有時(shí)會(huì)遇到模型給出的所謂“幻覺(hallucination)”回應(yīng)。這就帶來了一個(gè)問題:是否應(yīng)該逼迫 AI 大模型停止產(chǎn)生幻覺?這里所說的“幻覺”,并非指心理學(xué)上的異常現(xiàn)象,而是指模型在處理復(fù)雜問題時(shí)產(chǎn)生的非預(yù)期、類人的創(chuàng)新性輸出。
以楊永信曾經(jīng)大力推崇的電擊治療網(wǎng)癮為例,這種傷害身體來控制行為的做法往往治標(biāo)不治本。這種方法和控制大模型產(chǎn)生幻覺的做法看似不同,實(shí)則極其相似。表面上看,很多人都在期待大模型純粹基于事實(shí)回答,但正如電擊最終會(huì)對(duì)青少年造成傷害一樣,太過苛求大模型消除幻覺,可能會(huì)適得其反,削弱它們的創(chuàng)造性發(fā)散能力。在這個(gè)問題上,我們必須尋求平衡,切忌矯枉過正。
因此,我們究竟應(yīng)該如何看待大規(guī)模模型產(chǎn)生的“幻覺”呢?我們別急于給出答案,在追求信息的絕對(duì)真實(shí)性之前,我們應(yīng)先深思這一模型特性應(yīng)如何被合理理解和接受,甚至可能賦予它全新的價(jià)值。
何為大模型的“幻覺”?究竟是“叮當(dāng)貓”還是耳熟能詳?shù)摹岸#诋?dāng))貓”?實(shí)際上,“叮當(dāng)貓”一直是唯一
原文鏈接:逼迫大模型消除幻覺,就像楊永信電擊治療網(wǎng)癮少年
聯(lián)系作者
文章來源:夕小瑤科技說
作者微信:xixiaoyaoQAQ
作者簡介:更快的AI前沿,更深的行業(yè)洞見。聚集25萬AI一線開發(fā)者、互聯(lián)網(wǎng)中高管和機(jī)構(gòu)投資人。一線作者來自清北、國內(nèi)外頂級(jí)AI實(shí)驗(yàn)室和大廠,兼?zhèn)湫袠I(yè)嗅覺與報(bào)道深度。

粵公網(wǎng)安備 44011502001135號(hào)