逼迫大模型消除幻覺，就像楊永信電擊治療網癮少年

AIGC動態歡迎閱讀

原標題：逼迫大模型消除幻覺，就像楊永信電擊治療網癮少年
關鍵字：幻覺,模型,政策,數據,現象
文章來源：夕小瑤科技說
內容字數：9668字

內容摘要：

夕小瑤科技說 原創作者 | 智商掉了一地在科技高速發展的領域，進步往往伴隨著爭議。數字化時代，我們被海量信息所環繞，利用大模型來提取信息和生成答案，有時會遇到模型給出的所謂“幻覺（hallucination）”回應。這就帶來了一個問題：是否應該逼迫 AI 大模型停止產生幻覺？這里所說的“幻覺”，并非指心理學上的異常現象，而是指模型在處理復雜問題時產生的非預期、類人的創新性輸出。
以楊永信曾經大力推崇的電擊治療網癮為例，這種傷害身體來控制行為的做法往往治標不治本。這種方法和控制大模型產生幻覺的做法看似不同，實則極其相似。表面上看，很多人都在期待大模型純粹基于事實回答，但正如電擊最終會對青少年造成傷害一樣，太過苛求大模型消除幻覺，可能會適得其反，削弱它們的創造性發散能力。在這個問題上，我們必須尋求平衡，切忌矯枉過正。
因此，我們究竟應該如何看待大規模模型產生的“幻覺”呢？我們別急于給出答案，在追求信息的絕對真實性之前，我們應先深思這一模型特性應如何被合理理解和接受，甚至可能賦予它全新的價值。
何為大模型的“幻覺”？究竟是“叮當貓”還是耳熟能詳的“叮（口當）貓”？實際上，“叮當貓”一直是唯一

原文鏈接：逼迫大模型消除幻覺，就像楊永信電擊治療網癮少年

聯系作者

文章來源：夕小瑤科技說
作者微信：xixiaoyaoQAQ
作者簡介：更快的AI前沿，更深的行業洞見。聚集25萬AI一線開發者、互聯網中高管和機構投資人。一線作者來自清北、國內外頂級AI實驗室和大廠，兼備行業嗅覺與報道深度。