AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：Nature重磅：大模型的謊言如何“破”？牛津團(tuán)隊(duì)提出新方法，無(wú)需人工監(jiān)督或特定領(lǐng)域知識(shí)
關(guān)鍵字：語(yǔ)義,方法,政策,幻覺(jué),模型
文章來(lái)源：大數(shù)據(jù)文摘
內(nèi)容字?jǐn)?shù)：0字

內(nèi)容摘要：

大數(shù)據(jù)文摘授權(quán)轉(zhuǎn)載自學(xué)術(shù)頭條
世界衛(wèi)生組織（WHO）的人工智能健康資源助手 SARAH 列出了舊金山本不存在的診所的虛假名稱和地址。
Meta公司“短命”的科學(xué)機(jī)器人 Galactica 憑空捏造學(xué)術(shù)論文，還生成關(guān)于太空熊歷史的維基文章。
今年2月，加拿大航空被命令遵守其客戶服務(wù)機(jī)器人捏造的退款政策。
去年，一名律師因提交充滿虛假司法意見(jiàn)和法律引用的法庭文件而被罰款，這些文件都是由 ChatGPT 編造的。
……
如今，大語(yǔ)言模型（LLM）胡編亂造的例子已屢見(jiàn)不鮮，但問(wèn)題在于，它們非常擅長(zhǎng)一本正經(jīng)地胡說(shuō)八道，編造的內(nèi)容大部分看起來(lái)都像是真的，讓人難辨真假。
在某些情況下，可以當(dāng)個(gè)樂(lè)子一笑而過(guò)，但是一旦涉及到法律、醫(yī)學(xué)等專業(yè)領(lǐng)域，就可能會(huì)產(chǎn)生非常嚴(yán)重的后果。
如何有效、快速地檢測(cè)大模型的幻覺(jué)（hallucination），已成為當(dāng)前國(guó)內(nèi)外科技公司和科研機(jī)構(gòu)競(jìng)相關(guān)注的熱門研究方向。
如今，牛津大學(xué)團(tuán)隊(duì)提出的一種新方法便能夠幫助我們快速檢測(cè)大模型的幻覺(jué)——他們嘗試量化一個(gè)LLM產(chǎn)生幻覺(jué)的程度，從而判斷生成的內(nèi)容有多忠于提供的源內(nèi)容，從而提高其問(wèn)答的準(zhǔn)確性。
研究團(tuán)隊(duì)表示，他們的方法能

原文鏈接：Nature重磅：大模型的謊言如何“破”？牛津團(tuán)隊(duì)提出新方法，無(wú)需人工監(jiān)督或特定領(lǐng)域知識(shí)

聯(lián)系作者

文章來(lái)源：大數(shù)據(jù)文摘
作者微信：BigDataDigest
作者簡(jiǎn)介：普及數(shù)據(jù)思維，傳播數(shù)據(jù)文化