標(biāo)簽：幻覺

老外整了個(gè)領(lǐng)先的幻覺檢測(cè)模型Lynx

夕小瑤科技說 原創(chuàng)作者 | 谷雨龍澤 大家想必都知道，AI用著用著就容易“胡言亂語”，我們把這種現(xiàn)象叫做“AI幻覺”。 簡(jiǎn)單來說，幻覺就是當(dāng)AI模型在生成內(nèi)容或回...
閱讀原文

OpenAI Lilian Weng萬字長(zhǎng)文解讀LLM幻覺：從理解到克服

機(jī)器之心報(bào)道 編輯：Panda WLilian Weng 出品，必是精品。人會(huì)有幻覺，大型語言模型也會(huì)有幻覺。近日，OpenAI 安全系統(tǒng)團(tuán)隊(duì)負(fù)責(zé)人 Lilian Weng 更新了博客，...
閱讀原文

Nature重磅：大模型的謊言如何“破”？牛津團(tuán)隊(duì)提出新方法，無需人工監(jiān)督或特定領(lǐng)域知識(shí)

大數(shù)據(jù)文摘授權(quán)轉(zhuǎn)載自學(xué)術(shù)頭條 世界衛(wèi)生組織（WHO）的人工智能健康資源助手 SARAH 列出了舊金山本不存在的診所的虛假名稱和地址。 Meta公司“短命”的科學(xué)聊天...
閱讀原文

大模型「幻覺」全無？圖神經(jīng)網(wǎng)絡(luò)成核心，精準(zhǔn)預(yù)測(cè)因果消除「幻覺」

新智元報(bào)道編輯：Henry 【新智元導(dǎo)讀】Alembic首次推出用于企業(yè)數(shù)據(jù)分析和決策支持的無「幻覺」人工智能。原來大模型的「幻覺」，真的可以完全消除！ 近日，A...
閱讀原文

可信度超越GPT-4V，清華&面壁揭秘「小鋼炮」模型背后的高效對(duì)齊技術(shù)

AIxiv專欄是機(jī)器之心發(fā)布學(xué)術(shù)、技術(shù)內(nèi)容的欄目。過去數(shù)年，機(jī)器之心AIxiv專欄接收?qǐng)?bào)道了2000多篇內(nèi)容，覆蓋全球各大高校與企業(yè)的頂級(jí)實(shí)驗(yàn)室，有效促進(jìn)了學(xué)術(shù)...
閱讀原文

讓用戶吃石頭，給披薩涂膠水，Google AI 搜索瘋了嗎

讓Google 為你 進(jìn)行搜索福無雙至，禍不單行，Google 又又又「翻車」了。 2023 年 2 月，追趕 ChatGPT 的 Bard，公開犯了事實(shí)錯(cuò)誤；2023 年 12 月，Gemini 侃...
閱讀原文

今日arXiv最熱大模型論文：浙江大學(xué)：如何減輕視覺大模型中的幻覺問題

夕小瑤科技說 原創(chuàng)作者 | 謝年年大模型雖然能力強(qiáng)，但一直飽受“幻覺”問題的困擾，在視覺大模型（LVLMs）中更是如此，生成的文本包含與視覺輸入不正確的對(duì)象、...
閱讀原文

丹尼爾丹內(nèi)特的十個(gè)了不起的觀點(diǎn)

來源：混沌巡洋艦 丹尼爾·丹尼特（Daniel Dennett）在四月份去世，享年82歲。他是心靈哲學(xué)領(lǐng)域的杰出人物，以其堅(jiān)定的物理主義立場(chǎng)（physicalist stance）而...
閱讀原文

北大發(fā)現(xiàn)了一種特殊類型的注意力頭！

夕小瑤科技說 原創(chuàng)作者 | 任同學(xué)檢索頭的發(fā)現(xiàn)或許將有力地幫助大模型領(lǐng)域在提高長(zhǎng)上下文推理能力、減少幻覺和壓縮KV緩存方面的研究。 從 Claude100K 到 Gemin...
閱讀原文

中科大發(fā)布Agent-FLAN，微調(diào)提升Agent能力

夕小瑤科技說 原創(chuàng)作者 | 松果 引言：探索大型語言模型作為智能代理的挑戰(zhàn)與機(jī)遇隨著大語言模型（LLMs）在各種自然語言處理任務(wù)中取得巨大成功，將這些模型作...
閱讀原文

《大模型決策制定中的幻覺檢測(cè)》綜述

來源：專知 自主系統(tǒng)很快將無處不在，從制造業(yè)自主性到農(nóng)業(yè)領(lǐng)域的機(jī)器人，再從醫(yī)療保健助手到娛樂產(chǎn)業(yè)。這些系統(tǒng)的大多數(shù)都是用于決策、規(guī)劃和控制的模塊化子...
閱讀原文

今日arXiv最熱NLP大模型論文：華東師大發(fā)布對(duì)話級(jí)大模型幻覺評(píng)價(jià)基準(zhǔn)DiaHalu

夕小瑤科技說 原創(chuàng)作者 | Tscom隨著人工智能領(lǐng)域的快速發(fā)展，大語言模型（LLMs）在自然語言處理（NLP）的多個(gè)領(lǐng)域取得了顯著的成功。這些模型通過自然語言生...
閱讀原文

老黃再曝驚人語錄：LLM幻覺有解，AGI五年內(nèi)必來！

新智元報(bào)道編輯：編輯部 【新智元導(dǎo)讀】AGI競(jìng)賽，正在大科技公司之間緊鑼密鼓地展開，作為萬億顯卡帝國掌舵人的老黃自然也不會(huì)缺席。在最近舉辦的GTC 2024上...
閱讀原文

“幻覺”問題根本無解！為什么我們的大模型會(huì)“說胡話”？

來源：CSDN 整理：王啟隆 “幻覺”（Hallucination），現(xiàn)在已經(jīng)是大語言模型領(lǐng)域無人不知、無人不曉的熱詞。我們?cè)诤?ChatGPT 等聊天機(jī)器人對(duì)話的時(shí)候，有時(shí)會(huì)...
閱讀原文

逼迫大模型消除幻覺，就像楊永信電擊治療網(wǎng)癮少年

夕小瑤科技說 原創(chuàng)作者 | 智商掉了一地在科技高速發(fā)展的領(lǐng)域，進(jìn)步往往伴隨著爭(zhēng)議。數(shù)字化時(shí)代，我們被海量信息所環(huán)繞，利用大模型來提取信息和生成答案，有...
閱讀原文