吃“有毒”數據，大模型反而更聽話了！來自港科大&華為諾亞方舟實驗室

AIGC動態歡迎閱讀

原標題：吃“有毒”數據，大模型反而更聽話了！來自港科大&華為諾亞方舟實驗室

關鍵字：華為,模型,錯誤,指令,諾亞方舟

文章來源：量子位

內容字數：5646字

內容摘要：港科大 華為諾亞方舟實驗室量子位 | 公眾號 QbitAI現在，大模型也學會“吃一塹，長一智”了。來自香港科技大學和華為諾亞方舟實驗室的最新研究發現：相比于一味規避“有毒”數據，以毒攻毒，干脆給大模型喂點錯誤文本，再讓模型剖析、反思出錯的原因，反而能夠讓模型真正理解“錯在哪兒了”，進而避免胡說八道。具體而言，研究人員提出了“從錯誤中學習”的對齊框架，并通過實驗證明：讓大模型“吃一塹，長一智”，在糾…

原文鏈接：點此閱讀原文：吃“有毒”數據，大模型反而更聽話了！來自港科大&華為諾亞方舟實驗室

聯系作者

文章來源：量子位

作者微信：QbitAI

作者簡介：追蹤人工智能新趨勢，關注科技行業新突破