CMU華人打破大模型黑盒，Llama 2撒謊被一眼看穿！腦電波慘遭曝光，LLM矩陣全

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：CMU華人打破大模型黑盒，Llama 2撒謊被一眼看穿！腦電波慘遭曝光，LLM矩陣全

關(guān)鍵字：研究人員,模型,表征,向量,概念

文章來(lái)源：新智元

內(nèi)容字?jǐn)?shù)：17965字

內(nèi)容摘要：新智元報(bào)道編輯：編輯部【新智元導(dǎo)讀】大語(yǔ)言模型黑盒，居然被CMU等機(jī)構(gòu)的學(xué)者打破了？他們發(fā)現(xiàn)，LLM內(nèi)部有可解釋的表征，如果撒謊，還能被測(cè)謊儀檢測(cè)出來(lái)！最近，來(lái)自CAIS、CMU、斯坦福、康奈爾、馬里蘭、賓大等機(jī)構(gòu)的學(xué)者又有了令人震驚的發(fā)現(xiàn)——大語(yǔ)言模型，并不僅僅是黑匣子，或者難以理解的龐大矩陣。在它們內(nèi)部，具有可解釋的內(nèi)部表征。而人類(lèi)，完全可以控制這些表征，來(lái)影響大模型的幻覺(jué)、偏見(jiàn)、危害，甚至檢…

原文鏈接：點(diǎn)此閱讀原文：CMU華人打破大模型黑盒，Llama 2撒謊被一眼看穿！腦電波慘遭曝光，LLM矩陣全

聯(lián)系作者

文章來(lái)源：新智元

作者微信：AI_era

作者簡(jiǎn)介：智能+中國(guó)主平臺(tái)，致力于推動(dòng)中國(guó)從互聯(lián)網(wǎng)+邁向智能+新紀(jì)元。重點(diǎn)關(guān)注人工智能、機(jī)器人等前沿領(lǐng)域發(fā)展，關(guān)注人機(jī)融合、人工智能和機(jī)器人對(duì)人類(lèi)社會(huì)與文明進(jìn)化的影響，領(lǐng)航中國(guó)新智能時(shí)代。