打破大模型黑盒，徹底分解神經元！OpenAI對頭Anthropic擊破AI不可解釋性障礙

AIGC動態歡迎閱讀

原標題：打破大模型黑盒，徹底分解神經元！OpenAI對頭Anthropic擊破AI不可解釋性障礙

關鍵字：特征,神經元,模型,報告,解釋性

文章來源：新智元

內容字數：5169字

內容摘要：新智元報道編輯：Lumina【新智元導讀】距離大模型「黑箱」難題又近了一步！近日，來自Anthropic的研究團隊通過采用稀疏自動編碼器的弱字典學習算法，從512個神經元中提取出來了4000多個可解釋特征。長久以來，我們都無從理解AI是如何進行決策和輸出的。模型開發人員只能決定算法、數據，最后得到模型的輸出結果，而中間部分——模型是怎么根據這些算法和數據輸出結果，就成為了不可見的「黑箱」。所以…

原文鏈接：點此閱讀原文：打破大模型黑盒，徹底分解神經元！OpenAI對頭Anthropic擊破AI不可解釋性障礙

聯系作者

文章來源：新智元

作者微信：AI_era

作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。