他們掰開神經元，終于讓大模型9.8大于9.11了：神秘創業公司，開源AI「」工具

AIGC動態歡迎閱讀

原標題：他們掰開神經元，終于讓大模型9.8大于9.11了：神秘創業公司，開源AI「」工具
關鍵字：神經元,模型,報告,系統,用戶
文章來源：機器之心
內容字數：0字

內容摘要：

機器之心報道
機器之心編輯部大模型為什么認為 9.8<9.11？神經元級別的解釋來了。9.8 和 9.11 到底哪個大？這個小學生都能答對的問題卻難倒了一眾大模型，很多模型輸出的結果都是「9.8<9.11」。為什么模型會集體出錯？AI 研究者們總結了很多可能的原因，比如模型會把 9.11 拆解成 9/./11 三部分，然后拿 11 去和 8 作比較；也有人猜測，大模型會把 9.8 和 9.11 當成日期或版本號……
這些解釋聽起來都有些道理，但如果我們能夠直觀地「看到」模型出錯的原因，那么我們對于問題的歸因會更加準確，解決問題的速度也會更快。
剛剛官宣的 AI 研究實驗室 Transluce（字面意思是讓光線穿過某物以揭示其結構） 就在做這件事情。他們開發了一個名叫 Monitor 的交互界面，以幫助人類觀察、理解和引導語言模型的內部計算。
透過 Monitor，我們先來看看 AI 模型為什么會覺得 9.11 比 9.8 更大。
首先，讓模型比較一下這兩個數的大小，當然它沒有意外地出錯了。Monitor 提供了快捷的方式幫助我們分析其錯誤。將光標放在出錯的位置，可以看到模型在此處預測的

原文鏈接：他們掰開神經元，終于讓大模型9.8大于9.11了：神秘創業公司，開源AI「」工具

聯系作者

文章來源：機器之心
作者微信：
作者簡介：