AI學會隱藏思維暗中推理！不依賴人類經驗解決復雜任務，更黑箱了

AIGC動態歡迎閱讀

原標題：AI學會隱藏思維暗中推理！不依賴人類經驗解決復雜任務，更黑箱了
關鍵字：準確率,問題,任務,數字,復雜度
文章來源：量子位
內容字數：3950字

內容摘要：

夢晨 發自 凹非寺量子位 | 公眾號 QbitAIAI做數學題，真正的思考居然是暗中“心算”的？
紐約大學團隊新研究發現，即使不讓AI寫步驟，全用無意義的“……”代替，在一些復雜任務上的表現也能大幅提升！
一作Jacab Pfau表示：只要花費算力生成額外token就能帶來優勢，具體選擇了什么token無關緊要。
舉例來說，讓Llama 34M回答一個簡單問題：自然常數e的前6位數字中，有幾個大于5的？
AI直接回答約等于瞎搗亂，只統計前6位數字居然統計出7個來。
讓AI把驗證每一數字的步驟寫出來，便可以得到正確答案。
讓AI把步驟隱藏，替換成大量的“……”，依然能得到正確答案！
這篇論文一經發布便掀起大量討論，被評價為“我見過的最玄學的AI論文”。
那么，年輕人喜歡說更多的“嗯……”、“like……”等無意義口癖，難道也可以加強推理能力？
從“一步一步”想，到“一點一點”想實際上，紐約大學團隊的研究正是從思維鏈（Chain-of-Thought，CoT）出發的。
也就是那句著名提示詞“讓我們一步一步地想”（Let‘s think step by step）。
過去人們發現，使用CoT

原文鏈接：AI學會隱藏思維暗中推理！不依賴人類經驗解決復雜任務，更黑箱了

聯系作者

文章來源：量子位
作者微信：QbitAI
作者簡介：追蹤人工智能新趨勢，關注科技行業新突破