多元推理刷新「人類的最后考試」記錄，o3-mini(high)準確率最高飆升到37％

AI考試的能力在不斷提高。

原標題：多元推理刷新「人類的最后考試」記錄，o3-mini(high)準確率最高飆升到37％
文章來源：機器之心
內容字數：4864字

DeepSeek R1推理模型及多元推理方法突破

近日，機器之心報道了波士頓大學、NotBadMath.AI、谷歌等機構研究者提出的多元推理方法，顯著提升了大型語言模型在復雜推理任務上的準確率。該方法針對DeepSeek R1、OpenAI o1和o3等模型在國際數學奧林匹克競賽（IMO）組合問題、抽象和推理語料庫（ARC）謎題和人類的最后考試（HLE）問題上表現不佳的情況，提出了一種有效的解決方案。

1. 問題與挑戰

當前主流推理模型，例如DeepSeek R1和OpenAI o1、o3，雖然在數學和編程領域取得了進展，但在一些高難度的基準測試中表現欠佳。例如，在HLE測試中，這些模型的準確率均低于10%。這表明現有模型在復雜推理、抽象和邏輯方面仍存在不足。

2. 多元推理方法

為了解決這個問題，研究者提出了一種多元推理方法，該方法的核心在于測試時結合多種模型、方法和代理，而非依賴單一模型。具體包括：

多元推理 (Diverse Inference): 同時使用多種模型和方法，例如在IMO問題中使用8種不同的方法（LEAP、Z3、RTO、BoN、SC、MoA、MCTS、PV），并通過交互式定理證明器Lean自動驗證答案的正確性；在ARC謎題中通過代碼自動驗證；在HLE問題中使用best-of-N算法。
測試時模擬和強化學習: 通過生成額外特定于問題的信息，例如將組合題轉化為可交互游戲環境，利用組合搜索或深度強化學習找到部分結果或邊界；合成代碼來探索謎題轉換，從而優化候選解決方案。研究發現，使用訓練過的驗證器進行搜索往往比監督微調效果更好，這為強化學習微調提供了思路。
代碼圖的元學習: 利用LLM和其他工具追蹤pipeline運行，生成超參數、提示詞、代碼標題和數據的A/B測試，并自適應地修改代理圖。