Kimi硬剛多模態滿血版o1，首曝訓練細節！強化學習scaling新范式誕生

原標題：Kimi硬剛多模態滿血版o1，首曝訓練細節！強化學習scaling新范式誕生
文章來源：新智元
內容字數：6409字

月之暗面Kimi k1.5：多模態模型性能突破，中文編程語言或將崛起

近日，月之暗面團隊發布了其最新的多模態思考模型Kimi k1.5，在數學、代碼和多模態推理能力上達到了與OpenAI o1滿血版持平的水平，這是OpenAI之外首個達到此成就的模型。 這一突破，可能預示著中文編程語言將迎來發展黃金期。

1. Kimi k1.5的性能突破

Kimi k1.5在Long CoT模式下，其數學、代碼和多模態推理能力與OpenAI o1滿血版相當，在Short CoT模式下則大幅領先GPT-4o和Claude 3.5。 這標志著中國AI技術在全球范圍內取得了重大進展。

2. 技術創新：long2short思維鏈和強化學習

Kimi k1.5的核心技術創新在于其“long2short”思維鏈和強化學習的應用。團隊巧妙地將長CoT模型的推理先驗轉移到短CoT模型中，并通過最短篩選采樣和DPO（Direct Preference Optimization）等技術提升模型效率和性能。 這突破了傳統語言模型在數據量方面的限制，實現了計算規模的有效擴展。

3. 四大關鍵要素

Kimi k1.5的設計和訓練基于四個關鍵要素：長上下文擴展、改進的策略優化、簡化框架和多模態能力。 其中，簡化框架回歸第一性原理，避免了復雜的蒙特卡洛樹搜索等技術，實現了高效的性能。

4. 強化學習基礎設施的創新

Kimi團隊設計了一種迭代同步的RL框架，并引入了部分回滾（Partial Rollout）技術，有效地減少了計算開銷，優化了復雜推理軌跡的處理。 混合部署策略則提高了資源利用率。

5. 實驗結果與未來展望

Kimi k1.5在多個權威基準測試（包括MMLU、HumanEval-Mul、LiveCodeBench、MMMU等）中取得了顯著的突破。 團隊未來將繼續發力多模態推理，迭代出更強大的Kn系列模型，進一步提升模型在更多模態和領域的通用能力。

6. 總結

Kimi k1.5的成功，不僅證明了中國AI技術的快速發展，也為多模態模型的發展提供了新的方向。 其“long2short”思維鏈和強化學習等技術創新，為未來AI模型的研發提供了寶貴的經驗。 隨著Kimi系列模型的不斷迭代，我們有理由期待中文編程語言在全球范圍內的崛起。

聯系作者

文章來源：新智元
作者微信：
作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。