Seed-Thinking-v1.5

Seed-Thinking-v1.5 – 字節(jié)跳動(dòng)推出的最新思考模型

Seed-Thinking-v1.5

Seed-Thinking-v1.5 是字節(jié)跳動(dòng)推出的一款先進(jìn)推理智能模型，采用了混合專家（MoE）架構(gòu)，擁有高達(dá) 200B 的總參數(shù)量，每次激活 20B 參數(shù)。該模型在諸多基準(zhǔn)測(cè)試中表現(xiàn)突出，如在 AIME 2024 測(cè)試中獲得 86.7 分，在 Codeforces 評(píng)測(cè)中 pass@8 指標(biāo)達(dá)到了 55.0 分，在 GPQA 測(cè)試中得分為 77.3 分。此外，Seed-Thinking-v1.5 在非推理任務(wù)中的勝率比 DeepSeek R1 高出 8%，展現(xiàn)了其強(qiáng)大的適應(yīng)能力。該模型將于 4 月 17 日通過火山引擎開放接口供用戶體驗(yàn)。

Seed-Thinking-v1.5是什么

Seed-Thinking-v1.5 是字節(jié)跳動(dòng)開發(fā)的一款推理智能模型，采用混合專家（MoE）架構(gòu)，具有總計(jì) 200B 的參數(shù)量，并在運(yùn)行時(shí)激活 20B 參數(shù)。該模型在多個(gè)權(quán)威測(cè)試中表現(xiàn)優(yōu)異，如 AIME 2024 測(cè)試得分 86.7，Codeforces 評(píng)測(cè)中的 pass@8 指標(biāo)達(dá)到 55.0%，以及 GPQA 測(cè)試得分 77.3。在非推理任務(wù)中，其勝率比 DeepSeek R1 高出 8%，顯示了廣泛的應(yīng)用潛力。Seed-Thinking-v1.5 的開發(fā)依賴于經(jīng)過精心挑選的訓(xùn)練數(shù)據(jù)、先進(jìn)的強(qiáng)化學(xué)習(xí)框架、雙層獎(jiǎng)勵(lì)系統(tǒng)及高效的基礎(chǔ)設(shè)施。該模型將于 4 月 17 日通過火山引擎的開放接口供用戶體驗(yàn)。

Seed-Thinking-v1.5的主要功能

卓越的推理能力：Seed-Thinking-v1.5 在多個(gè)權(quán)威基準(zhǔn)測(cè)試中表現(xiàn)優(yōu)異，例如在 AIME 2024 測(cè)試中獲得 86.7 分，在 Codeforces 評(píng)測(cè)中 pass@8 指標(biāo)達(dá)到 55.0%，在 GPQA 測(cè)試中得分為 77.3，顯示出其在 STEM 領(lǐng)域和編程能力上的強(qiáng)大推理能力。
廣泛的泛化能力：該模型在非推理任務(wù)中的表現(xiàn)同樣出色，勝率超出 DeepSeek R1 8%，展現(xiàn)了其在復(fù)雜用戶場(chǎng)景中的處理能力。
高效的基礎(chǔ)設(shè)施：為支持大規(guī)模訓(xùn)練，Seed-Thinking-v1.5 采用了 HybridFlow 編程模型和流式推理系統(tǒng)（SRS），通過三層并行架構(gòu)（張量/專家/序列并行）優(yōu)化了訓(xùn)練效率。

Seed-Thinking-v1.5的技術(shù)原理

混合專家模型（MoE）架構(gòu)：該模型采用混合專家模型架構(gòu)，擁有 200B 的總參數(shù)量，每次激活 20B 參數(shù)，既保持高性能，又顯著降低了計(jì)算資源的消耗，提升了模型效率。
強(qiáng)化學(xué)習(xí)算法
- VAPO 和 DAPO 框架：為應(yīng)對(duì)強(qiáng)化學(xué)習(xí)中的不穩(wěn)定性問題，研究團(tuán)隊(duì)提出了 VAPO（面向 Actor-Critic）和 DAPO（面向 Policy Gradient）兩大框架。這些方法提供了穩(wěn)定的訓(xùn)練軌跡，優(yōu)化了推理模型。
- 獎(jiǎng)勵(lì)建模：團(tuán)隊(duì)設(shè)計(jì)了兩種獎(jiǎng)勵(lì)建模方案，Seed-Verifier 和 Seed-Thinking-Verifier。后者通過詳細(xì)的推理過程，有效解決了獎(jiǎng)勵(lì)、預(yù)測(cè)不確定性和邊界情況處理等問題。
數(shù)據(jù)處理與增強(qiáng)
- 可驗(yàn)證問題：涵蓋數(shù)學(xué)、編程和邏輯謎題，通過嚴(yán)格篩選與增強(qiáng)（例如將選擇題轉(zhuǎn)為填空題），確保模型獲得真實(shí)的推理能力。
- 非可驗(yàn)證問題：如創(chuàng)意寫作和對(duì)話，通過動(dòng)態(tài)過濾低方差樣本，避免模型陷入局部?jī)?yōu)化。
- 數(shù)據(jù)增強(qiáng)策略：例如由模型生成候選答案，并結(jié)合人工驗(yàn)證修正錯(cuò)誤參，以提升數(shù)據(jù)可靠性。
分布式訓(xùn)練基礎(chǔ)設(shè)施
- 混合并行架構(gòu)：結(jié)合張量并行、專家并行和上下文并行，支持高效的大規(guī)模訓(xùn)練。
- 流式生成系統(tǒng)（SRS）：通過異步處理和動(dòng)態(tài)資源調(diào)度，提升長文本生成效率 3 倍，解決了傳統(tǒng)同步框架的“拖尾問題”。
- 自動(dòng)調(diào)優(yōu)系統(tǒng)：根據(jù)實(shí)時(shí)負(fù)載動(dòng)態(tài)選擇最優(yōu)計(jì)算配置，平衡內(nèi)存與計(jì)算資源。

Seed-Thinking-v1.5的項(xiàng)目地址

Github倉庫：https://github.com/ByteDance-Seed/Seed-Thinking-v1.5

Seed-Thinking-v1.5的性能表現(xiàn)

數(shù)學(xué)推理：在 AIME 2024 測(cè)試中獲得 86.7 分，與 OpenAI 的 o3-mini-high 持平。
編程任務(wù)：在 Codeforces 評(píng)測(cè)中，pass@8 指標(biāo)達(dá)到 55.0%，優(yōu)于 DeepSeek-R1。
科學(xué)問答：在 GPQA 測(cè)試中準(zhǔn)確率達(dá) 77.3%，接近頂尖模型水平。
非推理任務(wù)：在非推理任務(wù)中，勝率比 DeepSeek R1 高出 8%，展現(xiàn)出較強(qiáng)的泛化能力。

Seed-Thinking-v1.5的應(yīng)用場(chǎng)景

科學(xué)問答：Seed-Thinking-v1.5 在科學(xué)問答方面表現(xiàn)卓越，能夠理解和回答涉及科學(xué)概念和原理的復(fù)雜問題，適合教育和研究領(lǐng)域。
創(chuàng)意寫作：該模型可生成跨時(shí)空對(duì)話，如模擬歷史人物的內(nèi)心獨(dú)白或融合不同領(lǐng)域術(shù)語的敘事，具有在內(nèi)容創(chuàng)作、廣告、劇本編寫等領(lǐng)域的潛在應(yīng)用價(jià)值。
邏輯推理：在處理需要邏輯分析和推理的問題時(shí)，Seed-Thinking-v1.5 顯示出顯著優(yōu)勢(shì)，適合法律分析、市場(chǎng)策略規(guī)劃等需要邏輯判斷的場(chǎng)景。
教育輔助：Seed-Thinking-v1.5 的推理能力能夠幫助學(xué)生解決數(shù)學(xué)和科學(xué)問題，提供編程練習(xí)反饋，輔助語言學(xué)習(xí)。

閱讀原文