架構創新×模型創新！清微智能全面適配DeepSeek模型推理和訓練

原標題：架構創新×模型創新！清微智能全面適配DeepSeek模型推理和訓練
文章來源：新智元
內容字數：1652字

國產AI芯片新突破：清微智能RPU助力大模型高效運行

近年來，大模型技術飛速發展，對算力的需求也日益增長，呈現出大規模、高彈性、低成本等特點。面對這一挑戰，國產AI芯片廠商清微智能基于可重構計算架構（CGRA）推出了RPU（Reconfigurable Processing Unit）芯片，為大模型的運行提供了更高效、更經濟的解決方案。

1. **RPU芯片：高效應對大模型算力需求**

清微智能的RPU芯片采用全球領先的可重構計算架構，能夠實現單機高效運行千億級參數模型的推理和訓練。其核心優勢在于動態硬件重構、全棧優化及高能效比，這使得它在性價比方面具有顯著優勢，重新定義了國產AI芯片的標桿。

2. **DeepSeek模型適配與部署：國產方案的完美結合**

近期備受關注的DeepSeek系列大模型，其驚艷表現推動了AI產業的快速發展。清微智能積極響應，已完成DeepSeek-R1系列模型的適配和部署運行。RPU芯片通過可重構計算架構映射和數據流控制技術，實現計算資源的動態調度分配，摒棄了傳統指令處理流程和共享存儲數據交換機制，從而更專注于核心計算任務。

3. **算力服務器：訓推一體，提升資源利用率**

清微智能的算力服務器支持無交換機自組網調度，顯著提升了計算資源利用率和能效比。它能夠支持從1.5B到六千億參數的DeepSeek全量模型，為國產大模型提供了高性價比的算力支持，是國產算力支持國產大模型的獨特方案。更重要的是，該服務器具有訓推一體的特點，不僅能高效進行推理，還能支持基于DeepSeek模型對其他模型進行蒸餾訓練，例如使用DeepSeek-R1模型對NuminaMath-TIR等數據集進行推理解答，并將結果用于Qwen2-7B模型的蒸餾訓練，極大地方便了用戶實現大模型本地私有化部署。

4. **強強聯合：計算架構創新與模型路徑創新**

DeepSeek系列模型的火爆，凸顯了國產大模型的創新實力。清微智能RPU芯片的計算架構創新，與國產模型路徑創新相結合，實現了1+1>2的效果，為AI用戶提供了更具經濟性的選擇，推動了國產AI產業的蓬勃發展。

總而言之，清微智能RPU芯片及其算力服務器為大模型時代提供了高效、經濟的算力解決方案，為國產AI產業發展注入了新的活力，也為AI應用的普及提供了堅實的基礎。

聯系作者

文章來源：新智元
作者微信：
作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。