原標題：架構(gòu)創(chuàng)新×模型創(chuàng)新！清微智能全面適配DeepSeek模型推理和訓練
文章來源：新智元
內(nèi)容字數(shù)：1652字

國產(chǎn)AI芯片新突破：清微智能RPU助力大模型高效運行

近年來，大模型技術(shù)飛速發(fā)展，對算力的需求也日益增長，呈現(xiàn)出大規(guī)模、高彈性、低成本等特點。面對這一挑戰(zhàn)，國產(chǎn)AI芯片廠商清微智能基于可重構(gòu)計算架構(gòu)（CGRA）推出了RPU（Reconfigurable Processing Unit）芯片，為大模型的運行提供了更高效、更經(jīng)濟的解決方案。

1. **RPU芯片：高效應(yīng)對大模型算力需求**

清微智能的RPU芯片采用全球領(lǐng)先的可重構(gòu)計算架構(gòu)，能夠?qū)崿F(xiàn)單機高效運行千億級參數(shù)模型的推理和訓練。其核心優(yōu)勢在于動態(tài)硬件重構(gòu)、全棧優(yōu)化及高能效比，這使得它在性價比方面具有顯著優(yōu)勢，重新定義了國產(chǎn)AI芯片的標桿。

2. **DeepSeek模型適配與部署：國產(chǎn)方案的完美結(jié)合**

近期備受關(guān)注的DeepSeek系列大模型，其驚艷表現(xiàn)推動了AI產(chǎn)業(yè)的快速發(fā)展。清微智能積極響應(yīng)，已完成DeepSeek-R1系列模型的適配和部署運行。RPU芯片通過可重構(gòu)計算架構(gòu)映射和數(shù)據(jù)流控制技術(shù)，實現(xiàn)計算資源的動態(tài)調(diào)度分配，摒棄了傳統(tǒng)指令處理流程和共享存儲數(shù)據(jù)交換機制，從而更專注于核心計算任務(wù)。

3. **算力服務(wù)器：訓推一體，提升資源利用率**

清微智能的算力服務(wù)器支持無交換機自組網(wǎng)調(diào)度，顯著提升了計算資源利用率和能效比。它能夠支持從1.5B到六千億參數(shù)的DeepSeek全量模型，為國產(chǎn)大模型提供了高性價比的算力支持，是國產(chǎn)算力支持國產(chǎn)大模型的獨特方案。更重要的是，該服務(wù)器具有訓推一體的特點，不僅能高效進行推理，還能支持基于DeepSeek模型對其他模型進行蒸餾訓練，例如使用DeepSeek-R1模型對NuminaMath-TIR等數(shù)據(jù)集進行推理解答，并將結(jié)果用于Qwen2-7B模型的蒸餾訓練，極大地方便了用戶實現(xiàn)大模型本地私有化部署。

4. **強強聯(lián)合：計算架構(gòu)創(chuàng)新與模型路徑創(chuàng)新**

DeepSeek系列模型的火爆，凸顯了國產(chǎn)大模型的創(chuàng)新實力。清微智能RPU芯片的計算架構(gòu)創(chuàng)新，與國產(chǎn)模型路徑創(chuàng)新相結(jié)合，實現(xiàn)了1+1>2的效果，為AI用戶提供了更具經(jīng)濟性的選擇，推動了國產(chǎn)AI產(chǎn)業(yè)的蓬勃發(fā)展。

總而言之，清微智能RPU芯片及其算力服務(wù)器為大模型時代提供了高效、經(jīng)濟的算力解決方案，為國產(chǎn)AI產(chǎn)業(yè)發(fā)展注入了新的活力，也為AI應(yīng)用的普及提供了堅實的基礎(chǔ)。

聯(lián)系作者

文章來源：新智元
作者微信：
作者簡介：智能+中國主平臺，致力于推動中國從互聯(lián)網(wǎng)+邁向智能+新紀元。重點關(guān)注人工智能、機器人等前沿領(lǐng)域發(fā)展，關(guān)注人機融合、人工智能和機器人對人類社會與文明進化的影響，領(lǐng)航中國新智能時代。