大模型國產化適配1-華為昇騰AI全棧軟硬件平臺總結

AIGC動態歡迎閱讀

原標題：大模型國產化適配1-華為昇騰AI全棧軟硬件平臺總結
關鍵字：華為,模型,框架,算子,處理器
文章來源：算法邦
內容字數：16026字

內容摘要：

直播預告 | 明晚七點，阿里巴巴和NVIDIA的兩位專家將直播講解阿里安全大模型工程實踐、NVIDIA NIM 推理微服務解析，歡迎掃名~隨著 ChatGPT 的現象級走紅，引領了AI大模型時代的變革，從而導致 AI 算力日益緊缺。與此同時，中美貿易戰，導致AI算力國產化適配勢在必行。本文主要對最近使用昇騰芯片做一個簡單總結。
01昇騰AI全棧軟硬件平臺簡述昇騰芯片是華為公司發布的兩款 AI 處理器(NPU)，昇騰910（用于訓練）和昇騰310（用于推理）處理器，采用自家的達芬奇架構。昇騰在國際上對標的主要是英偉達的GPU，國內對標的包括寒武紀、海光等廠商生產的系列AI芯片產品（如：思元590、深算一號等）。
整個昇騰軟硬件全棧包括5層，自底向上為Atlas系列硬件、異構計算架構、AI框架、應用使能、行業應用。
image.png
image.png
image.png
Atlas系列硬件
Atlas系列產品是基于昇騰910和昇騰310打造出來的、面向不同應用場景（端、邊、云）的系列AI硬件產品。比如：
Atlas 800（型號：9000） 是訓練服務器，包含8個訓練卡（Atlas

原文鏈接：大模型國產化適配1-華為昇騰AI全棧軟硬件平臺總結

聯系作者

文章來源：算法邦
作者微信：allplusai
作者簡介：智猩猩矩陣賬號之一，聚焦生成式AI，重點關注模型與應用。