
AIGC動態歡迎閱讀
原標題:打破生態孤島,國產異構原生AI算力工具問世,來自中科加禾
關鍵字:芯片,華為,加速卡,模型,生態
文章來源:機器之心
內容字數:0字
內容摘要:
機器之心報道
作者:澤南「通過系統優化軟件的幫助,開發的門檻會被降低,各種不同硬件會得到統一,讓技術生態得到發展。這對于當前智能生態的進步有重要的意義,」中國工程院院士、中科院計算所學術委員會主任、CCF 理事長孫凝暉在發布會上致辭表示。「除了智能芯片、AI 行業應用以外,我們需要系統軟件優化的一方參與進來共同努力,這樣才能把國內生態做得更好。」孫凝暉院士在發布會上
面對算力「卡脖子」問題,我們終于迎來了系統級的解決方案。
7 月 20 日,AI 基礎設施創業公司中科加禾正式發布了第一代異構原生 AI 算力工具。
面向當前國產算力大規模落地的趨勢,中科加禾提出的方法可以讓不同種類的芯片大規模并行,同時發揮最大效率,并讓算力的使用者無需關注不同芯片生態,做到直接拿來就用。
中科加禾創始人兼 CEO 崔慧敏發布并介紹,「加禾異構原生 AI 算力工具」已經在國產算力的 AI 基礎設施上發揮一定作用。它兼容多種國產 AI 芯片,為屏蔽芯片差異提供了高性能的統一接口。在異構原生平臺的基礎上,AI 算力集群在大模型推理上的時延可以降低 3-74 倍,吞吐率提升 1.4-2.1 倍,能效比提升 1.
原文鏈接:打破生態孤島,國產異構原生AI算力工具問世,來自中科加禾
聯系作者
文章來源:機器之心
作者微信:
作者簡介:
? 版權聲明
文章版權歸作者所有,未經允許請勿轉載。
相關文章
暫無評論...

粵公網安備 44011502001135號