打破生態(tài)孤島,國(guó)產(chǎn)異構(gòu)原生AI算力工具問(wèn)世,來(lái)自中科加禾
AIGC動(dòng)態(tài)歡迎閱讀
原標(biāo)題:打破生態(tài)孤島,國(guó)產(chǎn)異構(gòu)原生AI算力工具問(wèn)世,來(lái)自中科加禾
關(guān)鍵字:芯片,華為,加速卡,模型,生態(tài)
文章來(lái)源:機(jī)器之心
內(nèi)容字?jǐn)?shù):0字
內(nèi)容摘要:
機(jī)器之心報(bào)道
作者:澤南「通過(guò)系統(tǒng)優(yōu)化軟件的幫助,開發(fā)的門檻會(huì)被降低,各種不同硬件會(huì)得到統(tǒng)一,讓技術(shù)生態(tài)得到發(fā)展。這對(duì)于當(dāng)前智能生態(tài)的進(jìn)步有重要的意義,」中國(guó)工程院院士、中科院計(jì)算所學(xué)術(shù)委員會(huì)主任、CCF 理事長(zhǎng)孫凝暉在發(fā)布會(huì)上致辭表示。「除了智能芯片、AI 行業(yè)應(yīng)用以外,我們需要系統(tǒng)軟件優(yōu)化的一方參與進(jìn)來(lái)共同努力,這樣才能把國(guó)內(nèi)生態(tài)做得更好。」孫凝暉院士在發(fā)布會(huì)上
面對(duì)算力「卡脖子」問(wèn)題,我們終于迎來(lái)了系統(tǒng)級(jí)的解決方案。
7 月 20 日,AI 基礎(chǔ)設(shè)施創(chuàng)業(yè)公司中科加禾正式發(fā)布了第一代異構(gòu)原生 AI 算力工具。
面向當(dāng)前國(guó)產(chǎn)算力大規(guī)模落地的趨勢(shì),中科加禾提出的方法可以讓不同種類的芯片大規(guī)模并行,同時(shí)發(fā)揮最大效率,并讓算力的使用者無(wú)需關(guān)注不同芯片生態(tài),做到直接拿來(lái)就用。
中科加禾創(chuàng)始人兼 CEO 崔慧敏發(fā)布并介紹,「加禾異構(gòu)原生 AI 算力工具」已經(jīng)在國(guó)產(chǎn)算力的 AI 基礎(chǔ)設(shè)施上發(fā)揮一定作用。它兼容多種國(guó)產(chǎn) AI 芯片,為屏蔽芯片差異提供了高性能的統(tǒng)一接口。在異構(gòu)原生平臺(tái)的基礎(chǔ)上,AI 算力集群在大模型推理上的時(shí)延可以降低 3-74 倍,吞吐率提升 1.4-2.1 倍,能效比提升 1.
原文鏈接:打破生態(tài)孤島,國(guó)產(chǎn)異構(gòu)原生AI算力工具問(wèn)世,來(lái)自中科加禾
聯(lián)系作者
文章來(lái)源:機(jī)器之心
作者微信:
作者簡(jiǎn)介: