張鵬對話無問芯穹夏立雪:中國的Scaling Law是場景優(yōu)勢,異構算力解決大模型落地難題
AIGC動態(tài)歡迎閱讀
原標題:張鵬對話無問芯穹夏立雪:中國的Scaling Law是場景優(yōu)勢,異構算力解決大模型落地難題
關鍵字:模型,解讀,場景,硬件,核心
文章來源:Founder Park
內容字數:22340字
內容摘要:
Scaling Law 已成為大模型進化的「不二法門」。
參數量越大、數據集規(guī)模越大、算力消耗越大,大模型性能就越好。相比較海外的大模型公司,國內的大模型公司會面臨更嚴峻的算力問題,資金、顯卡限購等,以至于有不少人質疑,中國大模型到底有沒有 Scaling Law?
無問芯穹聯合創(chuàng)始人 & CEO 夏立雪認為,「我認為 Scaling Law 在中國可以有另外一個解讀,也就是應用場景的 Scaling Law?!?br />而他們推出的「MxN」架構,「解決的是一堆相似的大模型,怎么能夠在不同的卡上跑起來,最后以一種類似于水、電、煤氣這樣的資源的形式給到開發(fā)者使用?!?br />在他看來,「大模型今年最核心的任務就是落地,而落地的卡點就是性價比」。
4 月 10 日,在極客公園創(chuàng)始人&總裁張鵬和夏立雪的對話直播里,關于大模型 Scaling Law、國內的算力難題,以及大模型的落地難題,進行了探討,并嘗試提出了一些非的觀點。
本文基于直播整理,略有刪減。01
CUDA 是英偉達的壁壘,推理場景是算力未來的重點張鵬:從你的角度來看,上個月的 GTC 有什么值得大家注意的東西?
夏立雪:大概從 2018
原文鏈接:張鵬對話無問芯穹夏立雪:中國的Scaling Law是場景優(yōu)勢,異構算力解決大模型落地難題
聯系作者
文章來源:Founder Park
作者微信:Founder-Park
作者簡介:來自極客公園,專注與科技創(chuàng)業(yè)者聊「真問題」。