當大模型Scaling Law繼續，萬卡集群算力釋放在「百舸」這里找到一條通途

AIGC動態歡迎閱讀

原標題：當大模型Scaling Law繼續，萬卡集群算力釋放在「百舸」這里找到一條通途
關鍵字：集群,模型,任務,利用率,芯片
文章來源：機器之心
內容字數：0字

內容摘要：

機器之心原創
作者：杜偉在電影《天下無賊》中，葛優扮演的黎叔有這樣一句經典的臺詞，「二十一世紀什么最貴？人才！」而隨著人工智能行業進入到大模型時代，這一問題的答案已然變成了「算力」。
隨著模型規模急劇擴張，參數已經飆升到了千億甚至萬億級，業界開啟了千模大戰，AI 算力需求不可避免迎來式增長，無論是前期訓練還是后期推理，都是如此。
在訓練層面，OpenAI 曾在 2018 年做過估算，自 2012 年以來，AI 模型訓練算力需求每 3.5 個月翻一番，每年所需算力增幅高達 10 倍，增速遠遠超出了芯片產業長期存在的摩爾定律（性能每 18 個月翻一番）。同時隨著大模型及應用越來越多地部署到企業實際業務場景中，推理算力需求也水漲船高。
因此，指數級增長的算力需求對 GPU 等硬件提出了更高要求，大規模 GPU 算力集群成為必然選擇。這也是為什么近年來國內外科技廠商紛紛布局 AI 算力基礎設施，死磕萬卡甚至 10 萬卡集群。此外，大規模算力集群也越來越凸顯訓推一體的重要性，尋求在同一個集群中無縫切換大模型的訓練和推理，簡化用戶部署流程。
雖然 GPU 集群可以滿足大模型時代的算力需求，但面

原文鏈接：當大模型Scaling Law繼續，萬卡集群算力釋放在「百舸」這里找到一條通途