清程極智 CEO 湯雄超：訓推一體機并非 AI Infra 的未來

AIGC動態歡迎閱讀

原標題：清程極智 CEO 湯雄超：訓推一體機并非 AI Infra 的未來
關鍵字：模型,芯片,廠商,集群,科技
文章來源：AI科技評論
內容字數：0字

內容摘要：

較小的一體機難承載巨大的訓練業務，訓推「對癥下藥」才有機會。作者｜朱可軒
編輯｜陳彩嫻
早在超算時代，清華大學高性能計算研究中心便一直是解決算力需求相關軟件問題的行家。
“目前 AI Infra 賽道幾家國內廠商中，只有我們有過十萬臺服務器的超大規模國產算力集群的使用和調優經驗。”湯雄超向 AI 科技評論介紹道。
而“大規模”會是算力發展最難解的“題”——
從湯雄超觀察來看，當前業內多有提及的不同品牌 GPU 異構混訓，是芯片產能不足現狀下的一種妥協，未來智算中心可能會回歸同一型號 GPU 的架構以獲得更高的效率，AI 大模型訓練核心歸根到底還是落點在大規模算力系統本身。
基于前述思考，去年年底，這支來自清華大學計算機系的團隊創辦了清程極智，湯雄超博士擔任公司 CEO，翟季冬教授為公司首席科學家。
除了 AI 訓練面臨的挑戰，成立之初，清程極智也看到了推理側的機會。
在一段時期內，訓推一體機是業內較為流行的產品形態。但在湯雄超的觀點中，訓推一體機是很難滿足未來的 AI 業務全部需求的。
論及其中原因，他認為，“訓練和推理兩種業務對算力系統的需求區別較大，很難想象出有一個比較小的一體機能

原文鏈接：清程極智 CEO 湯雄超：訓推一體機并非 AI Infra 的未來

聯系作者

文章來源：AI科技評論
作者微信：
作者簡介：