“我們比云廠商做得好”！老師木新創業項目曝光：瞄準大模型成本問題，推理性能將得到數量級的提升

AIGC動態歡迎閱讀

原標題：“我們比云廠商做得好”！老師木新創業項目曝光：瞄準大模型成本問題，推理性能將得到數量級的提升
關鍵字：小米,模型,解讀,數據,硬件
文章來源：AI前線
內容字數：9084字

內容摘要：

整理 ｜ Tina
1 月 2 日，OneFlow 創始人袁進輝（老師木）有了新動向，其創立的新公司“硅基流動”正式進入公眾視野，這是一家關注 AI 基礎設施層的公司。
袁進輝是 AI 架構界的資深人才，他于 2017 年創立了一流科技 OneFlow。去年大模型爆火后，光年之外收購了 OneFlow，此后美團又收購了光年之外。
實際不久前，袁進輝就已經在朋友圈宣布了 OneFlow 團隊近期重新創業的消息。
袁進輝表示，重新創業的計劃目標是瞄準大模型推理成本問題。
“計劃第一個推出的產品是大模型推理和部署系統，解決 AIGC 和 LLM 行業推理部署成本太高的痛點，我們判斷這是大模型時代最好的商業機會之一。”
提升大模型推理和部署的效率，是大模型時代做基礎設施服務的必修課。依靠數據、算法、算力，大模型的能力才會“涌現”。數據顯示，過去4年，大模型參數量以年均400%復合增長，AI算力需求增長超過15萬倍。以CPU為中心的傳統計算基礎設施已無法滿足大模型、生成式AI的新要求。由此引發的成本不斷膨脹，成為大模型企業負擔沉重的賬單。因此，一些領先的廠商正尋求降低成本的方法。
硅基流動提供

原文鏈接：“我們比云廠商做得好”！老師木新創業項目曝光：瞄準大模型成本問題，推理性能將得到數量級的提升

聯系作者

文章來源：AI前線
作者微信：ai-front
作者簡介：面向AI愛好者、開發者和科學家，提供AI領域技術資訊、一線業界實踐案例、搜羅整理業界技術分享干貨、AI論文解讀。每周一節技術分享公開課，助力你全面擁抱人工智能技術。