“我們比云廠商做得好”！老師木新創(chuàng)業(yè)項(xiàng)目曝光：瞄準(zhǔn)大模型成本問(wèn)題，推理性能將得到數(shù)量級(jí)的提升

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：“我們比云廠商做得好”！老師木新創(chuàng)業(yè)項(xiàng)目曝光：瞄準(zhǔn)大模型成本問(wèn)題，推理性能將得到數(shù)量級(jí)的提升
關(guān)鍵字：小米,模型,解讀,數(shù)據(jù),硬件
文章來(lái)源：AI前線
內(nèi)容字?jǐn)?shù)：9084字

內(nèi)容摘要：

整理 ｜ Tina
1 月 2 日，OneFlow 創(chuàng)始人袁進(jìn)輝（老師木）有了新動(dòng)向，其創(chuàng)立的新公司“硅基流動(dòng)”正式進(jìn)入公眾視野，這是一家關(guān)注 AI 基礎(chǔ)設(shè)施層的公司。
袁進(jìn)輝是 AI 架構(gòu)界的資深人才，他于 2017 年創(chuàng)立了一流科技 OneFlow。去年大模型爆火后，光年之外收購(gòu)了 OneFlow，此后美團(tuán)又收購(gòu)了光年之外。
實(shí)際不久前，袁進(jìn)輝就已經(jīng)在朋友圈宣布了 OneFlow 團(tuán)隊(duì)近期重新創(chuàng)業(yè)的消息。
袁進(jìn)輝表示，重新創(chuàng)業(yè)的計(jì)劃目標(biāo)是瞄準(zhǔn)大模型推理成本問(wèn)題。
“計(jì)劃第一個(gè)推出的產(chǎn)品是大模型推理和部署系統(tǒng)，解決 AIGC 和 LLM 行業(yè)推理部署成本太高的痛點(diǎn)，我們判斷這是大模型時(shí)代最好的商業(yè)機(jī)會(huì)之一?！?br />提升大模型推理和部署的效率，是大模型時(shí)代做基礎(chǔ)設(shè)施服務(wù)的必修課。依靠數(shù)據(jù)、算法、算力，大模型的能力才會(huì)“涌現(xiàn)”。數(shù)據(jù)顯示，過(guò)去4年，大模型參數(shù)量以年均400%復(fù)合增長(zhǎng)，AI算力需求增長(zhǎng)超過(guò)15萬(wàn)倍。以CPU為中心的傳統(tǒng)計(jì)算基礎(chǔ)設(shè)施已無(wú)法滿足大模型、生成式AI的新要求。由此引發(fā)的成本不斷膨脹，成為大模型企業(yè)負(fù)擔(dān)沉重的賬單。因此，一些領(lǐng)先的廠商正尋求降低成本的方法。
硅基流動(dòng)提供

原文鏈接：“我們比云廠商做得好”！老師木新創(chuàng)業(yè)項(xiàng)目曝光：瞄準(zhǔn)大模型成本問(wèn)題，推理性能將得到數(shù)量級(jí)的提升

聯(lián)系作者

文章來(lái)源：AI前線
作者微信：ai-front
作者簡(jiǎn)介：面向AI愛好者、開發(fā)者和科學(xué)家，提供AI領(lǐng)域技術(shù)資訊、一線業(yè)界實(shí)踐案例、搜羅整理業(yè)界技術(shù)分享干貨、AI論文解讀。每周一節(jié)技術(shù)分享公開課，助力你全面擁抱人工智能技術(shù)。