千元成本搞定專業(yè)大模型，系統(tǒng)優(yōu)化+開源大模型是關(guān)鍵 | 潞晨卞正達(dá)@MEET2024

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：千元成本搞定專業(yè)大模型，系統(tǒng)優(yōu)化+開源大模型是關(guān)鍵 | 潞晨卞正達(dá)@MEET2024
關(guān)鍵字：模型,高效,序列,門檻,系統(tǒng)
文章來源：量子位
內(nèi)容字?jǐn)?shù)：6888字

內(nèi)容摘要：

編輯部 整理自 MEET2024量子位 | 公眾號(hào) QbitAI大模型元年里，哪怕是跑在趨勢最前沿的基座模型廠商，都難逃算力焦慮。
一方面，大模型本身由于技術(shù)特性，算力需求翻倍增長；另一方面，算力供應(yīng)緊張，“一卡難求”一度成為行業(yè)普遍現(xiàn)象。
但與此同時(shí)，趨勢不等人。
所以如何高效利用好現(xiàn)有算力資源，成為許多廠商選擇的路線，由此也帶動(dòng)AI加速方案、AI Infra成為業(yè)內(nèi)熱議話題。
那么專門提供加速方案的玩家，洞察到了哪些趨勢？提出了哪些解決方案？就非常關(guān)鍵了。
比如潞晨科技CTO卞正達(dá)提到：
低成本遷移方案能利用開源模型快速打造垂類專業(yè)大模型。
潞晨科技通過打造分布式AI開發(fā)和部署平臺(tái)，幫助企業(yè)降低大模型的落地成本，提升訓(xùn)練、推理效率，公司成立24個(gè)月內(nèi)完成四輪融資，最近一筆為近億元A+輪融資。
為了完整體現(xiàn)卞正達(dá)對(duì)大模型加速的思考，在不改變?cè)獾幕A(chǔ)上，量子位對(duì)他的演講內(nèi)容進(jìn)行了編輯整理。希望也能給你帶來新的啟發(fā)。
關(guān)于MEET 智能未來大會(huì)：MEET大會(huì)是由量子位主辦的智能科技領(lǐng)域頂級(jí)商業(yè)峰會(huì)，致力于探討前沿科技技術(shù)的落地與行業(yè)應(yīng)用。今年共有數(shù)十家主流媒體及直播平臺(tái)報(bào)道直播了MEE

原文鏈接：千元成本搞定專業(yè)大模型，系統(tǒng)優(yōu)化+開源大模型是關(guān)鍵 | 潞晨卞正達(dá)@MEET2024

聯(lián)系作者

文章來源：量子位
作者微信：QbitAI
作者簡介：追蹤人工智能新趨勢，關(guān)注科技行業(yè)新突破