千元成本搞定專業(yè)大模型，系統(tǒng)優(yōu)化+開(kāi)源大模型是關(guān)鍵 | 潞晨卞正達(dá)@MEET2024

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：千元成本搞定專業(yè)大模型，系統(tǒng)優(yōu)化+開(kāi)源大模型是關(guān)鍵 | 潞晨卞正達(dá)@MEET2024
關(guān)鍵字：模型,高效,序列,門檻,系統(tǒng)
文章來(lái)源：量子位
內(nèi)容字?jǐn)?shù)：6888字

內(nèi)容摘要：

編輯部 整理自 MEET2024量子位 | 公眾號(hào) QbitAI大模型元年里，哪怕是跑在趨勢(shì)最前沿的基座模型廠商，都難逃算力焦慮。
一方面，大模型本身由于技術(shù)特性，算力需求翻倍增長(zhǎng)；另一方面，算力供應(yīng)緊張，“一卡難求”一度成為行業(yè)普遍現(xiàn)象。
但與此同時(shí)，趨勢(shì)不等人。
所以如何高效利用好現(xiàn)有算力資源，成為許多廠商選擇的路線，由此也帶動(dòng)AI加速方案、AI Infra成為業(yè)內(nèi)熱議話題。
那么專門提供加速方案的玩家，洞察到了哪些趨勢(shì)？提出了哪些解決方案？就非常關(guān)鍵了。
比如潞晨科技CTO卞正達(dá)提到：
低成本遷移方案能利用開(kāi)源模型快速打造垂類專業(yè)大模型。
潞晨科技通過(guò)打造分布式AI開(kāi)發(fā)和部署平臺(tái)，幫助企業(yè)降低大模型的落地成本，提升訓(xùn)練、推理效率，公司成立24個(gè)月內(nèi)完成四輪融資，最近一筆為近億元A+輪融資。
為了完整體現(xiàn)卞正達(dá)對(duì)大模型加速的思考，在不改變?cè)獾幕A(chǔ)上，量子位對(duì)他的演講內(nèi)容進(jìn)行了編輯整理。希望也能給你帶來(lái)新的啟發(fā)。
關(guān)于MEET 智能未來(lái)大會(huì)：MEET大會(huì)是由量子位主辦的智能科技領(lǐng)域頂級(jí)商業(yè)峰會(huì)，致力于探討前沿科技技術(shù)的落地與行業(yè)應(yīng)用。今年共有數(shù)十家主流媒體及直播平臺(tái)報(bào)道直播了MEE

原文鏈接：千元成本搞定專業(yè)大模型，系統(tǒng)優(yōu)化+開(kāi)源大模型是關(guān)鍵 | 潞晨卞正達(dá)@MEET2024

聯(lián)系作者

文章來(lái)源：量子位
作者微信：QbitAI
作者簡(jiǎn)介：追蹤人工智能新趨勢(shì)，關(guān)注科技行業(yè)新突破