手把手教你部署端側(cè)大模型,10月26日相約上海

AIGC動(dòng)態(tài)歡迎閱讀
原標(biāo)題:手把手教你部署端側(cè)大模型,10月26日相約上海
關(guān)鍵字:模型,華為,技術(shù),智能,產(chǎn)品
文章來(lái)源:機(jī)器之心
內(nèi)容字?jǐn)?shù):0字
內(nèi)容摘要:
機(jī)器之心報(bào)道
機(jī)器之心編輯部歷經(jīng) 2023 年的「百模大戰(zhàn)」,AI 正在各行業(yè)領(lǐng)域沉淀、落地。科技巨頭們的比拼焦點(diǎn)正在從把模型越做越大,轉(zhuǎn)向端側(cè)大模型的研發(fā)與應(yīng)用,并成為行業(yè)日益關(guān)注的焦點(diǎn)。
如果把云端的大模型類(lèi)比成無(wú)所不能的智能,那么端側(cè)的大模型更像是一種無(wú)所不在的智能。對(duì)于企業(yè)來(lái)說(shuō),如何抓住端側(cè)大模型的熱潮,深入挖掘其在各行業(yè)的應(yīng)用潛力,將其與自身業(yè)務(wù)緊密結(jié)合,催生新的增長(zhǎng)動(dòng)力,這不僅是一個(gè)戰(zhàn)略機(jī)遇,也是企業(yè)管理者需要深思熟慮的問(wèn)題。將目光投向?qū)嶋H生產(chǎn),想要把大模型裝進(jìn)算力有限的終端設(shè)備,總會(huì)存在一些繞不開(kāi)的技術(shù)難點(diǎn),如何在有限的計(jì)算資源下保持模型性能?如何在電池續(xù)航能力有限的情況下降低模型運(yùn)行的能耗?如何設(shè)計(jì)蒸餾、剪枝算法為 AI 模型降本增效?
這時(shí),舉辦一場(chǎng)詳細(xì)拆解端側(cè)大模型技術(shù)與應(yīng)用實(shí)踐活動(dòng)就顯得尤為迫切,基于此,由機(jī)器之心聯(lián)合世界人工智能大會(huì)組委會(huì)辦公室精心策劃的「端側(cè) AI 大模型開(kāi)發(fā)與應(yīng)用實(shí)踐」技術(shù)論壇,將于10 月 26 日在上海舉辦。
拆解前沿技術(shù) 探索新的應(yīng)用前景核心議題:
端側(cè)模型的壓縮與量化技術(shù)
端側(cè)推理引擎的架構(gòu)和工作原理
大模型在手機(jī)端側(cè)部署落地探索
面
原文鏈接:手把手教你部署端側(cè)大模型,10月26日相約上海
聯(lián)系作者
文章來(lái)源:機(jī)器之心
作者微信:
作者簡(jiǎn)介:

粵公網(wǎng)安備 44011502001135號(hào)