AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：終端側(cè)AI才是生成式AI規(guī)模化的未來(lái) | 高通顏辰巍@MEET2024
關(guān)鍵字：終端,模型,用戶,平臺(tái),性能
文章來(lái)源：量子位
內(nèi)容字?jǐn)?shù)：7344字

內(nèi)容摘要：

編輯部 整理自 MEET2024量子位 | 公眾號(hào) QbitAI縱觀剛剛過(guò)去的MEET 2024智能未來(lái)大會(huì)，終端側(cè)AI儼然成為其中一大熱詞。
為什么大家都在談?wù)撨@一趨勢(shì)？
在大會(huì)現(xiàn)場(chǎng)，高通技術(shù)公司產(chǎn)品管理高級(jí)副總裁顏辰巍歸納了三點(diǎn)原因：
一是隨著模型參數(shù)越來(lái)越大、相關(guān)應(yīng)用以及用戶越來(lái)越多，云計(jì)算推理成本和綜合成本將急劇增加，將難以支持生成式AI規(guī)模化發(fā)展。
二是數(shù)據(jù)在哪里，AI推理就應(yīng)該在哪里進(jìn)行，這不僅最經(jīng)濟(jì)也更為保護(hù)用戶隱私。
三是有些應(yīng)用場(chǎng)景沒(méi)有5G數(shù)據(jù)連接，這時(shí)候就必須有本地計(jì)算能力。
基于此，顏辰巍認(rèn)為：
只有當(dāng)終端就能運(yùn)行基于AI大模型的用例時(shí)，端側(cè)與云側(cè)能很好地結(jié)合，生成式AI才能大規(guī)模普及，發(fā)揮出所有的潛力。
為了完整體現(xiàn)顏辰巍對(duì)終端側(cè)AI的見(jiàn)解和思考，量子位在不改變?cè)獾幕A(chǔ)上，對(duì)他的演講內(nèi)容進(jìn)行了編輯整理。
關(guān)于MEET 智能未來(lái)大會(huì)：MEET大會(huì)是由量子位主辦的智能科技領(lǐng)域頂級(jí)商業(yè)峰會(huì)，致力于探討前沿科技技術(shù)的落地與行業(yè)應(yīng)用。今年共有數(shù)十家主流媒體及直播平臺(tái)報(bào)道直播了MEET2024大會(huì)，吸引了超過(guò)300萬(wàn)行業(yè)用戶線上參會(huì)，全網(wǎng)總曝光量累積超過(guò)2000萬(wàn)。
演講

原文鏈接：終端側(cè)AI才是生成式AI規(guī)模化的未來(lái) | 高通顏辰巍@MEET2024

聯(lián)系作者

文章來(lái)源：量子位
作者微信：QbitAI
作者簡(jiǎn)介：追蹤人工智能新趨勢(shì)，關(guān)注科技行業(yè)新突破