終端側(cè)AI才是生成式AI規(guī)?；奈磥?| 高通顏辰巍@MEET2024

AIGC動態(tài)歡迎閱讀

原標(biāo)題：終端側(cè)AI才是生成式AI規(guī)模化的未來 | 高通顏辰巍@MEET2024
關(guān)鍵字：終端,模型,用戶,平臺,性能
文章來源：量子位
內(nèi)容字?jǐn)?shù)：7344字

內(nèi)容摘要：

編輯部 整理自 MEET2024量子位 | 公眾號 QbitAI縱觀剛剛過去的MEET 2024智能未來大會，終端側(cè)AI儼然成為其中一大熱詞。
為什么大家都在談?wù)撨@一趨勢？
在大會現(xiàn)場，高通技術(shù)公司產(chǎn)品管理高級副總裁顏辰巍歸納了三點(diǎn)原因：
一是隨著模型參數(shù)越來越大、相關(guān)應(yīng)用以及用戶越來越多，云計(jì)算推理成本和綜合成本將急劇增加，將難以支持生成式AI規(guī)?；l(fā)展。
二是數(shù)據(jù)在哪里，AI推理就應(yīng)該在哪里進(jìn)行，這不僅最經(jīng)濟(jì)也更為保護(hù)用戶隱私。
三是有些應(yīng)用場景沒有5G數(shù)據(jù)連接，這時候就必須有本地計(jì)算能力。
基于此，顏辰巍認(rèn)為：
只有當(dāng)終端就能運(yùn)行基于AI大模型的用例時，端側(cè)與云側(cè)能很好地結(jié)合，生成式AI才能大規(guī)模普及，發(fā)揮出所有的潛力。
為了完整體現(xiàn)顏辰巍對終端側(cè)AI的見解和思考，量子位在不改變原意的基礎(chǔ)上，對他的演講內(nèi)容進(jìn)行了編輯整理。
關(guān)于MEET 智能未來大會：MEET大會是由量子位主辦的智能科技領(lǐng)域頂級商業(yè)峰會，致力于探討前沿科技技術(shù)的落地與行業(yè)應(yīng)用。今年共有數(shù)十家主流媒體及直播平臺報道直播了MEET2024大會，吸引了超過300萬行業(yè)用戶線上參會，全網(wǎng)總曝光量累積超過2000萬。
演講

原文鏈接：終端側(cè)AI才是生成式AI規(guī)?；奈磥?| 高通顏辰巍@MEET2024

聯(lián)系作者

文章來源：量子位
作者微信：QbitAI
作者簡介：追蹤人工智能新趨勢，關(guān)注科技行業(yè)新突破