終端側AI才是生成式AI規(guī)模化的未來 | 高通顏辰巍@MEET2024

AIGC動態(tài)歡迎閱讀

原標題：終端側AI才是生成式AI規(guī)模化的未來 | 高通顏辰巍@MEET2024
關鍵字：終端,模型,用戶,平臺,性能
文章來源：量子位
內容字數(shù)：7344字

內容摘要：

編輯部 整理自 MEET2024量子位 | 公眾號 QbitAI縱觀剛剛過去的MEET 2024智能未來大會，終端側AI儼然成為其中一大熱詞。
為什么大家都在談論這一趨勢？
在大會現(xiàn)場，高通技術公司產品管理高級副總裁顏辰巍歸納了三點原因：
一是隨著模型參數(shù)越來越大、相關應用以及用戶越來越多，云計算推理成本和綜合成本將急劇增加，將難以支持生成式AI規(guī)模化發(fā)展。
二是數(shù)據(jù)在哪里，AI推理就應該在哪里進行，這不僅最經濟也更為保護用戶隱私。
三是有些應用場景沒有5G數(shù)據(jù)連接，這時候就必須有本地計算能力。
基于此，顏辰巍認為：
只有當終端就能運行基于AI大模型的用例時，端側與云側能很好地結合，生成式AI才能大規(guī)模普及，發(fā)揮出所有的潛力。
為了完整體現(xiàn)顏辰巍對終端側AI的見解和思考，量子位在不改變原意的基礎上，對他的演講內容進行了編輯整理。
關于MEET 智能未來大會：MEET大會是由量子位主辦的智能科技領域頂級商業(yè)峰會，致力于探討前沿科技技術的落地與行業(yè)應用。今年共有數(shù)十家主流媒體及直播平臺報道直播了MEET2024大會，吸引了超過300萬行業(yè)用戶線上參會，全網總曝光量累積超過2000萬。
演講

原文鏈接：終端側AI才是生成式AI規(guī)模化的未來 | 高通顏辰巍@MEET2024

聯(lián)系作者

文章來源：量子位
作者微信：QbitAI
作者簡介：追蹤人工智能新趨勢，關注科技行業(yè)新突破