小模型會越來越流行。

原標題：a16z華裔合伙人Jennifer Li：小模型+端側(cè)AI將定義2025
文章來源：Founder Park
內(nèi)容字數(shù)：5919字

a16z合伙人Jennifer Li預(yù)測：小型設(shè)備端生成式AI模型將在2024年崛起

本文總結(jié)了a16z合伙人Jennifer Li在The a16z Podcast中關(guān)于生成式AI的最新見解，重點關(guān)注設(shè)備端運行的小型模型的未來重要性。

1. 小型設(shè)備端生成式AI模型的興起

   Jennifer Li預(yù)測，在設(shè)備端運行的小型生成式AI模型將在2024年變得更受歡迎。她認為，類似于Uber、Instacart等應(yīng)用中已廣泛使用的傳統(tǒng)機器學(xué)習(xí)模型，生成圖像、語音、視頻的生成式模型也將逐漸在設(shè)備端普及。

2. 智能手機算力與模型效率的提升

   針對小型模型如何在算力有限的智能手機上運行的問題，Jennifer Li指出，智能手機的算力已顯著提升，足以運行數(shù)十億參數(shù)規(guī)模的模型。此外，模型蒸餾技術(shù)可以將大型模型壓縮成更小、更高效的模型，同時保留其大部分功能。這使得在設(shè)備端運行生成式AI模型成為可能。

3. 設(shè)備端運行模型的優(yōu)勢

   在設(shè)備端運行模型具有諸多優(yōu)勢：首先，它能顯著提升用戶體驗，提供實時、高性能、流暢的應(yīng)用響應(yīng)，避免了云端處理帶來的延遲；其次，它優(yōu)化了算力資源利用，減少了對云端服務(wù)器的依賴；最后，它增強了用戶數(shù)據(jù)隱私保護，因為數(shù)據(jù)處理在本地進行。

4. 設(shè)備端AI模型的應(yīng)用場景

   Jennifer Li預(yù)測，實時語音助手將成為設(shè)備端AI模型的重要應(yīng)用場景。此外，它還將增強AR體驗，例如利用攝像頭和生成式AI創(chuàng)造新的現(xiàn)實互動方式。她還提到，一些應(yīng)用已經(jīng)開始使用設(shè)備端模型，例如在Instagram或TikTok上添加濾鏡。

5. 經(jīng)濟模式的轉(zhuǎn)變

   雖然設(shè)備端運行模型可能會降低部分云端推理成本，但Jennifer Li認為它并不會大幅降低應(yīng)用的基礎(chǔ)設(shè)施成本。然而，它會改變開發(fā)者的效率和迭代速度，并影響整個工具鏈的構(gòu)建和組織方式。她建議開發(fā)者采用混合模式（云端和設(shè)備端同時部署），以充分利用兩者的優(yōu)勢。

6. 受益者及未來趨勢

   Jennifer Li認為，芯片制造商、設(shè)備制造商和模型開發(fā)者都將從設(shè)備端模型的興起中受益。未來，混合現(xiàn)實（MR）領(lǐng)域?qū)⒊蔀樵O(shè)備端生成式AI模型的重要應(yīng)用場景，為用戶帶來更具創(chuàng)造性的現(xiàn)實體驗。她對這一趨勢感到非常樂觀。

總而言之，Jennifer Li對設(shè)備端小型生成式AI模型的未來發(fā)展充滿信心，認為它將帶來用戶體驗的顯著提升、經(jīng)濟模式的轉(zhuǎn)變以及新的應(yīng)用場景的出現(xiàn)。

聯(lián)系作者

文章來源：Founder Park
作者微信：
作者簡介：來自極客公園，專注與科技創(chuàng)業(yè)者聊「真問題」。