原標(biāo)題：思維鏈作者Jason Wei剖析LLM擴展范式：Just keep scaling！
文章來源：人工智能學(xué)家
內(nèi)容字數(shù)：26492字

Jason Wei：大型語言模型的擴展范式與未來展望

本文總結(jié)了Jason Wei在賓夕法尼亞大學(xué)的客座講座，主題為大型語言模型的擴展范式。Jason Wei是思維鏈概念開山之作的第一作者，也是OpenAI的資深研究科學(xué)家，參與了ChatGPT的構(gòu)建等重要項目。他的演講深入探討了LLM發(fā)展歷程中的擴展策略，并對未來發(fā)展方向進行了展望。

1. 擴展的定義與重要性

傳統(tǒng)上，擴展指增加模型規(guī)模、數(shù)據(jù)量和GPU數(shù)量來提升AI能力。Wei給出了更精確的定義：擴展是將自身置于可沿連續(xù)軸移動并預(yù)期持續(xù)改進的環(huán)境中。盡管擴展面臨技術(shù)和心理挑戰(zhàn)（如高昂的計算成本、對算法改進的偏好等），但它是AI進步的關(guān)鍵引擎，并將繼續(xù)主導(dǎo)該領(lǐng)域的發(fā)展。

2. 擴展范式一：下一詞預(yù)測 (2018年至今)

下一詞預(yù)測是一個大規(guī)模多任務(wù)學(xué)習(xí)過程。通過預(yù)測下一詞，模型學(xué)法、世界知識、情感分析、翻譯等多種能力。模型的整體準(zhǔn)確率是多個子任務(wù)性能的加權(quán)和，這解釋了“涌現(xiàn)”現(xiàn)象：某些能力在模型規(guī)模達到一定閾值后才出現(xiàn)顯著提升。雖然下一詞預(yù)測可能最終實現(xiàn)AGI，但過程將極其困難，需要持續(xù)大規(guī)模擴展。

3. 擴展范式二：基于思維鏈擴展強化學(xué)習(xí)

純粹的下一詞預(yù)測在處理復(fù)雜任務(wù)時存在局限性。思維鏈 (CoT) 提示模型像人類一樣展示推理過程，OpenAI通過強化學(xué)習(xí)優(yōu)化了模型的思維鏈能力，使其更好地解決復(fù)雜問題。 o1項目就是一個成功的案例，它能夠在解決復(fù)雜問題（如化學(xué)題、競賽數(shù)學(xué)題）時，展示詳細的推理步驟，顯著提升了解題能力。

4. AI 文化的變革

擴展改變了AI研究文化：研究重點從改進算法轉(zhuǎn)向改進數(shù)據(jù)質(zhì)量；基準(zhǔn)測試被“飽和”的速度加快；研究轉(zhuǎn)向高度多任務(wù)模型；智能和用戶體驗成為可以分別改進的維度；需要更大規(guī)模的團隊合作。

5. 未來展望

Wei對AI的未來發(fā)展充滿信心，他認為未來五年AI將取得比過去五年更大的進步。主要發(fā)展方向包括：AI在科學(xué)和醫(yī)療健康領(lǐng)域的應(yīng)用；提高事實準(zhǔn)確性，減少虛假信息；發(fā)展多模態(tài)AI能力；增強工具使用能力；擴大AI應(yīng)用范圍。他總結(jié)道：“just keep scaling”（繼續(xù)擴展）是推動AI持續(xù)進步的關(guān)鍵策略。

總而言之，Jason Wei的演講強調(diào)了擴展在推動大型語言模型發(fā)展中的核心作用，并指出了未來研究和應(yīng)用的重點方向。持續(xù)的擴展，以及對數(shù)據(jù)質(zhì)量和用戶體驗的重視，將是未來AI進步的關(guān)鍵。

聯(lián)系作者

文章來源：人工智能學(xué)家
作者微信：
作者簡介：致力成為權(quán)威的人工智能科技媒體和前沿科技研究機構(gòu)