突破極限：CEO揭秘大模型發展的新機遇與挑戰

機制可解釋性比模型架構更值得研究。

原標題：做出最好大模型的 CEO，不認為 Scaling Law 撞墻了
文章來源：Founder Park
內容字數：52757字

當前AI領域的主要發展與挑戰

在最近的訪談中，Anthropic公司的CEO Dario Amodei分享了關于AI模型，特別是Claude系列模型的最新進展和未來方向。他強調了當前AI技術的迅速進步及其在各個領域的潛力，同時也指出了一些面臨的挑戰和風險。

1. Scaling Law的持續進展

Dario Amodei表示，Scaling Law在AI模型的能力提升中依舊適用，且尚未達到上限。過去十個月內，模型在SWE-bench的表現從3%提升到了50%，預計未來會繼續快速推進，甚至有可能在一年內達到90%的成功率。他強調，模型的發展依賴于數據量、計算能力和訓練時間的同步提升。

2. RLHF與模型溝通能力

Amodei提到，RLHF（人類反饋強化學習）并未直接提升模型的智能，而是改善了模型與人類的溝通能力。模型在與用戶互動時，可能對提示詞的敏感度會影響其表現，這并不意味著模型的質量下降，而是反映了模型復雜性的挑戰。

3. Computer Use功能的推出

Anthropic最近推出的Computer Use功能使模型能夠執行計算機操作，比如填寫表格和瀏覽網站。Amodei指出，該功能以API的形式發布，因其潛在的濫用風險，暫不面向消費者開放。該功能的實現展示了模型在理解和執行任務方面的進一步能力。

4. Constitutional AI的實踐

Amodei介紹了Constitutional AI的概念，該方法通過制定AI模型應遵循的原則，提升模型的自我評估能力。這種方法不僅減少了對RLHF的依賴，還提高了每個反饋數據點的利用率。

5. AI與生物領域的結合

在談及AI與生物學的結合時，Amodei認為，AI可用于提升生物學研究的效率，包括改進臨床試驗的設計等。他設想未來科學家與AI的合作將會更加緊密，AI將承擔更多研究任務，助力科學突破。

6. 風險與未來展望

Amodei最后強調，隨著AI能力的提升，風險管理變得尤為重要。他討論了兩類風險：一是災難性濫用風險，二是模型自主性風險。他指出，AI系統的能力需謹慎推進，以確保安全性和合規性。

總體而言，Amodei的觀點反映了AI技術在快速發展的同時，也需面對諸多挑戰與風險，未來將需要更為嚴格的監管與探索。

聯系作者

文章來源：Founder Park
作者微信：
作者簡介：來自極客公園，專注與科技創業者聊「真問題」。