有價值的東西不一定有商業價值。

原標題：預訓練卷到頭了，推理卻是一片藍海
文章來源：夕小瑤科技說
內容字數：5051字

AI模型推理的商業價值探討

在剛剛結束的NeurIPS 2024上，OpenAI前首席科學家Ilya提到“預訓練即將終結”，并指出未來將聚焦于超級智能的agent、推理、理解和自我意識。這一觀點引發了廣泛關注，尤其是在如何將大模型技術轉化為商業價值方面。

1. 什么是模型推理

簡單來說，模型推理是AI模型在接受新數據時作出判斷和決策的過程。可以將模型視為“學生”，而訓練過程則是“教師”對學生進行知識傳授的過程。推理則是學生運用所學知識進行實際應用的環節。

2. 模型推理的關鍵要素

從用戶的角度來看，推理性能的關鍵在于反饋的準確性和交互延遲，以及從技術實現角度考慮的硬件依賴、資源利用率和部署靈活性等。

3. 模型推理的Scaling Law

OpenAI在o1模型上的突破表明，通過優化推理過程，可以在提升模型性能的同時增加計算量。這一發現可能暗示著新的Scaling Law，即模型“思考”的時間越長，其準確性可能越高。

4. 競爭格局與市場機會

目前，模型推理市場已逐漸繁榮，各大公司在算力硬件、推理服務和行業應用層面爭相布局。Flaningam將推理的提供方式劃分為基礎模型API、推理服務代理、AI云平臺和AI芯片廠商等不同陣營。

5. 推理價值的多維博弈

推理市場的商業價值受供需動態博弈的影響。頂尖算力和先進算法的企業將占據競爭優勢，而行業應用的廣度和深度也決定了推理的需求曲線。此外，隨著設備端推理的潛力被挖掘，邊緣計算可能帶來新的市場增量。

6. 結論

AI推理作為大模型商業化的關鍵環節，其商業價值正在不斷重塑。盡管當前頂尖玩家占據先發優勢，但未來的端云協同和算力下沉可能會帶來新的增長點。對投資者而言，理解技術趨勢和行業變化至關重要。

聯系作者

文章來源：夕小瑤科技說
作者微信：
作者簡介：解碼AI世界，硬核也可愛！聚集35萬AI發燒友、開發者和從業者，廣泛覆蓋互聯網大廠中高管、AI公司創始人和機構投資人。一線作者來自清北、國內外頂級AI實驗室和大廠，兼備敏銳的行業嗅覺和洞察深度。商務合作：zym5189