從預(yù)訓(xùn)練到無限可能：開啟藍(lán)海推理的新紀(jì)元

有價值的東西不一定有商業(yè)價值。

原標(biāo)題：預(yù)訓(xùn)練卷到頭了，推理卻是一片藍(lán)海
文章來源：夕小瑤科技說
內(nèi)容字?jǐn)?shù)：5051字

AI模型推理的商業(yè)價值探討

在剛剛結(jié)束的NeurIPS 2024上，OpenAI前首席科學(xué)家Ilya提到“預(yù)訓(xùn)練即將終結(jié)”，并指出未來將聚焦于超級智能的agent、推理、理解和自我意識。這一觀點(diǎn)引發(fā)了廣泛關(guān)注，尤其是在如何將大模型技術(shù)轉(zhuǎn)化為商業(yè)價值方面。

1. 什么是模型推理

簡單來說，模型推理是AI模型在接受新數(shù)據(jù)時作出判斷和決策的過程。可以將模型視為“學(xué)生”，而訓(xùn)練過程則是“教師”對學(xué)生進(jìn)行知識傳授的過程。推理則是學(xué)生運(yùn)用所學(xué)知識進(jìn)行實(shí)際應(yīng)用的環(huán)節(jié)。

2. 模型推理的關(guān)鍵要素

從用戶的角度來看，推理性能的關(guān)鍵在于反饋的準(zhǔn)確性和交互延遲，以及從技術(shù)實(shí)現(xiàn)角度考慮的硬件依賴、資源利用率和部署靈活性等。

3. 模型推理的Scaling Law

OpenAI在o1模型上的突破表明，通過優(yōu)化推理過程，可以在提升模型性能的同時增加計(jì)算量。這一發(fā)現(xiàn)可能暗示著新的Scaling Law，即模型“思考”的時間越長，其準(zhǔn)確性可能越高。

4. 競爭格局與市場機(jī)會

目前，模型推理市場已逐漸繁榮，各大公司在算力硬件、推理服務(wù)和行業(yè)應(yīng)用層面爭相布局。Flaningam將推理的提供方式劃分為基礎(chǔ)模型API、推理服務(wù)代理、AI云平臺和AI芯片廠商等不同陣營。

5. 推理價值的多維博弈

推理市場的商業(yè)價值受供需動態(tài)博弈的影響。頂尖算力和先進(jìn)算法的企業(yè)將占據(jù)競爭優(yōu)勢，而行業(yè)應(yīng)用的廣度和深度也決定了推理的需求曲線。此外，隨著設(shè)備端推理的潛力被挖掘，邊緣計(jì)算可能帶來新的市場增量。

6. 結(jié)論

AI推理作為大模型商業(yè)化的關(guān)鍵環(huán)節(jié)，其商業(yè)價值正在不斷重塑。盡管當(dāng)前頂尖玩家占據(jù)先發(fā)優(yōu)勢，但未來的端云協(xié)同和算力下沉可能會帶來新的增長點(diǎn)。對投資者而言，理解技術(shù)趨勢和行業(yè)變化至關(guān)重要。

聯(lián)系作者

文章來源：夕小瑤科技說
作者微信：
作者簡介：解碼AI世界，硬核也可愛！聚集35萬AI發(fā)燒友、開發(fā)者和從業(yè)者，廣泛覆蓋互聯(lián)網(wǎng)大廠中高管、AI公司創(chuàng)始人和機(jī)構(gòu)投資人。一線作者來自清北、國內(nèi)外頂級AI實(shí)驗(yàn)室和大廠，兼?zhèn)涿翡J的行業(yè)嗅覺和洞察深度。商務(wù)合作：zym5189