GPT-5 研發(fā)一年半進(jìn)度堪憂！每輪 5 億美金訓(xùn)練成本打水漂，還得雇人從頭“造數(shù)據(jù)”

研發(fā)超過 18 個(gè)月卻還未見影子的 GPT-5（代號 Orion）項(xiàng)目又有了新爆料。

原標(biāo)題：GPT-5 研發(fā)一年半進(jìn)度堪憂！每輪 5 億美金訓(xùn)練成本打水漂，還得雇人從頭“造數(shù)據(jù)”
文章來源：AI前線
內(nèi)容字?jǐn)?shù)：5426字

GPT-5項(xiàng)目進(jìn)展受阻：高昂成本與數(shù)據(jù)瓶頸

OpenAI的GPT-5項(xiàng)目（代號Orion）研發(fā)已超過18個(gè)月，卻遲遲未見發(fā)布，其進(jìn)展困難重重，引發(fā)業(yè)界關(guān)注。本文將總結(jié)該項(xiàng)目面臨的主要挑戰(zhàn)。

1. 巨額成本與回報(bào)的不確定性

據(jù)《華爾街日報(bào)》報(bào)道，GPT-5已進(jìn)行過至少兩輪訓(xùn)練，每次都耗資近5億美元，但結(jié)果未能達(dá)到預(yù)期。如此高昂的成本，使得項(xiàng)目持續(xù)性面臨質(zhì)疑。即使成功，回報(bào)也存在極大的不確定性。

2. 數(shù)據(jù)瓶頸：現(xiàn)有數(shù)據(jù)不足以支撐模型發(fā)展

GPT-5的訓(xùn)練需要海量數(shù)據(jù)，而現(xiàn)有的公開互聯(lián)網(wǎng)數(shù)據(jù)已不足以滿足其需求。這導(dǎo)致OpenAI不得不另尋出路，嘗試“從零開始創(chuàng)造數(shù)據(jù)”，雇傭軟件工程師和數(shù)學(xué)家編寫代碼、解決數(shù)學(xué)問題，并記錄其思考過程作為訓(xùn)練素材。這種方法效率低下，且依賴于AI生成數(shù)據(jù)的合成數(shù)據(jù)也存在風(fēng)險(xiǎn)，可能導(dǎo)致模型出錯(cuò)。

3. 開發(fā)過程中的技術(shù)挑戰(zhàn)

GPT-5的開發(fā)比預(yù)期更加復(fù)雜。早期的“Arrakis”實(shí)驗(yàn)性訓(xùn)練進(jìn)展緩慢，預(yù)示著大規(guī)模訓(xùn)練將耗時(shí)更長，成本更高。OpenAI被迫進(jìn)行一系列技術(shù)調(diào)整，以應(yīng)對模型訓(xùn)練現(xiàn)的問題。

4. 內(nèi)部動(dòng)蕩與外部競爭壓力

OpenAI內(nèi)部面臨人才流失和管理層動(dòng)蕩，多位關(guān)鍵高管和研究人員離職，影響了項(xiàng)目進(jìn)度。同時(shí)，Anthropic、谷歌等競爭對手的崛起也加劇了壓力，它們紛紛推出新一代模型，試圖趕超OpenAI。

5. 資源競爭與戰(zhàn)略調(diào)整

由于Orion項(xiàng)目進(jìn)展受阻，OpenAI開始開發(fā)其他項(xiàng)目，例如簡化版的GPT-4和AI視頻生成工具Sora，但這導(dǎo)致了團(tuán)隊(duì)之間對有限計(jì)算資源的激烈競爭。

6. 行業(yè)瓶頸的隱憂

GPT-5的困境可能預(yù)示著AI發(fā)展已接近瓶頸期。依賴海量數(shù)據(jù)和更大模型的策略正在失效，數(shù)據(jù)增長的放緩限制了AI的進(jìn)一步發(fā)展。

7. 未來展望

OpenAI尚未給出GPT-5的明確發(fā)布時(shí)間，其未來仍存在不確定性。項(xiàng)目能否成功，何時(shí)成功，都尚不明確。 高昂的成本、數(shù)據(jù)瓶頸以及內(nèi)部和外部的壓力，都對GPT-5的未來發(fā)展構(gòu)成嚴(yán)峻挑戰(zhàn)。

聯(lián)系作者

文章來源：AI前線
作者微信：
作者簡介：面向AI愛好者、開發(fā)者和科學(xué)家，提供大模型最新資訊、AI技術(shù)分享干貨、一線業(yè)界實(shí)踐案例，助你全面擁抱AIGC。