大模型多燒錢？明星獨角獸揭秘訓(xùn)練成本：明年或達100億美元

AIGC動態(tài)歡迎閱讀

原標(biāo)題：大模型多燒錢？明星獨角獸揭秘訓(xùn)練成本：明年或達100億美元
關(guān)鍵字：模型,成本,報告,語言,半導(dǎo)體
文章來源：智東西
內(nèi)容字?jǐn)?shù)：5076字

內(nèi)容摘要：

AI訓(xùn)練成本暴漲，小語言模型展現(xiàn)成本效益優(yōu)勢。
編譯|Alyssa
編輯|Panken
智東西5月8日消息，據(jù)美國知名科技媒體VentureBeat報道，在近期測試中，一款新發(fā)布的大語言模型（LLM）似乎能“辨認”出自己正處于被評估狀態(tài)，并對其處理信息的相關(guān)性作出評論。這引發(fā)了人們的猜想，這個反應(yīng)可能是“元認知”的一個實例，即對自身思維過程的理解。這一大語言模型激發(fā)了關(guān)于AI自我意識潛力的討論，但更值得關(guān)注的是，這說明隨著規(guī)模變大，大模型可能會產(chǎn)生新的功能。
伴隨而來的還有新興能力和成本的急劇上升，目前這些成本已達到“天文數(shù)字”。正如半導(dǎo)體行業(yè)只有少數(shù)幾家有能力負擔(dān)最新數(shù)十億美元芯片制造廠的公司，AI領(lǐng)域也可能很快被僅有的幾家大型科技巨頭及其合作伙伴所主導(dǎo)，只有它們能夠承擔(dān)開發(fā)類似GPT-4和Claude 3等最新大語言模型的巨額費用。
01.
AI模型訓(xùn)練成本指數(shù)級增長：下一個頂尖模型或需百億美金！
隨著最新模型訓(xùn)練成本的極速飆升，部分模型的能力已經(jīng)達到甚至在某些情況下超過人類的水平。據(jù)斯坦福大學(xué)報告估計，最新的模型訓(xùn)練成本已逼近2億美元。
▲AI系統(tǒng)在與人類表現(xiàn)相關(guān)的各種能力上的測

原文鏈接：大模型多燒錢？明星獨角獸揭秘訓(xùn)練成本：明年或達100億美元

聯(lián)系作者

文章來源：智東西
作者微信：zhidxcom
作者簡介：智能產(chǎn)業(yè)新媒體！智東西專注報道人工智能主導(dǎo)的前沿技術(shù)發(fā)展，和技術(shù)應(yīng)用帶來的千行百業(yè)產(chǎn)業(yè)升級。聚焦智能變革，服務(wù)產(chǎn)業(yè)升級。