單日萬億商用Tokens消耗，大模型落地開始規模化

原標題：大模型商用格局雛形初現：Tokens用量決高下，火山引擎問鼎2024
文章來源：量子位
內容字數：7415字

大模型應用落地：Tokens消耗量成為關鍵指標

量子位最新文章指出，2024年下半年，國內大模型商用落地日均Tokens消耗量暴增，從1000億級躍升至10000億級，月復合增長率達到45%。這標志著大模型應用進入大規模商用落地階段，生產力釋放的同時也帶來了巨大的商業機遇。

1. Tokens消耗量：衡量大模型應用落地的關鍵指標

文章強調，Tokens作為大模型理解和生成的最小單位，已成為衡量大模型能力和商業價值的關鍵指標。它可以反映模型預訓練規模、理解能力、推理算力，甚至直接用于API定價。目前，云廠商已將日均Tokens消耗量作為衡量自身大模型服務能力的重要指標。

2. 火山引擎領跑Tokens消耗量增長

數據顯示，火山引擎在Tokens消耗量增長方面表現突出，月均復合增長率超過60%，12月日均Tokens市場份額占比超過50%，遠超其他廠商。其自研模型豆包，日均Tokens使用量更是超過4萬億，七個月增長33倍，并以5998萬月活位居全球AI原生應用月活榜第二。

3. AI原生應用爆發驅動Tokens消耗量增長

Tokens消耗量暴增的核心驅動力是AI原生應用的爆發式增長。2024年1月至10月，中國AI原生應用累計下載量已達1.8億。RAG、智能體、多模態技術的興起，進一步拓寬了大模型應用場景，加速了整體增長。

4. 大模型落地周期縮短，成本下降，加速市場增長

文章指出，大模型落地周期縮短至6-18個月，且成本持續下降，使得千行百業對大模型的需求日益強烈。互聯網、金融、智能終端、游戲等領域已開始規模化應用，進一步推動了Tokens消耗量的增長。

5. 未來展望：Tokens消耗量持續增長，MaaS市場潛力巨大

文章預測，Tokens成本將進一步下降，規模化增長遠未到達瓶頸。大模型訓練成本增速放緩，算力提升以及云廠商模式優化，都將為未來持續增長提供支撐。火山引擎預測，2027年豆包每天Token消耗量將超過100萬億。MaaS市場也將呈現Agent加速應用、大小模型協同、工具鏈生態完善以及混合云部署模式等特點。

6. 總結：Tokens消耗量是觀察大模型商用落地的重要窗口

通過分析Tokens消耗量，我們可以清晰地看到大模型應用落地的趨勢和各廠商的競爭態勢。目前大模型正處于起跑階段，未來發展潛力巨大，誰能成為引領者，值得持續關注。

聯系作者

文章來源：量子位
作者微信：
作者簡介：追蹤人工智能新趨勢，關注科技行業新突破