單日萬億商用Tokens消耗,大模型落地開始規模化
大模型應用落地:Tokens消耗量成為關鍵指標
量子位最新文章指出,2024年下半年,國內大模型商用落地日均Tokens消耗量暴增,從1000億級躍升至10000億級,月復合增長率達到45%。這標志著大模型應用進入大規模商用落地階段,生產力釋放的同時也帶來了巨大的商業機遇。
1. Tokens消耗量:衡量大模型應用落地的關鍵指標
文章強調,Tokens作為大模型理解和生成的最小單位,已成為衡量大模型能力和商業價值的關鍵指標。它可以反映模型預訓練規模、理解能力、推理算力,甚至直接用于API定價。目前,云廠商已將日均Tokens消耗量作為衡量自身大模型服務能力的重要指標。
2. 火山引擎領跑Tokens消耗量增長
數據顯示,火山引擎在Tokens消耗量增長方面表現突出,月均復合增長率超過60%,12月日均Tokens市場份額占比超過50%,遠超其他廠商。其自研模型豆包,日均Tokens使用量更是超過4萬億,七個月增長33倍,并以5998萬月活位居全球AI原生應用月活榜第二。
3. AI原生應用爆發驅動Tokens消耗量增長
Tokens消耗量暴增的核心驅動力是AI原生應用的爆發式增長。2024年1月至10月,中國AI原生應用累計下載量已達1.8億。RAG、智能體、多模態技術的興起,進一步拓寬了大模型應用場景,加速了整體增長。
4. 大模型落地周期縮短,成本下降,加速市場增長
文章指出,大模型落地周期縮短至6-18個月,且成本持續下降,使得千行百業對大模型的需求日益強烈。互聯網、金融、智能終端、游戲等領域已開始規模化應用,進一步推動了Tokens消耗量的增長。
5. 未來展望:Tokens消耗量持續增長,MaaS市場潛力巨大
文章預測,Tokens成本將進一步下降,規模化增長遠未到達瓶頸。大模型訓練成本增速放緩,算力提升以及云廠商模式優化,都將為未來持續增長提供支撐。火山引擎預測,2027年豆包每天Token消耗量將超過100萬億。MaaS市場也將呈現Agent加速應用、大小模型協同、工具鏈生態完善以及混合云部署模式等特點。
6. 總結:Tokens消耗量是觀察大模型商用落地的重要窗口
通過分析Tokens消耗量,我們可以清晰地看到大模型應用落地的趨勢和各廠商的競爭態勢。目前大模型正處于起跑階段,未來發展潛力巨大,誰能成為引領者,值得持續關注。
聯系作者
文章來源:量子位
作者微信:
作者簡介:追蹤人工智能新趨勢,關注科技行業新突破