AIGC動態歡迎閱讀
原標題:Sora究竟有多燒錢?Sora的推理與訓練的計算成本被扒出來了
關鍵字:報告,模型,視頻,盈虧,成本
文章來源:大數據文摘
內容字數:5113字
內容摘要:
大數據文摘授權轉載自夕小瑤科技說作者:Zicy
Sora一經發布,世界再次被AI的力量所震撼。要知道Runway、Pika等明星模型都還在突破幾秒內的連貫性的時候,Sora已經可以直接生成長達60s的一鏡到底視頻。
大家對Sora的更進一步信息和細節都非常好奇,但遺憾的是,OpenAI并未公布它的技術細節,而只有一份簡單的技術報告。
今天我們就來扒一扒網上對Sora訓練和推理的估算,看看Sora驚艷效果背后的算力究竟是如何的驚人。▲Sora生成的視頻效果
從DiT到Sora在Sora的技術報告中,作者提到Sora的設計很大程度上受到了《Scalable Diffusion Models with Transformers》論文的影響,這篇論文中提到的模型DiT是用于圖像生成的,Sora將這項工作擴展到了視頻生成。
我們先來看看DiT模型,最大的DiT模型DiT-XL具有675M參數,需要次浮點運算進行訓練。為了使這個數字更容易理解,這相當于大約一臺H100運行12天。下面是對Sora所需的計算量做一個估算:
1、DiT只對圖像進行建模,但Sora是視頻模型,我們假設Sora在把圖片變成
原文鏈接:Sora究竟有多燒錢?Sora的推理與訓練的計算成本被扒出來了
聯系作者
文章來源:大數據文摘
作者微信:BigDataDigest
作者簡介:普及數據思維,傳播數據文化
? 版權聲明
文章版權歸作者所有,未經允許請勿轉載。
相關文章
暫無評論...