Sora 究竟有多燒錢?Sora的推理與訓練的計算成本被扒出來了
AIGC動態(tài)歡迎閱讀
原標題:Sora 究竟有多燒錢?Sora的推理與訓練的計算成本被扒出來了
關鍵字:報告,模型,視頻,盈虧,成本
文章來源:夕小瑤科技說
內容字數(shù):5011字
內容摘要:
夕小瑤科技說 原創(chuàng)作者 | ZicySora一經發(fā)布,世界再次被AI的力量所震撼。要知道Runway、Pika等明星模型都還在突破幾秒內的連貫性的時候,Sora已經可以直接生成長達60s的一鏡到底視頻。
大家對Sora的更進一步信息和細節(jié)都非常好奇,但遺憾的是,OpenAI并未公布它的技術細節(jié),而只有一份簡單的技術報告。
今天我們就來扒一扒網(wǎng)上對Sora訓練和推理的估算,看看Sora驚艷效果背后的算力究竟是如何的驚人。
▲Sora生成的視頻效果從DiT到Sora在Sora的技術報告中,作者提到Sora的設計很大程度上受到了《Scalable Diffusion Models with Transformers》論文的影響,這篇論文中提到的模型DiT是用于圖像生成的,Sora將這項工作擴展到了視頻生成。
我們先來看看DiT模型,最大的DiT模型DiT-XL具有675M參數(shù),需要次浮點運算進行訓練。為了使這個數(shù)字更容易理解,這相當于大約一臺H100運行12天。
下面是對Sora所需的計算量做一個估算:
1、DiT只對圖像進行建模,但Sora是視頻模型,我們假設Sora在把圖片變成視頻的過程
原文鏈接:Sora 究竟有多燒錢?Sora的推理與訓練的計算成本被扒出來了
聯(lián)系作者
文章來源:夕小瑤科技說
作者微信:xixiaoyaoQAQ
作者簡介:更快的AI前沿,更深的行業(yè)洞見。聚集25萬AI一線開發(fā)者、互聯(lián)網(wǎng)中高管和機構投資人。一線作者來自清北、國內外頂級AI實驗室和大廠,兼?zhèn)湫袠I(yè)嗅覺與報道深度。