智源 Emu3 證明多模態模型新范式：只需基于下一個 token 預測

AIGC動態歡迎閱讀

原標題：智源 Emu3 證明多模態模型新范式：只需基于下一個 token 預測
關鍵字：模型,視覺,數據,圖像,視頻
文章來源：AI科技評論
內容字數：0字

內容摘要：

只需基于下一個 token 預測，智源 Emu3 重新定義多模態模型。OpenAI前首席科學家、聯合創始人Ilya Sutskever曾在多個場合表達觀點：只要能夠非常好的預測下一個token，就能幫助人類達到通用人工智能（AGI）。
雖然，下一token預測已在大語言模型領域實現了 ChatGPT 等突破，但是在多模態模型中的適用性仍不明確，多模態任務仍然由擴散模型（如Stable Diffusion）和組合方法（如結合 CLIP視覺編碼器和LLM）所主導。
2024年10月21日，智源研究院正式發布原生多模態世界模型Emu3。該模型只基于下一個token預測，無需擴散模型或組合方法，即可完成文本、圖像、視頻三種模態數據的理解和生成。Emu3在圖像生成、視頻生成、視覺語言理解等任務中超過了 SDXL 、LLaVA、OpenSora等知名開源模型，但是無需擴散模型、CLIP視覺編碼器、預訓練的LLM等技術，只需要預測下一個token。
圖注：在圖像生成任務中，基于人類偏好評測，Emu3優于SD-1.5與SDXL模型。在視覺語言理解任務中，對于12 項基準測試的平均得分，Emu3優于Ll

原文鏈接：智源 Emu3 證明多模態模型新范式：只需基于下一個 token 預測

聯系作者

文章來源：AI科技評論
作者微信：
作者簡介：