DeepSeek新作Janus：解耦視覺編碼，引領多模態理解與生成統一新范式

AIGC動態歡迎閱讀

原標題：DeepSeek新作Janus：解耦視覺編碼，引領多模態理解與生成統一新范式
關鍵字：模型,視覺,編碼器,任務,圖像
文章來源：機器之心
內容字數：0字

內容摘要：

AIxiv專欄是機器之心發布學術、技術內容的欄目。過去數年，機器之心AIxiv專欄接收報道了2000多篇內容，覆蓋全球各大高校與企業的頂級實驗室，有效促進了學術交流與傳播。如果您有優秀的工作想要分享，歡迎投稿或者聯系報道。投稿郵箱：liyazhou@jiqizhixin.com；zhaoyunfeng@jiqizhixin.com論文: https://arxiv.org/pdf/2410.13848
項目主頁：https://github.com/deepseek-ai/Janus
模型下載：https://huggingface.co/deepseek-ai/Janus-1.3B
在線 Demo：https://huggingface.co/spaces/deepseek-ai/Janus-1.3B
1. 太長不看版
我們提出了 Janus，一種基于自回歸的多模態理解與生成統一模型。Janus 的核心思想是對理解和生成任務的視覺編碼進行解耦，在提升了模型的靈活性的同時，有效緩解了使用單一視覺編碼導致的沖突和性能瓶頸。實驗表明，Janus 超越了此前的統一模型的效果，并取得了和純理解

原文鏈接：DeepSeek新作Janus：解耦視覺編碼，引領多模態理解與生成統一新范式