馬毅教授新作：白盒ViT成功實現「分割涌現」，經驗深度學即將結束？

AIGC動態歡迎閱讀

原標題：馬毅教授新作：白盒ViT成功實現「分割涌現」，經驗深度學即將結束？

關鍵字：模型,語義,研究人員,表征,屬性

文章來源：新智元

內容字數：11129字

內容摘要：新智元報道編輯：LRS【新智元導讀】CRATE模型完全由理論指導設計，僅用自監督學習即可實現分割語義涌現。基于Transformer的視覺基礎模型在各種下游任務，如分割和檢測中都展現出了非常強大的性能，并且DINO等模型經過自監督訓練后已經涌現出了語義的分割屬性。不過奇怪的是，類似的涌現能力并沒有出現在有監督分類訓練后的視覺Transformer模型中。最近，馬毅教授團隊探索了基于Transfor…

原文鏈接：點此閱讀原文：馬毅教授新作：白盒ViT成功實現「分割涌現」，經驗深度學即將結束？

聯系作者

文章來源：新智元

作者微信：AI_era

作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。