PRO | 多模態趨勢下，Transformer并非主流架構唯一解

AIGC動態歡迎閱讀

原標題：PRO | 多模態趨勢下，Transformer并非主流架構唯一解
關鍵字：解讀,騰訊,模型,卷積,架構
文章來源：機器之心
內容字數：4977字

內容摘要：

2023年，幾乎 AI 的每個領域都在以前所未有的速度進化，同時，AI也在不斷地推動著具身智能、自動駕駛等關鍵賽道的技術邊界。
多模態趨勢下，Transformer 作為 AI 大模型主流架構的局面是否會撼動？為何探索基于 MoE （專家混合）架構的大模型成為業內新趨勢？大型視覺模型（LVM）能否成為通用視覺的新突破？…
我們從過去的半年發布的2023年機器之心PRO會員通訊中，挑選了 10份針對以上領域技術趨勢、產業變革進行深入剖析的專題解讀，助您在新的一年里為大展宏圖做好準備。
本篇解讀來自2023年Week52業內通訊??
專題解讀多模態趨勢下，Transformer 并非主流架構唯一解
日期：12月24日
：騰訊AI實驗室與港中文聯合團隊提出了新CNN架構「UniRepLKNet」，在圖像識別精度和速度上都超過了Transformer架構模型。
要點速覽
1、UniRepLKNet的設計遵循了四條guideline，包括使用大卷積核來保證大感受野，使用depthwise小卷積來提高特征抽象層次，以及使用高效結構來增強模型的深度和表示能力。
2、UniRepLKNet的每

原文鏈接：PRO | 多模態趨勢下，Transformer并非主流架構唯一解

聯系作者

文章來源：機器之心
作者微信：almosthuman2014
作者簡介：專業的人工智能媒體和產業服務平臺