8/8/6/3的Mamba論文，最終還是被ICLR 2024拒了，網友：懸著的心終于死了

AIGC動態歡迎閱讀

原標題：8/8/6/3的Mamba論文，最終還是被ICLR 2024拒了，網友：懸著的心終于死了
關鍵字：審稿人,論文,模型,作者,序列
文章來源：機器之心
內容字數：6451字

內容摘要：

機器之心報道
編輯：蛋醬幾天前，ICLR 2024 的最終接收結果出來了。
大家應該還記得，Mamba 被 ICLR 2024 大會 Decision Pending（待定）的消息在 1 月份引發過一波社區熱議。
當時，多位領域內的研究者分析，Decision Pending 的意思是延遲決定，雖然也可能會被拒，但這篇論文得到了 8/8/6/3 的打分，按理說不至于真被拒。論文審稿頁面：https://openreview.net/forum?id=AL1fq05o7H
如今，Decision 已出，Mamba 徹底被拒，懸著的心終于死了。「Mamba」發布之初即被視為「Transformer 的強勁競爭者」，它是一種選擇性狀態空間模型（selective state space model），在語言建模方面可以媲美甚至擊敗 Transformer。而且，它可以隨上下文長度的增加實現線性擴展，其性能在實際數據中可提高到百萬 token 長度序列，并實現 5 倍的推理吞吐量提升。
但對于 ICLR 審稿人來說，這篇論文還存在重大缺陷（至少針對當前版本）。
手握 8/8/6/3 得分，究竟

原文鏈接：8/8/6/3的Mamba論文，最終還是被ICLR 2024拒了，網友：懸著的心終于死了

聯系作者

文章來源：機器之心
作者微信：almosthuman2014
作者簡介：專業的人工智能媒體和產業服務平臺