AIGC動態歡迎閱讀
原標題:AI頂會ICML收了一篇論文:沒算法沒實驗
關鍵字:序列,定理,函數,自然語言,模型
文章來源:量子位
內容字數:0字
內容摘要:
蔡永強 投稿量子位 | 公眾號 QbitAI沒有算法沒有實驗,從2610篇收錄論文中脫穎而出,成為唯一一篇純理論入選2024 ICML Spotlight的論文。
“Vocabulary for Universal Approximation: A Linguistic Perspective of Mapping Compositions(詞的萬能逼近:從語言角度看映射組合)”,這篇純理論論文講了什么,何以入選Spotlight?
簡單來說,目前基于深度學習的序列模型,如語言模型,受到了廣泛關注并取得了成功,這促使研究人員探索將非序列問題轉換為序列形式的可能性。
沿著這一思路,深度神經網絡可以表示為一系列線性或非線性映射的復合函數,其中每個映射都可以看作是一個“詞”。
然而,線性映射的權重是未確定的,因此需要無限多個詞。
而這篇論文研究有限情形并構造性地證明了存在一個有限的函數詞匯表V,用于實現萬能逼近。
也就是說,對于任何連續映射f、緊集Ω和ε>0,存在V中的一個有限序列,使得它們的復合映射能夠在Ω上近似f且逼近誤差小于ε。
論文研究結果展示了函數復合的非凡近似能力,并為正則語言提
聯系作者
文章來源:量子位
作者微信:
作者簡介:
? 版權聲明
文章版權歸作者所有,未經允許請勿轉載。
相關文章
暫無評論...