transformer的細節到底是怎么樣的？Transformer 連環18問！

AIGC動態歡迎閱讀

原標題：transformer的細節到底是怎么樣的？Transformer 連環18問！
關鍵字：報告,知識產權,人工智能,特征,方式
文章來源：人工智能學家
內容字數：0字

內容摘要：

來源：
https://www.zhihu.com/question/362131975/answer/3058958207
作者：愛問問題的王宸@知乎（已授權）
編輯：極市平臺
為什么想通過十八個問題的方式總結Transformer？
有兩點原因：
第一，Transformer是既MLP、RNN、CNN之后的第四大特征提取器，也被稱為第四大基礎模型；最近爆火的chatGPT，其最底層原理也是Transformer，Transformer的重要性可見一斑。
第二，希望通過問問題這種方式，更好的幫助大家理解Transformer的內容和原理。
1.2017年深度學習領域的重大突破是什么？Transformer。有兩方面的原因：
1.1 一方面，Transformer是深度學習領域既MLP、RNN、CNN之后的第4大特征提取器（也被稱為基礎模型）。什么是特征提取器？大腦是人與外部世界（圖像、文字、語音等）交互的方式；特征提取器是計算機為了模仿大腦，與外部世界（圖像、文字、語音等）交互的方式，如圖1所示。舉例而言：Imagenet數據集中包含1000類圖像，人們已經根據自己的經驗把這一百萬張

原文鏈接：transformer的細節到底是怎么樣的？Transformer 連環18問！

聯系作者

文章來源：人工智能學家
作者微信：
作者簡介：