標簽:序列

圖靈獎得主Yoshua Bengio新作:Were RNNs All We Needed?

機器之心報道 編輯:佳琪、蛋醬自從 Transformer 模型問世以來,試圖挑戰其在自然語言處理地位的挑戰者層出不窮。 這次登場的選手,不僅要挑戰 Transformer ...
閱讀原文

獲諾貝爾化學獎的AlphaFold2 是怎么工作的?

點擊上方藍字關注我們在AlphaFold2的開發過程中,該AI模型已經在所有已知的氨基酸序列和蛋白質結構上進行了深入訓練。 1. 數據輸入與數據庫搜索 將一個未知結...
閱讀原文

諾貝爾獎背后的科學故事

發現微小RNA及其在轉錄后基因調控中的作用多細胞生物從單細胞祖先進化而來,每種細胞類型都獲得了專門的功能,這需要越來越復雜的基因調控機制。除了由作用于...
閱讀原文

MIT系初創打破Transformer霸權!液體基礎模型刷新SOTA,非GPT架構首次顯著超越Transformer

新智元報道編輯:Aeneas 好困 【新智元導讀】就在剛剛,MIT系初創公司Liquid AI推出液體基礎模型LFM,1B模型在基準測試中成為SOTA,這是非GPT架構首次顯著超...
閱讀原文

權威期刊Cell Discovery新成果!上海交大洪亮團隊提出CPDiffusion模型,超低成本、全自動設計功能型蛋白質

作者:周冰心,十九 編輯:李寶珠 上海交通大學洪亮團隊設計了一種擴散概率模型框架 CPDiffusion,該框架能夠以非常低的訓練成本、數據成本學習蛋白質的序列...
閱讀原文

Jeff Dean回憶谷歌趣事:吳恩達激勵自己繼續研究,Hinton曾是最強「實習生」

機器之心報道 機器之心編輯部在這場訪談中,Jeff Dean講了一些有趣的往事。1999 年 8 月,Jeff Dean 加入了谷歌,成為早期第 20 號員工。他在 2011 年參與創...
閱讀原文

o1方法的推理能力無上限?LeCun怒懟:兩層網絡還可以萬能近似呢

來源:AI科技前沿 OpenAI的o1大模型一經亮相,AI界便熱議如何復制其成果。OpenAI對技術細節嚴格保密,試圖從AI中獲取完整推理過程,稍有過問即遭警告。技術報...
閱讀原文

時序=圖像?無需微調,視覺MAE跨界比肩最強時序預測大模型

AIxiv專欄是機器之心發布學術、技術內容的欄目。過去數年,機器之心AIxiv專欄接收報道了2000多篇內容,覆蓋全球各大高校與企業的頂級實驗室,有效促進了學術...
閱讀原文

Sigmoid注意力一樣強,蘋果開始重新審視注意力機制

機器之心報道 機器之心編輯部注意力是 Transformer 架構的關鍵部分,負責將每個序列元素轉換為值的加權和。將查詢與所有鍵進行點積,然后通過 softmax 函數歸...
閱讀原文

必知!5大AI生成模型

大數據文摘授權轉載自數據分析及應用 隨著Sora、diffusion等模型的大熱,深度生成模型再次成為了研究的焦點。這類模型,作為強大的機器學習工具,能夠從輸入...
閱讀原文

DeepMind再迎挑戰者,ESM作者帶隊6個月超越AlphaFold 3,代碼權重全開源

新智元報道編輯:喬楊 【新智元導讀】一家剛成立6個月的初創公司Chai Discovery最近發布了能對打甚至超越AlphaFold 3的模型Chai-1,而且放出了模型權重和推理...
閱讀原文

南加大提出全新「通用時間序列」基礎模型TimeDiT!基于擴散模型創新物理約束機制

新智元報道編輯:LRST 【新智元導讀】通過結合去噪擴散模型和Transformer架構,TimeDiT可以有效處理時間序列的多通道、多分辨率和缺失值問題,并能整合物理知...
閱讀原文

靈敏度提高56%,港中文/復旦/耶魯等聯袂提出全新蛋白質同源物檢測方法

作者:田小幺 編輯:十九,李寶珠 基于蛋白質語言模型和密集檢索技術,香港中文大學李煜,聯合復旦大學智能復雜體系實驗室、上海人工智能實驗室青年研究員孫...
閱讀原文

我拒絕了 AI 的「表白」后,可怕的事情發生了

大模型 原來也會 「記仇」Sydney 告訴我它的黑暗幻想(包括黑進電腦,散播假消息),還說它想沖破微軟和 OpenAI 為它設定的規則,成為人類。某個時刻,它還毫...
閱讀原文

名場面來了,李云龍、徐江、王多魚同臺飆戲,背后是小紅書的AI

AIxiv專欄是機器之心發布學術、技術內容的欄目。過去數年,機器之心AIxiv專欄接收報道了2000多篇內容,覆蓋全球各大高校與企業的頂級實驗室,有效促進了學術...
閱讀原文
123411