AIGC動態歡迎閱讀
原標題:清華研究登Nature,首創全前向智能光計算訓練架構,戴瓊海、方璐領銜
關鍵字:梯度,準確率,神經網絡,誤差,太極
文章來源:機器之心
內容字數:0字
內容摘要:
機器之心報道
機器之心編輯部在剛剛過去的一天,來自清華的光電智能技術交叉創新團隊突破智能光計算訓練難題,相關論文登上 Nature。
論文共同一作是來自清華的薛智威、周天貺,通訊作者是清華的方璐教授、戴瓊海院士。此外,清華電子系徐智昊、之江實驗室虞紹良也參與了這項研究。論文地址:https://www.nature.com/articles/s41586-024-07687-4
論文標題:Fully forward mode training for optical neural networks
隨著大模型的規模越來越大,算力需求爆發式增長,就拿 Sora 來說,據爆料,訓練參數量約為 30 億,預計使用了 4200-10500 塊 H100 訓了 1 個月。全球的科技大廠都在高價求購的「卡」,都是硅基的電子芯片。在此之外,還有一種將計算載體從電變為光的光子芯片技術。它們利用光在芯片中的傳播進行計算,具有超高的并行度和速度,被認為是未來顛覆性計算架構最有力的競爭方案之一。
光計算領域也在使用 AI 輔助設計系統。然而,AI 也給光計算技術套上了「瓶頸」—— 光神經網絡訓練嚴重依賴基于
原文鏈接:清華研究登Nature,首創全前向智能光計算訓練架構,戴瓊海、方璐領銜
聯系作者
文章來源:機器之心
作者微信:
作者簡介:
? 版權聲明
文章版權歸作者所有,未經允許請勿轉載。
相關文章
暫無評論...