AIGC動態歡迎閱讀
原標題:清華太極-Ⅱ 光芯片登上Nature,首創架構突破智能光計算訓練難題
關鍵字:太極,神經網絡,系統,架構,光子
文章來源:大數據文摘
內容字數:0字
內容摘要:
大數據文摘授權轉載學術頭條
撰文:馬雪薇
未來的人工智能(AI)模型,或許可以用“光”來訓練了。長期以來,傳統的電子計算推動著 AI 模型規模的不斷擴展,但大規模意味著高算力,也意味著高能耗,因此,亟需一種高效低能耗的計算方法來解決未來 AI 模型所面臨的能源問題。
近年間,具有高算力低功耗特性的智能光計算逐步登上了算力發展的舞臺。通用智能光計算芯片“太極”的問世便是其中的一個縮影,它首次將光計算從原理驗證推向了大規模實驗應用,以 160TOPS/W 的系統級能效為大規模復雜任務的“推理”帶來了曙光,但未能夠釋放智能光計算的“訓練之能”。
訓練和推理是 AI 大模型核心能力的兩大基石,缺一不可。相較于模型推理而言,模型訓練更需要大規模算力。
然而,現有的光神經網絡訓練嚴重依賴電計算進行離線建模并且要求物理系統精準對齊。正因如此,光學訓練的規模受到了極大的限制。
由清華大學電子工程系教授方璐、自動化系戴瓊海院士及其科研團隊提出的全前向智能光計算訓練架構太極-II,擺脫了原有光計算系統對電計算離線建模的依賴,實現了大規模神經網絡的在線訓練,并有潛力支撐未來 AI 大模型的高速、低功耗訓練。
原文鏈接:清華太極-Ⅱ 光芯片登上Nature,首創架構突破智能光計算訓練難題
聯系作者
文章來源:大數據文摘
作者微信:
作者簡介:
? 版權聲明
文章版權歸作者所有,未經允許請勿轉載。
相關文章
暫無評論...