國產(chǎn)光芯片重大突破！清華團(tuán)隊(duì)利用神經(jīng)網(wǎng)絡(luò)，首創(chuàng)全前向智能光計(jì)算訓(xùn)練架構(gòu)

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：國產(chǎn)光芯片重大突破！清華團(tuán)隊(duì)利用神經(jīng)網(wǎng)絡(luò)，首創(chuàng)全前向智能光計(jì)算訓(xùn)練架構(gòu)
關(guān)鍵字：神經(jīng)網(wǎng)絡(luò),數(shù)據(jù),光子,解讀,團(tuán)隊(duì)
文章來源：HyperAI超神經(jīng)
內(nèi)容字?jǐn)?shù)：0字

內(nèi)容摘要：

作者：田小幺
編輯：十九，李寶珠
清華大學(xué)戴瓊海院士、方璐教授的研究團(tuán)隊(duì)將神經(jīng)網(wǎng)絡(luò)訓(xùn)練中的前向與反向傳播都等效為光的前向傳播，開發(fā)出了一種稱為全前向模式 FFM 學(xué)習(xí)的方法，有望推動(dòng)深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)、超靈敏感知和拓?fù)涔庾訉W(xué)等應(yīng)用和理論領(lǐng)域的發(fā)展。自 2012 年以來，人工智能模型訓(xùn)練算力需求每 3-4 個(gè)月翻一番，每年人工智能訓(xùn)練模型所需算力增長(zhǎng)幅度高達(dá) 10 倍。這就帶來了一個(gè)挑戰(zhàn)：我們?nèi)绾巫?AI 更快、更高效？答案可能就藏在光的世界里。
光學(xué)計(jì)算，一個(gè)充滿潛力的領(lǐng)域，主張利用光的速度和特性將機(jī)器學(xué)習(xí)應(yīng)用的速度和能效提升到新的高度。但是，要實(shí)現(xiàn)這一目標(biāo)，我們必須解決一個(gè)難題：如何有效地訓(xùn)練這些光學(xué)模型。過去，人們依賴于數(shù)字計(jì)算機(jī)來模擬和訓(xùn)練光學(xué)系統(tǒng)，但受限于光學(xué)系統(tǒng)所需的精確模型和大量的訓(xùn)練數(shù)據(jù)，這使得光學(xué)系統(tǒng)的能力受到了極大的限制。而且，隨著系統(tǒng)復(fù)雜性的增加，這些模型的建立和維護(hù)變得越來越困難。
近期，清華大學(xué)戴瓊海院士、方璐教授研究團(tuán)隊(duì)抓住了光子傳播具有對(duì)稱性這一特性，將神經(jīng)網(wǎng)絡(luò)訓(xùn)練中的前向與反向傳播都等效為光的前向傳播，開發(fā)出了一種全前向模式 (FFM, fully forw

原文鏈接：國產(chǎn)光芯片重大突破！清華團(tuán)隊(duì)利用神經(jīng)網(wǎng)絡(luò)，首創(chuàng)全前向智能光計(jì)算訓(xùn)練架構(gòu)

聯(lián)系作者

文章來源：HyperAI超神經(jīng)
作者微信：
作者簡(jiǎn)介：