據(jù)最新一期《自然 光子學》雜志報道,美國賓夕法尼亞大學的工程師們開發(fā)了首款能夠利用光進行非線性神經(jīng)網(wǎng)絡(luò)訓練的可編程芯片。
該芯片可以使用光來訓練非線性神經(jīng)網(wǎng)絡(luò) —— 這一突破可以顯著加快 AI 訓練速度,減少能耗,甚至為全光計算機鋪平道路。
▲ 芯片內(nèi)部的圖像 —— 白色虛線框是輸入,黃色虛線框是輸出
當前的 AI 芯片是電子的,依賴電力進行計算,而這款新芯片是光子芯片。在《自然 光子學》雜志的描述中,這款芯片改變了光的行為,以執(zhí)行現(xiàn)代 AI 核心中的非線性數(shù)學。
目前大多數(shù) AI 系統(tǒng)都依賴于神經(jīng)網(wǎng)絡(luò),這是一種模仿生物神經(jīng)組織的軟件。正如神經(jīng)元連接起來使生物體能夠思考一樣,神經(jīng)網(wǎng)絡(luò)通過連接簡單單元或“節(jié)點”的層,使 AI 系統(tǒng)能夠執(zhí)行復(fù)雜任務(wù)。
該團隊的突破始于一種特殊的半導體材料,它能對光做出反應(yīng)。當一束“信號”光(攜帶輸入數(shù)據(jù))穿過該材料時,一束從上方照射的“泵浦”光束調(diào)整材料如何反應(yīng)。
通過改變泵浦光的形狀和強度,團隊可以控制信號光的吸收、傳輸或放大,這取決于光的強度和材料的行為。這個過程“編程”芯片執(zhí)行不同的非線性函數(shù)。
值得注意的是,這項研究并未改變芯片的基礎(chǔ)結(jié)構(gòu),而是利用光在材料內(nèi)部形成的圖案來重塑光線穿越的方式。這造就了一個可以根據(jù)泵浦模式表達多種數(shù)學函數(shù)的可重構(gòu)系統(tǒng),使其具有實時學習能力,能根據(jù)輸出反饋調(diào)整自身行為。
為了驗證該芯片的能力,團隊用其解決了多項基準 AI 問題。在簡單的非線性決策邊界任務(wù)中,實現(xiàn)了超過 97% 的準確率;在著名的鳶尾花數(shù)據(jù)集問題上,達到了 96% 以上的準確率。這表明,與傳統(tǒng)數(shù)字神經(jīng)網(wǎng)絡(luò)相比,光子芯片不僅性能相當,甚至更優(yōu),而且能耗更低,因為它們減少了對耗電元件的依賴。
此外,實驗還顯示,只需 4 個非線性的光學連接就能達到傳統(tǒng)模型中 20 個固定非線性激活函數(shù)線性電子連接的效果,展示了該技術(shù)的巨大潛力。隨著架構(gòu)的進一步擴展,效率將更加顯著。
不同于以往制造后固定的光子系統(tǒng),這款新芯片提供了一個空白的平臺,可通過泵浦光的作用如同畫筆般繪制出可編程指令,是現(xiàn)場可編程光子計算機概念的一次實際證明,標志著向光速訓練 AI 邁進的重要一步。