由麻省理工學(xué)院科學(xué)家設(shè)計(jì)的新型光子芯片以光學(xué)方式執(zhí)行所有深度神經(jīng)網(wǎng)絡(luò)計(jì)算，在納秒內(nèi)完成任務(wù)，準(zhǔn)確率超過(guò)92%。

這將徹底改變高需求計(jì)算應(yīng)用，為可實(shí)時(shí)學(xué)習(xí)的高速處理器打開大門。

光子機(jī)器學(xué)習(xí)

深度神經(jīng)網(wǎng)絡(luò)是當(dāng)今最先進(jìn)的機(jī)器學(xué)習(xí)應(yīng)用背后的驅(qū)動(dòng)力，它變得如此龐大和復(fù)雜，以至于突破了傳統(tǒng)電子計(jì)算硬件的極限。

光子硬件使用光而不是電來(lái)執(zhí)行機(jī)器學(xué)習(xí)計(jì)算，提供了一種更快、更節(jié)能的解決方案。 然而，光子設(shè)備很難實(shí)現(xiàn)某些神經(jīng)網(wǎng)絡(luò)操作，這就不得不依賴外部電子設(shè)備，從而減慢了處理速度，降低了效率。

圖片:搜狗截圖20241215160036.jpg

研究人員展示了一種完全集成的光子處理器，它可以在芯片上以光學(xué)方式執(zhí)行深度神經(jīng)網(wǎng)絡(luò)的所有關(guān)鍵計(jì)算，從而為激光雷達(dá)或高速通信等計(jì)算要求苛刻的應(yīng)用實(shí)現(xiàn)更快、更節(jié)能的深度學(xué)習(xí)。

光子芯片技術(shù)的突破

經(jīng)過(guò)十年的研究，麻省理工學(xué)院和合作機(jī)構(gòu)的科學(xué)家們開發(fā)出一種突破性的光子芯片，克服了這些挑戰(zhàn)。 他們展示了一種完全集成的光子處理器，能夠完全利用光執(zhí)行所有基本的深度神經(jīng)網(wǎng)絡(luò)計(jì)算，無(wú)需外部處理。該光學(xué)設(shè)備能夠在不到半納秒的時(shí)間內(nèi)完成機(jī)器學(xué)習(xí)分類任務(wù)的關(guān)鍵計(jì)算，同時(shí)達(dá)到 92% 以上的準(zhǔn)確率--性能與傳統(tǒng)硬件相當(dāng)。

光子神經(jīng)網(wǎng)絡(luò)及其影響

該芯片由相互連接的模塊組成一個(gè)光神經(jīng)網(wǎng)絡(luò)，采用商業(yè)代工工藝制造，可實(shí)現(xiàn)該技術(shù)的擴(kuò)展和與電子產(chǎn)品的集成。

從長(zhǎng)遠(yuǎn)來(lái)看，光子處理器可為激光雷達(dá)、天文學(xué)和粒子物理學(xué)科學(xué)研究或高速通信等計(jì)算要求苛刻的應(yīng)用帶來(lái)更快、更節(jié)能的深度學(xué)習(xí)。

用光進(jìn)行機(jī)器學(xué)習(xí)

深度神經(jīng)網(wǎng)絡(luò)由多層相互連接的節(jié)點(diǎn)或神經(jīng)元組成，它們對(duì)輸入數(shù)據(jù)進(jìn)行運(yùn)算以產(chǎn)生輸出。 深度神經(jīng)網(wǎng)絡(luò)的一個(gè)關(guān)鍵操作是使用線性代數(shù)來(lái)執(zhí)行矩陣乘法，在數(shù)據(jù)從一層傳遞到另一層時(shí)進(jìn)行轉(zhuǎn)換。

但除了這些線性運(yùn)算外，深度神經(jīng)網(wǎng)絡(luò)還能執(zhí)行非線性運(yùn)算，幫助模型學(xué)習(xí)更復(fù)雜的模式。 激活函數(shù)等非線性運(yùn)算賦予了深度神經(jīng)網(wǎng)絡(luò)解決復(fù)雜問題的能力。

2017年，恩格倫德的研究小組與塞西爾和艾達(dá)-格林物理學(xué)教授馬林-索爾亞契奇實(shí)驗(yàn)室的研究人員一起，在單個(gè)光子芯片上演示了一個(gè)光神經(jīng)網(wǎng)絡(luò)，它可以用光進(jìn)行矩陣乘法運(yùn)算。但當(dāng)時(shí)，該設(shè)備無(wú)法在芯片上執(zhí)行非線性操作。 光學(xué)數(shù)據(jù)必須轉(zhuǎn)換成電信號(hào)，然后發(fā)送到數(shù)字處理器，才能執(zhí)行非線性操作。

Bandyopadhyay解釋說(shuō)：“光學(xué)中的非線性具有相當(dāng)大的挑戰(zhàn)性，因?yàn)楣庾又�間不容易相互作用。這使得觸發(fā)光學(xué)非線性變得非常耗電，因此建立一個(gè)能夠以可擴(kuò)展的方式實(shí)現(xiàn)非線性的系統(tǒng)變得非常具有挑戰(zhàn)性�！�

他們通過(guò)設(shè)計(jì)稱為非線性光學(xué)功能單元（NOFUs）的設(shè)備克服了這一挑戰(zhàn)，這種設(shè)備結(jié)合了電子學(xué)和光學(xué)，可以在芯片上實(shí)現(xiàn)非線性操作。研究人員在光子芯片上構(gòu)建了一個(gè)光學(xué)深度神經(jīng)網(wǎng)絡(luò)，利用三層設(shè)備執(zhí)行線性和非線性操作。

完全集成的網(wǎng)絡(luò)

首先，他們的系統(tǒng)將深度神經(jīng)網(wǎng)絡(luò)的參數(shù)編碼成光。 然后，2017 年論文中展示的可編程分光器陣列對(duì)這些輸入進(jìn)行矩陣乘法運(yùn)算。然后，數(shù)據(jù)進(jìn)入可編程 NOFU，NOFU 通過(guò)將少量光虹吸到光電二極管，將光信號(hào)轉(zhuǎn)換為電流，從而實(shí)現(xiàn)非線性功能。 這一過(guò)程無(wú)需外部放大器，能耗極低。

Bandyopadhyay說(shuō)：“我們一直處于光域中，直到最后讀出答案。 這使我們能夠?qū)崿F(xiàn)超低延遲�！�

實(shí)現(xiàn)如此低的延遲使他們能夠在芯片上高效地訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)，這一過(guò)程被稱為原位訓(xùn)練，通常會(huì)消耗數(shù)字硬件的大量能量。這尤其適用于對(duì)光信號(hào)進(jìn)行域內(nèi)處理的系統(tǒng)，如導(dǎo)航或電信，也適用于想要實(shí)時(shí)學(xué)習(xí)的系統(tǒng)。

光子系統(tǒng)在訓(xùn)練測(cè)試中達(dá)到了 96% 以上的準(zhǔn)確率，在推理中達(dá)到了 92% 以上的準(zhǔn)確率，與傳統(tǒng)硬件不相上下。 此外，該芯片還能在不到半納秒的時(shí)間內(nèi)完成關(guān)鍵計(jì)算。

這項(xiàng)工作表明，計(jì)算（從本質(zhì)上講，就是輸入到輸出的映射）可以編譯到線性和非線性物理學(xué)的新架構(gòu)中，從而實(shí)現(xiàn)計(jì)算與所需工作量之間根本不同的比例規(guī)律。

整個(gè)電路的制造采用了與生產(chǎn) CMOS 計(jì)算機(jī)芯片相同的基礎(chǔ)設(shè)施和代工工藝。 這樣就能利用在制造過(guò)程中引入極少誤差的成熟技術(shù)，大規(guī)模制造芯片。

Bandyopadhyay 說(shuō)：“擴(kuò)大設(shè)備規(guī)模并將其與相機(jī)或電信系統(tǒng)等實(shí)際電子設(shè)備集成將是未來(lái)工作的重點(diǎn)�！� 此外，研究人員還希望探索能利用光學(xué)優(yōu)勢(shì)更快、更節(jié)能地訓(xùn)練系統(tǒng)的算法。

論文鏈接：https://www.nature.com/articles/s41566-024-01567-z