
科技日?qǐng)?bào)記者 張佳欣
據(jù)《自然·光子學(xué)》雜志14日?qǐng)?bào)道,芬蘭阿爾托大學(xué)領(lǐng)導(dǎo)的國際研究團(tuán)隊(duì)開發(fā)出一種新方法,可利用單次光傳播完成復(fù)雜張量運(yùn)算,實(shí)現(xiàn)以光速完成深度學(xué)習(xí)中的關(guān)鍵計(jì)算步驟。這是向通用人工智能(AI)硬件研制邁出的重要一步,也為突破現(xiàn)有計(jì)算平臺(tái)的性能瓶頸提供了全新解決路徑。
張量運(yùn)算是現(xiàn)代AI的算術(shù)基礎(chǔ),但其復(fù)雜程度遠(yuǎn)超人們熟悉的加減乘除。類似在多維空間里旋轉(zhuǎn)、切割或重排一個(gè)魔方,這類運(yùn)算通常需要計(jì)算機(jī)一步步執(zhí)行,而光卻可以一次性完成所有操作。
隨著深度學(xué)習(xí)模型規(guī)模不斷擴(kuò)大,圖像識(shí)別、自然語言處理等任務(wù)所需的張量計(jì)算量呈指數(shù)級(jí)增長。作為當(dāng)前主力硬件的GPU雖然性能不斷提高,但在速度、可擴(kuò)展性和能耗方面已接近極限。數(shù)據(jù)算得越來越多,能耗也越來越大,這是整個(gè)產(chǎn)業(yè)面臨的共同難題。
為此,團(tuán)隊(duì)開發(fā)出“光速單次張量計(jì)算”新方法,通過光波在空間中的自然傳播實(shí)現(xiàn)數(shù)學(xué)運(yùn)算,無需依賴電子電路,也無需任何主動(dòng)調(diào)控。卷積、矩陣乘法、注意力機(jī)制等深度學(xué)習(xí)的關(guān)鍵步驟,可在光穿過系統(tǒng)的瞬間同步完成。
該方法的核心創(chuàng)新在于,將數(shù)字?jǐn)?shù)據(jù)編碼進(jìn)光的幅度與相位,使數(shù)字信息轉(zhuǎn)化為光場(chǎng)的物理屬性。當(dāng)這些光場(chǎng)相互作用時(shí),便能自然完成矩陣和張量運(yùn)算。這一機(jī)制就像檢查和分揀海關(guān)包裹,通常需要通過多臺(tái)功能各異的機(jī)器逐個(gè)檢查,然后將它們分揀到正確的箱子里。光學(xué)計(jì)算方法可以將所有包裹和所有機(jī)器整合在一起,只需一次操作,一次光照射,所有檢查和分揀就能瞬間并行完成。
為了進(jìn)一步擴(kuò)大計(jì)算能力,團(tuán)隊(duì)還采用多波長光,使不同顏色的光分別攜帶不同維度的數(shù)據(jù),從而處理更高階的張量運(yùn)算。這一方法的另一大優(yōu)勢(shì)在于其簡單性。所有計(jì)算均在光的被動(dòng)傳播過程中完成,無需主動(dòng)控制或電子開關(guān),因而更適合低能耗、高并行度的光學(xué)平臺(tái)。
總編輯圈點(diǎn)
人工智能大模型的參數(shù)規(guī)模日益龐大,需要計(jì)算的任務(wù)越來越繁重,而傳統(tǒng)電子元件的性能日益接近摩爾定律的天花板,如何破解這一瓶頸?采用光學(xué)計(jì)算,用光子代替電子作為計(jì)算載體,是不錯(cuò)的解決方案。光學(xué)計(jì)算具有速度快、功耗低、并行處理能力強(qiáng)的優(yōu)勢(shì),相當(dāng)于把擁堵的單車道公路,升級(jí)為多車道高速隧道。這意味著,未來搭載光學(xué)計(jì)算硬件的人工智能系統(tǒng),有望以前所未有的效率處理海量數(shù)據(jù),從而為下一代人工智能的爆發(fā)和普及,提供重要技術(shù)支撐。