光學技術可實時更新機器人AI
康奈爾科技的研究人員開發出一種光學接收器,利用光直接修改AI處理器的內存,有望降低數據中心、自動駕駛汽車和機器人等場景的能耗。該技術通過光電流翻轉SRAM中的比特,省去了耗電的模擬電路,實現了全數字光學通信。
康奈爾科技的研究團隊在IEEE/JSAP超大規模集成電路技術與電路研討會上公佈了一項創新設計:一種能夠利用光直接修改AI處理器內存的光學接收器。實驗台上,博士後研究員Yifan He將光學接收器的鏡頭對準近一米外發射紅色光束的LED,連接的顯示器上隨即出現類似二維碼的方塊陣列。與普通二維碼不同,此接收器並非解碼圖像,而是通過光束產生的光電流直接改變自身內存中的二進制值。這些光學編碼可傳輸AI模型的參數,無需傳統的電連接。
當前AI芯片面臨內存瓶頸:處理器內置的靜態隨機存取內存(SRAM)容量有限,無法獨立運行AI模型,因此額外參數需存儲在動態隨機存取內存(DRAM)中。通過電信號在DRAM和處理器之間傳輸數據會帶來成本和效率問題,成為系統擴展的主要瓶頸。光學鏈路能以高帶寬和低損耗傳輸數據,但現有光學接收器依賴耗電的模擬電路將光信號轉換為電子比特。新設計則直接接收快速閃爍的數字二維碼矩陣,使芯片無需模擬電路即可調整模型參數,實現全數字光學通信,大幅降低能耗。
工作原理方面,新系統中DRAM與發射器相連,接收器集成在處理器的SRAM中。發射器將數據光束射向經過改造的SRAM單元陣列,每個單元內置光電二極管,受光後產生電流翻轉二進制值。由於無法保證發射器與接收器完全對準,芯片通過參考數據幀校準每個像素的位置。研究人員表示,理想情況是點對點直射,但即使略有傾斜,校準電路也能確保數據接收。
目前實驗室原型僅能發射靜態的14×14比特矩陣,實際應用需要構建每秒改變數百萬次的發射器,實現吉比特級傳輸。團隊正與光學研究小組合作開發高速動態矩陣發射器。參與審閲的密歇根大學電氣與計算機工程系主任、IEEE會士Dennis Sylvester指出,當前光敏單元比傳統SRAM單元大,可能抵消光學方案帶來的效率優勢。研究團隊正通過優化晶體管尺寸和利用CMOS縮放技術縮小單元。
應用前景方面,該技術尤其適用於機器人、倉庫和工廠的AI邊緣設備。通過光學傳輸更新每個機器人中的AI模型,可節省時間和能耗。此外,內存受限的微型機器人未來也可能受益,但需要更緊湊的設計。Sylvester認為,邊緣AI是快速增長領域,三五年內其重要性將不亞於數據中心。