光学技术可实时更新机器人AI
康奈尔科技的研究人员开发出一种光学接收器,利用光直接修改AI处理器的内存,有望降低数据中心、自动驾驶汽车和机器人等场景的能耗。该技术通过光电流翻转SRAM中的比特,省去了耗电的模拟电路,实现了全数字光学通信。
康奈尔科技的研究团队在IEEE/JSAP超大规模集成电路技术与电路研讨会上公布了一项创新设计:一种能够利用光直接修改AI处理器内存的光学接收器。实验台上,博士后研究员Yifan He将光学接收器的镜头对准近一米外发射红色光束的LED,连接的显示器上随即出现类似二维码的方块阵列。与普通二维码不同,此接收器并非解码图像,而是通过光束产生的光电流直接改变自身内存中的二进制值。这些光学编码可传输AI模型的参数,无需传统的电连接。
当前AI芯片面临内存瓶颈:处理器内置的静态随机存取内存(SRAM)容量有限,无法独立运行AI模型,因此额外参数需存储在动态随机存取内存(DRAM)中。通过电信号在DRAM和处理器之间传输数据会带来成本和效率问题,成为系统扩展的主要瓶颈。光学链路能以高带宽和低损耗传输数据,但现有光学接收器依赖耗电的模拟电路将光信号转换为电子比特。新设计则直接接收快速闪烁的数字二维码矩阵,使芯片无需模拟电路即可调整模型参数,实现全数字光学通信,大幅降低能耗。
工作原理方面,新系统中DRAM与发射器相连,接收器集成在处理器的SRAM中。发射器将数据光束射向经过改造的SRAM单元阵列,每个单元内置光电二极管,受光后产生电流翻转二进制值。由于无法保证发射器与接收器完全对准,芯片通过参考数据帧校准每个像素的位置。研究人员表示,理想情况是点对点直射,但即使略有倾斜,校准电路也能确保数据接收。
目前实验室原型仅能发射静态的14×14比特矩阵,实际应用需要构建每秒改变数百万次的发射器,实现吉比特级传输。团队正与光学研究小组合作开发高速动态矩阵发射器。参与审阅的密歇根大学电气与计算机工程系主任、IEEE会士Dennis Sylvester指出,当前光敏单元比传统SRAM单元大,可能抵消光学方案带来的效率优势。研究团队正通过优化晶体管尺寸和利用CMOS缩放技术缩小单元。
应用前景方面,该技术尤其适用于机器人、仓库和工厂的AI边缘设备。通过光学传输更新每个机器人中的AI模型,可节省时间和能耗。此外,内存受限的微型机器人未来也可能受益,但需要更紧凑的设计。Sylvester认为,边缘AI是快速增长领域,三五年内其重要性将不亚于数据中心。