Lattice Blog

Share:

终端AI的系统架构选择

Architecting Low Power AI
Posted 11/14/2018 by Deepak Boppana

Posted in

低功耗特性何时才能成为致胜的决定因素?当然是在设计网络边缘设备上实时在线的AI推理解决方案时。在此情况下,功耗必须低至毫瓦级别。试想一下:网络边缘AI可以解决现实生活中的各种问题,它将变得无处不在。尤其是随着门禁系统这类IoT产品的普及,它们需要始终处于“智能待命模式”,只有当面部检测软件检测到门前出现人脸,而非小动物时,才会被“充分唤醒”。由于网络边缘的低功耗推理在终端设备上进行,数据不会频繁地上传或者进行不必要的分析。

许多这类网络边缘设备都使用电池供电,或者有严格的散热限制,故功耗限制也不可避免。此外,推理解决方案又必须足够灵活,从而适应不断演化的深度学习算法和架构,包括在终端设备上的训练。 小尺寸、低功耗的FPGA则是这类应用的绝佳选择,它们不仅拥有优秀的灵活性,如支持传统接口、可使用低成本的显示屏、传感器和摄像头,在某些情况下用户可自行编程,还能实现性能和精度的定制化。FPGA本身拥有并行处理能力,这对实现机器学习推理很有帮助。

由于实现网络边缘终端AI有一系列特定要求,开发人员在构建系统时必须在系统和芯片层面予以充分考虑。FPGA可以作为单独的解决方案,也可以与其他组件共同实现AI,以下提供三种主要的架构选择:

单独运行的集成FPGA

这一高度集成的方案非常适合智能门铃等体积较小的应用。您可以根据任务的复杂程度和功耗预算选择封装尺寸从5.5 mm2到100 mm2不等的FPGA。高集成度也提高了安全性,这也是人们越来越关注的话题。

使用FPGA唤醒ASIC/ASSP

在此配置下,FPGA可在视频监控摄像头等应用中初步检测关键词或各类物体,只有在需要进一步数据分析时才会唤醒高性能ASIC/ASSP。不触发或误触发事件的视频不会上传至云端,避免了资源浪费,从而降低系统功耗。

FPGA作为MCU的协处理器

使用小尺寸、低功耗FPGA作为低端MCU的协处理器能实现低成本、灵活的系统控制,并能与传感器等现有板载设备互连。因此,即便是进行设计改造,也能轻松添加AI功能,您还可以使用神经网络加速实现功耗和性能的完美平衡。

莱迪思半导体的ECP5和iCE40 UltraPlus FPGA以及sensAI软IP、工具包、开发板和参考设计将为设计人员提供快速、便捷地开发高性价比的网络边缘AI产品所需的全部资源,从而应对家居、工作场所、工厂、交通等现代生活中面临的各类挑战。

了解更多

Share: