Lattice Blog

Share:

终端AI的系统架构选择

Architecting Low Power AI
Posted 11/14/2018 by Deepak Boppana

Posted in

低功耗特性何时才能成为致胜的决定因素?当然是在设计网络边缘设备上实时在线的AI推理解决方案时。在此情况下,功耗必须低至毫瓦级别。试想一下:网络边缘AI可以解决现实生活中的各种问题,它将变得无处不在。尤其是随着门禁系统这类IoT产品的普及,它们需要始终处于“智能待命模式”,只有当面部检测软件检测到门前出现人脸,而非小动物时,才会被“充分唤醒”。由于网络边缘的低功耗推理在终端设备上进行,数据不会频繁地上传或者进行不必要的分析。

许多这类网络边缘设备都使用电池供电,或者有严格的散热限制,故功耗限制也不可避免。此外,推理解决方案又必须足够灵活,从而适应不断演化的深度学习算法和架构,包括在终端设备上的训练。 小尺寸、低功耗的FPGA则是这类应用的绝佳选择,它们不仅拥有优秀的灵活性,如支持传统接口、可使用低成本的显示屏、传感器和摄像头,在某些情况下用户可自行编程,还能实现性能和精度的定制化。FPGA本身拥有并行处理能力,这对实现机器学习推理很有帮助。

由于实现网络边缘终端AI有一系列特定要求,开发人员在构建系统时必须在系统和芯片层面予以充分考虑。FPGA可以作为单独的解决方案,也可以与其他组件共同实现AI,以下提供三种主要的架构选择:

单独运行的集成FPGA

这一高度集成的方案非常适合智能门铃等体积较小的应用。您可以根据任务的复杂程度和功耗预算选择封装尺寸从5.5 mm2到100 mm2不等的FPGA。高集成度也提高了安全性,这也是人们越来越关注的话题。

使用FPGA唤醒ASIC/ASSP

在此配置下,FPGA可在视频监控摄像头等应用中初步检测关键词或各类物体,只有在需要进一步数据分析时才会唤醒高性能ASIC/ASSP。不触发或误触发事件的视频不会上传至云端,避免了资源浪费,从而降低系统功耗。

FPGA作为MCU的协处理器

使用小尺寸、低功耗FPGA作为低端MCU的协处理器能实现低成本、灵活的系统控制,并能与传感器等现有板载设备互连。因此,即便是进行设计改造,也能轻松添加AI功能,您还可以使用神经网络加速实现功耗和性能的完美平衡。

莱迪思半导体的ECP5和iCE40 UltraPlus FPGA以及sensAI软IP、工具包、开发板和参考设计将为设计人员提供快速、便捷地开发高性价比的网络边缘AI产品所需的全部资源,从而应对家居、工作场所、工厂、交通等现代生活中面临的各类挑战。

了解更多

Share:

Like most websites, we use cookies and similar technologies to enhance your user experience. We also allow third parties to place cookies on our website. By continuing to use this website you consent to the use of cookies as described in our Cookie Policy.