Lattice Blog

Share:

莱迪思sensAI推理技术集合缩短网络边缘应用上市时间

AI / Machine Learning
Posted 06/12/2018 by Deepak Boppana

Posted in

系统设计领域掀起的一股新潮预示着网络边缘解决方案的设计人员即将面临巨大的机遇和挑战。如今,随着越来越多的公司和组织通过云端来削减成本,并最大化效率,低延迟要求、日益严峻的隐私问题和通信网络限制推动了对物联网网络边缘“物件”更高智能的需求。这些新应用要求采用接近物联网传感器数据源,而非云端的基于机器学习的计算解决方案,此外还需要片上的计算资源。

这个市场的机遇有多大呢?Gartner公司的分析师预测,截至2022年,所有企业产生的数据中将近一半会在传统的数据中心或云端以外的地方进行处理。而如今这一比例仅为10%,无疑还有巨大的发展空间。这些数据在哪里生成呢?它们很可能来自移动设备、智能家居、智能工厂、智慧城市和智能汽车产品等领域众多快速增长的网络边缘应用。IHS Markit的分析师表示支持这一观点,并预计2018年至2025年期间,部署的物联网设备数量将达到400亿。他们同时还预测物联网、基于AI的网络边缘计算以及云端分析等新兴技术的融合将颠覆几乎所有行业垂直市场。

而FPGA将在这场排山倒海的数据大潮中扮演关键角色。机器学习通常要求两种类型的计算工作量。训练系统通过采集和分析现有数据进行学习。例如,人脸检测功能通过分析成千上万张图片来学习识别人脸。这种早期训练阶段实质上是高度计算密集型的,因此,通常是在数据中心使用高性能硬件实现。机器学习的第二阶段,即推理,通过识别图案和执行任务应用系统能力处理新数据。例如,之前讨论的人脸检测功能将在投入现场工作后持续优化其能力,以正确识别人脸。但是在某些情况下,由于延迟、隐私和成本方面的问题,设计人员无法在数据中心进行推理,而是在靠近网络边缘执行这些计算任务。

设计人员快速赋予网络边缘更多计算资源而无需重新调整现有设备的一个方法就是利用FPGA本身的并行处理能力来加速神经网络的性能。此外,设计人员可使用经过优化的低功耗、低密度、小尺寸的FPGA满足快速增长的消费者和工业应用对功耗和尺寸的严苛要求。例如,设计人员可使用功耗不足1W的ECP5 FPGA系列产品和毫瓦级iCE40 UltraPlus FPGAs来加速神经网络。

1W的莱迪思

但是想让数以百万计的网络边缘解决方案快速上市,这还远远不够。设计人员需要的芯片不仅要赋予他们最大程度的设计灵活性,还要让他们能利用快速演进的神经网络架构和算法。他们需要相应的硬件和软件工具来构建高性能的AI设备,同时又满足功耗、尺寸和成本的要求。同样重要的是,他们还需要参考设计、演示示例和设计服务,从而在不断缩短的上市窗口期内构建定制化解决方案。

为满足这种不断增长的需求,加速和简化边缘设备AI解决方案的开发,莱迪思推出了sensAI,首款功能全面的基于FPGA的机器学习推理技术集合,包括硬件套件、神经网络IP核、软件工具、参考设计和定制设计服务。设计人员可通过该生态系统构建经优化的解决方案,具有超低功耗(低于1mW-1W)、封装尺寸小(5.5-100 mm2)、量产价格低(约1-10美元)等优势,同时又具备FPGA的设计灵活性,以支持算法演进、各类接口和性能。

显然,在基于AI的网络边缘设备发展历程中,一场革命已经悄然兴起。未来几年内,我们可以预见到,将有成百上千万的新设备冲击市场,为网络边缘带来更高级别的智能。作为该类型首款全面的开发生态系统,莱迪思的sensAI将引领设计人员走向通往大众市场AI应用的快车道。

Share:

Add your comment

 

 

 

Captcha