应用如何决定AI的开发
Posted 05/09/2022 by Hussein Osman
人工智能和机器学习的重要性、网络边缘计算的崛起和对AI灵活编程的需求
如今人工智能(AI)已成为技术领域最时髦的用语之一,它在广义上通常用来描述互连的“智能”技术。然而,考虑到AI可以实现的各种不同的功能,以及AI解决方案产出的成果,AI的格局及其开发可以说都十分复杂。事实上,AI技术的特定应用不仅将它从众多技术中区别开来,还决定了它的开发方式,开发的标准和要求以及需要进行的测试。因此,与其说AI是一种“包括万象”的技术,不如说是一种定制化解决方案的网络,用于解决复杂的技术挑战。
最近我有幸与莱迪思市场营销副总裁Matt Dobrodziej和TECHnalysis Research总裁兼首席分析师Bob O'Donnell在一场圆桌会议上探讨了为特定应用开发AI解决方案的流程问题。在本篇博文中,我将回顾此次会议中的主要内容,并就特定应用如何决定AI模型的开发、创建AI模型的挑战以及如何利用市场上的一些领先技术等内容提供一些思考。
AI成为主流以及网络边缘计算的崛起
曾经难以想象的技术如今正通过智能手机、PC、汽车、其它各种互连设备进入消费领域和从工厂车间到医疗保健设备的各类商业领域。并且由于人们对AI和机器学习(ML)抱有极大的热情,这些技术的创新步伐通常远超其实现水平。
设计师面临的创造性的挑战和机遇在于,如何应用模式匹配或划分等复杂概念,将我们当前的设备变得更加智能、用途更广。过去,运行AI推理应用需要大型数据中心强大的计算能力和功能。而现在,同样的应用可以在本地运行,并且功耗要低得多,精度也能达到曾经只能在服务器上达到的水平。
这种转变的推动因素主要包括用户安全性、隐私和延迟方面的要求以及高效运行AI模型的新硬件(其效率与基于服务器的云实现不相上下)的出现。人工智能和数据处理越来越多地由本地设备实现,这对系统开发影响巨大。
AI问题和解决方案框架
希望进入AI和ML领域的开发人员在了解特定AI应用和设计目标后,必须识别并采合适的基础技术。这个过程通常遵循三个步骤:
1. 构思——选定应用和确定相关要求
构建AI应用需要了解应用的要求,包括性能。应用需要多少处理能力?可用的功率预算是多少?电池的尺寸是多少,效率如何?请记住退后一步以全局的眼光审视正在构建的系统。哪些传感器可用于获取数据以使应用智能化?
2. 设计——构建模型或者采用预设模型然后进行训练
定义好参数后,下一个任务是选用合适的模型。模型实质上决定了设计人员想要的应用类型以及支持所需功能需要的硬件。根据当前的问题,可以选择多种模型,包括开源社区中提供的各种模型,例如音频处理模型或者视觉模型。
3. 测试——确保设计如预期正常工作
从概念到实际的解决方案产品需要经过大量的测试,确保它在不同的环境和特定的使用场景中按预期运行。例如,跟踪用户注意力的应用需要在不同的使用场景和环境条件下为所有用户正常工作。测试可以通过不同的方式完成;模型验证使用Tensor Board等标准工具将许多具有代表性的样本引入模型,以初步了解模型的工作情况。其他测试则是通过回归测试完成,最好是在目标硬件上进行。最后在系统用户体验(UX)测试中,可以在现实生活使用场景下测试极端案例,发现模型的不足之处。
FPGA为网络边缘AI创造独特价值
现场可编程门阵列(FPGA)能为网络边缘AI带来各种机遇。这类灵活的集成电路支持自定义的工作流程开发和最终系统设计,有助于应对AI开发中的诸多挑战。
设计人员通常要在选用硬件方面做出艰难的决策。这些选择可能在流程后期让他们囿于特定的设计中,限制了他们在基础组件的功能之上开展额外的工作。FPGA自身的灵活性使其成为网络边缘计算的理想选择,因为它们即使在部署到最终系统中后,只要需要对功能进行更改,就能通过软件更新快速适应。
人工智能在不断变化中,其发展和创新的速度往往超过系统设计。在AI和ML领域,适应性强、可重新编程的硬件解决方案是跟上创新速度的关键。由于FPGA本身可编程,因此它们可以缩短产品上市时间,并且不限于固定功能,可延长系统或应用的生命周期。同样重要的是它们拥有并行处理能力,这对于高性能人工智能应用非常关键,可以在提供更高性能的同时降低功耗。
莱迪思Nexus™ FPGA平台可在配置和运行时提供低功耗、高性能、小尺寸和安全特性,这些优势可以帮助AI和ML解决方案脱颖而出。莱迪思FPGA根据FPGA支持的应用类型进行分类:
- 通用型——满足广泛的应用需求
- 嵌入式视觉——视频桥接和处理
- 超低功耗——功耗和设计空间有限的应用
- 系统控制和安全——平台管理和安全应用
除了用于网络边缘AI解决方案的FPGA外,莱迪思sensAI™解决方案集合可以为设计人员提供评估、开发和部署基于FPGA的AI和ML方案所需的一切资源,从而在网络边缘加速灵活、低功耗推理的集成。莱迪思集成解决方案可以帮助开发人员快速轻松地为各种应用部署设备端AI功能。
如果您想了解有关该主题的更多信息,可以在此处查看之前提到的圆桌会议。此外,请留意莱迪思关于最新半导体和技术趋势的更多圆桌讨论。如果您对莱迪思解决方案有任何疑问,请立即联系我们!