Posted 09/10/2024 by Matt Dobrodziej, VP of Segment Marketing and Mark Hoopes, Director of Automotive & Industrial Segment Marketing
AI正在快速发展,其动力不仅来源于持续的技术进步,还来自各个行业的需求和要求。随着大型语言模型(LLM)和生成式AI的激增,行业正在努力解决这些基于云的AI应用处理大数据以及训练和部署高级AI模型所需的密集计算能力。如今AI被应用于各种客户端设备中,包括PC和智能手机,以及汽车和工业设备(如机器人和医疗设备)的网络边缘应用中,这些设备在网络边缘较小的语言模型上运行。
莱迪思团队最近与TECHnalysis Research总裁兼首席分析师Bob O'Donnell举办了一场小组讨论,探讨了网络边缘AI时代的到来,以及基于FPGA的解决方案在加速各行业网络边缘AI普及方面的作用。你可以点击此处观看精彩的讨论,内容涵盖AI趋势、现实世界的网络边缘AI应用,以及莱迪思与NVIDIA在边缘AI方面的合作信息。继续阅读本文探索FPGA在推动网络边缘AI创新方面的重要作用。
网络边缘AI如何推动创新
虽然基于云的AI提供了更强大的计算能力和存储容量,但它需要极强的处理能力、能耗、网络带宽要求更高,并导致延迟增加。通过将处理任务分担到本地设备,网络边缘AI减轻了集中式服务器的负担并降低了运营成本。通...
Read more...
人工智能(AI)正在快速融入众多应用。73%的美国公司在其业务中或多或少使用人工智能,近四分之一(22%)的科技公司积极寻求在各种设备上集成人工智能。
随着AI不断渗透到现代技术中,网络边缘对实时处理、分析和响应的需求不断增长,定制设备端AI以满足特定用例和设备要求变得势在必行。例如,虽然生成式人工智能和大型语言模型(LLM)需要更高的计算和存储,但某些具备始终在线功能的设备则需要低功耗运行。我们每天使用的个人电脑(PC)就是一个很好的例子。随着行业趋势从云转向PC以保护隐私并减少对数据中心的依赖,对强大的设备端AI解决方案的需求也不断攀升,这些解决方案可以支持无缝、始终在线、安全的功能。
通过设备端AI实现始终在线的功能
PC等网络边缘设备需要AI解决方案来增强实时在线功能。这包括更强的情景感知能力、更高的能效、灵活和低延迟的传感器桥接、更低的复杂性和简化的集成。
强化情景感知
PC的始终在线功能意味着它们必须不断感知周围环境,特别是未经授权的物理访问和屏幕偷窥已经成为PC安全的两个首要问题。设备端AI工具可以让PC了解用户和周围环境,提供安全功能来提醒用户可能的入侵,并在用户离开...
Read more...
在今年的国际嵌入式展会(Embedded World)上,莱迪思研发高级副总裁Steve Douglass带来了一场主题演讲,阐述了嵌入式系统设计中软件和硬件层面具备灵活性和适应性的重要意义,这有助于跟进当今和未来重要的技术趋势。本文对该场演讲做了简要回顾。
我们所处的行业正面临深刻的技术变革,这些变化从根本上重塑了我们的世界。全球5G的普及为更多低功耗、低延迟互连设备的爆发奠定了基础,几乎所有设备和系统都在接入互联网。我们不仅将数十亿台设备连接到互联网,而且还配备了更多的传感器——摄像头、麦克风、雷达、激光雷达、加速度计,这些传感器的加入让设备感知周围的世界能力更强。计算机视觉和网络边缘计算的发展进一步加强了这些设备的功能,将其转变为我们周围环境不可或缺的一部分。这些设备将生成大量AI的数据,导致网络边缘智能的爆发式增长。
这些趋势的融合使得人们对更加灵活和适应性更强的嵌入式设计的需求增加,从而跟上不断发展的技术要求。想要避免全面的、自下而上的重新设计和部署,系统设计人员必须做好充分准备面对一系列关键挑战,包括不断增加的计算要求、系统功能扩展、不断升级的安全...
Read more...