当前,行业对于AI(人工智能)芯片的关注都集中在GPU或专用AI加速器芯片(如NPU和TPU)上。不过,AI实际上并不局限于大算力的高性能运算,部署到终端的AI同样有巨大的市场空间,因而有相当多的组件可以运行AI负载,包括在嵌入式领域广泛应用的FPGA。
在2024年莱迪思(Lattice)客户技术交流大会上,莱迪思半导体首席战略与营销官Esam Elashmawi表示,莱迪思是全球FPGA出货量最大的公司,很早就布局AI市场。2021年莱迪思专门收购了一家AI软件公司Mirametrix。2023年,莱迪思在AI方面的收入已经超过了1亿美金。
莱迪思半导体首席战略与营销官Esam Elashmawi,FPGA之于AI
对于了解FPGA灵活性和可编程性的人来说,基于FPGA实现AI是一件顺理成章的事情。FPGA器件一个重要的特点就是可编程特性,也就是灵活性,那么开发人员可以借助FPGA创建多个并行计算流水线,并分配存储块,从而优化数据传输。
FPGA的灵活性让其能够适配大量的AI算法,无论是计算还是控制,都可以根据算法需要提供相关的功能。以神经网络为例,其基本原理是通过多个神经元之间的连接进行信息传递和处理,从而实现算法的计算和输出。而神经网络也可以转化为FPGA可编程电路的形式,并可以根据算法需要调整硬件配置。
话虽如此,不过由于FPGA具有一定的设计门槛,所以还是需要FPGA厂商提供一些帮助。Esam Elashmawi指出,莱迪思目前拥有有史以来最强大的产品组合,会继续投资并推出新一代的较小型FPGA和中端FPGA,也将继续在软件工具和解决方案上投入更多资源。
在莱迪思官网可以看到,该公司所提供的强大产品组合包括功能全面的莱迪思sensAI。莱迪思sensAI提供评估、开发和部署基于FPGA的机器学习和人工智能解决方案所需的一切——模块化硬件平台、演示示例、参考设计、神经网络IP核、软件开发工具和定制设计服务。
在演示示例中,通过将内置摄像头与在莱迪思行业领先的低功耗FPGA上运行的机器学习模型相结合,莱迪思sensAI智能视觉传感技术可以追踪用户在使用设备时的注意力,让PC更加智能,更好地感知周围环境。还有一个示例是,通过在屏幕上弹出警示或自动打开屏幕隐私设置,莱迪思sensAI视觉传感技术可以防止黑客偷窥,保护PC用户安全。
因此,通过莱迪思sensAI工具加上该公司丰富的FPGA产品,能够快速构建终端类型的AI应用,有助于帮助开发人员抢占市场先机。
莱迪思Avant FPGA平台
莱迪思亚太区应用工程高级总监Frank Xie在演讲中谈到,莱迪思在性能、功率和连接性方面做得更好。而客户正在寻找的是实时响应的产品,因为边缘上的AI设备非常接近数据收集。莱迪思帮助客户持续优化响应时间和功耗,让他们实现更好的AI功能。
那么,这个更好方案基于怎样的平台呢?答案是莱迪思Avant FPGA平台。
2022年底,莱迪思发布低功耗中端Avant FPGA平台,是该公司进入中端FPGA市场的标志性事件,和Nexus FPGA平台一起组成莱迪思“史上最强产品组合”。
Esam Elashmawi指出,和Nexus FPGA平台相比,Avant FPGA平台容量提升5倍,达到500K逻辑单元,带宽提升10倍,计算性能提升30倍。根据介绍信息,Avant基于16nm FinFET平台,提供强大的25 Gb/s SERDES、硬核PCI Express和外部存储器PHY接口,以及适用于最新AI/ML和计算机视觉算法的大量DSP。
和竞争对手的FPGA产品相比,莱迪思Avant是功耗更低、带宽更高、体积更小的方案。其中,Avant-E FPGA旨在解决客户在网络边缘面临的一些关键挑战,拥有低功耗、小尺寸和高性能,以及针对数据处理和AI等网络边缘应用量身定制的优化功能集。
Avant-G是针对中端应用的通用型FPGA,旨在通过提供无缝、灵活的接口桥接和优化的计算来实现系统可扩展性,满足更广泛的客户需求。莱迪思Avant-G器件提供领先的信号处理、AI和灵活的I/O——支持一系列系统接口,同时提供2400 Mbps的专用LPDDR4存储器接口。
Avant-X高级互连FPGA旨在实现高带宽和安全性,其功能集可根据客户对信号聚合和高吞吐量的需求量身定制。莱迪思Avant-X器件提供最高1 T/s的总系统带宽、带硬核DMA的PCIe Gen 4控制器,以及用于加密动态用户数据的安全引擎,提供量子安全加密功能。
有了更出色的FPGA平台加上全面的工具支持,开发人员可以非常便利地基于莱迪思FPGA实现自己的AI创新。当然,面向通信、自动化、机器学习、计算(包括服务器和存储)、汽车(激光雷达、娱乐系统、控制单元)和消费电子等领域也是同样的道理。
莱迪思亚太区应用工程高级总监Frank Xie称,未来莱迪思将持续加码AI创新。他在谈到未来规划时说:“莱迪思也在开发未来的AI应用,这是与硬件、软件一起出现的。目前我们看到的工业发展趋势是传感器到云的连接。传感器有不同种类的接口,意味着我们需要满足不同的接口要求。由于我们的服务是多协议支持,可以调整我们的服务协议,为客户提供各种不同的工业连接标准。”
写在最后
在2024年莱迪思客户技术交流大会上,莱迪思展示了其强大的FPGA合作生态系统,包括丰富的FPGA产品,以及全面的软件、开发套件资源。同时,该公司庞大的用户群基础也为莱迪思后续产品创新带来了源源不断的创新灵感和创新需求。
Esam Elashmawi表示,莱迪思在低功耗FPGA领域深耕超过40年,自2018年以来合作伙伴生态系统扩展了5倍,更多的公司为莱迪思构建软件知识产权(IP),也有越来越多的其他半导体公司参与到莱迪思生态系统。目前,莱迪思为全球10000+ 客户提供服务。
面向未来,我们今天重点谈论的AI当然是莱迪思的重点发展方向之一。同时,莱迪思也透露了该公司后续产品迭代的方向,包括低功耗、先进且灵活的连接性以及针对新兴应用优化的计算能力。此外,安全性是始终贯穿其中的,在量子计算等新技术层出不穷的情况下,安全防护会愈发重要。