21世纪经济报道记者 张赛男 上海报道
(资料图片)
“现在很多地方都有AI,AI的体验越好,需要后台支持的算力就越强。现在多是用通用器件来做AI识别,投入成本和性能是成正比的。Lattice的目标是将AI的能力移植到FPGA芯片上,实现功耗低、成本低、体验度不受影响。”在2023上海国际嵌入式展上,Lattice(莱迪思)亚太区市场开拓总监林国松对21世纪经济报道记者表示。
嵌入式技术是集电子、计算机技术、信号处理技术等多种学科于一体的交叉学科技术,广泛应用于各种电子产品中。这意味着,本次展览和半导体、芯片高度关联。
而在大模型的热潮下,AI成了本次展会热词,多家产业链龙头纷纷展出了在此方面的最新布局。
AI成必争之地
“3年前公司只先期投入了个位数的工程师进行探索,现在公司差不多有近百人在从事边缘AI的研究和开发。”林国松对记者表示,“公司针对AI投入了大量资源,为了让Lattice芯片能够结合前沿AI技术,投入上千万美元收购了一家总部在加拿大的AI软件公司。目前,公司已经在电脑端部署AI技术。”
在本次展会上,莱迪斯展出了Lattice SensAI方案,可在低功耗FPGA上实现前沿的神经网络算法,具备边缘 AI计算能力,支持Intel最新的MTL平台,实现3D人脸识别、屏幕光自动调节、自动熄屏、人脸解锁等功能。
“把AI识别功能引入到低功耗的FPGA,这样就可以减少用高功耗的CPU去实行人员识别。通常CPU算力功耗在几瓦或十几瓦,利用FPGA器件的消耗是百毫瓦,这是数量级的差别。Lattice已经有产品实际配置在手提电脑里,比如用Lattice器件做人员识别来实现靠近唤醒屏幕,离开能够锁屏。”他介绍。
除了莱迪思,21世纪经济报道记者在现场看到,多家公司都展出了与AI相关的产品或应用,吸引了众多观众驻足。
“也就是今年的事儿,AI芯片的市场需求变化特别明显,每家公司都在问,想要实现这样或那样的需求。”工业计算机制造商博来科技相关负责人对21世纪经济报道记者表示。“大家都在这个行业发力,有不一样的技术路径。最简单就是在AI这个方向独立出一个单元处理,其他的处理任务保持不变,就是要多一个芯片(来处理AI的事情)。”
博来科技展出了边缘人工智能计算集成AI模块的嵌入式主板与系统。相关负责人介绍,“通过增加这样一个AI模块,计算能力有很大幅度的提升。”
研扬科技则展示了分别搭载英伟达、华为AI模块的产品,可大幅提高边缘计算能力。“从对AI芯片的需求来看,客户的询问度越来越高,尤其是今年特别突出呈现爆发态势。”研扬科技工作人员对记者表示。
Arm展出了针对视觉应用设备的Arm?智能视觉参考设计,首次将Arm现有子系统IP与第三方IP整合,助力中国客户加速视觉应用设备开发,并广泛应用于从家庭与办公室安全、智能零售结账系统,到工业自动化等各类场景。
据Arm相关负责人介绍,智能视觉参考设计的目标受众通常是边缘AI领域公司的初创公司、跨界创新公司或者是希望进行垂直整合的系统公司,能在参考设计的基础上实现快速流片,从而推出满足标准的芯片。
落地仍需时间
说到大模型,其背后的GPU供应商NVIDIA(英伟达)无疑是最大赢家。
英伟达此前就宣布,边缘计算平台将亮相上述展会。21世纪经济报道记者在中电港展台看到,在工业机器视觉技术应用上,其展出了依托NVIDIA Jetson平台以及NVIDIA Metropolis应用框架的多个产品,可适用于自动光学检测、预防性维护、柔性制造、远程资产监控等应用;还有基于Jetson Orin NX/Orin Nano 开发的无人机机载平台和小型化机器人主控平台,具备尺寸小、重量轻和高防护的特点,能够适应更多类型的智能机器人产品。
据悉,中电港是NVIDIA在国内的授权分销商之一,公司相关负责人介绍,“这次展出的主要是专注于自主机器和边缘计算应用的NVIDIA Jetson平台。它包含了一系列不同的嵌入式模块,具有较强的AI性能,适合做工业领域的前沿应用开发。”他还表示,“自主机器的应用很广,不是说人形机器人或轮式小车才叫机器人,对一些传统的机器手臂赋予了更智能的功能也是自主性的一部分,这意味着Jetson平台的应用会很广。”
“近年以来,询问最多的就是各种各样的自主性机器需求。比如在一个封闭、半封闭园区内,所面临的情况是随机的,机器小车需要一定自主性去及时避障、控制速度,不能再用相对简单的方案,才能保证安全和效率。”该人士进一步表示,“目前在这个领域已经有很大规模的应用了,比如低速的无人物流车、园区清洁机器人,很多AI功能就来自Jetson平台。”
“对AI的要求越高,对NVIDIA Jetosn产品的需求也会相对比较迫切,因为它是一个比较领先的做人工智能相关应用的平台,其硬件性能、生态完整度、软件开发程度都比较高。在机器人领域,对机器自主性要求越强,NVIDIA Jetson平台可能会更符合其需求。”
至于成本方面,他认为,“机器人行业是一个蓬勃发展的行业,有很多相关的方案,每个企业也会有不同的关注点。NVIDIA Jetson便于开发、生态完整的特点将帮助产品快速走向市场,同时它还有着较高的性能和良好的能效比,这些都会帮助依托其开发自己产品的企业降低总拥有成本。”
诚然,在这个赛道各家都在发力。博来科技相关负责人对记者表示,“目前就搭载的芯片而言,各家有各自的路线。总的来说,英伟达芯片的计算能力最为靠前,但也不是所有的应用都需要应用到高端芯片,中低端领域各家都有发力,就看谁最后做得比较好。”
而在莱迪斯看来,AI的实现也不限于FPGA、GPU、或者MCU等,但在AI功能固化前,通过FPGA的灵活性来实现是一个很好的选择。
AI江湖英雄混战,谁是最后的赢家仍未可知。研扬科技相关人士认为“真正落地没那么快”,“现在大家研究的热度很高,但如果真的要导入,还要有算法,现场调试也需段时间,真正有大量产品落地可能还需要一两年。”