账号:
密码:
CTIMES / 文章 /   
借助自行调适系统模组 加速边缘创新
以AI实现智能化

【作者: Evan Leal】2021年10月21日 星期四

浏览人次:【889】
  

AI应用日渐普遍地被部署到边缘和终端,且高效能AI推论使更智慧的城市和高度自动化的智慧工厂得以实现。随着智慧零售带来精致的自动化购物服务,消费者的零售购物体验也变得更加细腻。这些应用需具备极高的可靠性并提供高效能,同时也需提供精巧的外形尺寸。


边缘处理难题

在边缘部署系统时,功耗、占板面积和成本都是重要的考量因素。在边缘处理的种种限制条件下,当处理需求不断增加,也就意味着提供所需的效能水准将面临更大的挑战。虽然CPU在边缘运算上已有所发展,但近年来的成长速度趋缓,尤其在严格的低延迟要求下,在为由新一代AI所支援的边缘应用提供效能时,未经加速的CPU表现得相当勉强。


在边缘上执行先进的AI应用时,专用领域架构(Domain Specific Architecture;DSA)是重要关键,且能提供准确性和低延迟。合适的DSA被专门设计以用於高效处理所需的资料,既有AI推论也有非AI的应用,也就是整体应用的加速。考量到AI推论需要非AI的预处理和後处理,两者都需要更高的效能,这一点很重要。也就是说,要在边缘和其他地方达到由AI支援的高效应用,需要整体应用的加速。


如同任何固定功能的晶片解决方案,为AI边缘应用所开发的特定应用标准产品(Application-specific Standard Products;ASSP)仍然有自身的局限性,其主要的挑战在於AI创新的速度异於寻常。与非AI技术相比,AI模型的更新速度会快很多。在固定功能的晶片元件上使用AI,会因更新型、更高效的AI模型出现而迅速被淘汰,因为固定功能晶片元件往往要花费数年才能进入生产测试,届时AI模型的先进技术将已经又向前迈进。此外,边缘应用的功能安全性需求也日益提高,导致经常需要高成本的即时更新。



图一 :  AI普遍被部署到边缘和终端,使智慧城市和自动工厂得以实现。(source:se.com)
图一 : AI普遍被部署到边缘和终端,使智慧城市和自动工厂得以实现。(source:se.com)

自行调适运算的前景

自行调适运算包含能将具体应用进行优化的硬体,例如现场可编程逻辑闸阵列(FPGA)是一个功能强大的解决方案,专用於以AI为基础的边缘应用。


此外,新的自行调适硬体也层出不穷,包括含有FPGA架构并与一个或多个嵌入式CPU子系统耦合的自行调适系统单晶片(SoC)。然而,自行调适运算远不止「纯硬体」,它整合了一套综合且全方位的设计软体和执行时间软体,形成独特的自行调适平台,可在该平台上打造非常灵活且高效的系统。


藉由自行调适运算实现DSA,可免除使用ASIC等客制化晶片元件所花费的设计时间和初期制造成本,如此便能应用於任何特定领域,包含为以AI为基础的边缘应用迅速部署经优化的灵活解决方案。自行调适SoC是此类领域专用处理的理想选择,因为它既拥有综合且全面的嵌入式CPU子系统的灵活性,又具备自行调适硬体优异的资料处理能力。


自行调适系统模组System on Module

系统模组(System-on-Module;SOM)提供完整、可量产的运算平台。与精简晶片开发(chip-down development)相比,系统模组能节省可观的开发时间与成本。SOM能够??入较大的边缘应用系统内,既可以提供客制化解决方案的灵活性,又能提供现成解决方案的易用性和更快的上市速度。这些优势让SOM成为边缘AI应用的理想平台。然而,要实现现代化AI应用所需的效能,加速必不可少。


某些应用需要客制化硬体元件组与自行调适SoC介面相连接,意味着需要精简晶片设计(chip-down design)。然而,越来越多采用AI的边缘应用,需要相似的硬体元件和介面,甚至在终端应用迥异的情况下也是如此。随着企业采用标准化介面和通讯协定,尽管处理需求有显着不同,但同一套元件组可适用於各种类型的应用。


基於AI边缘应用的自行调适SOM,结合自行调适SoC与产业标准介面和元件组,使得硬体经验有限、甚至没有硬体经验的开发者也可以获益於自行调适运算技术。自行调适SoC既能实现AI处理,也能实现非AI处理,可以满足整体应用的处理需求。


此外,自行调适SOM上的自行调适SoC支援高度的客制化。它的设计目的是为了整合到更大型的系统内,并使用预先定义的外形尺寸。使用自行调适SOM可以全面发挥自行调适运算的优势,同时避免精简晶片设计。然而,自行调适SOM只是解决方案的一部分,软体也至关重要。


采用自行调适SOM的企业能广泛受益於高效能、灵活性和快速开发时间的独特组合,他们无需打造自己的电路板就能享受自行调适运算的各种优势。以赛灵思Kria自行调适SOM产品组合为例,该产品的推出,得以在边缘实现灵活性与开发速度等特性。



图二 : Kria KV260 AI视觉入门套件
图二 : Kria KV260 AI视觉入门套件

针对软硬体开发人员提供的优势

自行调适SOM同时让软硬体开发者受益。对於硬体开发者,自行调适SOM提供现成、可量产的解决方案,从而节省大量的开发成本与时间。此外,这些元件也允许硬体团队在流程後期变更设计,这是采用固定功能晶片技术的SOM所无法达成。


对於AI和软体开发人员而言,自行调适运算比过去更容易应用。赛灵思为了确保自行调适运算的易用性,对工具流程进行大量投资。透过将软硬体平台与可量产的视觉加速应用相结合,Kria SOM产品组合的推出让此结合的易用性提升到全新水准。这些一站式解决方案取消了所有FPGA硬体设计工作,只需要软体开发者整合他们的客制化AI模型、应用编码并选择性地修改视觉作业流程。在Vitis统一软体开发平台和函式库的支援下,他们可以使用熟悉的设计环境,如TensorFlow、Pytorch或Caffe框架以及C、C++、OpenCL和Python程式语言。


透过这种针对软体设计的新型加速应用模式,还针对边缘应用推出了首个嵌入式应用商店Xilinx App Store,为客户提供来自生态系合作夥伴的Kria SOM丰富多样的应用选择。赛灵思解决方案属於免费的开源加速应用,其中包含智慧镜头、人脸侦测、具有智慧视觉辅助的自然语言处理等。


结语:灵活应变的未来

AI模型将持续发展,意味着加速平台必须要能灵活应变,才能在现在和未来以最隹方式实现AI技术。实际上,SOM提供理想的边缘处理平台,结合自行调适SoC可为由AI支援的应用提供综合、全方位、可量产的平台。采用这类元件的企业能广泛受益於高效能、高灵活性和快速开发时间的独特组合,并从自行调适运算中获得丰厚的收获。


(本文作者为赛灵思电路板与套件产品行销总监)


相关文章
借助Zynq RFSoC DFE因应5G大规模部署挑战
半导体创新成果转化 AI运算世界加速来临
CXL、CCIX和SmartNIC助力 PCIe 5加速飞奔
FPGA从幕前走向幕後
自行调适运算平台带来高效能AI加速
comments powered by Disqus
相关讨论
  相关新品
mbed
原厂/品牌:RS
供应商:RS
產品類別:
Arduino
原厂/品牌:RS
供应商:RS
產品類別:
Raspberry Pi
原厂/品牌:RS
供应商:RS
產品類別:
  相关新闻
» 安立知与??宝共同成立宽频接取装置性能测试实验室
» 资策会推动成立「资安铸造」公司 提供5G、IT+OT资安监控解决方案
» 世界首创!台湾跨领域团队以AI精准侦测失智症前驱期
» xMEMS推出世界首款智慧眼镜和延展实境应用的MEMS高音扬声器
» 布局国际风电市场 上纬新能源结盟日本自然电力
  相关产品
» 贸泽电子与Analog Devices合推电子书 探讨LiDAR创新设计与商机
» 捷扬光电发表新一代桌上型实物投影机
» ST汽车级导航及航位推算模组 可简化设计并提升性能
» Imagination推出RISC-V CPU的微控制器IP 满足异质运算需求
» 大联大世平推出基於Bluetrum产品的单麦ENC TWS耳机方案
  相关资源
» Power Management Solutions for Altera FPGAs

AD


刊登廣告 新聞信箱 读者信箱 著作權聲明 隱私權聲明 本站介紹

Copyright ©1999-2021 远播信息股份有限公司版权所有 Powered by O3
地址:台北市中山北路三段29号11楼 / 电话 (02)2585-5526 / E-Mail: webmaster@ctimes.com.tw