吉安信息网

洛阳房产网:Jetson Xavier NX开发套件着手玩软体篇:原生云端与容器功效引爆应用潜力

来源:吉安信息港 发布时间:2020-05-16 浏览次数:

NVIDIA先前已推出多款针对AI与边缘装置设计的Jetson运算平台,下至轻省的Jetson Nano,以及中坚的Jetson TX2、Jetson Xavier NX,另有效能强悍的Jetson AGX Xavier。〖这次的更新不〗但带来全新硬体开发套件,软体方面也带来更便〖于〗治理的原生云端功效与容器支援。

Jetson Xavier NX开发套件加速AI装置开发

NVIDIA〖于〗2019揭晓了针对AI应用设计的Jetson Xavier NX运算模组,搭载强效的绘图处置器(GPU)与SoC,并支援云端、资料中心、边缘运算业界普遍使用的软体堆叠,与Jetson家族产物一样能够提供强劲的AI运算效能,相当适适用〖于〗制造、物流、农业、智慧都会、零售、医疗等产业。

身为Jetson家族最新的成员,Jetson Xavier NX的特色是尺寸小巧、15W以下的电力消耗,且具有相对优异的效能与电力效率显示,「它的尺寸与」Jetson Nano相近,而凭据官方提供的数据有着4倍的效能显示,相当适合应用〖于〗边缘运算装置。

这次NVIDIA也遵照之前Jetson Nano的行销计谋,在推出Jetson Xavier NX运算模组后,〖于〗2020年5月14日以美金399元(约合新台币12,010元)推出Jetson Xavier NX开发套件,透过扩充母板提供完整的I/O介面,让开发者能够更便捷地开发种种AI与边缘装置。

Jetson Xavier NX搭载6个Arm v8.2处置器焦点、384个CUDA焦点的Volta架构绘图处置器、48个Tensor张量处置器焦点与2个深度学习加速器(Deep  Learning  Accelerator)引擎,能让与信用卡尺寸相近的迷你电脑在15W的功耗下,拥有21TOPS(万亿次运算)深度学习效能显示。

更详细的硬体先容将〖于〗下篇文章说明,请期待预计〖于〗5月18日刊登的硬体与效能测试篇。

Jetson Xavier NX本体的尺寸仅有 70 x 45公厘,NVIDIA将其冠上「世界上最小型的人工智慧超级电脑」的名号。

Jetson Xavier NX开发套件具有HDMI、DisplayPort等影像输出端子,以及USB 3.2 Gen1、乙太网路等I/O端子。

此外开发套件还能安装无线网路/蓝牙模组(预载)以及NVMe固态硬碟(选购)等周边。

全新原生云端手艺强化边缘运算部署

已往的嵌入式软体大多将作业系统、应用程式打包为单一系统映像档,并烧录至目的装备上,当需要在系统增添或移除功效时,就需要重新编译、打包系统映像档,并重新烧录,不但会垫高软体维护成本,还会发生不能接受的设〖备停机时间〗,这个问题对〖于〗频仍更新的AI边缘装备更为严重。

NVIDIA透过这次更新推出的原生云端手艺(Cloud-Native Technology),观点包罗微服务架构(Microservice Architecture)、容器化(Containerization),以及让应用程式的交付能脱节旧有软体僵化事情流程的约束,将原本的应用软体切分为许多细小的服务(Service,‘本质上与应’用程式相同但规模比较小),并透过容器部署、治理。

将服务容器化的历程,会将服务与依赖套件一并打包成容器,【以便施展快速部署的优】势,并让服务与底层作业系统星散,如此一来在更新作业系统或举行功效更新、安全性修正的时刻就不会影响已安装的服务,反之也能在不影响作业系统的前提下,安装、更新、{降级或删除服务}。

原生云端手艺能够带来 <弹> 性且天真的软体部署能力,让开发者能够快速开发产物,并连续举行软体更新,且只需负担最少的设〖备停机时间〗。

全新原生云端手艺搭配Jetson原有的平台优势,让边缘运算装置的开发与维护加倍简朴。

小辞典:容器(Container)
容器是种类似虚拟机械的虚拟化手艺,可以将程式码与所有依赖的系统工具、执行环境(Runtime)、函数库、设定等软体套件与档案打包成标准单元,使用者只要在装置上安装Docker引擎,就能执行容器。
差别〖于〗虚拟机械是将硬体虚拟化,容器是将作业系统层虚拟化,具有更高的可携性,运作效率也更高,甚至可以无视基础设施(Infrastructure)的差异,快速部署到任何装置,施展让应用程式可以从某个运算环境快速转移到另一个运算环境的效果。

 ▲ 打包成容器的应用程式、服务可以在Docker引擎上执行,有利〖于〗简化交付软体的手续。

 

打造完整AI运算平台

NVIDIA拥有壮大的AI运算软体与硬体平台,已部署〖于〗透过绘图处置器加速的资料中心、超大规模伺服器和壮大的AI事情站,并为Jetson平台提供最佳化的CUDA、CuDNN、TensorRT、DeepStream等AI工具、函数库、SDK,让使开发者能够在效能壮大的云端伺服器训练AI模子,并将训练好的模子无缝部署至以Jetson打造的AI边缘装备。

Jetson Xavier NX的目的之一就是同时加速多个神经网路,并提供边缘AI应用所需的推论(Inference)效能和准确性。Jetson Xavier NX支援TensorFlow、PyTorch、MxNet、Keras、Caffe等主流AI框架,并可透过NVIDIA TensorRT执行环境加速框架效能。此外Jetson家族也支援Microsoft ONNX模子和执行环境,以及Amazon SageMaker Neo平台, 开发[者可以在SageMaker上训练机械学习模子并在Jetson执行最佳化的模子。

Jetson家族的另一大特色就是全线加速(Full Stack Acceleration)功效,它不但能加速AI推论的效能,还能加速前期处置与后期处置效能。举例来说典型的AI管线会对传感器(如摄影机)接收到的资料举行缩放、裁剪、扭曲修正等前期处置,然后才送至神经网路举行推理运算,再对效果举行编码或可视化等后期处置,而NVIDIA的DeepStream SDK能加速AI影像辨识的前期处置、AI推论、后期处置等整体运算流程,带来更优异的整体效能显示。

至〖于〗机械人相关应用,则可透过整合SDK、驱动程式、API『与各』种实用工具的NVIDIA Isaac SDK,透过AI强化机械人的感知、导航、操作能力,“并可在模拟环境”中测试与训练机械人,并将功效转移到真实的机械人,能协助缩短数百小时的开发时间。

完整的软体平台能让Jetson在种种应用领域施展最大效益。

笔者将在下篇文章中针对Jetson Xavier NX《开发套件》的硬体举行详细先容,并现实同时执行多款AI应用容器展示Jetson Xavier NX的火力,并准备了Jetson Nano、Jetson AGX Xavier举行效能对比测试,敬请期待下回分解。

,

诚信在线5858会员查账

诚信在线5858会员查账(原诚信在线官网)现已开放阳光在线手机版、阳光在线电脑客户端下载。阳光在线娱乐戏公平、公开、公正,用实力赢取信誉。

发表评论
请自觉遵守互联网相关的政策法规,严禁发布色情、暴力、反动的言论。
评价:
表情:
用户名: 验证码:点击我更换图片