米文动力CTO 苏俊 ：边缘AI使能工厂智慧化升级

大家好，很高兴大家参加米文动力“边缘计算前沿实践”系列公开课，本系列公开课重点介绍米文动力在边缘计算实践中的应用案例，以及对边缘计算技术路线的展望。

本期将重点介绍边缘计算在智慧工厂中的应用。我叫苏俊，是米文动力的CTO。

01、米文动力是做什么的？

作为以视频为核心的AIoT边缘解决方案提供商，米文动力致力于为边缘计算场景用户解决批量落地过程中遇到的所有问题。

硬件方面，米文动力针对不同的场景需求提供各种低功耗、不同算力的硬件计算产品。

软件方面，为硬件用户提供如远程系统升级、批量烧写工具等各种免费的增值服务。

同时，在部分场景中，米文动力也提供云边协同的完整解决方案，为客户扫清障碍，解决最终的人工智能场景落地难题。

因此，如果您要解决的是一个边缘问题，您的任何疑问，在米文动力都会得到解答。

今天，我将会结合实际应用场景，和大家探讨边缘AI在工厂智能化中的应用。

02、智慧工厂的发展趋势

智慧工厂（Smart Factory）的概念，最早是由德国提出的工业4.0，一般会具备如下特征：

首先是工厂的数字化，能对设备自动监控，对信息资源的管理和对使用者的信息服务；

其次是通过物联网技术对设备状态进行监控，将物联网技术更广泛地与视频监控技术、信息管理和信息服务技术相结合；

基于这些技术，实现信息化节能降耗，最终达到绿色智能的目的。

03、智慧工厂中应用的痛点

对于工厂智慧化的目标，始终会落到工厂生产的本质，比如：

• 如何缩短订单生产时间？

• 如何提高产品质量，降低制造成本？

• 如何减少库存？

• 如何控制生产和管理的人力成本？

• 如何监控生产现场？

• 如何让生产管理变得透明化、可视化、可量化？

• 如何提供完整、准确的制造数据？

• 如何对产品品质进行有效控制？

04、智慧工厂里面的边缘应用

当然，以上这些问题的解决手段有很多种，在米文动力接触到的边缘计算应用中，主要会涉及以下几个方面：

工业质检：找出产品在生产过程中造成的缺陷、对产品本身属性进行分类，主要目的是为了加强对产品品质的控制，提升质检效率，对质检过程进行透明化、可视化、可量化的管理。

安全生产：是指在生产活动中，为了避免造成人员伤害和财产损失事故而采取相应的事故预防和控制措施，从而保证从业人员的人身安全与健康、设备和设施免受损坏、环境免遭破坏。

智慧运营：包括了安全生产，但范围更广，目的是让和生产相关的信息变得透明化，可视化。

在工业质检方面，如图，是合作伙伴进行的羽毛分级应用，在这个系统里面，会对羽毛进行21种不同等级的分类，其准确率超过98%，运行效率是人工检测的100倍。

这类型的应用场景，对效率、实时性及响应速度提出了很高的要求，同时在工业质检场合，通常具有高温、高湿等特点。正是借助了米文动力EVO Xavier这款产品的工业规格及强大的计算能力，才能够达到这么高的效率。

在安全生产方面，利用工厂现有的监控相机，对员工是否佩戴安全帽、是否在厂区吸烟等违规行为进行检测，及时预警烟火、气体泄漏等安全事故。

智慧运营往往包含了安全生产，但范围更广。

在智慧运营中，需要确认进入库房的人员身份，对厂区重要区域进行周界检查，检查工作人员工作服是否合格，对员工进行离岗、睡岗的监测等等。这些都是以前无法数据化或者量化的，现在通过对信息进行数据化，可以为运营决策提供更多维度的信息。

05、边缘 VS 云

也许有人会问，这些事情好像通过云端的方案也可以做，用边缘的方式有什么好处呢？

以同时接入15路视频来对人员的着装（比如安全帽检测、工作服是否合规等）为例，来进行一个对比。

把成本分为硬件成本和通讯成本两方面

硬件成本方面，同样是30T的计算能力，在云端需要花费2.8万/年的高昂成本。而在边缘端，则只需要1.2万/年，同时享有三年的质保，成本差异达到了7倍之多。

通讯成本方面，假设数据通路是免费的，一分钟需要上传一条1M的数据给云端，边缘方案需要花费的通讯成本大约为100元。而云的方案，由于视频流量的成本，则需要花费6000元。

06、嵌入式边缘 VS 台式机GPU

当然，云和端的成本对比，早就是不言而喻的问题了。

但在很多应用领域，用户将台式机的GPU作为边缘计算的设备，那台式机GPU和米文动力提供的嵌入式边缘设备之间，有什么差别呢？

以工业视觉为例，从电力成本和停机概率两方面来进行对比。

平时段用电：每度电0.725元，满负荷运行12小时。由于功耗差异，在电力成本方面，使用Jetson Xavier嵌入式和使用台式机GPU的方式差距较大，全年相差600块钱，但对于一台昂贵的检测设备来说，600块钱完全不算什么。

工业使用场景中：我们发现工人的开关机操作不会严格按照手册来进行，按电源键对他们来说是最习惯的使用方式。这种习惯带来的维修概率，使两者差距了20倍以上。

对于设备制造商来说，这是额外需要付出的维修成本；对工厂而言，会面临随时停机造成的损失。这是我们认为的嵌入式边缘设备和台式机GPU有最大差别的地方。

我们再从算力方面看一下台式机和嵌入式GPU的差别：

在这个图里，我们可以看到， Y轴的左半部分是嵌入式的边缘设备，也就是通常说的Jetson系列，Y轴的右半部分则是我们通常说的显卡。

可以看到，目前为止，即使是最强的嵌入式边缘设备——Jetson AGX Xavier，其算力相对于右边的显卡来说也只是个弟弟，只相当于以前的1050Ti显卡。

算力的贫乏，是目前嵌入式边缘设备在工业场景中使用并不算特别广泛的原因之一。但是，大家可以看到，Orin的出现给整个格局带来了非常巨大的变化。

虽然它的计算能力还不及目前最强的3080Ti和3090，但是要考虑到3080Ti的功耗为350瓦，而Orin则只是一个嵌入式设备。

在这样的情况下，嵌入式边缘设备的算力问题不再是大问题，但其高可靠、节能强等优势则仍然会继续保持。

因此，嵌入式边缘设备将来在工业领域中的应用会更加广泛。

07、米文动力在智慧工厂场景中的探索

为了使边缘计算在工业场景中更易落地，针对具有业务需求的最终用户，米文动力与合作伙伴共同推出了一系列更加接近应用实践的工具及产品。

在工业质检方面，工业中非常多微小的部件需要进行检测，米文动力联合合作伙伴科亿科技提供了一站式解决方案，针对工业质检这个场景推出标准化机台。

对于如密封圈、螺丝、灯座、纽扣等零件，都可以使用这一标准化机台进行有效检测，并且只需要较小改造，就可以与现在的生产流水线进行对接，同时还提供了一套“傻瓜式”训练工具，来帮助用户进行快速调优。

同样，在工厂场景里面，由于生产过程数据非常敏感，有大量客户希望自己能够持有这些数据，来保证数据安全。

基于这点考虑，我们与合作伙伴一起提供如下几种模式：

首先工具中预置常用的模型，使用户能够进行快速验证。

同时支持帮助用户进行场景选择和模型设计，使用户可以在不给出数据的情况下进行快速验证。

在工业领域中，如何使用少量数据来达到最优效果仍然是一个技术挑战，不排除用户在使用我们模型的情况下，仍然对效果不满意。基于这种需求，米文动力也提供定制算法的服务，来向用户提供类人识别的算法。

通过多种模式，不但保护用户数据安全，同时满足用户不同等级的性能需求。

以上这些工具针对的是最终具有业务需求的用户。

针对开发者用户需求，提供一系列简单易用的软件工具

需求一：对分散的边缘设备进行远程运维

边缘计算的应用场景通常很分散。对于开发型用户来说，其服务的客户群体往往离市区较远、相对分散，需要对设备进行远程维护时，要付出比较高昂的差旅及人力成本，所以都希望能够尽可能通过远程来排查问题。

针对用户的这些痛点及需求，米文动力自主研发云端管理平台，该平台以企业为单位进行管理，不同企业的信息互相隔离，可同时监管不同项目及每个项目内的多种设备。用户需远程维护时，打开远程访问功能（绿色图标），点击后跳转到设备界面，即可查看设备使用状态，也可使用web终端来进行更加深入的命令行调试。

值得注意的是，除了用户本人有权限设置、查看、修改该设备的用户名和密码，任何人包括米文动力在内都无权设置、查看该账号，极大地保障了设备数据的安全性。

除了远程运维，平台还可以对设备的CPU使用率、硬盘使用率、温度等状态进行远程监控。硬盘占满往往是用户发生问题的主要原因，如果硬盘满了，系统无法启动，远程监控功能可以有效查看异常状态，及时报警，做出相应对策。如上图，硬盘和CPU都有一个尖锐的下凹，表明在这个时间点设备进行了重启。

同时，平台还提供大屏显示功能，方便用户对项目中的设备进行整体把控。

需求二：对设备进行应用及模型的批量部署、更新

米文动力提供图形化批量烧写工具，可同时支持对多台设备进行烧录及镜像克隆，用户可自行上传容器和模型进行下发。

需求三：需要大量工程师定制开发各种功能

以远程监控生产现场为例，开发这个功能需要嵌入式工程师、前端工程师、后端工程师等。而开发资源有限的用户，更希望能够专注在自己真正擅长的部分，这部分可能是业务功能，也可能是算法性能。

视频以我们公司内部使用的生产管理系统为例，展示了米文动力提供给用户的开箱即用的平台功能，帮助用户更好地将人工智能与其业务系统进行整合，加快项目落地的速度。

这套生产管理系统可远程检测入侵、烟火、温湿度传感器数据等，系统后台接收、记录、分析异常数据，来进一步管理库房。米文动力除了可以根据不同用户的需求提供类似的这样一套开箱即用的功能，也可以将数据直接传递给用户，或让用户自己上传模型，来快速验证自己的算法。

08、边缘计算的未来

接下来我们讨论一下边缘计算的未来。

众所周知，明年NVIDIA将发布Orin这款划时代的嵌入式GPU。

相比Xavier来说，在CPU方面，Orin的CPU核比Xavier多了50%，同时单核性能会有进一步提升，GPU的CUDA核是Xavier的4倍，算力达到254T，接近了3080Ti和3090的水平，内存带宽虽然不如苹果最新发布的IMAx（400GB/s），但也达到了惊人的200GB/s，能够非常好地发挥GPU计算性能。

在这款芯片的加持下，更多的工业场景痛点会更快解决，那Orin是不是就是嵌入式GPU的最顶峰呢？

并不是，我们看一下另外一张图。

Atlan是NVIDIA公开宣布正在研发的芯片，算力将达到1000T，1000T是目前性能最强的3090台式机显卡的4倍，因此从Orin开始，边缘计算的性能将得到长足的提升。同时在边缘的各种应用里面，不再是使用专门为数据中心设计的SoC，而是有了专门适合边缘场景的强算力新芯片。

这一改变，将把边缘应用推向一个更高的维度，在边缘计算的场景里面，使用专门为边缘设计的芯片和方案，才是边缘的未来。

我的分享内容到此结束，谢谢大家的倾听。