作者:IT 桔子数据分析师
「嵌入式人工智能」已成为一个新的热点论词。
在 4 月 28 日「GMIC AI+国际峰会」上,零零无限 CEO 王孟秋、中科创达技术总监王璠以及云迹科技 CEO 支涛在分享过程中或交流中都提及了「嵌入式人工智」能这一概念。
目前,在人工智能领域出现了很多需要在本地终端进行计算的应用场景,比如机器人、无人机、汽车等,于是「嵌入式人工智能」应运而生。嵌入式已经成为人工智能领域新开辟出的一个崭新的分支。
什么是「嵌入式人工智能」?
零零无限科技的「小黑侠」跟拍无人机,在仅有 242 克重量机身上,运行了十几层卷积神经网络,可以通过人脸或人形进行自动跟随;中科创达分别与高通及 ARM 合作,在不联网的便携式设备上实现了实时识别物体及食品识别和热量估算的移动应用程序;云迹科技机器人则是云计算与本地计算配合,例如断网情况下机器人也可以自动回到充电桩并且安全避障。
云计算和本地计算是两种不同的计算模式。本地计算(又称端计算、边缘计算),特点是可在离线状态下独立工作。嵌入式人工智能也是一种本地计算,是在终端设备上运行深度学习相关算法。
云计算的优势在于,服务器存储的数据量大,计算准确性高,计算的能力强,通常用于单次、不连续的计算任务请求。这类典型的公司比如,Face++提供 API 接口的人脸识别云服务、科大讯飞语音识别云服务、图普科技图像内容审查云服务等,这些都需要把计算任务通过网络上传云端,云端计算完成后再把结果传回本地。虽然云计算计算能力强大,但是也有弊端,很多计算场景是需要在本地进行的。
嵌入式人工智能的必要性
机器人的定义是能够自主的感知环境,能够自主的作用环境,能够改变在环境中的位置、姿态等等。零零无限 CEO 王孟秋告诉 IT 桔子:「嵌入式人工智能有两个方面的必要性」。
第一,计算时间问题。拿「小黑侠」跟拍无人机来说,它有前置 1300 万像素、底置 300 万像素两组摄像头,它每秒 60 帧在做运算,数据量是很可观的,如果先把这些数据传到云端,云端计算后再把行动指令反馈给无人机,时间太长。
第二,传输延迟问题。「小黑侠」跟拍无人机可以利用本地 WiFi 和手机端相连,但所有的运算是在本地完成。很多人质疑为何不在手机上进行运算,因为本地 WiFi 延迟是 200 毫秒,而小黑侠的飞控是 1K 赫兹,即 1 毫秒一个控制循环,等数据传到手机再传回来,已经过了 200 个控制循环了,很难实现飞行。
云迹科技 CEO 支涛同时表示:云迹机器人也内置了很多的处理芯片,有些功能必须是要在本地进行计算,还有一些功能放到云端去处理。云端有云学习、云地图、云导航、云知识等功能。另外,当遇到紧急脱机情况,依然可以保证机器人的正常生存能力。就算云端被切断,机器人可以自己回到充电桩,运行及安全避障或者求救等功能是在本地进行计算。
嵌入式 AI 的应用场景
对于嵌入式 AI 的应用场景,中科创达术总监王璠在分享时指出:「云端计算精确度虽高,但并不是所有的场景都适合」,并举例了一些只能本地计算的场景:
辅助驾驶或者自动驾驶系统,如果在云端计算,设备端采集到数据后上传,计算完成后再返回终端,这样会不可避免的带来一定的延时,而在驾驶的场景中,这种延时意味着危险系数的提高。
数据安全,比如家里安装了一个监控摄像头,用来关注老人和孩子的安全,上传到云端的计算也意味着隐私被泄露的风险提升。
脱机,虽然现在通信技术发展的很快,但是仍然会碰到在地下停车场、商场里没有信号的情况,这时候就不能指望云端计算有很好的用户体验了。
上述的场景下都不能使用云计算,所以,在本地进行计算的嵌入式的人工智能还是有很大的市场需求的。
同样是做嵌入式的人工智能,地平线 CEO 余凯曾经说过,嵌入式 AI 的应用场景地平线看好三个方向:安防、智能家庭、智能驾驶。
嵌入式人工智能技术的发展依赖什么?
王孟秋提到了嵌入式人工智能技术的发展,他说:传统意义上的人工智能已经发展了很多年,并且在过去一年间突然炒的过热,但是嵌入式人工智能确实刚刚发展起来,在三年前还是很难实现的。
第一,三年前,人工智能这些算法从精度、鲁棒性(保证在异常和危险情况下系统不死机、不崩溃的能力)等方面都没有达到今天可以做消费级的产品的程度,但是现在这些算法的精度确实已经很高了。
第二,如果没有手机的相关技术带来的变革,我们今天还不可能在这么小的体积实现这么强的运算资源,手机一年能卖十几亿台,使得所有器件的成本非常低,APU 的处理能力很强。
因为这两点结合了以后,才使得目前嵌入式人工智能实现和发展。
嵌入式人工智能未来发展
王孟秋认为,目前,嵌入式人工智能还在吃手机遗留的红利,比如,高通 835 芯片有大量的运算资源我们并没有充分利用。手机的普及推进了手机芯片的发展,降低了芯片的成本,很多嵌入式人工智能用的就是手机芯片。这些 CPU、SOC 的厂商目前主要还在为手机提供芯片,让他们来为一些特定的行业提供定制化的芯片还需要一些时间周期。
从软件的角度来说,想要把最好的手机芯片的所有计算能力发挥出来,还需要一点时间,有很多底层的东西要定制,算法的移植、迁移,要做很多工程类的工作。
王孟秋估计,未来的一到两年内,嵌入式人工智能还是可以继续吃手机带来的红利,但是随着人工智能再往前发展,行业更加成熟后,需要更具体的运算需求,到那时,可能手机芯片就不能够满足了。
推荐阅读
点击下方图片即可阅读
这家全球前十的军工企业,也把人工智能列入了战略规划中
【深度】人工智能或重演 2002 互联网泡沫 ! 95% 的企业会倒闭?