当今社会,智能移动设备已经成为人们生活必不可少的一部分。面对来自海量终端的采集数据爆炸式增长,云平台部署方式在实时化、信息安全、综合成本等方面的局限,以及便携化发展的需求,正推动着越来越多的人工智能在嵌入式移动端实现分布式部署。分布式移动端逐步成为与云平台可以平起平坐,并融合互补的人工智能部署方式。
深度学习算法通常基于大规模多层神经网络进行海量的计算变换操作,因此,对所依托硬件的计算能力提出了相当程度的要求。
但是,以智能手机为代表的消费级移动终端设备均依托嵌入式平台,其体系架构、计算资源和访存带宽等与服务器和主机平台相比,存在着巨大差异和天然局限。并且,嵌入式平台根本无法直接使用针对服务器、以及主机平台而设计开发的当前主流深度学习框架。
◆ ◆ ◆
通过“加速引擎”,支撑AI技术移动端应用
猎云网近日了解到的泓观科技(英文名otureo)是一家由三位清华校友创立于2015年底,专注于嵌入式人工智能加速技术与产品的初创企业。
如何将AI落地移动端,泓观科技的解决方案是,提供针对深度学习部署加速的技术产品,通过自上而下多层次加速调和解决深度学习所需的大运算量与嵌入式终端设备有限的计算能力之间的固有矛盾——以此实现人工智能面向海量前端设备,及应用场景的全面落地。
泓观科技的创始团队告诉猎云网,在该公司创立及运作的同期,美国本土也先后涌现出以Pilot AI Labs和Xnor.ai为代表的,在角色定位和技术落脚点都与其颇为接近的若干创业团队。
Pilot AI Labs曾获得来华人科学家张首晟创立的丹华资本领投的种子轮以及NEA领投的A轮融资。该团队通过将计算机视觉的能力装入嵌入型芯片,使其直接应用在很多小型的摄像头里,如GoPro。
此外,由于Pilot.ai 能在非 GPU设备(比如ARM)上完成深度学习算法的部署,因此,无人机、安防摄像头和运动相机等厂商,只要直接购买嵌入了Pilot.ai 算法的芯片就可以获得其计算机视觉识别能力,无需GPS 追踪定位。
Xnor.ai 则于今年2月初获得来自麦德罗纳风险投资集团(Madrona Venture Group),以及由Paul Allen(微软创始人之一)创立的艾伦人工智能研究所(Allen Institute for Artificial Intelligence)260 万美元种子融资。
该团队曾将XNOR-Net 部署在价值5美元的Raspberry Pi Zero上,通过连接一个摄像头实现了实时视频分析。未来,这项技术可以拓展至AI安防领域,并对枪支和刀具进行实时监测。
泓观科技的技术和产品同样可以面向种类丰富的嵌入式前端设备及应用场景。以手机为例,团队最近发布了一项服务于手机终端的平台化加速技术解决方案,它集合了粗粒度并行、内联式汇编和SIMD细粒度并行加速等多重技术,基于ARM-v8手机处理器这一平台,针对诸类典型的卷积神经网络实施深度优化,使得整个卷积神经网络经过加速后整体性有了大幅提升。
这一解决方案的商业意义就在于,它为手机设备厂商提供了一个可以内置于手机嵌入式系统底层的“加速引擎”,支撑更多AI技术在移动端的应用。受益于此,未来诸多新鲜奇妙的应用体验将会越来越贴近人们的日常生活。
◆ ◆ ◆
推出两大功能系列技术产品,快速实现商业化落地
现阶段,泓观科技的技术产品包括包括“人脸”和“物体”两大功能系列,并具备全栈式的解决方案、硬件模组、系统载体、设备终端等完整形式。
在2016年里,两大功能系列的技术产品曾多次随同参加海内外知名行业展会,目前已开始推向市场并获得商业化应用。产品可广泛面向公共安全、智能交通、智慧城市、工业4.0、智能交通、掌上终端、无人机、家用机器人等诸多应用领域中B端及C端用户。
事实上,去年大火的图片应用软件Prisma就是将人工智能技术部署到移动端的一个实例。而在这之前,Google 发布的开源深度学习框架TensorFlow已经支持将训练所得的网络模型部署到安卓系统之中,其中,该框架中提供的安卓demo将较为复杂的 inception v3 图片分类网络模型进行量化压缩减小了4倍左右。
去年年底 ,Facebook 展示的 Caffe2Go框架才是真正针对移动平台优化的能嵌入、部署于移动设备,并实现AI应用完全离线部署的深度学习框架。
透过这些互联网巨头的行动可以发现:越来越多的深度学习框架正在从云平台转移到以移动设备为代表的嵌入式端实现分布式部署,成为不可逆的发展趋势。
泓观科技当前总部位于北京中关村,同时在加州“硅谷”已开设办公区,并于2016年秋完成首次融资。据悉,新一轮融资也正在开放接洽中。
公司团队现有近二十人的规模,三位创始成员均毕业于清华大学,并均拥有十年以上的科技界及工业界阅历,包括曾经国家863计划最为年青的课题主持人、全球EDAA优秀博士论文奖获得者的海归博士、以及应用行业的资深技术专家及企业管理者。
核心团队无论从教育背景还是职业经验等方面,对于深度学习、体系结构、嵌入式系统、集成电路等多技术领域具备丰富的知识积累,且对于垂直化市场具备深厚的行业经验及对接融合能力。
产品:嵌入式人工智能全栈加速器产品
公司:泓观科技(otureo)
微信号:otureoinfo
[猎云网所有原创及编译文章不可随意转载,白名单授权请联系微信号:lieyunwang(备注“转载+你的公众号名称+文章关键字”),回复关键词“转载”看具体要求]