“前端的主要难题在于边界已经给定了,在算法、算力,以及外界的限制条件下,通过数学或物理上的东西,如何去做优化,这才是前端的挑战。”作为专注前端感知的企业,对这之中的苦辣,显然体会更深。
前端智能,无异于“在螺丝里做道场”。
相对后端智能,前端虽有很多优点,但同时也面临着模型参数大、实时性要求高、运算能力弱以及室外复杂场景运行等问题。
前端对功耗、散热的要求很高,需要做到极致。同时传统神经网络模型参数复杂,会给前端硬件很大的运算压力,模型的压缩、优化也是一个极其重要的点。
另外,前端场景对实时要求高,无法通过网络传输,后端处理数据,同时又涉及各种各样的传感器,会生成大量的数据,这对于前端处理速度也带来很大挑战。
前端算力有限,运算复杂算法的能力相对较弱。而如果要提升运算能力,就需要芯片、工具链的配合,这两者必须同步提升。
“前端智能,实现起来真的很复杂。相对后端有比较成熟的GPU服务器,有很完善的处理环境,前端往往要采用一些不是很成熟的思路。如,现在前端还没有很成熟的芯片,也没有特别丰富的供应链,所以开发难度非常大。”
肖洪波也介绍道,触景无限目前采用的是国外某知名厂商的一款芯片。该芯片,在2014年触景无限将其应用于前端时,已经进行了很长时间的技术打磨,但肖洪波依然觉得“不够”。
室外复杂环境下的问题,也给前端带来了更多的挑战。
“芯片电路功能,在野外的环境下能否使用十年,就是一个挑战。另外,有的时候可能没有电,需要太阳能充电,这样供电很小,就必须保证功耗降低,对硬件和模型进行优化。”
因而,前端智能的问题,不单是一个将智能从后端大型服务器或云端转移到算力有限前端的问题,还是一个将数据处理,从室内转移到室外的问题,需要面对外部环境中电子器件工作条件(温度、湿度等)、寿命、供电等工程问题。
前端智能,实则是“戴着镣铐在跳舞”。