专栏名称: MEMS
中国首家MEMS咨询服务平台——麦姆斯咨询(MEMS Consulting)
目录
相关文章推荐
中国国家地理  ·  ​秦岭深处邂逅迷人秋色 ·  昨天  
中国国家地理  ·  再次出发,极境只有一步之遥 ·  昨天  
中国国家地理  ·  中国大地上的“聚宝盆”,你知道几个? ·  4 天前  
星球研究所  ·  台湾!台湾!台湾! ·  6 天前  
51好读  ›  专栏  ›  MEMS

3D成像:3D视觉用于农产品收割

MEMS  · 公众号  ·  · 2017-08-22 00:00

正文

据麦姆斯咨询报道,超市对提供准确的重量、尺寸、形状和质量的产品需求正日益增长。为满足这些需求,自动收割系统必须检查如土豆、胡萝卜和西兰花等产品以上的特征,以及任何缺陷和疾病的表征。

目前,许多收割方法都是人工完成的。然而,因为超市可能只需要特定重量的产品,收集大量农作物再分类区分出哪些是适合销售的产品,可能会造成浪费。

为克服这个问题,分类任务可以在田间进行,以便在收割之前对产品进行分级,从而提高良率。使用机器视觉的自动收割系统可以执行这项任务!然而,安装在拖拉机前面的摄像头使用的2D视觉系统,会受到环境照明条件的影响。


利用3D激光扫描仪、机器人、图像处理技术和深度学习软件的结合,Capture Automation公司正在开发西兰花球的自动收割系统

开发用于检测、识别和测量此类产品的算法是复杂的。通常,使用基于边缘的检测方法时,产品必须位于图像中。在不同的环境照明条件下,阴影效应会导致2D方法的失败。然而,通过3D成像,产品的边缘是在体积表示中定义的,这样就不需要照明,可以根据形状和大小挑选如生菜或西兰花球等蔬菜。

由于2D系统被校准到一个特定的平面上,产品的高度不同使得用于这样的任务的2D图像处理系统更加复杂。然而,通过预先校准的3D成像系统,可以对产品的角度和倾斜进行分析,以便在产品被拾取之前,机器人可以被输入正确的角坐标,这样产品不会受到损坏。


从Gocator高度图形式生成的数据产生的灰度图像(左)在像素数据越小的情况下,西兰花球就越靠近摄像头,反之亦然

目前,该3D自动收割系统正被Capture Automation公司(位于英国东萨塞克斯郡赫福市)开发。该公司利用3D激光扫描仪、机器人、图像处理技术和深度学习软件,正在开发一个西兰花球的自动收割系统。

3D激光扫描仪的优点之一是它们可以被连续地用来捕捉可以在传输过程中的图像。使用安装在拖拉机上的编码器,位置坐标可以发送给机器人,追踪在机器人头下移动的产品,然后拾取它们。为了从移动系统获得如此精确的信息,必须使用精确的编码器。在该系统的第一个原型机中,一个旋转编码器轮被装在拖拉机的前部。

不幸的是,这种旋转编码器轮在雨天可能打滑,使系统的校准失效。为克服这个问题,一种基于防滑钉的编码器被开发用来提供更精确的位置信息。

然后,收割机可以根据不同的重量和大小选择不同类型的西兰花球,并将不同的花球放在不同的箱子里。该系统还可以报告哪些花球可能还留在地上,或可能适合后来采摘。虽然种植西兰花要花费好几个月的时间,但有一个成熟或过熟的大约3天的时间窗口,所以收集这样的数据是很重要的。

机器收割机进行3D扫描,是将LMI Technologies公司(位于加拿大哥伦比亚省本那比市)的Gocator扫描仪安装在拖拉机前面,并连接到PC主机。这种扫描仪的一个优点是多个扫描仪可以同时使用,用于覆盖广阔的视野。

与定制激光/相机三角系统需要校准以确保正确的测量相比,Gocator扫描仪的预校准允许系统立即提供毫米级精度的测量。Gocator扫描仪在拖拉机上以毫米/秒的速度快速运行,使用来自编码器提供的信息数据,允许捕捉的成像数据用于测量农作物的大小,并向机器人提供正确的位置和深度信息,以跟踪每一个西兰花球,并在正确的时间采摘。

使用如Genicam传输层等标准的软件图像流是有益的,因为它提供了选择软件进行图像分析的灵活性。在图像被捕捉后,Teledyne DALSA公司(位于加拿大滑铁卢市)的Sherlock软件进行2D和3D图像处理。为检测西兰花球,自定义算法被用作Sherlock软件的插件。

从Gocator高度图生成的数据产成的灰度图像,像素数据越小,西兰花球越接近摄像头,反之亦然。使用2D算法减少一些缩放会导致西兰花球的大小类似。因此,为了分类的目的,没有必要使用过大或过小的西兰花球进行修正,因为在这种情况下,树叶或杂草可能被检测到,错误率会增加。

有了这样的收割系统,由于分类需要快速执行,需要快速的图像处理。例如,在一个拖拉机上,如果操作者不完全直线行驶,摄像机会在某一位置识别西兰花头,但当机器人头部到达西兰花球时,采摘臂就会不在适当的位置。

利用2D图像处理算法,可以识别西兰花球,然后3D算法可以识别西兰花球的中心。要辨识出这些西兰花球,深度学习技术使用Polimago模式匹配工具进行应用,是来自Stemmer Imaging(位于德国普赫海姆市)的Common VisionBlox(CVB)软件的一部分。

通常,自动收割如西兰花等有机产品是困难的。有了计算机视觉,许多不同的变量必须被修正并加入到系统中,例如形状和口感不同的特大或特小西兰花球。

由于每一个西兰花球看起来稍有不同,系统需要经过修正,以确定它们到底是完美的圆形还是形状稍许不完美的。这种图像识别的最大挑战之一是将西兰花球与叶子分开,因为叶子通常会与西兰花的头部混合在一起。因此,必须使用许多不同的图像来修正该系统,这一过程包括基于系统的拖拉机在田间识别不同类型的西兰花球的生长过程。

一旦系统确定了西兰花球,它需要按大小分级。不幸的是,这不是一件容易的事,因为西兰花球可能部分被叶子覆盖,因此叶子需要从西兰花球分离出来。利用3D成像,纹理分割可以将叶子与西兰花球分离开来,其结果是仅包含西兰花球数据的图像,以便可以测量其直径。

使用PC上的图形用户界面(GUI),操作者可以选择哪个尺寸的西兰花球被挑选出来。在西兰花球被正确辨识出后,他们的位置信息被从拖拉机上的PC发送到安装有定制采摘头的Fanuc机器人(位于日本忍野市)。那些未被选中的西兰花球可以被识别和标记,以便今后分析。


推荐会议:

2017年9月11日,由麦姆斯咨询主办的『“微言大义”研讨会:3D摄像头技术及应用』将在上海隆重举行(同期展会:2017年中国(上海)传感器技术与应用展览会)。本次研讨会内容涉及3D摄像头应用及市场分析、3D摄像头原理及技术路线、3D摄像头模组剖析及算法解析等。已邀请英特尔、未动科技、布勒莱宝光学、人加智能机器人、瑷镨锐思(Espros)、炬佑智能、图漾科技、西安知微传感、艾普柯、轻客智能、华芯半导体、纵慧光电等企业进行演讲,如果贵司希望参加展会或研讨会,请联系:

联系人:王懿
邮箱:[email protected]
电话:18217468860
研讨会报名具体信息和报名路径请参考:www.MEMSeminar.com

延伸阅读:


《3D成像和传感-2017版》

《CMOS图像传感器产业现状-2017版》

《英特尔RealSense 3D摄像头与意法半导体红外激光发射器》

《联想Phab 2 Pro三维飞行时间(ToF)摄像头》

《苹果iPhone 7 Plus后置双摄像头模组》