专栏名称: 雷峰网
中国智能硬件第一媒体
目录
相关文章推荐
36氪  ·  谁席卷了这个冬天的总裁圈衣橱? ·  2 天前  
i黑马  ·  一家E轮独角兽宣布倒闭 ·  5 天前  
51好读  ›  专栏  ›  雷峰网

从2份专利文件,一窥Amazon Go到底藏了什么黑科技?

雷峰网  · 公众号  · 科技媒体  · 2016-12-07 18:23

正文

雷锋网招人了!


加入雷锋网,分享AI时代的信息红利,与智能未来同行。听说牛人都点了这里


今天的Amazon Go刷爆了国内外的社交媒体。


Amazon Go令人惊艳的地方,就是你可以径直走进超市,选好货品之后立马离开,不用在收银台前排长长的队伍,等待结账。




甚至还莫名有一种从商店“抢劫”的快感。



我们说,移动支付颠覆了既有商品交易方式,那么这种“抢劫式”的Amazon Go甚至连“交易感”都消灭了。


总之,人们被这种新奇的似乎隐含了某种黑科技的新型购物方式所吸引。不仅是普通人,就连斯坦福教授李飞飞、著名科技出版公司O'reilly创始人Tim O'Reilly都特地发推点赞。


李飞飞:计算机视觉十分显著和绝妙的应用!



Tim O'Reilly:零售业的未来,我对此已经期待很多年了。



● ● 


Amazon Go的亮点


用户进入商店,穿过闸机的时候打开手机让其识别,这时手机里的系统启动,并随时准备更新物品清单。令人惊艳的部分就是,在用户拿走或放回物品的一瞬间,手机里的系统会自动更新清单。最后,用户拿着物品满意地离开,手机自动扣款。




这里面到底有什么黑科技呢?就官方发布的视频来看,技术亮点有三个:机器视觉、深度学习算法和传感器融合。



但仅有这几个关键词还是不够的,雷锋网(公众号:雷锋网)遂向亚马逊在职员工进行采访,但是对方表示Amazon Go还属于保密项目,公司要求不能对外透露任何细节。


不过在Quora上,有一位名为Brian Roemmele的网友挖出了几年前亚马逊提交的两份专利文件,里面描绘的系统跟如今的 Amazon Go非常相似。这两份文件名称为:“侦测物体互动和移动”(Detecting item interaction and movement)和“物品从置物设备上的转移”(Transitioning items from the materials handling facility),两文件分别于2013年和2014年申请(感兴趣的朋友可以在公众号回复关键词“专利”,下载2份专利文件)。


这两份专利文件都描绘了十分庞杂的应用场景,包括:货仓、船运、零售市场等,所以很多人当初在看到这份文件时,都以为这是亚马逊为自己的仓储系统量身定制的,不过今天一切真相大白。


● ● 


这两份专利分别讲了什么?


“侦测物体互动和移动”(Detecting item interaction and movement)这份专利的摘要是:


用户从一个货架上拿起或放下一个物品,货物管理系统可以侦测到这个动作,并且更新用户移动设备里的清单。


“物品从置物设备上的转移”(Transitioning items from the materials handling facility)这份专利的摘要是:


物品被识别,并且当用户正在拿起物品时,物品自动与用户发生关联。 当用户进入或穿过一个“转移区”(Transition Area),被拿起的物品将自动转移到用户,而不需要用户有任何的输入。


总的来说就是,被识别的物体与用户发生关联,能自动更新清单,并在“转移区”进行自动交易(“转移区”在Amazon Go里指的就是商店的出口)。


我们可以从下面一张图里,一窥 Amazon Go 的基本原型。



图中代号为208的物体都是摄像头,大约有10多个(有一些被人体挡住)。208摄像头分别置于天花板(如图左右两边各有一个比较大的摄像头)、货架两侧和货架内部。文件里描述到,天花板上的208用来采集用户和货品的位置、货架两侧的208用来捕捉用户的图像和周围的环境,货架内的208用来确定货品的位置或用户手的移动(进入和离开货架)。


而从视频里,我们隐约能够看到安置在货架内部的摄像头。



另外,专利文件里还补充道:这里的摄像头可以是多种类型的,可以是RGB摄像头,或深度感知摄像头。除了摄像头之外,也可以有其他输入设备,比如压力传感器、红外传感器、体积位移传感器、光幕等等。压力传感器可以侦测物品移出和进入的时间,红外传感器可以用来区分用户和的手和物品。


我们具体并不清楚Amazon Go到底在多大程度上使用了计算机视觉技术。比如说,当用户进出商店时,都需要对用户进行识别,文件里反复提到可以用人脸识别技术实现,但是又会继续补充说明可以通过手机等移动设备来侦测。


Quora网友Anurag Ranjan是一位机器视觉和深度学习领域的准PhD,他分析称:


Amazon Go使用商店里的摄像头识别出了用户,可能针对用户拍了几张照片,依靠一些标准的深度学习网络形成了一幅特征图,比如Resnet,、GoogLeNet 或者 VGG 这样的。总之,当用户踏进店里的那一刻起,Amazon Go就知道用户长什么样了。


但是根据专利和既有经验来看,在整个过程中用计算机视觉来追踪用户,代价太高了。我们大致可以确定的是,货架上的一排排摄像头应该就是对用户进行“动作识别”,并且识别出物体是否被拿走(这里也或许是传感器实现的)。


不过整个过程中的难点是,如何将物品与用户进行唯一绑定?


云从科技高级算法工程师周翔告诉雷锋网,Amazon Go具体用到哪些技术,目前我们只能够猜测,他提到可能的实现机制是:


通过手机做到了精准定位人,然后物体的具体位置可以大概确定,一旦人附近的物品离开,同时最近的人的ID就会关联这个物品ID。


置物架肯定用到了压力传感器,一旦物品离开,就会明确知道什么物品在什么地点离开,一旦物品回来,压力传感器同样会感应到。


深度学习可能是学习了人的购物习惯,可能用到计算机视觉做了人的动作识别,然后根据物品与人的ID进行关联,也就是二次确认。同时分析一个人的购物喜好,推测他会买的东西,提前做一些预判。


周翔提出,可能Amazon Go根本没有用到人脸识别的技术,“国外对人脸的隐私权是比较高的,未经允许采集他人的人脸会被起诉的”。雷锋网也关注到,在李飞飞的那篇推文下,有网友对此持抵触态度,认为如果是人脸采集,侵犯了自己的隐私。


Amazon Go的出现惊艳了很多人,不过并不是所有人对此表示欢迎,除了上文提到的隐私问题外,有不少人担忧,如果这种技术大范围普及(我们知道亚马逊是多喜欢2B业务),大量超市收银员将会失去工作,毕竟亚马逊在视频里承诺要在 2017年初,于西雅图上线第一家Amazon Go。


不过这种技术究竟有多少“实操性”,还是存在很多的疑惑的,例如:


  • 如果好几个人挤到一起买同一类东西(比如商场打折抢货,这是经常发生的),那么物品与人的ID关联还能保持精准吗?

  • 如果用户把商品放回的位置是错的呢,这样也会被收费吗?

  • 如果有人搞怪,将自己家空果汁瓶取代商店里的新鲜果汁,那么Amazon Go识别的出来吗?


“所以,这里要求购物的人得非常有素质才行”,周翔对雷锋网说道。我们对Amazon Go的诸多疑惑,或许过几个月就能在西雅图见分晓。




点击关键词可查看相关历史文章


● ● 

热门文章


独家 | 借贷宝被拖库?裸条 10 G“资源”背后故事

「你的名字」上映,同款滤镜凭何迅速刷爆朋友圈?

拒绝大疆后,GoPro 终于为自己当年的任性买单

女主播“逆天”美颜原来是靠这些 AI 技术实现

国内人工智能+医疗影像公司大盘点

物联网年终盘点:最具影响力的十大并购


● ● 

华为5G | Autopilot 2.0 | 京东X事业部

商用性爱机器人 | 淘宝 Buy+ | 张小龙内部演讲

马斯克太阳能瓦片 | 外国记者评价乐视生态

小米MIX | 小米VR | 华为麒麟960

MacBook Pro 发布会 | 微软发布会 2016

锤子M1/M1L | 龙芯3A3000 | 三星 Note 7

大疆 “御 ”Mavic | Google Home

国产多线激光雷达 | 谷歌 Daydream VR 头盔

小米5s | Movidius | lightning | Prisma | 直播

小米扫地机器人 | 小蚁M1微单相机 | 小米笔记本

应用号 | 华为无人机 | Amazon Echo