专栏名称: 新智元
智能+中国主平台,致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展,关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响,领航中国新智能时代。
相关文章推荐
爱可可-爱生活  ·  【[86星]Awesome MCP ... ·  2 天前  
爱可可-爱生活  ·  【[38星]AI-ContentCraft: ... ·  2 天前  
爱可可-爱生活  ·  【[303星]z-tipo-extensio ... ·  3 天前  
51好读  ›  专栏  ›  新智元

论如何骗过计算机视觉AI网络,UCLA专家为你支几招

新智元  · 公众号  · AI  · 2019-01-14 13:29

正文




   新智元报道   

来源:entrepreneur.com 

编辑:大明

【新智元导读】UCLA的研究人员最近专门发文研究了“计算机视觉神经网络究竟有多好骗“这个问题。通过3个实验,研究人员表明,在对玻璃材质雕像、只有外形轮廓的图像识别上,AI几乎无能为力,成功率奇低。

虽然AI给人类带来的方便已经不胜枚举,但越来越多的人仍然在担心AI技术的快速应用可能会夺走未来人类的工作,有时,这种想法甚至很有紧迫感。不过,一些研究人员不同意技术很快就会从人类手中夺走工作的想法。

 

加州大学洛杉矶分校(UCLA)的研究人员进行了一些实验,结果表明,“深度学习”的机器存在严重局限性。

 

AI未来还有很长的路要走

 

“以深度学习计算机网络的人工智能机器到底有多聪明,这些机器与人类的大脑有多类似?近年来,对这个问题已经取得了很大的进步,但前方仍有很长的路要走,“加州大学洛杉矶分校的认知心理学家团队在PLOS《计算生物学》期刊上发文提出了这一问题。

 

有AI技术的支持者表示,非常愿意使用这些神经网络网络来完成多种多样的个人任务,甚至完成通常要由人完成的工作。然而,在这项研究中的五个实验的结果均表明,神经网络很容易受骗,网络利用计算机视觉来识别目标的方法与人类的视觉有很大不同。

 

“这些机器存在严重的局限性,我们需要了解这些局限性。”加州大学洛杉矶分校心理学教授,该研究论文的资深作者Philip Kellman说。

 

AI网络很容易被骗

 

Kellman表示,机器视觉存在局限性。在第一个实验中,研究人员的实验对象是性能最好的深度学习网络之一VGG-19,使用的是经过修改的动物和目标的彩色图像。比如,和高尔夫球表面相同材质的茶壶、身上有斑马条纹的骆驼等等。结果VGG-19在40个对象中只有5个首选项是正确的。


第一个实验中使用的部分图像及实验结果


“我们可以很容易地骗过这些人工智能系统,”该研究论文共同作者之一,加州大学洛杉矶分校心理学教授Lujing Lu说。“这些系统的学习机制远远没有人类思维复杂。”




第二个实验中使用的部分图像及实验结果


在第二个实验中,心理学家向VGG-19展示了一些玻璃雕塑的图片,并向第二个深度学习网络展示了AlexNet。 VGG-19在所有测试两个网络的实验中表现更好。这两个神经网络都使用ImageNet的图像数据集训练。

 

然而,两个网络都未能识别出图像中的玻璃雕塑。

 



第三个实验中使用的部分图像及实验结果

在第三个实验中,研究人员向VGG-19和AlexNet展示了40幅黑色轮廓的白色图像。目的是为了检验神经网络是否能够通过其形状识别物体

 

研究人员得出结论,人类可以识别整个物体,而人工智能网络可以识别物体的碎片。

 

“这项研究表明,这些系统在接受训练的图像集合范围内得到了正确答案,但没有考虑形状。而对于人类来说,目标的整体形状是目标识别的主要形式,而目前的目标识别深度学习系统中似乎并不包括对整体形状的识别。“Kellman说。


参考链接:

https://www.entrepreneur.com/article/326100

论文地址:

https://journals.plos.org/ploscompbiol/article?id=10.1371/journal.pcbi.1006613


【加入社群】


新智元AI技术+产业社群招募中,欢迎对AI技术+产业落地感兴趣的同学,加小助手微信号:aiera2015_2   入群;通过审核后我们将邀请进群,加入社群后务必修改群备注(姓名 - 公司 - 职位;专业群审核较严,敬请谅解)。