原作者：Dom Galeon
译者：彭婷
概要：华盛顿大学的研究人员发现，自动驾驶系统可能会被街道标志的外表改变所愚弄，例如添加贴纸。为了检测这些改动，进而避免道路上潜在的破坏性问题，未来的自驾驾驶系统将需要接受培训。
视力障碍汽车？
相当明显，具有某些视觉障碍的人不能开车。现在，华盛顿大学（UW）的一项研究表明，人工智能（AI）在运行机动车辆时也不能免受视力问题的影响。
研究人员已经确定，机器学习模型很容易受到物理世界的攻击，从而阻碍了其处理图像的能力。具体来说，AI很难看懂被损坏的街头标志。
图片来源：华盛顿大学
在他们的研究中，研究人员专注于两种潜在的物理攻击。第一种，攻击者在现实中的路标上贴一张印刷的海报，而第二种，他们会使用贴纸来改变现有的路标。这些攻击的目的在于使之看起来像涂鸦或艺术，这样会让他们更难被临时观察者发现。
这些攻击非常有效地混淆了AI。当打印的海报被贴在停车标志或右转标志上时，它就可以有效地愚弄系统了。设计为抽象艺术的贴纸贴在Stop标志上可以100％的愚弄系统，而贴上模仿涂鸦的贴纸愚弄系统的可能性为66.7％。
未来的憧憬
如果有视觉障碍的人可以使用眼镜，隐形眼镜或手术来矫正视力的话，那么也许AI也可以提高其图像识别能力。华盛顿大学团队提出的一个解决方案是教自驾系统识别情境信息。也就是说，系统会注意特定标志会放在哪里以及如何放置的，而不仅仅注意标志本身。例如，这种系统会知道高速公路上的停车标志是没有情境含义的。
幸运的是，我们现在仍在改进自驾车辆，而且政府都对此表示支持。同时在现实中，立法也会使这种汽车的测试更为简单。Engadget建议，通过制作难以损坏的路标，政府也可以直接帮助改善目前的情况。
这项研究并不意味着无人驾驶汽车是不安全的。相反，它表明人类活动是造成安全事故的主要原因--- 而在这个案例中，人类活动，即破坏路标的行为就引发了交通事故。仅在美国，每年大约就有40,000起交通事故发生，所以如果自动驾驶系统取代了世界上所有的人力操控的车辆，它也许可以拯救数千甚至数百万人的生命。
如果有足够像华盛顿大学团队那样的研究，那么我们就可以发现并解决自驾系统的潜在缺陷，并最终研发出能够安全地载我们去目的地的自驾系统。
本文系网易新闻&网易号“各有态度”特色内容。
原作者：Dom Galeon
译者：彭婷
原文链接：https://futurism.com/we-may-have-just-uncovered-a-serious-problem-with-how-ai-see/
欢迎加入未来科技学院企业家群，共同提升企业科技竞争力
一日千里的科技进展，层出不穷的新概念，使企业家，投资人和社会大众面临巨大的科技发展压力，前沿科技现状和未来发展方向是什么？现代企业家如何应对新科学技术带来的产业升级挑战？
欢迎加入未来科技学院企业家群，未来科技学院将通过举办企业家与科技专家研讨会，未来科技学习班，企业家与科技专家、投资人的聚会交流，企业科技问题专题研究会等多种形式，帮助现代企业通过前沿科技解决产业升级问题、开展新业务拓展，提高科技竞争力。
未来科技学院由人工智能学家在中国科学院虚拟经济与数据科学研究中心的支持下建立，成立以来，已经邀请国际和国内著名科学家、科技企业家300多人参与学院建设，并建立覆盖2万余人的专业社群；与近60家投资机构合作，建立了近200名投资人的投资社群。开展前沿科技讲座和研讨会20多期。 欢迎行业、产业和科技领域的企业家加入未来科技学院
报名加入请扫描下列二维码，点击本文左下角“阅读原文”报名
