原作者：Dom Galeon
译者：彭婷
概要：华盛顿大学的研究人员发现，自动驾驶系统可能会被街道标志的外表改变所愚弄，例如添加贴纸。为了检测这些改动，进而避免道路上潜在的破坏性问题，未来的自驾驾驶系统将需要接受培训。
视力障碍汽车？
相当明显，具有某些视觉障碍的人不能开车。现在，华盛顿大学（UW）的一项研究表明，人工智能（AI）在运行机动车辆时也不能免受视力问题的影响。
研究人员已经确定，机器学习模型很容易受到物理世界的攻击，从而阻碍了其处理图像的能力。具体来说，AI很难看懂被损坏的街头标志。
图片来源：华盛顿大学
在他们的研究中，研究人员专注于两种潜在的物理攻击。第一种，攻击者在现实中的路标上贴一张印刷的海报，而第二种，他们会使用贴纸来改变现有的路标。这些攻击的目的在于使之看起来像涂鸦或艺术，这样会让他们更难被临时观察者发现。
这些攻击非常有效地混淆了AI。当打印的海报被贴在停车标志或右转标志上时，它就可以有效地愚弄系统了。设计为抽象艺术的贴纸贴在Stop标志上可以100％的愚弄系统，而贴上模仿涂鸦的贴纸愚弄系统的可能性为66.7％。
未来的憧憬
如果有视觉障碍的人可以使用眼镜，隐形眼镜或手术来矫正视力的话，那么也许AI也可以提高其图像识别能力。华盛顿大学团队提出的一个解决方案是教自驾系统识别情境信息。也就是说，系统会注意特定标志会放在哪里以及如何放置的，而不仅仅注意标志本身。例如，这种系统会知道高速公路上的停车标志是没有情境含义的。
幸运的是，我们现在仍在改进自驾车辆，而且政府都对此表示支持。同时在现实中，立法也会使这种汽车的测试更为简单。Engadget建议，通过制作难以损坏的路标，政府也可以直接帮助改善目前的情况。
这项研究并不意味着无人驾驶汽车是不安全的。相反，它表明人类活动是造成安全事故的主要原因--- 而在这个案例中，人类活动，即破坏路标的行为就引发了交通事故。仅在美国，每年大约就有40,000起交通事故发生，所以如果自动驾驶系统取代了世界上所有的人力操控的车辆，它也许可以拯救数千甚至数百万人的生命。
如果有足够像华盛顿大学团队那样的研究，那么我们就可以发现并解决自驾系统的潜在缺陷，并最终研发出能够安全地载我们去目的地的自驾系统。
本文系网易新闻&网易号“各有态度”特色内容。
原作者：Dom Galeon
译者：彭婷
原文链接：
https://futurism.com/we-may-have-just-uncovered-a-serious-problem-with-how-ai-see/
欢迎加入未来科技学院企业家群，共同提升企业科技竞争力
