广告
3个月前,谷歌被曝决定为有争议的美国国防部军事试验项目Project Maven提供人工智能(AI)支持,该项目旨在通过自动对物体和人的图像进行分类来加速对无人机视频的分析。批评者称,这一军事计划可以帮助提高无人机导弹袭击的命中率。
现在,已经有十多名谷歌员工辞职,以抗议公司继续参与Project Maven。
辞职员工的情绪十分沮丧,他们特别担心AI被用于无人机战争中,同时担心谷歌的政治决策,这些行动可能导致用户的信任受到侵蚀。那些辞职的员工表示,高管们对有争议的商业决策已经不那么透明了,他们似乎不太愿意听取员工的反对意见。在Project Maven的例子中,谷歌正在帮助国防部实现机器学习,将无人机收集的图像进行分类。但有些员工认为,人类而非算法应该对这种敏感和潜在的致命工作负责,而谷歌不应该参与军事项目。
从历史上看,谷歌奉行开放的企业文化,鼓励员工挑战和讨论产品决策。但许多员工认为,他们的上司不再关注他们的担忧,而是让他们直接面对后果。一位辞职员工表示:“在过去的几个月里,我对人们的反应以及人们对自己正受到的关注和倾听的担忧越来越淡然。”
今天,90多名人工智能、伦理学和计算机科学领域的学者发表了一封公开信,呼吁谷歌结束其对Project Maven的支持,转而支持禁止自主武器系统的国际条约。
这封信的两位作者彼得·阿萨罗(Peter Asaro)和露西·苏希曼(Lucy Suchman)曾在联合国就自动武器问题作证,第三位作者Lilly Irani是一位科学教授、前谷歌员工。
苏希曼表示,谷歌对Project Maven的贡献可以加速全自动武器的开发。虽然谷歌总部位于美国,但它有义务保护全球用户群,而不是与任何一个国家的军队结盟。谷歌的高管们正在为参加Project Maven辩护,包括Google Cloud业务主管黛安·格林(Diane Greene),她曾多次力挺这个项目。
加州大学圣地亚哥分校的一名助理教授称:“随着Maven项目的开展,谷歌很可能会牵连到一些有针对性的杀戮行为的怀疑中。”
如果说,谷歌的领导人以前后知后觉的话,那么现在他们应该已经充分意识到AI能吓到许多人,而将AI与武器相结合的前景尤其富有争议。研究人员和学者在他们的信中说,如果谷歌协助五角大楼提供人工智能,那么该公司就是 “授权无人机在没有人工监控或人为控制的情况下自动杀人”的帮凶。
谷歌无意放弃与美军方的合作
然而,越来越多的员工压力似乎没有影响谷歌的决定。该公司不仅继续为其行为辩护,甚至还在争取参加美国国防部另一个重要云计算项目——联合企业国防基础设施(JEDI),该项目目前正在招标。员工们要求谷歌结束其国防部合同的要求,也因谷歌声称只向Project Maven提供开源软件而变得更加复杂,这意味着即使谷歌不接受付款或提供技术援助,军方仍然能够使用该技术。
据CNET报道称,
谷歌无意放弃与美军方的合作,
在他们看来,双方开发的是利用机器学习技术识别无人机采集到的视频中的物体,该任务对于机器学习技术来说很简单,且只需很少的人员用于评估识别结果。
当然这项技术还能运用到其他有攻击性的武器上.....
对此,谷歌也强调,国防部正使用“对所有谷歌云用户都开放的开源的物体识别软件”,并且是基于未标记数据的。谷歌表示:“该技术用来标记视频中的物体以供后续相关人员参考,旨在将相关工作人员从视频分析等高度繁重的工作中解脱出来。”
前美国国防部官员保罗·斯查瑞表示,由于谷歌的历史和军队对于人工智能技术日益增长的需求之间的矛盾,谷歌公司内部的分歧是不可避免的。
部分员工放弃抗争
而与此同时,据Gizmodo报道称,
已经有十多名员工退出了此次抗议活动。他们的理由是此次使用的机器学习技术TensorFlow是开源的,而且军方可能已经用上了。
另外,即使谷歌放弃这次合作,军方也会和其他科技公司进行合作。