【泡泡机器人新闻社】Killer机器人——ban or not?

选文| 张晨 翻译| 胡琪 尤达 张一

审核| 周艺   编辑| 周艺 胡琪

素材来源：WIRED
泡泡机器人推广内容组编译作品

2017年5月在准备区的 俄罗斯Platforma-M机器人系统

8月20日晚，包括Elon  Musk在内的116位企业家，联名致信联合国，警告自主武器就是个“潘多拉盒子”。卫报和华盛顿邮报头条报道——Musk和联署人共同呼吁“杀人机器人禁令”。但事实上这些标题是误导性的。尽管其中一个联署人建议这样做，但信中并没有明确要求禁令。相反，他们为十二月组建的联合国自主武器委员会提供技术咨询。企业家们警告说，自主机器有可能成为恐怖武器，但没有必要完全禁止。

禁止武器技术并非不可能。例如，截止2015年底，有192个缔约国签署了《禁止化学武器公约》。除此之外，还有禁止使用可能导致永久失明的激光武器的国际公约等。

当然，武器系统的自主化是一个非常广泛的概念。受人类控制和自主开火之间界限其实是模糊的，而包括美国在内的许多国家也已经开始了跨越它的进程。此外，自主化技术在军事上也得到了广泛的应用，如无人机和无人车，武装部队希望得到更大的权力从而最终研发“杀人武器”。

美国国家情报总监办公室最近的一份关于人工智能和战争的报告得出结论，这项技术将极大地扩大军事力量。该报告的合著者格雷格·艾伦(Greg Allen)是新一届美国安全中心的无党派智囊团的兼职研究员，他并不希望美国和其他国家禁止建造能够自主决定何时开枪的武器库。他指出：“不太可能完全禁止自主武器，人们很难克制使用它们的诱惑。”

美国国防部有一项政策，在部署致命武力的时候，要保持“human in the loop”。五角大楼发言人Roger Cabiness表示，美国拒绝批准对自主武器的禁令，并指出美国国防部的《战争手册》规定，自主可以帮助军队履行其法律和道德义务。“例如，指挥官可以使用精确制导武器系统，以减少平民伤亡的风险。”2015年，英国政府回应了要求禁止自主武器的呼吁，称没有必要这样做，而且现有的国际法已经足够。

自主武器的例子就在身边。根据CNAS的报告，一种美国海军使用的AEGIS舰载导弹和飞机防御系统，其能够在没有人为干预的情况下接近飞机或导弹。除此之外，以色列开发的名为Harpy的无人机，能够在一个区域巡逻搜索雷达信号。 如果它探测到目标，它会自动地对其进行俯冲轰炸。制造商以色列航空航天工业公司将Harpy作为“火和野兽”的自主武器。