我 相 信 这 么 优秀 的 你
已 经 置 顶 了 我
翻译|徐天宇 选文| 小象
转载请联系后台
七十年代的美国，有一部家喻户晓的电视剧，The Jetsons（摩登家族）。它描绘了未来的21世纪生活，里面有“按钮早餐”、“漂浮城市”以及一个叫做 Rosie 的机器人。
The Jetsons（后排的机器人就是Rosie）
在叫做 “Rip-Off Rosie” 的一集中，主角 George Jetson 修复了机器人 Robotto 的芯片，从而得到了加薪和一天的休假。他把机器人坏掉的部分芯片带回家展示给家人，但是他的机器人女仆 Roise 将其当成蜡烛，不小心吃掉了，结果她变得非常危险——眼睛都弹出来了，失控地破坏房子里的所有东西。这样的场景，以前是为儿童动画创作的，但是今天，有杀伤力的机器人已经不止存在于剧情里面了。机器人不仅抢走了我们的工作，而且它们可能很快会从物种角度超过人类。
9月13日，马斯克在自己的个人推特账号上转推了一篇名为《Hackers Have Already Started to Weaponize Artificial Intelligence》（编译：黑客们已经开始武器化人工智能）的文章。
在这篇文章的开头，提到了去年的一个实验。当时，来自安全公司ZeroFOX的两位数据科学家进行了一次实验，他们希望看看人类和人工智能相比，究竟谁更容易让推特用户点击恶意链接。于是，研究人员让人工智能研究社交网络用户的行为，然后设计并实施自己的网络钓鱼诱饵。从测试结果，人工智能程序比人类要领先很多。
我们心里也都清楚，武器型机器人不会仅仅出现这类还算 “物理性无害” 的领域，专门用来杀人机器人的出现可能是迟早的事。
每个人都喜欢在虚拟环境下的机器人大战，但是机器人和人之间的战斗是不公平的。
就像机器人 Rosie 一样，只要一点小故障或者疏忽，它就变得非常的致命。虽然机器人可以通过最好的 AI 科技编程，但是他们不可能将同理心写入机器人。就像星际迷航中一样，机器人可以学习，但是他们没有感受。
也许，如果机器人被隔离，它们不会很危险，但是机器人往往是在工厂里和人类一起工作，它们很有可能造成严重的伤亡。
1981年，在一个摩托车厂里面，一个叫做 Kenji Urada 的工人被他身旁的一个机器人杀死了。因为某种原因，机器人将他视为威胁并将他推入了一个机器。机器人通过液压臂粉碎了这个工人，使其当场死亡。
2015年，一个在德国大众汽车厂工作的 22 岁工人被他正在装配的机器人杀死了。当时，他正在将机器人（用于抓起并组装汽车零件）放在一起，机器人突然将他抓起并砸到金属板上。这个人最后因为医治无效死亡。
同样是2015年，印度 Haryana’s Manesar 工厂的 Ramji Lal 从后面接近一个机器人的时候被杀死。他调整了机器人携带的一块钣金，然后被机器人臂上的焊条刺穿了。同事声称他的错误是从后面接近机器人而不是从前面，但是最后的结果还是让人很担忧。
当一个机器人杀了人，谁应该负责任呢？我们是定性为谋杀还是过失杀人？根据刑法专家Rowdy Willians，谋杀被定义为“故意杀死一个未出生的孩子”。过失杀人被定义为“过失导致某人死亡”。
如果谋杀的后果包括坐牢、罚款甚至死刑。这些判罚怎么应用到机器人身上呢？如果要让某个人为机器人的行为负责的话，那么对于一个并不打算谋杀的人来说这样的判罚是不是不公平？
当某人打算用AI技术来利用机器人杀人的时候怎么办？当发生故障的无人驾驶车辆在人行道上撞到了无辜的人的时候又该怎么办？机器人如果出现 “自主意识” 滥杀无辜怎么办？
在法学教授 Gabriel Hallevy 的书《当机器人杀人》中，讨论了在商业、工业、军事、医疗和个人领域使用AI实体的刑事责任。他涉及了上面提到的很多方面。
Hallevy在他书的前言中罗列了它写这本书的原因：“它书的目标是发展一个关于人工智能和机器人刑事责任的综合的、一般的、法律上复杂的理论。除了AI实体本身，理论还涉及制造商、程序员、用户和所有其他相关的实体。从现行的刑法原则中确定和选择类比，该理论提出了在多种合理的情况下针对各种自主技术的刑事责任思考的具体方法”。
Hallevy 讨论的最重要的问题是“是否刑事责任和刑事惩罚适用于机器”。他的书仅仅专注于 AI 实体的刑事责任，并不涉及伦理。
也许 Hallevy 的工作将会创造另一个领域的基础，这个领域就是基于 Hallevy 理论框架的AI实体的伦理问题。这是一个复杂的尚未解决的问题，也许我们可以在下次事故之前找到答案。
徐天宇
上海船研所通信与信息系统研究生在读，正在学习嵌入式。主要兴趣:数据分析，体育运动。
大数据分析挖掘后台回复 “志愿者”
了解如何加入我们
