作者李永红，浙江工业大学律师学院执行院长、刑辩分院院长。法律读库投稿邮箱：[email protected]。
在去年的伦敦“谷歌时代精神”大会上，霍金平静地描述了人类的命运：“在未来100年内，结合人工智能的计算机将会变得比人类更聪明。”这位大科学家认为，届时，人类将被机器控制。
科幻小说家阿西莫夫在70多年前的作品中首次提出了机器人三大法则：一、机器人不得伤害人类或因不作为使人类受到伤害。二、除非违背第一法则，机器人必须服从人类的命令。三、除非违背第一及第二法则，机器人可以自卫。后来，阿西莫夫加了一条新法则（第零法则）。零、机器人不得伤害人类整体或因不作为使人类整体受到伤害（据此，第一法则中的人类应该是指个体意义上的人类）。
三大法则或四大法则的逻辑看上去很圆满么？其实除了超验的信仰，不存在永恒不变、普适八荒的终极真理。在法学领域，分析法学讲究逻辑自洽，正如《机械公敌》里说“我的逻辑完美无瑕”的薇琪，可结果又会如何？在人类生活的具体情景中，第一法则本身就存在无法解决的内在矛盾。
比如（电影《机械公敌》中的情节），机器人认为人类只有待在家里才能避免伤害，而人类宁愿冒险上街也不愿待在家里，按照第一法则后半句，机器人有义务作为即阻止人类外出。如此，机器人便成了以保护人类免遭伤害为由限制人类自由的监禁者，这不正如那些以“我都是为你好”为由对子女行为横加干涉的父母？尤其是，当伤害不可避免，那么按照第一法则，是否意味着人类便不可避免地成为机器人的奴隶？
又如（同样是电影《机械公敌》里的情节），当一成年男士和一未成年女生同时在交通意外中落水，而机器人只能救起一人时，它经过逻辑运算认为男士生还概率高达45%而女生生还概率却只有11%，它就会去救成年男士而不会冒着徒劳无益、浪费机会的风险去救那个可怜的未成年女生。这样，机器人的理性便又颠覆了人类“妇幼优先”的基本伦理。
除了上述矛盾，机器人也不可能像纯粹法学那样做到价值无涉，更不可能做到万事逻辑圆满。因为他们要么被人利用，要么人工智能进化到有了爱恨情仇的地步。于此，若是前者，则机器人与人类的冲突，实质上就是人类自身的冲突。这种冲突不仅发生在人与人之间，而且也常常发生在同一个人身上（比如我们经常会说一些言不由衷的话，也可能做一些令自己后悔的事）。因而第二法则便不堪一击，“必须服从人类的命令”，疯子，暴君，无知无耻之徒，即使你无可奈何地称其禽兽不如，他们也都是货真价实的人类。作为不具情感、态度、价值观的机器人，它又如何区分？
若是后者即机器人进化到有了爱恨情仇的情感能力和自我反思与价值判断的评价能力，那么，机器人就成了另外一个人类。同一个人类都不可能天下无事、世界大同，两个人类又如何相互包容、和谐相处？除非有一种超脱这两个人类以外的第三方，否则这第三个法则（机器人可以自卫）又如何确保在不伤害人类、不抵触人类命令的前提下实行？
有人说了，既然人类能造出如此高能的机器人，那就一定能够让机器人只行善不作恶。这一期望，就如大学低年级本科生对正义的钟爱那样，终究只是一种美好的期望、一种单相思式的钟爱。自有文字记载以来，文学作品和政治法律作品中便不乏自然法思想和正义的学说。事实上，追求正义的自然法学也并不必然能给人类带来正义，甚至有诸多不正义常常假借正义之名而行。因此，有人说自然法学就像一个媒婆，可能给你带来一个美女，也可能给你牵来一头恐龙。又如，纳粹的罪恶并非源于它的法律价值无涉，恰恰相反，它那作恶的法律充斥着貌似美好的价值，即恰是假借了正义之名（如法律人所知道的，它废除罪刑法定原则的借口是，有一些它认为必须惩罚的罪恶行为虽法无明文但违背了国民健康的道德情感，国民道德情感这个虚幻的说辞于是成了纳粹僭越法律出入人罪滥施刑罚的最佳借口）。如有个法理学家所说，尽管我们无法定义什么是正义，但我们至少知道什么是不正义。看来，正义作为一种观念，它本身就映射了生活中不正义的存在，我们恰恰经由不正义才定义了正义。唉（Ai），这是多么无奈的现实。
AI（人工智能）会否进化成人类的敌人，尚未可知，但人类为自己订立的法则却时常与人类自己为敌，则是不争的事实。好在，虽然无法如自然科学那样对正义做出精确的界定，但是人类的法律总的趋势确实在朝着正义的方向进步。这种趋势，与其说是我们发明的，还不如说是我们发现的。
