中国信息通信研究院与腾讯研究院AI联合课题组
作者：曹建峰 腾讯研究院法律研究中心研究员
2016年以来，人工智能不仅受到科技公司热捧，人工智能在智力游戏、自动驾驶、语音和图像识别、翻译等诸多领域取得重大突破，谷歌、脸书、微软等科技巨头收购人工智能创业公司的速度已经快赶上这些公司的创立速度。而且，各国政府（比如美国、英国等）以及一些社会公共机构（比如UN、IEEE等）开始积极关注人工智能的法律、伦理、社会、经济等影响，密集出台战略文件和报告。
在人工智能法律和伦理研究方面，以UN和IEEE最为突出。2016年8月，UN下属COMEST（科学知识和科技伦理世界委员会）发布《机器人伦理初步报告草案》，认为机器人不仅需要尊重人类社会的伦理规范，而且需要将特定伦理准则编写进机器人中。
[1]
2016年12月，IEEE发布
《合伦理设计：利用人工智能和自主系统（AI/AS）最大化人类福祉的愿景（第一版）》
，就一般原则、伦理、方法论、通用人工智能（AGI）和超级人工智能（ASI）的安全与福祉、个人数据、自主武器系统、经济/人道主义问题、法律等八大主题给出具体建议。
[2]
欧盟走得更远，开始考虑针对机器人和人工智能出台民事法律规则，并为人工智能研发和审查人员制定伦理守则，确保在整个研发和审查环节中，将人类价值予以考虑，使最终面向消费者和社会的机器人能够符合人类利益。
早在2015年1月，欧盟议会法律事务委员会（JURI）就决定成立一个工作小组，专门研究与机器人和人工智能发展相关的法律问题。2016年5月，法律事务委员会发布《就机器人民事法律规则向欧盟委员会提出立法建议的报告草案》（Draft Report with Recommendations to the Commission on Civil Law Rules on Robotics，简称《报告草案》）；同年10月，发布研究成果《欧盟机器人民事法律规则》（European Civil Law Rules in Robotics）。
在这些报告和研究的基础上，2017年1月12日，法律事务委员会以12票赞成、2票反对、2票弃权，通过一份决议（resolution），在其中提出了一些具体的立法建议，要求欧盟委员会就机器人和人工智能提出立法提案（在欧盟只有欧盟委员会有权提出立法提案）。当然，欧盟委员会并无义务遵守这一要求，但如果其拒绝这么做，就必须陈述其理由。
[3]
2017年2月16日，欧盟议会以396票赞成、123票反对、85票弃权，通过这份决议。
[4]
可以预见，推进人工智能法律和伦理研究，包括可能的立法和监管措施，未来将成为欧盟立法议程的一个核心。
1、成立欧盟人工智能监管机构
人工智能的发展将会带来很多新问题。法律事务委员会呼吁成立一个专门负责机器人和人工智能的欧盟机构，负责就技术、伦理、监管等问题提出专业知识，以更好抓住人工智能的新机遇，并应对从中产生的挑战。
考虑到人工智能的当前发展和投资，需要给予这一新机构充分预算，配备监管人员以及外部的技术和伦理专家，对人工智能应用开展跨领域、跨学科的监测，确认行业最佳实践，并适时提出监管措施。
2、需要人工智能伦理准则
人工智能虽然可能赋能于人，带来效率的提高；但是，相伴而来的人类安全、隐私、尊严、正义、自治、数据所有权等风险，却也不容忽视。因此，在机器人和人工智能的设计、研发、生产和利用过程中，需要一个指导性的伦理框架，确保其以符合法律、安全、伦理等标准的方式运作。比如，机器人设计者应当考虑一个“一键关闭”功能，以便可以在紧急情况下将机器人关闭。
在其《报告草案》中，法律事务委员会提出了所谓的“机器人宪章”（Charter on Robotics）。这一宪章针对人工智能科研人员和研究伦理委员会（REC），提出了在机器人设计和研发阶段需要遵守的基本伦理原则。对机器人科研人员而言，诸如人类利益、不作恶、正义、基本权利、警惕性、包容性、可责性、安全性、可逆性、隐私等都是需要认真对待的事项。
此外，需要伦理审查委员会对人工智能设计和研发进行把关，确保机器人符合人类社会的伦理、法律等规范；这个委员会应当是跨学科的，同时吸纳男性和女性参与者。
3、重构责任规则：强制保险机制和赔偿基金
自动驾驶汽车、工业机器人、护理机器人等类型的人工智能产品可能完全或者部分脱离人类的控制，在这些人工智能产品具有自主学习、判断和完善的能力的情况下，一旦对人类和财产造成损害，其设计者和开发者是否应当承担严格责任，抑或承担有限责任？当具有自主学习能力的人工智能系统造成损害，让其设计者和开发者承担责任可能遭遇原因力（因果关系）和可预见性这两大难题，这给既有的民事侵权责任规则带来了挑战。
对此，法律事务委员会提出了两个建议：
第一个建议是，对机器人适用强制保险机制，这类似于针对机动车的强制险，由机器人的生产者或者所有者负责购买，以便对机器人造成的损害进行责任分配。
第二个建议是，设立赔偿基金；这一制度有两大目的，其一，对强制险未予覆盖的损害进行赔偿，其二，让投资人、生产者、消费者等多方主体参与这一机制，从而形成赔偿基金。
