【思想】胡凌：人工智能（AI）的法律想象

作者：胡凌，上海财经大学法学院副教授、副院长

来源：《文化纵横》2017年第4期 （《文化纵横》微信：whzh_21bcr ） 。 感谢《文化纵横》编辑部授权推送，特别鸣谢余盛峰博士。

▍ 引子

当我们谈论人工智能（Artificial Intelligence，AI）时，很大程度上受到源自20世纪想象的影响，例如，直接把人工智能和机器人联系起来，甚至是人形机器人。 这可能也会影响法律人对人工智能的想象，包括是否承认人工智能作为具有自我意识的法律主体地位（或至少是人类行为的代理人），从而保护其特定权利（言论自由、著作权）、划定责任（缔约、侵权），甚至强调可能的毁灭性风险。 这种想象远非受到科幻作品影响那样简单，深层次中还反映出人工智能在技术和应用上不同的发展路径： 早期人工智能研究更集中于对人脑的仿真模拟，探究意识、理性等更为宏大的哲学问题，但应用性较少； 当下的人工智能走出了实验室，借助互联网服务直接影响到普通人的生活，在技术上并不执着于创造一个完美的智能体，而是依靠算法（如机器学习和神经网络）不断优化，对海量数据自动挖掘与预测，通过无所不在的传感器实时更新数据，动态掌控着人类社会各个方面的运转，并把从某个特定领域升级为通用人工智能作为目标。 从这个意义上说，人工智能并不神秘，它出现在日常生活中，不仅是工业社会生产自动化的延续，也是互联网商业化的必然结果和新阶段。 时至今日，欧美国家纷纷出台政策，推动人工智能发展，力求提升经济效率和竞争力。

如果我们摆脱简单的拟人思维，把人工智能看作互联网智能演进的新阶段，为理解其法律规则，就有必要理解互联网法律在过去20年中形成的路径和推动力，从而探讨人工智能是否有任何特殊性以至于需要新的规则。 本文将从网络法的两个视角——实证性和生产性——切入，将它们延伸至人工智能语境下分别讨论。“实证性”视角是我们观察和应用任何规则的惯常思维方式，例如人工智能行为的具体规则如何确立、如何规制等，本文将讨论支撑人工智能的两个构成性要素——算法与数据——可能带来的法律问题，以及法律人处理人工智能的两种路径； “生产性”视角则深入规则背后，探索规则形成的政治经济因素，特别是经济生产方式的内在要求。人工智能本质上是一套复杂的代码设计，既是影响社会行为的强力规范，也是产生新价值的生产机制； 它驱动整个社会朝向更智能的方向变化，从而要求法律做出相应调整，尤其是确认新型经济利益的合法性。

限于篇幅， 本文姑且将人工智能看成法律上的客体，暂不讨论赛博格（cyborg）之类的人体转向机械体或通过基因技术改变身体的问题（仍是法律上的人），也不讨论人工智能作为一种人造物的自我意识问题（一个难以达成共识的哲学问题）。

▍ 理解网络法的变迁

网络法在中国的变迁大致遵循两类逻辑：外生性的政治/监管逻辑和内生性的商业逻辑。 政治/监管逻辑体现为对“实证性规则”的追求，这些规则集中在国家（包括法院和监管机构）如何对互联网的内容和行为进行规制，包括对网络主权和信息安全的追寻。 这集中反映了国家权力如何试图介入新技术带来的问题与挑战。 这一视角最早由美国法学界引出，特别是Lawrence Lessig的代码理论将代码（架构）和法律并列。 由此，所谓的网络法不仅要约束社会主体在网络空间中的行为，也要对架构的变化本身做出回应。

首先，就规制主体行为而言，出现了是否按照传统线下行为规则的思路约束线上行为的讨论。这一讨论的核心是，互联网问题是否具有任何特殊性，需要某些新规来解决。 我们已经看到，中国的互联网行为监管在很大程度上延续了传统规则和管理方式，采取渐进的方式，这不仅成本较小，也给予监管者一定的学习和探索空间。 其次，就架构变化本身而言，国家在宏观上主张网络空间中仍然需要主权，不能成为法外之地，在微观上相应出现了国家与平台权力/责任二分的讨论。 例如，政府权力何时需要介入平台治理，加强平台的行政管理责任或安全保障责任，还是由后者根据自身情况自我规制，实现治理目标。政治/监管逻辑要么遵循管理者的路径依赖效应，要么坚持既有社会稳定、意识形态安全价值。 问题在于，监管者在多大程度上能够认识到代码及其商业模式的特殊性，从而使监管行为和行业特性相互协调融合。

另一种看待规则产生的方式遵循商业逻辑。这种生产性视角关注微观权力运作，综合将代码、法律与社会规范放在一起，不单纯从社会学意义上观察社会主体行为如何受到影响，而是在政治经济学意义上将网络空间的生成和扩散看成是一个由商业力量推动主导的生产性过程，关注价值由谁产生、如何分配，由此推动对新规则的内生需求。 按照这一视角，无论是法律还是架构，在具有实证性规制功能的同时，也是一种“生产性规则”。互联网的生产模式决定了其对社会范围内生产资料的创造性生产和再利用，需要法律确认其生产方式的合法性，重塑关键法律制度，并解决和传统生产模式的利益冲突。 这一视角无疑帮助厘清新经济主张的例外特性，不仅展示出架构和相应的法律改变，更指明了背后的政治经济原因，是更好地理解实证性规则的基础。

两类不同的逻辑在过去20年中交替出现，相互制约，共同塑造了中国网络法体系，也推动了中国互联网的整体发展。 总体而言，鉴于国家有意促进新经济，需要推动传统的属地化、分口治理，事后运动治理模式发生转变，认清互联网商业模式和价值产生的根源，有利探索适应新经济性质的管理体制。 从这个意义上说，信息资本主义不断要求对法律内核进行改造，取代其中的传统经济要素，打破限制生产要素自由流通的各类规则。

▍ 人工智能法律的实证性视角

如前所述，人工智能的本质在于算法和数据处理，物理形体不必然是人工智能的构成要素，因为即使是人形机器人，也不过是一个算法主导的硬件系统，它实时收集信息，并按照算法的要求做出决定，继而行动。 更重要的是，具有物理形体的人工智能可以推动群体智能发展，通过分布式终端收集更多数据加以处理，并不断传输至云端“大脑”，提升整体网络的智能水平。

根据算法的复杂性和学习/运算能力对强人工智能和弱人工智能进行区分， 这在技术认知上没有问题，但在法律上很难按照智能程度给出精确的标准。法律应对复杂世界的方式是确立一般性的简单规则，在概念上对社会个体进行抽象假定（如行为能力），而非针对特殊主体，否则规则体系本身将变得异常复杂，难于理解和操作。而人工智能从单一的自动化服务向多元通用服务转变的过程可能是一个相当长的光谱，法律需要针对其本质特征进行约束，并探索一套应对未来的方案。当我们说社会变得越来越智能的时候，事实上指由于数据搜集、储存和处理的能力不断增强，所有软件/算法都可能朝向自动收集数据，做出决定或判断的趋势，由于算法的复杂性，算法带来的结果可能无法预测，并在更大范围内带来系统性的不利后果。这种后果未必是毁灭性的风险，甚至只是在某个领域的制度设计问题，但人工智能恰好将这类社会问题具象化，掩藏在外表华丽、高效、更多是私人控制的“黑箱”中，就会引发一系列问题。

如果放在一个更大范围内观察，在历史上，人类社会随着复杂性的增加，不可避免地产生以组织和技术形态出现的各类“黑箱”，它们的决定影响着社会发展和大众福利，但仍然保持着某种秘密性。 这一隐喻未必是阴谋论，其核心问题在于信息不对称。为平衡相关当事人和社会大众的知情权、避免恐慌、保持某种预测能力，人们不断设计出某种程度的信息公开和透明化机制，例如政治辩论的公开化，法院诉讼程序透明化甚至公开庭审，上市公司强制信息披露等等。而人工智能不过是信息技术时代的新型黑箱，带来更加严重的系统化影响。 互联网在兴起过程中，通过降低信息成本，推动了开放政府、庭审直播，使信息公开透明更加便利，将生产性资源不断解放出来，在更大社会范围内重新配置，产生新价值。然而，这一过程在消除一个又一个传统黑箱的同时，产生了更为复杂的新黑箱，进而主导整个社会的生产过程。 生产资料之间的信息变得越来越对称，甚至可以实时互通信息，但作为信息匹配中介的人工智能却变得更不透明，其规则设计和运作从属于用户甚至开发者无法理解的秘密状态，这回到了法律如何处理与代码的关系问题。