AI与大数据的“理想城”：智慧城市合规的基础要点

(一) 智慧城市的概念和内涵

“智慧城市”一词诞生于20世纪90年代，其定义和内涵持续演变，各界由于出发点和侧重点不同，目前暂无统一和明确的权威性定义。[6]但总的来说，智慧城市是充分利用新科技和新思想，让城市系统、运作和服务得以改造和升级，更具智慧的城市。[7]具体而言，智慧城市的建设以数字化、智能化的城市基础设施为基础，运用物联网、云计算、大数据、移动互联网等新一代信息通信技术手段，整合城市运行核心系统关键信息，[8]强调城市信息的全面感知，城市生活的智能决策与处理，实现城市经济和社会组织的高效化和协作化，城市社会服务的普惠化与人性化。[9]

(二) 域外发展

智慧城市作为未来城市的发展方向，许多国家都将智慧城市建设纳入国家战略，成为各国提升全球信息化竞争力的重点关注内容。德勤研究报告显示，目前全球在建智慧城市数量超过1000，无论是发达国家还是发展中国家，都积极参与到智慧城市的建设之中，推动新一轮的城市变革，现已形成了多个智慧城市群。[10]下表请见选取的三个智慧城市建设先驱国家的发展概况及典型案例列举。

(三) 国内现状

我国国家层面的智慧城市建设始于2012年，住建部发布《关于开展国家智慧城市试点工作的通知》，启动了中国智慧城市的试点申报和实施管理。2014年，国务院发布《国家新型城镇化规划（2014-2020）》，将智慧城市建设与绿色、人文城市并列作为推进新型城市建设的范式，[19]首次将智慧城市建设引入国家战略，并提出到2020年，建设一批特色鲜明的智慧城市。[20]2016年，国家发布的“第十三个五年计划”中，智慧城市被列为新型城镇化重大工程。此后，国家出台了一系列关注智慧城市基础设施建设和细分场景的指导意见，并由全国信息技术标准化委员会、全国通信标准化委员会领头，制定了多项有关智慧城市建设的国家标准体系，内容涵盖智慧城市的顶层设计、总体框架、评价模型及基础评价指标体系等多个方面，为智慧城市建设提供技术指引。[21]2019年年末，住建部决定成立智慧城市专业委员会，旨在进一步组织展开智慧城市领域的基础性研究，加强对地方智慧城市建设工作的指导。

与国家层面的智慧城市建设并行，各地智慧城市也积极加入到智慧城市建设的浪潮之中，结合各区域的发展需求，纷纷提出智慧城市发展规划。截至目前，全国智慧城市试点已基本覆盖全国各个省、市和自治区。[22]

作为“互联网与城市建设结合的样本”，智慧城市的搭建遵循了互联网大脑架构的基本原理，通过城市中枢神经系统（即“城市大脑”）[23]作为沟通智慧城市物联网系统、基础设施建设和人工智能建设的纽带，完成大数据在智慧城市技术框架下的汇聚、流转与应用，并由此产生城市智慧。

（一）城市大脑的概念及运作模式

城市大脑是智慧城市建设运行的核心，其内涵是利用人工智能、大数据、物联网等先进技术，构建一个后台系统，打通不同平台，作为智慧城市的中枢，对整个城市的数据进行实时分析，调配资源，弥补漏洞，最终形成治理城市的超级人工智能。[24]城市大脑作为“城市级的智慧中枢”，[25]以城市全量数据源、智慧赋能中台、运行指挥中心、综合智能门户为基本要素，通过建立城市统一数字化运营支撑和服务体系，打破信息壁垒，实现城市信息化基础设施建设资源、信息资源和应用服务的统一运营管理，[26]并以类脑的方式进行数据挖掘，进行城市治理决策。 

（二）智慧城市技术框架介绍

智慧城市技术框架的研究既有助于明确相关技术的研究和发展方向，同时也对智慧城市标准化工作和智慧城市运行中的合规监管提供了重要的借鉴。关于智慧城市的技术体系研究众多，包括但不限于微软亚洲研究院提出的“城市感知与数据捕获”、“城市数管理”、“城市数据分析”、“服务提供”的四层反馈结构，[27]科技部863计划在2012年《智慧城市技术白皮书》中总结的“城市感知层”、“数据传输层”、“数据活化层”、“支撑服务层”、“应用服务层”及“行业服务层”和“标准与评估体系”、“安全保障体系”的“六横两纵框架”[28]等。而在2013年发布的《中国智慧城市标准化白皮书》中，智慧城市的技术体系被界定为“四个层次要素和三个支撑体系”，即物联感知层、网络通信层、数据及服务支撑层、智慧应用层和标准规范体系、安全保障体系和建设管理体系。[29]

图1 《智慧城市标准化白皮书》智慧城市技术体系框架

其中，数据与服务支撑层可以被进一步划分为数据支撑层和服务支撑层；同时在整个技术框架中，在物联网感知层之外还有更底层的“社会基础设施”，即与智慧城市建设相关的配套硬件设施，[30]因此，我们理解智慧城市的技术框架可以分为六个层次，即：

• 基础设施层：基础设施层是指与智慧城市建设相关的配套硬件设施，除了传统的信息中心机房、信息亭[31]外，智慧城市中的基础设施还包括5G商用网络的基础设施、云计算数据中心等。[32]

  
  

• 信息感知层：信息感知层是指通过物联网络射频识别、传感和智能嵌入等技术及设备，捕捉、识别和采集城市系统信息数据的技术环节，其所涉及的场景极为丰富，举例而言，上海市在2018年发布的《新型城域物联专网建设导则》中，例举了公共安全、公共管理、公共服务中共计33类场景的物联感知要求。[33]

  
  

• 网络通信层：网络通信层通过“普适、共享、便捷、高效的网络通信基础设施，为城市级信息的流动、共享和公用提供基础”，[34]其中5G商用网络的建设提速为新型智慧城市建设发展赋能，“低时延、高带宽”的5G网络为对实时性要求较高的高清直播、无人驾驶、车联网和远程手术等智慧应用的发展提供了动力和支持，[35]更增强了智慧城市通过全面实时数据进行事件预测和解决、需求分析和相应的能力。[36]

  
  

• 数据支撑层：数据支撑层是指通过数据的资源交互共享和融合为智慧城市提供数据支撑，包括但不限于多源数据的标准化与汇聚融合、数据的安全存储与开放、数据融合与处理等，其中SOA（Service Oriented Architecture，面向服务的体系结构）、云计算和大数据等技术在这一层次中起到了“关键的技术支撑作用”。[37]

  
  

• 服务支撑层：服务支撑层是指将前述层次的“数据资源和应用系统资源进行统一的服务化封装、处理及管理”以提供统一的“城市级的公共、共性信息类服务”，这些服务可能包括“位置服务、饰品店宝服务、社交网络服务、虚拟现实服务等”。[38]

  
  

• 智慧应用层：智慧应用层则是将智慧城市的资源与能力与行业产业结合，为政府、企业、公众提供实际的智能化应用和服务。随着硬件设施的完善、底层数据资源的扩充和智慧城市技术的发展，智慧应用层的外延也在不断拓展，从智慧治理、智慧政务、智慧交通到智慧医疗、智慧养老、智慧生态……，智慧城市不仅仅在社会治理方面发挥着重要作用，也提升了社会服务的质量和效率；不仅仅涉及城市内部的生产生活关系，也有助于正确认知和处理城市与自然之间的关系。

（三）智慧城市中的数据

智慧城市同时还是大数据和数字技术的产物。中国信息通信研究院（“信通院”）在《新型智慧城市发展研究报告》中指出，“在数据驱动理念下，城市大数据平台日益成为新型智慧城市的核心组成平台”。[39]麦肯锡全球研究院在回答“城市的‘智慧’源自何处”时，也指出“机构获得的数据越全面、越实时，它们就越有能力观测事件发生的详情、分析需求模式的变化，从而采用响应更及时、成本更低的解决方案”。[40]

智慧城市中的数据类型体量庞大，具有“时空多维性、多尺度与多粒度、多元异构”等特征。[41]以智慧交通为例，其中所涉及的信息感知终端包括但不限于摄像头、车载终端、微波监测、超声波监测等，所采集的车辆及交通信息包括但不限于车辆属性、车辆速度、车辆行驶路径、行驶方向、排队时间等4，除采集的数据体量庞大外，不同的信息感知终端采集的数据结构也可能有所差异。此外，智慧城市在进行数据采集和分析应用时，还需要充分考虑数据在时间和空间维度的演化（即时空多维特性），和在不同的时间尺度和空间颗粒度时所采集数据的差异性和关联性（即多尺度与多粒度）。这些特性都对数据的安全存储及后续的融合利用带来了挑战。

人工智能、大数据等技术的飞速发展和应用于智慧城市的实践有助于构建一个更加宜居的城市家园。但另一方面，为智慧城市建立规范标准体系、安全保障体系和建设管理体系，平衡公共利益与个体权利的保护，与智慧城市的技术发展和实践同等重要，这也是各国智慧城市实践中正在关注的内容。以人工智能技术运用及数据融合为例，如何在运用技术过程中识别并防范风险、平衡不同主体的利益，是发展智慧城市的必答题。

（一）人工智能技术在新型智慧城市建设中的伦理风险与使用边界

从城市大脑、自动驾驶到人脸识别，人工智能技术已经融入到智慧城市的“数据管理、智慧交通、惠民服务、智慧安防、智能制造等各类领域”。[42]人工智能的运用在为新型智慧城市赋能，引领并开拓智慧城市的新型应用场景的同时，也相应地在一定程度上为智慧城市下的社会治理和社会服务嵌入了伦理风险。在智慧城市的语境下，平衡人工智能技术所带来的生产效率提升和可能的歧视风险，需要城市管理者在关注人工智能技术自身伦理道德体系的构建，评估人工智能在智慧城市中的利用带来的伦理风险的基础之上，合理界定人工智能技术在智慧城市中的使用边界。

>>  智慧城市建设中的人工智能伦理之算法相关风险点

智慧大脑作为智慧城市系统的关键，其决策将现实影响整个城市的资源调配。置身智慧大脑操控运作的城市之中，大家需要对人工智能决策的可靠性进行严密的论证。鉴于算法伦理在人工智能伦理的基础地位，[43]问题的症结则在于与机器算法相关的伦理风险，具体包括：算法公正性（算法歧视）、算法透明度及结果可解释性等。

首先，算法歧视，通常是指由于算法的设计者或开发人员对事物的认知存在主观上的某种偏见，或不经意使用了带有偏差的训练数据集等原因，造成模型准确性的偏差甚至产生歧视性的结果。[44]具体而言，其原因有三：

• 一是数据中预先存在的偏见所导致的算法歧视；

• 二是使用算法本身可能是一种歧视；

• 三是算法决策中数据的抽样偏差及其所设置权重的不同也有可能导致算法歧视。[45]

在现实生活中，算法歧视并不罕见，无论是亚马逊人工智能招聘系统涉嫌性别歧视[46]、还是美司法部门利用COMPAS系统预测再犯罪率导致种族歧视的争议，[47]人工智能算法在决策时可能产生偏见和歧视已经在某种程度上成为共识，在公共领域审慎使用人工智能技术的呼声也时常出现。因此，在智慧城市建设过程中，城市管理者理应对人工智能技术，特别是算法模型的初始设计和后续运用的全流程进行全面审慎评估，以确保算法的公正性。

其次，人类对算法的安全感、信赖感、认同度可能取决于算法的透明度和结果的可解释性。[48]算法的透明度旨在通过向用户公开算法细节，保障用户对算法的知情权，而结果的可解释性则需要确保算法、输入数据与输出结果之间的紧密联系。[49]就人工智能技术的运用而言，人们质疑智慧大脑的自主决策，主要是因为系统输出决策之时，往往并不提供做出具体决策所依据的材料、理由并证明结果与输入数据的紧密关系。[50]因此，在技术层面，智慧城市的人工智能开发，应当以强调用户与自动化决策系统的交互为核心，在已评估解释具体应用模式的难易程度的基础之上，考虑设置机制向用户解释系统产生的结果与参考标准，[51]增强人工智能决策的可信度。

>>  智慧城市建设中的人工智能伦理之数据相关风险点

界定人工智能技术在智慧城市中的使用边界另一个动力，可能源于人工智能技术对海量数据的需求所带来的数据质量、隐私保护等多方面的风险。

首先，以数据安全与隐私保护为例，人脸识别技术作为人工智能技术的典型拓展，人脸识别在现代社会中的运用越来越广泛，就智慧城市而言，截至2019年，“全国已有40余个城市启动了‘刷脸政务’，覆盖范围囊括商事登记、交通罚单缴纳、公积金查询、个税申报、社会保障等”，[52]人脸识别技术的运用能够通过对面部识别特征的采集和比对实现更精准高效的个人身份认证，为民众在办理政务服务过程中的身份认证提供更多的选择。但另一方面，面部识别特征属于个人敏感信息，具有高度的人身属性。而随着在银行、非金融支付机构等对人脸识别技术的运用，面部识别特征还与个人财产安全产生了密切的联系。在该情况下，如果对人脸数据的安全保障措施不能与采集人脸数据的实践范围相匹配，隐私泄露的风险可能大大增加，因此综合考虑人脸识别技术在智慧城市中的应用边界，适度在公共领域应用人脸识别技术，可能是平衡社会利益（社会治理及服务的效率）与个人利益（个人数据安全、隐私保护和财产安全）的手段之一。

其次，数据作为人工智能的基础资源，人工智能模型的精度受限于训练数据和影像数据的质量。[53]与前述算法的公正性紧密相关，若在算法模型中引入偏见数据或虚假数据，鉴于人工智能算法的“涌现性”和“自主性”，[54]系统将在学习过程中不断吸收偏见和错误知识，最终导致错误的预测结果。因此，将人工智能技术运用到智慧城市之中，结合系统机器学习对数据的依赖度，则需要追溯数据来源、分析考察数据的完整性和关联性，以验证数据的准确性，保证数据质量，进而避免人工智能系统决策的误导和误差性。[55]实践中，也不妨采用“沙盒”等监管方式，利用封闭试点的试验方法，从实证角度来核查决策的准确性，从而反向验证基础数据样本的完整性和关联性。

随着人工智能技术的飞速发展和广泛利用，其在智慧城市中的运用所带来的伦理风险可能不止于此。当人工智能所带来的新风险被许多人感知到的时候，人们自然希望法律能够因应这种风险提供新的保障。[56]因此，对于人工智能技术开发者和智慧城市建设者、管理者而言，积极识别人工智能技术运用可能产生的伦理风险，遵循法律要求，维护道德底线，并界定使用边界，是智慧城市建设中应当承担的社会责任。

（二）智慧城市中的数据融合与开放利用

海量数据的融合与开放利用是新型智慧城市的又一鲜明特征。不同于传统智慧城市中强调政务数据的共享交换，新型智慧城市模式下数据范围进一步扩大为城市大数据，[57]所涉及的不再仅仅是政务数据，还可能包括企业数据和个人信息。如何在现有法律法规的规制下，实现数据的汇聚与融合？如何从法律层面明确智慧城市系统中的数据安全责任？如何界定智慧城市中数据的开放共享范围等等，都是智慧城市发展亟需回答的问题。

>>  在尊重数据资产价值、保障个人信息的基础上开展数据汇聚融合，打破数据孤岛

新型智慧城市模式中的数据不仅仅包括传统政务数据，还可能包括大量的企业数据和个人信息。

而无论是前者还是后者，都可能面临着数据控制者不愿、不敢、不能对外共享数据，进而形成数据孤岛，阻碍数据汇聚融合的情形。其一，对企业而言，随着数字经济时代数据作为资产的价值得到日益广泛的认可，并成为企业核心竞争力的一部分，对某些数据的独占可能会巩固和强化企业的竞争优势，企业对外共享数据的动力也因此受到抑制。其二，目前国内的法律法规对于政务数据的公开共享、不同行业数据的公开共享和个人信息的公开共享都有所规定和限制，如国务院在《政务信息资源共享管理暂行办法》中规定“不宜提供给其他政务部门共享使用的政务信息资源属于不予共享类”；[58]《中华人民共和国人类遗传资源管理条例》中要求组织、个人在采集、保藏、利用、对外提供我国人类遗传资源（利用含有人体基因组、基因等遗传物质的器官、组织、细胞等遗传材料产生的数据等信息资料）时，不得危害我国公众健康、国家安全和社会公共利益；[59]而中国人民银行在新近制定的《个人金融信息（数据）保护试行办法（草案）》中，对金融机构对外共享个人金融信息进行了严格的限制，这些规定和限制可能导致政府部门、企业等因为存在法律风险而不敢对外共享数据。其三，数据在采集标准、统计口径和传输接口方面可能存在的较大差异，也使得数据拥有者不能对外共享数据。

面对数据孤岛，智慧城市的发展需要遵守现行法律法规对数据融合的禁止性、限制规定，在合法合规的基础上完成数据汇聚融合，同时也应当通过智慧城市运作模式优化，为不同主体和不同来源的数据参与数据汇聚融合提供激励；通过法律法规确定智慧城市中数据融合的范围，并适度协调智慧城市建设中数据融合需求与其他数据保护规则之间的张力；通过统一的数据采集、传输标准确保数据融合的技术可行性。

>>  明确数据安全责任、建立数据安全事件应急联动机制是保障智慧城市数据安全的重要途径

新型智慧城市模型中海量数据的融合还会对系统的数据存储处理和安全保障能力产生考验。智慧城市下的海量数据及其背后的数据价值可能引发针对性的数据攻击，造成个人信息、重要数据的泄露和智慧城市运营系统的崩溃。具体而言，从数据属性角度来看，智慧城市中可能包含大量的政务数据、企业数据和个人信息，其中不乏涉及国家安全、商业秘密和个人隐私，因而数据安全是智慧城市建设中的重中之重。同时，从网络系统安全角度来看，智慧城市的大数据平台可能与多个网络安全保护等级较高的系统，如金融行业、医疗行业系统等进行对接，因此从网络安全等级保护的相关要求出发，同样需要对智慧城市的系统安全性加以重视。

就数据安全和系统安全而言，考虑到智慧城市技术框架下涉及数据的产生、收集、存储与处理、融合、应用和对外提供等多个环节，包括数据原始所有者、数据传输系统运营者、数据能力提供者、数据服务使用者等多个主体，智慧城市的运行有必要在建立数据存储和安全保障技术标准的同时，明确数据流转的不同环节中相关主体的数据安全责任，鼓励各主体积极采取适当的数据安全措施，建立合适的数据安全管理制度，并在发生数据安全事件，对社会、企业或个人造成损害时承担相应的责任；同时还可以考虑制定适用于智慧城市框架的数据安全事件应急联动机制，以便在发生数据安全事件时及时发现并采取响应措施，降低数据安全事件的损害后果，保障数据安全。

>>  分级分类界定智慧城市中数据的开放利用范围，在保障信息安全和数据主体利益的同时实现数据价值的最大化

数据的开放与共享是智慧城市发挥作用、展现能力的重要前提。智慧城市顶层设计下的数据支撑层、服务支撑层和智慧应用层均不同程度涉及数据的开放和共享。以上海为例，2019年11月，上海市公共数据平台正式开通运行，开放的2100项公共数据“基本覆盖各市级部门的主要业务领域”并重点聚焦“金融、医疗、旅游、交通、能源、城市管理和开放数据等7个领域”。[60]但无论是政务数据、企业数据还是个人信息，从信息自身价值、信息开放的制度成本和基础设施成本、信息开放产生的社会价值、不当或非法利用信息可能造成的后果等角度来考量，智慧城市中的数据不能也不应无限制地向社会公众开放。

在这种情况下，数据的分级分类开放将成为数据共享与利用的必然选择，即依据相关法律法规的要求，参考数据开放对象的安全保护能力、获取数据的主体对开放数据的使用目的和方式等情况对数据进行分级分类开放。例如，电子病历、医疗影像图片等数据的开放将有助于智慧医疗下AI诊疗算法的训练与优化；但另一方面电子病历、医疗影像图片等数据的开放又会受到行业监管及个人信息保护等方面法律法规的制约，在这种情形下，数据的开放一方面需要保障承接主体具有适当的数据安全保护能力，针对特定群体开放；另一方面，鉴于AI诊疗算法的优化这一用途并不以识别电子病历、医疗影像图片中的个人信息为前提，政府或有关机构在开放该部分数据时，可以考虑在技术可行的范围内对数据进行脱敏、去标识化等处理，以尽可能降低数据开放利用的风险，同时最大限度促进对数据的利用。

智慧城市是现代化治理的重要体现，也是社会经济和技术发展到一定高度后的必然选择。但如何在提高治理能力，维护公共利益的同时，平衡社会与个体的权利关系，是从技术、法律、道德伦理多个角度的重大考验。结合上文的初步分析，我们建议智慧城市的建设过程中应当注重以下方面：

1. 注重人工智能道德伦理的论证，成立人工智能道德伦理委员会，建立人工智能道德伦理风险评估机制。

   
   

2. 对于核心算法的透明性、公正性和准确性等建立事前、事中和事后的监管机制，建议通过“沙盒”等方式验证算法的公正性等。

   
   

3. 确认人工智能技术在不同场景下，尤其是公共领域的使用边界，加强算法透明性。

   
   

4. 论证数据融合的合理性和合法性，针对不同行业、不同主体数据的数据融合建立合规制度和标准。在不违反现行法律法规的前提下，有限度的实施数据融合。

   
   

5. 加强数据基于安全、价值等不同维度的分级分类，平衡数据融合后关于网络及数据安全的责任以及数据开放共享的价值分配，建立合法合规的责任体系和数据共享使用标准。

当然，给智慧城市的答卷远不止于此，我们也会在今后的文章里和大家一起分析和探讨我们新的思考。随着人们不断加深的对智慧城市的认识和对智慧城市边界的探索，智慧城市所面临的更多具体的风险也可能会相应地显现。如何正确处理这些问题，可能需要技术、法律、道德伦理等多个方面协作分析。从六千年前乌鲁克城诞生、到近代工业化城市的兴起，城市与人类之间的关系始终在社会文明进程中占据一席之地，城市模式的发展与创新，体现了人类对更美好生活的追求，而对城市模式中技术及伦理风险的认知和探讨也最终将帮助人们寻得更宜居的家园并推动社会文明的进步。我们坚信智慧城市的发展，最终将再次印证这一事实，并期待包括法律在内的人文科学在技术和社会变革中发挥应有的作用。

——— 本文作者 ———