12月26日,韩国国会通过了《人工智能发展和建立信任基本法》(以下简称“《AI基本法》”),是欧盟《人工智能法》(AI Act)之后全球第二部人工智能立法。
《AI基本法》结合了来自不同政党的 19 项独立提案,将在颁布后1年生效。
《AI基本法》共有5章43条,另有附则 3 条。
重头戏在第4章,明确了:
事前认证、透明度保障措施、安全性保障措施、高影响AI运营者特殊要求及影响评估
等义务。并对未在
韩国设立实体的境外AI服务方(针对OpenAI?)且达到标准的,要求设立境内代表处并落实同等合规义务
。
违反该法律的企业可能面临最高3000万韩元(约14.9万元人民币)的罚款,
好少
。
第四章中的合规义务比较重要,所以有逐条翻译。其他章节只概括了我觉得重要的内容。
韩语原文:
《AI基本法》
“
人工智能
”是指通过电子方式实现人类智力功能,如学习、推理、感知、判断和语言理解的技术。
“
人工智能系统
”是指具有不同程度自主性和适应性,为实现特定目标而影响实际和虚拟环境,进行预测、推荐和决策等推理活动的基于人工智能的系统。
“
人工智能技术
”是指实现人工智能所需的硬件、软件技术或其应用技术。
与欧盟的高风险AI系统类似,《AI基本法》定义了“高影响人工智能”是指有可能对人的生命、身体安全以及基本权利造成重大影响或带来风险的人工智能系统,且在以下任一领域中被应用的情况:
①
能源供应;②饮用水生产;③卫生医疗体系运作;④数字医疗器械开发使用;⑤核设施安全管理运营;⑥犯罪侦查生物识别信息利用;⑦影响个人权利义务的重大判断,如招聘、贷款;⑧交通系统运营;⑨资格确认、费用征收等政府决策;⑩学生教育评估;及总统令规定其他领域。
域外适用
:即便针对在国外实施的行为,但若对国内市场或使用者产生影响的情况下,同样适用。
排除适用
:对于
总统令规定
仅以国防或国家安保目的而开发、利用的人工智能不予适用。
02
为人工智能的健全发展
与
信任基础构建的推进体系
直属总统的机构,负责审议和决定人工智能发展和信任基础建设的主要政策。由总统担任委员长,包括副委员长和不超过45名委员,负责政策审议和决策。
职能包括制定基本计划、研究开发战略、投资战略,以及促进国际合作等。
科技通信部下设机构,负责整合资源,支持人工智能政策的开发和国际标准的制定,以及分析人工智能对社会的影响。
科技通信部下设机构,注于保护国民免受人工智能相关风险,维护人工智能社会信任基础,并执行相关安全政策研究和国际合作的专业机构。
韩国政府促进AI发展的相关措施,都是宣示性条款,不展开。
第一节人工智能产业基础构建:
13、支持人工智能技术开发及安全利用;14、
人工智能技术的标准化、15、训练数据系统搭建。
第二节人工智能技术开发及产业推进:
16、支持人工智能技术引进和应用;17、中小企业等的特别支持;18、鼓励创业;19、促进人工智能与其他产业融合;20、制度改进;21、人才保障;22、国际合作;23、AI产业区建设;24、认证;25、数据中心建设;26、设立韩国AI振兴协会。
1. 在人工智能的开发和应用过程中,确保不对人类的生命和身体、心理健康造成损害,增强其安全性和可靠性。
2. 确保所有人能够自由、方便地使用应用了人工智能技术的产品与服务,提高其可及性。
3. 致力于人工智能的发展和应用,以促进人类生活和繁荣。
后期政府会出台细则,并鼓励设立民间人工智能伦理自律委员会。
一个提供高风险AI
事前
要做的认证,并且列为政府采购AI的优先考虑事项。
第三十条(支持人工智能安全性与可靠性的检验、认证等)
①科学技术信息通信部长官可以推进以下各项事业,以支持团体等自主进行的旨在确保人工智能安全性与可靠性的检验、认证活动(以下简称“检验、认证等”):
3. 支持检验、认证等所使用的设备及系统的构建与运营;