关于人工智能发展和建立信任基础
等
基本法案
（替代方案）
1. 替代方案的提案过程
A.
第418届国会（定期会议第3次信息通信广播法案审查小委员会（2024.11.21）合并审查以上19件法律案后，决定将其合并调整，提出委员会的替代方案。
B.
第418届国会（定期会议）第17届科学技术信息广播通信委员（2024.11.26）决定，按照信息通信广播法案审查小委员会的审查报告，对19件法律案不分别提交全体会议审议，并提议将信息通信广播法案审查小委员会制定的替代方案作为委员会案。
2. 提出替代方案的理由
人工智能不仅是改变所有行业，也是改变社会的基础技术，近年来，随着人工智能性能的突飞猛进，人工智能在社会各个领域的应用正在迅速扩大。特别是，随着生成式人工智能的出现，对人工智能带来的潜在好
处以及风险的担忧正在全球范围内引起关注。
通过支持人工智能的健康发展，规定建立人工智能社会信任基础所需的基本事项，保护人民的权益和尊严，为提高人民的生活质量和增强国家竞争力做出贡献韩国人工智能的新标准。
人工智能不仅是改变所有产业，也是改变社会的基础技术，随着最近人工智能性能的飞跃发展，人工智能在韩国社会各领域的应
用正在迅速
扩大。
特别是随着生成式人工智能的出现，人工智能带来的潜在好处和对危险性的担忧正在全世界范围内引起关注。
通过规定支持人工智能健康发展、建立人工智能社会信任基础所需的基本事项，为保护国民权益和尊严、提高国民生活质量、强化国家竞争力做出贡献，制定大韩民国人工智能新标准。
3. 替代方案的主要内容
A.
通过规定人工智能的健康发展和建立信任基础的必要事项，旨在为保护国民权益和尊严，提高国民的生活质量和强化国家竞争力做出贡献（法案第1条）。
B.
对人工智能、
高影响力人工智能、
生成式人工
智能、
人工智能伦理
和人工智能经营者等进行定义（法案第2条）
。
C.科学技术信息通信部长官
每3年为振兴人工智能技术、人工智能产业和加强国家竞争力，经过国家人工智能委员会审议通过，制定并实施人工智能基本计划，基本计划应包括人工智能政策的基本方向、专业人才培养、信任基础建设等相关事项（法案第6条）。
D.
为审议和表决振兴人工智能产业及建立人工智能信任基础的主要政策等相关事项，设立隶属于总统的国家人工智能委员会，国家人工智能委员会审议和表决制定基本计划、促进人工智能应用、规范高影响人工智能等相关事项（法案第7条及第8条）。
E.
科学技术信息通信部长官可以指定人工智能政策中心，来开发人工智能相关政策和制定、传播国际规则，可以运营人工智能安全研究所，来确保人工智能安全（法案第11条及第12条）。
F.
政府可以支持国内外动向及相关制度的调查、技术的实用化、研究开发等事业，来促进人工智能技术的开发与安全便利地使用，科学技术信息通信部长官可以推进标准制定等事业，来实现人工智能技术相关的标准化（法案第13条及第14条）。
G.
科学技术信息通信部长官可以培养相关专业人才，来开发人工智能技术及振兴人工智能产业，可以推进各种政策，来确保海外专业人才（法案第21条）。
H.
国家与地方政府可以推进从事人工智能及人工智能技术的研究、开发的经营者、机关或团体的功能性、物理性、区域性集成化，以振兴人工智能产业和强化人工智能开发、应用的竞争力（法案第23条）。
I.
政府为推广人工智能伦理，可制定并公布包括安全性、可靠性、接近性、对人的生活和繁荣的贡献等事项在内的人工智能伦理原则，科学技术信息通信部长官应制定人工智能伦理原则的实践方案并公开及宣传教育（法案第13条及第14条）。
J.
政府为推广人工智能伦理，可制定并公布包括安全性、可靠性、接近性、对人的生活和繁荣的贡献等事项在内的人工智能伦理原则，科学技术信息通信部长官应制定人工智能伦理原则的实践方案并公开及宣传教育（法案第27条）。
K.
科学与信息通信技术部长官可推动支持经营者、机构和组织确保人工智能安全性与可靠性而自愿开展验证和认证活动的事业（法案第30条）。
L.
利用高影响人工智能或者生成式人工智能提供产品或服务的人工智能经营者应事先告知用户相关事实，在提供生成式人工智能或是利用人工智能的产品或服务时，应标明其结果是由生成式人工智能生成的事实；利用人工智能系统提供难以与实际区分的虚拟结果时，应告知或标明该事实，以便用户能够明确知道情况（法案第31条）。
M.
人工智能经营者应采取风险识别、评估和缓解等措施，确保用于学习的累计计算量超过总统令规定标准的人工智能系统的安全性（法案第32条）。
N.
人工智能经营者在提供高影响人工智能或利用人工智能的产品服务时，应采取确保安全性和可靠性的措施（法案第34条）。
O.
科学技术信息通信部长官在发现违反该法的事项或有嫌疑时，可以对人工智能经营者提交资料或让所属公务员进行必要的调查，如果认定有违反事实，可以命令其采取必要措施停止或纠正违反行为（法案第40条）。
关于人工智能发展和建立信任基础等基本法案
第1条（目的）
本法规定人工智能健康发展和建立信任基础所需的基本
事项，
旨在为保护国民的权益和尊严，
提高人民的生活质量，增强国家
竞争力作出贡献。
第2条（定义）
本法所用术语的含义如下。
1.
“人工智能”是指通过电子方法实现学习、推理、感知、判断、语言理解等人类所具有的智力。
2.
“人工智能系统”是指具有不同程度的自律性和适应性，为既定目标推理影响实际及虚拟环境的预测、推荐、决定等结果的人工智能基础系统。
3. “人工智能技术”是指实现人工智能所需的硬件、软件技术或其应用技术。
4.
“高影响人工智能”是指可能对人的生命、身体安全及基本权利产生重大影响或引发危险的人工智能系统，在以下任何一个领域被应用的情况。
A.
《能源法》第
2条第1
款规定的能源供给
B.
《饮用水管理法》第
3条第1
款规定的饮用水生产流程
C.
《保健医疗基本法》第
3条第1
款规定的保健医疗的提供、使用体系的构建与运营
D.
《医疗器械法》第
2条第1款
规定的医疗器械及《数码医疗产品法》第
2条第2项
规定的数字医疗器械的开发及使用
E.
《原子能设施等防护及放射能防灾对策法》第
2条第1款第1项规定的核物质与同款第2项规定的原子能设施的安全管理及运营
F.
用于犯罪调查或逮捕业务的生物识别信息（指面部、指纹、虹膜及手掌静脉等能够识别个人的身体、生理、行动特征的个人信息）的分析、利用
G.
录用、贷款审查等对个人权利、义务关系产生重大影响的判断或评价
H.
《交通安全法》第
2条第1款至第3款规定的交通工具、交通设施、交通体系的主要
操作及运营
I.
提供公共服务所需的资格确认及决定或费用征收等对国民产生影响的国家、地方政府、《公共机构运营相关法律》第
4条规定的
公共机构等（以下称
"国家机关等"
）的决策
J.
《教育基本法》第
9条第1款规定
的幼儿教育、小学及中等教育中的学生评价
K.
总统令规定的其他对人身安全及基本权利保护产生重大影响的领域
5.
“生成式人工智能”是指通过模仿输入数据（《关于数据产业振兴及利用促进基本法》第2条第1款规定的数据，下同）的结构和特征，生成文字、声音、图片、视频和其他各种输出结果的人工智能系统。
6.
“人工智能产业”是指开发、制造、生产、销售人工智能或利用人工智能技术的产品（以下称
“人工智能产品”），或提供与此相关的服务（以下称
“人工智能服务”）的产业。
7.
“人工智能经营者
”是指从事人工智能产业相关业务者，包括属于以下任一项的法人、团体、个人和国家机构。
B. 人工智能使用经营者：利用A项经营者提供的人工智能，提供人工智能产品或人工智能服务者。
8.
“
用户
”
是指人工智能产品或者人工智能服务的接受者。
9.
“受影响者”是指因人工智能产品或人工智能服务而严重影响自己生命、身体安全及基本权利的人。
10.
“人工智能社会 ”是指通过人工智能在产业、经济、社会、文化、行政等各领域创造价值、引领发展的社会。
11. “
人工智能伦理”是指以尊重人类尊严为基础，为构建能够保护国民权益和生命、财产的安全可靠的人工智能社会，在人工智能的开发、提供及利用等各领域，社会成员必须遵守的伦理标准。
第
3
条（基本原则
及国家等职责
）
①
人工智能技术和人工智能产业应向着
提高安全性和可靠性、
改善人民生活质量的方向
发展。
② 受影响者应该对于人工智能最终结果所使用的主要标准及原理等,在技术上、合理的可能范围内得到明确、有意义的说明。
③国家与地方政府应尊重人工智能经营者的创意精神，为营造安全的人工智能使用环境而努力。
④国家与地方政府应探索政策，确保所有国民都能稳定地适应人工智能给社会、经济、文化和日常生活等各个领域带来的变化。
第
4
条（适用范围）
①
即使是
在国外实施的行为，若对
国内市场或用户产生影响，适用本法。
②
对于总统令规定仅以国防或国家安保目的而开发、利用的人工智能，不适用本法。
第
5
条
（与其他法律的关系）
① 关于人工智能、人工智能技术、人工智能产业和人工智能社会（以下称“人工智能等”），除其他法律有特别规定外，依照本法规定。
② 制定或修改有关人工智能等的其他法律时，应符合本法的目的。
第
2
章
人工智能健康发展和建立信任基础的推动体系
第
6
条（人工智能基本计划的
建立
）
①
科学技术信息通信部长官根据相关中央行政机关的负责人及地方政府的负责人意见，每3年制定一次人工智能基本计划（以下称“基本计划”），以振兴人工智能技术及人工智能产业，强化国家竞争力，根据第7条规定，经过国家人工智能委员会审议后制定并实施。但不适用于总统令规定的对基本计划的细微修改。
②
基本计划应包括以下各事项。
2. 为系统培养人工智能产业，培养专业人才及建立促进人工智能开发、应用基础等相关事项
3. 人工智能伦理的推广等构建健康的人工智能社会的方法、制度及文化的相关事项
4. 人工智能技术开发及人工智能产业振兴的财源确保和投资方向等相关事项
5. 人工智能的公正性、透明性、责任性、安全性确保等与建立信任基础的相关事项
6. 人工智能技术的发展方向及相应的教育、经济、文化等社会各领域的变化和应对的相关事项
7. 为人工智能技术及人工智能产业的振兴和国际合作等加强国家竞争力，科学技术信息通信部长官认为有必要的其他事项
③ 科学技术信息通信部长官在制定基本计划时，应考虑《智能信息化基本法》第6条第1款规定的综合计划及同法第7条第1款规定的执行计划。
④ 科学技术信息通信部长官可以要求相关中央行政机关、地方政府及公共机构（《智能信息化基本法》第2条第16项规定的公共机构。下同）的负责人提交制定基本计划所需的资料。在这种情况下，被要求提交资料的机关负责人若无特殊情况应遵从。
⑤ 基本计划是根据《智能信息化基本法》第13条第1款规定的人工智能及人
工智能产业领域的各部门推进计划。
⑥ 中央行政机关的负责人及地方政府的负责人在制定和执行所管主要政策时，应考虑基本计划。
⑦ 基本计划的制定、变更及实施所需事项，由总统令规定。
第
7
条（国家人工智能委员会）
①
为审议和表决人工智能发展和建立信任基础等主要政策等相关事项，设立隶属于总统的国家人工智能委员会（以下称"委员会"）。
② 委员会由包括1名委员长和1名副委员长在内的45名以内的委员组成。在这种情况下，根据第4款第4项规定的委员必须超过全体委员的半数，不能只以特定性别组成委员会。
③ 总统应担任委员会委员长，总统在符合第4款第4项规定的人当中指定副委员长。
4. 总统委任的关于人工智能的专业知识和经验丰富的人
⑥
必要时
，委员会委员长可以由副主席代行其职务。
⑦
第4款第4项规定的委员任期为2年
，可以连任
一次。
⑧
委员会设干事委员1名
，干事委员为第4款第3项规
定的委员。
⑨
委员会委员不得将因职务而知悉的秘密泄露
给他人或用于职务目的以
外的用途
。但是，其他法律有特别规定的除外。
⑪
委员会会议应在过半数
委员出席的情况下召开
，
并经出席委员过半数同意通过决议。
⑫
在委员会内设立支援小组，以支持委员会的工作和运作。
⑭其他委员会和支援团的构成及运营等必要事项，由总统令规定。
第8条
（
委员会的职能
）
① 委员会审议并表决以下各项事项。
1.
基本计划的制定、变更及实施的检查、分析的相关事项
