印度拟要求模型上线前需得到政府批准

网络空间治理 · 公众号 · · 2024-03-05 16:46

正文

来源：送法上网

发布时间：2024-03-04

背景

印度电子信息技术部发出意见书拟要求科技公司发布新模型前先获得政府批准，还要求科技公司确保其服务或产品“不允许任何偏见或歧视，或危及选举过程的完整性”。虽然目前它不具有法律约束力，但这可能代表着印度AI监管的未来。（https://www.solidot.org/story?sid=77505）

No.eNo.2(4)/2023-CyberLaws–3

印度政府

电子和信息技术部

网络法律和数据治理组

Electronics Niketan,

新德里 110003

日期：2024年03月01日

主题：根据2000年《信息技术法》和2021年《信息技术（中介指南和数字媒体道德规范）规则》下的中介（Intermediaries）/平台尽职调查。

这是继2023年12月26日的咨询文件No. e No. 2(4)/2023-CyberLaws – 2（附件附上）之后的继续。电子和信息技术部（以下简称“部门”）进一步注意到，中介或平台未能履行《信息技术（中介指南和数字媒体道德规范）规则》2021年（以下简称“IT规则”）中概述的尽职调查义务。

因此，除了2023年12月26日的咨询文件No. e No. 2(4)/2023-CyberLaws – 2之外，所有中介/平台在此还被建议确保遵守以下要求：

(a) 所有中介或平台应确保，通过其计算机资源使用人工智能模型（AI）/大型语言模型（LLM）/生成性AI、软件或算法，不允许其用户托管、展示、上传、修改、发布、传输、存储、更新或分享任何违法内容，如IT规则第3(1)(b)条所述，或违反IT法的其他任何条款。

(b) 所有中介或平台应确保，其计算机资源不允许任何偏见或歧视，或威胁选举过程的完整性，包括通过使用人工智能模型（AI）/LLM/生成性AI、软件或算法。

(c) 在印度互联网上使用未经测试/不可靠的人工智能模型（AI）/LLM/生成性AI、软件或算法，并将其提供给用户，必须获得印度政府的明确许可，并在部署后适当标记可能的和固有的输出不可靠性或不准确性。此外，可以使用“同意弹窗”机制来明确告知用户输出的潜在和固有的不可靠性或不准确性。

(d) 所有用户必须清楚地了解，包括通过中介或平台的服务条款和用户协议，处理其平台上非法信息的后果，包括禁用访问或移除不合规信息、暂停或终止用户对其用户账户的访问或使用权，以及根据适用法律的惩罚。

如果任何中介通过其软件或其他计算机资源允许或促进文本、音频、视觉或音频视觉信息的合成创建、生成或修改，以至于这些信息可能被用作错误信息或深度伪造，建议通过其软件或其他计算机资源创建、生成或修改的信息应被标记或嵌入永久唯一元数据或标识符，无论以何种名称，以便该标签、元数据或标识符可以用来识别该信息是使用中介的计算机资源创建、生成或修改的，或识别软件的用户或此类其他计算机资源，以及通过其软件或其他计算机资源创建、生成或修改此类错误信息或深度伪造的中介，以及此类错误信息或深度伪造的创建者或最初起源。
重申，不遵守IT法和/或IT规则的规定将导致中介或平台或其用户在被识别时面临潜在的法律后果，包括但不限于根据IT法和其他刑事法典进行起诉。