正文
2024年7月11日,美国相关议员提出了《编辑和深度伪造内容来源保护完整性法案》(简称“COPIED法案”)。
该法案将保护创意作者人员及其内容不被人工智能及其开发人员未经授权使用。原因是COPIED法案旨在要求人工智能产品的开发人员或提供商允许内容所有者将“内容来源信息”(“水印”)附加到其工作中,该法案将水印定义为“记录数字资产来源和历史的机器可读信息”。
如果内容附有来源信息,该法案将禁止在未经创作者批准的情况下使用其来训练人工智能模型或生成人工智能内容,以及将其删除或更改。该法案称,这使创作者能够保护和设定其作品的使用条款,包括补偿。互联网平台、搜索引擎和社交媒体公司也将被禁止以同样的方式干扰内容来源信息。
该法案如果通过,将指示国家标准与技术研究所(NIST)制定标准和指导方针,帮助基于AI水印证明内容的来源并检测合成内容。它还指示该机构制定安全措施,以防止篡改,并要求用于创意或新闻内容的人工智能工具,以允许用户附加有关其来源的信息,并禁止删除该信息。根据该法案,此类内容也不能用于训练人工智能模型。
包括广播公司、艺术家和报纸在内的
内容所有者
可以起诉他们认为未经许可使用其信息或篡改认证标记的人工智能产品运营者。各州总检察长和联邦贸易委员会也可以执行该法案,法案支持者表示,出于某些安全研究目的,我们应该禁止任何人“删除、禁用或篡改内容来源信息”。
法案创建了生成式人工智能透明度标准:要求国家标准与技术研究所(NIST)制定内容来源信息、水印和合成内容检测的指南和标准。这些标准将提高透明度,以确定内容是否由人工智能生成或操纵,以及人工智能内容的来源。该法案还指示NIST制定网络安全措施,以防止篡改人工智能内容的来源和水印。
法案让记者、艺术家和音乐家控制其内容:要求用于生成创意或新闻内容的人工智能工具提供商允许该内容的所有者将来源信息附加到其中,并禁止删除。
该法案禁止未经授权使用带有来源信息的内容来训练人工智能模型或生成人工智能内容。这些措施使内容所有者(记者、报纸、艺术家、词曲作者和其他人)能够保护他们的作品,并为他们的内容设定使用条款,包括补偿。
赋予个人起诉违规者的权利:法案授权联邦贸易委员会(FTC)和州总检察长执行该法案的要求,还赋予报纸、广播公司、艺术家和其他内容所有者对未经许可使用其内容的平台或其他人向法院提起诉讼的权利。
禁止篡改或禁用AI来源信息:目前,没有法律禁止删除、禁用或篡改内容来源信息。该法案禁止任何人,包括互联网平台、搜索引擎和社交媒体公司,以这些方式干涉内容来源信息。
事实上,除了COPIED法案外,美国田纳西州早在2024年3月即签署了旨在保护词曲作者、表演者和其他音乐行业专业人士免受人工智能潜在危险的立法——Ensuring Likeness, Voice, and Image Security Act of 2024 (HB 2091)(《确保相似声音和图像安全(ELVIS)法案》),该法案已于2024年7月1日生效。
ELVIS法案使长期以来被称为乡村音乐发源地和音乐传奇人物发源地的田纳西州成为美国第一个实施此类措施的州。
人工智能语音合成技术使录音艺术家容易受到被称为“声音克隆”的令人信服的准确模仿,这些模仿可能会混淆、冒犯、欺骗或误导他们的粉丝和广大公众。使用声音克隆可能会通过大规模制作以艺术家声音的AI近似为特色的音乐来降低录音艺术家独特天赋的价值。对于艺术家来说,田纳西州的新法律首次为艺术家除了标准名称、图像和肖像(NIL)权利外,还为他们的声音提供明确保护奠定了基础。
2024年05月21日,欧盟委员会发布《Generative AI Transparency: Identification of Machine-Generated content》(《生成人工智能透明度:识别机器生成的内容》),认为从技术角度来看,目前用于识别AI生成内容的技术解决方案主要包括元数据、水印技术、指纹技术和检测技术,但是却可以被轻易篡改或删除。