英国人工智能安全研究所更名

新技术法学 · 公众号 · · 2025-02-17 07:12

正文

近日，英国人工智能安全研究所（UK’s AI Safety Institute）更名为“UK AI Security Institute”，名称的变化反映出反映出英国政府对具有AI 风险的关注，例如该技术如何用于开发化学和生物武器，如何利用它来进行网络攻击，以及促进欺诈和儿童性虐待等犯罪。该研究所将启动一个新的刑事滥用团队，与内政部合作研究一系列可能伤害英国公民的犯罪和安全问题，如利用AI制作儿童性虐待图像等。

科学、创新和技术国务卿彼得·凯尔表示，英国人工智能安全研究所的重点仍是确保公民和盟友免受AI技术滥用带来的威胁。这一变革作为是其变革计划的一部分，可以帮助英国利用该技术推动社会进步和经济发展。

此外，英国政府还与人工智能公司Anthropic达成了一项新协议，这一合作将包括分享关于人工智能如何改变公共服务和改善公民生活的见解，以及推动新的科学突破。英国还将寻求与领先的人工智能公司达成进一步协议，AI提高生产力和实现新经济增长是政府变革计划的关键支柱。Anthropic的首席执行官兼联合创始人 Dario Amodei 称：其AI助手Claude将帮助英国政府发现新的方法以提升公共服务，为英国居民提供更高效的服务，并帮助实现人工智能的安全部署。