欧盟发布大语言模型 AI 辅助监管决策的指导原则

LLM 是一种生成式人工智能（AI），其应用程序可以显著支持药品监管机构的任务和流程。无论是用于查询监管机构日常收到的大量文件，自动化知识/数据挖掘过程，还是作为日常管理任务中的虚拟 AI 助手 - LLM 都具有巨大的变革潜力。

但 LLM 也面临挑战，例如结果的可变性、返回不相关或不准确的回答（所谓的幻觉）以及潜在的数据安全性风险。

欧盟指出，指导原则的目的是让欧盟监管机构的工作人员了解这些应用程序的能力和局限性，以便他们能够有效地利用 LLM 的潜力，同时避免缺陷和风险。

指导原则包括使用 LLM 的一般伦理考量因素，来自多个参考来源，包括欧洲科学和新技术伦理小组（European Group on Ethics in science and new technologies，EGE）、高级专家组（High-Level Expert Group，HLEG）和学术界。伦理考量包括人的尊严、自主、法治、问责、保障、安全、透明度、非歧视、错误信息伤害和恶意使用等原则。

EMA 表示，“个人数据的保护也值得特别关注。虽然文件重点介绍了 LLM 的使用，但 LLM 中个人数据处理可能会在其开发、实施和使用过程中发生，但不一定时显而易见的。”

文件深入探讨了用户级别和组织级别的原则。在用户层面，EMA 指出利益相关者应确保数据负责任且安全地输入 LLM，不断学习如何有效使用 LLM，并咨询和报告 LLM 可能出现的问题。在组织层面，EMA 指出，应该有一些原则来定义如何安全和负责任地使用 LLM，通过提供适当的训练来最大化 LLM 的价值，并协作和分享经验。

EMA 表示，“考虑到人工智能快速变化的性质，以网络形式分享经验是关键，因为这样可以减少不确定性，促进更快地共识，并作为监管知识管理工具，帮助监管机构投资和实验。”

EMA 还指出，LLM 指导原则是 EMA 和 HMA 多年人工智能工作计划 的一部分，该工作计划于 2023 年开始，预计于 2028 年结束。EMA 指出，指导原则将根据需要定期更新，并计划于 9 月 13 日举行网络研讨会介绍该指导原则。