中译版 | 新加坡金融管理局（MAS）发布有关人工智能（AI）模型风险管理的建议

编辑丨赵妍 钱佩佩 兰意维 李雅诗

【本文看点】

2014年12月5日，新加坡金融管理局（MAS）宣布发布有关人工智能（以下简称AI）模型风险管理的建议。MAS强调，这些建议是在审查银行使用AI后发布的，并指出了AI的潜在风险。

该文件我们以机翻为主，并进行了人工微调。由于篇幅原因，本文仅展示其中的部分核心内容，如需获取全文翻译pdf文件，请在本公众号后台回复“ 人工智能模型风险管理 ”（不含双引号），供各位读者参考。

【主要内容】

随着AI的发展，金融机构已经在关键领域中大量使用了AI，如风险管理、客户参与和服务，以及内部运营流程。虽然在这些领域使用AI可以提高运营效率、促进风险管理和加强金融服务，但如果开发或部署不负责任，也会存在潜在风险，例如：

• 财务风险，用于风险管理的AI准确性不高，可能会导致风险评估失误并造成财务损失。

• 运营风险，用于金融业务自动化的AI的意外行为可能导致运营中断或关键流程出错。

• 监管风险，用于支持反洗钱工作的AI性能不佳，可能导致违反相关法律法规。

• 声誉风险，聊天机器人等AI客户系统提供的错误或不恰当信息可能导致客户投诉和媒体负面关注，进而造成声誉损失。

MAS基于AI监督和治理、风险管理以及AI开发和部署的良好实践提出以下建议：

关于监督和治理，MAS建议:

• 更新风险管理职能的现有政策和程序，以加强AI治理；

• 建立跨职能监督论坛以解决AI问题；

• 制定明确的原则，以保证公平、合乎道德、负责和透明地使用AI。

关于风险管理，MAS建议:

• 识别银行中AI的使用情况和风险;

• 使用AI库存系统来记录AI的使用情况;

• 评估AI风险的危险性。

关于AI的开发和部署，MAS建议:

• 建立在数据管理中部署AI的标准和流程;

• 在部署之前对AI进行独立审查;

• 为AI建立部署前检查和监控系统。

声    明

本文的所有内容均来自公开的资源和第三方，包含的链接可能会指向其他网站或资源，这些网站或资源并不由本公众号控制或拥有。本文不代表编辑的观点，以及编辑供职机构或其他相关机构的意见。本文仅为交流之用，如有任何意见，可以公众号后台私信提出。

❖

关于AI与网络法团队：