英国标准协会开展人工智能算法审计和测试服务

清华大学智能法治研究院 · 公众号 · · 2025-01-23 14:50

正文

2024年11月20日，英国标准协会（BSI）宣布提供全球首创的人工智能（AI）算法验证和测试服务[1]。医疗科技初创公司DeepEyeVision成为全球首个接受该服务的公司。

在医疗保健等高风险领域使用基于AI的系统时，确保AI模型和数据集的安全性和可靠性至关重要。BSI这项服务旨在确保这些系统不受AI偏见的影响。该服务由经验丰富的技术和监管专家对AI算法、模型和用于训练它们的数据集进行自愿、独立和公正的评估。该服务验证了描述鲁棒性、偏差、分类性能和语义分割的AI性能指标的准确报告。

在DeepEyeVision案例中，其AI算法和模型基于视网膜扫描图像的强大数据集进行预测，以检测潜在的眼部疾病并实现更快的诊断和治疗。BSI新的AI算法审计和数据集测试服务对DeepEyeVision工具的独立评估证实，该公司准确报告了其AI性能指标和值。这意味着眼科医生、客户、监管机构和其他利益相关者可以确信，DeepEyeVision计算机辅助诊断产品中使用的模型和数据集已经过验证，从而为该组织的人工智能性能声明提供了信任。BSI依据一系列国际标准开展该项服务，包括AI辅助决策中的偏差标准（ISO 24027）、神经网络稳健性标准（ISO 24029-1）、机器学习评估标准（ISO 4213）、信息技术医学图像3D打印建模标准（ISO 3532-2）等。

[1] BSI. First Client Receives Validation from BSI's New AI Testing Service[EB/OL]. 2024-11-20. https://www.bsigroup.com/en-GB/insights-and-media/media-centre/press-releases/2024/november/first-client-receives-validation-from-bsis-new-ai-algorithm-audit-and-dataset-testing-services/

来源：标准化战略研究

英国标准协会开展人工智能算法审计和测试服务

正文

请到「今天看啥」查看全文