大模型专题：大模型安全实践（2024）白皮书

如何下载资料？

微信扫下方二维码加入星球平台

【老会员续费特惠】

今天分享的是：大模型专题：大模型安全实践（2024）白皮书

报告共计：42页

《大模型安全实践（2024）白皮书》由清华大学、中关村实验室、蚂蚁集团等联合编写，分析大模型发展趋势与挑战，提出安全实践总体框架，从多方面剖析安全技术，介绍行业实践案例并展望未来。大模型发展呈开源、通用与专用化并行、云边端协同等趋势，但面临技术缺陷、个人与企业层面风险及社会层面冲击等挑战。安全实践总体框架以“以人为本，AI向善”为指导思想，涵盖安全、可靠、可控三个关键维度及端、边、云三种落地模式。在技术方案上，安全性技术研究涉及数据、模型、系统、内容、认知、伦理等多方面安全风险及相应防御技术；可靠性技术研究聚焦对抗鲁棒性、真实性、价值对齐；可控性技术研究包括可解释性、可标识和可追溯、指令遵循。行业实践案例涵盖金融、医疗、政务、人力资源、智能助理等领域，展示大模型安全措施成效。未来大模型安全需构建全面管理框架，迫切需求标准支撑，通过测试验证构建安全体系屏障，完善基础设施，同时政府、企业、社会等各方应共同协作，形成“五维一体”治理框架，促进大模型安全发展。

以下为报告节选内容