人工智能安全认证专家

计算机与网络安全 · 公众号 · 互联网安全 · 2024-09-18 07:57

正文

微信公众号：计算机与网络安全

自助下载区

进网络安全行业群

公众号回复行业群

算力算网

人工智能

（大模型、AIGC、ChatGPT、Sora；机器学习、深度学习、联邦学习）

↓

人工智能

大型语言模型和检索增强生成

在数字化和人工智能快速发展的今天，数据安全成为企业运营的关键问题之一。尤其是在使用大型语言模型（LLMs）和检索增强生成（RAG）这类先进AI系统时，企业面临着前所未有的数据安全挑战。影子访问（Shadow Access）问题正是在这种背景下变得尤为突出和紧迫。

由云安全联盟大中华区发布的《以零信任应对AI部署中的影子访问风险》白皮书全面分析了影子访问问题及其与零信任安全模型和人工智能技术的关系。通过对影子访问的深入探讨，白皮书提供了一系列减少影子访问风险的建议和策略，为组织在应对数据安全挑战时提供了重要参考。随着LLMs和RAG等技术的发展，影子访问问题将变得更加复杂，零信任安全模型的应用也将面临新的挑战，持续的监控和更新将是保障数据安全的关键。

CAISP

人工智能安全认证专家

CAISP认证由云安全联盟大中华区发布，是首个全面覆盖AI安全领域的培训认证项目，从技术、法律、道德与伦理等多方面，提升AI安全综合治理能力；通过实际案例和实践指导，提升解决AI安全实际问题的能力。

该认证课程不仅填补了国内AI安全认证培训的空白，也为推动我国AI安全领域的技术创新和产业发展作出重要贡献。

CAISP学习对象

AI行业相关人员 ：AI工程师与开发者、AI安全工程师、AI应用终端用户；
安全相关人员 ：安全研究员、合规与风险管理专员、网络安全从业者；
其他：政策制定者和监管机构、科技管理者、在校学生

CAISP公开课课程内容

模块	培训内容
AI安全概述篇	AI与AI安全基本概念 AI与安全衍生技术发展脉络
技术基础篇	常见AI算法与模型介绍 AI模型与算法安全性分析数据隐私保护与安全措施
安全风险篇	大模型安全风险概述典型攻击与应对策略：提示攻击、对抗攻击、梯度泄露攻击、推理攻击、模型萃取攻击、供应链攻击、应对策略防御机制解析
政策与治理篇	国内外AI安全法律法规、标准规范分析 AI安全治理框架
全生命周期管理篇	DevSecOps与AI AI安全需求分析与设计安全的AI系统开发指南与实践 AI安全测评框架应用 AI渗透测试技术与方法 AI安全运营保障体系建设
标准与评估篇	AI安全框架 AI成熟度模型应用与评估 AI安全标准与测评认证实践
特别篇ChatGPT的安全影响	恶意行为者利用LLM的安全分析防御者如何将LLM应用于网络安全恶意提示词攻击的防范措施企业安全使用ChatGPT的最佳实践
实践案例篇	现实世界中的AI安全问题深度分析解决方案制定与应对策略关键领域的AI安全最佳实践案例行业大模型应用及安全实践案例
伦理与未来发展	AI伦理道德挑战与分析典型场景下的AI伦理道德风险未来发展趋势
考前串讲	考前要点讲解与考前练习