生成式人工智能、大模型等人工智能技术已然引爆了全球AI 安全热战，人工智能产业、网络安全产业、各行各业应该如何应对？
在企业战略中，人工智能已成为推动创新和增长的核心力量。然而，随着AI技术的深入应用，确保其系统的安全性、可靠性和伦理合规性变得尤为关键。安全是确保人工智能可持续发展的必要条件。当前，对AI安全专家的需求日益增长，特别是既精通AI技术原理，又熟悉安全策略、数据隐私保护及伦理法规的复合型人才。
为了满足这一需求，云安全联盟大中华区推出人工智能安全认证专家（Certified Artificial Intelligence Security Professional，CAISP）培训与认证计划。首期公开课将于8月初正式开课，课程全面覆盖 AI 安全领域，针对研究、管理、运营、开发及网络安全等多个领域的从业人员，提供一套综合的课程体系，包括AI安全的基础理论、技术实践、案例分析以及全球视野下的法规治理等内容。
CAISP课程对象
安全研究员、合规与风险管理专员、AI安全工程师、AI工程师与开发者、政策制定者和监管机构、网络安全从业者、AI行业从业人员、在校学生、AI应用终端用户。
CAISP课程目标
本次公开课聚焦AI安全领域人才培养，直击行业人才短缺及安全挑战：
跨领域AI安全专家孵化：结合技术、法律、伦理、管理和技术应用，全方位提升AI安全综合治理能力。
国际化安全标准倡导：结合全球AI安全标准和法规，培养国际视野，确保企业合规性。
实战与合规并举：通过实际案例和实践指导，提升解决AI安全实际问题的能力。
CAISP公开课课程内容
基础篇
AI与AI安全基本概念
AI与安全衍生
技术发展脉络
技术篇
常见AI算法与模型介绍
AI模型与算法安全分析
数据隐私保护与安全措施
法规治理与道德伦理篇
国内外AI安全法律法规、标准规范分析
AI安全治理框架
AI伦理道德挑战与分析
典型场景下的AI伦理道德风险
安全风险篇
大模型安全风险概述
典型攻击与应对策略：提示攻击、对抗攻击、梯度泄露攻击、推理攻击、模型萃取攻击、供应链攻击、应对策略
防御机制解析
安全管理篇
DevSecOps与AI
AI安全需求分析与设计
安全的AI系统开发指南与实践
AI安全测评框架应用
AI渗透测试技术与方法
AI安全运营保障体系建设
标准与评估篇
AI安全框架
AI成熟度模型应用与评估
AI安全标准与测评认证实践
特别篇ChatGPT的安全影响
恶意行为者利用LLM的安全分析
防御者如何将LLM应用于网络安全
恶意提示词攻击的防范措施
企业安全使用ChatGPT的最佳实践
实践案例篇
现实世界中的AI安全问题深度分析
AI安全解决方案制定与应对策略
关键领域的AI安全最佳实践案例
行业大模型应用及安全实践案例
CAISP培养关键能力
核心知识与技能构建：培养学员在AI安全领域的扎实基础，确保其能有效应对现代数字化安全挑战。掌握识别并防御各类安全威胁，特别是应对对抗性攻击的能力。
AI算法与模型安全精通：深入理解AI常用算法和模型及其安全性，强化防范对抗性攻击的技巧，实施有效防御措施，确保数据安全免受泄露。
大模型安全风险管理：掌握大型AI模型的安全漏洞识别、应对策略与管理，提升对各类攻击的防御能力以及系统性评估AI安全威胁能力。
AI安全法规与安全治理：全面掌握国内外AI安全相关的政策法规与标准规范及AI安全治理体系，掌握AI安全治理的方法论、整体体系架构及各模块能力，全面提升学员对AI安全治理的能力。
DevSecOps与AI集成安全：融合DevSecOps原则于AI开发流程，熟练运用DevSecOps框架于AI项目中，提升开发环境中的安全实践水平，确保AI应用的安全集成与维护。
全生命周期AI安全管理：掌握AI应用从需求设计到测试部署的全周期安全管理，设计安全的AI系统，执行渗透测试，强化企业AI安全实施能力。
大语言模型安全实践：安全实施和管理大语言模型，专攻大语言模型（LLM）的安全应用，识别并抵御未来安全威胁，提升防御恶意利用的能力，增强风险应对策略。
AI安全成熟度提升：运用AI安全成熟度模型，掌握评估与提升AI安全成熟度的方法，依据测评结果实施改进策略，全面评估并优化系统安全性能。
ChatGPT安全最佳实践：掌握ChatGPT安全使用策略，在企业中安全高效地利用ChatGPT，制定并执行安全操作规范，确保技术应用的合规与安全。
政策法规与伦理道德：熟悉相关政策法规，识别伦理风险，应用有效的治理机制，增强学员对国内外AI安全政策、法规及伦理道德的理解。
CAISP公开课信息
上课时间：8 月3 日、4 日（周六、周日）、10 日（周六）
上课形式：线上授课
课程费用：培训费：4500元人民币；7月22日前早鸟价3599元人民币（不含认证费）
灯塔计划：在校学生599元人民币（适用于在校大专生、本科生、硕士生、博士生，含2024年应届毕业生）。
CAISP报名通道
欢迎抢先报名学习，成为首批AI安全认证专家，共同提升AI安全技能，为AI时代的安全挑战做好准备。
About More
云安全联盟（Cloud Security Alliance,CSA）是中立、权威的全球性非营利产业组织，于2009年正式成立，致力于定义和提高业界对云计算和下一代数字技术安全最佳实践的认识，推动数字技术与安全产业全面发展。国际云安全联盟大中华区（CSA GCR）作为CSA全球四大区之一，2016年在香港独立注册，于2021年在中国登记注册，是网络安全领域首家在中国境内注册备案的国际NGO，旨在立足中国，连接全球，推动大中华区网络安全技术标准与产业的发展及国际合作。
CSA发布的《云计算关键领域安全指南》是云安全领域奠基性研究成果，全球范围认可，具有广泛影响力，此外，《云控制矩阵CCM》被誉为云安全的“黄金标准”，是全球性通用性标准。CSA与CSA GCR区面向云计算与下一代数字技术安全的产业发展需要，持续丰富完善数字安全的人才培养体系。
