課程介紹
云安全聯盟CSA大中華區推出人工智能安全認證專家（Certified Artificial Intelligence Security Professional，CAISP）培訓課程，本課程專注于理解人工智能安全的治理與管理環境，學習AI安全的術語與安全目標、針對于算法、模型以及數據安全和隱私進行學習，全面提升對AI安全風險的識別、評估與測評等實戰化能力；課程還涵蓋了AI安全的國內與國外的法律法規框架，并通過實際案例，探討如何在組織中實施AI安全。此外，學員還將具體學習如何應對AI安全的風險與挑戰，包括應對數據投毒、對抗性攻擊和供應鏈威脅等多種安全挑戰。
培訓對象
AI行業相關人員：AI工程師與開發者、AI安全工程師、AI應用的終端用戶；
安全相關人員：安全研究員、合規與風險管理科技工作者、網絡安全從業者;
其他：政策制定者和監管機構人員、數字化轉型工作人員、理工類師生。
課程收益
核心知識與技能構建；
AI算法與模型安全精通；
大模型安全風險管理；
AI安全法規與安全治理；
DevSecOps與AI集成安全；
全生命周期AI安全管理；
大語言模型安全實踐；
AI安全成熟度提升；
ChatGPT安全最佳實踐；
政策法規與倫理道德。
知識概要
-- AI安全概述篇；
-- 技術基礎篇；
-- 安全風險篇；
-- 政策與治理篇；
-- 全生命周期管理篇；
-- 標準與評估篇；
-- 特別篇ChatGPT的安全影響；
-- 實踐案例篇；
-- 倫理與未來發展篇。
課程大綱
AI安全概述篇
AI與AI安全基本概念
AI與安全衍生
技術發展脈絡
技術基礎篇
常見AI算法與模型介紹
AI模型與算法安全性分析
數據隱私保護與安全措施
安全風險篇
大模型安全風險概述
典型攻擊與應對策略：提示攻擊、對抗攻擊、梯度泄露攻擊、推理攻擊、模型萃取攻擊、供應鏈攻擊、應對策略
防御機制解析
政策與治理篇
國內外AI安全法律法規、標準規范分析
AI安全治理框架
全生命周期管理篇
DevSecOps與AI
AI安全需求分析與設計
安全的AI系統開發指南與實踐
AI安全測評框架應用
AI滲透測試技術與方法
AI安全運營保障體系建設
標準與評估篇
AI安全框架
AI成熟度模型應用與評估
AI安全標準與測評認證實踐
特別篇ChatGPT的安全影響
惡意行為者利用LLM的安全分析
防御者如何將LLM應用于網絡安全
惡意提示詞攻擊的防范措施
企業安全使用ChatGPT的最佳實踐
實踐案例篇
現實世界中的AI安全問題深度分析
解決方案制定與應對策略
關鍵領域的AI安全最佳實踐案例
行業大模型應用及安全實踐案
倫理與未來發展篇
AI倫理道德挑戰與分析
典型場景下的AI倫理道德風險
認證過程
考試入口：https://exam.c-csa.cn 線上考試；
考試方式：限時考試，90分鐘內完成60道題，題型為單選和多選題；
證書獲取：考生獲得70%以上的成績為通過考試，通過后系統生成考試證書。
開班信息
暫無開班信息