人工智能：數據與模型安全

序
前言
常用符號表
第1章 人工智能與安全概述
1.1 人工智能的定義
1.2 人工智能的發展
1.2.1 三起兩落
1.2.2 重大突破
1.3 人工智能安全
1.3.1 數據與模型安全
1.3.2 現實安全問題
1.4 本章小結
1.5 習題

第2章 機器學習基礎
2.1 基本概念
2.2 學習範式
2.2.1 有監督學習
2.2.2 無監督學習
2.2.3 強化學習
2.2.4 其他範式
2.3 損失函數
2.3.1 分類損失
2.3.2 單點回歸損失
2.3.3 邊框回歸損失
2.3.4 人臉識別損失
2.3.5 自監督學習損失
2.4 優化方法
2.4.1 梯度下降
2.4.2 隨機梯度下降
2.4.3 改進的隨機梯度下降
2.5 本章小結
2.6 習題

第3章 人工智能安全基礎
3.1 基本概念
3.2 威脅模型
3.2.1 白盒威脅模型
3.2.2 黑盒威脅模型
3.2.3 灰盒威脅模型
3.3 攻擊類型
3.3.1 攻擊目的
3.3.2 攻擊對象
3.3.3 攻擊時機
3.4 防禦類型
3.4.1 攻擊檢測
3.4.2 數據保護
3.4.3 模型增強
3.5 本章小結
3.6 習題

第4章 數據安全：攻擊
4.1 數據投毒
4.1.1 標簽投毒攻擊
4.1.2 在線投毒攻擊
4.1.3 特徵空間攻擊
4.1.4 雙層優化攻擊
4.1.5 生成式攻擊
4.1.6 差別化攻擊
4.1.7 投毒預訓練大模型
4.2 隱私攻擊
4.2.1 成員推理攻擊
4.2.2 屬性推理攻擊
4.2.3 其他推理攻擊
4.3 數據竊取
4.3.1 黑盒數據竊取
4.3.2 白盒數據竊取
4.3.3 數據竊取大模型
4.4 篡改與偽造
4.4.1 普通篡改
4.4.2 深度偽造
4.5 本章小結
4.6 習題

第5章 數據安全：防禦
5.1 魯棒訓練
5.2 差分隱私
5.2.1 差分隱私概念
5.2.2 差分隱私在深度學習中的應用
5.3 聯邦學習
5.3.1 聯邦學習概述
5.3.2 橫向聯邦
5.3.3 縱向聯邦
5.3.4 隱私與安全
5.4 篡改與深偽檢測
5.4.1 普通篡改檢測
5.4.2 深度偽造檢測
5.5 本章小結
5.6 習題

第6章 模型安全：對抗攻擊
6.1 白盒攻擊
6.2 黑盒攻擊
6.2.1 查詢攻擊
6.2.2 遷移攻擊
6.3 物理攻擊
6.4 本章小結
6.5 習題

第7章 模型安全：對抗防禦
7.1 對抗樣本成因
7.1.1 高度非線性假說
7.1.2 局部線性假說
7.1.3 邊界傾斜假說
7.1.4 高維流形假說
7.1.5 不魯棒特徵假說
7.2 對抗樣本檢測
7.2.1 二級分類法
7.2.2 主成分分析法
7.2.3 異常分佈檢測法
7.2.4 預測不一致性
7.2.5 重建不一致性
7.2.6 誘捕檢測法
7.3 對抗訓練
7.3.1 早期對抗訓練
7.3.2 PGD對抗訓練
7.3.3 TRADES對抗訓練
7.3.4 樣本區分對抗訓練
7.3.5 數據增廣對抗訓練
7.3.6 參數空間對抗訓練
7.3.7 對抗訓練的加速
7.3.8 大規模對抗訓練
7.3.9 對抗蒸餾
7.3.10 魯棒模型結構
7.4 輸入空間防禦
7.4.1 輸入去噪
7.4.2 輸入壓縮
7.4.3 像素偏轉
7.4.4 輸入隨機化
7.4.5 生成式防禦
7.4.6 圖像修復
7.5 可認證防禦
7.5.1 基本概念
7.5.2 認證小模型
7.5.3 認證中模型
7.5.4 認證大模型
7.6 本章小結
7.7 習題

第8章 模型安全：後門攻擊
8.1 輸入空間攻擊
8.2 模型空間攻擊
8.3 特徵空間攻擊
8.4 遷移學習攻擊
8.5 聯邦學習攻擊
8.6 任務場景攻擊
8.7 本章小結
8.8 習題

第9章 模型安全：後門防禦
9.1 後門模型檢測
9.2 後門樣本檢測
9.3 後門移除
9.3.1 訓練中移除
9.3.2 訓練後移除
9.4 本章小結
9.5 習題

第10章 模型安全：竊取攻防
10.1 模型竊取攻擊
10.1.1 基於方程式求解的竊取攻擊
10.1.2 基於替代模型的竊取攻擊
10.1.3 基於元模型的竊取攻擊
10.2 模型竊取防禦
10.2.1 信息模糊
10.2.2 查詢控制
10.2.3 模型溯源
10.3 本章小結
10.4 習題

第11章 未來展望
11.1 未來攻擊
11.2 未來防禦
11.3 本章小結
參考文獻