機密計算：AI 數據安全和隱私保護

本書系統介紹了面向人工智能領域中的數據安全、隱私保護技術和工程實踐。
本書首先探討了人工智能領域所面臨的各種數據安全和隱私保護的問題及其核心需求，
並在此基礎上縱覽和比較了各種隱私保護計算技術和解決方案的利弊；
然後詳細闡述了目前比較具有工程實踐優勢的可信執行環境技術，
及其在主流人工智能場景中的工程實踐參考案例。
此外，本書介紹了關於數據安全和隱私保護的概念、原理、
框架及產品，從而幫助讀者對機密計算的技術全景有整體的理解。

本書適合計算機和軟件行業從業者、研究人員及高校師生閱讀，
尤其適合從事人工智能和隱私保護計算的架構師和開發人員閱讀。

目錄
第1部分基本概念框架
第1章數據安全的挑戰與需求 2
1.1 數據安全的戰略意義 3
1.2 數據產業面臨的安全挑戰 5
1.3 數據安全核心需求 8
1.3.1 數據生命週期 8
1.3.2 數據安全需求 9
1.4 隱私保護計算背景10
1.4.1 基本概念10
1.4.2 國內外政策環境12
1.5 AI領域中的數據安全問題15
1.5.1 AI中的CIA數據安全模型15
1.5.2 AI中的攻擊模型16
1.5.3 典型AI場景中的數據安全問題18
參考文獻20

第2章隱私保護計算技術21
2.1 安全多方計算22
2.1.1 安全多方計算的定義和分類22
2.1.2 不經意傳輸23
2.1.3 混淆電路25
2.1.4 秘密共享27
2.1.5 零知識證明29
2.1.6 應用場景31
2.2 同態加密31
2.2.1 部分同態加密33
2.2.2 類同態加密37
2.2.3 全同態加密38
2.2.4 應用場景40
2.3 差分隱私41
2.3.1 基本定義42
2.3.2 噪聲機制42
2.3.3 應用場景44
2.4 可信執行環境45
2.4.1 英特爾SGX 46
2.4.2 ARM TrustZone 47
2.4.3 AMD SEV 48
2.4.4 應用場景51
2.5 各類技術比較51
2.5.1 安全多方計算52
2.5.2 同態加密52
2.5.3 差分隱私53
2.5.4 可信執行環境53
參考文獻54

第3章AI場景中的隱私保護計算方案58
3.1 聯邦學習59
3.1.1 聯邦學習簡介59
3.1.2 橫向聯邦學習架構及案例60
3.1.3 縱向聯邦學習架構及案例62
3.2 聯邦學習擴展方案64
3.2.1 共享智能64
3.2.2 聯邦智能65
3.2.3 知識聯邦66
3.3 AI推理67
3.4 隱私保護計算方案總結69
參考文獻70

第2部分深度技術解析
第4章可信執行環境技術72
4.1 背景介紹73
4.2 架構概述75
4.2.1 芯片支持75
4.2.2 固件支持80
4.2.3 軟件棧80
4.3 關鍵技術82
4.3.1 內存組織結構83
4.3.2 內存加密引擎85
4.3.3 Enclave生命週期88
4.3.4 線程運行模式91
4.3.5 密鑰92
4.3.6 認證92
4.4 SGX防禦的攻擊98
4.4.1 硬件攻擊防禦99
4.4.2 軟件攻擊防禦99
4.5 SGX面臨的威脅及其防禦101
4.5.1 拒絕服務攻擊101
4.5.2 Iago攻擊102
4.5.3 側通道攻擊102
4.5.4 Enclave代碼漏洞102

第5章可信執行環境應用程序開發104
5.1 軟件棧105
5.1.1 驅動105
5.1.2 Qemu/KVM虛擬化106
5.1.3 軟件棧SDK和PSW 107
5.1.4 數據中心認證DCAP 109
5.2 應用程序開發112
5.2.1 應用程序開發基本原理112
5.2.2 應用程序基本構成115
5.2.3 Hello World案例116
5.3 TEE生態技術介紹125
5.3.1 TEE SDK 125
5.3.2 TEE程序分割126
5.3.3 TEE LibOS 128
5.3.4 TEE容器棧135
第3部分工程應用實踐

第6章聯邦學習的隱私保護與工程實踐138
6.1 聯邦學習的數據安全問題139
6.1.1 半誠實的參與方的問題141
6.1.2 第三方協作者的數據安全問題147
6.1.3 傳輸間數據安全問題148
6.2 TEE安全技術解決方案153
6.2.1 應用程序隔離153
6.2.2 遠程認證155
6.2.3 基於遠程認證的傳輸層安全協議156
6.3 案例實踐163
6.3.1 橫向聯邦學習實踐164
6.3.2 縱向聯邦學習實踐170
6.3.3 總結與展望173
參考文獻174

第7章在線推理服務的安全方案與工程實踐176
7.1 在線推理服務的安全問題177
7.1.1 雲原生在線推理參考架構及其組件177
7.1.2 威脅模型與安全目標181
7.2 安全方案與設計原理188
7.2.1 安全技術與方案188
7.2.2 安全模型與邊界192
7.3 案例實踐194
參考文獻198

第8章大數據AI的安全方案和工程實踐200
8.1 大數據AI應用中的安全問題201
8.1.1 大數據生態與相關技術202
8.1.2 安全目標206
8.1.3 威脅模型208
8.2 安全技術與參考方案209
8.2.1 現有大數據安全技術209
8.2.2 基於TEE的大數據AI安全方案218
8.2.3 工作流程與安全性分析219
8.3 案例實踐222
8.3.1 可信的大數據AI平臺223
8.3.2 可信的聯邦學習平臺225
8.4 總結與展望229
參考文獻230