深度捲積神經網絡原理與實踐

目錄
第1章 機器學習基礎 1
1.1 機器學習概述 1
1.1.1 機器學習的概念 1
1.1.2 機器學習的任務 2
1.1.3 機器學習的發展簡史 3
1.1.4 機器學習的典型應用 5
1.2 機器學習策略 6
1.2.1 有監督學習 6
1.2.2 無監督學習 6
1.2.3 半監督學習 6
1.2.4 強化學習 7
1.3 模型評估與選擇 7
1.3.1 歸納偏好 7
1.3.2 數據集劃分 8
1.3.3 性能度量 9
1.3.4 過擬合和欠擬合 10
1.4 神經網絡與深度學習 11
1.4.1 生物神經元 11
1.4.2 人工神經網絡 12
1.4.3 深度學習 14
1.5 本章小結 16
第2章 捲積神經網絡基本原理 17
2.1 捲積神經網絡概述 17
2.1.1 捲積神經網絡的發展 17
2.1.2 捲積神經網絡的基本原理與
組成 18
2.2 捲積層 19
2.2.1 基本捲積運算 19
2.2.2 捲積神經網絡中的捲積運算 21
2.2.3 捲積的作用 22
2.2.4 捲積層及參數 25
2.2.5 特殊捲積 26
2.3 激活層 29
2.3.1 激活函數簡述 29
2.3.2 典型的激活函數 30
2.4 池化層 34
2.4.1 池化操作 34
2.4.2 感受野 35
2.5 全連接層 36
2.6 目標函數 37
2.6.1 常用的損失函數 38
2.6.2 正則化項 39
2.7 捲積神經網絡的反向傳播 40
2.7.1 全連接層的反向傳播 40
2.7.2 池化層的反向傳播 41
2.7.3 捲積層的反向傳播 42
2.7.4 反向傳播實例 43
2.8 本章小結 45
第3章 典型捲積神經網絡結構 46
3.1 LeNet 46
3.1.1 LeNet網絡結構 46
3.1.2 LeNet主要特點 49
3.2 AlexNet 49
3.2.1 AlexNet網絡結構 49
3.2.2 AlexNet主要特點 51
3.3 VGGNet 53
3.3.1 VGGNet網絡結構 53
3.3.2 VGGNet主要特點 55
3.4 GoogLeNet 55
3.4.1 Inception v1與Inception v2 56
3.4.2 Inception v3 59
3.4.3 Inception v4 60
3.5 ResNet 61
3.5.1 殘差網絡的動機 61
3.5.2 ResNet網絡結構 62
3.6 其他網絡結構 64
3.6.1 DenseNet 64
3.6.2 SPPNet 64
3.6.3 SENet 66
3.6.4 MobileNet 66
3.7 本章小結 67
第4章 Python編程基礎 68
4.1 Python語言簡介 68
4.1.1 Python的發展簡史 68
4.1.2 Python的主要特點 68
4.1.3 Python的主要應用領域 69
4.2 Python編程環境搭建 70
4.2.1 Windows下的安裝 70
4.2.2 Linux下的安裝 72
4.3 Python程序設計 73
4.3.1 編程規範 73
4.3.2 變量與數據類型 73
4.3.3 運算符與表達式 77
4.3.4 結構化程序設計 79
4.3.5 函數與模塊 81
4.3.6 面向對象程序設計 84
4.4 Python基礎工具庫 89
4.4.1 NumPy 89
4.4.2 Pandas 92
4.4.3 Matplotlib 94
4.5 本章小結 95
第5章 PyTorch基礎 96
5.1 常見的深度學習框架簡介 96
5.1.1 Caffe 96
5.1.2 TensorFlow 97
5.1.3 PyTorch 97
5.1.4 其他框架 98
5.2 PyTorch的下載與安裝 98
5.2.1 Linux下的安裝 98
5.2.2 Windows下的安裝 100
5.3 PyTorch中的Tensor 101
5.3.1 Tensor的數據類型 101
5.3.2 Tensor的基本操作 102
5.3.3 Tensor的基本運算 104
5.3.4 Tensor的數據結構 107
5.4 自動求導 108
5.4.1 計算圖 108
5.4.2 自動求導機制 109
5.5 模型搭建和參數優化 111
5.5.1 神經網絡工具箱 111
5.5.2 常用的神經網絡層 113
5.5.3 前饋神經網絡搭建 116
5.5.4 優化器 118
5.6 PyTorch入門實戰 119
5.6.1 手寫數字識別 119
5.6.2 CIFAR-10數據分類 122
5.7 本章小結 124
第6章 數據集與數據處理 125
6.1 典型數據集及標註 125
6.1.1 典型數據集 125
6.1.2 數據標註 129
6.2 數據預處理 132
6.2.1 數據清洗 132
6.2.2 數據採樣 133
6.2.3 數據標準化 133
6.2.4 數據集劃分 134
6.3 數據增廣 135
6.3.1 幾何變換 135
6.3.2 顏色變換 139
6.3.3 圖像降質 140
6.4 PyTorch數據集處理實例 142
6.4.1 相關模塊簡介 142
6.4.2 PyTorch自帶數據集的使用 143
6.4.3 Dataset類的繼承 146
6.4.4 一般數據集處理 152
6.5 本章小結 156
第7章 捲積神經網絡的訓練 157
7.1 網絡超參數 157
7.1.1 輸入圖像大小 157
7.1.2 捲積層超參數 158
7.1.3 池化層超參數 158
7.2 網絡的訓練 158
7.2.1 參數初始化 158
7.2.2 網絡優化算法與策略 159
7.2.3 批量規一化 167
7.2.4 學習率的設定 169
7.2.5 訓練數據置亂 170
7.3 圖像分類實例 170
7.3.1 網絡結構超參數比較 170
7.3.2 不同優化算法比較 180
7.4 遷移學習與網絡微調 181
7.4.1 遷移AlexNet到貓狗數據集
實例 181
7.4.2 遷移VGG-19到瓜子數據集
實例 186
7.5 本章小結 189
第8章 圖像去噪 190
8.1 圖像去噪基礎知識 190
8.1.1 噪聲模型 190
8.1.2 傳統圖像去噪方法 192
8.1.3 去噪算法設計與評價 193
8.2 基於去噪自編碼器的圖像去噪 194
8.2.1 自編碼器簡介 194
8.2.2 MNIST數據集實驗 195
8.2.3 Waterloo數據集實驗 203
8.3 基於殘差學習的圖像去噪 207
8.3.1 基本原理 207
8.3.2 去噪實驗 207
8.3.3 非高斯噪聲的去除 209
8.4 本章小結 211
第9章 圖像修復 212
9.1 圖像修復基礎知識 212
9.1.1 圖像修復概念 212
9.1.2 基於深度學習的圖像修復
方法 213
9.2 基於DCGAN的圖像修復 214
9.2.1 生成式對抗網絡 214
9.2.2 手寫體生成實例 216
9.2.3 基於DCGAN的人臉修復 221
9.3 基於Context-Encoder的圖像
修復 226
9.3.1 Context-Encoder模型結構 226
9.3.2 算法與實驗 228
9.4 本章小結 236
第10章 目標檢測 237
10.1 目標檢測基礎知識 237
10.1.1 傳統目標檢測方法 237
10.1.2 基於捲積神經網絡的目標
檢測方法 238
10.1.3 目標檢測評價指標 238
10.1.4 目標檢測數據集 239
10.2 兩階段目標檢測網絡 240
10.2.1 R-CNN 240
10.2.2 Fast R-CNN 242
10.2.3 Faster R-CNN 244
10.3 單階段目標檢測網絡 246
10.3.1 YOLO 246
10.3.2 SSD 249
10.4 MMDetection檢測算法庫 250
10.4.1 MMDetection安裝 251
10.4.2 模型的測試 252
10.4.3 模型的訓練 253
10.4.4 MMDetection算法配置
文件解析 255
10.4.5 使用自己的數據集 258
10.5 本章小結 261
參考文獻 262