PyTorch與深度學習實戰

胡小春，广西财经学院，副教授，主要研究大数据分析与智能计算方向；近五年主持与参与国家级、省部级科研课题5项、市厅级项目3项，在《小型微型计算机系统》、《农业机械学报》等期刊发表学术论文30余篇，主持、参与省部级教改项目5项，主讲《计算机网络》、《数据库原理》等课程，主编与参编北京理工大学出版社的《计算机基础实践教程》和《Python程序设计》，指导学生获互联网+、程序设计大赛等国家级、省部级专业竞赛赛一、二、三等奖多项奖项。

第 1章　深度學習概述　1

1.1　深度學習簡介　1

1.1.1　深度學習的定義　1

1.1.2　深度學習的常見應用　2

1.2　深度學習與應用領域　9

1.2.1　深度學習與電腦視覺　9

1.2.2　深度學習與自然語言處理　10

1.2.3　深度學習與語音識別　11

1.2.4　深度學習與機器學習　12

1.2.5　深度學習與人工智能　13

1.3　PyTorch簡介　14

1.3.1　各深度學習框架對比　14

1.3.2　PyTorch生態　16

1.3.3　PyTorch特點　17

1.3.4　PyTorch安裝　17

1.4　PyTorch中的預訓練模型　23

1.4.1　預訓練模型的概念　23

1.4.2　預訓練模型的使用場景　24

1.4.3　PyTorch預訓練模型的調用方法　25

小結　26

課後習題　26

第 2章　PyTorch深度學習通用流程　28

2.1　數據加載與預處理　29

2.1.1　數據加載　29

2.1.2　數據預處理　30

2.1.3　加載及預處理貓狗分類數據　37

2.2　構建網絡　42

2.2.1　常用的網絡構建方法　42

2.2.2　激活函數　46

2.2.3　構建基於捲積神經網絡的貓狗分類網絡　50

2.3　編譯網絡　53

2.3.1　損失函數　53

2.3.2　優化器　56

2.3.3　編譯基於捲積神經網絡的貓狗分類網絡　59

2.4　訓練網絡　60

2.4.1　迭代次數　60

2.4.2　批訓練　61

2.4.3　訓練基於捲積神經網絡的貓狗分類網絡　61

2.5　性能評估　62

2.5.1　評估指標　62

2.5.2　評估基於捲積神經網絡的貓狗分類模型的性能　63

小結　66

實訓　CIFAR-10圖像分類　66

課後習題　67

第3章　PyTorch深度學習基礎　68

3.1　捲積神經網絡基礎　68

3.1.1　常用的捲積神經網絡算法及其結構　68

3.1.2　捲積神經網絡中的常用網絡層　72

3.1.3　基於捲積神經網絡的手寫數字識別　87

3.2　循環神經網絡基礎　97

3.2.1　常用的循環神經網絡算法及其結構　97

3.2.2　循環神經網絡中的常用網絡層　101

3.2.3　基於LSTM網絡的時間序列分析　111

3.3　生成對抗網絡基礎　115

3.3.1　常用的生成對抗網絡算法及其結構　115

3.3.2　基於生成對抗網絡的手寫數字圖像生成　119

小結　126

實訓1　基於捲積神經網絡的人臉表情識別　126

實訓2　基於循環神經網絡的文本情感分類　126

實訓3　基於生成對抗網絡的人物圖片生成　127

課後習題　127

第4章　手寫漢字識別　129

4.1　目標分析　129

4.1.1　背景　129

4.1.2　分析目標　130

4.1.3　項目工程結構　131

4.2　加載數據　132

4.2.1　定義生成圖像集路徑文檔的函數　132

4.2.2　定義讀取並轉換圖像數據格式的類　133

4.2.3　加載圖像數據　134

4.3　構建網絡　135

4.4　編譯網絡　137

4.5　訓練網絡　138

4.6　性能評估　138

4.7　模型預測　140

小結　140

實訓　手寫中文數字識別　141

課後習題　141

第5章　文本生成　142

5.1　目標分析　142

5.1.1　背景　142

5.1.2　分析目標　143

5.1.3　項目工程結構　143

5.2　文本預處理　144

5.2.1　處理數據　144

5.2.2　創建字典　145

5.2.3　生成序列　146

5.3　構建網絡　148

5.3.1　定義文本生成類的構造方法　149

5.3.2　初始化權重　150

5.3.3　設置數據在網絡中的流動方向　151

5.4　訓練網絡　153

5.4.1　設置配置項　153

5.4.2　執行訓練　154

5.4.3　定義文本生成器　156

5.5　結果分析　159

小結　160

實訓　基於LSTM網絡的文本生成　160

課後習題　161

第6章　基於CycleGAN的圖像風格轉換　162

6.1　目標分析　162

6.1.1　背景　162

6.1.2　分析目標　163

6.1.3　項目工程結構　164

6.2　數據準備　164

6.3　構建網絡　166

6.3.1　殘差網絡　167

6.3.2　生成器　167

6.3.3　判別器　169

6.3.4　緩存隊列　170

6.4　訓練網絡　171

6.5　結果分析　175

小結　176

實訓　基於CycleGAN實現冬天與夏天的圖像風格轉換　176

課後習題　177

第7章　基於TipDM大數據挖掘建模平臺實現文本生成　178

7.1　平臺簡介　178

7.1.1　共享庫　180

7.1.2　數據連接　180

7.1.3　數據集　180

7.1.4　我的工程　181

7.1.5　個人組件　184

7.2　實現文本生成　184

7.2.1　配置數據源　185

7.2.2　文本預處理　187

7.2.3　構建網絡　189

7.2.4　訓練網絡　191

7.2.5　結果分析　195

小結　197

實訓　通過TipDM平臺實現基於LSTM網絡的文本生成　197

課後習題　197