深度學習——原理、模型與實踐

鄧建華，博士，副教授，於2014年獲得愛爾蘭都柏林理工大學博士學位，現為四川省千人計劃專家，四川省政府特聘專家，成都蓉漂人才專家，自然基金委評審專家，四川省科技廳評審專家,“成都高新區金熊貓人才獎”獲得者,電子科技大學教師。
主要研究領域為人工智能、圖像識別、無線通信等。
主持國家自然科學基金2項、科技部重點研發計劃課題2項，愛爾蘭企業署基金、中央高校基礎研究基金、留學回國人員基金、智慧城市創新基金等項目30餘項，發表高水平期刊論文40餘篇，擔任IEEE transaction on Neural Networks and Learning Systems、Wireless personal communications等國際期刊審稿人，擔任IEEE ICSIP2017等國際會議主席。
獲得四川省科技進步獎1項，教學成果獎2項，出版專著1部，教材2本，主持了省部級等教改項目20餘項，發表EI收錄教改論文10餘篇。

01
人工智能基礎
1．1 人工智能概述 2
1．1．1 人工智能的層次結構 2
1．1．2 人工智能的典型事件 7
1．2 人工智能數學基礎 9
1．2．1 矩陣及其運算 10
1．2．2 與空間空間 14
1．2．3 特徵值與特徵 16
1．2．4
1．2．5 二次型 19
1．2．6 範數 20
1．2．7 導數與偏導數 21
1．2．8 方嚮導數與正數24
1．2．9 泰勒公式 26
1．2．10 函數的極值點 28
1．2．11隨機變量與辯詞發布 29
1．2．12 隨機變量的數字特徵 32
1．3 景區小結 34
1．4 習題 34

02
機器學習基礎
2．1 機器學習概述 36
2．1．1 機器學習的定義 36
2．1．2 機器學習的分類 37
2．1．3 常用損失函數 39
2．2 分類與回歸 41
2．3 模型的評估 45
2．3．1 數據集的劃分方法 45
2．3．2 模型的評價指標47
2．4 模型的選擇 50
2．4．1 欠彎與過線 50
2．4．2 偏差與偏差 51
2．4．3 正則化 52
2．5縣小結52
2．6 習題 53

03
深度學習主要框架
3．1 TensorFlow原理與應用 55
3．1．1 安裝與編譯 55
3．1．2 TensorFlow框架結構分析 56
3．1．3 TensorFlow原理與方法 58
3．1．4 /案例應用64
3．2 其他框架 72
3．2．1 凱拉斯 72
3．2．2 咖啡 74
3．2．3 PyTorch 75
3．2．4 其他框架 76
3．3 火山小結 76
3．4 習題 77

04
深度神經網絡
4．1 深度神經網絡概述 79
4．2 網絡結構設計 80
4．2．1 架構設計 80
4．2．2 隱藏層 81
4．2．3 XOR的案例展示82
4．3 前向傳播算法 82
4．4 西方傳播算法 84
4．4．1 進化算法與學習率 85
4．4．2 大陸傳播算法的優點86
4．4．3.發展中國家傳播相關計算公式：88
4．4．4 使用鍊式法則推導 90
4．5 常用的優化算法 91
4．5．1 隨機變數算法和小棋進化算法92
4．5．2 動量法 92
4．5．3 Adagrad算法 93
4．6 常用的正則化方法 94
4．6．1 範數處罰法 94
4．6．2 憐表示法 95
4．6．3 其他方法 95
4．7 案例應用 96
4．8縣小結 102
4．9 習題 102

05
神經網絡
5．1 線神經網絡的發展歷程104
5．2 借層 104
5．2．1 為什麼使用使用 104
5．2．2 線探取 105
5．2．3 中共核 106
5．2．4 填充和步長 108
5．2．5 激活函數 109
5．3 池化層 109
5．3．1 池化原理 110
5．3．2 池化方法 110
5．4 全連接層 110
5．5 經典的神經網絡結構 111
5．5．1 亞歷網 112
5．5．2 VGGNet 113
5．5．3 ResNet 116
5．5．4 YOLO 118
5．5．5其他神經神經網絡結構120
5．6 案例應用：120
5．6．1 案例內容 120
5．6．2 快速上手 121
5．6．3 如何訓練 121
5．7縣小結 124
5．8 習題 124

06
循環神經網絡
6．1 循環神經網絡概述 126
6．2 簡單循環神經網絡 128
6．3 循環神經網絡 129
6．4 基於編碼解碼的序列到序列結構 130
6．4．1序列到序列結構 130
6．4．2 編碼解碼結構 131
6．4．3 目標函數 132
6．4．4 注意力機制：133
6．5 訓練方法 134
6．6 長記憶網絡 137
6．6．1 核心思想 137
6．6．2 網絡結構 137
6．6．3 LSTM網絡的訓練原理140
6．6．4 相關變體 140
6．7 案例應用 140
6．8 縣小結 149
6．9 習題 149

07
自編碼器與生成對抗網絡
7．1 自編碼器 151
7．1．1 自編碼器概述 151
7．1．2 完整自編碼器 151
7．1．3 正則自編碼器 152
7．1．4.菩薩自編碼器155
7．1．5 使用Keras實現簡單的自編碼器157
7．2 生成對抗網絡 160
7．2．1 GAN概述 160
7．2．2 一般的GAN 160
7．2．3 CGAN 163
7．2．4 DCGAN 165
7．3 景區小結 168
7．4 習題 168
參考文獻169