機器學習與算法應用

本教材從實用的角度出發，採用理論與實踐相結合的方式，介紹機器學習算法與應用的基礎知識，力求培養讀者使用機器學習相關算法進行數據分析的能力。本教材的主要內容有機器學習概述，機器學習的Python常用庫，回歸分析與應用，特徵工程、降維與超參數調優，分類算法與應用，關聯規則，聚類算法與應用，神經網絡，文本分析，圖像數據分析，深度學習入門。本教材可以作為人工智能學科相關的機器學習技術的入門教材，目的不在於覆蓋機器學習技術的所有知識點，而是介紹機器學習的常用算法及其應用，使讀者瞭解機器學習的基本構成及不同場景下使用何種機器學習算法。為了增強實踐效果，本教材引入了多個基礎技術案例及綜合實踐案例，以幫助讀者瞭解機器學習涉及的基本知識和技能。本教材可作為高等院校機器學習算法與應用課程的教材，也可供對機器學習技術感興趣的讀者閱讀參考。

第1章 機器學習概述 1
1.1　機器學習簡介 1
1.1.1 機器學習簡史 1
1.1.2 機器學習主要流派 3
1.2　人工智能、數據挖掘和機器學習 5
1.2.1 什麽是人工智能 5
1.2.2 什麽是數據挖掘 6
1.2.3 人工智能、數據挖掘和機器學習的關系 7
1.3　典型機器學習應用領域 7
1.3.1 藝術創作 7
1.3.2 金融領域 8
1.3.3 醫療領域 9
1.3.4 自然語言處理 10
1.3.5 網絡安全 12
1.4　機器學習算法分類 14
1.4.1 分類算法 15
1.4.2 關聯分析 19
1.4.3 回歸分析 19
1.4.4 深度學習 20
1.5　機器學習的一般流程 22
第2章 機器學習的Python常用庫 24
2.1　Numpy簡介及基礎使用 24
2.1.1 Numpy簡介 24
2.1.2 Numpy基礎使用 27
2.2　Pandas簡介及基礎使用 31
2.2.1 Pandas簡介 31
2.2.2 Pandas自行車數據統計分析 36
2.3　Matplotlib簡介及基礎使用 42
2.3.1 Matplotlib簡介 42
2.3.2 Matplotlib繪圖實例 45
2.4　Scikit-Learn簡介及基礎使用 52
2.4.1 Scikit-Learn安裝與簡介 52
2.4.2 Scikit-Learn基礎使用 56
2.5　波士頓房價預測實驗 59
第3章 回歸分析與應用 64
3.1　回歸分析問題 64
3.1.1 介紹 64
3.1.2 常見回歸數據集 66
3.2　線性回歸 68
3.2.1 原理與應用場景 68
3.2.2 實現線性回歸 70
3.2.3 Python實現最小二乘法擬合直線 71
3.3　嶺回歸和Lasso回歸 72
3.3.1 原理與應用場景 73
3.3.2 實現嶺回歸 75
3.3.3 實現Lasso回歸 76
3.4　邏輯回歸 76
3.4.1 原理與應用場景 76
3.4.2 實現邏輯回歸 78
第4章 特徵工程、降維與超參數調優 80
4.1　特徵工程 80
4.1.1 缺失值處理 81
4.1.2 數據的特徵值化 87
4.1.3 特徵選擇 89
4.1.4 特徵構建 89
4.2　降維與超參數調優 91
4.2.1 降維 91
4.2.2 實現降維 92
4.2.3 超參數調優 93
第5章 分類算法與應用 97
5.1　分類問題簡介 97
5.1.1 分類問題的流程與任務 97
5.1.2 常用的分類數據集 98
5.2　K近鄰算法 102
5.2.1 K近鄰算法原理與應用場景 102
5.2.2 基於K近鄰算法實現分類任務 103
5.2.3 使用Python實現KNN算法 110
5.3　概率模型 111
5.3.1 原理 111
5.3.2 應用場景 111
5.4　樸素貝葉斯分類 112
5.4.1 原理與應用場景 112
5.4.2 樸素貝葉斯算法應用 115
5.5　向量空間模型 115
5.5.1 原理與應用場景 115
5.5.2 向量空間模型應用 116
5.6　支持向量機 120
5.6.1 支持向量機概述 120
5.6.2 支持向量機實現分類 122
5.6.3 支持向量機實現回歸 123
5.6.4 支持向量機異常檢測 123
5.6.5 過擬合問題 125
5.7　集成學習 129
5.7.1 集成學習概述 129
5.7.2 決策樹 131
5.7.3 隨機森林 135
5.7.4 Adaboost算法 137
第6章 關聯規則 140
6.1　關聯規則的概念 140
6.1.1 什麽是關聯規則 140
6.1.2 關聯規則的挖掘過程 141
6.2　Apriori算法 142
6.2.1 Apriori算法概念 142
6.2.2 Apriori算法實現原理 142
6.2.3 實現Apriori算法 144
第7章 聚類算法與應用 148
7.1　無監督學習問題 148
7.1.1 無監督學習 148
7.1.2 聚類分析的基本概念與原理 149
7.1.3 常見聚類數據集 150
7.2　劃分聚類 152
7.2.1 劃分聚類概述 152
7.2.2 K-Means算法 152
7.2.3 sklearn中K-Means算法聚類的使用 155
7.2.4 使用聚類進行圖像壓縮 156
7.2.5 Numpy實現K-Means聚類 158
7.3　層次聚類 159
7.3.1 層次聚類算法 159
7.3.2 使用層次聚類算法聚類 161
7.4　密度聚類 162
7.4.1 DBSCAN算法 163
7.4.2 OPTICS算法 167
7.4.3 DENCLUE算法 168
7.5　聚類效果評測 169
第8章 神經網絡 172
8.1　神經網絡介紹 172
8.1.1 神經元原理 173
8.1.2 前饋神經網絡 174
8.1.3 反饋神經網絡 175
8.1.4 自組織神經網絡 176
8.2　神經網絡相關概念 177
8.2.1 激活函數 177
8.2.2 Softmax算法與損失函數 182
8.2.3 梯度下降算法 185
8.2.4 學習率 186
8.2.5 過擬合與欠擬合 187
8.2.6 神經網絡模型的評估指標 189
8.3　神經網絡識別MNIST手寫數據集 190
第9章 文本分析 198
9.1　文本數據處理的相關概念 198
9.2　中英文的文本數據處理方法對比 199
9.2.1 中英文分詞與分詞粒度 200
9.2.2 中英文的多種形態 200
9.2.3 詞性標註方法的差異 201
9.2.4 句法結構分析方法 201
9.3　文本數據處理分析案例 202
9.3.1 使用NLTK進行文本數據分析 202
9.3.2 使用jieba進行文本數據分析 215
9.4　自然語言處理的應用 221
第10章 圖像數據分析 226
10.1　圖像數據 226
10.2　圖像數據分析方法 228
10.3　圖像數據分析案例 230
10.3.1 PIL：Python圖像處理類庫應用示例 230
10.3.2 Numpy圖像數據分析示例 235
10.3.3 SciPy圖像數據分析示例 238
10.3.4 Scikit-Image 241
10.3.5 OpenCV 246
10.4　電腦視覺的應用 255
10.4.1 圖像分類 256
10.4.2 目標檢測 257
10.4.3 圖像分割 258
10.4.4 風格遷移 260
10.4.5 圖像重構 260
10.4.6 超分辨率 261
10.4.7 圖像生成 261
10.4.8 人臉圖像的應用 262
10.4.9 其他 262
第11章 深度學習入門 263
11.1　深度學習的概述 263
11.2　捲積神經網絡 264
11.2.1 捲積神經網絡簡介 264
11.2.2 捲積神經網絡的整體結構 265
11.2.3 常見的捲積神經網絡 267
11.3　循環神經網絡 276
11.3.1 RNN基本原理 276
11.3.2 長短期記憶網絡 278
11.3.3 門限循環單元 282
11.4　深度學習流行框架 283
11.5　基於捲積神經網絡識別手寫數字的實戰 284
11.5.1 實驗目的 284
11.5.2 實驗背景 284
11.5.3 實驗原理 285
11.5.4 實驗環境 285
11.5.5 實驗步驟 285