模式識別與智能信息處理技術

前言
第1章 緒論 1
1.1 模式識別系統的基本含義 1
1.2 模式識別技術的研究進展 3
1.2.1 模式識別技術的產生和發展 3
1.2.2 模式識別技術的應用現狀 3
1.3 模式識別系統構成及機器學習模式 7
1.3.1 模式識別系統構成 7
1.3.2 機器學習模式 7
第2章 貝葉斯決策理論 9
2.1 貝葉斯公式 9
2.1.1 數學基礎知識 9
2.1.2 貝葉斯公式分析 11
2.2 基於最小錯誤率的貝葉斯決策 13
2.2.1 決策過程 13
2.2.2 最小錯誤率貝葉斯分類器 14
2.3 基於最小風險的貝葉斯決策 16
2.3.1 決策過程 16
2.3.2 決策面方程 20
第3章 分類器設計 22
3.1 參數估計 22
3.1.1 參數估計的基本概念 22
3.1.2 參數估計的方法 23
3.2 線性判別函數與分類器 28
3.2.1 線性判別函數基本理論 29
3.2.2 線性分類器設計 30
3.2.3 多類別分類中線性分類器的應用 31
3.3 組合分類器 32
3.3.1 組合分類器原理 32
3.3.2 組合分類器的典型算法 37
3.4 模糊分類器 40
3.4.1 模糊集的基本知識 40
3.4.2 模糊特征和模糊分類 43
第4章 無監督模式聚類方法 45
4.1 近鄰法 45
4.1.1 最近鄰法 45
4.1.2 k近鄰法 48
4.1.3 近鄰法的改進 50
4.2 C均值算法 52
4.2.1 C均值算法原理 52
4.2.2 模糊C均值算法 54
4.2.3 改進的模糊C均值算法 56
4.3 決策樹 56
4.3.1 決策樹的結構 56
4.3.2 決策樹的建立 57
4.3.3 常見的決策樹方法 58
4.3.4 決策樹分類中存在的問題 61
4.4 隨機森林 62
4.4.1 隨機森林的構建 62
4.4.2 隨機森林的泛化誤差 63
4.5 無監督模式聚類的特點 63
4.5.1 常見的聚類評價指標 63
4.5.2 評價聚類方法的可靠性辦法 64
4.5.3 聚類分析的應用 65
第5章 特征選擇與提取 66
5.1 數據預處理 66
5.1.1 數據歸一化 66
5.1.2 數字濾波 67
5.2 類別可分離性判據 70
5.2.1 基於類內類間距離的可分離性判據 71
5.2.2 基於概率分布的可分離性判據 72
5.2.3 基於熵函數的類別可分離性判據 73
5.2.4 類別可分離性判據的直接應用舉例 74
5.3 特征提取 75
5.3.1 小波變換 75
5.3.2 K-L變換 77
5.3.3 主成分分析 80
5.4 特征選擇 86
5.4.1 最優搜索算法 88
5.4.2 次優搜索算法 92
第6章 智能優化算法 95
6.1 遺傳算法 95
6.1.1 遺傳算法基本概念 95
6.1.2 遺傳算法基本原理 96
6.1.3 遺傳算法應用中的常見問題 105
6.1.4 遺傳算法的應用實例 106
6.2 模擬退火算法 110
6.2.1 模擬退火算法及模型 110
6.2.2 模擬退火算法的馬爾可夫鏈描述 113
6.2.3 模擬退火算法關鍵參數和操作的設計 114
6.2.4 模擬退火算法的優缺點和改進 115
6.2.5 模擬退火算法的應用 116
6.3 群智能優化算法 119
6.3.1 蟻群優化算法 119
6.3.2 粒子群優化算法 124
6.3.3 人工免疫算法 126
6.3.4 其他群智能優化算法 129
6.4 多目標優化算法 131
6.4.1 多目標優化問題概述 131
6.4.2 多目標優化算法分析 134
6.4.3 多目標優化算法測試函數 135
第7章 人工神經網絡和深度學習 138
7.1 人工神經網絡的產生和發展 138
7.1.1 生物神經元與人工神經元 138
7.1.2 感知機 142
7.2 BP神經網絡 147
7.2.1 BP神經網絡概述 148
7.2.2 BP神經網絡結構 148
7.2.3 BP神經網絡算法 149
7.2.4 BP神經網絡的主要功能 151
7.3 卷積神經網絡 152
7.3.1 卷積神經網絡概述 153
7.3.2 卷積神經網絡結構 153
7.4 深度學習 159
7.4.1 深度學習概述 159
7.4.2 幾種深度學習框架 160
7.4.3 循環神經網絡 163
7.4.4 長短時記憶網絡 173
7.4.5 生成對抗網絡 180
7.4.6 遷移學習 188
第8章 機器學習方法 196
8.1 統計學習理論 196
8.1.1 統計學習概述 196
8.1.2 統計學習三要素 198
8.1.3 監督學習概述 202
8.1.4 模型評估與選擇 204
8.1.5 交叉驗證 205
8.1.6 泛化能力 206
8.1.7 回歸問題 206
8.2 線性支持向量機 207
8.2.1 支持向量機概述 208
8.2.2 線性支持向量機的原理 208
8.3 非線性支持向量機 219
8.3.1 非線性支持向量機的原理 219
8.3.2 核函數 220
8.4 相關向量機與孿生支持向量機 228
8.4.1 相關向量機 228
8.4.2 孿生支持向量機 235
參考文獻 240