人工神經網絡理論及應用 普通高等教育"十三五"规划教材·普通高等教育电气工程自动化系列规划教材:人工神经网络理论及应用

韓力群，工學博士，北京工商大學計算機與信息工程學院教授，北京科技大學、北京郵電大學客座教授。長期從事神經網絡理論及應用、模式識別與智能係統、智能控制等人工智能領域的研究與教學，主持和主研各類科研與教研項目40餘項，發表論文近150篇，出版學術著作15部，獲國家發明專利4項。韓力群教授曾任中國人工智能學會第五屆、第六屆理事會副理事長，教育部自動化專業第壹屆、第二屆教學指導委員會委員。現任中國人工智能學會智能產品與產業工作委員會主任，中國計算機用戶協會仿真應用分會副理事長，全國智能機器人創新聯盟常務副理事長兼秘書長，（國家體育總局）中國素質體育機器人運動工作委員會副主任兼專家委主任，（教育部）全國學校機器人聯盟副主席，核心期刊《計算機仿真》編委會副主任、《智能係統學報》編委會副主任。
 

施彥，博士，北京工商大學副教授。2000年北京理工大學獲工學學士學位（工業自動化），2005年獲博士學位（控制理論與控制工程），同年到北京工商大學任教。曾赴美國明尼蘇達大學和清華大學作雙語教學培訓和人工智能方向訪問研究。長期從事人工智能、智能信息處理以及仿真等領域的教學工作，並圍繞化工、農業、物流、經濟等行業的智能信息處理和決策問題開展科學研究。發表相關論文十餘篇，出版學術著作3部。

前言

第1章緒論1 
1.1人工神經網絡概述1 
1.1.1人腦與計算機信息處理能力的比較2 
1.1.2人腦與計算機信息處理機制的比較3 
1.1.3什麼是人工神經網絡4 
1.2人工神經網絡發展簡史5 
1.2.1啟蒙時期5 
1.2.2低潮時期7 
1.2.3復興時期8 
1.2.4新時期9 
1.2.5海量數據時代12 
1.2.6國內研究概況12 
1.3神經網絡的基本特徵與功能13 
1.3.1神經網絡的基本特點13 
1.3.2神經網絡的基本功能13 
1.4神經網絡的應用領域15 
1.41信息處理領域15 
1.4.2自動化領域16 
1.4.3工程領域16 
1.4.4醫學領域17 
1.4.5經濟領域17 
本章小結18 
習題19 

第2章人工神經網絡建模基礎20 
2.1腦的生物神經系統概述20 
2.1.1人體神經系統的構成20 
2.1.2高級中樞神經系統的功能21 
2.1. 3腦組織的分層結構22 
2.2生物神經網絡基礎23 
2.2.1生物神經元的結構23 
2.2.2生物神經元的信息處理機理24 
2.3人工神經元模型26 
2.3.1神經元的建模26 
2.3 .2神經元的數學模型27 
2.3 .3神經元的變換函數28 
2.4人工神經網絡模型30 
2.4.1網絡拓撲結構類型30 
2.4.2網絡信息流向類型31 
2.5神經網絡學習32 
2.5.1Hebbian學習規則34 
2.5.2離散感知器學習規則35 
2.5.3連續感知器學習規則36 
2.5.4最小方均學習規則37 
2.5.5相關學習規則38 
2.5.6勝者為王學習規則38 
2.5.7外星學習規則38 
本章小結40 
習題40 

第3章感知器神經網絡42 
3.1單層感知器42 
3.1.1感知器模型42 
3.1.2感知器的功能43 
3.1.3感知器的局限性45 
3.1.4感知器的學習算法45 
3.2多層感知器47 
3.3自適應線性單元簡介49 
3.3.1ADALINE模型49 
3.3.2ADALINE學習算法49 
3.3.3ADALINE應用51 
3.4誤差反傳算法51 
3.4.1基於BP算法的多層感知器模型52 
3.4.2BP學習算法53 
3.4 .3BP算法的程序實現56 
3.4.4多層感知器的主要能力57 
3.4.5誤差曲面與BP算法的局限性58 
3.5標準BP算法的改進59 
3.5.1增加動量項59 
3.5.2自適應調節學習率59 
3.5.3引入陡度因子60 
3.6基於BP算法的 多層感知器設計基礎60 
3.6.1網絡信息容量與訓練樣本數60 
3.6.2訓練樣本集的準備61 
3.6.3初始權值的設計64 
3.6.4多層感知器結構設計65 
3.6.5網絡訓練與測試66 
3.7基於BP算法的多層感知器應用與設計實例67 
3.7.1基於BP算法的多層感知器用於催化劑配方建模67 
3.7.2基於BP算法的多層感知器用於汽車變速器最佳擋位判定68 
3.7.3基於BP算法的多層感知器用於圖像壓縮編碼69 
3.7.4基於BP算法的多層感知器用於水庫優化調度69 
3.8基於MATLAB的BP網絡應用實例70 
3.8.1BP網絡用於數據擬合70 
3.8.2BP網絡用於鳶尾花分類問題72 
擴展資料76 
本章小結77 
習題77 

第4章自組織競爭神經網絡80 
4.1競爭學習的概念與原理80 
4.1.1基本概念80 
4.1. 2競爭學習原理82 
4.2自組織特徵映射神經網絡84 
4.2.1SOFM網的生物學基礎85 
4.2.2SOFM網的拓撲結構與權值調整域85 
4.2.3自組織特徵映射網的運行原理與學習算法86 
4.2.4SOFM網 設計基礎90 
4.2.5應用與設計實例92 
4.3學習向量量化神經網絡95 
4.3.1向量量化95 
4.3.2LVQ網絡結構與工作原理96 
4.3.3LVQ網絡的學習算法97 
4.4對偶傳播神經網絡98 
4.4.1網絡結構與運行原理98 
4.4.2CPN的學習算法99 
4.4.3改進的CPN網100 
4.4.4CPN網的應用
4.5自適應共振理論網絡
4.51ARTⅠ型網絡
4.5.2ARTⅡ型網絡
4.6基於MATLAB的SOM網絡聚類實例
擴展資料
本章小結
習題

第5章徑向基函數神經網絡
5.1基於徑向基函數技術的函數逼近與內捕
5.1.1插值問題描述
5.1.2徑向基函數技術解決插值問題
5.1.3完全內插存在的問題
5.2正則化理論與正則化RBF網絡
5.2.1正則化理論
5.2.2正則化RBF網絡
5.3模式可分性觀點與廣義RBF網絡
5.3.1式的可分性
5.3.2廣義RBF網絡
5.4RBF網絡常用學習算法
5.4.1數據中心的聚類算法
5.4.2數據中心的監督學習算法
5.5RBF網絡與多層感知器的比較
5.6RBF網絡的設計與應用實例
5.6.1RBF網絡在液化氣銷 量預測中的應用
5.6.2RBF網絡在地表水質評價中的應用
5.6.3RBF網絡在汽油干點軟測量中的應用
5.7基於MATLAB的RBF網絡應用實例
擴展資料
本章小結
習題

第6章反饋神經網絡
6.1離散型Hopfield神經網絡
6.1.1網絡的結構與工作方式
6.1.2網絡的穩定性與吸引子
6.1.3網絡的權值設計
6.1.4網絡的信息存儲容量
6.2連續型Hopfield神經網絡
6.2.1網絡的拓樸結構
6.2.2能量函數與穩定性分析
6.3Hoprield網絡應用與設計實例
6.3.1應用DHNN網解決聯想問題
6.3.2應用CHNN網解決優化計算問題
6.4雙向聯想記憶神經網絡
6.4.1BAM網結構與原理
6.4.2能量函數與穩定性
6.43BAM網的權值設計
6.4.4BAM網的應用
6.5隨機神經網絡
6.5.1模擬退火原理
6.5.2玻爾茲曼機
擴展資料
本章小結
習題

第7章小腦模型神經網絡
7.1CMAC網絡的結構
7.2CMAC網絡的工作原理
7.2.1從X到M的映射
7.2.2從M到A的映射
7.2.3從A到AP的映射
7.2.4從AP到F的映射
7.3 CMAC網絡的學 習算法
7.4CMAC網絡的應用
擴展資料

第8章深度神經網絡
8.1深度神經網絡框架
8.1.1選擇深層模型的原因
8.1.2深度網絡的訓練算法
8.1.3深度學習的軟件工具及平台
8.2受限玻爾茲曼機和深度置信網
8.2.1受限玻爾茲曼機的基本結構
8.2.2受限玻爾茲曼機的能量模型和似然函數
8.2.3最優參數的梯度計算
8.2.4基於對比散度的快速算法
8.2.5深度置信網絡
8.3卷積神經網絡
8.3.1卷積神經網絡基本概念及原理
8.3.2卷積神經網絡完整模型
8.3.3CNN的學習
8.3.4CNN應用
8.4堆棧式自動編碼器
8.4.1自編碼算法與稀疏性
8.4.2棧式自動編碼器
8.4.3棧式自編碼網絡在手寫數字分類中的應用
擴展資料
本章小結
習題

第9章支持向量機
9.1支持向量機的基本思想
9.1.1最優超平面的概念
9.1.2線性可分數據最優超平面的構建
9.1.3非線性可分數據最優超平面的構建
9.2非線性支持向量機
9.2.1基於內積核的最優超平面
9.2.2非線性支 持向量機神經網絡
9.3支持向量機的學習算法
9.4支持向量機設計應用實例
9.4.1XOR問題
9.4.2人工數據分類
9.4.3手寫體阿拉伯數字識別
9.5基於MATLAB的支持向量機分類
擴展資料
本章小結
習題

第10章遺傳算法與神經網絡進化
10.1遺傳算法的原理與特點
10.1.1遺傳算法的基本原理
10.1.2遺傳算法的特點
10.2遺傳算法的基本操作與模式理論
10.2.1遺傳算法的基本操作
10.2.2遺傳算法的模式理論
10.3遺傳算法的實現與改進
10.3.1編碼問題
10.3.2初始種群的產生
10.3.3適應度的設計
10.3.4遺傳算法的操作步驟
10.3.5遺傳算法中的參數選擇
10.3. 6遺傳算法的改進
10.4遺傳算法在神經網絡設計中的應用
10.4.1遺傳算法用於神經網絡的權值優化
10.4.2遺傳算法用於神經網絡的結構優化
本章小結
習題

第11章神經網絡系統設計與軟硬件實現
11.1神經網絡系統總體設計
11.1.1神經網絡的適用範圍
11.1.2神經網絡的設計過程 需求分析
11.13神經網絡的性能評價
11.1.4輸入數據的預處理
11.2神經網絡的軟件實現
11.3神經網絡的高級開發環境
11.3.1神經網絡的開發環境及其特徵
11.3.2MATLAB神經網絡工具箱
11.3.3其他神經網絡開發環境簡介
11.4神經網絡的硬件實現
11.4.1概述
11.4.2神經元器件
11.4.3神經網絡系統結構
11.4.4神經網絡的光學實現
擴展資料
本章小結
習題

第12章人工神經系統
12.1人工神經系統的基本概念
12.1.1生物神經系統
12.1.2人工神經系統
12.2人工神經系統的體系結構
12.2.1高級中樞神經系統
12.2.2低級中樞神經系統
12.2.3外周神經系統
12.3人工神經系統的控制特性
12.3.1神經快速、分區控制系統
12.3.2體液慢速、分工控制系統
12.3.3人體神經控制系統
12.4人工神經系統的信息模式
12.4.1“數字—模擬”混合信息模式
12.4.2“串行—並行”兼容信息模式
12.4.3“集中—分散”結合信息模式
12.5人工神經系統的應 示例
12.5.1擬人智能綜合自動化系統
12.5.2人工魚的總體技術方案
本章小結
習題
參考文獻