資料探勘:實用機器學習工具與技術, 3/e (Data Mining: Practical Machine Learning Tools and Techniques, 3/e) 数据挖掘:实用机器学习工具与技术(原书第3版)

威滕 (Ian H.Witten), 弗蘭克 (Eibe Frank), 霍爾 (Mark A.Hall)

已絕版

買這商品的人也買了...

相關主題

商品描述

本書是機器學習和數據挖掘領域的經典暢銷教材,被眾多國外名校選為教材。

書中詳細介紹用於數據挖掘領域的機器學習技術和工具以及實踐方法,並且提供了一個公開的數據挖掘工作平臺Weka。

本書主要內容包括:數據輸入/輸出、知識表示、數據挖掘技術(決策樹、關聯規則、基於實例的學習、線性模型、聚類、多實例學習等)以及在實踐中的運用。

本版對上一版內容進行了全面更新,以反映自第2版出版以來數據挖掘領域的技術變革和新方法,包括數據轉換、集成學習、大規模數據集、多實例學習等,以及新版的Weka機器學習軟件。

作者簡介

Ian H. Witten新西蘭懷卡託大學計算機科學系教授,ACM Fellow和新西蘭皇家學會Fellow,曾榮獲2004年國際信息處理研究協會(IFIP)頒發的Namur獎項。他的研究興趣包括語言學習、信息檢索和機器學習。

Eibe Frank新西蘭懷卡託大學計算機科學系副教授,《Machine Learning Journal》和《Journal of Artificial Intelligence Research》編委。

Mark A. Hall新西蘭懷卡託大學名譽副研究員,曾獲得2005年ACM SIGKDD服務獎。

 

李川博士,副教授,四川大學計算機學院數據庫知識工程研究所副所長,中國計算機學會數據庫專委會委員。主持國家自然科學基金青年基金等項目多項,合作發表論文30餘篇,獲四川省科技成果二等獎1項。

目錄大綱

出版者的話

譯者序

前言

致謝

第一部分數據挖掘簡介

第1章緒論2 

1.1數據挖掘和機器學習2 

1.1.1描述結構模式3 

1.1.2機器學習5 

1.1.3數據挖掘6 

1.2簡單的例子:天氣問題和其他問題6 

1.2.1天氣問題7 

1.2.2隱形眼鏡:一個理想化的問題8 

1.2.3鳶尾花:一個經典的數值型數據集10 

1.2.4 CPU性能:介紹數值預測11 

1.2.5勞資協商:一個更真實的例子11 

1.2.6大豆分類:一個經典的機器學習的成功例子13 

1.3應用領域14 

1.3.1 Web挖掘15 

1.3.2包含評判的決策15 

1.3.3圖像篩選16 

1.3. 4負載預測17 

1.3.5診斷17 

1.3.6市場和銷售18 

1.3.7其他應用19 

1.4機器學習和統計學20 

1.5將泛化看做搜索21 

1.5.1枚舉概念空間22 

1.5.2偏差22 

1.6數據挖掘和道德24

1.6.1再識別25 

1.6.2使用個人信息25 

1.6.3其他問題26 

1.7補充讀物27 

第2章輸入:概念、實例和屬性29 

2.1概念29 

2.2樣本31 

2.2.1關係32 

2.2.2其他實例類型34 

2.3屬性35 

2.4輸入準備37 

2.4.1數據收集37 

2.4.2 ARFF格式38 

2.4.3稀疏數據40 

2.4.4屬性類型40 

2.4.5缺失值41 

2.4.6不正確的值42 

2.4.7了解數據43 

2.5補充讀物43 

第3章輸出:知識表達44 

3.1表44 

3.2線性模型44 

3.3樹45 

3.4規則48 

3.4.1分類規則49 

3.4.2關聯規則52 

3.4.3包含例外的規則52 

3.4. 4表達能力更強的規則54 

3.5基於實例的表達56 

3.6聚類58 

3.7補充讀物60 

第4章算法:基本方法61 

4.1推斷基本規則61

4.1.1缺失值和數值屬性62 

4.1.2討論64 

4.2統計建模64 

4.2.1缺失值和數值屬性67 

4.2.2用於文檔分類的樸素貝葉斯68 

4.2.3討論70 

4.3分治法:建立決策樹70 

4.3.1計算信息量73 

4.3.2高度分支屬性74 

4.3.3討論75 

4.4覆蓋算法:建立規則76 

4.4.1規則與樹77 

4.4.2一個簡單的覆蓋算法77 

4.4.3規則與決策列表80 

4.5挖掘關聯規則81 

4.5.1項集81 

4.5.2關聯規則83 

4.5.3有效地生成規則85 

4.5.4討論87 

4.6線性模型87 

4.6.1數值預測:線性回歸87 

4.6. 2線性分類:Logistic回歸88 

4.6.3使用感知機的線性分類90 

4.6.4使用Winnow的線性分類91 

4.7基於實例的學習92 

4.7.1距離函數93 

4.7.2有效尋找最近鄰93 

4.7.3討論97 

4.8聚類97 

4.8.1基於距離的迭代聚類98

4.8.2快速距離計算99 

4.8.3討論100 

4.9多實例學習100 

4.9.1聚集輸入100 

4.9.2聚集輸出100 

4.9.3討論101 

4.10補充讀物101 

4.11 Weka實現103 

第5章可信度:評估學習結果104 

5.1訓練和測試104 

5.2預測性能106 

5.3交叉驗證108 

5.4其他評估方法109 

5.4.1留一交叉驗證109 

5.4.2自助法109 

5.5數據挖掘方法比較110 

5.6預測概率113 

5.6.1二次損失函數114 

5.6.2信息損失函數115 

5.6.3討論115 

5.7計算成本116 

5.7.1成本敏感分類117 

5.7.2成本敏感學習118 

5.7.3提升圖119 

5.7.4 ROC曲線122 

5.7.5召回率—精確率曲線124 

5.7.6討論124 

5.7.7成本曲線125 

5.8評估數值預測127 

5.9最小描述長度原理129 

5.10在聚類方法中應用MDL原理131

5.11補充讀物132 

第二部分高級數據挖掘

第6章實現:真正的機器學習方案134 

6.1決策樹135 

6.1.1數值屬性135 

6.1.2缺失值136 

6.1.3剪枝137 

6.1.4估計誤差率138 

6.1.5決策樹歸納的複雜度140 

6.1.6從決策樹到規則140 

6.1.7 C4.5:選擇和選項141 

6.1.8成本—複雜度剪枝141 

6.1.9討論142 

6.2分類規則142 

6.2 .1選擇測試的標準143 

6.2.2缺失值和數值屬性143 

6.2.3生成好的規則144 

6.2.4使用全局優化146 

6.2.5從局部決策樹中獲得規則146 

6.2.6包含例外的規則149 

6.2.7討論151 

6.3關聯規則152 

6.3.1建立頻繁模式樹152 

6.3.2尋找大項集157 

6.3.3討論157 

6.4擴展線性模型158 

6.4.1最大間隔超平面159 

6.4.2非線性類邊界160 

6.4.3支持向量回歸161 

6.4.4核嶺回歸163

6.4.5核感知機164 

6.4.6多層感知機165 

6.4.7徑向基函數網絡171 

6.4.8隨機梯度下降172 

6.4.9討論173 

6.5基於實例的學習174 

6.5.1減少樣本集的數量174 

6.5.2對噪聲樣本集剪枝174 

6.5.3屬性加權175 

6.5.4泛化樣本集176 

6.5.5用於泛化樣本集的距離函數176 

6.5.6泛化的距離函數177 

6.5.7討論178 

6.6局部線性模型用於數值預測178 

6.6.1模型樹179 

6.6.2構建樹179 

6.6.3對樹剪枝180 

6.6.4名目屬性180 

6.6.5缺失值181 

6.6.6模型樹歸納的偽代碼181 

6.6.7從模型樹到規則184 

6.6.8局部加權線性回歸184 

6.6.9討論185 

6.7貝葉斯網絡186 

6.7.1預測186 

6.7.2學習貝葉斯網絡189 

6.7.3算法細節190 

6.7.4用於快速學習的數據結構192 

6.7.5討論194 

6.8聚類194

6.8.1選擇聚類的個數195 

6.8.2層次聚類195 

6.8.3層次聚類的例子196 

6.8.4增量聚類199 

6.8.5分類效用203 

6.8.6基於概率的聚類204 

6.8 .7 EM算法205 

6.8.8擴展混合模型206 

6.8.9貝葉斯聚類207 

6.8.10討論209 

6.9半監督學習210 

6.9.1用於分類的聚類210 

6.9.2協同訓練212 

6.9.3 EM和協同訓練212 

6.9.4討論213 

6.10多實例學習213 

6.10.1轉換為單實例學習213 

6.10.2升級學習算法215 

6.10.3專用多實例方法215 

6.10.4討論216 

6.11 Weka實現216 

第7章數據轉換218 

7.1屬性選擇219 

7.1.1獨立於方案的選擇220 

7.1.2搜索屬性空間222 

7.1.3具體方案相關的選擇223 

7.2離散化數值屬性225 

7.2.1無監督離散化226 

7.2.2基於熵的離散化226 

7.2.3其他離散化方法229

7.2.4基於熵的離散化與基於誤差的離散化229 

7.2.5離散屬性轉換成數值屬性230 

7.3投影230 

7.3.1主成分分析231 

7.3.2隨機投影233 

7.3.3偏最小二乘回歸233 

7.3.4從文本到屬性向量235 

7.3.5時間序列236 

7.4抽樣236 

7.5數據清洗237 

7.5.1改進決策樹237 

7.5.2穩健回歸238 

7.5.3檢測異常239 

7.5.4一分類學習239 

7.6多分類問題轉換成二分類問題242 

7.6.1簡單方法242 

7.6.2誤差校正輸出編碼243 

7.6.3集成嵌套二分法244 

7.7校準類概率246 

7.8補充讀物247 

7.9 Weka實現249 

第8章集成學習250 

8.1組合多種模型250 

8.2裝袋251 

8.2.1偏差—方差分解251 

8.2.2考慮成本的裝袋253 

8.3隨機化253 

8.3.1隨機化與裝袋254 

8.3.2旋轉森林254 

8.4提升255

8.4.1 AdaBoost算法255 

8.4.2提升算法的威力257 

8.5累加回歸258 

8.5.1數值預測258 

8.5.2累加Logistic回歸259 

8.6可解釋的集成器260 

8.6.1選擇樹260 

8.6.2 Logistic模型樹262 

8.7堆棧262 

8.8補充讀物264 

8.9 Weka實現265 

第9章繼續:擴展和應用266 

9.1應用數據挖掘266 

9.2從大型的數據集裡學習268 

9.3數據流學習270 

9.4融合領域知識272 

9.5文本挖掘273 

9.6 Web挖掘276 

9.7對抗情形278 

9.8無處不在的數據挖掘280 

9.9補充讀物281 

第三部分Weka數據挖掘平台

第10章Weka簡介284 

10.1 Weka中包含了什麼284 

10.2如何使用Weka285 

10.3 Weka的其他應用286 

10.4如何得到Weka286 

第11章Explorer界面287 

11.1開始287 

11.1.1準備數據287

11.1.2將數據載入Explorer288 

11.1.3建立決策樹289 

11.1.4查看結果290 

11.1.5重做一遍292 

11.1.6運用模型292 

11.1.7運行錯誤的處理294 

11.2探索Explorer294 

11.2.1載入及過濾文件294 

11.2.2訓練和測試學習方案299 

11.2.3自己動手:用戶分類器301 

11.2.4使用元學習器304 

11.2.5聚類和關聯規則305 

11.2.6屬性選擇306 

11.2.7可視化306 

11.3過濾算法307 

11.3.1無監督屬性過濾器307 

11.3.2無監督實例過濾器312 

11.3.3有監督過濾器314 

11.4學習算法316 

11.4.1貝葉斯分類器317 

11.4.2樹320 

11.4 .3規則322 

11.4.4函數325 

11.4.5神經網絡331 

11.4.6懶惰分類器334 

11.4.7多實例分類器335 

11.4.8雜項分類器336 

11.5元學習算法336 

11.5.1裝袋和隨機化337

11.5.2提升338 

11.5.3組合分類器338 

11.5.4成本敏感學習339 

11.5.5優化性能339 

11.5.6針對不同任務重新調整分類器340 

11.6聚類算法340 

11.7關聯規則學習器345 

11.8屬性選擇346 

11.8.1屬性子集評估器347 

11.8.2單一屬性評估器347 

11.8.3搜索方法348 

第12章KnowledgeFlow界面351 

12.1開始351 

12.2 KnowledgeFlow組件353 

12.3配置及連接組件354 

12.4增量學習356 

第13章Experimenter界面358 

13.1開始358 

13.1.1運行一個實驗358 

13.1.2分析結果359 

13.2簡單設置362 

13.3高級設置363 

13.4分析面板365 

13.5將運行負荷分佈到多個機器上366 

第14章命令行界面368 

14.1開始368 

14.2 Weka的結構368 

14.2.1類、實例和包368 

14.2.2 weka.core包370

14.2.3 weka.classifiers包371 

14.2.4其他包372 

14.2.5 Javadoc索引373 

14.3命令行選項373 

14.3.1通用選項374 

14.3.2與具體方案相關的選項375 

第15章嵌入式機器學習376 

15.1一個簡單的數據挖掘應用376 

15.1.1 MessageClassifier()380 

15.1.2 updateData()380 

15.1.3 classifyMessage()381 

第16章編寫新的學習方案382 

16.1一個分類器範例382 

16.1.1 buildClassifier()389 

16.1.2 makeTree()389 

16.1.3 computeInfoGain()390 

16.1.4 classifyInstance()390 

16.1.5 toSource()391 

16.1.6 main()394 

16.2與實現分類器有關的慣例395 

第17章WekaExplorer的輔導練習397 

17.1 Explorer界面簡介397 

17.1.1導入數據集397 

17.1.2數據集編輯器397 

17.1.3應用過濾器398

17.1.4可視化面板399 

17.1.5分類器面板399 

17.2最近鄰學習和決策樹402 

17.2.1玻璃數據集402 

17.2.2屬性選擇403 

17.2.3類噪聲以及最近鄰學習403 

17.2.4改變訓練數據的數量404 

17.2.5交互式建立決策樹405 

17.3分類邊界406 

17.3.1可視化1R406 

17.3.2可視化最近鄰學習407 

17.3.3可視化樸素貝葉斯407 

17.3.4可視化決策樹和規則集407 

17.3. 5弄亂數據408 

17.4預處理以及參數調整408 

17.4.1離散化408 

17.4.2離散化的更多方面408 

17.4.3自動屬性選擇409 

17.4.4自動屬性選擇的更多方面410 

17.4.5自動參數調整410 

17.5文檔分類411 

17.5.1包含字符串屬性的數據411 

17.5.2實際文檔文類412 

17.5.3探索StringToWordVector過濾器413 

17.6挖掘關聯規則413 

17.6.1關聯規則挖掘413 

17.6.2挖掘一個真實的數據集415

17.6.3購物籃分析415 

參考文獻416 

索引431