圖機器學習

目錄

基礎篇

第1章圖機器學習概論3引言3

本章學習目標3

1.1圖基礎知識3

1.1.1圖的定義和表示4

1.1.2圖的類型6

1.2圖機器學習11

1.2.1基本概念11

1.2.2任務與應用12

1.3圖機器學習的發展歷程19

1.3.1圖論時期19

1.3.2圖算法時期19

1.3.3復雜網絡時期20

1.3.4社交網絡分析時期21

1.3.5圖嵌入時期21

1.3.6圖神經網絡時期22

1.3.7未來展望23

1.4本章小結24

擴展閱讀材料24

習題25

參考文獻25

第2章基於特征工程的圖機器學習26

引言26

本章學習目標26

2.1節點級特征26

2.1.1中心性27

2.1.2局部聚類系數29

2.1.3圖元度向量30

2.2邊級特征31

2.2.1基於距離的特征32

2.2.2局部鄰域重合32

2.2.3全局鄰域重合34

2.3圖級特征37

2.3.1圖劃分37

2.3.2圖內部的特征38

2.3.3子圖間的特征43

2.3.4不同圖間相似性特征45

2.4本章小結49

擴展閱讀材料49

習題49

參考文獻50

第3章圖嵌入51

引言51

本章學習目標51

3.1圖嵌入基本概念51

3.2基於流形的圖嵌入模型52

3.2.1等距特征映射54

3.2.2局部線性嵌入54

3.2.3拉普拉斯特征映射55

3.3結構信息保持的圖嵌入模型56

3.3.1鄰域信息保持的圖嵌入57

3.3.2角色信息保持的圖嵌入61

3.3.3社區信息保持的圖嵌入64

3.3.4全局信息保持的圖嵌入65

3.4側信息保持的圖嵌入模型66

3.4.1屬性信息保持的圖嵌入66

3.4.2標簽信息保持的圖嵌入68

3.4.3多種側信息保持的圖嵌入71

3.5本章小結73

擴展閱讀材料74

習題74

參考文獻75

第4章圖神經網絡初步76

引言76

本章學習目標76

4.1圖神經網絡基礎76

4.1.1通用圖神經網絡框架77

4.1.2圖神經網絡輸入與輸出78

4.1.3圖神經網絡核心算子78

4.1.4圖神經網絡發展81

4.2核心算子設計83

4.2.1消息傳遞算子83

4.2.2圖池化算子88

4.2.3模型優化89

4.3經典圖神經網絡92

4.3.1圖卷積神經網絡92

4.3.2圖采樣聚合網絡93

4.3.3圖註意力網絡96

4.3.4圖同構網絡98

4.4本章小結100

擴展閱讀材料100

習題101

參考文獻102

第5章圖神經網絡進階103

引言103

本章學習目標103

5.1數據優化103

5.1.1圖結構優化104

5.1.2圖特征優化109

5.1.3圖標簽優化114

5.2架構優化116

5.2.1消息傳遞優化117

5.2.2圖采樣優化123

5.2.3圖池化優化126

5.3訓練優化129

5.3.1圖自監督學習130

5.3.2圖課程學習139

5.4本章小結142

擴展閱讀材料142

習題143

參考文獻143

進階篇

第6章圖機器學習前沿概述147引言147

本章學習目標147

6.1圖學習基礎理論147

6.1.1譜圖學習148

6.1.2黎曼空間圖學習149

6.1.3圖學習表達能力150

6.2復雜圖學習152

6.2.1異質圖學習152

6.2.2動態圖學習154

6.2.3超圖學習155

6.2.4幾何圖學習156

6.3可信圖學習157

6.3.1公平性159

6.3.2對抗魯棒性160

6.3.3分布外泛化161

6.3.4可解釋性162

6.3.5隱私保護163

6.4其他前沿方向164

6.4.1圖生成164

6.4.2圖轉換166

6.4.3大規模圖學習166

6.4.4圖基礎模型167

6.5本章小結169

擴展閱讀材料169

習題169

參考文獻170

第7章異質圖機器學習171

引言171

本章學習目標171

7.1異質圖基本概念171

7.2異質圖嵌入表示173

7.2.1基於鏈路的異質圖嵌入174

7.2.2基於路徑的異質圖嵌入175

7.2.3基於子圖的異質圖嵌入178

7.3異質圖神經網絡180

7.3.1半監督異質圖神經網絡180

7.3.2無監督異質圖神經網絡185

7.4異質圖機器學習應用190

7.4.1推薦190

7.4.2風控191

7.5本章小結191

擴展閱讀材料192

習題192

參考文獻192

第8章譜圖機器學習193

引言193

本章學習目標193

8.1譜圖基礎知識193

8.1.1相關術語定義與性質193

8.1.2圖傅裏葉變換196

8.1.3譜圖卷積198

8.2譜圖神經網絡199

8.2.1基於譜圖濾波器設計的圖神經網絡199

8.2.2基於譜圖位置編碼的圖神經網絡209

8.2.3譜圖對比學習214

8.3本章小結220

擴展閱讀材料220

習題220

參考文獻221

第9章可信圖神經網絡222

引言222

本章學習目標222

9.1圖神經網絡的魯棒性223

9.1.1圖攻擊模型224

9.1.2魯棒圖神經網絡228

9.2圖神經網絡的公平性229

9.2.1圖神經網絡的公平性定義231

9.2.2公平性圖神經網絡232

9.3圖神經網絡的分布外泛化235

9.3.1數據增強236

9.3.2模型增強238

9.3.3學習策略增強239

9.4圖神經網絡可解釋性242

9.4.1理想的解釋特質243

9.4.2解釋方法的評估指標244

9.4.3圖神經網絡可解釋性模型244

9.5本章小結247

擴展閱讀材料247

習題248

參考文獻248

第10章圖基礎模型249

引言249

本章學習目標249

10.1圖基礎模型概述249

10.1.1圖基礎模型的定義與特性251

10.1.2圖基礎模型的關鍵技術251

10.1.3圖數據和圖任務對圖基礎模型的影響252

10.1.4與語言基礎模型的對比253

10.2圖基礎模型技術途徑255

10.2.1基於GNN的模型255

10.2.2基於LLM的模型260

10.2.3基於LLM+GNN的模型264

10.3圖基礎模型發展方向268

10.3.1擴展定律268

10.3.2跨領域的挑戰270

10.3.3模型架構和訓練271

10.3.4應用與安全271

10.4本章小結272

擴展閱讀材料272

習題273

參考文獻273

應用篇

第11章圖機器學習平臺277引言277

本章學習目標277

11.1機器學習平臺概述277

11.1.1主要功能278

11.1.2機器學習平臺簡介279

11.1.3分布式機器學習概述281

11.2圖機器學習的計算特性及系統挑戰282

11.2.1圖數據結構計算特性282

11.2.2圖機器學習系統挑戰283

11.3圖機器學習平臺簡介284

11.3.1圖機器學習平臺概述284

11.3.2圖機器學習平臺簡介285

11.4工業圖機器學習系統289

11.4.1工業圖機器學習系統的挑戰289

11.4.2工業圖機器學習系統簡介290

11.5本章小結294

擴展閱讀材料294

習題295

參考文獻295

第12章圖機器學習實踐296

引言296

本章學習目標296

12.1模型組件296

12.1.1圖數據與圖數據集297

12.1.2圖小批量訓練與圖采樣305

12.1.3圖神經網絡模型310

12.2經典模型實現313

12.2.1GCN——節點分類實踐313

12.2.2GraphSage——鏈接預測和采樣實踐316

12.2.3GIN——圖分類實踐319

12.2.4HAN——異質圖節點分類、鏈接預測實踐320

12.2.5DeepWalk323

12.2.6FAGCN326

12.3本章小結328

擴展閱讀材料328

習題328

參考文獻329

第13章圖機器學習在推薦中的應用330

引言330

本章學習目標330

13.1推薦系統概述330

13.1.1推薦系統簡介330

13.1.2推薦系統中圖的概念331

13.2圖機器學習在協同過濾推薦中的挑戰與應用333

13.2.1主要挑戰333

13.2.2協同過濾推薦中的表征嵌入優化實例334

13.2.3協同過濾推薦中的圖采樣優化實例335

13.3圖機器學習在社交網絡推薦中的挑戰與應用338

13.3.1主要挑戰338

13.3.2社交網絡推薦中的社交影響建模實例339

13.3.3社交網絡推薦中的社交影響融合實例340

13.4圖機器學習在知識圖譜推薦中的挑戰與應用344

13.4.1主要挑戰344

13.4.2知識圖譜推薦中的知識圖譜語義建模實例345

13.4.3知識圖譜推薦中的知識圖譜語義融合實例346

13.5圖機器學習在異質圖推薦中的挑戰與應用347

13.5.1主要挑戰347

13.5.2異質圖推薦中的多條元路徑信息融合實例348

13.5.3異質圖推薦中的元路徑空間優化實例349

13.6本章小結350

擴展閱讀材料351

習題351

參考文獻351

第14章圖機器學習在風控中的應用352

引言352

本章學習目標352

14.1風控場景的數據與任務特性352

14.1.1金融風險控制353

14.1.2內容風控355

14.1.3小結357

14.2金融風控領域中圖機器學習的應用357

14.2.1欺詐檢測358

14.2.2團夥作案識別359

14.2.3貸款違約預測361

14.3圖機器學習技術在內容風控的應用364

14.3.1虛假新聞檢測364

14.3.2虛假評論者群體檢測367

14.3.3點擊預測368

14.4圖機器學習在風控中的未來發展趨勢371

14.4.1多模態數據整合371

14.4.2大規模圖神經網絡的應用371

14.4.3動態圖建模與時序數據處理372

14.4.4可解釋性與透明度研究372

14.4.5隱私保護與數據安全372

14.4.6小結373

14.5本章小結373

擴展閱讀材料373

習題374

參考文獻374

第15章圖機器學習在科學中的應用375

引言375

本章學習目標375

15.1科學智能375

15.2圖機器學習在生命科學的應用377

15.2.1圖機器學習在藥物研發中的應用簡介377

15.2.2圖機器學習在藥物研發中的應用案例研究378

15.2.3圖機器學習在疾病診斷中的應用簡介382

15.2.4圖機器學習在疾病診斷中的應用案例研究383

15.2.5小結386

15.3圖機器學習在電路設計的應用386

15.3.1圖機器學習在芯片設計中的應用簡介387

15.3.2圖機器學習在芯片設計中的應用案例研究387

15.3.3圖機器學習在芯片驗證中的應用簡介390

15.3.4圖機器學習在芯片驗證中的應用案例研究390

15.3.5小結393

15.4其他應用393

15.4.1圖機器學習在材料科學的應用393

15.4.2圖機器學習在氣象學的應用394

15.4.3圖機器學習在物理學的應用396

15.4.4小結397

15.5本章小結397

擴展閱讀材料398

習題398

參考文獻399