AI Agent 應用開發：構建多智能體協同系統

尹浩，碩士，畢業於對外經濟貿易大學，研究方向為邊緣智能、多智能體系統、自然語言處理與大數據，先後供職於深開鴻、中國平安等公司，擔任資深算法工程師。擅長大模型應用、深度學習、自然語言處理、大數據中臺等相關技術，特別是在AIOS、非結構化文檔理解等領域有深入研究，目前主要從事開源鴻蒙操作系統的原生AI推理和大模型智能體開發工作。發表過3篇技術專利和1篇實用性發明專利。

目    錄

第 1 章  智能體系統概述 1

1.1  什麼是智能體 1

1.1.1  智能體初識 1

1.1.2  智能體的概念 3

1.2  智能體的核心組件概述 4

1.2.1  大語言模型 4

1.2.2  工具模塊 5

1.2.3  記憶模塊 6

1.2.4  規劃模塊 7

1.2.5  RAG模塊 8

1.3  智能體的發展歷程 8

1.4  智能體的等級劃分 10

1.4.1  RASA 10

1.4.2  Google 10

1.4.3  類自動駕駛 11

1.5  為什麼要使用智能體 12

1.5.1  大模型的缺點 12

1.5.2  智能體的特點 13

1.6  什麼是多智能體協同 13

1.7  實驗環境搭建 14

1.7.1  網頁版對話測試 14

1.7.2  代碼版對話測試 16

1.8  本章小結 21

第 2 章  認識大模型 22

2.1  Transformer的架構原理 22

2.2  大模型的訓練流程 25

2.2.1  數據清洗 25

2.2.2  分詞技術 26

2.2.3  位置編碼 26

2.2.4  模型預訓練 27

2.2.5  大模型微調 28

2.2.6  大模型對齊 29

2.2.7  解碼策略 30

2.2.8  大模型幻覺 30

2.3  國內外大模型介紹 32

2.3.1  國外知名大模型 32

2.3.2  國內知名大模型 34

2.3.3  垂直領域大模型 36

2.4  大模型調用實戰 37

2.4.1  調用GPT-4大模型 37

2.4.2  調用百度文心一言大模型 38

2.4.3  調用本地大模型 39

2.5  大模型能力評測 42

2.5.1  為什麼要做大模型評測 42

2.5.2  需要評測大模型的哪些能力 43

2.5.3  如何評測大模型 45

2.6  常用的評測數據集介紹 46

2.6.1  MMLU數據集 46

2.6.2  C-EVAL數據集 49

2.6.3  MATH數據集 51

2.6.4  GSM8K數據集 54

2.6.5  HumanEval數據集 56

2.7  大模型評測網站——OpenCompass 58

2.7.1  OpenCompass介紹 59

2.7.2  大模型排行榜 59

2.7.3  OpenCompass評測工具介紹 61

2.7.4  數據集評測實戰 63

2.8  本章小結 65

第 3 章  提示詞工程 66

3.1  提示詞 66

3.1.1  提示詞的基本概念與特點 66

3.1.2  提示詞的示例 67

3.2  結構化提示詞 69

3.2.1  結構化提示詞的基本概念 69

3.2.2  結構化提示詞的示例 70

3.3  提示工程 74

3.3.1  ICIO框架 74

3.3.2  CRISPE框架 75

3.3.3  APE框架 77

3.3.4  BROKE框架 78

3.3.5  CARE框架 80

3.3.6  COAST框架 81

3.3.7  RACE框架 83

3.3.8  RISE框架 83

3.3.9  ROSES框架 85

3.3.10  TAG框架 87

3.3.11  TRACE框架 88

3.4  提示詞的優化方法 90

3.5  自動生成提示詞 92

3.6  本章小結 96

第 4 章  RAG系統的構建 97

4.1  RAG介紹 97

4.1.1  RAG的基本概念 97

4.1.2  RAG系統的構成 98

4.2  極簡RAG實現 100

4.2.1  構建階段實現 100

4.2.2  檢索生成實現 103

4.2.3  RAG流程測試 104

4.3  文檔解析 105

4.3.1  文件類型介紹 105

4.3.2  Word文檔提取 108

4.3.3  半結構化文本提取 109

4.3.4  郵件文本提取 111

4.3.5  PDF文本提取 113

4.3.6  表格文本提取 115

4.3.7  圖片文本提取 116

4.4  RAG優化方法 118

4.4.1  數據處理優化方法 118

4.4.2  查詢路由優化方法 120

4.4.3  索引優化方法 122

4.5  基於LangChain的RAG實現 124

4.5.1  LangChain介紹 125

4.5.2  LangChain的RAG數據流程 127

4.5.3  文檔加載器 128

4.5.4  文檔轉換器 130

4.5.5  文本嵌入模型 132

4.5.6  向量存儲 134

4.5.7  知識檢索 135

4.5.8  基於LangChain構建完整的RAG系統 136

4.6  評測RAG系統的性能 138

4.6.1  RAGas框架介紹 138

4.6.2  RAG系統評測實戰 141

4.7  本章小結 143

第 5 章  記憶模塊 145

5.1  記憶模塊介紹 145

5.1.1  什麼是記憶 145

5.1.2  記憶的作用 147

5.1.3  記憶的信息類型 148

5.1.4  記憶的壓縮方法 149

5.2  手動實現Memory實踐 150

5.2.1  計算token數 150

5.2.2  摘要總結實現 152

5.2.3  短期記憶實現 153

5.2.4  長期記憶實現 154

5.2.5  記憶測試 157

5.3  MemGPT框架 159

5.3.1  MemGPT框架介紹 159

5.3.2  基於MemGPT的案例實踐 160

5.3.3  MemGPT框架源碼解析 162

5.4  Mem0框架 171

5.4.1  Mem0框架介紹 172

5.4.2  基於Mem0的案例實踐 173

5.4.3  Mem0框架源碼分析 176

5.5  BoT框架 181

5.5.1  BoT框架介紹 181

5.5.2  基於BoT的案例實踐 182

5.5.3  BoT框架源碼解析 183

5.6  本章小結 186

第 6 章  規劃能力 187

6.1  思維鏈 187

6.1.1  思維鏈介紹 187

6.1.2  CoT案例分析 189

6.1.3  CoT編程實踐 190

6.2  Self-Ask 193

6.2.1  Self-Ask介紹 193

6.2.2  Self-Ask案例實踐 193

6.2.3  Self-Ask編程實踐 195

6.3  Self-Reflexion 197

6.3.1  Self-Reflexion介紹 197

6.3.2  Self-Reflexion案例實踐 198

6.3.3  Self-Reflexion編程實踐 201

6.4  Function Calling 202

6.4.1  Function Calling介紹 203

6.4.2  Function Calling案例實踐 204

6.4.3  Function Calling編程實踐 206

6.5  ReAct 210

6.5.1  ReAct介紹 210

6.5.2  ReAct案例實踐 212

6.5.3  ReAct編程實踐 217

6.6  Plan-and-Execute 223

6.6.1  Plan-and-Execute介紹 223

6.6.2  Plan-and-Execute案例實踐 224

6.6.3  Plan-and-Execute編程實踐 226

6.7  Self-Discover 230

6.7.1  Self-Discover介紹 230

6.7.2  Self-Discover案例實踐 232

6.7.3  Self-Discover編程實踐 233

6.8  本章小結 236

第 7 章  多智能體系統 237

7.1  多智能體系統介紹 237

7.1.1  單智能體系統概述 237

7.1.2  多智能體系統的特點 239

7.2  多智能體系統的核心 241

7.2.1  交互環境 241

7.2.2  協作類型 243

7.2.3  組織結構 245

7.2.4  通信機制 248

7.2.5  沖突解決 251

7.3  AutoGen框架 252

7.3.1  AutoGen框架介紹 252

7.3.2  基本概念 252

7.3.3  單智能體示例說明 255

7.3.4  多智能體示例說明 257

7.3.5  源碼分析 259

7.4  MetaGPT框架 263

7.4.1  MetaGPT框架介紹 264

7.4.2  單智能體示例說明 265

7.4.3  多智能體示例說明 267

7.4.4  源碼分析 269

7.5  CrewAI框架 273

7.5.1  CrewAI框架介紹 273

7.5.2  基本概念 274

7.5.3  單智能體示例說明 275

7.5.4  多智能體示例說明 277

7.5.5  源碼分析 278

7.6  LangGraph框架 282

7.6.1  LangGraph框架介紹 282

7.6.2  單智能體示例說明 283

7.6.3  多智能體示例說明 285

7.6.4  源碼分析 288

7.7  本章小結 293

第 8 章  智能體案例實戰 294

8.1  智能家居助手 294

8.1.1  MCP介紹 294

8.1.2  MCP架構說明 295

8.1.3  構建智能家居MCP服務端 296

8.1.4  構建智能家居MCP客戶端 297

8.1.5  構建智能家居MCP智能體應用 299

8.1.6  測試智能家居智能體 302

8.1.7  案例小結 302

8.2  AI辦公助手 303

8.2.1  AiPPT介紹 303

8.2.2  API KEY申請 304

8.2.3  自動生成PPT 305

8.2.4  構建MCP服務 311

8.2.5  構建AiPPT智能體 312

8.2.6  測試智慧辦公智能體 314

8.2.7  案例小結 315

8.3  語言翻譯助手 316

8.3.1  語言翻譯介紹 316

8.3.2  翻譯素材準備 316

8.3.3  翻譯助手的架構設計 317

8.3.4  翻譯助手智能體 317

8.3.5  測試語言翻譯智能體 322

8.3.6  案例小結 323

8.4  知識庫助手 323

8.4.1  知識庫助手介紹 323

8.4.2  知識問答助手 323

8.4.3  進階版知識問答助手 329

8.4.4  案例小結 332

8.5  編程助手 332

8.5.1  編程助手介紹 332

8.5.2  編程助手架構設計 333

8.5.3  LangGPT結構化提示詞 333

8.5.4  智能體開發 335

8.5.5  工作流測試 341

8.5.6  案例小結 343

8.6  智能客服 343

8.6.1  智能客服介紹 344

8.6.2  智能客服架構設計 344

8.6.3  數據庫設計 345

8.6.4  數據庫操作實現 346

8.6.5  智能體開發 347

8.6.6  智能客服測試 352

8.6.7  案例小結 354

8.7  本章小結 354