大模型企業級應用與工程化實踐

"周佳，AI產品經理，深耕模型與算法研發十年，近兩年轉型產品經理。兼具技術功底與前瞻產品思維，專註於推動前沿AI技術的實用化與產品落地。對技術原理與產品落地間的挑戰與機遇均有極大興趣。周雙，畢業於華南理工大學，應用架構專家，擁有十余年技術開發與架構經驗，專註於企業IT系統研發，擅長Java、Spring、微服務等技術。近年來深入研究深度學習、大語言模型等AI前沿技術。盧雪妍，NLP算法工程師，現任職中移動信息技術有限公司，負責大模型相關應用開發。擁有豐富的算法應用開發經驗，擅長寫作、意圖識別。鄭耀先，NLP算法工程師，曾就職於騰訊科技有限公司，現就職於中移動信息技術有限公司的AI開發崗，從事人工智能大模型相關領域產品的研發工作，擁有多年豐富的算法應用開發經驗。童同，中國移動首批“金種子計劃”入選者，在中移動信息技術有限公司擔任聚智智能體平臺研發組長，共發表論文12篇，提交專利14項、軟著4項，曾在世界人工智能大會、機器之心、DataFun等高水平論壇作為嘉賓進行技術分享。   蘇建偉，中移信息技術有限公司AI應用開發工程師，專註大模型應用開發。具有豐富項目經驗，熟悉模型全流程開發，深入理解應用場景價值，致力推動AI技術在企業的創新應用與智能化轉型。"

目錄

第 1 章 大模型入門 1

1.1 人工智能發展歷程 1

1.2 大模型崛起 3

1.2.1 大模型的技術概念 3

1.2.2 大模型誕生 5

1.2.3 疊代優化 6

1.3 新的產品形態 8

1.3.1 個性化與定制化 9

1.3.2 跨模態交互 10

1.3.3 任務處理 11

1.3.4 決策智能化 12

1.4 大模型產品分析 12

1.4.1 市場頭部模型綜述 12

1.4.2 發展概況 13

1.4.3 模型分類 14

1.4.4 市場情況 16

1.4.5 國內大模型介紹 18 

1.5 大模型產品設計 27

1.5.1 大模型應用場景概述 27

1.5.2 大模型的部署及落地 29

1.5.3 大模型入門產品設計 30

1.6 風險與挑戰 33

1.6.1 技術角度 33

1.6.2 倫理角度 36

第 2 章 大模型在智能文檔中的應用 38

2.1 基於大模型的表格推理 38

2.1.1 任務介紹 38

2.1.2 技術方案 40

2.1.3 實際應用 50

2.1.4 小結 51

2.2 智能文本摘要 52

2.2.1 介紹 52

2.2.2 數據處理 52

2.2.3 技術方案 53

2.3 基於大模型的文本糾錯技術 60

2.3.1 中文文本糾錯的背景介紹 61

2.3.2 中文文本糾錯的基本框架介紹 63

2.3.3 文本糾錯技術處理難點與技術挑戰 80

第 3 章 大模型在協同辦公領域應用 82

3.1 辦公領域的大模型設計 82

3.1.1 辦公領域的場景概覽 82

3.1.2 辦公領域的挑戰 83

3.1.3 辦公領域的未來方向 84

3.1.4 小結 86

3.2 辦公領域的任務指令 87

3.2.1 整體技術架構 87

3.2.2 業務數據處理 90

3.2.3 意圖識別 94

3.2.4 槽位提取 104

3.3 基於大模型的公文寫作 112

3.3.1 通用模型寫作 112

3.3.2 大模型掛載外部知識庫 114

3.3.3 公文大模型微調 117

3.3.4 基於思維鏈的寫作 120

3.3.5 小結 123

第 4 章 大模型在對話系統上應用 124

4.1 對話系統介紹 124

4.1.1 任務式對話 125

4.1.2 問答式對話 130

4.1.3 閑聊式對話 133

4.1.4 小結 135

4.2 基於 RAG 的智能問答系統 135

4.2.1 基於 RAG 的智能問答技術架構 138

4.2.2 文檔解析 146

4.2.3 文本分塊 148

4.2.4 向量化 160

4.2.5 檢索 164

4.2.6 RAG 技術的演進 165

4.2.7 RAG 性能優化 169

4.2.8 使用知識圖譜增強 RAG 186

4.2.9 RAG 效果評估 190

4.2.10 智能體 193

4.2.11 開源方案 195

4.2.12 展望 198

第 5 章 AI 硬件加速 200

5.1 GPU AI 計算加速 200

5.1.1 GPU 的工作原理 201

5.1.2 GPU AI 加速原理 205

5.1.3 NVIDIA GPU 硬件架構 210

5.1.4 CUDA 計算框架 213

5.1.5 NVIDA GPU 發展 216

5.2 大模型推理 219

5.2.1 大模型壓縮技術 220

5.2.2 大模型推理框架 224

5.2.3 大模型推理算法 229

5.2.4 大模型推理部署的案例 234

5.3 大模型分布式訓練 237

5.3.1 大模型分布式訓練簡介 237

5.3.2 大模型分布式訓練的必要性 238

5.3.3 大模型分布式訓練並行技術 238

5.3.4 如何便捷地進行分布式訓練 241

5.3.5 案例分享 242

第 6 章 AI 智能體和大模型未來發展 247

6.1 智能體入門 247

6.2 基於大模型的智能體 251

6.2.1 單智能體 251

6.2.2 多智能體系統 262

6.3 智能體的潛在應用 267

6.3.1 自然科學 267

6.3.2 社會科學 270

6.3.3 經濟學 271

6.3.4 醫學 273

6.3.5 計算機科學 273

6.3.6 機器人 276

6.4 落地案例 277

6.4.1 系統填報助手 277

6.4.2 算法與場景編排助手 279

6.5 小結 281