大模型啟示錄

第 1 章 什麽是大模型 / 1
1.1 從單節點模型開始 / 2
1.2 大模型的養成 / 4
1.3 大模型的核心能力 / 5
1.4 大模型的構建 / 6
1.5 大模型需要的基礎設施 / 7
1.6 大模型的“不可能三角” / 10
番外篇 OpenAI 為何成功 / 14
番外篇 CUDA 壁壘是怎樣形成的 / 23
第 2 章 軟件在大模型時代還有沒有價值 / 31
2.1 歷次科技變革，改變了誰 / 32
2.2 大模型變革下的四類 SaaS 企業 / 35
2.2.1 人調用軟件 / 35
2.2.2 軟件梳理流程 / 41
2.2.3 翻譯工具 / 44
2.2.4 大模型調用軟件 / 45
番外篇 GPU IaaS 業務拉開雲加速序幕 / 46
2.3 大模型與 DevOps（可觀測性） / 48
2.3.1 可觀測性的實現原理及關鍵環節 / 49
2.3.2 大模型如何與可觀測性結合 / 50
2.3.3 針對大模型搭建可觀測性平臺 / 52
2.4 大模型改變量據庫 / 53
2.4.1 大模型如何改變量據庫交互 / 53
2.4.2 大模型是否能改變量據庫底層 / 54
2.4.3 數據倉庫與數據湖如何支持大模型訓練 / 56
2.4.4 大模型的應用取決於成本 / 57
2.4.5 向量數據庫 / 57
2.4.6 大模型可被用於 ETL 工作 / 61
2.5 大模型改變網絡安全 / 62
2.5.1 大模型在不同網絡安全場景中的應用 / 62
2.5.2 現有網絡安全企業的大模型應用情況 / 64
2.5.3 微軟 Security Copilot 的優點和缺點 / 65
2.5.4 大模型數據交互安全 / 65
2.5.5 AI Native 網絡安全公司出現了嗎 / 66
2.6 大模型與 RAG / 66
2.6.1 RAG 的技術難點 / 67
2.6.2 RAG 是個系統，單點突破難做差異化 / 69
2.6.3 RAG 需求爆發得非常快 / 70
2.6.4 相對微調，RAG 技術更具優勢 / 72
2.6.5 RAG 的評測 / 73
2.6.6 混合搜索與技術棧選擇 / 74
2.6.7 RAG 的商業化與進入市場策略 / 76
2.6.8 金融領域的 RAG 應用 / 78
2.7 大模型改變辦公與銷售管理軟件 / 79
2.7.1 大模型如何影響辦公類產品 / 79
2.7.2 大模型如何影響會議類產品 / 79
2.7.3 大模型如何影響協同產品 / 81
2.7.4 大模型如何影響銷售管理工具 / 81
番外篇 數據基礎設施（Data Infra）：大模型決戰前夜 / 83
第 3 章 大模型將改變產品生態 / 94
3.1 大模型與產品設計 / 95
3.1.1 大模型 AI 產品的設計流程 / 95
3.1.2 大模型 AI 產品的設計準則 / 99
案例 Microsoft 365 Copilot 的產品設計 / 104
3.2 大模型與產品銷售和營銷 / 109
案例 衛瓴科技如何通過大模型賦能銷售和營銷 / 111
案例 Salesforce 的大模型賦能銷售解決方案 / 118
3.3 大模型與組織變革 / 126
3.3.1 AI 時代的組織進化展望 / 126
3.3.2 個人與組織價值創造邏輯的差異 / 127
3.3.3 組織協作的“假象”與“理想” / 128
3.3.4 AI 在組織協作中應用的可能性 / 130
3.3.5 技術路徑與商業實踐探索 / 131
案例 騰訊如何搭建適合自己的大模型 / 134
第 4 章 大模型將改變更多行業 / 144
4.1 大模型改變客服和電銷 / 145
4.1.1 大模型改變了客服 / 145
4.1.2 將大模型應用在電銷上難度大 / 147
4.1.3 如何交付大模型客服 / 148
4.1.4 大模型客服如何選擇模型 / 149
4.1.5 客戶眼中的大模型客服與落地仍然有預期差 / 150
4.2 大模型改變教育 / 150
4.2.1 成熟 AI 教育公司的啟示 / 151
4.2.2 大模型對教育場景的重塑 / 152
4.2.3 大模型如何影響教育創業和教育事業 / 155
4.2.4 大模型教育如何看待 / 選擇大模型 / 157
4.3 大模型改變設計 / 158
4.3.1 大模型應用在不同的設計場景 / 159
4.3.2 大模型對設計的提效 / 161
4.3.3 現有的設計軟件如何應對大模型 / 162
4.3.4 大模型設計在 To B 場景的落地 / 163
4.4 大模型改變游戲 / 164
4.4.1 AI NPC 在玩法層面的落地 / 164
4.4.2 AI NPC 在局部留存 / 商業化上更容易落地 / 165
4.4.3 AI 在游戲的技術層面落地難點 / 166
4.4.4 游戲公司使用 AI 工具的情況 / 167
4.4.5 大模型在游戲引擎中落地的方向 / 168
4.4.6 大模型在 VR 中的落地情況 / 171
4.5 大模型改變廣告 / 171
4.5.1 廣告創業公司的觀點 / 171
4.5.2 廣告平臺方的觀點 / 173
4.5.3 廣告主的觀點 / 175
4.5.4 生成式廣告 / 175
4.6 大模型改變推薦系統 / 176
4.6.1 大模型在推薦系統現有環節的應用 / 176
4.6.2 大模型在廣告 / 電商推薦系統中的應用 / 177
4.6.3 大模型在搜索推薦系統中的應用 / 177
4.6.4 大模型在內容推薦系統中的應用（以 Meta 為例） / 180
4.7 大模型改變傳統工業 / 180
4.7.1 大模型在傳統工業中的應用處於初級階段 / 181
4.7.2 小模型在傳統工業中的應用廣泛 / 182
4.7.3 大模型在傳統工業應用的難點 / 183
4.7.4 大模型在傳統工業應用的方法 / 185
案例 頭部 AI 咨詢公司 C3.ai / 187
案例 難以被 AI 顛覆的艾斯本科技 (Aspen Tech) / 206
第 5 章 對大模型未來的思考 / 220
5.1 大模型未來三年的幾個假設 / 221
5.1.1 開始摘低垂果實（2024 年） / 221
5.1.2 AI 帶來的實際經濟影響（2024 年） / 223
5.1.3 GPT-5 會成為更標準落地的分水嶺（2025 年） / 225
5.1.4 面向消費者（To C）領域的預期（2025 年） / 226
5.1.5 AI 或許可以替代高階的職能（2026 年） / 227
5.1.6 工業領域會看到很多多模態實踐（2026 年） / 228
5.1.7 基建與電力可能比 GPU 更稀缺（2024—2026 年） / 228
5.2 大模型技術面臨的挑戰 / 229
5.2.1 數據 / 229
5.2.2 計算資源 / 230
5.2.3 安全和合規 / 231
5.3 大模型就像貪吃蛇與俄羅斯方塊 / 232
5.3.1 貪吃蛇與俄羅斯方塊 / 232
5.3.2 貪吃蛇也沒有秘密 / 234
5.3.3 中國的方塊與美國的方塊 / 234
5.3.4 模型與應用公司的下一步 / 235
5.3.5 Sora 如何改變世界 / 237
5.3.6 我們在 1.0，即將進入 2.0 / 238
5.4 GPT-4 Turbo 帶來的行業進化 / 239
5.4.1 GPT-4 Turbo 帶來的成本下降 / 240
5.4.2 GPT-4 Turbo 長下文帶來的變化 / 240
5.4.3 低代碼工具及 GPTs / 241
5.4.4 OpenAI 的官方 RAG 工具 / 242
5.5 GPT-4o 帶來的行業進化 / 243
5.5.1 GPT-4o 如何降低延遲 / 244
5.5.2 GPT-4o 的實時互動機制 / 245
5.5.3 GPT-4o 為什麽要用到 RTC / 247