最優化模型：線性代數模型、凸優化模型及應用 Optimization Models

本書內容詳實，結構嚴謹，側重於介紹優化理論在實際生活中的應用，是學習優化理論不可多得的入門教材。
讀者將從本書中學到如何識別、簡化、建模以及求解相關優化問題，
並將其中暗含的基本原理應用到自己正在進展的項目中。
本書對線性代數做了清晰而完整的介紹。
通過引入相關的實際案例，以易於理解且形象的方式給讀者展示核心的數學概念，並幫助其領會問題的實際意義。
閱讀本書不需要太多的預備知識，讀者只需要對幾何學、微積分學和概率統計學有一個基本的了解。
本書可用於本科生或研究生優化理論學習的教材。

Giuseppe C.Calafiore 
是意大利都靈理工大學自動化與信息學院副教授，
意大利國家研究委員會電子、計算機和電信工程研究所研究員。

Laurent El Ghaoui 
是美國加州大學伯克利分校電氣工程和計算機科學係以及工業工程和運籌學系的教授。

譯者序
前言
第 1 章 緒論 1
1.1 啟發性的例子 1
1.2 優化問題 4
1.3 優化問題的重要類型 9
1.4 發展歷史 13
第一部分 線性代數模型
第 2 章 向量和函數 18
2.1 向量的基本概念 18
2.2 範數與內積 25
2.3 子空間上的投影 35
2.4 函數 41
2.5 習題 52
第 3 章 矩陣 54
3.1 矩陣的基本概念 54
3.2 矩陣作為線性映射 59
3.3 行列式、特徵值和特徵向量 62
3.4 具有特殊結構和性質的矩陣 73
3.5 矩陣分解 79
3.6 矩陣範數 82
3.7 矩陣函數 85
3.8 習題 89
第 4 章 對稱矩陣 94
4.1 基礎知識 94
4.2 譜定理 99
4.3 譜分解與優化 103
4.4 半正定矩陣 106
4.5 習題 113
第 5 章 奇異值分解 117
5.1 奇異值分解的基本概念 117
5.2 由 SVD 建立矩陣性質 120
5.3 奇異值分解與優化 126
5.4 習題 138
第 6 章 線性方程組與最小二乘 142
6.1 動機與例子 142
6.2 線性方程組的解集 148
6.3 最小二乘和最小範數解 150
6.4 求解線性方程組和最小二乘問題 158
6.5 解的靈敏性 162
6.6 單位球的正反映射 165
6.7 最小二乘問題的變形 171
6.8 習題 180
第 7 章 矩陣算法 185
7.1 特徵值和特徵向量的計算 185
7.2 求解平方線性方程組 190
7.3 QR 分解 195
7.4 習題 199
第二部分 凸優化模型
第 8 章 凸性 204
8.1 凸集 204
8.2 凸函數 211
8.3 凸問題 231
8.4 最優性條件 250
8.5 對偶 254
8.6 習題 269
第 9 章 線性、二次與幾何模型 273
9.1 二次函數的無約束最小化 273
9.2 線性與凸二次不等式的幾何表示 276
9.3 線性規劃 281
9.4 二次規劃 292
9.5 用 LP 和 QP 建模 301
9.6 與 LS 相關的二次規劃 312
9.7 幾何規劃 315
9.8 習題 321
第 10 章 二階錐和魯棒模型 326
10.1 二階錐規劃 326
10.2 SOCP 可表示的問題和例子 332
10.3 魯棒優化模型 346
10.4 習題 353
第 11 章 半定模型 357
11.1 從線性到錐模型 357
11.2 線性矩陣不等式 358
11.3 半定規劃 369
11.4 半定規劃模型的例子 375
11.5 習題 393
第 12 章 算法介紹 399
12.1 技術方面的預備知識 400
12.2 光滑無約束極小化算法 405
12.3 光滑凸約束極小化算法 423
12.4 非光滑凸優化算法 443
12.5 坐標下降法 454
12.6 分散式優化方法 457
12.7 習題 465
第三部分 應用
第 13 章 從數據中學習 472
13.1 監督學習概述 472
13.2 基於多項式模型的最小二乘預測 473
13.3 二元分類 478
13.4 一般監督學習問題 485
13.5 ......