《凸優(yōu)化的分裂收縮算法》以簡明統(tǒng)一的方式介紹了用于求解線性約束凸優(yōu)化問題的分裂收縮算法。我們以變分不等式（VI）和鄰近點算法（PPA）為基本工具，構(gòu)建了求解線性約束凸優(yōu)化問題的分裂收縮算法統(tǒng)一框架。在該框架中，所有迭代算法的基本步驟包括預測和校正，分裂是指通過求解（往往有閉式解的）的凸優(yōu)化子問題來實現(xiàn)迭代的預測;收縮指通過校正生成的新迭代點在某種矩陣范數(shù)意義下更加接近解集。統(tǒng)一框架既涵蓋了**意義下的PPA算法、用于求解線性約束凸優(yōu)化問題的增廣拉格朗日乘子法（ALM）和處理兩個可分離塊凸優(yōu)化問題的乘子交替方向法（ADMM）等耳熟能詳?shù)乃惴�，還為多塊可分離凸優(yōu)化問題的求解提供了多種方法。通過掌握這一并不復雜的統(tǒng)一框架，者可以根據(jù)可分離凸優(yōu)化問題的具體特點，自行設計預測-校正方法求解。
更多科學出版社服務，請掃碼獲取。
目錄
《計算與應用數(shù)學叢書》序
前言
第1章 預備知識 1
1.1 凸集和凸函數(shù) 1
1.1.1 凸集 1
1.1.2 凸函數(shù) 2
1.2 凸優(yōu)化和變分不等式 7
1.2.1 變分不等式和盲人爬山原理 7
1.2.2 線性約束可微凸優(yōu)化問題的*優(yōu)性條件 13
1.2.3 線性約束凸優(yōu)化問題和等價的單調(diào)變分不等式 15
1.3 凸優(yōu)化和單調(diào)變分不等式的鄰近點算法 18
1.4 凸優(yōu)化的鄰近點算法及其加速方法的收斂速率 24
1.4.1 求解凸優(yōu)化問題PPA算法的收斂速率 24
1.4.2 預測-校正的具有加速性質(zhì)的PPA算法 27
第2章 投影收縮算法和投影梯度法 33
2.1 投影的定義和基本性質(zhì) 33
2.2 凸二次優(yōu)化投影收縮算法帶來的啟示 38
2.2.1 求解凸二次優(yōu)化問題的投影收縮算法 38
2.2.2 凸二次優(yōu)化投影收縮算法的數(shù)值表現(xiàn) 40
2.3 自適應投影梯度收縮算法 45
2.4 自適應投影梯度下降算法 50
2.5 具有加速性質(zhì)的投影梯度下降算法 56
第3章 鞍點問題的原始-對偶算法 62
3.1 鞍點問題對應的變分不等式 62
3.2 不能保證收斂的原始-對偶混合梯度法 63
3.3 求解鞍點問題的鄰近點算法 67
3.4 鞍點問題PPA算法的一些應用 70
3.5 子問題目標函數(shù)含非平凡二次項的PPA算法 74
第4章 乘子交替方向法 79
4.1 從增廣Lagrange乘子法到ADMM 79
4.2 ADMM的收斂性分析 84
4.3 線性化的ADMM90
4.4 ADMM及線性化ADMM的收斂性證明 95
4.4.1 ADMM及線性化ADMM的全局收斂性 95
4.4.2 ADMM點列意義下的收斂速率 96
4.4.3 ADMM遍歷意義下的收斂速率 99
4.5 Glowinski交替方向法中更新乘子的步長法則 102
第5章 凸優(yōu)化分裂收縮算法的預測-校正統(tǒng)一框架 105
5.1 分裂收縮算法的預測-校正統(tǒng)一框架 105
5.1.1 統(tǒng)一框架中的預測 105
5.1.2 統(tǒng)一框架中的校正 106
5.2 按照統(tǒng)一框架修正的一些算法 108
5.2.1 平凡松弛校正的算法 108
5.2.2 必要非平凡校正的算法 110
5.3 統(tǒng)一框架中的算法收斂性質(zhì) 113
5.3.1 采用固定步長校正的算法收斂性 113
5.3.2 采用計算步長校正的算法收斂性 115
5.4 統(tǒng)一框架下算法的迭代復雜性 117
5.4.1 遍歷意義下的迭代復雜性 117
5.4.2 點列意義下的迭代復雜性 120
5.5 合格預測確定后選取校正矩陣的通用法則 122
第6章 統(tǒng)一框架與**單調(diào)變分不等式的投影收縮算法 128
6.1 單調(diào)變分不等式及與其等價的投影方程 128
6.1.1 保護資源-保障供給中的互補問題 129
6.1.2 交通疏導中的互補問題 131
6.1.3 與變分不等式等價的投影方程 132
6.2 PPA算法和投影收縮算法的三個基本不等式 133
6.3 投影收縮算法和分裂收縮算法中的預測 135
6.3.1 求解**變分不等式的投影收縮算法中的預測 135
6.3.2 求解混合變分不等式的分裂收縮算法中的預測 137
6.4 投影收縮算法和分裂收縮算法的校正 137
6.4.1 兩類方法中采用固定步長的校正 138
6.4.2 兩類算法中計算步長的校正 139
6.5 投影收縮算法中的孿生方向和姊妹方法 142
6.6 單調(diào)變分不等式投影收縮算法遍歷意義下的收斂速率 146
6.7 投影收縮算法在求解可分離凸優(yōu)化上的應用 151
第7章 統(tǒng)一框架與單調(diào)線性變分不等式的投影收縮算法 160
7.1 單調(diào)線性變分不等式及相應的優(yōu)化問題 160
7.2 線性變分不等式的投影收縮算法和算法統(tǒng)一框架 166
7.3 求解線性變分不等式的孿生方向和姊妹方法 171
7.4 線性變分不等式投影收縮算法的收斂速率 175
7.5 孿生方向姊妹方法在*短距離和問題中的計算表現(xiàn) 180
第8章 統(tǒng)一框架下求解鞍點問題的收縮算法 185
8.1 修正Chambolle-Pock算法的預測-校正方法 186
8.2 基于C-P方法的自適應預測-校正方法 193
8.3 采用平行預測的預測-校正方法 200
8.4 子問題目標函數(shù)中含非平凡二次項的PPA算法 203
8.5 求解鞍點問題的投影收縮算法 206
第9章 統(tǒng)一框架下求解單塊凸優(yōu)化問題的收縮算法 210
9.1 從增廣Lagrange乘子法到PPA算法 210
9.2 非平凡校正的ALM類算法 212
9.3 平凡松弛校正的PPA算法 217
9.4 均困平衡的增廣Lagrange乘子法 220
9.5 非平凡校正的均困ALM 223
9.6 平凡松弛校正的均困PPA算法 226
9.7 平行處理預測子問題的均困方法 229
第10章 統(tǒng)一框架下兩可分離塊凸優(yōu)化問題的ADMM類方法 232
10.1 **ADMM在統(tǒng)一框架中的演譯 233
10.2 交換順序的ADMM 239
10.3 對稱的ADMM 242
10.4 利用統(tǒng)一框架設計的PPA算法 247
10.5 線性化ADMM和自適應線性化ADMM 249
10.5.1 線性化ADMM在統(tǒng)一框架下的演譯 249
10.5.2 自適應的線性化ADMM 251
10.6 統(tǒng)一框架下計算步長的線性化ADMM 255
10.7 利用統(tǒng)一框架設計的均困PPA算法 260
第11章 三個可分離塊凸優(yōu)化問題的修正ADMM類方法 264
11.1 直接推廣的ADMM對三個可分離塊問題不保證收斂 264
11.2 部分平行分裂的ADMM預測-校正方法 269
11.3 帶Gauss回代的ADMM類方法 275
11.4 線性化的帶Gauss回代的ADMM類方法 283
11.5 部分平行并加正則項的ADMM類方法 288
11.6 利用統(tǒng)一框架設計的PPA算法 291
第12章 線性化ALM和ADMM中的不定正則化準則 294
12.1 不定正則化方法的意義和兩個引理 294
12.2 等式約束優(yōu)化問題的不定正則化 ALM 298
12.2.1 不定正則化方法 ALM 的變分不等式表示 298
12.2.2 不定正則化方法 ALM 的收斂性證明 300
12.3 不等式約束問題的不定正則化 ALM 303
12.3.1 不定正則化方法 ALM 的預測-校正格式 305
12.3.2 不定正則化 ALM 的收斂性證明 308
12.4 不定正則的*優(yōu)線性化ADMM 313
12.4.1 不定正則化方法ADMM的預測-校正格式 315
12.4.2 不定正則化ADMM的收斂性證明 318
12.5 不定正則化ADMM類方法求解三個可分離塊問題 322
第13章 多個可分離塊凸優(yōu)化問題的ADMM類方法 327
13.1 帶Gauss回代的ADMM類方法 329
13.2 線性化的帶Gauss回代的ADMM類方法 337
13.3 子問題平行正則化的ADMM類方法 341
13.4 利用統(tǒng)一框架設計的PPA算法 347
第14章 平行預測的求解多塊問題的方法 350
14.1 平行預測不加正則項的方法 351
14.1.1 方法轉(zhuǎn)換成統(tǒng)一框架下的模式 352
14.1.2 基于同一預測的其他校正方法 356
14.2 平行預測加正則項的方法 358
14.2.1 采用統(tǒng)一框架中計算步長的校正方法 359
14.2.2 采用統(tǒng)一框架中單位步長的校正方法 361
14.3 Jacobi預測的PPA算法 365
14.4 均困平衡的PPA算法 368
第15章 求解多塊可分離問題的廣義秩一預測-校正方法 373
15.1 變分不等式變量代換下的預測-校正框架 374
15.2 多塊可分離問題的串行預測 378
15.3 基于Primal-Dual預測構(gòu)造校正矩陣 385
15.4 基于Dual-Primal預測構(gòu)造校正矩陣 388
15.5 統(tǒng)一框架中的串行預測和廣義秩一校正 391
第16章 求解多塊可分離問題的廣義秩二預測-校正方法 394
16.1 用統(tǒng)一框架指導設計方法 394
16.2 根據(jù)統(tǒng)一框架設計串型預測 395
16.2.1 Primal-Dual預測后再校正的方法 395
16.2.2 Dual-Primal預測后再校正的方法 400
16.3 根據(jù)統(tǒng)一框架設計平行預測的方法 404
第17章 預測-校正的廣義PPA算法 410
17.1 變分不等式**算法的兩個主要性質(zhì) 410
17.2 預測-校正的廣義PPA算法.412
17.3 變量替換下的廣義PPA算法 414
17.4 基于秩一預測的廣義PPA算法 416
17.4.1 Primal-Dual預測的廣義PPA算法 417
17.4.2 Dual-Primal預測的廣義PPA算法 419
17.5 基于秩二預測的廣義PPA算法 421
17.5.1 Primal-Dual預測的廣義PPA算法 422
17.5.2 Dual-Primal預測的廣義PPA算法 425
17.6 平行秩二預測的廣義PPA算法 427
后記 429
參考文獻 434
《計算與應用數(shù)學叢書》已出版書目 442
書單推薦
