《凸優(yōu)化的分裂收縮算法》以簡(jiǎn)明統(tǒng)一的方式介紹了用于求解線性約束凸優(yōu)化問(wèn)題的分裂收縮算法。我們以變分不等式（VI）和鄰近點(diǎn)算法（PPA）為基本工具，構(gòu)建了求解線性約束凸優(yōu)化問(wèn)題的分裂收縮算法統(tǒng)一框架。在該框架中，所有迭代算法的基本步驟包括預(yù)測(cè)和校正，分裂是指通過(guò)求解（往往有閉式解的）的凸優(yōu)化子問(wèn)題來(lái)實(shí)現(xiàn)迭代的預(yù)測(cè);收縮指通過(guò)校正生成的新迭代點(diǎn)在某種矩陣范數(shù)意義下更加接近解集。統(tǒng)一框架既涵蓋了**意義下的PPA算法、用于求解線性約束凸優(yōu)化問(wèn)題的增廣拉格朗日乘子法（ALM）和處理兩個(gè)可分離塊凸優(yōu)化問(wèn)題的乘子交替方向法（ADMM）等耳熟能詳?shù)乃惴ǎ�為多塊可分離凸優(yōu)化問(wèn)題的求解提供了多種方法。通過(guò)掌握這一并不復(fù)雜的統(tǒng)一框架，者可以根據(jù)可分離凸優(yōu)化問(wèn)題的具體特點(diǎn)，自行設(shè)計(jì)預(yù)測(cè)-校正方法求解。
更多科學(xué)出版社服務(wù)，請(qǐng)掃碼獲取。
目錄
《計(jì)算與應(yīng)用數(shù)學(xué)叢書》序
前言
第1章 預(yù)備知識(shí) 1
1.1 凸集和凸函數(shù) 1
1.1.1 凸集 1
1.1.2 凸函數(shù) 2
1.2 凸優(yōu)化和變分不等式 7
1.2.1 變分不等式和盲人爬山原理 7
1.2.2 線性約束可微凸優(yōu)化問(wèn)題的*優(yōu)性條件 13
1.2.3 線性約束凸優(yōu)化問(wèn)題和等價(jià)的單調(diào)變分不等式 15
1.3 凸優(yōu)化和單調(diào)變分不等式的鄰近點(diǎn)算法 18
1.4 凸優(yōu)化的鄰近點(diǎn)算法及其加速方法的收斂速率 24
1.4.1 求解凸優(yōu)化問(wèn)題PPA算法的收斂速率 24
1.4.2 預(yù)測(cè)-校正的具有加速性質(zhì)的PPA算法 27
第2章 投影收縮算法和投影梯度法 33
2.1 投影的定義和基本性質(zhì) 33
2.2 凸二次優(yōu)化投影收縮算法帶來(lái)的啟示 38
2.2.1 求解凸二次優(yōu)化問(wèn)題的投影收縮算法 38
2.2.2 凸二次優(yōu)化投影收縮算法的數(shù)值表現(xiàn) 40
2.3 自適應(yīng)投影梯度收縮算法 45
2.4 自適應(yīng)投影梯度下降算法 50
2.5 具有加速性質(zhì)的投影梯度下降算法 56
第3章 鞍點(diǎn)問(wèn)題的原始-對(duì)偶算法 62
3.1 鞍點(diǎn)問(wèn)題對(duì)應(yīng)的變分不等式 62
3.2 不能保證收斂的原始-對(duì)偶混合梯度法 63
3.3 求解鞍點(diǎn)問(wèn)題的鄰近點(diǎn)算法 67
3.4 鞍點(diǎn)問(wèn)題PPA算法的一些應(yīng)用 70
3.5 子問(wèn)題目標(biāo)函數(shù)含非平凡二次項(xiàng)的PPA算法 74
第4章 乘子交替方向法 79
4.1 從增廣Lagrange乘子法到ADMM 79
4.2 ADMM的收斂性分析 84
4.3 線性化的ADMM90
4.4 ADMM及線性化ADMM的收斂性證明 95
4.4.1 ADMM及線性化ADMM的全局收斂性 95
4.4.2 ADMM點(diǎn)列意義下的收斂速率 96
4.4.3 ADMM遍歷意義下的收斂速率 99
4.5 Glowinski交替方向法中更新乘子的步長(zhǎng)法則 102
第5章 凸優(yōu)化分裂收縮算法的預(yù)測(cè)-校正統(tǒng)一框架 105
5.1 分裂收縮算法的預(yù)測(cè)-校正統(tǒng)一框架 105
5.1.1 統(tǒng)一框架中的預(yù)測(cè) 105
5.1.2 統(tǒng)一框架中的校正 106
5.2 按照統(tǒng)一框架修正的一些算法 108
5.2.1 平凡松弛校正的算法 108
5.2.2 必要非平凡校正的算法 110
5.3 統(tǒng)一框架中的算法收斂性質(zhì) 113
5.3.1 采用固定步長(zhǎng)校正的算法收斂性 113
5.3.2 采用計(jì)算步長(zhǎng)校正的算法收斂性 115
5.4 統(tǒng)一框架下算法的迭代復(fù)雜性 117
5.4.1 遍歷意義下的迭代復(fù)雜性 117
5.4.2 點(diǎn)列意義下的迭代復(fù)雜性 120
5.5 合格預(yù)測(cè)確定后選取校正矩陣的通用法則 122
第6章 統(tǒng)一框架與**單調(diào)變分不等式的投影收縮算法 128
6.1 單調(diào)變分不等式及與其等價(jià)的投影方程 128
6.1.1 保護(hù)資源-保障供給中的互補(bǔ)問(wèn)題 129
6.1.2 交通疏導(dǎo)中的互補(bǔ)問(wèn)題 131
6.1.3 與變分不等式等價(jià)的投影方程 132
6.2 PPA算法和投影收縮算法的三個(gè)基本不等式 133
6.3 投影收縮算法和分裂收縮算法中的預(yù)測(cè) 135
6.3.1 求解**變分不等式的投影收縮算法中的預(yù)測(cè) 135
6.3.2 求解混合變分不等式的分裂收縮算法中的預(yù)測(cè) 137
6.4 投影收縮算法和分裂收縮算法的校正 137
6.4.1 兩類方法中采用固定步長(zhǎng)的校正 138
6.4.2 兩類算法中計(jì)算步長(zhǎng)的校正 139
6.5 投影收縮算法中的孿生方向和姊妹方法 142
6.6 單調(diào)變分不等式投影收縮算法遍歷意義下的收斂速率 146
6.7 投影收縮算法在求解可分離凸優(yōu)化上的應(yīng)用 151
第7章 統(tǒng)一框架與單調(diào)線性變分不等式的投影收縮算法 160
7.1 單調(diào)線性變分不等式及相應(yīng)的優(yōu)化問(wèn)題 160
7.2 線性變分不等式的投影收縮算法和算法統(tǒng)一框架 166
7.3 求解線性變分不等式的孿生方向和姊妹方法 171
7.4 線性變分不等式投影收縮算法的收斂速率 175
7.5 孿生方向姊妹方法在*短距離和問(wèn)題中的計(jì)算表現(xiàn) 180
第8章 統(tǒng)一框架下求解鞍點(diǎn)問(wèn)題的收縮算法 185
8.1 修正Chambolle-Pock算法的預(yù)測(cè)-校正方法 186
8.2 基于C-P方法的自適應(yīng)預(yù)測(cè)-校正方法 193
8.3 采用平行預(yù)測(cè)的預(yù)測(cè)-校正方法 200
8.4 子問(wèn)題目標(biāo)函數(shù)中含非平凡二次項(xiàng)的PPA算法 203
8.5 求解鞍點(diǎn)問(wèn)題的投影收縮算法 206
第9章 統(tǒng)一框架下求解單塊凸優(yōu)化問(wèn)題的收縮算法 210
9.1 從增廣Lagrange乘子法到PPA算法 210
9.2 非平凡校正的ALM類算法 212
9.3 平凡松弛校正的PPA算法 217
9.4 均困平衡的增廣Lagrange乘子法 220
9.5 非平凡校正的均困ALM 223
9.6 平凡松弛校正的均困PPA算法 226
9.7 平行處理預(yù)測(cè)子問(wèn)題的均困方法 229
第10章 統(tǒng)一框架下兩可分離塊凸優(yōu)化問(wèn)題的ADMM類方法 232
10.1 **ADMM在統(tǒng)一框架中的演譯 233
10.2 交換順序的ADMM 239
10.3 對(duì)稱的ADMM 242
10.4 利用統(tǒng)一框架設(shè)計(jì)的PPA算法 247
10.5 線性化ADMM和自適應(yīng)線性化ADMM 249
10.5.1 線性化ADMM在統(tǒng)一框架下的演譯 249
10.5.2 自適應(yīng)的線性化ADMM 251
10.6 統(tǒng)一框架下計(jì)算步長(zhǎng)的線性化ADMM 255
10.7 利用統(tǒng)一框架設(shè)計(jì)的均困PPA算法 260
第11章 三個(gè)可分離塊凸優(yōu)化問(wèn)題的修正ADMM類方法 264
11.1 直接推廣的ADMM對(duì)三個(gè)可分離塊問(wèn)題不保證收斂 264
11.2 部分平行分裂的ADMM預(yù)測(cè)-校正方法 269
11.3 帶Gauss回代的ADMM類方法 275
11.4 線性化的帶Gauss回代的ADMM類方法 283
11.5 部分平行并加正則項(xiàng)的ADMM類方法 288
11.6 利用統(tǒng)一框架設(shè)計(jì)的PPA算法 291
第12章 線性化ALM和ADMM中的不定正則化準(zhǔn)則 294
12.1 不定正則化方法的意義和兩個(gè)引理 294
12.2 等式約束優(yōu)化問(wèn)題的不定正則化 ALM 298
12.2.1 不定正則化方法 ALM 的變分不等式表示 298
12.2.2 不定正則化方法 ALM 的收斂性證明 300
12.3 不等式約束問(wèn)題的不定正則化 ALM 303
12.3.1 不定正則化方法 ALM 的預(yù)測(cè)-校正格式 305
12.3.2 不定正則化 ALM 的收斂性證明 308
12.4 不定正則的*優(yōu)線性化ADMM 313
12.4.1 不定正則化方法ADMM的預(yù)測(cè)-校正格式 315
12.4.2 不定正則化ADMM的收斂性證明 318
12.5 不定正則化ADMM類方法求解三個(gè)可分離塊問(wèn)題 322
第13章 多個(gè)可分離塊凸優(yōu)化問(wèn)題的ADMM類方法 327
13.1 帶Gauss回代的ADMM類方法 329
13.2 線性化的帶Gauss回代的ADMM類方法 337
13.3 子問(wèn)題平行正則化的ADMM類方法 341
13.4 利用統(tǒng)一框架設(shè)計(jì)的PPA算法 347
第14章 平行預(yù)測(cè)的求解多塊問(wèn)題的方法 350
14.1 平行預(yù)測(cè)不加正則項(xiàng)的方法 351
14.1.1 方法轉(zhuǎn)換成統(tǒng)一框架下的模式 352
14.1.2 基于同一預(yù)測(cè)的其他校正方法 356
14.2 平行預(yù)測(cè)加正則項(xiàng)的方法 358
14.2.1 采用統(tǒng)一框架中計(jì)算步長(zhǎng)的校正方法 359
14.2.2 采用統(tǒng)一框架中單位步長(zhǎng)的校正方法 361
14.3 Jacobi預(yù)測(cè)的PPA算法 365
14.4 均困平衡的PPA算法 368
第15章 求解多塊可分離問(wèn)題的廣義秩一預(yù)測(cè)-校正方法 373
15.1 變分不等式變量代換下的預(yù)測(cè)-校正框架 374
15.2 多塊可分離問(wèn)題的串行預(yù)測(cè) 378
15.3 基于Primal-Dual預(yù)測(cè)構(gòu)造校正矩陣 385
15.4 基于Dual-Primal預(yù)測(cè)構(gòu)造校正矩陣 388
15.5 統(tǒng)一框架中的串行預(yù)測(cè)和廣義秩一校正 391
第16章 求解多塊可分離問(wèn)題的廣義秩二預(yù)測(cè)-校正方法 394
16.1 用統(tǒng)一框架指導(dǎo)設(shè)計(jì)方法 394
16.2 根據(jù)統(tǒng)一框架設(shè)計(jì)串型預(yù)測(cè) 395
16.2.1 Primal-Dual預(yù)測(cè)后再校正的方法 395
16.2.2 Dual-Primal預(yù)測(cè)后再校正的方法 400
16.3 根據(jù)統(tǒng)一框架設(shè)計(jì)平行預(yù)測(cè)的方法 404
第17章 預(yù)測(cè)-校正的廣義PPA算法 410
17.1 變分不等式**算法的兩個(gè)主要性質(zhì) 410
17.2 預(yù)測(cè)-校正的廣義PPA算法.412
17.3 變量替換下的廣義PPA算法 414
17.4 基于秩一預(yù)測(cè)的廣義PPA算法 416
17.4.1 Primal-Dual預(yù)測(cè)的廣義PPA算法 417
17.4.2 Dual-Primal預(yù)測(cè)的廣義PPA算法 419
17.5 基于秩二預(yù)測(cè)的廣義PPA算法 421
17.5.1 Primal-Dual預(yù)測(cè)的廣義PPA算法 422
17.5.2 Dual-Primal預(yù)測(cè)的廣義PPA算法 425
17.6 平行秩二預(yù)測(cè)的廣義PPA算法 427
后記 429
參考文獻(xiàn) 434
《計(jì)算與應(yīng)用數(shù)學(xué)叢書》已出版書目 442
書單推薦
