AAM Advances in Applied Mathematics 2324-7991 Scientific Research Publishing 10.12677/AAM.2015.43033 AAM-15898 AAM20150300000_47446754.pdf 数学与物理 二阶锥规划的光滑非精确牛顿法 Smoothing Inexact Newton Method for the Second Order Cone Programming 1 * 思齐 3 2 金根 2 1 信阳师范学院土木工程学院,河南 信阳 null 信阳师范学院数学与信息科学学院,河南 信阳 * E-mail: dongli9261128@163.com(董丽) ; 03 08 2015 04 03 271 276 © Copyright 2014 by authors and Scientific Research Publishing Inc. 2014 This work is licensed under the Creative Commons Attribution International License (CC BY). http://creativecommons.org/licenses/by/4.0/

本文给出了一个新的求解二阶锥规划的光滑非精确牛顿法。在每次迭代时,新方法采用非精确牛顿法去求解一个方程组的解,降低了光滑牛顿法的计算量。在较弱条件下,证明了算法具有全局和局部二阶收敛性质。数值试验表明算法是有效的。 A new smoothing inexact Newton method is presented for solving the second-order cone pro-gramming. At each iteration, the method uses an inexact Newton method to solve the system of equations, which saves computation work of smoothing Newton methods. Under weak assumptions, our method is proved to have global and local quadratic convergence. Numerical experiments indicate that the proposed method is quite effective.

二阶锥规划,光滑非精确牛顿法,收敛性, Second-Order Cone Programming Smoothing Inexact Newton Method Convergence
二阶锥规划的光滑非精确牛顿法<sup> </sup>

董丽1,徐思齐2,杨金根1

1信阳师范学院数学与信息科学学院,河南 信阳

2信阳师范学院土木工程学院,河南 信阳

Email: dongli9261128@163.com

收稿日期:2015年7月30日;录用日期:2015年8月12日;发布日期:2015年8月18日

摘 要

本文给出了一个新的求解二阶锥规划的光滑非精确牛顿法。在每次迭代时,新方法采用非精确牛顿法去求解一个方程组的解,降低了光滑牛顿法的计算量。在较弱条件下,证明了算法具有全局和局部二阶收敛性质。数值试验表明算法是有效的。

关键词 :二阶锥规划,光滑非精确牛顿法,收敛性

1. 引言

本文考虑如下二阶锥规划:

其中 是变量, 是已知的量。 维的二阶锥,其定义为

其中 为向量的欧几里得范数。(P)的对偶规划为

二阶锥规划作为数学规划领域的一个重要分支,有着非常重要而又广泛的应用背景和实际意义, 其研究问题涉及控制、金融、组合优化、工程技术、神经网络、机器学习等诸多领域[ 1 ] 。许多数学规划问题, 如凸二次规划、二次约束的凸二次规划、矩阵分式优化、范数极小化问题、鲁棒最小二乘问题、天线阵列的设计、带损失风险的金融优化问题等均可以转化为二阶锥规划[ 1 ] 。因此近年来二阶锥规划成为数学规划领域一个值得关注的方向。

光滑算法是近年来求解二阶锥规划的一种新方法[ 2 ] -[ 6 ] 。该方法的基本思想是利用一个光滑函数将二阶锥规划等价转化成一个非线性方程组,然后利用牛顿法求解该方程组,从而得到原问题的最优解。由于光滑算法不但在理论上具有好的收敛性质,而且在具体实施中有很好的实际计算效果,因而近年来得到了迅速的发展。注意到,文献[ 2 ] -[ 6 ] 所研究的光滑算法在每次迭代时,都需要精确求出一个非线性方程组的解。如果要求解的问题规模较大,精确求解此方程组的解往往效率不高,而非精确牛顿法是解决这类问题的一种很好的途径。

本文给出了一个求解二阶锥规划的光滑非精确牛顿法,证明了算法的全局和局部收敛性质。该方法采用非精确牛顿法求解方程组的解,大大提高了光滑算法的效率。数值试验表明算法对求解大规模二阶锥规划是有效的。

2. 预备知识

对任意的 ,与二阶锥 相伴的约当代数定义为

是一个欧几里得约当代数,其单位元为

对任意的 ,定义 ,其中I为 维单位矩阵。

易知

下面给出与二阶锥 相伴的 中向量的谱分解。对任意的 ,它的谱分解为 ,其中谱值 和谱向量 分别为

这里 是满足 的任意向量。利用谱分解,我们可以定义

本文假设原始问题(P)及其对偶问题(D)都严格可行。在此假设条件下,原始问题(P)及其对偶问题(D)都有最优解且最优值相等,并且求解二阶锥规划问题等价于求解其最优性条件:

3. 算法描述

光滑函数在二阶锥规划光滑算法的设计和收敛性分析中起着非常重要的作用。本文采用著名的Fischer–Burmeister光滑函数,其定义如下:

由文献[ 7 ] 中的命题4.2可知

。利用 定义函数 如下:

由(1)和(3)可知 的解当且仅当 是(P)和(D)的解。

下面给出我们的算法。

算法3.1. (光滑非精确牛顿法)

步骤0: 选取常数 。选取初始点 。令 。选取常数 ,使得 。选取常数 ,使得 。令

步骤1:如果 ,则停止迭代。否则,计算

步骤2:求解如下方程组得搜索方向 ,

这里 ,其中 并且满足

步骤3:令 是使得下式成立的最小非负整数

步骤4:令 。令 。转步骤1。

注:令 ,则由算法3.1的步骤2可知

即方程组(6)由非精确牛顿法求解。

下面定理给出了 的雅可比矩阵及其可逆性,具体证明可参见文献[ 6 ] 中的定理3.2。

定理3.1:设 由(4)定义,则有下面结论。

(i) 上全局Lipschitz连续且处处强半光滑,并且在任意的 处连续可微,其雅可比矩阵为

其中

(ii) 如果矩阵 行满秩,则对任意的 可逆。

定理3.2:设矩阵 行满秩,则算法3.1有好的定义。

证明:假设对于某个 。因为矩阵 行满秩,故由定理3.1知 可逆,所以在第 步迭代步骤2有好的定义。令 为方程组(6)的解,则对任意的 ,有

由(9)及定理3.1可知 附近连续可微。对任意的 ,定义

。由(5)和(7)知 ,故知

因此,由(6)和(10)可知对任意的 ,有

因为 ,所以存在一个常数 使得对于任意的 ,有

从而可知步骤3在第 步迭代有好的定义,即算法步骤3可以产生一个步长 。由(9)可知 ,因此由数学归纳法可知算法3.1有好的定义。证毕。

引理3.1 设 为算法3.1产生的迭代点列,则对任意的

证明:由算法3.1的步骤3和步骤4可知点列 单调下降,从而由 的定义可知点列 也是单调下降的。由算法3.1的步骤0可知 。假设对于某个 ,则由(9)可得

,

进而由数学归纳法可知结论成立。证毕。

4. 算法的收敛性质

定理4.1:如果矩阵 行满秩并且 是由算法3.1产生的迭代点列,那么 的任意聚点 都是 的解。

证明:不失一般性,我们假设当 时, 收敛到 。因为 单调下降并且有下界,所以由 的连续性可知 收敛到一个非负数 。若 ,则结论成立。假设 。因为 并且 单调下降,故

,

从而由定理3.1可知 存在并可逆。因此,存在 的一个闭邻域 ,使得对任意的 并且 可逆。因为 ,故对于充分大的 ,进而可知 并且 可逆。对于充分大的 ,设 是方程组 唯一的解。类似于定理3.2的证明,对于充分大的 ,存在一个非负整数 满足 ,这里 ,使得

对任意的 都成立。对于充分大的 ,因为 ,所以由算法3.1的步骤3和步骤4可得

并在上式两边取极限,利用 ,可得 。这与 矛盾。因此可知 。证毕。

定理4.2:假设矩阵 行满秩并且 是算法3.1产生的迭代点列 的任意聚点。如果所有的 都是非奇异的,则 二次收敛到 ,即

证明:由定理4.1可知 ,故对于充分大的 ,有 并且 ,进而可知

因此,类似于文献[ 2 ] 中的定理4.3可证得结论成立。在此省略。证毕。

Numerical results of Algorithm 3.
n m AIT ACPU MHK
100 50 5.7 0.07 3.056(−7)
200 100 5.6 0.41 9.813(−7)
300 150 5.8 1.12 6.251(−7)
400 200 6.0 2.77 1.019(−7)
500 250 6.2 5.11 8.702(−7)
600 300 6.1 8.98 2.313(−7)
700 350 6.5 15.43 2.691(−7)
800 400 6.5 21.73 4.101(−7)

表1. 算法3.1的数值结果

5. 数值试验

为检验算法3.1的实算效果,我们用Matlab7.0.1编程在Windows XP操作系统的电脑上做数值试验。

在所有的试验中,参数选择为 。我们选择 作为初始点。终止准则为

测试问题是随机生成的二阶锥规划问题。具体步骤为:首先生成随机的行满秩矩阵 和随机向量 ,这里 ,然后令 ,则得到的二阶锥规划的原问题和对偶问题都存在最优解且最优值相等。每个算例测试10次,计算结果列于表1,其中 表示 ,AIT表示算法所需的迭代次数的平均值,ACPU表示算法所需的CPU时间(单位:秒)的平均值,MHK表示算法终止时10个算例中 的最大值。

由表1可以看出,算法3.1是有效的并且能够求解大规模二阶锥规划问题,它只需要很少的迭代次数和CPU时间就可以得到满足终止条件的解。

基金项目

河南省自然科学基金(142300410437),河南省高等学校重点科研项目(15A110039)。

文章引用

董丽,徐思齐,杨金根. 二阶锥规划的光滑非精确牛顿法Smoothing Inexact Newton Method for the Second Order Cone Programming[J]. 应用数学进展, 2015, 04(03): 271-276. http://dx.doi.org/10.12677/AAM.2015.43033

参考文献 (References) References Alizadeh, F. and Goldfarb, D. (2003) Second-order cone optimization. Mathematical Programming, 95, 3-51.
http://dx.doi.org/10.1007/s10107-002-0339-5
Chi, X.N. and Liu, S.Y. (2009) A non-interior continuation method for second-order cone optimization. Optimization, 58, 965-979.
http://dx.doi.org/10.1080/02331930701763421
Chi, X.N. and Liu, S.Y. (2009) A one-step smoothing Newton method for second-order cone programming. Journal of Computational and Applied Mathematics, 223, 114-123.
http://dx.doi.org/10.1016/j.cam.2007.12.023
Fang, L., He, G.P. and Hu, Y.H. (2009) A new smoothing Newton-type method for second-order cone programming problems. Applied Mathematics and Computation, 215, 1020-1029.
http://dx.doi.org/10.1016/j.amc.2009.06.029
Tang, J.Y., He, G.P., Dong, L. and Fang, L. (2011) A smoothing Newton method for second-order cone optimizationbased on a new smoothing function. Applied Mathe-matics and Computation, 218, 1317-1329.
http://dx.doi.org/10.1016/j.amc.2011.06.015
汤京永, 贺国平 (2012) 一个新的求解二阶锥规划的非内部连续化算法. 应用数学, 1, 26-31. Fukushima, M., Luo, Z.Q. and Tseng, P. (2002) Smoothing functions for second-order-cone complementarity problems. SIAM Journal on Optimization, 12, 436-460.
http://dx.doi.org/10.1137/S1052623400380365
Baidu
map