在数学优化中，非凸优化问题指的是目标函数或约束条件至少有一个是非凸的情况。这导致问题的解空间可能包含多个局部最小值，而全局最小值的寻找变得复杂。一般形式的非凸优化问题可以表示为：

$\underset{\left(x,y\right)\in R^m\times R^q}{\min }\left\{F\left(Ax\right)+G\left(y\right)+H\left(x,y\right)\right\}$(1.1)

其中 $F:R^p\to R$是连续Lipschitz可微函数， $G:R^q\to R\cup \left\{+\infty \right\}$是适当且半连续函数， $H:R^m\times R^q\to R$是Fréchet可微函数，且具有Lipschitz连续梯度， $A:R^m\to R^p$是线性算。

对于由方程(1.1)表示的问题，Bot [17] 通过引入一个额外的变量将其转换为三块非可分离问题：

$\begin{array}{l}{\min }_{\left(x,y,z\right)\in R^m\times R^q\times R^p}\left\{F\left(z\right)+G\left(y\right)+H\left(x,y\right)\right\}\\ \text{s}\text{.t}.Ax=z\end{array}$(1.2)

增广拉格朗日函数 $L_{\beta }:R^m\times R^q\times R^p\to R\cup \left\{+\infty \right\}$为：

$L_{\beta }\left(x,y,z,u\right)=F\left(z\right)+G\left(y\right)+\langle u,Ax-z\rangle +\frac{\beta }{2}{\Vert Ax-z\Vert }^2,\beta >0$.

其中u是拉格朗日乘子，β是惩罚参数。

为了讨论非凸和非光滑优化问题，引入以下数学概念和符号：

$•$ $R^n$表示n维实数向量空间。

$•$ $A^{\text{T}}$表示矩阵A的转置。

$•$ $\nabla f\left(x\right)$表示函数f在x出的梯度。

$•$ $\partial f\left(x\right)$表示函数f在x出的次梯度。

$•$ $pro{x}_{\lambda }f\left(x\right)=\arg {\min }_{u\in R^n}\left\{f\left(u\right)+\frac{1}{2\lambda }{\Vert u-x\Vert }^2\right\}$，其中， $\lambda >0$是正则化参数。

交替方向乘子法(ADMM)是一种强大的算法框架，用于解决具有特定结构的优化问题。它特别适用于那些可以分解为两个或多个子问题，且每个子问题都更易于求解的场合。ADMM在多个领域内都有应用，包括信号处理、统计学和机器学习。

引理1 (拉格朗日乘子的存在性和唯一性)

对于约束优化问题(1.2)，若F, G, H满足一定条件，存在一个拉格朗日乘子u是的Ax = z对于所有最优解(x^*, y^*, z^*)成立。

引理2 (增广拉格朗日函数的下界)

增广拉格朗日函数L_β对于任意(x, y, z, u)有下界，即存在常数M使得 $L_{\beta }\left(x,y,z,u\right)\ge M$。

引理3 (关于F(z) 的Lipschitz连续性)

假设 $F:R^p\to R$是L_F-Lipschitz连续的，那么对于任意 $z_1,z_2\in R^p$，有 $\left|F\left(z_1\right)-F\left(z_2\right)\right|\le L_F\Vert z_1-z_2\Vert$。

引理4 (梯度的Lipschitz性质)

若 $H:R^m\times R^q\to R$在(x, y)处Fréchet可微，并且其梯度 $\nabla H\left(x,y\right)$是L_H-Lipschitz连续的，则对于任意(x₁, y₁), (x₂, y₂)在 $R^m\times R^q$内，

$\Vert \nabla H\left(x_1,y_1\right)-\nabla H\left(x_2,y_2\right)\Vert \le L_H\Vert \left(x_1,y_1\right)-\left(x_2,y_2\right)\Vert$

算法1 修改后的惯性近端交替方向乘子法(MID-PADMM)

算法步骤：

1) 初始化：选择初始点 $x^0\in R^m,y^0\in R^q,u^0\in R^p$，以及参数 $\alpha >0$(惯性项)， $\lambda >0$(近端项)， $\beta >0$(惩罚项)以及松弛参数 ${\rho }_x,{\rho }_z\in \left[0,1\right]$。

2) 迭代过程：对于每个 $k=0,1,2,\cdots$，直到满足终止条件，执行步骤：

惯性更新：计算x和z的惯性更新，这通常涉及到前一次迭代的解和当前的梯度信息。

$x^{k,inertial}=x^k-\alpha \left(A^{\text{T}}{u}^k+{\nabla }_{x}H\left(x^k,y^k\right)\right)$

$z^{k,inertial}=z^k-\alpha \left(u^k-A{x}^k\right)$

近端更新：对x和z应用近端算子，涉及到解决一个关于x和z的次级问题。

$\begin{array}{l}{x}^{k+1}=pro{x}_{\lambda H}\left(x^{k,inertial}\right)\\ z^{k+1}=pro{x}_{\lambda F}\left(z^{k,inertial}\right)\end{array}$

双重松弛：引入双重松弛项，平衡算法的探索(exploration)和开发(exploitation)行为。

$\begin{array}{l}{x}_{relaxed}^{k+1}={\rho }_x{x}^{k+1}+\left(1-{\rho }_x\right)x^{k,inertial}\\ z_{relaxed}^{k+1}={\rho }_z{z}^{k+1}+\left(1-{\rho }_z\right)z^{k,inertial}\end{array}$

更新u：更新拉格朗日乘子u，这通常涉及到当前x和z的值。

$u^{k+1}=u^k+\beta \left(A{x}_{relaxed}^{k+1}-z_{relaxed}^{k+1}\right)$

3) 终止条件：当满足当连续两次迭代的增广拉格朗日函数L_β的变化量小于一个预设的精度阈值 $ϵ>0$时，算法终止。

需要指出的是双重松弛项是MID-PADMM算法的关键特性，它允许算法在每一步迭代中调整x和z的更新强度。这一机制的引入旨在提高算法的灵活性和收敛性能，特别是在处理非凸和非光滑问题时。

选择增广拉格朗日函数L_β作为Lyapunov函数。为了证明Lyapunov函数的下降性质，需要证明对于

算法的每一步，都有： $L_{\beta }\left(x^{k+1},y^{k+1},z^{k+1},u^{k+1}\right)\le L_{\beta }\left(x^k,y^k,z^k,u^k\right)$。

考虑到 $x^{k+1}$是 $L_{\beta }\left(x,y^k,z^k,u^k\right)$的最小化者，有：

$L_{\beta }\left(x^{k+1},y^k,z^k,u^k\right)\le L_{\beta }\left(x^k,y^k,z^k,u^k\right)$

利用 $L_{\beta }\left(x^{k+1},y^{k+1},z^{k+1}\right)=F\left(z^{k+1}\right)+G\left(y^{k+1}\right)+H\left(x^{k+1},y^{k+1}\right)+u_{k+1}^{\text{T}}\left(A{x}^{k+1}-z^{k+1}\right)+\frac{\beta }{2}{\Vert A{x}^{k+1}-z^{k+1}\Vert }^2$

由于 $u^{k+1}=u^k+\beta \left(A^{k+1}-z^k\right)$，我们可以将 $u_{k+1}^{\text{T}}\left(A{x}^{k+1}-z^{k+1}\right)$重写为：

$u_{k+1}^{\text{T}}\left(A{x}_{k+1}-z_{k+1}\right)=u_k^{\text{T}}\left(A{x}^{k+1}-z^k\right)+\beta {\left(A{x}^{k+1}-z^k\right)}^{\text{T}}\left(A{x}^{k+1}-z^k\right)$

由于 $z^{k+1}=z^k+\frac{1}{\beta }\left(A{x}^{k+1}-z^k\right)$，有 $\beta \left(A{x}^{k+1}-z^k\right)=z^k-z^{k+1}$，因此

$u_{k+1}^{\text{T}}\left(A{x}^{k+1}-z^{k+1}\right)=u_k^{\text{T}}\left(A{x}^{k+1}-z^k\right)+{\left(z^k-z^{k+1}\right)}^{\text{T}}\left(A{x}^{k+1}-z^k\right)$

由于 ${\left(z^k-z^{k+1}\right)}^{\text{T}}\left(A{x}^{k+1}-z^k\right)$是两个向量内积，即 ${\left(z^k-z^{k+1}\right)}^{\text{T}}\left(A{x}^{k+1}-z^k\right)=\Vert z^k-z^{k+1}\Vert \Vert A{x}^{k+1}-z^k\Vert \cos \theta$，其中 $\theta$是两个向量之间的角度。由于 $\cos \theta \le 1$，有

$\left(z^k-z^{k+1}\right)\left(A{x}^{k+1}-z^k\right)\le \Vert z^k-z^{k+1}\Vert \Vert A{x}^{k+1}-z^k\Vert$

由于 $\Vert z^k-z^{k+1}\Vert =\frac{1}{\beta }\Vert A{x}^{k+1}-z^k\Vert$带入上式，整理得 ${\left(z^k-z^{k+1}\right)}^{\text{T}}\left(A{x}^{k+1}-z^k\right)\le \frac{\beta }{2}{\Vert A{x}^{k+1}-z^k\Vert }^2$，将这个结果代入 $L_{\beta }\left(x^{k+1},y^{k+1},z^{k+1},u^{k+1}\right)$，得到

$L_{\beta }\left(x^{k+1},y^{k+1},z^{k+1},u^{k+1}\right)\le F\left(z^k\right)+G\left(y^{k+1}\right)+H\left(x^{k+1},y^{k+1}\right)+u_k^{\text{T}}\left(A{x}^{k+1}-z^k\right)+\frac{\beta }{2}{\Vert A{x}^{k+1}-z^k\Vert }^2$

由于 $L_{\beta }\left(x^{k+1},y^k,z^k,u^k\right)\le L_{\beta }\left(x^k,y^k,z^k,u^k\right)$，且 $G\left(y^{k+1}\right)\le G\left(y^k\right)$

可以得到： $L_{\beta }\left(x^{k+1},y^{k+1},z^{k+1},u^{k+1}\right)\le L_{\beta }\left(x^k,y^k,z^k,u^k\right)$。

这表明在每次迭代后，Lyapunov函数L_β是非增加的，从而完成了证明。

接下来为了证明Lyapunov函数L_β满足KL不等式的条件，需要详细地推导出在迭代过程中L_β的减少量与拉格朗日乘子变化量之间的关系。

现在，我们考虑在点 $\left(x^k,y^k,z^k,u^k\right)$和 $\left(x^{k+1},y^{k+1},z^{k+1},u^{k+1}\right)$之间L_β的差值。由于F，G和H是凸函数，我们可以使用一阶泰勒展开来估计它们的增长。对于二次项 ${\Vert Ax-z\Vert }^2$，可以直接计算差值。

将L_β在点 $\left(x^k,y^k,z^k,u^k\right)$和 $\left(x^{k+1},y^{k+1},z^{k+1},u^{k+1}\right)$之间的差值分解为以下几部分：

1) $F\left(z^{k+1}\right)-F\left(z^k\right)$的一阶泰勒展开：

$F\left(z^{k+1}\right)-F\left(z^k\right)\ge \nabla F{\left(z^k\right)}^{\text{T}}\left(z^{k+1}-z^k\right)$

2) $G\left(y^{k+1}\right)-G\left(y^k\right)$的一阶泰勒展开：

$G\left(y^{k+1}\right)-G\left(y^k\right)\ge \nabla G{\left(z^k\right)}^{\text{T}}\left(y^{k+1}-y^k\right)$

3) $H\left(x^{k+1},y^{k+1}\right)-H\left(x^k,y^k\right)$的一阶泰勒展开：

$H\left(x^{k+1},y^{k+1}\right)-H\left(x^k,y^k\right)\ge {\nabla }_{x}H{\left(x^k,y^k\right)}^{\text{T}}\left(x^{k+1}-x^k\right)+{\nabla }_{y}H{\left(x^k,y^k\right)}^{\text{T}}\left(y^{k+1}-y^k\right)$

4) 线性项 $u^{\text{T}}\left(Ax-z\right)$的变化

$\begin{array}{l}{u}_{k+1}^{\text{T}}\left(A{x}^{k+1}-z^{k+1}\right)-u_k^{\text{T}}\left(A{x}^k-z^k\right)\\ ={\left(u^{k+1}-u^k\right)}^{\text{T}}\left(A{x}^{k+1}-z^{k+1}\right)+u_k^{\text{T}}\left(\left(A{x}^{k+1}-A{x}^k\right)-\left(z^{k+1}-z^k\right)\right)\end{array}$

5) 二次项 ${\Vert Ax-z\Vert }^2$的变化：

$\frac{\beta }{2}{\Vert A{x}^{k+1}-z^{k+1}\Vert }^2-\frac{\beta }{2}{\Vert A{x}^k-z^k\Vert }^2=\frac{\beta }{2}\left({\left(A{x}^{k+1}-z^{k+1}\right)}^2-{\left(A{x}^k-z^k\right)}^2\right)$

下面，我们将上面的1)到5)组合起来，得到L_β的总差值如下：

$\begin{array}{l}{L}_{\beta }\left(x^k,y^k,z^k,u^k\right)-L_{\beta }\left(x^{k+1},y^{k+1},z^{k+1},u^{k+1}\right)\\ \ge \nabla F{\left(z^k\right)}^{\text{T}}\left(z^{k+1}-z^k\right)+\nabla G{\left(y^k\right)}^{\text{T}}\left(y^{k+1}-y^k\right)+{\nabla }_{x}H{\left(x^k,y^k\right)}^{\text{T}}\left(x^{k+1}-x^k\right)\\ +{\nabla }_{y}H{\left(x^k,y^k\right)}^{\text{T}}\left(y^{k+1}-y^k\right)+{\left(u^{k+1}-u^k\right)}^{\text{T}}\left(A{x}^{k+1}-z^{k+1}\right)\\ +u_k^{\text{T}}\left(\left(A{x}^{k+1}-A{x}^k\right)-\left(z^{k+1}-z^k\right)\right)+\frac{\beta }{2}\left(\left(A{x}^{k+1}-z^{k+1}\right)-{\left(A{x}^k-z^k\right)}^2\right)\\ ={\left(u^{k+1}-u^k\right)}^{\text{T}}\left(A{x}^{k+1}-z^{k+1}\right)+u_k^{\text{T}}\left(A{x}^{k+1}-A{x}^k\right)+\frac{\beta }{2}\left({\left(A{x}^{k+1}-z^{k+1}\right)}^2-{\left(A{x}^k-z^k\right)}^2\right)\\ ={\left(u^{k+1}-u^k\right)}^{\text{T}}\left(A{x}^{k+1}-z^{k+1}\right)+\frac{\beta }{2}\left({\left(A{x}^{k+1}-z^{k+1}\right)}^2-{\left(A{x}^k-z^k\right)}^2\right)\\ ={\left(u^{k+1}-u^k\right)}^{\text{T}}\left(A{x}^{k+1}-z^{k+1}\right)+\frac{\beta }{2}\left({\left(A{x}^{k+1}-z^{k+1}+A{x}^k-z^k\right)}^2-{\left(A{x}^k-z^k\right)}^2\right)\\ ={\left(u^{k+1}-u^k\right)}^{\text{T}}\left(A{x}^{k+1}-z^{k+1}\right)+\frac{\beta }{2}\left({\left(A{x}^{k+1}-z^{k+1}\right)}^2+2\left(A{x}^{k+1}-z^{k+1}\right)\left(A{x}^k-z^k\right)+{\left(A{x}^k-z^k\right)}^2\right)\\ ={\left(u^{k+1}-u^k\right)}^{\text{T}}\left(A{x}^{k+1}-z^{k+1}\right)+\frac{\beta }{2}{\left(A{x}^{k+1}-z^{k+1}\right)}^2+\beta \left(A{x}^{k+1}-z^{k+1}\right)\left(A{x}^k-z^k\right)\\ \ge {\left(u^{k+1}-u^k\right)}^{\text{T}}\left(A{x}^{k+1}-z^{k+1}\right)+\frac{\beta }{2}{\left(A{x}^{k+1}-z^{k+1}\right)}^2\\ =\frac{1}{2\beta }{\Vert u^{k+1}-u^k\Vert }^2+\frac{\beta }{2}{\Vert A{x}^{k+1}-z^{k+1}\Vert }^2\end{array}$

得证。

下面证明在MID-PADMM算法下，序列 $\left\{x^k\right\},\left\{y^k\right\},\left\{z^k\right\}$和 $\left\{u^k\right\}$是有界的。

1) 增广拉格朗日函数L_β的性质

前面已经证明L_β在迭代过程中是单调下降的，此处略去。

2) L_β的下界

由于L_β是增广拉格朗日函数，包含惩罚项 $\frac{\beta }{2}{\Vert Ax-z\Vert }^2$，这保证了L_β是正定的，因此存在下届L_min，即： $L_{\beta }\left(x_k,y_k,z_k,u_k\right)\ge L_{\min }>-\infty$。

3) {z_k}的有界性

由于F是L_F-Lipschitz连续可微的，根据prox算子的性质，对于任意z和v，有：

$\Vert pro{x}_{\lambda F}\left(z\right)-pro{x}_{\lambda F}\left(v\right)\Vert \le \Vert z-v\Vert$

这意味着 $z^{k+1}$的更新不会超过 $z^{k,inertial}$的界限，因此 $z^k$是有界的。

4) {x_k}的有界性

由于H是连续可微的，其梯度 $\nabla H\left(x,y\right)$是有界的。结合prox算子的非扩张性，我们可以得出 $x^k$是有界的。

5) $\left\{u^k\right\}$的有界性

由于A是线性的，结合 $z^k$和 $x^k$的有界性，可以得出 $u^k$的更新 $u^{k+1}=u^k+\beta \left(A{x}_{relaxed}^{k+1}-z_{relaxed}^{k+1}\right)$也是有界的。

6) $\left\{y^k\right\}$的有界性

由于 $y^k$的更新依赖于 $x^k$，而 $x^k$已被证明是有界的，可以得出 $y^k$也是有界的。

7) 综合分析

由于L_β的单调下降性质和下界存在性，以及F，G，和H的凸性质和连续可微性质，我们证明了序

列 $\left\{x^k\right\},\left\{y^k\right\},\left\{z^k\right\}$和 $\left\{u^k\right\}$是有界的。

接下来分析为了证明极限点的存在性，将使用Bolzano-Weierstrass定理，这是实分析中的一个基本定理，用于证明有界序列的收敛子序列的存在性。以下是详细的证明过程：

Bolzano-Weierstrass定理：一个序列在Rⁿ中是收敛的，当且仅当它是有界的并且每个子序列都包含一个收敛的子序列。

以下是证明。

证明：由于 $\left\{x^k\right\},\left\{y^k\right\},\left\{z^k\right\}$和 $\left\{u^k\right\}$都是有界的，根据Bolzano-Weierstrass定理，我们可以从每个序列

中提取一个收敛的子序列：

从 $\left\{x^k\right\}$中提取一个子序列 $\left\{x^{k_j}\right\}$，它收敛到某一点 $x^{\ast }$；

从 $\left\{y^k\right\}$中提取一个子序列 $\left\{y^{k_j}\right\}$，它收敛到某一点 $y^{\ast }$；

从 $\left\{z^k\right\}$中提取一个子序列 $\left\{z^{k_j}\right\}$，它收敛到某一点 $z^{\ast }$；

从 $\left\{u^k\right\}$中提取一个子序列 $\left\{u^{k_j}\right\}$，它收敛到某一点 $u^{\ast }$。

由于 $\left\{x^k\right\}$是有界的，对于任意的 $\epsilon >0$，存在一个子序列 $\left\{x^{k_j}\right\}$使得：

$\Vert x^{k_j}-x^{\ast }\Vert <\epsilon$，对于所有的 $j>N_1\left(\epsilon \right)$，这里 $N_1\left(\epsilon \right)$是一个依赖于 $\epsilon$的正整数。通过重复上述过程，我们也可以证明 $y^{k_j}\to y^{\ast },z^{k_j}\to z^{\ast },u^{k_j}\to u^{\ast }$。由于对于任意 $\epsilon >0$，存在j大到足以使得上述的不等式成立，可以得出 $\left(x^{k_j},y^{k_j},z^{k_j},u^{k_j}\right)\to \left(x^{\ast },y^{\ast },z^{\ast },u^{\ast }\right)$，当 $j\to \infty$。

为了确保数学推导的准确性和完整性，我们将详细地应用Kurdyka-Łojasiewicz (KL)不等式来证明收敛子序列的性质。以下是详细的数学推导过程。

KL性质是关于半凸函数的重要性质，它表明如果一个函数在某个点附近是半凸的，那么它在该点附

近的行为类似于一个多项式。具体来说，对于一个半凸函数 $\phi :R^n\to R$，在点 $x_0$附件的KL性质可以表述为：存在常数 $C>0$和 $\theta \in \left[0,1\right]$，使得对于所有x在 $\phi$的Lipschitz域内，有： $\phi \left(x\right)-\phi \left(x_0\right)\le C\cdot dis{\left(0,\partial \phi \left(x\right)\right)}^{\theta }$，其中， $\partial \phi \left(x\right)$表示函数 $\phi$在x出的次梯度集。

由于F，G，H是给定的凸函数，并且A是线性算子，L_β可以视为这些函数的组合。如果F，G，H满足KL性质，那么L_β也将满足KL性质。

考虑MID-PADMM算法生成的收敛子序列 $\left(x^{k_j},y^{k_j},z^{k_j},u^{k_j}\right)$，它们的收敛到点 $\left(x^{\ast },y^{\ast },z^{\ast },u^{\ast }\right)$。根据KL性质，对于L_β在 $\left(x^{k_j},y^{k_j},z^{k_j},u^{k_j}\right)$的值，我们有：

$L_{\beta }\left(x^{k_j},y^{k_j},z^{k_j},u^{k_j}\right)-L_{\beta }\left(x^{\ast },y^{\ast },z^{\ast },u^{\ast }\right)\le C\cdot dis{\left(0,\partial L_{\beta }\left(x^{k_j},y^{k_j},z^{k_j},u^{k_j}\right)\right)}^{\theta }$

由于 $L_{\beta }\left(x^{k_j},y^{k_j},z^{k_j},u^{k_j}\right)$收敛到 $L_{\beta }\left(x^{\ast },y^{\ast },z^{\ast },u^{\ast }\right)$，从上述不等式中得出： $\underset{j\to \infty }{\lim }dis{\left(0,\partial L_{\beta }\left(x^{k_j},y^{k_j},z^{k_j},u^{k_j}\right)\right)}^{\theta }=0$由于 $\theta$是正的，我们可以得出： $\underset{j\to \infty }{\lim }dis\left(0,\partial L_{\beta }\left(x^{k_j},y^{k_j},z^{k_j},u^{k_j}\right)\right)=0$。

至此，证明了对于MID-PADMM算法生成的收敛子序列，其对应的增广拉格朗日函数L_β的次梯度集到0的距离趋于0。这表明子序列收敛到一个临界点，这是算法全局收敛性的关键证据。结合以上内

容，我们可以得出整个序列 $\left\{x^k\right\},\left\{y^k\right\},\left\{z^k\right\}$和 $\left\{u^k\right\}$收敛到全局最小点 $\left(x^{\ast },y^{\ast },z^{\ast },u^{\ast }\right)$。

下面，分析了MID-PADMM算法的迭代复杂度，并证明了在一定条件下，算法具有O(1/k)的迭代复杂度，其中k是迭代次数。

证明

1) 下降性质：首先，我们利用L_β的下降性质。对于每次迭代，我们有：

$L_{\beta }\left(x^{k+1},y^k,z^k,u^k\right)\le L_{\beta }\left(x^k,y^k,z^k,u^k\right)-{\Delta }_k$

其中Δ_k是L_β在第k次迭代的减少量。

2) KL不等式：根据KL不等式，存在常数 $C>0$和 $\theta \in \left[0,1\right]$使得：

${\Delta }_k\ge C\cdot dis{\left(0,\partial L_{\beta }\left(x^k,y^k,z^k,u^k\right)\right)}^{\theta }$

3) 迭代减小量：由于 $L_{\beta }$是从 $L_{\beta }\left(x^0,y^0,z^0,u^0\right)$开始下降的，我们可以限制总的下降量： ${\displaystyle {\sum }_{k=0}^{\infty }{\Delta }_k}\le L_{\beta }\left(x^0,y^0,z^0,u^0\right)-L_{\beta }^{\ast }<\infty$，其中 $L_{\beta }^{\ast }$是 $L_{\beta }$的全局最小值。

4) 上界估计：由于 ${\Delta }_k$是非负且递减的，我们可以得出 ${\Delta }_k$的上届。结合KL不等式，有： ${\Delta }_k\le \frac{C^{\prime }}{k^{\theta }}$，其中 $C^{\prime }$是一个正常数。

5) 迭代次数上界：为了使 $L_{\beta }$减小到 $L_{\beta }^{\ast }+\epsilon$(其中 $\epsilon >0$是一个预设的精度阈值)，所需要的迭代次数K满足：

$K\le {\left(\frac{C^{\prime }}{L_{\beta }\left(x^0,y^0,z^0,u^0\right)-L_{\beta }-\epsilon }\right)}^{\frac{1}{\theta }}$

6) 迭代复杂度：由于 $\theta \in \left[0,1\right]$，我们可以得到K关于1/k的上界，即

$K=O\left(1/k\right)$

这表明算法的迭代复杂度是 $O\left(1/k\right)$。

通过上述分析，证明了MID-PADMM算法在一定条件下具有O(1/k)的迭代复杂度。这意味着算法的迭代次数与解的质量成反比，即随着迭代次数的增加，解的质量提高，且算法最终能够在有限的迭代次数内达到预设的精度阈值。