假设数据点服从多元高斯分布，其中协方差是其次且平稳的，并且取决于两点之间的距离。对于训练点x和测试点 $x^{\prime }$使用的高斯协方差函数为，

$k\left(x,x^{\prime }\right)={\sigma }_s^2\exp \left(\frac{1}{2}{\displaystyle \sum \frac{{\left(x_j-{x^{\prime }}_j\right)}^2}{l_j^2}}\right)$(1)

其中 $l_j$是第j个自变量的长度，观测值具有独立且同分布的噪声，假设其服从均值为零的正态分布，真实值为 $u_i$，

$\tilde{u}=u_i+N\left(0,{\sigma }_u\right)$(2)

x包含所有自变量 $x_i$， $\tilde{u}$包含所有观测值 ${\tilde{u}}_i$，且服从高斯分布 $u~N\left(m_u\left(x\right),K\right)$， $m_u\left(x\right)$是x的先验均值， $K=k\left(x,x\right)$是协方差矩阵。

使用最大边际似然法 [6] 用于估计高斯过程的超参数 $\phi =\left[l_s,l_t,{\sigma }_s\right]$，其中 $l_s$， $l_t$分别是空间(x)和时间(t)维度中的长度比例参数，在给定超参数的情况下，边际似然函数通过从真值u和观测值 $\tilde{u}$的联合分布中积分出u获得，

$P\left(\tilde{u}|x,\phi ,{\sigma }_u\right)={\displaystyle \int P\left(\tilde{u},u|x,\phi ,{\sigma }_u\right)\text{d}u}={\displaystyle \int P\left(\tilde{u}|u,x,{\sigma }_u\right)P\left(u|x,\phi \right)\text{d}u}$(3)

使用BFGS算法 [14] 最大化边际似然函数，完成高斯过程超参数的估计。由于GPPDE方法需要由高斯过程拟合的状态变量关于自变量的导数，导数是一个线性算子，一个高斯过程的导数是另一个高斯过程 [15] 。对于连续均值的高斯过程一阶导数为，

$p\left({\stackrel{\dot{}}{u}}^{GP}|u,\Phi \right)=p\left({\stackrel{\dot{}}{u}}^{GP}|m_u,\Phi \right)=N\left(\stackrel{\dot{}}{\mu },{\stackrel{\dot{}}{\sigma }}^{GP}\right)$(4)

将偏微分方程以隐函数形式给出，

$f\left(x_1,\cdots ,x_m,u,\frac{\partial u}{\partial x_1},\cdots ,\frac{\partial u}{\partial x_m},\frac{{\partial }^{2}u}{\partial x_1\partial x_1},\cdots ,\frac{{\partial }^{2}u}{\partial x_1\partial x_m},\cdots ,a\right)=0$(5)

其中u是状态变量， $x_j\left(j=1,\cdots ,m\right)$是自变量，a是偏微分方程的一组参数，GPPDE方法对高斯过程的状态值建模，并估计其在偏微分方程中涉及的导数，通过最小化偏微分方程在观测点的残差完成求解。

考虑有界域 $\Omega \subseteq R^d$，其中 $d\ge 1$。非线性偏微分方程给出形式，

$\{\begin{array}{l}P\left(u^{*}\right)\left(x\right)=f\left(x\right),\forall x\in \Omega \\ B\left(u^{*}\right)\left(x\right)=g\left(x\right),\forall x\in \partial \Omega \end{array}$(6)

其中，P是非线性算子，B是边界算子，分别对应f和g。利用在 $\bar{\Omega }$上的有限配置点集合 ${\left\{x_i\right\}}_{i=1}^M$上满足偏微分方程约束的高斯过程逼近真解 $u^{*}$，其中 $x_1,\cdots ,x_{M_{\Omega }}\in \Omega$的内点，边界点为 $x_{M_{\Omega }+1},\cdots ,x_M\in \partial \Omega$，令U为二次Banach空间，相关协方差算子 $K:U^{*}\to U$，考虑最优化问题 [16] ，

$\{\begin{array}{l}\min \Vert u\Vert \\ \text{s}\text{.t}.P\left(u\right)\left(x_m\right)=f\left(x_m\right),m=1,\cdots ,M\\ B\left(u\right)\left(x_m\right)=g\left(x_m\right),m=M_{\Omega }+1,\cdots ,M\end{array}$(7)

在上述假设下，可以定义泛函 ${\phi }_m^{\left(q\right)}:={\delta }_{x_m}\circ L_q$，同时定义测量向量 $\left[\phi ,u\right]=y\in R^M$也是高斯的，且 $\left[\phi ,u\right]~N\left(0,\Theta \right)$。矩阵 $\Theta$为方阵矩阵，其中 ${\Theta }^{\left(q,j\right)}=k\left({\phi }^{\left(q\right)},{\phi }^{\left(j\right)}\right)$。定义

$y_m=\{\begin{array}{l}f\left(x_m\right),m\in \left\{1,\cdots ,M_{\Omega }\right\}\\ g\left(x_m\right),m\in \left\{M_{\Omega }+1,\cdots ,M\right\}\end{array}$(8)

$F{\left[\phi ,u\right]}_m:=\{\begin{array}{l}P\left({\phi }_m^{\left(1\right)},\cdots ,{\phi }_m^{\left(Q\right)}\right),m\in \left\{1,\cdots ,M_{\Omega }\right\}\\ B\left({\phi }_m^{\left(1\right)},\cdots ,{\phi }_m^{\left(Q_b\right)}\right),m\in \left\{M_{\Omega }+1,\cdots ,M\right\}\end{array}$(9)

求解非线性偏微分方程则转换为考虑优化问题

$\{\begin{array}{l}\min \Vert u\Vert \\ \text{s}\text{.t}.F\left(\left[\phi ,u\right]\right)=y\end{array}$(10)

针对解决无约束优化问题，TD-GPsolver方法采用高斯–牛顿算法的一种有效变体，其中采用自适应块金项与底层核矩阵的离线Cholesky分解一起进行正则化。

考虑偏微分方程 [17]

$\frac{\partial u\left(x,t\right)}{\partial t}+N\left[u\left(x,t\right);\lambda \right]=0$(11)

其中 $u\left(x,t\right)$代表未知函数， $N\left[\cdot ;\lambda \right]$代表由 $\lambda$参数化的非线性微分算子。方程的定义域为 $\Omega$。边界条件初值条件分别是 $B\left(u\left(x,t\right)\right)=0$和 $I\left(u\left(x,0\right)\right)=0$，其中边界条件可以是Dirichlet边界条件，Neumann边界条件，Robin边界条件或混合边界条件。

PINN使用一个被一系列参数化的深度神经网络去近似偏微分方程的未知函数 $u\left(x,t\right)$，即 $u\left(x,t\right)=\tilde{u}\left(x,t\right)$。可以通过最小化方程损失(MSE_f)，边界损失(MSE_b)和初值损失(MSE_i)来学习得到。

为验证前文所述方法的有效性，我们将其应用于两个代表性的非线性偏微分方程：Allen-Cahn方程和Cahn-Hilliard方程。这些方程的参数a均设置为0.01。实验设计包括使用不同规模的离散点数和时间步长，具体配置为：离散点数M = 50与时间步数T = 20；M = 100与T = 40；M = 250与T = 100；以及M = 500与T = 200。在实验设置中，GPPDE方法对观测数据施加了标准差为0.05的噪声，以模拟实际观测条件中可能遇到的数据不确定性。另一方面，TD-GPsolver方法在求解过程中采用了高斯牛顿方法，且迭代步数固定为2次，旨在优化求解过程的效率与精度。

本章节采用平均相对 $L_{2}error$来评估模型的精度，其计算方式如下，

$L_{2}error=\frac{{\displaystyle \sum {\left(u_i-{\stackrel{⌢}{u}}_i\right)}^2}}{N}$

其中 $u_i$代表真实值， ${\hat{u}}_i$的是预测值，N是观测值的数量。

在科学研究领域，Allen-Cahn方程作为一种经典的相场模型，起源于Allen和Cahn关于结晶固体反相位边界运动的描述 [18] ，已经发展成为解释相变和界面动力学现象的重要非线性偏微分方程。这一方程在材料科学、相变动力学、图像处理以及计算科学等多个学科领域发挥着核心作用，对深入理解物理学中相变过程的本质、界面的演化行为以及相变控制策略提供了理论基础。

考虑Allen-Cahn方程的一维形式如下，

$\frac{\partial u}{\partial t}=a^2\frac{{\partial }^{2}u}{\partial x^2}-u^3+u$(12)

初始条件和边界条件如下，

$\begin{array}{l}u\left(x,0\right)=x^2\cos \left(\pi x\right)\\ u\left(x,t\right)=u\left(-x,t\right)\\ \stackrel{\dot{}}{u}\left(x,t\right)=\stackrel{\dot{}}{u}\left(-x,t\right)\end{array}$(13)

数值实验结果见 表1 。对于Allen-Cahn方程的计算时间研究，当离散点数为M = 50 (时间步数T = 20)时，GPPDE、TD-GPsolver和PINN方法的计算时间分别为15秒、9秒和600秒。增加离散点至M = 100 (时间步数T = 40)，GPPDE方法的计算时间显著增加至430秒，TD-GPsolver仅需10秒，而PINN的耗时增至670秒。在M = 250 (时间步数T = 100)时，GPPDE方法未能有效求解，TD-GPsolver和PINN的耗时分别为11秒和520秒。当离散点数增至M = 500 (时间步数T = 200)时，GPPDE方法仍未能求解，TD-GPsolver耗时13秒，而PINN耗时700秒。

求解精度方面，在离散点数为M = 50 (时间步数T = 20)时，GPPDE、TD-GPsolver和PINN的L2误差分别为0.12、0.333和0.145。将离散点增至M = 100 (时间步数T = 40)，GPPDE、TD-GPsolver和PINN的L2误差分别调整为0.0852、0.0901和0.0638。进一步增加至M = 250 (时间步数T = 100)，GPPDE方法未能求解，TD-GPsolver的L2误差改善至0.0439，PINN的误差最低，为0.00219。在M = 500 (时间步数T = 200)时，GPPDE方法仍未完成求解，TD-GPsolver和PINN的L2误差为0.0235和0.00423。

结果表明针对Allen-Cahn方程，尽管GPPDE在较高离散点数时因计算资源限制无法求解，但其在低离散点设置下展现出可观的求解精度。相较之下，TD-GPsolver方法不仅在低至高的各种离散点数设置中保持了显著的计算效率，而且随着离散点数的增加求解精度显著提高，证明了其在处理大规模和复杂非线性偏微分方程时的强大能力。需要注意的是，PINN方法随着离散点数量增加出现了过拟合现象，这可能是因为数据量与网络容量平衡和优化算法的快速收敛等因素共同作用。

Cahn-Hilliard方程，由John W. Cahn和John E. Hilliard于1958年提出 [19] ，旨在描述两相混合物中自由能密度的演化路径。该方程根植于变分原理，通过对自由能泛函的最小化过程推导出描述体系演化的方程。该方程的核心特征在于其非线性和耗散的双重属性。非线性属性主要源于自由能泛函中的高阶项，这些项负责描绘相界面的复杂曲率效应以及系统的非均质性。而耗散性则通过扩散项实现，负责引导自由能的逐渐降低，促使体系朝向平衡态的方向发展。

$\frac{\partial u}{\partial t}=-\Delta \left(a^2\frac{{\partial }^{2}u}{\partial x^2}-u^3+u\right)$(14)

初始和边界条件如下，

$\begin{array}{l}u\left(x,0\right)=\cos \left(\pi x\right)-\exp \left(-4{\left(\pi x\right)}^2\right)\\ u\left(x,t\right)=u\left(-x,t\right)\\ \stackrel{\dot{}}{u}\left(x,t\right)=\stackrel{\dot{}}{u}\left(-x,t\right)\end{array}$(15)

数值实验结果见 表2 。对于Cahn-Hilliard方程的计算时间研究，当离散点数为M = 50 (时间步数T = 20)时，GPPDE、TD-GPsolver和PINN方法的计算时间分别为14秒、8秒和160秒。增加离散点至M = 100 (时间步数T = 40)，GPPDE方法的计算时间显著增加至660秒，TD-GPsolver仅需9秒，而PINN的耗时为300秒。在M = 250 (时间步数T = 100)时，GPPDE方法未能有效求解，TD-GPsolver和PINN的耗时分别为11秒和300秒。当离散点数增至M = 500 (时间步数T = 200)时，GPPDE方法仍未能求解，TD-GPsolver耗时12秒，而PINN耗时540秒。

求解精度方面，在离散点数为M = 50 (时间步数T = 20)时，GPPDE、TD-GPsolver和PINN的L2误差分别为0.0214、0.263和0.073。将离散点增至M = 100 (时间步数T = 40)，GPPDE、TD-GPsolver和PINN的L2误差分别调整为0.0117、0.207和0.225。进一步增加至M = 250 (时间步数T = 100)，GPPDE方法未能求解，TD-GPsolver的L2误差改善至0.199，PINN的误差最低，为0.0154。在M = 500 (时间步数T = 200)时，GPPDE方法未能完成求解，TD-GPsolver和PINN的L2误差为0.196和0.0476。

针对Cahn-Hilliard方程，GPPDE方法处理小规模数据集时仍能提供满意的精度，在处理大规模问题上计算资源受限需进行进一步的优化。TD-GPsolver方法凭借其在各种离散点设置下的快速计算能力和较为稳定的精度表现，证明了高斯过程方法是求解非线性偏微分方程的有效工具。PINN方法则在高离散点数设置下展现出较优的求解精度，但对计算资源和计算时间要求较高。