物理信息神经网络实战：用PINN求解Burgers-Fisher方程的完整流程

第一次把物理信息神经网络（PINN）真正跑到能稳定输出解的Python代码时，我已经在调试里泡了两天。项目标题很明确：用PINN去求解Burgers-Fisher方程。刚接触PINN的人最容易产生一个误解——既然名字里有“神经网络”，逻辑就应该类似图像分类，喂一批数据进去，调一波loss，最后在测试集上看准确率。但物理信息神经网络完全不是这条路子，它不靠标签数据逼近映射，而是把偏微分方程、初始条件、边界条件本身作为监督信号，让网络输出在物理约束下收敛到目标解。在这类问题里，Burgers-Fisher方程几乎算得上最合适的“试验田”：它同时包含非线性对流、扩散和非线性反应项，既足够复杂，又有一个清晰的标准形式可以用来验证算法。

这篇博文会完整拆一遍我实际跑通的代码流程，包括为什么选这个方程、PINN的数学骨架怎么变成可训练的loss、Python实现中采样的细节和自动微分怎么处理二阶导数，以及我踩过的几个比较典型的坑：loss卡在常数解、角点冲突、训练曲线震荡。适合两种读者：一是刚读完PINN论文、想把公式落到代码里的研究生，二是已经在做别的方程求解、想迁移到Burgers-Fisher这类反应扩散系统上的工程师。完整实现不复杂，也就是一个多层全连接网络加三行梯度计算的事，真正的难度在训练策略和结果评价。

1. 为什么偏偏是Burgers-Fisher？这方程难在哪

1.1 一个方程里装了三类偏微分方程特征

Burgers-Fisher方程通常写成如下形式：

u_t + α·u·u_x - ν·u_xx = β·u·(1-u)

拆分来看，它其实把流体力学里Burgers方程的特征和生态学里Fisher方程的特征揉在了一起。u_t是对时间的变化率，u·u_x是非线性对流项，后面的u_xx是扩散项，而右侧的u·(1-u)是典型的Logistic反应源项。这三类特征同时存在，意味着解既可能表现出对流主导的陡峭前沿，也可能在扩散作用下被抹平，还会被反应项拉向某个稳态。

实际研究里常取α=β=1，扩散系数ν根据算例设定。当ν比较小时，解在空间上会出现很窄的过渡带，传统有限差分方法为了捕捉这种陡峭梯度，必须把网格剖得非常细，计算成本会明显上升。PINN的优势在这里体现出来：优化过程中会不断重新采样，不需要预先固化成一套刚性网格，网络在坐标点上做插值，理论上能用较少的自由度表达同样的解结构。

1.2 传统数值方法能解，为什么还要跑神经网络

这里必须先把话说清楚：PINN并不是要在所有问题上替代有限差分或有限元。对于一维规则区域上的Burgers-Fisher方程，传统数值方法非常成熟。那为什么还要用PINN做研究？我自己的理解有两层。

第一层是反问题场景。如果方程里的扩散系数ν未知，或者反应项系数β需要通过观测数据反演，传统求解器需要设计伴随方程或者多次迭代求解正问题，每次正问题都重新跑一遍高精度网格，开销很可观。PINN天然适合这种设置，把未知系数直接变成网络需要学习的参数，反演和求解在同一套框架里完成。

第二层是复杂边界或部分观测场景。比如说观测点不在规则网格上，或者边界形状不规则，传统方法需要做坐标变换或修改离散格式。PINN的采样策略简单粗暴——只需要在指定区域内随机取坐标点，不需要关心这些点是否落在规则网格上，边界几何复杂时这个特性会省很多事。

1.3 “没有答案”的机器学习：三类监督信号替代数据集

传统机器学习做回归，训练集是(x, y)对，网络的任务是拟合映射关系。PINN的输入是时空坐标(t, x)，输出是解函数u(t, x)，但你手头并没有全部时空位置上的精确解作为标签。

那监督信号从哪来？靠三类约束。

初始条件约束：在t=0这条线上，网络输出应该等于已知初值函数，比如g(x)。

边界条件约束：在空间边界上，网络输出要满足给定的Dirichlet边界，比如两侧u=0。

PDE残差约束：把网络输出代入原方程后，左右两边应该相等。把等式移项后算出的残差f(t, x)应该接近0。这组方程残差点在求解区域内部随机撒。

整个训练过程就像一个没有标准答案的学生在反复被三个教练打分：边界教练只检查他是否在边界线上行为正确，初值教练只检查起点状态，PDE教练则在区域内部不断抽查他是否遵守物理规则。三股力量拉拉扯扯，最终让网络输出收敛到方程的近似解。理解了这一点，后面写代码时就不会觉得损失函数为什么长成那个样子。

2. PINN的数学骨架：怎样把偏微分方程嵌进训练损失

2.1 网络输出与自动微分如何支撑起“物理嵌入”

在项目中我用的网络结构很简单：输入维度2，代表t和x两个坐标；输出维度1，代表该坐标点上的u值；中间是若干全连接层。为了表述清楚，可以把网络记为：

u_net(t, x; θ)

其中θ是所有可训练参数。对这样一个函数，如果直接显式写出u_x、u_xx，可能非常麻烦，但深度学习框架的自动微分机制可以精确地算出任意阶导数。这一点正是让“物理嵌入”落地的基础。

实现细节上有个很容易忽略的点：求二阶导数时，第一次对x求导得到u_x，如果还想对u_x继续求x的导数，必须在第一次求导时设置create_graph=True。否则计算图会被释放，后续的反向传播找不到梯度链路。不少初学者写到这里会碰上RuntimeError，其实根因就在这个标志位。

用自动微分替代手工推导或者数值差分，不仅省事，而且梯度的精度可以做到机器精度级别。数值差分方法受步长选取影响，步长太大会截断误差明显，步长太小又会受浮点舍入误差影响。自动微分走的是链式法则，天然绕开了这两难。

2.2 三项损失加在一起，物理约束就形成了

给定一段求解域t∈[0，T]，x∈[a，b]，初始条件u(0,x)=g(x)，左边界u(t,a)=h1(t)，右边界u(t,b)=h2(t)，标准的PINN总损失会写成：

L_total = λ_ic · L_ic + λ_bc · L_bc + λ_pde · L_pde

其中：

L_ic是初始条件误差，采样一组点(0, x_i)，计算网络输出与g(x_i)的均方误差。

L_bc是边界条件误差，采样边界上的点(t_j, a)和(t_j, b)，计算网络输出与对应边界值的均方误差。

L_pde是控制方程残差的均方误差，在内部随机撒点(t_k, x_k)，计算f(t_k, x_k)平方的平均值。

对于Burgers-Fisher方程，残差项的具体形式是：

f = u_t + u·u_x - ν·u_xx - u·(1-u)

理想情况下，如果网络输出恰好是方程的精确解，那么f在所有点上等于0，三项损失同时归零。实际训练中不可能完全到0，但可以让它降到足够小，使网络输出成为满足物理规律的可接受近似解。

2.3 为什么初始和边界条件的权重通常要调得比PDE残差大

训练初期有个比较反直觉的现象：网络还没学到任何有效结构，输出经常趋近于某个常数。此时PDE残差可能反而不大，因为常数解对某些方程来说也能让残差项部分归零。如果初始条件和边界条件对应的权重设得太小，整个优化很容易陷入这类平凡解。

借鉴PINN领域大量论文和开源代码中的习惯做法，我会把λ_ic和λ_bc设置为10甚至更高，把λ_pde设置为1。这样做的目的，是让网络先学到一个符合初边值条件的形状，PDE残差再在这个基础上逐步修正内部场。训练前期，PDE残差往往会下降得比另外两项慢，这属于正常现象，不必一看到PDE loss占比高就觉得训练失败。

3. Python代码核心实现：网络、采样与三重损失

3.1 环境准备与依赖版本

代码基于PyTorch实现，原因很简单：自动微分生态成熟，GPU训练切换方便。建议用Python 3.9以上版本，安装依赖时在终端运行：

bash复制conda create -n pinn python=3.9
conda activate pinn
pip install torch numpy matplotlib

如果计算机有NVIDIA显卡并且安装了CUDA版PyTorch，训练速度会快很多。不过本文涉及的算例规模很小，CPU也完全可以跑，只是会多等几分钟。代码里最好做一个device判断，有CUDA就用GPU，没有就退回CPU。

3.2 网络结构：三层到四层全连接就够用

PINN对网络结构的要求并不夸张，并不像大模型那样追求层数和参数量。相对常见的配置是4层隐藏层，每层40到64个神经元。隐藏层激活函数选tanh，因为tanh输出范围有界且光滑，对微分计算友好。

python复制import torch
import torch.nn as nn

class PINN(nn.Module):
    def __init__(self, n_hidden=4, n_neurons=40):
        super().__init__()
        layers = [nn.Linear(2, n_neurons)]
        for _ in range(n_hidden):
            layers.append(nn.Tanh())
            layers.append(nn.Linear(n_neurons, n_neurons))
        layers.append(nn.Tanh())
        layers.append(nn.Linear(n_neurons, 1))
        self.net = nn.Sequential(*layers)

    def forward(self, t, x):
        inputs = torch.cat([t, x], dim=1)
        return self.net(inputs)

输入坐标拼接为两列，第一列是时间t，第二列是空间x。输出u的形状是(n,1)。后续所有导数计算都基于这个输出。

简单网络结构设计的关键在于避免层数过深导致梯度信号衰减。PINN的损失包含高阶导数，反向传播时梯度链路比普通回归长，如果网络层数堆到十层以上，训练不稳定概率会明显增加。就Burgers-Fisher这种一维空间问题，4层已经足够表达解结构。

3.3 三类采样点的生成策略

训练数据不是离线生成的固定数据集，而是在每次迭代中实时随机采样。这样可以保证网络在训练阶段见到的点是不断变化的，减少过拟合固定采样点的风险。

python复制def sample_points(n_ic=200, n_bc=200, n_f=10000):
    # 内部PDE点：t在[0,1]，x在[-1,1]
    t_f = torch.rand(n_f, 1) * 1.0
    x_f = torch.rand(n_f, 1) * 2.0 - 1.0

    # 初始条件点：t=0，x在[-1,1]
    t_ic = torch.zeros(n_ic, 1)
    x_ic = torch.rand(n_ic, 1) * 2.0 - 1.0

    # 边界条件点：x=-1和x=1两条边上采样
    t_bc = torch.rand(n_bc, 1) * 1.0
    x_bc_left = torch.full_like(t_bc, -1.0)
    x_bc_right = torch.full_like(t_bc, 1.0)
    return t_f, x_f, t_ic, x_ic, t_bc, x_bc_left, x_bc_right

初值点密度要覆盖整个空间区间；边界点密度要覆盖整个时间区间，这一点比较关键，如果只采样t=0附近而忽略t靠近末端，边界约束在时间后半段就失效了。算例里我设定空间域为[-1,1]，时间域为[0,1]。

3.4 损失函数与残差的关键写法

针对具体方程，我需要把前文写的f项落到代码。假设取ν=1，代表扩散较强，训练相对容易；接下来也可以把ν调小测试模型能力。

为了让程序可读，我提前写好边界值函数。初始条件令u(0,x)=sin(πx)是一个常用基准，在[-1,1]上它在两端都为0，与Dirichlet零边界兼容，能避免角点处的不连续冲突。

[\begin{aligned}
u(0,x) &= \sin(\pi x),\
u(t,-1) &= 0,\
u(t,1) &= 0.
\end{aligned}
]

损失函数实现如下：

python复制def pde_residual(net, t, x):
    t.requires_grad_(True)
    x.requires_grad_(True)
    u = net(t, x)

    u_t = torch.autograd.grad(
        u, t,
        grad_outputs=torch.ones_like(u),
        create_graph=True
    )[0]

    u_x = torch.autograd.grad(
        u, x,
        grad_outputs=torch.ones_like(u),
        create_graph=True
    )[0]

    u_xx = torch.autograd.grad(
        u_x, x,
        grad_outputs=torch.ones_like(u_x),
        create_graph=True
    )[0]

    nu = 1.0
    f = u_t + u * u_x - nu * u_xx - u * (1.0 - u)
    return f

def compute_loss(net):
    t_f, x_f, t_ic, x_ic, t_bc, x_bc_left, x_bc_right = sample_points()

    # PDE loss
    f = pde_residual(net, t_f, x_f)
    loss_pde = torch.mean(f ** 2)

    # IC loss
    u_ic = net(t_ic, x_ic)
    loss_ic = torch.mean((u_ic - torch.sin(torch.pi * x_ic)) ** 2)

    # BC loss
    u_left = net(t_bc, x_bc_left)
    u_right = net(t_bc, x_bc_right)
    loss_bc = torch.mean(u_left ** 2) + torch.mean(u_right ** 2)

    return loss_pde + 10.0 * loss_ic + 10.0 * loss_bc

这里有两个容易出现运行错误的地方。第一是pde_residual内部对输入做了requires_grad_设置，但外部传入的t和x如果后续还要参与别的计算，需要小心内存占用；第二是u_xx的求导对象是u_x而不是u，写错就会多算一次不存在的函数求导，或者计算出无意义的项。Python代码不像静态类型语言那样会在运行前报出逻辑错误，很多初学者在这里跑通代码但结果完全不对，往往就是求导链写错了。

3.5 训练循环：先Adam快速下降，再L-BFGS精细打磨

纯Adam一步跑到高精度并不容易。常见做法是两阶段优化。

第一阶段：Adam优化器，学习率设1e-3，跑5000到10000步。Adam的优势是鲁棒，即使损失曲面存在很多局部震荡也能往下走。

第二阶段：换L-BFGS优化器，利用二阶信息做局部精修。L-BFGS对损失函数光滑性要求高，PINN的损失是以tanh为激活函数的复合函数加二阶导，满足光滑要求。L-BFGS每次更新计算量会大一些，但往往只需几十到几百步就能让loss下降一到两个数量级。切换优化器时不需要重新初始化网络，直接在上一阶段已经收敛的基础上继续，把之前Adam学到的参数作为下一阶段的起点。

python复制def train_adam(net, steps=6000, lr=1e-3):
    optimizer = torch.optim.Adam(net.parameters(), lr=lr)
    net.train()
    for step in range(steps):
        optimizer.zero_grad()
        loss = compute_loss(net)
        loss.backward()
        optimizer.step()
        if step % 500 == 0:
            print(f"Adam step {step}, loss = {loss.item():.6f}")

L-BFGS阶段需要把损失计算和优化步骤封装得紧凑一些，因为torch的L-BFGS要求每次调用closure时重新计算loss并执行backward。

python复制def train_lbfgs(net, steps=300):
    optimizer = torch.optim.LBFGS(net.parameters(), lr=1.0, max_iter=20)
    net.train()
    for _ in range(steps):
        def closure():
            optimizer.zero_grad()
            loss = compute_loss(net)
            loss.backward()
            return loss
        loss = optimizer.step(closure)
        print(f"L-BFGS loss = {loss.item():.6f}")

在实际运行中，Adam阶段loss会先下降得很快，但后面容易出现平台期。L-BFGS阶段往往能提供一次“临门一脚”的精度提升。如果最终的误差还是不够理想，回调Adam继续训练几轮有时也会起作用。

4. 训练现场实录：我踩过的几个典型坑

4.1 权重配比失衡：PDE残差淹没初边值信号

第一次跑的时候，我没有把三项损失设置成不同权重，而是让它们各占一份。结果训练曲线一直卡在0.5左右，画出来的u(x,t)云图是一整片模糊色块，看不出对流和扩散应该产生的梯度结构。问题出在量纲上：PDE残差里包含时间和空间的导数项，数值量级天然比单纯的函数值大不少；而初始条件和边界条件直接比较函数值，在训练早期网络输出尺度小，这两项loss显得数值不大，很容易被PDE残差主导。

解决办法就是提高初边值loss的权重。把λ_ic和λ_bc提高到10以后，网络先被迫拟合出边界和初值的形状，再在后续训练里逐渐修正内部PDE约束。需要注意的是，这种权重调节没有万能答案，如果模型仍然不收敛，可以试试20甚至50的初边值权重，观察loss下降速度，再做二分调节。

4.2 平凡解陷阱：网络直接学会输出零

PINN有一个很隐蔽的安全隐患：如果初边值条件里包含零边界，网络有可能收敛到全零解，也就是无论输入什么坐标，输出u都接近0。对于带Logistic反应项u(1-u)的方程，零确实是方程的一个平庸平衡解，而且零边界条件也和它相容，网络有理由认为这个解在边界上完全正确。

但初始条件这条线索会揭穿它。如果初值u(0,x)=sin(πx)没有被充分约束，网络会选择“放弃”一开始的正弦形状，只为了在所有其他点把PDE残差降到最低。这个问题的直接表现是：训练曲线看起来还在下降，但取某个固定时刻的预测剖面图，会发现曲线几乎贴住x轴。

要破掉这个陷阱，可以在训练过程中定期输出t=0附近的预测曲线，和真实初值画在一起看。更工程化的方法是把初值点的采样密度提高，或者加大λ_ic。还有一种trick是把t=0点的初值loss用更密集的分布，确保正弦形状在监督信号中占足够比例。

4.3 角点处的不相容让网络训练很别扭

初值u(0,x)=sin(πx)在x=-1和x=1处是0，与零Dirichlet边界是相容的，这个算例没有明显的角点撕裂。但换一个初值，比如u(0,x)=1+x，在x=-1处初值是0与边界0兼容，但在x=1处初值是2，边界却要求0，网络会被两个约束拉向完全相反的方向，这类问题在求解域的角点处尤其明显。

PINN使用的是光滑连续函数，它没法在某个点精确表达一个跳跃间断，只能在角点附近形成一段很窄的过渡带，这里会产生局部误差，还会拖慢整个训练收敛速度。处理办法有两种：一是修改算例，让初边值在角点相容；二是在角点附近增加采样点密度，让网络把误差压缩到尽量小的邻域。

我个人的建议是，入门阶段尽量选择方程存在已知简单解析解或者可以和经典Benchmark对照的配置，角点相容是基本前提。不要一上来就挑战强间断或者初边值冲突剧烈的工况，那样会让调试变得很难受。

4.4 训练初期loss震荡剧烈：看是不是激活函数饱和了

tanh激活函数在输入绝对值较大时输出会非常接近±1，导数趋近于0。如果网络第一层线性层的权重初始化不当，输入坐标经过线性变换后落在很大的范围，tanh直接进入饱和区，反向传播的梯度就消失了。表现就是loss在某个数值附近来回横跳，怎么调学习率都没有明显效果。

解决办法比较简单。一种方式是把输入坐标归一化到[-1,1]，但我的t本身是[0,1]，可以直接缩放；另一种方式是手动缩小第一层初始化，或者用PyTorch里默认的Xavier初始化也足够。如果发现tanh饱和严重，可以把激活函数换成sine。sine的导数仍然是cosine，处处有界且不容易饱和，在很多PINN问题里有奇效。对Burgers-Fisher方程来说，tanh一般就够用了，但换sine也是常见的备选方案。

5. 结果怎么才算可用：误差度量与稳定性验证

5.1 绘制预测场与参考解的对比

训练结束后，第一步是画出预测的u(x,t)全场云图。这一步能快速暴露很多问题：如果云图有明显条纹或者局部突变，说明网络在该区域没有学到光滑解；如果某些区域颜色一片，可能是网络趋近常数解。

画图时注意网格生成方式：先建立规则网格坐标矩阵，然后把坐标列变成(n,1)的两条输入向量，经过网络推理后再reshape回网格形状。这一步容易出错的地方是坐标顺序，一定要确保t或x维度与reshape后一致。

把同一套坐标输入给参考解函数，画第二张云图。两张图并排放在一起，用同一套颜色范围，才能公平比较。如果颜色范围不一致，视觉上会严重误导判断。

5.2 相对L2误差才是硬指标

云图只能看个大概，要写成研究结论还需要量化指标。我习惯用相对L2误差评估网络预测场和参考场之间的偏离程度：

[
E_{rel} = \frac{\sqrt{\sum_i (u_{pred}^{(i)} - u_{ref}^{(i)})^2}}{\sqrt{\sum_i (u_{ref}^{(i)})^2}}
]

参考解的来源要提前想清楚。对于Burgers-Fisher方程，学术文献中有一些特定参数组合下的解析或半解析结果，也可以直接用高精度有限差分格式在细网格上求数值参考解。无论哪种，目的是要有一个独立于PINN训练过程的基准。

实现时把整个网格上的预测值和参考值展平成一维数组再套公式即可。如果相对L2误差低于1e-2，对多数PINN工程问题已经算不错；如果目标是发论文，通常需要配合多次随机种子运行，把误差写成“均值±标准差”的形式，才能说明方法稳定，而不是某一次运气好。

5.3 多次运行与随机种子分析

由于采样点每次是随机生成的，网络初始化也带随机性，单次运行的loss曲线和最终误差往往不具备很强的代表性。为了验证稳定性，我建议固定几个不同随机种子各跑一遍。下面是我在实际调试中列过的一张记录表框架，方便你按类似格式管理实验：

这张表用随机种子2那一行解释了一个重要现象：即使loss已经下降，也可能掉进了局部解。这种情况下不要盲目去调网络层数或学习率，先检查是否又是权重大小、角点相容性或激活函数的问题。如果大部分随机种子都能稳定收敛，只是个别种子失败，那多半是优化算法的局部极值问题，可以尝试用多随机种子取最佳或平均结果的做法。

5.4 如果只想看形状对不对，画剖面图比云图更直接

云图能看到全局特征，但无法定量看到某个时刻的解曲线形状。更直观的诊断方式是固定几个时间层，比如t=0.25、0.5、0.75，画出该时刻的u随x变化的曲线，将预测场剖面和参考解叠在一张图里。

对Burgers-Fisher方程，如果ν=1，扩散占优，解会从初始的sin(πx)较快地向稳态演化，剖面图比较平滑；如果ν调小，曲线会在对流项作用下形成前陡后缓的结构。观察剖面图可以快速判断网络是否学到了物理趋势，比如波前位置是否准确，峰值是否被过度抹平。这个方法比只盯总loss更能帮助你理解网络内部状态。

6. 怎样把这套流程迁移到其他方程

6.1 变量无量纲化是迁移的第一步

换个方程时，第一件事不是改网络，而是检查定义域的量纲跨度。PINN对输入变量的数值尺度非常敏感，如果x范围是[0,1]，t范围是[0.0001]，那么网络输入在t方向上的变化幅度极小，几乎无法学出随时间演化的结构。遇到这种情况，先做无量纲化，把t缩放到和x同一量级。

实际操作上，可以在生成采样点时对坐标做一次仿射变换。例如t_f采样的原始范围是[0, 1e-4]，直接改成t_f = t_f_original / 1e-4，相当于把所有时间坐标放大到[0,1]，解函数的求导要按链式法则补上相应比例。

6.2 把正问题改成系数反演问题

PINN迁移中最有价值的方向之一是参数反演。假设ν未知，我们可以把它从常量改成可训练变量，在network之外增加一个Parameter对象，在每次loss.backward()后它也会收到梯度。

思路是：假设手头有若干稀疏观测点u_obs，我们不再要求网络在这些点上匹配某个初值或边界，而是把观测点误差加入损失函数。反向传播同时更新网络参数和ν，最终网络收敛后ν就会逼近真实值。实际操作时通常需要把ν做一定初始化限制，比如限制在正数范围，避免训练过程中变成负值破坏PDE物理意义。

6.3 不同激活函数与损失权重自适应的经验

简单算例用固定权重、tanh激活通常可行，一旦问题复杂度提高，固定超参就容易不够用。个人经验是可以试试加入可学习的权重参数，让三个loss的权重在训练过程中自动调整；也可以观察f残差在哪些子区域一直很大，针对这些区域做重点加密采样。

PINN领域近年的改进很多，比如用梯度信息来自适应采样、对残差点做重要性重采样，这些都是在基础框架之上做增量改动。我的建议仍然是先吃透基础版本，让一个经典Burgers-Fisher算例在手里能稳定跑通并输出低误差结果，再开始尝试这些进阶模块，否则后面排查问题会比较痛苦。

这个项目跑完之后，我对物理信息神经网络最直接的体会是：它和常规深度学习的调试直觉很不一样，不是loss降得越低就代表模型学得越好，而是要反复确认它到底收敛到了哪个“物理状态”。在Burgers-Fisher方程这个例子上，网络有没有学到波前结构、有没有遵循初值约束、参数ν的取值是否合理，这些都比单纯看loss曲线更能说明问题。如果想快速复现并检验自己的环境是否正常，建议先固定所有随机种子，把初始条件改成简单的sin函数，把ν设成1，先拿到一张平滑的云图再说。之后再去调小ν、加大时间范围、换成其他初始条件，你会更清楚地看到PINN的潜力与边界在哪里。