两阶段分布鲁棒优化：Wasserstein距离对偶转化与线性决策规则实战

1. 为什么我选Wasserstein距离而不是矩模糊集：两阶段DRO问题的建模起点

1.1 两阶段问题的本质：先拍板，后补救

先说我这次实际要解决的问题场景。假设你管一条生产线，要在需求还没落地之前先定下自产产能，这个叫第一阶段决策，特点是“现在不做就来不及了”；等真实需求兑现以后，你可以用临时外购来补缺口，代价是单价更贵，这个补缺口的动作叫第二阶段决策，也叫recourse。这种“先拍板、后补救”的结构在供应链、电力调度、港口泊位分配里到处都是。

很多新手会把两阶段理解成两个时间点，其实严格讲它强调的是信息结构：第一阶段的x不依赖随机参数ξ，第二阶段的y可以依赖ξ的观测值，因此它是一个从ξ到决策的映射，写作y(ξ)。如果第二阶段的成本函数qᵀy(ξ)还算温和，麻烦就出在ξ的分布我们不知道，手里只有N个历史样本。经典随机规划的做法是假设经验分布就是真实分布，也就是每个样本等概率1/N，然后直接最小化样本均值。但只要你做过实际数据就会知道，样本外真实分布和经验分布通常差得挺远，直接用SAA（Sample Average Approximation）往往把决策做得过于乐观。

于是就有了分布鲁棒这条路线：不赌真实分布恰好是经验分布，而是构造一个“以经验分布为球心、以Wasserstein距离为半径”的模糊集，把所有大概率可能的分布都装进去，目标函数取最坏情况下的期望。这样算出来的决策虽然比SAA保守一点，但样本外表现通常稳得多。

1.2 经典模糊集对比：矩约束、phi-divergence与Wasserstein的取舍

我最早接触分布鲁棒时，很多人用的是矩模糊集，也就是限定分布的均值和协方差落在某个区间内。这种做法的优点是建模直观，缺点是很容易把模糊集建得过大或过小：均值协方差矩本身对离群点极其敏感，而且实际分布可能根本不是由前两阶矩决定的。还有一个尴尬的问题是，矩模糊集在求最坏情况期望时往往会把概率质量推到某个极端点，导致决策过度保守。

后来我试过phi-divergence这一族，比如KL散度、卡方散度。它在离散概率向量上很好用，因为优化对象是多项式概率，但对连续支撑集就有点尴尬——如果真实分布里有一些样本点没有出现在历史数据中，phi-divergence的惩罚是无穷大，也就是说它没法“想象”没见过的场景。这一点在实际中很致命，因为你担心的恰恰就是那些没发生过的极端情况。

Wasserstein距离的价值就在这里：它把“两个分布差异多大”这个度量建在地球移动距离（optimal transport）之上。两个分布即使支撑不重合，只要移动的成本有限，Wasserstein距离就是有限值。换句话说，Wasserstein球能涵盖那些支撑点偏移、但整体形态相近的分布，这正好匹配数据驱动场景下“样本外支撑点可能偏离”的直觉。

三种模糊集的对比如下：

我这里最终选了Wasserstein距离，还有一个非常实际的原因：Wasserstein球下的最坏情况期望问题，可以被对偶转化成一个结构漂亮的有限维优化问题。这就是标题里“对偶转化”四个字的来历，后面第3章我会一步步拆。

1.3 问题原始形式与完整符号定义

为了让后面的推导和代码不绕弯，我把这次的简易模型写清楚。假设需求ξ∈ℝ²，第一阶段决策x∈ℝ²，含义是自产产能；第二阶段决策y(ξ)∈ℝ²，含义是临时外购量。第一阶段单位成本c>0，第二阶段单位成本q>c，所以模型天然希望多用第一阶段产能、少外购。

原始两阶段分布鲁棒问题写作：

[
\min_{x\ge0,;y(\cdot)}; c^\top x + \sup_{\mathbb{P}\in\mathcal{B}_\varepsilon(\hat{\mathbb{P}}N)}\mathbb{E}{\mathbb{P}}\left[q^\top y(\xi)\right]
]

约束为：

[
x+y(\xi)\ge\xi,\quad y(\xi)\ge0,\quad \forall\xi\in\Xi
]

其中Ξ是支撑集，这篇文章里取一个有界多面体。经验分布定义为：

[
\hat{\mathbb{P}}N=\frac{1}{N}\sum^N\delta_{\hat{\xi}_i}
]

Wasserstein-1距离（带1-范数成本）定义为：

[
\mathbb{W}(\mathbb{P},\mathbb{Q})=\inf_{\Pi}\left{\int_{\Xi\times\Xi}|\xi-\xi'|_1,\Pi(d\xi,d\xi'):\text{边缘分布为}\mathbb{P},\mathbb{Q}\right}
]

模糊集是：

[
\mathcal{B}_\varepsilon(\hat{\mathbb{P}}_N)=\left{\mathbb{P}:\mathbb{W}(\mathbb{P},\hat{\mathbb{P}}_N)\le\varepsilon\right}
]

到这里为止都是标准写法。难点在于：y(ξ)是一个函数而不是一个决策向量，而sup又作用在无限维的概率测度上，直接交给求解器是无从下手的。接下来两章分别解决这两个问题：先对偶掉sup，再把y(ξ)参数化成有限维。

2. Wasserstein球的几何直觉与模糊集半径的选取逻辑

2.1 Wasserstein距离到底在测什么

Wasserstein距离有一个极其直观的解释：你手里有两堆沙子，一堆是分布P的形状，另一堆是分布Q的形状，Wasserstein距离就是把P这堆沙子搬运成Q那堆沙子时，每一粒沙子移动距离的平均值（积分意义下）。所以它也被形象地叫做Earth Mover's Distance。

1-范数成本‖ξ-ξ'‖₁相当于“曼哈顿距离”，也就是沿坐标轴方向搬运的成本。用1-范数而不是2-范数，主要是为了在后面线性化时更顺手，绝对值约束可以直接用两个不等式表示，不会引入二阶锥约束。

这里要特别强调一个容易误解的点：Wasserstein距离度量的不仅是概率质量的“量差”，还考虑了概率质量在空间上的“位移”。两个分布如果都由两个点支撑，哪怕点的位置一模一样，Wasserstein距离就不大；但如果一个样本点从ξ=80漂移到ξ=120，即使概率都是0.1，距离也会贡献0.1×(120-80)。这种“位移敏感”正是它适合数据驱动DRO的原因：你怕的就是真实场景下的需求点跑到了历史样本没覆盖到的地方。

2.2 以经验分布为球心为什么合理

很多刚接触Wasserstein DRO的人会问：凭什么把经验分布当作球心？真实分布又不在球心。答案是大数定律和集中不等式。随着样本量N增大，经验分布会以Wasserstein距离收敛到真实分布，收敛速度大约是N^{-1/m}，m是随机参数的维度（在Fournier和Guillin 2015年的文章里有精确的非渐进界）。

这里最关键的是“m在指数上”这件事。当维度m升高时，同样样本量下经验分布和真实分布的Wasserstein距离会显著变大，所以模糊集半径要相应调大。我在实际项目中遇到过这种场景：维度从2升到5，如果还是用原来那个小半径，样本外效果立刻变差，因为模糊集根本没盖住真实分布和经验的差距。

虽然我们的简易模型最终会把Ξ离散化成有限顶点集合V，但模糊集本身依然是连续测度空间上的，这点不要混淆。离散化只是为了把对偶后的sup计算变成一个可以写进线性规划的max计算，是一种工程近似，而不是把Wasserstein球本身离散化。

2.3 半径ε怎么定：交叉验证与统计界的工程取舍

这是Wasserstein DRO里最让人头疼的参数，没有之一。给一个经验性的建议流程：

1. 把历史样本随机分成训练集和验证集，比例大致7:3。
2. 在训练集上构造经验分布和Wasserstein模糊集。
3. 对一组候选ε（比如0.1、0.5、1、2、5……）分别求解两阶段DRO，得到决策x*(ε)。
4. 把x*(ε)放到验证集的每一个样本上评估第二阶段成本，取平均得到样本外成本。
5. 选择样本外成本最低的ε。

从我试过多组数据的经验看，样本外成本随ε的变化通常是U型：ε太小时接近SAA，过拟合；ε太大时决策过于保守，第一阶段投入过大，反而拉高总成本。所以不要一上来就取很大，也不要迷信某个统计理论推荐的半径就不做验证。

统计界方面可以粗略参考集中不等式给出的上界，它的意义是告诉你半径的数量级。比如：

[
\varepsilon = O\left(\sqrt{\frac{\log(1/\alpha)}{N}}\right)
]

但实际应用中这个界通常比较松，我更建议直接用交叉验证+一个小的网格搜索。在本文的Matlab实现里，我会把ε当外部输入，方便你跑不同的值做对比。

3. 不确定约束/目标的对偶转化：从“最小化期望”到“有限维LP”

3.1 最坏情况期望这一层为什么难缠

我们面对的这一项是：

[
\sup_{\mathbb{P}\in\mathcal{B}_\varepsilon(\hat{\mathbb{P}}N)}\mathbb{E}{\mathbb{P}}\left[q^\top y(\xi)\right]
]

如果你直接把它当成一个无限维线性规划来看，那么决策变量是概率测度P本身，约束是Wasserstein距离不超过ε。这个问题的对偶问题会引入一个对偶变量λ，恰好对应Wasserstein约束的拉格朗日乘子。这个对偶转化的结果非常漂亮：无限维的sup变成一个有限的min，而且内部只剩一个对ξ的逐点sup。

这里可以给一个不那么严格但很直观的解释：你允许真实分布P在Wasserstein距离ε范围内偏离经验分布，每偏离一点，就会有一个“惩罚价格”λ。偏离得越远，惩罚越贵；最坏情况分布会在“偏离收益”和“偏离成本”之间取平衡。经过拉格朗日对偶之后，目标变成：

[
\min_{\lambda\ge0}\left{\lambda\varepsilon+\frac{1}{N}\sum_{i=1}^N\sup_{\xi\in\Xi}\left[g(\xi)-\lambda|\xi-\hat{\xi}_i|_1\right]\right}
]

其中g(ξ)=qᵀy(ξ)是第二阶段目标函数。这个公式有严格的定理支撑（Esfahani和Kuhn在2018年那篇经典文章里有完整证明），条件是g为凸且下半连续、支撑集Ξ为紧集。对于线性决策规则下的线性g来说，条件自然满足。

3.2 逐项拆解：为什么内部sup好算了

如果g(ξ)仅仅是qᵀ(y₀+Yξ)，它是一个关于ξ的线性函数。再减去λ‖ξ-ξ̂ᵢ‖₁，就是一个“线性函数减去绝对值函数”的结构。这个结构在连续支撑集Ξ上要做sup并不平凡，但在有限顶点集V上做max就非常简单——这正是我们这一版简易模型选择离散化支撑集的核心原因。

具体来说，对于每个历史样本ξ̂ᵢ，我们引入一个辅助变量zᵢ，让它表示：

[
z_i=\max_{\xi\in V}\left{q^\top(y_0+Y\xi)-\lambda|\xi-\hat{\xi}_i|_1\right}
]

然后目标函数变成：

[
c^\top x+\lambda\varepsilon+\frac{1}{N}\sum_{i=1}^N z_i
]

约束条件就是：

[
z_i\ge q^\top(y_0+Y\xi)-\lambda|\xi-\hat{\xi}_i|_1,\quad \forall i=1,\dots,N,;\forall\xi\in V
]

由于zᵢ在目标中是求最小，它会被压到恰好等于右边最大值那一个点，所以这个不等式组精确刻画了max。这一步没有丢失任何信息，前提是V确实包含了sup可能达到的点。

3.3 为什么我把λ固定成外部循环而不是当变量

你可能会注意到，如果把λ当作决策变量，zᵢ的约束里会出现λ×‖ξ-ξ̂ᵢ‖₁这种双线性项，因为‖ξ-ξ̂ᵢ‖₁虽然是常数（V里的ξ是给定的顶点），但λ是变量，常数乘以变量本身并不导致非凸，真正麻烦的是如果支撑集V是连续集合、ξ也是变量，就会出现λ×|ξ_j-ξ̂_ij|这类乘积项，那才是标准的非凸双线性项。

为了避免这个坑，我在实现时把λ放到外部做一维网格搜索。对每个候选λ，内部是一个纯线性规划，求解非常快。然后在所有λ里选出使总目标最小的那一个。这样做的好处是代码简单、稳定，缺点是如果λ的网格不够细，可能错过最优值。实际操作中我一般先用较粗的网格确定数量级，再在最优值附近加密，这个技巧后面第5章会写。

4. 线性决策规则的引入：为什么它能在降低复杂度的同时保持实用性

4.1 没有决策规则时第二阶段的“泛函变量”有多复杂

在第二节的两阶段问题里，y(ξ)可以从任意函数空间里取。一个充分一般的recourse policy可能是分段线性、甚至非线性的，这会让问题变成无限维优化。经典随机规划里有一种做法是把ξ也离散化成有限场景，在每个场景单独做recourse决策，但DRO里你还不知道最坏情况分布会把概率质量放在哪里，场景就没法预先固定。另一种做法是用SDDP这类算法做迭代逼近，但在分布鲁棒框架里实现起来相当繁琐。

所以如果只是想快速搭一个可解释、可求解的baseline，线性决策规则（Linear Decision Rule，LDR）几乎是唯一性价比最高的选择。它的思想很简单：把第二阶段的决策函数强制限制为仿射函数：

[
y(\xi)=y_0+Y\xi
]

其中y₀∈ℝ²是常数向量，Y∈ℝ²ˣ²是线性系数矩阵。这样一来，y(ξ)不再是一个泛函变量，而是一组有限的实值变量。

4.2 仿射近似的代价与收益

用“用直线拟合曲线”来类比是很贴切的。真实最优的recourse函数往往是分段线性的折线，LDR就是拿一条直线去拟合它。好处显而易见：模型变成有限维、可以进LP；坏处也很明确：如果真实最优策略弯得厉害，LDR会高估第二阶段成本，导致第一阶段决策偏保守。

不过在实际产能类问题里，y(ξ)=x缺口的形状通常是“x不够时补缺口、x够时不补”的截断线性函数，这种函数和仿射函数其实相当接近，尤其当样本点都在一个不太宽的范围内波动时。所以我的经验是：LDR的保守度通常可以接受，而且比直接舍弃第二阶段不建模要准确得多。

值得留一个心眼：使用LDR之后，所有“对所有ξ∈Ξ成立”的约束都要改成对支撑集内所有ξ成立。对仿射约束来说，如果Ξ是一个凸多面体，那么线性函数的最值在顶点取得，所以我们只需要在顶点集V上验证约束。这一步是用线性代数把半无限约束变成了有限约束，严谨且没有损失。

4.3 代入后两阶段问题如何“塌缩”成单层优化

把y(ξ)=y₀+Yξ代入原始问题之后，原问题变成如下形式（λ固定时）：

[
\min_{x\ge0,;y_0,;Y,;z};c^\top x+\lambda\varepsilon+\frac{1}{N}\sum_{i=1}^N z_i
]

约束：

[
x+y_0+Y\xi\ge\xi,\quad y_0+Y\xi\ge0,\quad \forall\xi\in V
]

[
z_i\ge q^\top(y_0+Y\xi)-\lambda|\xi-\hat{\xi}_i|_1,\quad \forall i=1,\dots,N,;\forall\xi\in V
]

这里每一组约束都是线性的，目标也是线性的。也就是说，两阶段分布鲁棒问题在“Wasserstein对偶+线性决策+支撑集顶点离散化”三步处理后，变成了一个标准线性规划。这大概是我见过的最简洁的DRO落地形式了。

5. Matlab工程实现：从推导到能跑的代码

5.1 数据生成与支撑集选取

我建议先把数据生成和支撑集构建单独写成一个小节，方便你替换成自己的数据。以下是我测试用的示例代码：

matlab复制%% 生成历史需求样本
rng(42);
N = 30;                        % 历史样本数量
xi_mean = [100; 80];
xi_cov  = [12 4; 4 10];
Xi = mvnrnd(xi_mean, xi_cov, N)';   % 2×N，每列是一个样本

%% 支撑集V：用box顶点+样本本身构成
delta = 0.3;
low1 = min(Xi(1,:)) - delta*(max(Xi(1,:))-min(Xi(1,:)));
up1  = max(Xi(1,:)) + delta*(max(Xi(1,:))-min(Xi(1,:)));
low2 = min(Xi(2,:)) - delta*(max(Xi(2,:))-min(Xi(2,:)));
up2  = max(Xi(2,:)) + delta*(max(Xi(2,:))-min(Xi(2,:)));

V = [];
for s1 = [low1, up1]
    for s2 = [low2, up2]
        V = [V, [s1; s2]];
    end
end
V = [V, Xi];   % 把样本点也并进来，增强代表性

用box顶点+样本点这个组合，我在测试里发现比较稳。box顶点负责“撑住”LDR约束在所有极端需求组合下的可行性，样本点则让zᵢ的max更贴近经验分布的邻域。如果你只有一维需求，这个构造思路同样成立，只是顶点数量更少。

5.2 用Yalmip搭建LP模型

我选择Yalmip而不是纯linprog，是因为Yalmip可以很自然地处理矩阵变量和向量化约束，代码和数学公式几乎一一对应，读者看起来不容易懵。以下代码是模型核心：

matlab复制%% 参数设置
c = [3; 4];        % 第一阶段单位成本
q = [8; 10];       % 第二阶段单位成本
m = 2;             % 随机参数维度
d = 2;             % 第二阶段决策维度

epsilon = 1.0;      % Wasserstein半径，可替换
lambda = 2.0;       % 对偶变量，外部网格搜索时循环

%% 决策变量
x  = sdpvar(d,1);          % 第一阶段决策
y0 = sdpvar(d,1);          % LDR常数项
Y  = sdpvar(d,m);          % LDR线性系数

%% 辅助变量
z = sdpvar(N,1);           % 每个样本对应的最坏情况值

%% 目标函数
Cost = c'*x + lambda*epsilon + (1/N)*sum(z);

%% 约束
Constraints = [x >= 0];

% z_i 的下界约束：对每个样本、每个支撑点
for i = 1:N
    for k = 1:size(V,2)
        xi = V(:,k);
        Constraints = [Constraints, ...
            z(i) >= q'*(y0 + Y*xi) - lambda * norm(xi - Xi(:,i), 1)];
    end
end

% LDR下第二阶段的可行约束：对所有支撑点成立
for k = 1:size(V,2)
    xi = V(:,k);
    Constraints = [Constraints, ...
        x + y0 + Y*xi >= xi, ...
        y0 + Y*xi >= 0];
end

%% 求解
ops = sdpsettings('solver','linprog','verbose',0);
optimize(Constraints, Cost, ops);

%% 提取结果
x_opt = value(x);
y0_opt = value(y0);
Y_opt = value(Y);
total_cost = value(Cost);

这里有几个变量维度容易写错，我踩过坑之后特别提醒一下：Y是d×m矩阵，不是d×1；ξ是m×1列向量，Y*ξ才是d×1；约束x+y0+Yξ≥ξ两边维度都是d×1，对应分量比较。如果你复制过去发现维度不匹配，先检查V(:,k)是不是m×1列向量。

5.3 对偶变量λ的一维搜索

前面说过，为了避开λ和ξ之间的双线性项，我把λ放到外部循环。实践中可以这样安排搜索网格：

matlab复制lambda_grid = [0, 0.05, 0.1, 0.2, 0.5, 1.0, 2.0, 5.0];
best_cost = inf;
best_x = [];
best_lambda = nan;

for lam = lambda_grid
    % 把上面的模型求解封装成函数 solve_dro(lam, epsilon, data)
    [x_opt, cost_val] = solve_dro(lam, epsilon, Xi, V, c, q);
    if cost_val < best_cost
        best_cost = cost_val;
        best_x = x_opt;
        best_lambda = lam;
    end
end

选择网格时注意一个现象：随着λ增大，目标里的λ×ε部分线性增大，而(1/N)Σzᵢ部分通常会单调下降，因为zᵢ减去了一项λ×距离，最大值被压小了。两者叠加后目标函数通常是先降后升的U型，所以只要网格覆盖到U型底部附近，结果就比较可靠。我建议先用较大的步长找大致谷底，再在谷底附近用更细的网格加密一轮。

5.4 与SAA（ε=0）和确定性Mean模型的对比

为了验证DRO确实比SAA和mean模型更稳，我在同一组数据上跑了三个模型：

• Mean模型：假设需求恒等于样本均值，直接解一个确定性LP；
• SAA模型：把N个样本等概率处理，ε=0；
• DRO模型：本文模型，ε=1.0，λ按搜索取最优。

结果大致如下表：

注意这个样本外成本是用一批没有参与建模的新样本算出来的。从表里能清楚看到：DRO的训练集总成本最高，因为它考虑了对所有近邻分布的最坏情况，自然会比“只对经验分布负责”的SAA更贵；但它的样本外平均成本最低，说明决策的稳健性确实换来了真实环境下的收益。这正是分布鲁棒的核心价值，不是省钱，而是让决策在分布偏移时不翻车。

6. 实测过程中踩过的坑与数值稳定性建议

6.1 支撑集选得太小会“钻空子”

我第一次测试时，V只用了历史样本点本身，没有外扩成box顶点。结果出现一个非常蹊跷的现象：λ取到5以后，模型给出的x反而比λ=1时更小，第二阶段y(ξ)在外围点上也几乎为零。后来查了半天发现，原因是历史样本点都在数据中心附近，LDR约束只在样本点上被验证，模型“聪明地”让y(ξ)在样本点外侧取很小的值，既满足了约束又压低了qᵀy(ξ)。换句话说，模型找到了一个在历史点位上可行、但在真实外围需求下完全不可行的策略。

解决办法就是把支撑集外扩。我后来的做法是取每个维度的min/max，再向外扩30%形成box顶点，并把所有样本点也放进去一起验证。这个技巧虽然简单，但极其重要。凡是看到DRO解在λ增大时出现反直觉的“更激进”现象，第一反应就应该是检查支撑集是否覆盖得不够。

6.2 网格间距与求解时间平衡

λ的一维网格如果取得太密，N=30、V有30多个点时，每个LP变量数量并不大，linprog求解都在几十毫秒级别，网格取200个点也就几秒。但如果你的N到几千、V到几千个，每个LP的规模会显著变大，这时200个网格点可能就要跑很久。

我的建议是先用10到15个点粗搜，锁定最优λ所在区间，再在这个区间内加密到50个点左右。另外，如果手头有Gurobi或CPLEX，求解器性能会明显比linprog更好，Yalmip只需改一行sdpsettings('solver','gurobi')。始终记住，这个外部搜索本身可以并行，如果网格点之间互不影响，用parfor能节约不少时间。

6.3 矩阵变量Y和迭代向量化的坑

Yalmip声明变量Y时要用sdpvar(d,m)，这个大家都知道。但有一个非常隐蔽的坑是：如果在循环里反复拼接Constraints，比如Constraints = [Constraints, z(i) >= ...]，当N和V都很大时，模型构建时间会平方增长。我测试过5000个约束时，这种写法建模型要卡几十秒，换成先建立cell数组再统一合并，速度能快好几倍。

具体做法是：

matlab复制con_cell = {};
for i = 1:N
    for k = 1:size(V,2)
        con_cell{end+1} = z(i) >= q'*(y0 + Y*V(:,k)) - lambda*norm(V(:,k)-Xi(:,i),1);
    end
end
Constraints = [x >= 0, con_cell{:}];

这种写法在Matlab里不会反复触发约束对象的重分配，实际体感差距非常大。

6.4 快速自测：用单场景压力测试验证推导正确性

最后分享一个验证推导正确性的方法。把N设成1，ε设成0，那么Wasserstein球就退化为一个单点分布，整个模型应该退化成普通的单场景两阶段LP。此时第二阶段的最优解其实有解析式：

• 如果第一阶段产能x已经大于等于需求ξ，则不外购；
• 否则外购量为ξ-x。

用这个解析解去对拍代码结果，如果对不上，说明代码里八成有维度或符号错误。我每次改模型都会先跑这个单场景自测，跑通了再放开ε和N去调DRO。这个方法虽然土，但比反复读公式高效得多。

如果你只是想要一个能快速跑通的两阶段分布鲁棒baseline，这套“Wasserstein对偶+LDR+顶点支撑集”组合已经足够了。后续想再进阶，可以考虑分段线性决策规则、在支撑集内做更精细的细分，或者把λ直接作为变量交给非凸求解器处理，但那已经是另一个量级的工程复杂度。对我个人来说，先把一个干净的线性模型跑明白，永远是理解DRO最扎实的起点。