做分布鲁棒优化(DRO)的人,最容易踩进的一个陷阱,就是把模糊集当成一个固定不动的“球”。项目里用到的标准做法是这样的:手里有一堆历史样本,构造一个经验分布,再以它为中心拿 Wasserstein 度量画一个半径为 ε 的球,最后在球里面找最坏情况分布做 min-max 决策。这套框架本身很成熟,但如果你面对的是一个带先期投入、后期还能动态调整的“混合决策”问题,固定模糊集就会变得非常拧巴:你在第一阶段砸下去的钱、签下的合同、铺设的产能,本质上都会改变后续不确定性分布的形态和可观测性,可模糊集却纹丝不动。
后来我干脆把模糊集也变成一个随决策状态、随观测信号不断进化的对象,做了一套“基于混合决策的完全自适应分布鲁棒”方法。这套方法里,Wasserstein 球不再被静态地钉在历史经验分布上,它的中心、半径都会随着第一阶段的不可逆决策和第二阶段的反馈状态同步调整。最终在库存-产能联合决策这类典型问题上,无论是平均成本还是最坏情况表现,都明显优于“固定模糊集 + 两阶段决策”的常规路线。
这篇文章会把整个建模动机、数学形式、求解思路以及数值实验里踩过的坑完整记录下来,既写给想自己做决策相关分布鲁棒优化的同行,也写给那些已经在用 DRO 但总感觉“差点意思”的人。
1. 固定模糊集为什么在混合决策环境里会失效
1.1 场景一:第一阶段决策本身就改变数据生成过程
第一次注意到固定模糊集有问题,是在一个分销网络的产能扩张项目里。业务方想同时决定两件事:要不要在某区域增加一条产线,以及增加之后每条产线的最优生产量。经典的建模思路是把产线扩张当成第一阶段二元变量,把生产量当成第二阶段可调变量,然后套一个 Wasserstein DRO。
听起来没有任何问题,但业务方提了一个很实际的需求:新增产线会伴随一系列市场动作,比如区域促销、渠道补贴、门店陈列资源倾斜。这些动作会改变需求分布本身的均值甚至尾部形状。也就是说,当你把“是否扩产”这个决策变量从 0 变成 1 的那一刻,原先统计出来的历史需求样本就不再是当前决策下的真实分布样本了。严格说,未来需求的概率分布是这个决策变量的函数。
传统 DRO 的模糊集完全没考虑这层反馈。经验分布始终来自旧数据,Wasserstein 球也只能在这个旧中心附近摆动。模型能捕捉样本噪声,却捕捉不到“决策带来的分布漂移”。你投资一条产线,需求上去了,旧模型还在按没有产线的历史分布算风险,结果就是库存水平系统性偏低,缺货惩罚全部暴露在最坏情况之外。
这类问题在文献里叫内生不确定性(endogenous uncertainty),但落到实际项目里,更常见的说法是“决策影响数据生成”。它不是一个纯理论现象,几乎所有带市场反馈的产能、定价、产品组合决策都会遇到。
1.2 场景二:观测到部分信号后,分布的不确定性应该收缩
另一类更隐蔽的失效发生在多阶段决策中。比如一个两阶段库存问题,随机需求向量 ξ 被拆成 ξ₁ 和 ξ₂ 两部分。第一阶段你做出初始订货决策,只能看到 ξ₁ 的分布;等第一阶段结束, ξ₁ 已经真实发生,这时你手里多了一条非常关键的信息——整个随机过程的一部分已经被观测了。第二阶段的可调决策本应该利用这条信息,把不确定性范围大幅收缩。
如果硬套静态 DRO,第二阶段面对的模糊集和第一阶段一模一样,都是基于全量历史样本的同一个 Wasserstein 球。没有任何机制告诉你“既然 ξ₁ 已经等于某个具体值,那 ξ₂ 的条件分布大概率落在某个更窄的区域里”。这不是模型保守不保守的问题,而是模糊集没有跟随信息状态更新,白白浪费了已经观测到的信息。
后来在文献里看到有人把这叫 distributionally adaptive,其实翻译成大白话就是:分布层面的决策也应该具备“看到什么再决定信什么”的能力。分布鲁棒不该只在决策变量层面做 wait-and-see,模糊集自身也应该有 wait-and-see 结构。
1.3 问题根源:决策、信息和分布三者被割裂了
把上面两种场景放在一起,可以看出共同的病根:目标函数里的决策变量、约束里的决策变量,以及概率分布三者之间本来是相互作用的,但标准 DRO 只保留了决策变量到目标函数的映射,把分布锁死成一个外部输入。
你仔细想想,决策变量对不确定性分布的影响通常不是通过目标函数传递的,而是通过“信息状态”传递的。投资扩产,本质是花钱买了一个新信息状态,这个状态下需求分布的中心可能偏移,方差可能改变;观测到 ξ₁,本质是信息状态更新,条件分布的范围会收紧。混合决策场景里这两种信息变化同时存在,模糊集如果想做到“完全自适应”,就必须能同时响应这两类变化:
- 响应第一阶段不可逆决策 w 带来的分布中心漂移;
- 响应第一阶段结束后已观测信号 ξ₁ 带来的条件分布收缩。
所以有效的模糊集不是越大越好,也不是越紧越好,而是应该长得像一个会呼吸的活体:决策走到哪一步,它就跟到哪一步;观测看到什么,它就缩成什么。做不到这一点,所有后续的求解精度都是白搭。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 从静态 Wasserstein 球到“完全自适应”模糊集的建模跃迁
2.1 传统 Wasserstein DRO 到底做了什么
先把标准形态摆出来。假设随机向量 ξ 属于紧支撑集 Ξ ⊂ ℝᵈ,手里有 N 个独立同分布样本 ξ̂₁,...,ξ̂_N,经验分布记作 P̂_N = (1/N)Σᵢ δ_{ξ̂ᵢ}。单阶段 Wasserstein DRO 写成:
min_{x∈X} sup_{P∈A_ε(P̂_N)} E_P[h(x, ξ)]
其中模糊集是 Wasserstein 球:
A_ε(P̂_N) =
W₁ 是 1-Wasserstein 度量,直观理解就是“把分布 P 的 mass 搬到分布 P̂_N 的 mass 上,单位距离成本为 1 时的最小总搬运成本”。它不像 KL 散度那样要求两个分布绝对连续,也不需要支撑完全重合,所以对经验分布这种离散对象非常友好。
Wasserstein DRO 最漂亮的理论性质是强对偶。在一定条件下(目标函数对随机变量连续、支撑集紧、概率测度空间适当),可以把内部 sup 问题对偶成:
min_{x, λ≥0} λ ε + (1/N) Σᵢ sup_{ξ∈Ξ} [ h(x, ξ) − λ ‖ξ − ξ̂ᵢ‖ ]
这个东西的实际意义是:最坏分布不见得需要显式求出来,只需要惩罚每个样本点附近“跑太远”的 ξ 即可。λ 是 Wasserstein 球半径约束的对偶变量,ε 越大,λ 越小,惩罚越轻,允许 ξ 跑得越远。
这套方法在金融、能源、供应链里的应用已经很广。但请注意,这里 ε 和 P̂_N 都是与 x 无关的常量。整个优化过程只是在固定的球里找一个对 x 最不利的分布。这种“排球”式的模糊集,就是我前面说的病根所在。
2.2 让模糊集的中心跟决策一起移动
要让模糊集“活”起来,第一步是把中心经验分布从固定的 P̂_N 改成依赖于第一阶段决策 w 的 P̂(w)。实现方式有两种,我分别试过,效果差别很大。
第一种是直接移动场景坐标。假设决策 w 对随机变量 ξ 的作用近似为一个线性平移,即每个历史样本 ξ̂ᵢ 在决策 w 下的“反事实观测值”是 ξ̂ᵢ(w) = ξ̂ᵢ + B w + ηᵢ。那么新的经验分布中心就是:
P̂(w) = (1/N) Σᵢ δ_
这种方法的好处是计算简单,Wasserstein 几何性质保持得很好,对偶形式仍然能写。缺点是需要你拍脑袋估计 B 矩阵,也就是“决策到底让需求均值往哪个方向漂移多少”。如果业务部门能给出这个系数,它往往是最稳定的建模方式。
第二种是重新加权场景。对每个样本 i 分配一个依赖 w 的非负权重 ωᵢ(w),要求 Σᵢ ωᵢ(w) = 1,于是:
P̂(w) = Σᵢ ωᵢ(w) δ_
这种做法的初衷是刻画“不同决策下,哪些历史样本更可信”。比如你决定在某区域大力推广,那么历史上没有该区域促销的样本权重就应该降低;历史上有过类似促销活动的样本权重应该升高。实际建模中,ωᵢ(w) 可以设计成 ωᵢ(w) ∝ exp(−γ‖w − wᵢ‖²),其中 wᵢ 是样本 i 对应的历史决策参数。这个方法概念上更贴切,但有两个隐患:权重函数如果选得不合适,整个问题会变成非凸甚至不闭合;而且权重改变导致球心变化,需要重新计算大量 Wasserstein 相关项,计算成本显著上升。
经验是:如果业务上能提供近似的线性漂移系数,优先用第一种;只有当决策对样本可信度的影响实在无法用坐标平移表达时,才退回到第二种。
2.3 让模糊集半径随着信息状态变化
中心移动解决的是“分布漂移”问题,第二个要解决的是“不确定性收缩”问题。在决策执行或部分观测发生后,不确定性范围通常会变小,所以半径 ε 应该从常数变成一个关于信息状态和混合决策的函数。
一种很自然的设定是:
ε(w, I₁) = ε_base · ρ(w, I₁)
其中 ε_base 是初始标称半径,ρ(·) 是一个取值在 (0,1] 的收缩因子,I₁ 表示第一阶段结束后观测到的信息集合。收缩因子的具体形式可以理解成一个“信息回报”函数:你花在数据采集、市场调研、试点项目上的资源越多,或者你已经观测到的随机分量占比越大,ρ 就越小。
这里最容易犯的错误是以为半径越小越好。在静态 DRO 里 ε 是唯一控制保守度的旋钮,但完全自适应模型里,中心的漂移方向和半径收缩是两股方向相反的力:中心把你推向“新世界的最可能形态”,半径决定你在这个新世界周围留多少安全边际。二者必须同时调整,只缩半径不挪中心,就是拿着旧地图找新宝藏;只挪中心不缩半径,又会因为中心本身估计不准而无谓地承担过大风险。
2.4 为什么选 Wasserstein,而不是 KL 或矩约束模糊集
做这个项目前,我专门对比过 KL 散度模糊集和矩约束模糊集,结论是 Wasserstein 在“决策依赖模糊集”这个设定下优势更明显。
KL 散度模糊集要求候选分布对经验分布绝对连续。把 KL 写成 ∫ dP log(dP/dP̂_N),如果某个候选分布在经验分布支撑之外有新质量,KL 直接等于无穷大。但在决策依赖场景里,你很明确地知道新决策下可能出现历史上从未见过的需求形态(比如开拓了一个新客群),此时用 KL 会把所有“没见过但可能发生”的情况直接判死刑,保守方向完全是错的。Wasserstein 对支撑不对齐有天然容忍度,mass 可以搬来搬去,这正好匹配“决策导致分布漂移”的物理过程。
矩约束模糊集(比如限定一阶矩和二阶矩落在某个区间)计算上最轻,但它对分布形状的刻画太粗。两个分布可以有完全相同的一阶矩和二阶矩,尾部行为却天差地别。对混合决策问题来说,最坏情况往往恰恰藏在尾部,矩约束会严重低估尾部风险。
Wasserstein 最大的缺点是高维度下半径 ε 很难标定。随着支撑维度 d 上升,N 个样本对真实分布的覆盖能力下降速度很快,半径的有限样本校正界通常只给到 O(1/√N),里面的常数在实际问题里往往松得离谱。所以我在实验里会做半径灵敏度分析,而不是只依赖理论公式。
2.5 “完全自适应”和普通两阶段自适应的区别
这个点必须单独讲清楚,因为很容易被审稿人或者同事追问。
两阶段自适应鲁棒优化(ARO)的结构是决策变量依赖随机实现:min_x c(x) + max_ξ min_{y∈Y(x,ξ)} d(y)。它的“自适应”体现在第二阶段决策 y(ξ) 是随机变量 ξ 的函数。但模糊集 A_ε(P̂_N) 是固定常量,和 x 或 y 都没有耦合。
内生不确定性的 DRO 版本会把模糊集改成依赖 x,但通常只依赖第一阶段 x,第二阶段决策仍然只是在一个被 x 放大的固定形状集合里做优化。
我所说的“完全自适应”,强调的是模糊集的中心 P̂(w) 和半径 ε(w, I₁) 都要进入优化循环,并且第二阶段策略 v(ξ) 在生成自身决策的同时,也会反哺给模糊集下一轮更新。简单说,决策变量改变模糊集,模糊集又反过来约束决策变量的可行性,循环往复直到收敛。这个循环既覆盖了第一阶段投放资源带来的分布漂移,也覆盖了第二阶段观测条件带来的条件收缩。
用一个不太严谨但好记的类比:普通自适应像开一辆调好悬挂的车,路况变了方向盘跟着变;完全自适应则连悬挂的软硬、轮胎的胎压都随着路况实时调整。后者自由度更高,但整车的调校难度和计算复杂度也完全不在一个量级。
3. 基于混合决策的模型构造
3.1 决策变量的“混合”结构
“混合决策”在这个项目里指的不是整数变量与连续变量的混合,而是不可逆承诺型决策和可调节响应型决策的混合。
在绝大多数实际项目中,决策者同时握着两类完全不同的“旋钮”。一类必须在随机性充分暴露前就锁定,比如产线是否扩建、仓库容量是否升级、长期合同是否签署,这类决策后来想反悔要付出极高代价,所以必须在前端承担不确定性。另一类可以等随机性部分暴露后再做精细调整,比如实际补货量、加班产能、临时运力调度,这类决策天然带有反馈性质,应该由第二阶段的问题内生决定。
把这两类变量放进同一个目标函数,第一阶段变量记为 w ∈ {0,1}^k(或者更一般的有界整数/连续变量),第一阶段里还有一些与 w 同步确定的连续变量 u ∈ U,第二阶段决策选择的是策略 v(·),表示把随机变量 ξ 的观测结果映射到可调动作空间。混合结构体现在:w 和 u 是完全不可调节的,v(·) 是可调节的,整体策略 x = (w, u, v(·)) 里既有开环部分又有闭环部分。
这种结构很贴近真实运营:你不会在需求未知时就把所有钱都花出去,但也不可能什么都等到需求落地再拍板。必须有一部分资源充当“压舱石”提前锁定成本,另一部分资源保持灵活性应对意外。
3.2 完整模型形式
混合决策下的完全自适应 DRO 在原问题上写成:
min_{w∈W, u∈U, v(·)∈V} sup_{P∈A(w, ξ₁)} E_P[ c(w, u) + r(w, u, v(ξ), ξ) ]
模糊集定义:
A(w, ξ₁) =
其中:
P̂(w, ξ₁) = Σᵢ ωᵢ(w, ξ₁) δ_
- ξ̂ᵢ(w) 是第 i 个历史场景在决策 w 下的反事实重构;
- ωᵢ(w, ξ₁) 是观测到 ξ₁ 后对场景 i 的条件权重;
- ε(w, ξ₁) = ε_base · ρ(w, ξ₁) 是依赖决策和信息状态的模糊半径。
这个模型里,P̂ 和 ε 都同时受到 w 和 ξ₁ 的影响。第一阶段决策 w 越大,说明投入的“信息获取资源”越多,中心向新的业务形态靠拢,半径同时收缩;ξ₁ 被观测到后,条件权重的信息结构会让模糊集进一步收紧。这和你决策时的真实感受是对齐的:你做得越多、看得越多,对未来的判断就越有把握,但判断的依据(中心)也变得更偏向你主动塑造的那个世界。
实际写代码时,我通常会把 ωᵢ(w, ξ₁) 的显式表达式再细化成两步:先用 ξ₁ 的观测值对全量场景做一次贝叶斯式加权,得到一个中间分布;再根据 w 对这个中间分布做一次反事实平移。这样既保留了条件概率的味道,又避免了在权重函数里同时掺杂两个信息来源导致的结构混乱。
3.3 嵌套优化带来的非凸性,以及怎么取舍
把决策变量塞进模糊集中心,代价是问题一般不再是凸的。这里有一个很学术但必须面对的分叉口:如果你坚持要找全局最优,那你得接受一个非凸 min-max 问题,求解难度瞬间上升一个量级;如果你愿意在策略空间和模糊集参数化上做约束,问题可以退回凸世界。
我的处理方式是把第二阶段的 v(ξ) 限制为线性决策规则(LDR):
v(ξ) = y₀ + Y ξ
即可调动作是随机观测向量 ξ 的一个仿射函数。这里 ξ 指第二阶段实际能观测到的部分,不是全部随机向量的每一维。这个限制会牺牲一部分自适应性,但好处巨大:目标函数关于 y₀ 和 Y 是凸的,只要和 w、u 的交叉项控制好,整个问题就能保留大部分凸性。
第一阶段 w ∈ {0,1}^k 的整数性还是会带来组合爆炸,但至少目标函数不再是嵌套的恶魔。第二阶段内部 sup 问题可以和 LDR 一起线性化,最终变成一个混合整数二阶锥或者混合整数线性规划。对这种问题,现代求解器配合行生成算法是能处理的,后面第四章详细讲。
4. 从强对偶到可解形式:我们的求解路线
4.1 先把静态情形下的强对偶形式唤醒
在进入完全自适应模型之前,先把静态 Wassersetin DRO 的对偶形式熟练于心,因为后面所有变形都是在这个骨架上加东西。
给定决策 x,内部 sup 问题在强对偶条件下等价于:
sup_{P: W₁(P,P̂_N)≤ε} E_P[h(x, ξ)]
= inf_{λ≥0} { λ ε + (1/N) Σᵢ sup_{ξ∈Ξ} [h(x, ξ) − λ‖ξ − ξ̂ᵢ‖] }
这个形式的计算意义在于:原来要在无穷维概率测度空间里搜索最坏分布,现在只需要对每个样本点 ξ̂ᵢ 分别求一个关于 ξ 的 sup,再求平均。这个 sup 内部有一个 “h(x, ξ) − λ 距离” 的权衡:h 越大越危险,但 ξ 离样本点越远惩罚越高,所以优化器会自动找出“既危险又离样本不太远”的最坏点。
很多刚上手的人会对这个对偶式感到困惑:λε 和 1/N 求和是从哪来的?直觉上可以这样理解:把 W₁(P,P̂_N) ≤ ε 看成一个带约束的资源分配问题,λ 是“单位距离预算”的影子价格;λ ε 是购买全部距离预算花的钱,1/N 求和是对每个经验样本各自评估最坏损失,再平均起来。对偶变量 λ 会在约束紧的时候变大,表示距离预算稀缺,最坏点不敢跑太远。
4.2 决策依赖的 P̂(w) 和 ε(w) 如何改写对偶
现在把中心经验分布换成 P̂(w) = (1/N) Σᵢ δ_{ξ̂ᵢ + Bw},半径换成 ε(w)。静态对偶式不能直接照搬,因为中心和半径都依赖 w,λ 和 w 的耦合会让问题变得非常别扭。
处理办法是保留 λε(w) 项,但把样本点替换成移动后的反事实场景:
inf_{λ≥0, w∈W, ...} λ ε(w) + (1/N) Σᵢ sup_{ξ∈Ξ} [ h(w, u, ξ) − λ‖ξ − (ξ̂ᵢ + Bw)‖ ]
这里 h 同时也是 w 的函数,因为第二阶段决策已经通过 LDR 或者值函数嵌进去了。注意 λ 和 w 不再独立:λ 是全局变量,ε(w) 非增时,w 的增加会压低 λ, 但压低 λ 又会放宽内部 sup 的距离惩罚,一正一反,必须在同一个优化里平衡。
这一步在实际求解中特别容易出数值问题。如果直接用求解器把 λ 也当普通变量扔进去,经常会遇到内层 sup 返回的 ξ 对 λ 不连续的情况,导致切平面抖动。后来我的做法是拆成内外两层:外层对 λ 做一维搜索或用次梯度更新,内层固定 λ 求解混合整数主问题。这样稳定性好很多,尤其在 λ 的可行区间只有几十倍量级的情况下,一维搜索开销完全可以接受。
4.3 用行生成处理连续支撑上的 sup
传统经验分布是有限个点,Wasserstein 球对偶后内部 sup 理论上还要在整个支撑 Ξ 上取上确界。如果你的 h 是凸函数且 Ξ 是多面体,sup 可能还好求;但如果 h 本身带最大值、绝对值或者指示函数,sup 并不总是有闭式解。
实践中的标准武器是行生成(cutting plane)。核心思想是先用一个非常粗糙的离散支撑子集 Sᵢ 去逼近 Ξ,求解出一个松弛问题;然后固定当前解,对每个样本 i 求解真实的 sup 子问题;如果子问题找到的新 ξ 比当前支撑集合产生的值更大,就把这个 ξ 加入 Sᵢ;重复直到新增切平面带来的改进小于容忍度。
我实现的算法流程大致如下:
-
初始化:令支撑子集 Sᵢ = {ξ̂ᵢ + Bw⁰},即每个样本只保留当前决策下的中心点。
-
主问题:给定当前 Sᵢ 集合,求解包含所有内层 sup 的近似混合整数问题,得到 (w, u, Y, y₀, λ)。
-
子问题:对每个 i ∈ {1,...,N},求解
max_{ξ∈Ξ} h(w, u, y₀+Yξ, ξ) − λ‖ξ − (ξ̂ᵢ + Bw)‖
得到最优 ξᵢ*。
-
若 supᵢ* 比当前主问题中对应项大超过 tol,则将 ξᵢ* 加入 Sᵢ,回到步骤 2;否则输出当前解。
这个算法在支撑集 Ξ 是紧多面体时收敛性不错,因为多面体的极点是有限多个,切平面不会无限长下去。但如果 Ξ 是椭球或者其他光滑凸集,每次子问题产生的新点可能都在边界上,收敛速度会慢一些,需要配合 ε-最优容忍度来判断。
4.4 LDR 的展开与凸性控制
LDR 把第二阶段变量替换成 y₀ + Yξ 后,h 的形式决定了整个问题是否还能保持凸。如果 h 是凸函数复合仿射映射,凸性可以保留;但如果 h 里有第二阶段变量的乘积项,需要引入辅助变量重新提升。
一个非常实用的技巧是:把每个样本的反事实均值 μᵢ(w) = ξ̂ᵢ + Bw 单独提出来作为辅助变量,把所有对 ξ 的线性依赖先集中到 Y μᵢ(w) 上。这样 Y 与 w 的耦合就从“Y 乘以 (ξ̂ᵢ + Bw)”变成了“Y 乘 μᵢ(w)”,而 μᵢ(w) 是 w 的线性函数,整体仍然保持混合整数线性约束可接受的结构。
我处理过的几个实际算例中,第二阶段变量数量通常不超过 10 个,LDR 带来的性能损失并没有想象中严重。真正影响解质量的反而是 LDR 中 Y 的稀疏结构:允许所有第二阶段决策都依赖所有随机分量,会导致优化器在训练集上过拟合到某些噪声维度的历史相关性。实际做法是只允许依赖真正可观测且经济上有意义的分量,比如库存问题里只依赖当前已实现的前期需求,而不是去依赖一个理论上存在但业务上根本观测不到的远期因子。
5. 数值实验的完整记录
5.1 测试问题:扩产决策与动态补货
为了验证模型,我搭了一个简化但保留核心矛盾的产能-补货联合决策问题。
第一阶段决策包含一个二元变量 w ∈ {0,1},表示是否扩产。扩产需要支付固定成本 C_f = 2.5,但扩产后单位生产成本从 1.2 降到 0.9
