1. 消息传递算法的前世今生
我第一次接触消息传递算法是在研究生阶段,当时被导师安排研究压缩感知问题。记得那天下午,我盯着AMP(Approximate Message Passing)算法的公式看了整整三个小时,完全不明白那个"onsager"项到底在干什么。直到后来在咖啡厅偶遇数学系的师兄,他用一个简单的比喻让我茅塞顿开:"想象你在玩传话游戏,每次传话后都要纠正前一个人的口误,onsager项就是这个纠错机制。"
传统AMP算法确实优雅,但它有个致命缺陷——对感知矩阵A的要求太苛刻了。就像要求所有传话人都必须说标准普通话,这在现实中几乎不可能。我在实验室就遇到过这种情况:当使用DCT矩阵代替高斯随机矩阵时,AMP算法直接"罢工"不收敛了。
这引出了OAMP(Orthogonal Approximate Message Passing)算法的核心价值:放宽对感知矩阵的限制。就像升级后的传话游戏,现在允许带口音的普通话,只要保证信息传递的正交性就行。具体来说,OAMP通过两个关键创新解决了AMP的局限性:
- 去相关线性估计:用精心设计的矩阵W_t消除感知矩阵A与估计误差的相关性
- Divergence-free非线性估计:通过构造特殊的非线性函数保持迭代过程中的正交性
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. OAMP的核心机制解析
2.1 去相关线性估计的魔法
记得第一次实现OAMP时,我在构造去相关矩阵W_t上栽了跟头。当时直接用伪逆矩阵,结果迭代完全不稳定。后来才发现,关键在于满足tr(I-W_tA)=0这个看似简单的条件。
去相关矩阵的构造艺术:
- 匹配滤波器(MF):
W=AT,最简单但性能一般 - 伪逆(PINV):适合欠定或超定系统
- LMMSE:需要估计噪声方差和信号方差
python复制# Python实现LMMSE去相关矩阵
def construct_LMMSE(A, sigma2, v2):
M, N = A.shape
if M < N: # 欠定系统
W = A.T @ np.linalg.inv(A @ A.T + (sigma2/v2)*np.eye(M))
else: # 超定系统
W = np.linalg.
