1. LRP是什么?为什么我们需要它?
当你用手机拍下一朵花,AI识别出它是"玫瑰"时,你有没有好奇过:AI到底看到了什么才做出这个判断?是花瓣的轮廓?茎秆的纹理?还是背景里误入的绿叶?这就是**LRP(逐层相关性传播)**要回答的问题——它像一台X光机,能让我们看到神经网络做决策时的"思考轨迹"。
简单来说,LRP是一种像素级解释工具。假设我们有个训练好的图像分类模型(比如ResNet),给它输入一张图片后,LRP会逆向追踪网络中的每个计算步骤,最终生成一张与输入图片尺寸相同的热力图。图中每个像素的亮度值,代表它对最终分类结果的贡献程度。我在实际项目中验证过,当热力图中高亮区域确实集中在花朵主体时,这个分类结果通常更可信。
与传统方法相比,LRP有三大优势:
- 数学可验证:通过严格的守恒定律(后文会详细解释),确保所有相关性分数在传播过程中不丢失
- 无需修改模型:直接在预训练模型上应用,不需要重新训练或调整结构
- 适应多种架构:从简单的全连接网络到复杂的CNN、Transformer都能兼容
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. LRP的工作原理:从数学到代码
2.1 核心思想:相关性守恒定律
LRP的核心公式看起来简单却意味深长:
code复制f(x) ≈ Σ R_d (d从1到V)
这个等式告诉我们:模型的预测输出f(x)(比如"玫瑰"这个类别的概率值),可以近似分解为所有输入像素相关性分数R_d的总和。换句话说,就像会计记账一样,模型输出的"决策资金"要100%分配到各个输入像素头上。
举个例子,假设有个猫狗分类器对某张图片输出"狗"的概率是0.8。通过LRP分解后,可能发现:
- 狗鼻子区域的像素合计贡献了0.3
- 狗耳朵贡献0.2
- 背景中的狗盆贡献0.15
- 其余像素共贡献0.15
2.2 两种常用传播规则
实际应用中,我们常用两种改进版的传播规则:
python复制# ε-rule示例代码(适用于大多数场景)
def epsilon_rule(z, R, epsilon=1e-7):
z_plus = np.maximum(z, 0)
z_minus = np.minimum(z, 0)
return R * (z_plus / (np.sum(z_
