用Python实战验证独立随机变量的期望与方差可加性

概率论课本上那些抽象的数学公式总是让人望而生畏，尤其是当涉及到期望和方差的性质时。作为数据科学学习者，我们常常被要求死记硬背"独立随机变量之和的期望等于期望之和"、"独立随机变量之和的方差等于方差之和"这样的定理。但有没有更直观的方式来理解这些性质？今天我们就用Python的NumPy和Matplotlib库，通过生成大量随机样本，用代码和可视化来验证这些重要定理。

1. 环境准备与基础概念

在开始实验之前，我们需要确保工作环境配置正确。推荐使用Jupyter Notebook或Google Colab这类交互式环境，它们特别适合数据探索和可视化工作。

首先安装必要的Python库（如果尚未安装）：

bash复制pip install numpy matplotlib

然后导入我们将使用的主要模块：

python复制import numpy as np
import matplotlib.pyplot as plt
from scipy import stats

期望和方差的基础定义：

• 期望（均值）：随机变量取值的加权平均，权重为对应概率
• 方差：随机变量取值与期望之差的平方的期望，衡量数据的离散程度

对于离散随机变量X：

• 期望：E[X] = ΣxᵢP(X=xᵢ)
• 方差：Var(X) = E[(X-E[X])²] = E[X²] - E[X]²

2. 设计验证实验

我们将通过以下步骤验证期望和方差的可加性：

1. 选择两种不同的概率分布作为独立随机变量
2. 分别生成大量样本数据
3. 计算各分布的样本均值和方差
4. 计算两分布之和的样本均值和方差
5. 比较理论值与实际计算值

2.1 选择概率分布

为了全面验证，我们选择三种常见分布组合：

2.2 样本生成与参数设置

我们为每种组合生成100,000个样本点，确保统计结果的稳定性。以下是第一种组合的实现代码：

python复制# 组合1：二项分布(n=10,p=0.5) + 泊松分布(λ=3)
n, p = 10, 0.5
lam = 3
sample_size = 100000

# 生成样本
binom_samples = np.random.binomial(n, p, sample_size)
poisson_samples = np.random.poisson(lam, sample_size)
sum_samples = binom_samples + poisson_samples

3. 期望可加性验证

根据概率论理论，对于任意两个随机变量X和Y（不要求独立）：
E[X+Y] = E[X] + E[Y]

对于独立随机变量，方差的可加性也成立：
Var(X+Y) = Var(X) + Var(Y)

3.1 理论值计算

对于组合1：

• 二项分布期望：E[X] = np = 100.5 = 5
• 泊松分布期望：E[Y] = λ = 3
• 理论期望和：E[X+Y] = 5 + 3 = 8

3.2 实际样本计算

python复制# 计算样本均值
binom_mean = np.mean(binom_samples)
poisson_mean = np.mean(poisson_samples)
sum_mean = np.mean(sum_samples)

print(f"二项分布样本均值: {binom_mean:.4f}")
print(f"泊松分布样本均值: {poisson_mean:.4f}") 
print(f"和分布的样本均值: {sum_mean:.4f}")
print(f"理论期望和: 8.0000")

典型输出结果：

code复制二项分布样本均值: 4.9973
泊松分布样本均值: 3.0021
和分布的样本均值: 7.9994
理论期望和: 8.0000

3.3 可视化验证

绘制三个分布的样本均值对比图：

python复制labels = ['二项分布', '泊松分布', '和分布']
sample_means = [binom_mean, poisson_mean, sum_mean]
theory_means = [5, 3, 8]

x = np.arange(len(labels))
width = 0.35

fig, ax = plt.subplots(figsize=(10,6))
rects1 = ax.bar(x - width/2, sample_means, width, label='样本均值')
rects2 = ax.bar(x + width/2, theory_means, width, label='理论值')

ax.set_ylabel('期望值')
ax.set_title('期望可加性验证')
ax.set_xticks(x)
ax.set_xticklabels(labels)
ax.legend()

fig.tight_layout()
plt.show()

从可视化结果可以清晰看到，样本均值与理论值非常接近，验证了期望的可加性。

4. 方差可加性验证

方差的验证过程类似，但需要注意独立性的重要性。

4.1 理论值计算

对于组合1：

• 二项分布方差：Var(X) = np(1-p) = 100.50.5 = 2.5
• 泊松分布方差：Var(Y) = λ = 3
• 理论和方差：Var(X+Y) = 2.5 + 3 = 5.5

4.2 实际样本计算

python复制# 计算样本方差
binom_var = np.var(binom_samples, ddof=0)
poisson_var = np.var(poisson_samples, ddof=0)
sum_var = np.var(sum_samples, ddof=0)

print(f"二项分布样本方差: {binom_var:.4f}")
print(f"泊松分布样本方差: {poisson_var:.4f}")
print(f"和分布的样本方差: {sum_var:.4f}")
print(f"理论和方差: 5.5000")

典型输出结果：

code复制二项分布样本方差: 2.5043
泊松分布样本方差: 3.0032
和分布的样本方差: 5.5065
理论和方差: 5.5000

4.3 非独立情况对比

为了展示独立性的重要性，我们创建两个相关的随机变量：

python复制# 创建相关的随机变量
X = np.random.normal(0, 1, sample_size)
Y = 0.5 * X + np.random.normal(0, 0.5, sample_size)

# 计算方差
var_X = np.var(X, ddof=0)
var_Y = np.var(Y, ddof=0)
var_sum = np.var(X + Y, ddof=0)

print(f"X方差: {var_X:.4f}")
print(f"Y方差: {var_Y:.4f}")
print(f"X+Y方差: {var_sum:.4f}")
print(f"方差和: {var_X + var_Y:.4f}")

输出示例：

code复制X方差: 1.0032
Y方差: 0.5016
X+Y方差: 2.2572
方差和: 1.5048

可以看到，当变量不独立时，方差之和不再等于和的方差。

5. 多分布组合验证

为了全面验证定理，我们对预设的三种分布组合都进行实验。以下是组合2（正态+均匀）的实现：

python复制# 组合2：正态分布(μ=0,σ=1) + 均匀分布(a=0,b=1)
mu, sigma = 0, 1
a, b = 0, 1

norm_samples = np.random.normal(mu, sigma, sample_size)
uniform_samples = np.random.uniform(a, b, sample_size)
sum_samples_2 = norm_samples + uniform_samples

# 理论值
theory_mean = mu + (a+b)/2  # 0 + 0.5 = 0.5
theory_var = sigma**2 + (b-a)**2/12  # 1 + 1/12 ≈ 1.0833

# 样本计算
print(f"正态分布样本均值: {np.mean(norm_samples):.4f} (理论: 0.0000)")
print(f"均匀分布样本均值: {np.mean(uniform_samples):.4f} (理论: 0.5000)")
print(f"和分布样本均值: {np.mean(sum_samples_2):.4f} (理论: 0.5000)")

print(f"\n正态分布样本方差: {np.var(norm_samples):.4f} (理论: 1.0000)")
print(f"均匀分布样本方差: {np.var(uniform_samples):.4f} (理论: 0.0833)")
print(f"和分布样本方差: {np.var(sum_samples_2):.4f} (理论: 1.0833)")

输出结果与理论值高度吻合，进一步验证了定理的正确性。

6. 实际应用与注意事项

理解期望和方差的可加性在实际数据分析中非常重要。例如在投资组合理论中，不同资产收益的期望可以相加，而风险（方差）在资产独立时也可以相加。

常见应用场景：

• 投资组合风险评估
• 信号处理中的噪声分析
• 质量控制中的误差累积计算
• 机器学习模型集成时的偏差-方差分析

注意事项：

1. 确保验证时使用足够大的样本量（至少10,000个点）
2. 独立性的验证至关重要 - 可以通过协方差检查
3. 对于非独立变量，需要考虑协方差项：
   Var(X+Y) = Var(X) + Var(Y) + 2Cov(X,Y)
4. 不同分布的组合可能产生新的分布特性

python复制# 检查独立性的协方差计算
cov_matrix = np.cov(binom_samples, poisson_samples)
print(f"协方差矩阵:\n{cov_matrix}")

输出应显示接近0的协方差，证实独立性。