从卡方到威沙特：多元统计中的矩阵进化论-编程实验室

从卡方到威沙特：多元统计中的矩阵进化论

在数据分析的世界里，分布理论如同导航星图，指引着我们理解随机现象的规律。当我们从单变量迈向多变量分析时，威沙特分布（Wishart Distribution）便成为协方差矩阵建模的核心工具。这个由约翰·威沙特在1928年提出的分布，完美诠释了如何将一维的卡方分布概念拓展到高维空间。

1. 威沙特分布的基础构建

1.1 从卡方到威沙特的维度跃迁

威沙特分布最迷人的特性之一是其与卡方分布的内在联系。当p=1时，威沙特分布退化为我们熟悉的卡方分布：

import numpy as np from scipy.stats import chi2, wishart # 当p=1时，威沙特分布等同于卡方分布 n = 5 # 自由度 V = np.array([[1]]) # 1x1尺度矩阵 # 生成威沙特分布样本 wishart_sample = wishart.rvs(df=n, scale=V, size=1000) # 生成卡方分布样本 chi2_sample = chi2.rvs(df=n, size=1000) # 比较两者分布 print(f"威沙特样本均值：{np.mean(wishart_sample):.3f}") print(f"卡方样本均值：{np.mean(chi2_sample):.3f}")

这个简单的例子展示了威沙特分布如何自然地扩展了卡方分布的概念。当维度提升时，我们需要用矩阵代替标量，用行列式代替简单的幂运算。

1.2 威沙特分布的核心参数

威沙特分布由两个关键参数定义：

参数	符号	意义	约束条件
自由度	n	样本量减1	n > p-1
尺度矩阵	V	基础协方差结构	p×p正定矩阵

其中自由度n决定了分布的"尖锐程度"，而尺度矩阵V则刻画了变量间的相关结构。当n ≥ p时，威沙特分布是正定的概率为1。

2. 威沙特分布的几何直观

2.1 高维椭球与概率密度

威沙特分布的概率密度函数虽然形式复杂，但其几何意义却相当直观：

f(W) ∝ |W|^{(n-p-1)/2} exp(-tr(V⁻¹W)/2)

这个公式中，|W|项反映了矩阵体积的缩放，而指数项则类似于马氏距离的推广。在三维情况下，威沙特分布的等高线形成了一组嵌套的椭球体，其形状由V决定，大小由n控制。

2.2 实际应用中的抽样方法

生成威沙特随机矩阵的标准算法基于Cholesky分解：

生成下三角矩阵A，其中：
- 对角线元素：aᵢᵢ ~ √χ²(n-i+1)
- 非对角元素：aᵢⱼ ~ N(0,1) (i>j)
对尺度矩阵V做Cholesky分解：V = LLᵀ
计算W = LAAᵀLᵀ

def wishart_sample(n, V, random_state=None): """自定义威沙特分布抽样函数""" rng = np.random.RandomState(random_state) p = V.shape[0] # 步骤1：生成下三角矩阵A A = np.zeros((p,p)) for i in range(p): A[i,i] = np.sqrt(rng.chisquare(df=n-i)) if i > 0: A[i,:i] = rng.normal(size=i) # 步骤2：Cholesky分解 L = np.linalg.cholesky(V) # 步骤3：组合结果 return L @ A @ A.T @ L.T

3. 威沙特分布在现代统计中的应用

3.1 协方差矩阵估计

威沙特分布最直接的应用是作为样本协方差矩阵的抽样分布。假设我们有来自Nₚ(0,Σ)的n个独立观测X₁,...,Xₙ，则样本协方差矩阵S = XᵀX服从威沙特分布Wₚ(Σ,n)。

这种关系使得我们能够：

构建协方差矩阵的置信区域
进行协方差结构的假设检验
评估估计量的不确定性

3.2 贝叶斯分析中的先验分布

在贝叶斯框架下，威沙特分布常作为多元正态分布精度矩阵(协方差矩阵的逆)的共轭先验。这种性质极大简化了后验分布的计算：

先验：Λ ~ W(V₀,n₀) 似然：X|Λ ~ N(μ,Λ⁻¹) 后验：Λ|X ~ W(V₁,n₁)

其中： V₁⁻¹ = V₀⁻¹ + S n₁ = n₀ + n S为样本散度矩阵

4. 超越基础：威沙特分布的进阶话题

4.1 非中心威沙特分布

标准威沙特分布假设数据来自零均值多元正态分布。当均值非零时，我们得到非中心威沙特分布：

W ~ Wₚ(V, n, M)

其中M = ΔΔᵀ是非中心参数矩阵，Δ为均值矩阵。这种分布在功效分析和信号检测中尤为重要。

4.2 大维数极限行为

当维度p和样本量n同时增长时(p/n → γ ∈ (0,1])，威沙特矩阵的特征值分布展现出有趣的相变现象。Marchenko-Pastur定律描述了这种极限行为，这在随机矩阵理论和现代高维统计中至关重要。

import matplotlib.pyplot as plt from sklearn.datasets import make_spd_matrix # 模拟高维情况下的特征值分布 p = 100 n = 500 V = make_spd_matrix(p) # 生成威沙特矩阵 W = wishart.rvs(df=n, scale=V) # 计算特征值 eigvals = np.linalg.eigvalsh(W) plt.figure(figsize=(10,6)) plt.hist(eigvals, bins=50, density=True) plt.title("威沙特矩阵特征值分布 (p=100, n=500)") plt.xlabel("特征值") plt.ylabel("密度") plt.grid(True) plt.show()