人工智能之数学基础：独立同分布的联合概率

本文重点

在概率论与统计学中，“独立同分布”（Independent and Identically Distributed, i.i.d.）是描述随机变量集合的核心概念。当一组随机变量满足独立且同分布的条件时，其联合概率的计算、统计推断的简化以及模型构建的合理性均得到显著提升。

独立

在前面的课程中，我们学习到了随机向量中每个随机变量相互独立，推广到 n 个随机变量 X1​,X2​,…,Xn​，若其联合概率可分解为各变量概率的乘积：

• 联合概率 P(X1​=x1​,…,Xn​=xn​) 是所有变量同时取特定值的概率。
• 独立性将联合概率分解为各变量边缘概率的乘积，消除了变量间的依赖关系。

分布

同分布指所有随机变量遵循相同的概率分布，即具有相同的累积分布函数（CDF）或概率密度函数（PDF）。例如，若 Xi​∼N(μ,σ2) 对所有 i 成立，则称 {