期望最大化算法（EM）
EM 算法是含隐变量模型的参数估计方法，通过迭代 E 步和 M 步收敛到局部最优。
核心思想
最大似然估计 在存在隐变量 时难以直接求解。EM 转而优化对数似然的下界（ELBO）：
- E 步：固定 ，计算隐变量后验
- M 步：固定 的后验，最大化期望对数似然，更新
直观理解
E 步"猜测"隐变量分布，M 步在此猜测下更新参数。反复迭代使似然单调上升。
典型应用
- GMM（高斯混合模型）：E 步计算每个样本属于各高斯分量的概率，M 步更新均值和协方差
- HMM：Baum-Welch 算法即 EM 的特化
- K-means：可视为硬分配的 EM 特例
局限
- 对初始值敏感，可能收敛到局部最优
- 隐变量维度过高时 E 步难计算
- 收敛速度线性，慢于牛顿法等二阶方法