分群與 k-means：交替最佳化的第一個範例
第 10 章用 k-means 建立非監督式學習的第一個完整演算法：交替更新會讓 distortion 單調不增並在數值上收斂，但不保證得到全域最佳解。
#unsupervised-learning
4 篇文章EM 演算法：從高斯混合到 VAE
第 11 章從高斯混合模型的軟指派出發，用 Jensen inequality 建立 ELBO，將 EM 解釋為對變分分布與模型參數的交替最大化，再以近似後驗與 reparameterization trick 延伸到 VAE。
主成分分析：投影、重建與降維
第 12 章把 PCA 寫成一個幾何最佳化問題：在單位方向上最大化投影變異，解就是共變異矩陣的主特徵向量；取前 k 個特徵向量，同時得到保留最大變異與最小線性重建誤差的低維表示。
獨立成分分析：從混合訊號恢復獨立來源
第 13 章把 ICA 建模為 x=As：觀測是未知線性混合，目標是估計 W=A^{-1} 恢復獨立且非高斯的來源。變數變換的 Jacobian determinant 進入 likelihood，導出 Bell–Sejnowski 的梯度更新。