全部文章

第 25 頁，共 129 頁

ai guide Stanford CS229 Machine Learning 導讀2026年10月12日

高斯判別分析與 Naive Bayes：先學每一類長什麼樣，再用貝氏定理分類｜Stanford CS229 第 5 堂

第 5 堂把分類問題反過來做：不直接學 p(y|x)，改學 p(x|y) 與 p(y)。GDA 假設兩類是共用共變異數的高斯，最大概似估計只要數比例、取平均，決策邊界推出來是一條直線，事後機率剛好是 sigmoid；Naive Bayes 用條件獨立把 2^d 個參數壓到 2d+1 個。

#cs229 #ai-course #stanford #machine-learning #generative-models #gaussian-discriminant-analysis #naive-bayes

ai guide Stanford CS229 Machine Learning 導讀2026年10月12日

偏差與變異、正規化與模型選擇：模型該多複雜｜Stanford CS229 第 6 堂

這堂課把測試誤差拆成雜訊 σ²、偏差平方、變異三項，再用 ridge regression 的閉式解說明正規化怎麼把特徵值從 λ 推到 λ+ρ，用一點偏差換掉大量變異。後半堂講雙降、ImageNet-V2，以及用開發集、k 折交叉驗證與 successive halving 挑超參數。

#cs229 #ai-course #stanford #machine-learning #bias-variance #regularization #cross-validation

ai guide Stanford CS229 Machine Learning 導讀2026年10月12日

神經網路的架構：從一個 ReLU 疊到殘差連接與正規化層｜Stanford CS229 第 7 堂

第 7 堂先把線性模型的訓練流程原封不動搬到非線性模型：每筆資料一個 loss、取平均、用 SGD 往下走，剩下兩個問題是模型長什麼樣、梯度怎麼算。後半堂回答第一個：一個神經元是 ReLU(wᵀx+b)，m 個神經元疊成矩陣就是一層 ReLU(Wx+b)，參數 md+m 個；再往上是殘差區塊 z+σ(MM(σ(MM(z)))) 與 LayerNorm、RMSNorm。梯度怎麼算留給第 8 堂。

#cs229 #ai-course #stanford #machine-learning #deep-learning #neural-networks #sgd

ai guide Stanford CS229 Machine Learning 導讀2026年10月12日

反向傳播：算梯度為什麼只要一次前向的成本｜Stanford CS229 第 8 堂

這堂課從一個定理出發：能用 N 個基本運算算出來的純量函數，梯度也能在 O(N) 時間算完。做法是把鏈鎖律讀成「拿到 ∂J/∂u 就能算 ∂J/∂z，而且只需要中間那個模組的資訊」，再替矩陣乘法與啟動函數各推一個 backward 函數：Wᵀv、vzᵀ、σ′(z)⊙v。本文另外用一個 2-2-1 的小網路把前向與反向手算一遍。

#cs229 #ai-course #stanford #machine-learning #backpropagation #neural-networks #deep-learning

ai guide Stanford CS229 Machine Learning 導讀2026年10月12日

k-means 與高斯混合模型：沒有標籤時怎麼分群｜Stanford CS229 第 9 堂

第 9 堂從 k-means 的「指派、取平均」兩步出發，說明它為何一定停下來卻只保證到局部最佳；接著把硬指派換成機率，得到高斯混合模型與 EM 的 E-step（貝氏定理）和 M-step（加權平均）。最後用 Jensen 不等式畫出 EM 的圖像：每一輪造一條貼著 log-likelihood 的下界再爬到頂，完整推導留到第 10 堂。

#cs229 #ai-course #stanford #machine-learning #unsupervised-learning #k-means #em-algorithm

ai guide Stanford CS229 Machine Learning 導讀2026年10月12日

EM 演算法與 PCA：下界怎麼保證概似不下降｜Stanford CS229 第 10 堂

前半堂用 Jensen 不等式替對數概似造出下界 ELBO，把 Q 取成後驗機率讓下界在目前參數緊貼，推出每一輪 EM 都不會讓概似下降，套回高斯混合就得到上一堂的加權平均公式。後半堂把 PCA 寫成在單位向量上最大化 uᵀΣu，答案是共變異數矩陣最大特徵值對應的特徵向量。

#cs229 #ai-course #stanford #machine-learning #em-algorithm #pca #unsupervised-learning

ai guide Stanford CS229 Machine Learning 導讀2026年10月12日

擴散模型：加噪的過程要怎麼倒著學回來｜Stanford CS229 第 11 堂

前向過程每一步把資料乘上 √(1−β_t) 再加變異數 β_t 的高斯雜訊，展開後 x_t = √ᾱ_t·x_0 + √(1−ᾱ_t)·ε̂_t，不必學。反向用高斯 p_θ(x_{t−1}|x_t) 去學，把上一堂的 ELBO 套在整條軌跡上，再用 KL 連鎖律拆開，每一步的損失是 ‖μ̃_t(x_t,x_0) − μ_θ(x_t,t)‖²/(2β̃_t)。這堂停在這個式子，化簡成預測雜訊留到第 12 堂。

#cs229 #ai-course #stanford #machine-learning #diffusion-model #elbo #generative-models

ai guide Stanford CS229 Machine Learning 導讀2026年10月12日

擴散模型的雜訊預測損失、基礎模型與 LoRA｜Stanford CS229 第 12 堂

前半堂把擴散模型的 ELBO 收成一條式子：每個時間步都是「猜出當初加進去的雜訊」的平方誤差，訓練五步、取樣一個迴圈。後半堂開始講基礎模型：預訓練加適應的兩階段、linear probe、finetune、LP-FT，以及 LoRA 只訓練 2dr 個參數卻省不了多少運算的原因。

#cs229 #ai-course #stanford #machine-learning #diffusion-model #foundation-models #lora

ai guide Stanford CS229 Machine Learning 導讀2026年10月12日

對比學習與語意檢索：沒有標籤，怎麼學出能比相似度的向量｜Stanford CS229 第 13 堂

這堂課把 SimCLR 損失拆成一張 B×B 相似度矩陣：每一列做一次 softmax 分類，答案是對角線那一格。對角線被拉高、其餘被壓低，模型不需要標籤就學到「相似的東西向量相近」。後半堂用同一組向量做語意檢索，再接到 RAG。

#cs229 #ai-course #stanford #machine-learning #representation-learning #contrastive-learning #rag

ai guide Stanford CS229 Machine Learning 導讀2026年10月12日

大型語言模型：next-token 損失與 attention 怎麼算｜Stanford CS229 第 14 堂

這堂課把大型語言模型拆成三層：分詞把文字變成 token 編號，鏈式法則把整段文字的機率拆成一連串「下一個 token」的條件機率，訓練就是把每個位置的交叉熵加起來。後半堂打開 Transformer：query 與 key 的內積過 softmax 得到權重，對 value 做加權平均，再用 causal mask 擋住未來位置；單層 attention 的計算量隨序列長度 T 的平方成長。

#cs229 #ai-course #stanford #machine-learning #llm #transformer #attention

ai guide Stanford CS229 Machine Learning 導讀2026年10月12日

Attention 變體、MoE 與提示用法：KV cache 太大怎麼辦｜Stanford CS229 第 16 堂

生成時每個 head 都要把過去所有位置的 key 與 value 留在 GPU 記憶體裡，這份 KV cache 會卡住 batch size。GQA 讓 τ 個 query head 共用一組 key／value，把它縮成 1/τ；sliding window 把 T² 的運算壓到 T·w；MoE 讓 128 個 expert 裡每個 token 只跑 8 個。後半堂講怎麼用訓練好的模型：few-shot、zero-shot 都不動參數，SFT 才動，而且 loss 只算在答案的 token 上。

#cs229 #ai-course #stanford #machine-learning #attention #moe #fine-tuning

ai guide Stanford CS229 Machine Learning 導讀2026年10月12日

強化學習基礎與 Policy Gradient：參數藏在取樣分布裡，梯度怎麼算｜Stanford CS229 第 18 堂

這堂課前 55 分鐘把循序決策寫成 MDP（狀態、動作、轉移機率、獎勵、折扣因子），推出固定策略的 Bellman 方程式是一組線性方程式；後 20 分鐘推導 policy gradient：用 ∇p = p∇log p 把梯度換回期望值，轉移機率因為不含 θ 而從梯度裡消失，最後停在「log 機率梯度的和 × 折扣獎勵的和」這條公式，變異數縮減留到下一堂。

#cs229 #ai-course #stanford #machine-learning #reinforcement-learning #mdp #policy-gradient

ai guide Stanford CS229 Machine Learning 導讀2026年10月12日

Baseline、PPO 與可驗證獎勵：只對答案給分，怎麼訓練出長思維鏈｜Stanford CS229 第 20 堂

學期最後一堂把 policy gradient 收尾：過去的獎勵與只依賴狀態的 baseline 都可以從權重裡拿掉而不改變期望值。接著用重要性取樣推出 PPO 的截斷目標函數，拆成四種情況看哪些樣本還有梯度，再比較 CISPO 的改法。最後把語言模型逐 token 生成寫成 MDP，只在答案對的時候給 1 分，用同一題 8 個樣本的平均當 baseline 訓練長思維鏈。

#cs229 #ai-course #stanford #machine-learning #reinforcement-learning #ppo #rlvr

ai guide Stanford CS329A Self-Improving AI Agents 導讀2026年10月12日