HW3 分兩半：書面四題從 logistic regression 的 Newton 法、座標下降的收斂分析，走到反向傳播／VJP／隱式微分，最後用資訊瓶頸重新看「深度網路在壓縮什麼」；notebook 要你用 NumPy 寫出 BearTensor 計算圖、拓撲排序反向傳播、SGD/Momentum/Adam，再拿它訓練紅酒品質回歸，選做 Muon。題目與 notebook 全部公開，官方解答與 hidden tests 不公開。
Lec 14 把 ridge 重新解釋成「最小平方 + 高斯先驗」的 MAP，再拆解 bias-variance，最後借 Chatbot Arena 示範怎麼讀論文。Lec 16 從壓縮講熵，接到 KL、cross-entropy，再回到 logistic regression 的損失函數。3/17 的期中考題與官方解答都公開在考古題資料夾：6 題、56 分、110 分鐘，另有 6 支逐題講解影片，可以照著模擬一次。
Lecture 6 從 decision stump 遞迴建樹，用 entropy 衡量 label uncertainty，再以 `I(Y;W)=H(Y)-H(Y|W)`選擇分裂；這是計算可行的 greedy ERM，不是全域最佳樹保證。
HW2 要先用 entropy 與 mutual information 手算切分，再完成建樹、預測與評估的端到端分類器。