Lecture 19–25先談 rational decisions 與 value of perfect information，再進入 decision trees、linear regression、Naive Bayes、neural networks、language models 與 fine-tuning。Project 5則把後半段落到 PyTorch：non-linear regression、手寫數字與語言分類、CNN、attention，以及 optional character-GPT。
這不是另一門完整深度學習課
P5 的作用是讓廣義 AI 課的學生碰到現代 ML workflow：定義 model、forward pass、loss、optimizer、batch 與 training loop。它涵蓋面廣，但不取代專門的最佳化、表示學習或大模型課。把每題當成一個介面練習，比追求在短時間內補齊全部理論更實際。
先讓小模型可解釋地工作
從 regression 開始時，先讓 input／output shape、loss 下降與 held-out behavior 都能說清楚，再進分類。digit classifier 練 multiclass loss；language identification 要處理序列；CNN 題加入 spatial inductive bias；attention 題則要求理解 query、key、value 的張量關係。
官方 P5 規格另提醒 NumPy 2.0 可能造成相容性問題，遇到相關錯誤可使用 1.24.3 或其他低於 2.0 的版本。這是版本重現問題，不要在模型程式裡用奇怪 workaround 掩蓋環境差異。
每完成一題，記錄 baseline、loss curve 與一類失敗案例。local autograder 能檢查介面與門檻，卻不會替你解釋為何模型錯；那一例才是自學者要補的分析。
系列導航：上一篇：Bayes nets 與 Ghostbusters｜下一篇：結業路線
參考資料
Loading...