影片狀態:已附影片;播放未逐支確認。 影片來源與說明
本篇對應 CMU 11-785 Spring 2026 的 Lecture 1: Introduction。主要證據是官方投影片與官方 YouTube 錄影;下文只整理兩者能支持的內容,不補寫課堂問答或未公開的講者說法。
這一講處理什麼
這講的中心是神經元、感知器、連結主義與深度學習問題設定。讀的時候要把「模型或演算法的定義」、「它最佳化的目標」與「實際計算怎麼流動」分開記。前者說明允許哪些函數,第二項說明訓練偏好什麼結果,最後一項才決定記憶體、速度與數值穩定性。
課程把這個主題放在完整序列的第 1 講,因此它先建立表示與訓練的基本語言,再替後續模型提供共同元件。不要只抄名詞;每遇到一個公式,就標出輸入、輸出、可學參數與沿哪條路徑傳遞梯度。
概念主線
先用 shape 檢查理解:把每個張量的 batch 維度、特徵維度與序列/空間維度寫在公式旁。接著問運算是否共享參數、是否需要正規化,以及訓練和推論時有沒有不同。這三個問題通常能抓出「公式看懂、程式仍寫錯」的落差。
再把局部運算放回整體目標。深度學習模型不是靠單一 layer 成功;資料、表示、loss、optimizer 與評估方式共同決定行為。若某個結果改變,先固定其他條件再找原因,避免一次同時換模型、資料增強與學習率。
自己重做一次
今晚的最小練習是:用二維點與手寫閾值函式畫出感知器決策邊界。先用極小輸入手算一輪,再以 NumPy 或 PyTorch 重做,最後比較兩者。若結果不同,先檢查 shape、索引與 reduction,之後才懷疑理論。
以下是本站另設的感知器例子,不是官方作業答案。令 w=(1,1)、b=-1.5,分數 s=w·x+b,s≥0 預測 1,否則預測 0。對 x=(1,0),s=-0.5,預測 0;對 x=(1,1),s=0.5,預測 1。決策邊界是 x1+x2=1.5,不是模型在平面上畫出的曲線。
先自己算 (0,0)、(0,1) 的結果,再用程式核對:兩者分數分別是 -1.5、-0.5,都預測 0。最後把 bias 改為 -0.5;(1,0) 會改判為 1,因為邊界移到 x1+x2=0.5。核對判準是分數、類別和邊界位置三者一致;閾值本身沒有平滑梯度,這個例子是在檢查前向分類,不是在示範 backpropagation。
自我檢查不以「程式能跑」為標準。至少記錄一個預期不變量,例如機率和為一、loss 應下降、輸出 shape 固定,或數值梯度與解析梯度接近。這是沒有課內 hidden grader 時仍能保留的回饋迴路。
與正式作業的邊界
Spring 2026 assignment table只公開 HW1–HW4 的題名、期限與平台連結;完整 handout、starter、資料、Autolab 測試與 Piazza 說明並未形成匿名可得的同版本套件。本篇練習是依公開講授材料設計的縮小版,不是正式作業重製,也不提供答案。
需要更多操作練習時,可從官方 recitation/bootcamp table選同主題 notebook。那些公開資源是補充練習,不等於正式 HW starter。
讀完後
闔上 slides,用一張紙寫下這講的輸入、輸出、目標函數與一個失敗模式。能不看筆記說明這四項,才往下一講;否則回到剛才的小例子,縮小輸入直到每一步都能人工核對。
課程影片來源
影片連結已與本文採用版本的官方課程頁核對。
原始影片:Lecture 1 official YouTube recording
課程與錄影入口:
查核日期:2026-10-10。
內容核對:已依字幕核對(2026-10-10):影片自動字幕全程約 83 分鐘;抽查開頭、中段、結尾並搜尋文章點名的概念(神經元、感知器、連結主義、MLP 為通用近似器),主題與講次相符,文章對影片內容的說法皆成立,未更動內文。
更新紀錄
- 2026-10-10:標註影片狀態,核對錄影來源與取得方式。
- 2026-10-10:重查影片狀態。即時比對官方講課表,嵌入影片與該講官方 YouTube 連結一致;播放未逐支確認。
- 2026-10-10:依字幕核對影片內容。核對字幕:主題與講次相符,文章說法成立,無需更動內文。
參考資料
Loading...