Skip to content
所有分類

ai

1239 篇文章

Attention 與 Transformer|CMU 11-785 第 18 堂

Spring 2026 Lecture 18 聚焦seq2seq 的 attention 機制(query、key、value 與 softmax 加權平均)、multi-head 的提及,以及對 Transformer 的簡述;本文依官方 slides 與錄影重建主線,並提供不依賴課內 grader 的小型自我檢查。

Transformer 與後續架構|CMU 11-785 第 19 堂

Spring 2026 Lecture 19 聚焦encoder/decoder 結構、mask、residual path 與架構變體;本文依官方 slides 與錄影重建主線,並提供不依賴課內 grader 的小型自我檢查。

大型語言模型|CMU 11-785 第 20 堂

Spring 2026 Lecture 20 聚焦規模化自回歸模型、預訓練與 scaling law,以及後訓練(包含讓模型取樣自己的答案並依回饋改進);本文依官方 slides 與錄影重建主線,並提供不依賴課內 grader 的小型自我檢查。

表示學習與 autoencoder|CMU 11-785 第 21 堂

Spring 2026 Lecture 21 聚焦神經網路到底表示什麼、重建目標(自編碼器),以及它與 PCA(降維)的關係;本文依官方 slides 與錄影重建主線,並提供不依賴課內 grader 的小型自我檢查。

變分自編碼器|CMU 11-785 第 22 堂

Spring 2026 Lecture 22 聚焦latent variable、ELBO、KL 項與 reparameterization trick;本文依官方 slides 與錄影重建主線,並提供不依賴課內 grader 的小型自我檢查。

擴散模型|CMU 11-785 第 23 堂

Spring 2026 Lecture 23 聚焦forward noising、reverse denoising、score/noise prediction 與採樣;本文依官方 slides 與錄影重建主線,並提供不依賴課內 grader 的小型自我檢查。

生成對抗網路|CMU 11-785 第 24 堂

Spring 2026 Lecture 24 聚焦generator、discriminator、minimax objective 與訓練不穩定;本文依官方 slides 與錄影重建主線,並提供不依賴課內 grader 的小型自我檢查。

圖神經網路|CMU 11-785 第 25 堂

Spring 2026 Lecture 25 聚焦message passing、aggregation、node representation 與 permutation symmetry;本文依官方 slides 與錄影重建主線,並提供不依賴課內 grader 的小型自我檢查。

強化學習|CMU 11-785 第 26 堂

Spring 2026 Lecture 26 聚焦state、action、reward、return、value 與 policy learning;本文依官方 slides 與錄影重建主線,並提供不依賴課內 grader 的小型自我檢查。

Hopfield 網路|CMU 11-785 第 27 堂

Spring 2026 Lecture 27 聚焦聯想記憶、能量函數、固定點與 pattern retrieval;本文依官方 slides 與錄影重建主線,並提供不依賴課內 grader 的小型自我檢查。

Boltzmann machine|CMU 11-785 第 28 堂

Spring 2026 Lecture 28 聚焦能量式機率模型(Gibbs 分布與歸一化常數 Z)、隨機(機率式)神經元,以及如何訓練這類機率網路;本文依官方 slides 與錄影重建主線,並提供不依賴課內 grader 的小型自我檢查。

從神經網路基礎到序列模型的學習路線|CMU 11-785 課程總覽

CMU 11-785 Spring 2026 的 28 講內容都有官方 slides 與 YouTube,另有大量公開 bootcamp/recitation;但 HW1–4 的核心規格、starter 與評測依賴 Autolab、Piazza 和 Kaggle。

把期末專案收斂成可驗證的研究問題|Stanford CS224N 第 6 堂

第 6 講先補完 Transformer encoder、decoder 與 cross-attention,再把期末專案拆成題型、評分、研究題目與資料來源;好題目必須能用一個明確 baseline 和指標驗證。

深度學習的最小骨架|MIT 6.S191 第 1 堂

2026 第 1 講從感知器、前向傳播、loss 到 gradient descent,建立後續九講共用的語言。

序列模型:從 RNN 到注意力|MIT 6.S191 第 2 堂

2026 第 2 講處理文字、音訊與時間序列中「順序會改變意義」的問題,並連到 Lab 1 的音樂生成。

電腦視覺:卷積如何保留空間結構|MIT 6.S191 第 3 堂

2026 第 3 講從影像張量、卷積與 pooling 走到辨識系統,替 Lab 2 的 MNIST 與臉部偵測打底。

生成模型:從潛在空間到 diffusion|MIT 6.S191 第 4 堂

2026 第 4 講區分生成與判別問題,整理 VAE、GAN 與 diffusion 的學習目標,並接到 Lab 2 的 DB-VAE。

強化學習:用回報取代標準答案|MIT 6.S191 第 5 堂

2026 第 5 講把 agent、environment、state、action、reward 與 policy 接成互動迴圈,理解信用分配與探索。

新前沿:模型之外還要選問題|MIT 6.S191 第 6 堂

2026 第 6 講把深度學習放進新應用與真實限制,提醒讀者先定義資料、輸出、評量與失敗條件。

AI 三法則:安全要落在可觀測與評估|MIT 6.S191 第 7 堂

2026 第 7 講從 Asimov 的文學法則出發,討論現代 AI 安全協定的限制,以及 trace、測試資料與持續評估。