N-gram 如何訓練、取樣與失敗｜CMU 07-280 第 18 堂
第 18 講把 chain rule 截成 N-gram Markov assumption，以 corpus counts 做 MLE，再比較 greedy、categorical sampling 與 temperature；真正的瓶頸是未見 context 的零機率與固定視窗。
ai
1239 篇文章Word Embedding 如何把下一詞預測變成幾何｜CMU 07-280 第 19 堂
第 19 講以兩個 embedding matrices、dot-product similarity、softmax 與 cross-entropy 建立最小 next-token model，讓相似 context 透過共享向量參數取代 N-gram 的獨立計數格。
從 Position Encoding 推到 Causal Self-Attention｜CMU 07-280 第 20 堂
第 20 講先把單 token embedding 擴成 sequence，以 positional encoding 補順序，再推導 Q/K/V scaled dot-product attention、causal mask 與 multi-head blocks，最後接到 GPT-2。
Bellman Equation 如何解 Markov Decision Process｜CMU 07-280 第 21 堂
第 21 講把隨機序列決策寫成已知 dynamics 的 MDP，以 Bellman backup 定義 value 與 Q-value，再用 value iteration 或 policy iteration 求最佳 policy。
不知道 Dynamics 時如何做 Q-learning｜CMU 07-280 第 22 堂
第 22 講保留 MDP 骨架，拿掉已知 transition 與 reward 的假設；TD learning 用一步 sample 更新 value，Q-learning 再以 off-policy target 直接學最佳 action values。
從 Approximate Q-learning 到 DQN｜CMU 07-280 第 23 堂
第 23 講以 Qθ(s,a) 取代巨大 Q-table：先用 features 線性近似並由 squared TD error 推導 gradient update，再以 replay data 與固定 target network 形成 DQN。
Monte Carlo Tree Search 如何接上 AlphaZero｜CMU 07-280 第 24 堂
Spring 2026 Lecture 24 是 MCTS，不是 Fall 2026 的 LLM post-training；本講以 selection、expansion、rollout、backup 與 UCB 分配模擬，再由 policy/value heads 與 self-play 接到 AlphaZero。
從搜尋問題走到監督式學習｜CMU 07-280 主題單元
第一階段把 Lectures 1–12 串成同一條決策鏈：先定義狀態、動作與目標，再用 heuristic、loss、regularization 與 backpropagation 控制龐大搜尋空間。
用 AlexNet 與 GPT-2 把模型真正組起來｜CMU 07-280 主題單元
第二階段不把 CNN 與 Transformer 當兩份架構圖背誦，而是透過 HW8 與 HW11 檢查表示、計算圖、訓練、遷移與生成是否真的接得起來。
從 MDP、Q-learning 到 AlphaZero｜CMU 07-280 主題單元
第三階段把 value、policy、bootstrapping、function approximation 與 MCTS 接成 AlphaZero：network 提供先驗與估值，search 改善決策，self-play 再產生下一輪資料。
Python coding agent 實戰 M11：為什麼 exec 迴圈做不出 Claude Code 的對話體驗
要做出 Claude Code 或 Codex 的 TUI，關鍵不是滿版配色，而是長生命期 session、typed transcript 與 tool-boundary approval。
Cognee 完整介紹：把文件變成 Agent 可查詢的知識圖記憶
Cognee 是資料到 AI memory 的 pipeline：用 relational store 保存來源與 provenance、vector store 找語意相近內容、graph store 表達 entity 關係，再以 remember、recall、improve、forget 管理生命週期。
Introduction and Setup：先把語言問題拆成可計算的元件｜Stanford CS124 第 1 週
第 1 週沒有演算法。現場的導論課說明這門課教什麼：LLM 的每個元件各在哪一週學、哪些不是 LLM 的語言演算法也要學、語言為什麼難。PA0 把之後幾份作業要用的 Python 與 Jupyter 環境裝好。
PageRank and Social Networks：從 anchor text、圖中心性到課程收束｜Stanford CS124 第 10 週
第 10 週把網頁和人際關係看成圖。連結分析教 anchor text 與 PageRank：一個隨機亂點連結的人長期停在每一頁的機率，就是那一頁的分數。社群網路教中心性、群聚係數、小世界與弱連結。最後一堂現場課回到 LLM，講偏好對齊、可解釋性與機器翻譯。
Words, Tokens, Edit Distance, and N-grams：LLM 之前先決定模型看見什麼｜Stanford CS124 第 2 週
第 2 週教三件事：用 BPE 把文字切成 token、用動態規劃算兩個字串的編輯距離、用 n-gram 估下一個詞的機率並用 perplexity 評估。每一項都可以用紙筆算，本文各走一個例子。
Logistic Regression and Text Classification：從特徵到機率與 loss｜Stanford CS124 第 3 週
第 3 週教邏輯迴歸：把文件變成特徵向量，加權總和後通過 sigmoid 得到機率，用 cross-entropy 量錯多少，再用梯度下降修權重。本文照投影片的影評例子把預測、loss 與一次權重更新各算一遍，並說明為什麼評估要看 precision 與 recall。
Information Retrieval：從倒排索引、tf-idf 到 RAG 的檢索底座｜Stanford CS124 第 4 週
第 4 週教搜尋：把查詢和文件都變成向量，用 tf-idf 加權、cosine 相似度排名，用倒排索引加速，用 precision、recall 與 MAP 評估，最後接到向量檢索與 RAG。本文把投影片的四篇迷你文件例子完整算一遍。
Embeddings and Social NLP：用周圍的詞表示一個詞的意思｜Stanford CS124 第 5 週
第 5 週教詞嵌入：一個詞的意思可以用它周圍常出現的詞來表示。先用共現次數做向量、用 cosine 比相似度，再用 word2vec 把向量訓練成幾百維的稠密表示，最後區分靜態向量與隨上下文改變的向量。同週的計算社會科學現場課沒有公開材料。
Neural Networks and LLMs：從神經元、反向傳播到 decoder-only 模型｜Stanford CS124 第 6 週
第 6 週分兩半。預錄內容教神經網路：一個神經元怎麼算、為什麼需要隱藏層、softmax、用詞向量做分類與語言模型、反向傳播。現場課介紹大型語言模型：它是什麼、三種架構、為什麼各種任務都能改寫成接話、怎麼取樣、怎麼預訓練、怎麼變成助理。
Transformers and Speech Processing：attention 怎麼讓每個 token 參考前文｜Stanford CS124 第 7 週
第 7 週打開 Transformer：attention 怎麼讓每個 token 參考前面的 token、一個 block 由哪些零件組成、輸入和輸出兩端怎麼接。PA6a 要自己寫 causal self-attention、訓練一個小模型並計算 perplexity。同週的語音現場課介紹語音辨識的任務與詞錯誤率。