文字條件是從哪裡注入圖片生成模型的？CMU 10-423 L14 的答案是 cross-attention：query 來自影像的潛在表示，key 和 value 來自提示詞，所以每個潛在像素都有一個「看向哪些字」的機率分布。這張注意力圖可以拿來做很多事：classifier-free guidance 讓生成更貼近提示，Prompt-to-Prompt 在不重新訓練的情況下，把舊的注意力圖抄進新提示詞的生成，只改圖片的一部分。DiT 則把 UNet 換成 Transformer，用 adaLN-Zero 注入條件。L15 前半的 Q-Former 用一小組可學習的 query，把凍結的影像編碼器接上凍結的 LLM，也就是 HW4 要你實作的東西。
L10 從「怎麼找到好的特徵向量」出發：Word2Vec 用代理任務學出 embedding，Autoencoder 用「輸入等於輸出」逼出壓縮後的 latent vector，VAE 再要求 latent 符合常態分布，讓鄰近的點生出相似的圖。接著蔡炎龍把 diffusion model 講成「encoder 用算的、只訓練 decoder 的 autoencoder」，最後收在 Latent Diffusion：先用 VAE 把 512×512 的圖壓成 64×64，diffusion 只在這個小空間裡做。第十週作業不寫程式，用 Bing 生出風格一致的多組圖。
L11 把 Stable Diffusion 架構圖上剩下的三塊補齊。CLIP 用「文字和圖越像越好」的對比訓練，讓 prompt 變成 77×768 的 embedding；排程器把 1000 步的加噪壓成二、三十步的去噪，但 Euler a 這類 ancestral 演算法不會收斂，步數加到 100，人物的衣服和座位都會換掉；LoRA 凍結原本的 W，只學拆成 A·B 的 ΔW。實作用 diffusers 載入 SD 1.5 系模型，第十一週作業是自己做一個生圖 Web App。
L11 的 Stable Diffusion 只聽 prompt，構圖、姿勢全看運氣。L12 補上「方向盤」：ControlNet 把 SD 的區塊拷貝一份，用 zero convolution 接回去，讓邊緣圖、姿勢、深度圖這類額外條件也能控制生成，最常見的例子是 Canny 邊緣。後半講 Fooocus：一個目標是「像 Midjourney 一樣簡單」的 SD 介面，重點在 Preset、Style，以及 Input Image 的五個功能，其中 Image Prompt 就是包裝好的 ControlNet。第十二週作業：設想一個應用情境，用 Fooocus 至少生 3 組圖，並寫出創作流程。
最後一講看的是兩條技術線開始互相越界：ChatGPT 這類 LLM 開始畫圖，投影片用 early fusion 和 VQ-VAE／VQGAN 解釋「把圖像切成 token」怎麼做；反過來，Inception Labs 的 Mercury 用 diffusion 生成文字，把一句話加噪成一排 [MASK] 再還原。接著是幾篇人人都用得上的研究：怎麼自動評 RAG、推理模型更容易被劫持、DeepMind 的四種 AI 風險。最後是 Vibe Coding 與一串應用工具，以及用 Gather Town 線上研討會進行的期末專案。
HW4 把「文字接龍」原封不動搬到圖片上：792 張 20×20 的寶可夢小圖，每個像素是 167 色裡的一個 token，一張圖就是 400 個 token 的序列。訓練時做 next-token prediction，測試時給你前 60%，讓模型畫完剩下的 40%。評分同時看 FID 與寶可夢偵測率（PDR），三級 baseline 的提示從「直接跑範例」「調超參數」一路到「換成 Llama、Mistral 架構」。題目、Colab、Kaggle 與資料集都公開，但 JudgeBoi 在 2026-09-30 回傳 502，校外拿不到 FID、PDR 的官方分數。
Stability AI 完成 $76M Series B，由環球音樂、華納音樂、索尼音樂、EA 領投，累計融資達 $232M。這是第一家同時拿到三大唱片公司直接股權投資的 AI 公司，代表版權巨頭從「告 AI」轉向「入股 AI」。
FLUX 是 Black Forest Labs 的圖像模型家族——2024 年 8 月由 Stability AI 的 Stable Diffusion 原班人馬創立後首發，12B rectified flow transformer 一戰成名；兩年後家族已長成五層：klein 4B（$0.014 起、家族新一代唯一的 Apache 2.0）/9B、pro（$0.03）、flex（$0.05）、max（$0.07、可即時搜尋網路 grounding），外加 32B 開放權重的 dev；2026 年 8 月更用 FLUX 3 把影片＋同步音訊＋機器人動作收進同一個 Self-Flow 架構。這篇追蹤從 FLUX.1 到 FLUX 3 的演化、授權三層制與選型建議。
Tool Gateway 把 Hermes 的網頁搜尋（Firecrawl）、圖像生成（FAL 九個模型）、TTS（OpenAI）與雲端瀏覽器（Browser Use）四類工具改走 Nous 的基礎設施，用一次 OAuth 取代四個帳號。它是 per-tool 開關而非全有全無，`use_gateway: true` 會蓋過你 `.env` 裡的直連金鑰——這是最容易搞混的優先序。
2026 Q1 開源模型全面爆發：LLM 方面 GLM-5、Kimi K2.5、Qwen3.5 追上閉源；Embedding 和 Reranker 由 Qwen3 和 BGE 主導；語音有 Voxtral TTS 和 Whisper V3；圖像有 FLUX.2；影片有 Wan 2.2 追平 Sora。這篇是完整導覽地圖。