語言模型只做一件事：給前文，輸出下一個詞的機率分布。規模夠大之後，控制它的手段變成改輸入：放幾組範例（in-context learning）、要它先寫推理步驟（chain-of-thought，課堂引的例子是一句 Let's think step by step 把算術題正確率從 18% 拉到 80%）。但聽懂指令、會說不知道，都不是光靠預測下一個詞就會有的，要另外用 instruction tuning 與 RLHF 補。
你可以讓模型適應新任務而不重訓所有參數，但這句話包含兩種不同做法。LoRA等PEFT方法仍有訓練，少量參數會改變；ICL把示例放進上下文，推論時不因這些示例做參數更新。來源也不只兩堂：第9堂末段已有zero/few-shot，第10堂講PEFT，第11堂接ICL與後續調適。
2023 年是 ChatGPT 之後的第一個完整學術年——NLP 頂會的議程被 LLM 全面重寫：ACL 的 Best Paper 研究幽默理解和政治偏見追蹤，EMNLP 的 Best Paper 用資訊流視角解釋 in-context learning，而 HackAPrompt 這篇 prompt injection 競賽論文直接拿下 EMNLP Best Paper，標誌著安全研究正式進入主流。整年最大的主題轉變是：研究者不再問「怎麼讓模型更準」，開始問「怎麼知道模型在不在騙你」。