實務風險與對齊理論：失敗測試和命題前提｜CMU 10-423 主題單元
模型胡說、洩漏資料或被prompt injection誘導，是可觀察的產品風險；對齊理論問特定形式化假設下，哪些保證可以成立。兩者需要不同證據。這篇保留關係與界線，第22堂與第26堂的對齊教材分開教，不把一個定理擴成所有產品都不可能安全。
#adversarial-attack
2 篇文章Adversarial Robustness and Generative Models：不是非線性，是線性｜Stanford CS230 第 4 堂
研究者一開始以為神經網路好騙是因為非線性，結果錯了——Goodfellow 2014 那篇論文主張主因是它們的線性本質，而高維度讓每個微小擾動複利累積。後半場講生成模型：GAN 的三個病，以及 diffusion 為什麼靠「加噪再學會去噪」繞開了其中兩個。