Scaling與MoE：算力預算與條件計算｜CMU 10-423 主題單元
Scaling laws問固定預算下模型與資料怎麼配置；MoE問如何有更多expert容量、卻只啟用少數expert。前者是配置與經驗模型，後者是架構與路由，不能合稱「把模型變大」就跳過其中一方的機制。
#mixture-of-experts
5 篇文章LLM 生成時的控制旋鈕，從 temperature、top-p 到 chain of thought｜Stanford CME295 第 3 堂
CME295 第 3 講先把 LLM 定義成 decoder-only 的下一個 token 預測器，接著用 MoE 說明大模型為什麼每個 token 只用到一部分權重，主體則是生成時能調的旋鈕：greedy、beam search、top-k、top-p、temperature、guided decoding，以及 few-shot、chain of thought、self-consistency 三種 prompting 手法。2026 版把這講併進第 2 講，prompting 沒有獨立列在課表，但錄影仍有簡短帶到。
（下）：決策樹、隨機森林與 Mixture of Experts｜Harvard CS181 作業 4／第 3 部分
HW4 Problem 3 用三步量化「多棵樹投票為什麼會準」：Hoeffding 界在 p=0.6 時要 B≈691 棵獨立樹才壓到 10⁻⁶；樹之間相關係數 ρ 讓集成變異數卡在 ρσ²；最後比較隨機森林的密集集成與 MoE 的稀疏路由。
Marin 535B 怎麼訓：Scaling Ladder、MoE 專家並行、Harrier 資料與 W&B 現場
Stanford Marin 在 11×GB200 上公開訓練 535B-A23B，先用 1% 算力的 5 階 Scaling Ladder 預註冊 paloma macro-loss 2.04，再以 W&B 即時公開 847 組訓練數據；本文按訓練流程拆解其設計與監控方法。
Attention 不只一種，MoE 也不是免費擴大模型｜Stanford CS336 第 4 堂
第四講沿著兩種稀疏化拆解現代 LLM：linear/recurrent attention 減少序列維度成本，MoE 讓每個 token 只啟用部分參數；兩者都把理論省下的 FLOPs 換成 routing、平衡與通訊問題。