2021 AI 頂會導讀：機器學習篇
2021 年是 diffusion model 超越 GAN、自監督學習理論突破、RL 評估方法論覺醒的一年。NeurIPS 收了 9,122 篇投稿創當時紀錄，ICLR 的 Score-Based Generative Modeling 論文日後成為整個 diffusion 生態的理論基石，ICML 則在優化理論與自監督學習動力學分析上交出紮實貢獻。
#self-supervised-learning
3 篇文章2021 AI 頂會在收什麼題目：Transformer 擴散、自監督學習與 Diffusion 的起點
2021 年是 AI 頂會的分水嶺：Transformer 從 NLP 全面入侵 CV 與時序領域，自監督學習成為各會議最熱門關鍵詞，Diffusion Model 拿下 ICLR Outstanding Paper 但還沒有人意識到它會取代 GAN——而 GNN 和 Federated Learning 正處於論文量的歷史高峰，之後開始走下坡。
Supervised, Self-Supervised & Weakly Supervised Learning：從比較像素到比較意義
CS230 第二講用三個案例研究推導出 embedding：日夜分類教你怎麼用人當 proxy 決定解析度，喚醒詞偵測教你三小時生出上百萬筆訓練資料，人臉驗證教你設計出第一個 loss function。最後從監督式 triplet 走到自監督 pairs——那一步才是現代模型能吃下數十億張未標註影像的原因。