2021 AI 頂會導讀：電腦視覺篇
2021 是 Transformer 正式入侵電腦視覺的元年——Swin Transformer 拿下 ICCV Best Paper，DINO 證明自監督 ViT 能自動學會物件分割，NeRF 從單篇論文變成一整個子領域。CVPR 和 ICCV 都因疫情改為全線上舉辦，但這一年產出的論文深遠影響了此後整個 CV 領域的架構選擇。
#2021
4 篇文章2021 AI 頂會導讀：機器學習篇
2021 年是 diffusion model 超越 GAN、自監督學習理論突破、RL 評估方法論覺醒的一年。NeurIPS 收了 9,122 篇投稿創當時紀錄，ICLR 的 Score-Based Generative Modeling 論文日後成為整個 diffusion 生態的理論基石，ICML 則在優化理論與自監督學習動力學分析上交出紮實貢獻。
2021 AI 頂會導讀：自然語言處理篇
2021 年是 NLP 從「fine-tune 整個模型」轉向「只調一小部分參數」的分水嶺——Prefix-Tuning（ACL）、LoRA（arXiv，後成為業界標準）、Prompt Tuning（EMNLP）三篇同年出現，ACL Rolling Review 同年啟動，Findings track 正式站穩成為第二發表管道。
2021 AI 頂會在收什麼題目：Transformer 擴散、自監督學習與 Diffusion 的起點
2021 年是 AI 頂會的分水嶺：Transformer 從 NLP 全面入侵 CV 與時序領域，自監督學習成為各會議最熱門關鍵詞，Diffusion Model 拿下 ICLR Outstanding Paper 但還沒有人意識到它會取代 GAN——而 GNN 和 Federated Learning 正處於論文量的歷史高峰，之後開始走下坡。