MIT 6.5940 Fall 2024 的 Lab 1 是一本 Colab notebook，9 題共 100 分：前 5 題在 CIFAR-10 的 VGG 上做 magnitude-based 細粒度剪枝與 sensitivity scan，要求剪到原大小 25% 且 fine-tune 後準確率高於 92.5%；第 6–8 題做 channel pruning、用 Frobenius norm 排序 channel、量測實際加速；第 9 題比較兩者。Fall 2026 沒有 pruning lab。
Pruning 是把神經網路裡不重要的權重或神經元拿掉，目標寫成「在非零權重數不超過 N 的限制下讓 loss 最小」。6.5940 第 3 講先處理其中兩個決定。第一是粒度：從任意位置都能剪的 fine-grained，到整個通道一起剪的 channel pruning，越規則越容易在現有硬體上變快，但能剪掉的比例越小；介於中間的 2:4 sparsity 在 NVIDIA Ampere GPU 上最多快 2 倍。第二是準則：看權重大小、看 Batch Norm 縮放係數、看二階導數、看 activation 有多少是零，或看剪完後輸出重建得多好。
MIT 6.5940 第 4 講把剪枝的後半段講完：用敏感度分析、AMC（強化學習）或 NetAdapt（逐步查表）決定每層剪多少；用 1/10 到 1/100 的學習率 fine-tune、迭代剪枝把 AlexNet 的剪枝倍數從 5 倍推到 9 倍；最後看 EIE、NVIDIA 2:4 稀疏與 TorchSparse/PointAcc，說明稀疏要有系統支援才會變快。