Skip to content
所有標籤

#autograd

2 篇文章

從零寫 autograd(BearTensor)、Newton 法、資訊瓶頸|Berkeley CS189 作業 3

HW3 分兩半:書面四題從 logistic regression 的 Newton 法、座標下降的收斂分析,走到反向傳播/VJP/隱式微分,最後用資訊瓶頸重新看「深度網路在壓縮什麼」;notebook 要你用 NumPy 寫出 BearTensor 計算圖、拓撲排序反向傳播、SGD/Momentum/Adam,再拿它訓練紅酒品質回歸,選做 Muon。題目與 notebook 全部公開,官方解答與 hidden tests 不公開。

PS1 實作走查:從 NumPy 手寫 MLP 到 PyTorch Autograd 反向傳播|MIT 6.7960 作業 1

手寫 NumPy MLP + 反向傳播 → PyTorch Autograd 驗證,完整複現 OCW HW1 核心考點