Skip to content
所有標籤

#neural-network

6 篇文章

從 Logistic Regression 組出第一個 Neural Network|CMU 07-280 第 11 堂

Lecture 11 把單一 logistic neuron 擴成多層網路:linear layer 產生 z、activation 產生 a,多個 neuron 共同學出 feature transform,再以 loss 和 gradient descent 訓練權重。

Backpropagation 如何重用 Chain Rule|CMU 07-280 第 12 堂

Lecture 12 把神經網路視為 computation graph:forward pass 保存中間量,backward pass 從 loss 開始傳遞 upstream gradient,並用線性層、activation 與 softmax 的局部規則一次算出全部參數梯度。

Neural Networks and LLMs:從神經元、反向傳播到 decoder-only 模型|Stanford CS124 第 6 週

第 6 週分兩半。預錄內容教神經網路:一個神經元怎麼算、為什麼需要隱藏層、softmax、用詞向量做分類與語言模型、反向傳播。現場課介紹大型語言模型:它是什麼、三種架構、為什麼各種任務都能改寫成接話、怎麼取樣、怎麼預訓練、怎麼變成助理。

矩陣微積分與反向傳播|Stanford CS224N 第 3 堂

第 3 講把神經網路訓練拆成計算圖、局部導數與鏈鎖律:forward pass 算結果,backprop 由輸出往回累積梯度,讓每個參數知道自己該往哪裡移。

用 NumPy 拆開 Neural Network 與 Backpropagation|CMU 10-301 作業 5

HW5 的價值在於不靠自動微分,親手追蹤 forward shapes、cache 與 backward gradients。

從基礎神經網路走到 Deep Learning|CMU 10-301 作業 7

HW7 在 HW5 的 backpropagation 地基上加入深度模型的架構與訓練問題,重點是診斷而非只把網路加深。