Skip to content
所有分類

learning

345 篇文章

用英文在面試講自己的經驗:自我介紹、專案、失敗與反問的十句話

專長領域用 I have experience in/as;現職用 I currently work for a company that…;負責的事用 I was responsible for + V-ing;成果用 reduced … from A to B;難處用 The hardest part was + V-ing;檢討用 I underestimated how…;改變用 Since then, I've always…。反問可以問團隊怎麼分工、前三個月的目標。

用英文和朋友聊求職近況:六個讓句子卡住的地方

對方聽得懂,但同樣的六個地方一直重複:問「到目前為止有沒有」用 Have you + 過去分詞;apply to 公司、apply for 職缺;interview 後面直接接人是你在面試別人;other 後面接複數名詞、others 單獨用;because 接句子、because of 接名詞;形容詞前面要有 be,句子要有主詞。

用英文報告進度、說自己卡住、請同事幫忙:工作上的十句話

報告昨天做完的事用過去式加時間;還在等用 I'm still waiting for;期限用 by;卡住用 I'm stuck on;請人幫忙用 Could you take a look at… when you have a moment;不同意先說 I'm not sure about…,再用 Could we… 提議;估時間用 This will probably take…。

learningdeep-dive

AI Engineering from Scratch 導讀:從線性代數手刻到多 agent 的免費課程

AI Engineering from Scratch 是 GitHub 上約 6.3 萬星、MIT 授權的免費課程:20 個 phase、523 堂,從線性代數、傳統 ML、深度學習,一路排到 LLM、agent 與 AI 安全,每堂先手刻再用框架對照。前段的數學與深度學習核心可以照著學,Phase 10 的 SFT/RLHF/DPO 先別信,其餘 phase 當主題地圖用。

李宏毅、林軒田與陳縕儂的課怎麼接成學習路線|世界名校 AI/CS 課程地圖

台大的 AI/ML 課散在電機系與資工系,官方用「機器學習與人工智慧」領域專長把它們排成四層。校外最完整的是李宏毅:ML 2026 Spring 與生成式 AI 與機器學習導論 2025 Fall 都公開投影片、錄影、作業 PDF 與 Colab,只差評分平台。林軒田的錄影齊全,Fall 2024 的 HW0–HW7 題目也留在課程頁;陳縕儂的課錄影齊全,作業大多只公開說明影片;Coursera 自 2025 年 8 月起改為只能免費看第一單元。

台灣其他學校 AI 公開課地圖:從 TAICA 課程清單找出清大、政大、成大、北科的公開課|世界名校 AI/CS 課程地圖

台大以外的台灣 AI 公開課,大多出自教育部成立的 TAICA 聯盟。每學期的課程清單會寫明每門主導課從哪裡直播,填 YouTube 的課,錄影通常校外也看得到。校外能完整自學的有兩門:清大高宏宇《自然語言處理》Fall 2025 與政大蔡炎龍《生成式 AI》Spring 2025,都是 A3。成大朱威達《人工智慧導論》、北科韓秉軒《智慧人機互動》、清大胡敏君《機器導航與探索》錄影齊全,作業留在 NTU COOL,列 A2。陽明交大的 TAICA 課都是英文授課,深度學習的錄影沒有公開列出,Physical AI 剛開學,都沒有進主表。

Spring 2026 底本、Spring 2025 經典版、Fall 2026 進行中|Berkeley CS189 課程地圖

Berkeley CS189 在網路上同時有好幾個學期的版本。本系列之後的講次與作業導讀以 Spring 2026(Listgarten/Dimakis)為底本:講義、25 支講課影片、附解答的 discussion、HW1–5 題目與期中考解答都能匿名取得,判為 A3。Spring 2025(Shewchuk)是另一條經典路線,SVM、決策樹、PCA、boosting 只有它講;Fall 2025 的作業資料夾匿名打開是空的,所以不選;Fall 2026 還在進行中,只拿來對照。

線代/微積分/機率熱身 + Fashion coding|Berkeley CS189 作業 1

CS189 Spring 2026 HW1 分三塊:10 題書面數學熱身(線性方程組、特徵分解求矩陣冪次極限、SVD、翻轉影像的矩陣、偏微分、遞迴式連鎖律、四題機率含癌症篩檢的 Bayes),加上兩本公開在 Modal 上的 Fashion-MNIST notebook:Part 1 練 pandas/Plotly/K-means/MLP/矩陣做影像增強/tensor 謎題,Part 2 做價格回歸、MAE/MSE/R²、混淆矩陣,最後處理一份被旋轉過的秘密測試集。截止 2/20,沒有官方解答。

Chatbot Arena 論文題、回歸、MLE/MAP、GMM 到 flow matching|Berkeley CS189 作業 2

HW2 是一份純書面作業,共 10 題。前半練讀論文(Chatbot Arena)和回歸、MLE/MAP 的基本推導,後半兩大題最重:Mixed Feelings 從 k-means 對離群值的脆弱一路推到 robust k-means 和加了均勻背景的 GMM;Watch Me Flow Dat 證明 conditional flow matching 和離散化後的 MLE 是同一個目標。題目 PDF 和 LaTeX 範本都能匿名下載,沒有官方解答。

從零寫 autograd(BearTensor)、Newton 法、資訊瓶頸|Berkeley CS189 作業 3

HW3 分兩半:書面四題從 logistic regression 的 Newton 法、座標下降的收斂分析,走到反向傳播/VJP/隱式微分,最後用資訊瓶頸重新看「深度網路在壓縮什麼」;notebook 要你用 NumPy 寫出 BearTensor 計算圖、拓撲排序反向傳播、SGD/Momentum/Adam,再拿它訓練紅酒品質回歸,選做 Muon。題目與 notebook 全部公開,官方解答與 hidden tests 不公開。

ResNet/Transformer 論文題與 CNN、ResNet、Transformer、DNABERT、ConvNeXt 實作|Berkeley CS189 作業 4

HW4 分三份:書面題帶你用「問題 → 現有做法 → 提案 → 方法 → 貢獻」的順序讀 ResNet 與《Attention Is All You Need》;4.1 notebook 用 PyTorch 寫 CNN、ResNet-18,再從 softmax 一路拼出 encoder-decoder transformer,在 TinyStories 上訓練並生成故事;4.2 notebook 把 DNA 切成 6-mer 餵給預訓練 DNABERT 分物種,把聲音轉成頻譜圖交給 ConvNeXt,比較從零訓練、凍結 backbone、全解凍三種微調。兩個 Kaggle 競賽,5/1 截止。校外讀者拿得到題目,拿不到課程資料包與測試。

(選修)導讀:生物自監督 InfoNCE、diffusion 理論、LLM fine-tuning + Kaggle|Berkeley CS189 作業 5

HW5 是 Spring 2026 唯一標成選修的作業,5/11 到期,和期末考同一天。書面有三塊:用 scRNA-seq 當背景推 InfoNCE 的梯度與負樣本數的取捨;證明最佳去噪器是條件期望、推到 continuity equation;把 flow matching 的直線路徑推廣成一般插值。Notebook 則是完整的 LLM 微調流程:固定用 Qwen2.5-0.5B-Instruct,把 MMLU machine_learning 轉成 chat 格式,用 TRL 的 SFTTrainer 全參數微調,比較微調前後在 CS189 考題上的準確率,最後對 169 題測試集提交 Kaggle,同時要防 catastrophic forgetting。官方附 hw5-sol.pdf,只涵蓋書面題。

ML 問題框架、資料工具、術語與技巧|Berkeley CS189 第 1–3 堂

CS189 Spring 2026 的前三講不急著推公式,先教你怎麼判斷一個問題該不該用 ML、怎麼用 pandas 和 Plotly 看資料、怎麼用 scikit-learn 走完一次訓練、驗證、測試的流程。Lec 1 只有投影片沒有錄影;Lec 2–3 有投影片與影片;Discussion 1 是微積分、線代、機率的熱身,附解答與 walkthrough。這三講是 HW1 的直接前置。

K-means、機率複習、MLE、多變量高斯與 GMM|Berkeley CS189 第 4–7 堂

CS189 Spring 2026 第 4–7 講用一條線串起非監督式學習:先用 K-means 分群,指出它的弱點(硬指派、沒有機率框架、只適合體積相近的圓形群),再複習機率、引入最大概似估計(MLE)與多變量高斯,最後把 K-means 改寫成高斯混合模型(GMM)。GMM 的 log-likelihood 沒有封閉解,這個缺口正好把課程帶向梯度下降。四講都有投影片與影片,Discussion 2–3 附解答與 walkthrough。

線性回歸、最小平方的幾何、正則化|Berkeley CS189 第 7–10 堂

CS189 Spring 2026 用四講把線性回歸講成同一件事的三個角度:高斯雜訊下的 MLE 等於最小平方;最小平方的解是把 y 正交投影到 X 的欄空間;特徵共線或參數太多時,用 ridge(等於高斯先驗的 MAP)或 lasso(等於 Laplace 先驗)把解拉回來,λ 則交給驗證集決定。講義、影片、Discussion 3–4 解答都能匿名取得。

分類、生成式分類器、logistic regression、ROC|Berkeley CS189 第 11–12 堂

CS189 Spring 2026 Lec 11–12 把分類拆成兩條路:生成式先為每一類建 p(x|y)(GDA:共變異數相同得 LDA、線性邊界,不同得 QDA、二次邊界),判別式直接建 p(y|x)(logistic regression:sigmoid、softmax、交叉熵 MLE,沒有封閉解要靠梯度下降)。兩者的橋是:LDA 的後驗一定能寫成 logistic 形式,反過來不成立。評估方面,準確率在類別不平衡時會騙人,ROC/AUC 掃過所有門檻、不看校準,PR 曲線則在意類別比例。

、15:收斂、Momentum、Adam、SGD|Berkeley CS189 第 13 堂

CS189 Spring 2026 用兩講處理梯度下降。Lec 13 從 Hessian 的特徵值推出學習率上限和條件數,再一路講到 momentum、學習率排程、AdaGrad/RMSProp/Adam 與 mini-batch SGD。Lec 15 由 Dimakis 用一個小資料表手算梯度重走一遍。兩份講義、錄影、Lec 13 的手寫稿,以及 Discussion 6、7(附解答)都能匿名取得。

、16:MLE vs MAP、bias-variance、熵與 KL,期中自評|Berkeley CS189 第 14 堂

Lec 14 把 ridge 重新解釋成「最小平方 + 高斯先驗」的 MAP,再拆解 bias-variance,最後借 Chatbot Arena 示範怎麼讀論文。Lec 16 從壓縮講熵,接到 KL、cross-entropy,再回到 logistic regression 的損失函數。3/17 的期中考題與官方解答都公開在考古題資料夾:6 題、56 分、110 分鐘,另有 6 支逐題講解影片,可以照著模擬一次。

深度、萬能近似、激活函數與反向傳播|Berkeley CS189 第 17–18 堂

Lec 17 用 XOR 說明為什麼線性模型、甚至多層線性模型都學不會非線性邊界,只要一層 ReLU 就能解;萬能近似定理保證「存在」,但不告訴你怎麼找權重、要多寬。Lec 18 把 chain rule 系統化成計算圖上的反向傳播:多條路徑的梯度相加,成本和參數數量成線性,有限差分則是平方。Discussion 8 讓你親手證明 GD 收斂速率與一維 ReLU 萬能近似。

初始化、BatchNorm、CNN、early stopping 與 double descent|Berkeley CS189 第 19–20 堂

Lec 19 先收尾反向傳播,接著處理「怎麼讓梯度一直流得動」:全零初始化會讓所有單元學成一樣,要用小的隨機值(ReLU 用 He 初始化);batch norm 用 mini-batch 的平均與變異數正規化 pre-activation。後半進入 CNN:局部連接加權重共享,讓同一個特徵偵測器掃過整張圖。Lec 20 補完 pooling、receptive field 與 CNN 的訓練,再談 early stopping、dropout,以及和傳統 bias-variance 圖不一樣的 double descent。