今天的 ML System Design 輪練涵蓋四個核心概念：feature store 要同時記錄 event time 跟 available time 兩個時間戳才能保證 point-in-time correctness，只過濾 event time 還是會洩漏未來資訊；serving 端要把延遲預算拆成明確的子預算（lookup、scoring、回應），並且版本化 model／feature schema／fallback 三者綁在一起；data drift（輸入分布變了）跟 concept drift（輸入輸出關係變了）偵測方式不同，前者從特徵分布就看得出來，後者通常要等標籤到位；監控要分三層——operational（延遲/錯誤率）、data（特徵分布/缺失率）、model（預測分布/實際準確度），標籤延遲長的場景要靠前兩層當早期預警。練習題改編自 Amazon MLE 面試準備指南裡的真實情境：一筆特徵在被使用當下，必須同時滿足『事件發生時間』與『系統可取用時間』都不晚於預測當下，才算是 point-in-time correct，練習怎麼在系統設計面試裡講清楚這個判準。
今天的 Deep Learning & NLP 輪練涵蓋四個核心概念：self-attention 用 Query/Key 內積算相似度再乘 Value 做加權，複雜度隨序列長度成平方成長；causal mask 跟 padding mask 是兩種完全不同用途的遮罩，一個管「能不能看未來」一個管「要不要理會填充值」；subword tokenization（BPE/WordPiece）靠拆成已知子詞單元解決 OOV，但 token 數會隨語言的 fertility 而不同；RNN 跟 Transformer 的根本差異是序列狀態用「固定大小隱狀態」還是「可隨時回看任一位置」來處理長距依賴。練習題是面試常考的場景題：GPT 只用了 Transformer 的 decoder、靠 causal attention 做自回歸生成，拆解思路把「為什麼只用一半的架構」到「KV cache 怎麼讓推論變快」串成一套完整推理鏈。
今天的 ML Fundamentals 輪練涵蓋四個核心概念:bias-variance tradeoff 要看 train/validation 的差距大小來判斷該往哪個方向調、L1 regularization 靠固定梯度把權重壓到剛好等於零(L2 的梯度隨權重縮小只會逼近零)、cross-validation 策略要依資料型態換(分類用 StratifiedKFold、時間序列用 TimeSeriesSplit、同時做超參數搜尋跟效能評估要用 Nested CV 避免過度樂觀)、以及 AUC-ROC 跟 PR-AUC 在資料不平衡時給出完全不同的訊號。練習題是 Amazon／Meta／Google 面試迴圈常出現的經典題:模型的 AUC-ROC 很高但 precision 很低,這代表什麼、你會怎麼處理,拆解思路把「先懷疑哪裡」到「怎麼用 PR curve 取代 ROC 做診斷」串成一套完整推理鏈。
2026 年多篇追蹤 AI agent 生產事故的報告都指出同一種失敗模式：agent 一旦拿到『能動手』的能力（建工單、發通知、寫資料庫），卻缺一層強制的執行邊界，detection 永遠發生在傷害造成之後。今天用『alert-to-ticket agent 遇到第三方 API 回傳格式異常的 5xx，判斷成可重試錯誤，從凌晨 2 點重試到早上 7 點，建出 327 張重複工單、帳單是平常同期的 38 倍』走一輪完整 STAR——核心是先用 feature flag 止血、再把根因拆成『沒有 step limit、沒有 idempotency key、沒有 cost alert』三層分開修，而不是重啟服務草草結案。並回顧本週 ML Fundamentals、Deep Learning、ML System Design、LLM & Agent Engineering、Coding、Paper Reading 六天的練習重點——這週七天全數產出，沒有缺口。
今天練的論文提出 ISE（Identify / Solve / Escalate）框架,專門評測 agent 在 retrieved evidence 跟自己的 parametric knowledge 打架時,會不會老實講。核心反直覺發現：測了四組 agent（Nemotron-ToolOrchestra、Claude Code、OpenHands、Qwen-Agent 兩種尺寸）之後,準確率越高的組態 Escalate rate 反而越低——Claude Code 在 BrowseComp 上認出衝突的 F1 高達 90%,但最終答案承認不確定的比率是 0%；OpenHands 在 GAIA 上則是三個維度全部掛零,顯示它根本就不處理衝突、直接忽略。作者也測了最輕量的介入——在 system prompt 加一段「要求承認不確定性」的句子——Escalate rate 可以從個位數衝到 60% 以上,但準確率平均要賠掉 6-7 個百分點。這題適合用來準備「你怎麼評測 agent 誠不誠實」「RAG 遇到矛盾來源怎麼辦」這類在 LLM Engineering 和 System Design 環節都會被問到的題目。
今天的 Coding 輪練換個方向，從前幾週已經練熟的推論排程、tokenizer、sampling 轉向 LLM API gateway 另一個幾乎每家公司都要自己刻的元件：token bucket rate limiter。跟一般 API 限流不同，LLM API 的限流單位是 token 而不是請求數（OpenAI、Anthropic 都用 TPM／RPM 雙軌限制），單一請求的 cost 可能是幾千個 token，不是固定的 1。核心概念涵蓋 lazy refill（檢查時才用經過時間 × refill rate 計算補了多少 token，不用背景 timer）、check-then-deduct 的 race condition（多執行緒同時檢查餘額會超放）、單次請求 cost 超過 bucket 總容量時的邊界處理，以及延伸到多台 API gateway 實例共享同一組 quota 時，怎麼用 Redis Lua script 做跨機器的原子操作、並用 Redis 自己的時間而非各台機器的本地時鐘。練習題來自 AI Engineering 面試題庫收錄的真實題目。
今天的 LLM & Agent Engineering 輪練涵蓋四個核心概念：workflow 跟 agent 的分界其實是一條 agency 光譜，多一分自主性就多付一分可預測性、延遲跟成本；agent loop 的四個組件(model、tools、context、stop conditions)裡最容易被忽略的是 forced stop 跟完成前的驗證；context engineering 的核心是把 prompt 當 API 設計，instructions 放在資料前面、用 delimiter 隔開不信任內容、搭配 lost-in-the-middle 的版面安排；agent 評估要做到 span-level scoring(工具選對沒有、檢索相不相關)而不是只看最終答案對不對，因為 tracing 跟 evaluation 是兩件事。練習題是改寫自 GitHub 上 AI-Engineer-Interview-Questions 題庫的 agent 設計與評估情境(自擬整合，非公司洩題)：設計一個會呼叫建工單工具的企業知識庫客服 agent，拆解思路把「先判斷該不該用 agent」到「評估設計不能只看最終輸出」串成一套完整的推理鏈。
今天的 ML System Design 輪練涵蓋五個核心概念：feature store 如何透過共用特徵計算邏輯消除 training-serving skew、ML pipeline 設計為什麼要先定 baseline 再談複雜模型的 justification、PSI 與 KS test 兩種資料飄移偵測方法的適用情境、shadow deployment／canary rollout／rollback 的漸進上線順序，以及 A/B testing 框架在 ML 系統裡怎麼量化模型上線後的真實影響。練習題改寫自 A10 Networks Machine Learning Engineer 面試(PracHub 2026 題庫，候選人回報、非洩題)：設計一個即時流量特徵的 ML 推論 pipeline，要有 baseline 模型、延遲預算、drift 監控與 rollback 路徑，拆解思路把「先問清楚流量量級與延遲目標」到「用什麼機制讓壞模型能即時退場」串成一套完整的推理鏈。
今天的 Deep Learning & NLP 輪練涵蓋五個核心概念:Self-Attention 的 scaled dot-product 為什麼要除以 sqrt(d_k)、tokenizer fertility（tokens/word）怎麼決定一個語言的成本與有效 context 長度、BERT 的 attention mask 跟 MLM loss label 是兩個獨立機制(常被面試者混為一談)、CNN 跟 RNN 在序列資料上的取捨、以及 fine-tuning 從 full fine-tune 到 LoRA 到 continued pretraining 的光譜。練習題來自 Sarvam AI 的代表性面試題(由 AI-Engineer-Interview-Questions 專案整理、非洩題):解釋為什麼 tokenization 是多語言 LLM 的第一個效能瓶頸，並說明像 Sarvam-1 這種低 fertility tokenizer 如何改變成本結構，拆解思路把「fertility 這個指標怎麼定義」到「下游三條成本線怎麼被它決定」串成一套完整的推理鏈。
今天的 ML Fundamentals 輪練涵蓋四個核心概念：Grid Search／Random Search／Bayesian Optimization 的超參數搜尋效率差距(Bayesian 用代理模型記住過去試驗，大約少 7 倍迭代、快 5 倍)、Huber Loss 用一個轉折點 delta 把 MSE 的平滑梯度跟 MAE 的離群值穩健性縫在一起、維度詛咒如何讓距離度量在高維空間失效、以及 PCA 當降維工具之外更深一層的角色。練習題來自 Pinterest Machine Learning Engineer 面試(PracHub 2026 題庫)：解釋深層神經網路梯度消失的成因，並討論 ReLU、Leaky ReLU、ELU 三種激活函數各自用什麼數學代價去緩解，拆解思路把「連鎖律乘積趨近於零」到「换激活函數换到的是哪種新問題」串成一套完整的推理鏈。
招聘指南把『Tell me about an LLM feature that failed』列成 LLM 工程師行為面試的固定題，考的不是你會不會修 bug，而是你怎麼從一個被平均數字蓋住的失敗裡，用切片資料挖出真正的根因、量化改善幅度，再把修法變成團隊的系統性檢查項目。今天用『RAG 內部知識庫問答對含表格的 PDF 答錯，整體準確率看起來還好，拆開表格類問題才發現只有 32% 正確率』走一輪完整 STAR，並回顧本週 ML Fundamentals、Deep Learning、ML System Design、LLM & Agent Engineering、Coding、Paper Reading 六天的練習重點——這週七天全數產出，沒有缺口。
今天的 Paper Reading 輪練是 arXiv:2609.37658《EnterpriseBench: Benchmarking LLM Agents on Enterprise-Level Strategic Reasoning and Decision-Making》——2026 年 9 月 29 日才掛上 arXiv 的新論文,設計了一個兩層評測架構:基礎層是重組現有企業/財務 QA 資料集(資訊擷取、數值計算、領域知識、複雜推理),互動層則是三個全新情境——模擬顧問面談(Consulting)、經典啤酒遊戲供應鏈模擬(Beer Game)、企業數位分身專案規劃(EDT)。用九種 agent 方法(CoT、Self-Refine、Reflexion、Debate、Discussion、AMEM、DC、GEPA、ACE)跑四個 backbone(DeepSeek-V3、GPT-4.1、DeepSeek-V4-Pro、GLM-5.2),核心發現是靜態 QA 表現好的方法,換到互動決策任務不一定還是贏家,而且『誰是最佳方法』會隨任務、隨 backbone 變來變去,沒有一個通用贏家。核心概念涵蓋這個『靜態—互動評測落差』、為什麼 Self-Refine/Reflexion 在多輪顧問案例裡反而輸給簡單 CoT、GEPA/DC/AMEM 在不同任務與 backbone 上的勝負逆轉說明了什麼,以及論文怎麼用三層驗證(20 案例粗篩、500 筆逐字稿多人標註、prompt 穩健性測試)去證明自己的 LLM-judge 可信。練習題走評測設計師視角,討論怎麼把『沒有通用贏家』這個結論轉成實際的 agent 選型決策流程,以及怎麼判斷一個 LLM-judge 的信度數字『夠不夠好』可以上生產環境。
今天的 Coding 輪練換個方向，不再碰前幾週已經練熟的 batching scheduler 跟 tokenizer，改做幾乎每個 LLM API 都會暴露、卻很少人真正手刻過的功能：實作一個吃 logits、temperature、top_k、top_p 四個參數的 sample_token 函式。核心概念涵蓋 softmax 數值穩定性（exp 之前要先減去最大值，否則大 logit 直接 overflow 成 inf）、temperature 的邊界情況（T=0 在公式上是除以零，業界慣例是退化成 greedy decoding 而不是丟例外）、top-k 與 top-p 的套用順序（先 temperature 整形分佈，再 top-k 砍固定數量，再 top-p 依累積機率動態砍）、以及 top-p 最容易寫錯的邊界判斷（要用「加入這個 token 之前」的累積機率跟門檻比較，不是加入後）。練習題來自 AI Engineering 面試題庫收錄的真實題目，額外延伸到 top_k 超過字典大小、renormalize 分母為零這類容易被面試官抓到的邊界案例。
今天換個角度練 LLM & Agent Engineering，不再重複前幾週練過的 RAG vs Agent 決策框架跟 context engineering，改聚焦 agent 一旦真的跑起來之後最容易出包、也最容易在面試被追問到詞窮的一段：infinite loop、選錯工具、參數格式錯這三種失敗模式要怎麼分開防；一個長時間跑的 agent 光靠 max_turns 不夠，termination condition 要疊 step budget、cost ceiling、goal-completion 判斷三層；agent 的評估不能只看「有沒有做完」，業界現在會拆成 tool selection quality（選對工具了嗎）、action advancement（有沒有往目標前進）、context adherence（有沒有守住給定的限制）三個獨立指標；guardrail 設計要用信心或金額門檻分流，低風險自動執行、高於門檻轉人工審核。練習題來自候選人回報的真實 AI Engineer 面試題「What are the main failure modes of agents and how do you handle them?」，拆解思路把失敗模式、termination、guardrail 串成一套完整答案。
今天的 ML System Design 輪練聚焦在多數候選人會跳過的監控段：資料飄移（輸入分布變了）跟概念飄移（輸入跟答案的關係變了）是兩種完全不同的壞法，要用不同的偵測跟修復手段；監控要疊四層（特徵分布、預測分布、有延遲標籤的效能指標、業務指標）才不會等到營收掉了才發現模型早就壞了；A/B 測試常見的三個陷阱是流量分配不均、外部因素干擾、統計顯著性算法選錯；警報響了之後最容易被忽略的問題是自動重訓會不會製造回饋迴圈，讓模型的錯誤預測反過來汙染下一批訓練資料。練習題是 Aced（原 Exponent）收錄的 TikTok 真實面試題「設計一套模型監控系統」，拆解思路把飄移偵測、分層監控、警報後的決策樹串成一套完整答案。
今天的 Deep Learning & NLP 輪練涵蓋五個核心概念：scaled dot-product attention 為什麼靠一次 batched matmul 就能在 GPU 上平行化、多頭注意力把同一個嵌入維度切成多個子空間各自學不同關係、positional encoding 為什麼是 Transformer 沒有遞迴之後必須額外補回去的資訊、CNN 的局部性假設跟 RNN 的遞迴假設跟 Transformer 全域互動的取捨，以及 BPE/WordPiece/SentencePiece 三種 subword tokenization 的差異跟為什麼 byte-level BPE 能徹底消除未知詞問題。練習題來自 dsprep.com 收錄、Anthropic、DeepMind 等研究實驗室常考的一題：為什麼 Transformer 選擇 scaled dot-product attention 而不是 additive attention，拆解思路把效率、scale factor、multi-head 動機串成一套完整的設計哲學論述。
今天的 ML Fundamentals 輪練涵蓋五個核心概念：bagging 跟 boosting 分別在打誰的主意(variance vs bias)、boosting 為什麼加太多輪會 overfit 但 random forest 不會、XGBoost 靠梯度加 Hessian 的二階近似跟目標函數內建正則化橫掃表格資料的原因、正規化跟標準化該怎麼選(看演算法假設不是看資料本身)，以及 AdamW 為什麼要把 weight decay 從 loss function 的 L2 懲罰項裡拆出來單獨處理。練習題來自 C3 AI 的 Data Scientist 真實面試:先講出經典的 bagging 演算法、解釋 bootstrap aggregation 為什麼能降低 variance，再被追問換成 boosting 又是靠什麼機制取捨，拆解思路把五個概念串成一套完整的 ensemble 決策框架。
2026 年的 AI Engineer 行為面試很愛問『你曾經很有信心的方案，後來發現是錯的』，考的不是你會不會認錯，而是你怎麼在自己主推的東西被推翻時，用數據而不是情緒去喊停。今天用『排序模型 A/B 測試七天 CTR +8%，你堅持全量上線，後來發現是 novelty effect，怎麼收回這個決定』走一輪完整 STAR，並回顧本週 ML Fundamentals、Deep Learning、Coding、Paper Reading 練了什麼——這週 ML System Design 跟 LLM & Agent Engineering 兩天沒產出，也一併記錄下來。
今天的 Paper Reading 輪練是 arXiv:2609.29875《When Can Agents Forget Their Reasoning? ICLR for Long-Horizon Agent Context Compression》——2026 年 9 月才掛上 arXiv 的新論文,提出 Interaction Aware Compression for Long Horizon Reasoning(ICLR),一個 training-free、on-line 的方法,用 frozen proxy entropy 排序歷史推理區塊的可丟棄程度,同時保留 actions、tool calls、observations 不動;在 260 個 WorkBuddyBench 任務上,平均 reward 從 0.699 提升到 0.718,同時 input/output/cache read token 分別降低 25.5%/14.4%/33.3%。核心概念涵蓋為什麼刪除歷史推理不像刪靜態 CoT 那麼單純(會改變後續動作)、trajectory amplification 這個非線性效應、『推理何時能被安全遺忘』的判準是有沒有被外部化成 code/file/tool output,以及這篇論文的發現如何跟 Claude Code、Deep Agents 這類業界 harness 的 compaction/offloading 機制相呼應。練習題走審稿人視角,討論怎麼驗證這個方法不是在特定 benchmark 上運氣好,以及要落地到跑數小時的 coding agent 該怎麼決定壓縮時機。
今天的 Coding 輪練是 Anthropic 在 SWE / ML / hardware / EM 各條面試線都會考的高頻題:設計並實作一個單 GPU 的 inference batching scheduler,支援最多 100 筆輸入一批、使用者同步等待結果,核心張力是 throughput 跟 latency 的取捨。核心概念涵蓋 dynamic batching 的兩個觸發條件(batch size 上限 / 等待時間上限)、依序列長度分桶減少 padding 浪費、continuous batching(iteration-level scheduling)跟傳統固定批次的差異、PagedAttention 怎麼用分頁管理 KV cache 記憶體、以及 backpressure 怎麼在佇列爆滿時維持有界的尾端延遲。練習題把 Anthropic 這道系統設計題轉成可以真的寫程式碼實作的 scheduler class,附完整拆解與範例回答。
今天的 Deep Learning & NLP 輪練涵蓋五個核心概念:self-attention 怎麼用 Query/Key/Value 算相關性、positional encoding 為什麼是 self-attention 的必要補丁、子詞切法(BPE/WordPiece)怎麼解決 OOV 問題、fine-tuning 跟 RAG 這組面試常見二選一該怎麼答、embeddings 怎麼用向量距離表示語意相似度。練習題來自 Google agentic AI engineer 職缺的面試指南:解釋 attention 機制的運作原理,以及 context compression 技術如何影響 retrieval 準確度,拆解思路把 attention 的計算複雜度跟壓縮/準確度的 trade-off 串成一套完整回答。
今天的 ML Fundamentals 輪練涵蓋五個核心概念:偏差變異取捨怎麼用學習曲線診斷、L1 跟 L2 正則化各自怎麼往 loss function 加懲罰項、批次梯度下降跟隨機梯度下降的取捨、不平衡資料為什麼準確率會騙人(該看 precision/recall/F1/ROC-AUC),以及交叉驗證中最容易忽略的資料洩漏陷阱。練習題改編自 Transunion 的真實 Data Scientist 面試題:如何為大規模資料的端到端 ML 專案設計特徵工程、模型選擇跟驗證策略,拆解思路把五個核心概念串成一套完整的決策框架。
今天的 Paper Reading 輪練是 arXiv:2509.06917《Paper2Agent》——剛在 2026 年登上 Nature 的論文,提出一套自動框架,用多個 specialist agent 分析研究論文與它的開源程式碼,建構出可測試、可迭代精煉的 Model Context Protocol(MCP)伺服器,再接上 Claude Code 這類 chat agent,用自然語言重現論文結果、甚至回答原論文沒問過的新問題;作者用 AlphaGenome、ScanPy、TISSUE 三個案例驗證,並宣稱因此發現了一個跟 ADHD 風險相關的新剪接變異。核心概念涵蓋 specialist + coordinator 的多 agent 分工模式、MCP 作為『論文能力』到『可呼叫工具』的標準化介面、iterative generate-test-refine 迴圈怎麼取代一次性人工驗證、以及『忠實重現原結果』跟『正確回答新查詢』是兩種要分開驗證的可靠性標準。練習題走審稿人視角,討論怎麼設計實驗驗證這類自動生成 agent 不是在幻覺,以及要把這套系統落地成公司內部工具時該加什麼防護。
今天的 Coding 輪練是 Anthropic Technical Screen 的一道真實題目——實作一個 case-sensitive 的 longest-match tokenizer:在每個位置貪婪匹配詞彙表裡最長的可能字串,輸出精確的 token id 與消耗掉的原文;沒有匹配時要能選擇「逐字元」或「合併連續未知字元」兩種 unknown-run 處理模式。核心概念涵蓋 WordPiece 這類次詞切分背後的 greedy longest-match-first 策略、詞彙表一大就該從線性掃描換成 trie(搭配 Aho-Corasick 式的失敗跳轉,像 Google 的 LinMaxMatch 一樣把複雜度從 O(n²) 壓到線性)、unknown-run 合併策略對下游訓練的實際影響,以及 Python 處理字串切片時常見的 off-by-one 陷阱。
今天的 LLM Engineering 輪練涵蓋:什麼時候該用複雜 agentic 系統而不是簡單 RAG(先看業務價值再看 benchmark 數字)、context engineering 為什麼不等於 prompt engineering(lost in the middle、工具作用域、記憶體管理)、LLM 評估的離線/guardrail/線上三分類各自的用途、guardrail 該怎麼分層防禦(輸入過濾、輸出驗證、eval harness、red teaming),以及一題改編自真實 OpenAI 面試準備教材的 RLHF reward overoptimization 拆解——reward model 只是人類偏好的 proxy,PPO 會鑽這個 proxy 的漏洞,瓶頸是標註資料品質而非算力,真正的解法是換成可驗證的 reward(RLVR)。
今天的 ML System Design 輪練涵蓋面試官實際在評估的六個維度(問題定義、資料/特徵、模型選型、評估、上線服務、監控迭代)、feature store 解決的 training/serving skew 問題、real-time 與 batch inference 的延遲取捨、data drift 與 model drift 的監控機制,以及離線指標與線上 A/B 測試該怎麼配合。練習題是設計一個影片推薦系統,面試官想看你能不能把候選生成、排序模型、上線服務、監控串成一條完整、講得出取捨理由的技術鏈,而不是只背某個公司的架構圖。
今天的 Deep Learning & NLP 輪練涵蓋 self-attention 的 Q/K/V 運算與 O(n²) 複雜度來源、positional encoding(sinusoidal 到 RoPE/ALiBi)為什麼是 Transformer 必要的一環、BERT(encoder,雙向)與 GPT(decoder,因果)的架構與訓練目標差異、Word2Vec/GloVe 等靜態詞向量與 BERT/GPT 情境化詞向量的本質不同,以及 full fine-tuning、freeze 上層、LoRA 這幾種微調策略該怎麼挑。練習題是把一個只支援 2K token 的 Transformer 擴充到能處理 100K token 長文件,面試官想看你能不能把「複雜度」「位置外推」「生產環境成本」三條線同時講清楚。
今天的 ML Fundamentals 輪練涵蓋 bias-variance tradeoff、L1(Lasso)/L2(Ridge)/Elastic Net 正則化的差異、overfitting 與 underfitting 的偵測與修復、K-fold/stratified/time-series cross-validation 的選擇，以及 precision、recall、F1、AUC-ROC 在不同業務情境下該優先看哪個。練習題是一道經典的排查題:模型在開發環境表現很好,上線後卻明顯變差,面試官想看你有沒有系統化的除錯框架,而不是憑直覺猜。
2026 年的 AI Engineer 行為面試已經很少單純問『你怎麼解決衝突』，更常直接問『GenAI 安全你怎麼落地』『你自信滿滿的方案後來發現是錯的』。今天用『客服 agent 要上線，你怎麼擋住 model 直接執行退款這個授權漏洞，並只延後三天而不是整個重做』這個情境，走一輪完整 STAR，並回顧本週 ML Fundamentals 到 Paper Reading 六個主題練了什麼。
今天的 Paper Reading 輪練的是 arXiv:2609.11028《BenchShield》——針對 LLM agent 評測基礎設施的 reward hacking 偵測系統,用靜態 taint analysis 抓評測前的可利用路徑,搭配 runtime 證據把『這次跑分沒有作弊』變成可驗證的宣告,在 456 筆人工標註的軌跡上把 full-chain recall 從 23-94% 拉到 77-100%,runtime 偵測準確率達 96%。核心概念涵蓋 reward hacking 為什麼是評測基礎設施(而不只是模型)的問題、taint analysis 怎麼在靜態與動態兩層分工、為什麼『可利用捷徑』不算違規卻仍要防、以及讀論文時該怎麼用實驗設計去反推作者取捨。額外搭配 BAITBENCH 論文跟 Hugging Face agent swarm 真實資安事件,把『reward hacking 不是紙上談兵』的生產環境代價講清楚。
今天的 Coding 輪練的是 xAI 一道真實的 dynamic batching for token decoding 題目——在固定容量 B 的 batch 裡動態填補完成的 slot，同時正確處理 stop_token、stop_sequence、max_tokens 三種停止條件，並維持 slot_id 到 request_id 的正確對應。核心概念涵蓋 continuous batching 如何在 GPU 利用率跟延遲之間取捨、NumPy 用 broadcasting 跟 boolean mask 取代顯式迴圈、padding 與 attention mask 怎麼處理不定長輸入,以及 batch inference API 該用 queue depth 而非單純 GPU utilization 來驅動自動擴縮。額外補一個面試設計視角:2026 年的 ML coding 面試越來越少考裸演算法背誦,轉而用真實的生產情境題(像今天這題)測你的工程判斷力。
這輪 LLM & Agent Engineering 聚焦 2026 年面試官最愛拆的架構決策：RAG 跟 agent 不是二選一而是分工——RAG 負責有引用來源的政策問答，agent 只在任務需要跨系統多步驟操作時才上場；guardrails 要分成離線評估（release 前抓 regression）跟線上攔截（即時擋掉不安全輸出）兩層，核心原則是「模型只提案，決定性系統才授權與執行」；評估上除了傳統的 LLM-as-a-Judge，agent 還要做軌跡評估（trajectory-based evaluation）去檢查每一步決策，不能只看最終答案。練習題是一道 PracHub 整理的『設計企業客服 agent』系統設計題，練的是怎麼把 RAG 路徑跟 agent 路徑講清楚，並且把授權層講成整題的關鍵。
這輪 ML System Design 聚焦 2026 年面試官最看重的『不是模型，是全鏈路』：feature store 怎麼在 offline 訓練與 online 推論之間保持同一份特徵定義（training-serving skew）、推薦系統的 candidate generation → ranking → re-ranking 三段式 serving 架構、模型上線怎麼用 A/B testing 和 shadow deployment 降風險、data drift 與 model degradation 的監控設計，以及 retraining cadence 如何接成一個能自我強化的 data flywheel。練習題是一道 OpenAI 的『設計即時推薦系統』進階題，練的是怎麼在 clarifying questions 之後，用七大元件框架把答案講成一條完整的資料到監控的鏈路。
這輪 Deep Learning & NLP 聚焦 2026 年面試官最愛追問的『從架構講到工程後果』：decoder-only transformer 的四層結構（embedding + RoPE、causal self-attention、MLP、線性頭）、self-attention 的 Q/K/V 直覺與為什麼要 causal mask、decoding 為什麼是 memory-bandwidth bound 而不是 compute bound，以及 token 數量怎麼直接換算成 API 成本、context window 容量與生成延遲。練習題是一道 MAANG 等級的『解釋 Transformer 架構』開放題，練的是怎麼在 5 分鐘內講完架構又能延伸到推論成本。
這輪 ML Fundamentals 不再是背公式，而是練『模型上線後出包時該怎麼一步步排查』：用學習曲線的 train/val gap 判斷該加特徵還是該正則化、CV 分數跟上線分數不一致時要先懷疑 GroupKFold/TimeSeriesSplit 有沒有做對、類別不平衡的四層排查順序（先重加權而不是先 SMOTE），以及分類門檻該由 FP/FN 的實際成本算出來，不是預設 0.5，還要分清楚門檻選擇跟機率校準是兩件事。
行為面試考的不是你有沒有故事，而是你能不能把一次技術決策講成『情境明確、證據具體、結果可量化』的敘事。今天用『RAG 客服 agent 要上線，你怎麼用 retrieval/generation 四象限錯誤分析說服 PM 延後一週』這個 AI Engineer 常見情境，走一輪完整 STAR，並回顧本週 ML Fundamentals 到 Paper Reading 六個主題練了什麼。
Paper reading 面試環節考的不是背論文結論,而是能不能在 15-20 分鐘內講清楚一篇陌生論文的問題定義、方法核心與限制,並提出有意義的追問。今天精讀的論文提出 invalidation contracts:讓 LLM agent 快取的錯誤修復建議帶上版本戳記與可快取性提示,伺服端資料一旦飄移就能精準逐筆(row-level)讓快取失效,而不必整批作廢或每次都重新推導。論文最核心的洞察是把「快取有沒有省到錢」拆成兩個獨立變數——validity(快取內容還對不對,只跟協議設計有關)與 compliance(規劃模型願不願意採用這個修復建議,因模型而異,同一份資料在 Claude Haiku 4.5 上有 100% 的第一次遵循率,在 Claude Sonnet 5 上卻可能低於 11%)。這個拆解框架本身就是很好的面試素材:它示範了怎麼把一個含糊的效能問題,拆成可以分別度量、分別歸因的兩個因子。
ML coding 面試考的不是背 LeetCode 樣板,而是能不能用 NumPy 徒手寫出 building blocks(linear、residual、layer norm、causal self-attention)並且看得懂別人的訓練/推論迴圈在哪裡壞掉。今天聚焦四個概念:coding 面試的真正考點是徒手實作能力而不是背答案;BPE tokenizer 的核心是「頻率統計 → 迭代合併 → 用同樣的合併順序 encode」,順序錯了 encode 就會跟 decode 對不上;batch inference 的吞吐量/延遲取捨要處理不同長度序列的 padding 與浪費運算;NumPy 向量化的判斷依據是「這段迴圈裡有沒有跨元素依賴」。練習題是 Glean 技術篩選常出的題目:實作一個 BPE tokenizer,走一遍從訓練到 encode/decode 的完整思路。
LLM & Agent Engineering 面試考的重點不是『你會不會串 LangChain』，而是你能不能把一個模糊的『系統壞掉了』拆成可診斷的子問題。今天聚焦四個高頻概念：RAG 的『retrieval 對、答案卻錯』要拆成 retrieval 和 generation 兩段分開評估；agent context window 變大不能解決品質下降,因為問題是 context pollution（雜訊稀釋注意力）不是 token 數不夠;RAG 跟 fine-tuning 的選擇邏輯是『RAG 管知識、fine-tuning 管行為』；LLM-as-judge 有一致性偏誤與自我偏好偏誤,不能單獨當唯一指標。練習題是一道很常見的企業面試情境題:『retrieval 90% 準、答案只有 60% 準,怎麼診斷』,走一遍把模糊症狀拆成可驗證假設的完整思路。
ML System Design 面試考的不是你會不會畫架構圖，而是你能不能把每一層的取捨講清楚。今天聚焦四個高頻考點：feature store 如何保證 training/serving 一致性、部署策略要怎麼分層選擇並設計 rollback 觸發條件、監控要拆成 system/data/model 三層並用 PSI/KS test 抓 drift，以及線上推論的 latency 預算怎麼分配。練習題是「設計一個電商即時推薦服務」，走一遍從釐清需求、估算流量、到 feature store 與部署策略的完整設計。
Deep Learning & NLP 面試考的不是你會不會畫 transformer 架構圖，而是你懂不懂每個設計決策背後在犧牲什麼。今天聚焦四個高頻考點：self-attention 的計算與 KV cache 的作用、tokenization 的 vocab size 取捨、『embedding 是向量空間契約、維度相同不代表相容』這個資深候選人才會講的細節，以及 fine-tuning 跟 prompting 該怎麼選、catastrophic forgetting 怎麼防。練習題則是 Scale AI 的『設計 embedding 生成與分類 API』，走一遍版本相容性、部分失敗與多租戶隔離的完整設計。
ML fundamentals 面試考的是能不能在拿到一個『指標很漂亮但線上出包』的落差時，講出正確的診斷路徑。今天聚焦四個高頻考點：AUC-ROC 在極度不平衡資料下為什麼會虛高、PR-AUC 才是該看的曲線、分類為什麼要用 cross-entropy 而不是 MSE（牽涉梯度消失）、bagging 和 boosting 分別修正 variance 還是 bias，以及多重共線性只毀可解釋性不毀預測準確度的常見誤解。
行為面試考的不是你有沒有故事，而是你能不能在 90 秒內把一個技術事件講成『情境明確、行動具體、結果可量化』的敘事。今天用『上線模型效果驟降，你怎麼在跨團隊壓力下把它修好』這個 AI Engineer 最常被問到的情境，走一輪完整 STAR，並回顧本週 ML Fundamentals 到 Paper Reading 五個主題練了什麼。
Paper reading round 考的不是你有沒有把論文讀完，而是你能不能在有限時間內抓到核心 claim、講清楚設計選擇背後的 trade-off，並提出可驗證的追問。今天用剛發表的 SparseRead（token 效率讀取層，2026-08-23 掛上 arXiv）當練習素材，拆解 regime-aware Read Gate、Reader Backends、stateful protocol 三個核心機制，並完整跑一輪『事前過濾 vs 事後裁剪』的技術追問。
2026 年的 ML coding round 不再只考「從零寫出來」，也考「看得懂別人寫壞的程式碼」。今天聚焦五個考點：LLM 推論排程的狀態機設計、debug 既有 ML 程式碼的方法、NumPy shape 陷阱、pandas 時序特徵的資料洩漏防範，以及 AUC-ROC 的從零手刻。練習題取自 Anthropic 近期一份公開流出的 OA 真題：簡化版 GPU 請求排程器。
2026 年的 AI Engineer 面試已經不再只考「RAG 怎麼做」，而是考你能不能在失敗模式下做出有依據的取捨。今天聚焦五塊：RAG 該不該升級成 agentic RAG、context window 的分層組裝與 lost-in-the-middle 問題、guardrails 怎麼擋住惡意輸入與輸出、RLHF 的 reward model 訓練流程，以及怎麼從 trace 裡分辨 retrieval 失敗、generation 失敗還是 agent 卡進無限迴圈。
ML system design 面試考的是把商業目標翻譯成完整的機器學習系統，不是背 buzzword。今天聚焦四塊高頻考點：feature store 的 online/offline 雙軌與 point-in-time correctness、線上推論的延遲預算與 shadow mode、A/B test 該用什麼隨機化單位與怎麼分辨 novelty effect，以及用 PSI 偵測 data drift 和 concept drift 的差別。
ML fundamentals 面試考的不是背定義，而是拿到一個 train/val 落差時能不能走出一套診斷流程。今天聚焦四個高頻考點：bias-variance decomposition 與 learning curve 判讀、L1/L2 正則化的幾何直覺與選擇邏輯、loss function 要對齊商業目標而非預設值，以及 AdamW 為什麼把 weight decay 和 L2 正則化拆開處理。
AI Engineer 的行為面試不是講你做過什麼專案，而是讓面試官從你講故事的方式，反推你能不能扛更大的 scope、能不能在模糊情境裡自己定義問題、出包時會不會誠實講『我錯在哪』。今天用一個『RAG 系統上線後給錯答案，你怎麼揪出根因並穩住客戶信任』的故事框架練習，再回顧本週（週四到週六）練過的 ML System Design、Coding、Paper Reading 三個主題。
Paper reading round 考的不是你有沒有把論文讀完，而是你能不能像親自做過這個研究一樣，講出關鍵設計選擇背後的 trade-off、指出實驗設計的漏洞，並預測下一步該怎麼做。今天用剛發表的 OneDayAgent（長程 agent harness，2026-08-04 掛上 arXiv）當練習素材，拆解 task decomposition、context 壓縮、verify-repair 三個核心機制，並完整跑一輪典型的論文追問。
ML coding round 考的不是背 leetcode，而是能不能只用 NumPy 把 attention、k-means 這類 ML 元件從零寫出來，同時講清楚每一步的 shape 和複雜度。今天聚焦五個高頻考點：向量化思維、softmax 數值穩定性、shape 追蹤與複雜度分析、batch inference 的 padding/masking，以及手刻演算法時該怎麼驗證正確性。
ML system design 面試的核心不是選哪個模型，而是怎麼讓模型在生產環境活下來。今天聚焦四個高頻考點：feature store 的 online/offline 分離、training-serving skew 的根因與防堵、模型部署策略（shadow/canary/blue-green），以及超越 HTTP error rate 的 ML-specific 監控。