Skip to content
所有標籤

#system-design

12 篇文章

AI Engineer 面試日練 — 2026-10-14:ML System Design

今天的 ML System Design 輪練涵蓋四個核心概念:feature store 要同時記錄 event time 跟 available time 兩個時間戳才能保證 point-in-time correctness,只過濾 event time 還是會洩漏未來資訊;serving 端要把延遲預算拆成明確的子預算(lookup、scoring、回應),並且版本化 model/feature schema/fallback 三者綁在一起;data drift(輸入分布變了)跟 concept drift(輸入輸出關係變了)偵測方式不同,前者從特徵分布就看得出來,後者通常要等標籤到位;監控要分三層——operational(延遲/錯誤率)、data(特徵分布/缺失率)、model(預測分布/實際準確度),標籤延遲長的場景要靠前兩層當早期預警。練習題改編自 Amazon MLE 面試準備指南裡的真實情境:一筆特徵在被使用當下,必須同時滿足『事件發生時間』與『系統可取用時間』都不晚於預測當下,才算是 point-in-time correct,練習怎麼在系統設計面試裡講清楚這個判準。

AI Engineer 面試日練 — 2026-10-07:ML System Design

今天的 ML System Design 輪練涵蓋五個核心概念:feature store 如何透過共用特徵計算邏輯消除 training-serving skew、ML pipeline 設計為什麼要先定 baseline 再談複雜模型的 justification、PSI 與 KS test 兩種資料飄移偵測方法的適用情境、shadow deployment/canary rollout/rollback 的漸進上線順序,以及 A/B testing 框架在 ML 系統裡怎麼量化模型上線後的真實影響。練習題改寫自 A10 Networks Machine Learning Engineer 面試(PracHub 2026 題庫,候選人回報、非洩題):設計一個即時流量特徵的 ML 推論 pipeline,要有 baseline 模型、延遲預算、drift 監控與 rollback 路徑,拆解思路把「先問清楚流量量級與延遲目標」到「用什麼機制讓壞模型能即時退場」串成一套完整的推理鏈。

ML/LLM 系統設計與 Coding 面試:四題架構、三題 Python 與 STAR 骨架

面試常被問到的四題系統設計(企業 RAG、推論服務、客服 Agent、線上 A/B 與資料飛輪)、三題 Python(動態批次、取樣、退避重試加 token bucket)與 STAR 行為骨架,每題附可講出口的回答與核對清單,程式碼都實際執行通過。

AI Engineer 面試日練 — 2026-09-30:ML System Design

今天的 ML System Design 輪練聚焦在多數候選人會跳過的監控段:資料飄移(輸入分布變了)跟概念飄移(輸入跟答案的關係變了)是兩種完全不同的壞法,要用不同的偵測跟修復手段;監控要疊四層(特徵分布、預測分布、有延遲標籤的效能指標、業務指標)才不會等到營收掉了才發現模型早就壞了;A/B 測試常見的三個陷阱是流量分配不均、外部因素干擾、統計顯著性算法選錯;警報響了之後最容易被忽略的問題是自動重訓會不會製造回饋迴圈,讓模型的錯誤預測反過來汙染下一批訓練資料。練習題是 Aced(原 Exponent)收錄的 TikTok 真實面試題「設計一套模型監控系統」,拆解思路把飄移偵測、分層監控、警報後的決策樹串成一套完整答案。

AI Engineer 面試日練 — 2026-09-16:ML System Design

今天的 ML System Design 輪練涵蓋面試官實際在評估的六個維度(問題定義、資料/特徵、模型選型、評估、上線服務、監控迭代)、feature store 解決的 training/serving skew 問題、real-time 與 batch inference 的延遲取捨、data drift 與 model drift 的監控機制,以及離線指標與線上 A/B 測試該怎麼配合。練習題是設計一個影片推薦系統,面試官想看你能不能把候選生成、排序模型、上線服務、監控串成一條完整、講得出取捨理由的技術鏈,而不是只背某個公司的架構圖。

AI Engineer 面試日練 — 2026-09-09:ML System Design

這輪 ML System Design 聚焦 2026 年面試官最看重的『不是模型,是全鏈路』:feature store 怎麼在 offline 訓練與 online 推論之間保持同一份特徵定義(training-serving skew)、推薦系統的 candidate generation → ranking → re-ranking 三段式 serving 架構、模型上線怎麼用 A/B testing 和 shadow deployment 降風險、data drift 與 model degradation 的監控設計,以及 retraining cadence 如何接成一個能自我強化的 data flywheel。練習題是一道 OpenAI 的『設計即時推薦系統』進階題,練的是怎麼在 clarifying questions 之後,用七大元件框架把答案講成一條完整的資料到監控的鏈路。

AI Engineer 面試日練 — 2026-09-02:ML System Design

ML System Design 面試考的不是你會不會畫架構圖,而是你能不能把每一層的取捨講清楚。今天聚焦四個高頻考點:feature store 如何保證 training/serving 一致性、部署策略要怎麼分層選擇並設計 rollback 觸發條件、監控要拆成 system/data/model 三層並用 PSI/KS test 抓 drift,以及線上推論的 latency 預算怎麼分配。練習題是「設計一個電商即時推薦服務」,走一遍從釐清需求、估算流量、到 feature store 與部署策略的完整設計。

ByteByteGo:從自費出書到百萬訂閱的系統設計帝國

前 Twitter / Apple / Zynga 工程師 Alex Xu 2020 年自費出版《System Design Interview》,一本書打進 Amazon 暢銷榜;2022 年與前 Discord 工程師 Sahn Lam 聯手推出 Substack 電子報,首月即破 2.6 萬訂閱,兩年半達百萬。從書到電子報、YouTube、付費平台,ByteByteGo 2024 年營收 $3.5M,團隊從兩人擴張到 26 人——全程零外部融資。

AI Engineer 面試日練 — 2026-08-26:ML System Design

ML system design 面試考的是把商業目標翻譯成完整的機器學習系統,不是背 buzzword。今天聚焦四塊高頻考點:feature store 的 online/offline 雙軌與 point-in-time correctness、線上推論的延遲預算與 shadow mode、A/B test 該用什麼隨機化單位與怎麼分辨 novelty effect,以及用 PSI 偵測 data drift 和 concept drift 的差別。

ML System Design 面試攻略:從需求拆解到生產架構

ML System Design 面試的核心不是選模型,而是怎麼把一個商業目標變成一個可上線、可監控、可迭代的 ML 系統。面試官想看你能不能:把業務目標翻成 ML 目標、設計 data pipeline 和 feature store、選擇合理的 serving 策略、規劃 monitoring 和 A/B testing。

AI Engineer 面試全景圖:從公司類型到準備策略

AI Engineer 面試不只考 ML——大廠看系統設計與 coding,新創看端到端交付,AI-native 公司看 LLM 工程深度。準備策略:先釐清目標公司類型,再按六大維度(ML 基礎、系統設計、LLM 應用、Coding、Paper Reading、行為面試)分配時間。

AI Engineer 面試日練 — 2026-08-20:ML System Design

ML system design 面試的核心不是選哪個模型,而是怎麼讓模型在生產環境活下來。今天聚焦四個高頻考點:feature store 的 online/offline 分離、training-serving skew 的根因與防堵、模型部署策略(shadow/canary/blue-green),以及超越 HTTP error rate 的 ML-specific 監控。