前 Twitter / Apple / Zynga 工程師 Alex Xu 2020 年自費出版《System Design Interview》，一本書打進 Amazon 暢銷榜；2022 年與前 Discord 工程師 Sahn Lam 聯手推出 Substack 電子報，首月即破 2.6 萬訂閱，兩年半達百萬。從書到電子報、YouTube、付費平台，ByteByteGo 2024 年營收 $3.5M，團隊從兩人擴張到 26 人——全程零外部融資。
ML system design 面試考的是把商業目標翻譯成完整的機器學習系統，不是背 buzzword。今天聚焦四塊高頻考點：feature store 的 online/offline 雙軌與 point-in-time correctness、線上推論的延遲預算與 shadow mode、A/B test 該用什麼隨機化單位與怎麼分辨 novelty effect，以及用 PSI 偵測 data drift 和 concept drift 的差別。
ML System Design 面試的核心不是選模型，而是怎麼把一個商業目標變成一個可上線、可監控、可迭代的 ML 系統。面試官想看你能不能：把業務目標翻成 ML 目標、設計 data pipeline 和 feature store、選擇合理的 serving 策略、規劃 monitoring 和 A/B testing。
AI Engineer 面試不只考 ML——大廠看系統設計與 coding，新創看端到端交付，AI-native 公司看 LLM 工程深度。準備策略：先釐清目標公司類型，再按六大維度（ML 基礎、系統設計、LLM 應用、Coding、Paper Reading、行為面試）分配時間。
ML system design 面試的核心不是選哪個模型，而是怎麼讓模型在生產環境活下來。今天聚焦四個高頻考點：feature store 的 online/offline 分離、training-serving skew 的根因與防堵、模型部署策略（shadow/canary/blue-green），以及超越 HTTP error rate 的 ML-specific 監控。