官方 handout 完整題名是 Homework 3: Decision Trees, K-NN, Perceptron, Regression，是純 written 作業。主要題組是 decision tree revisited、regression tree、k-nearest neighbors、perceptron 與 linear regression；題內再處理 overfitting、error rates 與 model selection。ZIP 只有 PDF、LaTeX template 與題目圖檔，沒有 starter code、dataset 或 reference output。
不要把它讀成四份公式表
這份作業的主線是：同一批資料換一種 representation 或 decision boundary，哪個模型會先失敗？K-NN 的距離、perceptron 的線性可分性、regression 的 loss，以及 tree 的切分偏好，都在回答不同問題。
第一個檢查動作與完成判準
這份作業沒有安全且必要的第一個程式命令。第一個動作是打開 PDF／LaTeX bundle，先列出五個題組各自依賴的假設，再開始計算。完成判準是每題同時有結果與假設說明，並能對 XOR、含離群值直線、高維稀疏點預測各模型行為；因官方未提供答案，不能把自行推導稱為官方驗證。
XOR 怎麼暴露線性邊界限制
以下是本文自編的教學例子，不是官方作業答案。
自編四個點：(0,0)、(1,1) 標 0，(0,1)、(1,0) 標 1。一條直線要讓後兩點落在正側、前兩點在負側，等於同時要求 b<0、w₁+b>0、w₂+b>0、w₁+w₂+b<0。前兩個正側條件相加卻推出 w₁+w₂+b>-b>0，與最後條件衝突。
檢查與答案： 若加特徵 x₁x₂，能否解決？答案可以，例如 score=x₁+x₂-2x₁x₂-0.5，四點分數為 -0.5、-0.5、0.5、0.5（依上述點順序）。改表示可改可分性。
更新紀錄
- 2026-10-11：補上自編例子、完整計算或推理，以及理解檢查答案。
參考資料
Loading...