TL;DR HW2 要先用 entropy 與 mutual information 手算切分,再完成建樹、預測與評估的端到端分類器。
系列:
CMU 10-301 機器學習完整課程導讀
(2 / 10)
官方 handout 完整題名是 Homework 2: Decision Trees,屬於 written+programming。Written 包含 function approximation、decision-tree calculations、pseudocode 與 empirical questions;程式分成 inspection.py 的 entropy/majority-error 檢查,以及 decision_tree.py 的建樹、預測、評估與文字樹輸出。ZIP 提供 decision_tree.py starter、heart/purchase/small datasets,以及 small depth-3 的 labels、metrics、inspection reference output。
作業為什麼這樣排
手算迫使你看見「選哪個 feature」的依據,程式則暴露停止條件、tie-breaking 與深度限制。真正的模型不是一個公式,而是一組必須一致的決策。先用 small dataset 畫樹,再讓程式輸出同一棵;兩者不同時,不要先調參數。
第一個可執行動作與完成判準
先依 handout 指令 建立並跑 inspection:
python inspection.py small_train.tsv small_inspect.txt
完成判準是 small_inspect.txt 與公開 reference 一致,且 depth-3 tree 的 train/test labels、metrics 與文字樹可重現;再用完美可分、全同特徵與同分 feature 三組自造資料驗證停止與 tie-breaking。Gradescope 仍會使用未公開資料。
參考資料
Glossary
Loading...