Skip to content
所有標籤

#vc-bound

1 篇文章

泛化理論:一個 break point 怎麼把成長函數壓成多項式|台大林軒田 機器學習基石 第 6 堂

假說集合只要有 break point k,N 個點上最多能產生的 dichotomy 數 B(N, k) 就滿足 B(N, k) ≤ B(N−1, k) + B(N−1, k−1),由此推出 B(N, k) ≤ C(N, 0) + … + C(N, k−1),最高次是 N 的 k−1 次方。再用三個步驟把成長函數放進 Hoeffding,得到 VC bound:壞事機率 ≤ 4·m_H(2N)·exp(−ε²N/8)。二維感知器的 break point 是 4,所以學得起來。