Помилка узагальнення

Машинне навчання з деревоподібними моделями в Python

Elie Kawerk

Data Scientist

Навчання з учителем — як це працює

  • Навчання з учителем: $y = f(x)$, $f$ невідома.

зашумлений набір даних

Машинне навчання з деревоподібними моделями в Python

Мети навчання з учителем

  • Знайти модель $\hat{f}$, що найкраще наближує $f$: $\hat{f} \approx f$

  • $\hat{f}$ може бути Logistic Regression, Decision Tree, Neural Network ...

  • Максимально відкидати шум.

  • Кінцева мета: $\hat{f}$ має мати низьку помилку прогнозу на невиданих наборах даних.

Машинне навчання з деревоподібними моделями в Python

Складнощі наближення $f$

  • Переобучення (overfitting):

    $\hat{f}(x)$ підганяє шум тренувальної вибірки.

  • Недонавчання (underfitting):

    $\hat{f}$ недостатньо гнучка, щоб наблизити $f$.

Машинне навчання з деревоподібними моделями в Python

Overfitting

переобучення

Машинне навчання з деревоподібними моделями в Python

Underfitting

недонавчання

Машинне навчання з деревоподібними моделями в Python

Помилка узагальнення

  • Помилка узагальнення $\hat{f}$: чи добре $\hat{f}$ узагальнює на невиданих даних?

  • Її можна розкласти так:

    Помилка узагальнення $\hat{f} = bias^2 + variance + \text{irreducible error}$

Машинне навчання з деревоподібними моделями в Python

Зсув (Bias)

  • Зсув (bias): показує, наскільки в середньому $\hat{f} \neq f$.

високий зсув

Машинне навчання з деревоподібними моделями в Python

Дисперсія (Variance)

  • Дисперсія (variance): показує, наскільки $\hat{f}$ нестала на різних тренувальних вибірках.

висока дисперсія

Машинне навчання з деревоподібними моделями в Python

Складність моделі

  • Складність моделі: визначає гнучкість $\hat{f}$.

  • Приклад: максимальна глибина дерева, мінімум зразків на листок, ...

Машинне навчання з деревоподібними моделями в Python

Компроміс зсуву й дисперсії

розклад помилки узагальнення

Машинне навчання з деревоподібними моделями в Python

Компроміс зсув-дисперсія: візуальне пояснення

візуалізація компромісу зсув-дисперсія

Машинне навчання з деревоподібними моделями в Python

Давайте потренуємось!

Машинне навчання з деревоподібними моделями в Python

Preparing Video For Download...