Bootstrap aggregating

Metode de ansamblu în Python

Román de las Heras

Data Scientist, Appodeal

Ansambluri eterogene vs. omogene

Eterogen:

  • Algoritmi diferiți (ajustați fin)
  • Număr mic de estimatori
  • Votare, Mediere și Stacking

Omogen:

  • Același algoritm (model „slab")
  • Număr mare de estimatori
  • Bagging și Boosting
Metode de ansamblu în Python

Teorema juriului a lui Condorcet

Cerințe:

  • Modelele sunt independente
  • Fiecare model performează mai bine decât ghicitul aleatoriu
  • Toate modelele individuale au performanțe similare

Concluzie: Adăugarea mai multor modele îmbunătățește performanța ansamblului (Votare sau Mediere), aceasta apropiindu-se de 1 (100%)

Condorcet Marchizul de Condorcet, filosof și matematician francez

Metode de ansamblu în Python

Bootstrapping

Bootstrapping necesită:

  • Subeșantioane aleatoare
  • Eșantionare cu înlocuire

Bootstrapping garantează:

  • Diversitate: seturi de date diferite
  • Independență: eșantionate separat

Bagging.png

Metode de ansamblu în Python

Avantaje și dezavantaje ale bagging

Avantaje

  • Bagging reduce de obicei varianța
  • Supraajustarea poate fi evitată de ansamblu
  • Stabilitate și robustețe mai mari

Dezavantaje

  • Este costisitor din punct de vedere computațional
Metode de ansamblu în Python

Este timpul să exersați!

Metode de ansamblu în Python

Preparing Video For Download...