Média

Métodos de Ensemble em Python

Román de las Heras

Data Scientist, Appodeal

Contando jujubas

pessoas estimando número de jujubas em pote

Como fazer uma boa estimativa?

  • Chutar (número aleatório)
  • Aproximar por volume
  • Muitos outros métodos

Valor real ~ média(das estimativas)

Métodos de Ensemble em Python

Média (Soft Voting)

Propriedades

  • Problemas de Classificação e Regressão
  • Soft Voting: Média
    • Regressão: média dos valores previstos
    • Classificação: média das probabilidades previstas
  • Precisa de pelo menos 2 estimadores
Métodos de Ensemble em Python

Conjunto por média com scikit-learn

Averaging Classifier

from sklearn.ensemble import VotingClassifier

clf_voting = VotingClassifier(

    estimators=[
       ('label1', clf_1), 
       ('label2', clf_2),
       ...
       ('labelN', clf_N)],

    voting='soft',

    weights=[w_1, w_2, ..., w_N]
)

Averaging Regressor

from sklearn.ensemble import VotingRegressor

reg_voting = VotingRegressor(

    estimators=[
       ('label1', reg_1), 
       ('label2', reg_2),
       ...
       ('labelN', reg_N)],

    weights=[w_1, w_2, ..., w_N]
)
Métodos de Ensemble em Python

Exemplo com scikit-learn

# Instantiate the individual models
clf_knn = KNeighborsClassifier(5)
clf_dt = DecisionTreeClassifier()
clf_lr = LogisticRegression()

# Create an averaging classifier
clf_voting = VotingClassifier(
    estimators=[
       ('knn', clf_knn), 
       ('dt', clf_dt), 
       ('lr', clf_lr)],
    voting='soft',
    weights=[1, 2, 1]
)
Métodos de Ensemble em Python

Mortes em Game of Thrones

Alvo:

  • Prever se um personagem está vivo ou não

Atributos:

  • Idade
  • Gênero
  • Livros em que aparece
  • Popularidade
  • Se parentes estão vivos ou não

gelo e trono em estilo fantasia

Métodos de Ensemble em Python

Vamos praticar!

Métodos de Ensemble em Python

Preparing Video For Download...