Modele de amestec Bernoulli

Mixture Models în R

Victor Medina

Researcher at The University of Edinburgh

Setul de date cu cifre scrise de mână

Mixture Models în R

Variabile continue versus discrete

Distribuția Gaussiană

Distribuția Bernoulli (aruncarea unei monede)

Mixture Models în R

Distribuția Bernoulli

  • Două rezultate posibile
    • „pajură" sau „cap"
    • „negru" sau „alb"
  • Reprezentat printr-o probabilitate de „succes" $\rightarrow p$
    • $(1- p)$ = probabilitatea celeilalte opțiuni
Mixture Models în R

Eșantion din distribuția Bernoulli

p <- 0.7
bernoulli <- sample(c(0, 1), 100, replace = TRUE, prob = c(1-p, p))
head(bernoulli)

1 1 1 0 0 1
Mixture Models în R

Imagine binară ca distribuții Bernoulli

Mixture Models în R

Imagine binară ca vector Bernoulli

Mixture Models în R
p1 <- 0.7; p2 <- 0.5; p3 <- 0.4

bernoulli_1 <- sample(c(0, 1), 100, replace = TRUE, prob = c(1-p1, p1))
bernoulli_2 <- sample(c(0, 1), 100, replace = TRUE, prob = c(1-p2, p2))
bernoulli_3 <- sample(c(0, 1), 100, replace = TRUE, prob = c(1-p3, p3))

multi_bernoulli <- cbind(bernoulli_1, bernoulli_2, bernoulli_3)

head(multi_bernoulli, 4)

     bernoulli_1 bernoulli_2 bernoulli_3
[1,]           1           0           0
[2,]           0           0           0
[3,]           0           0           1
[4,]           1           0           0

p_vector <- c(p1, p2, p3)
Mixture Models în R

Modele de amestec Bernoulli

Setul de date cu cifre scrise de mână:

  1. Care este distribuția de probabilitate potrivită?
    • Distribuția Bernoulli (multivariată).
  2. Câte subpopulații trebuie luate în considerare?
    • Să încercăm cu două. Adică doi vectori binari de dimensiune 256.
  3. Care sunt parametrii și estimările lor?
    • Câte un $p$ pentru fiecare vector binar. Și cele două proporții.
Mixture Models în R

Să exersăm!

Mixture Models în R

Preparing Video For Download...