Modele mieszanki Bernoulliego

Modele mieszane w R

Victor Medina

Researcher at The University of Edinburgh

Zbiór danych ręcznie pisanych cyfr

Zmienne ciągłe a dyskretne

Rozkład Gaussa

Rozkład Bernoulliego (rzut monetą)

Rozkład Bernoulliego

Dwa możliwe wyniki
- „orzeł" lub „reszka"
- „czarny" lub „biały"
Opisywane prawdopodobieństwem „sukcesu" $\rightarrow p$
- $(1- p)$ = prawdopodobieństwo drugiej opcji

Próbka rozkładu Bernoulliego

p <- 0.7
bernoulli <- sample(c(0, 1), 100, replace = TRUE, prob = c(1-p, p))
head(bernoulli)

1 1 1 0 0 1

Obraz binarny jako rozkłady Bernoulliego

Obraz binarny jako wektor Bernoulliego

p1 <- 0.7; p2 <- 0.5; p3 <- 0.4

bernoulli_1 <- sample(c(0, 1), 100, replace = TRUE, prob = c(1-p1, p1))
bernoulli_2 <- sample(c(0, 1), 100, replace = TRUE, prob = c(1-p2, p2))
bernoulli_3 <- sample(c(0, 1), 100, replace = TRUE, prob = c(1-p3, p3))

multi_bernoulli <- cbind(bernoulli_1, bernoulli_2, bernoulli_3)

head(multi_bernoulli, 4)

     bernoulli_1 bernoulli_2 bernoulli_3
[1,]           1           0           0
[2,]           0           0           0
[3,]           0           0           1
[4,]           1           0           0

p_vector <- c(p1, p2, p3)

Modele mieszanki Bernoulliego

Zbiór danych ręcznie pisanych cyfr:

Jaki rozkład prawdopodobieństwa jest odpowiedni?
- Rozkład Bernoulliego (wielowymiarowy).
Ile podpopulacji należy rozważyć?
- Spróbujmy z dwiema. To dwa wektory binarne o rozmiarze 256.
Jakie są parametry i ich estymacje?
- Każde $p$ dla każdego wektora binarnego. Oraz dwie proporcje.

Czas na ćwiczenia!

Modele mieszane w R