ベルヌーイ混合モデル

R で学ぶ Mixture Models

Victor Medina

Researcher at The University of Edinburgh

手書き数字データセット

R で学ぶ Mixture Models

連続変数と離散変数

ガウス分布

ベルヌーイ分布（コイン投げ）

R で学ぶ Mixture Models

ベルヌーイ分布

  • 取りうる結果は2つ
    • 「裏」または「表」
    • 「黒」または「白」
  • 「成功」確率で表す → $p$
    • $(1- p)$ はもう一方の確率
R で学ぶ Mixture Models

ベルヌーイ分布のサンプル

p <- 0.7
bernoulli <- sample(c(0, 1), 100, replace = TRUE, prob = c(1-p, p))
head(bernoulli)

1 1 1 0 0 1
R で学ぶ Mixture Models

ベルヌーイ分布としての二値画像

R で学ぶ Mixture Models

ベルヌーイベクトルとしての二値画像

R で学ぶ Mixture Models
p1 <- 0.7; p2 <- 0.5; p3 <- 0.4

bernoulli_1 <- sample(c(0, 1), 100, replace = TRUE, prob = c(1-p1, p1))
bernoulli_2 <- sample(c(0, 1), 100, replace = TRUE, prob = c(1-p2, p2))
bernoulli_3 <- sample(c(0, 1), 100, replace = TRUE, prob = c(1-p3, p3))

multi_bernoulli <- cbind(bernoulli_1, bernoulli_2, bernoulli_3)

head(multi_bernoulli, 4)

     bernoulli_1 bernoulli_2 bernoulli_3
[1,]           1           0           0
[2,]           0           0           0
[3,]           0           0           1
[4,]           1           0           0

p_vector <- c(p1, p2, p3)
R で学ぶ Mixture Models

ベルヌーイ混合モデル

手書き数字データセット：

  1. 適切な確率分布は？
    • （多変量）ベルヌーイ分布
  2. いくつのサブ集団を想定する？
    • とりあえず2つ。256次元の二値ベクトルが2本。
  3. パラメータと推定量は？
    • 各ベクトルの各$p$。さらに2つの混合比。
R で学ぶ Mixture Models

Vamos praticar!

R で学ぶ Mixture Models

Preparing Video For Download...