パターン認識
ークラスタリングとEMアルゴリズムー
担当:和田 俊和
部屋 A513
Email [email protected]
講義資料はhttp://wada1.sys.wakayama-u.ac.jp/PRA/
単純クラスタリング、k-meansクラスタリング、最大距離アルゴリズム、
EMアルゴリズム
クラスタリング
ー似たものをまとめる処理ー
クラスタ(Cluster)=塊(かたまり)
Clustering = クラスタを作る処理
クラスタリング
=教師なし学習
どのクラスに属するかが明示的に示されていないトレーニ
ングデータに、データ間の類似性もしくは相違性に基づい
てクラスラベルを付けていくこと。つまり、教師信号は与え
られない。
この問題を解くには、何らかの仮定を導入する必要がある。
単純クラスタリング
同一クラスタに属するパターン間の距離に関する制約を設ける
•中心からの距離がT以内に存在するパターンを一つのク
ラスタとする。
•T以上離れている場合は、新しいクラスタ中心となる。
T
T
T
T
T
単純クラスタリング
同一クラスタに属するパターン間の距離に関する制約を設ける
単純クラスタリング
同一クラスタに属するパターン間の距離に関する制約を設ける
欠点:
•データを与える順序に依存した結果しか得られない
•閾値Tを知る方法がない。
K-Meansクラスタリング
クラスタ数をあらかじめ決めておく
1. クラスタ中心をランダムに決めておき、
2. クラスタ中心からの距離を基にしてそのデータの帰属
クラスタを決め
3. データの帰属性をもとにしてクラスタ中心を再計算する
4. クラスタ中心が移動していれば、2に戻る。
K-Meansクラスタリング
クラスタ数をあらかじめ決めておく
K-Meansクラスタリングデモ
K-Meansクラスタリング
クラスタ数をあらかじめ決めておく
欠点
•クラスタ数を既知としなければならない。
•初期値に依存して結果が変わる。
•計算が収束しない場合がある。
ISODATAアルゴリズム
K-means アルゴリズムに
– 同じクラスタに属するサンプルが閾値未満の
場合、そのクラスタを作らない。
– クラスタ間距離が閾値未満の場合、それらの
クラスタをまとめる
– クラスタ内の分散が大きくなりすぎるとクラスタ
を分割する
という条件を加えたもの。
Tou, Julius T. and Rafael C. Gonzalez. 1974.
Pattern Recognition Principles. AddisonWesley Publishing Co.
最大距離アルゴリズム
最大クラスタ間距離を基準として、クラスタ間距離に関する制約を設ける
•各クラスタ間の距離が最大クラスタ間距離のn/m以内にな
るようにクラスタリングを行う。
n
d12  d 32
m
d12
d13
d 32
最大距離アルゴリズム
最大クラスタ間距離を基準として、クラスタ間距離に関する制約を設ける
他のクラスタリング手法
• グラフを用いたクラスタリング(最小全域木
を用いたクラスタリングなど)
• Fuzzy クラスタリング
• 階層的クラスタリング
• EMアルゴリズム
• その他
混合(確率密度)分布
サンプルが複数の分布の重み付き和に従うとき
m
p(x | i )   j p(x; θ j )
j 1
サンプルxkからこのξjとθjを求めることができれば、
分布形状が決定できる。ちなみに、mは既知である。
各xkに関して、どのjの分布に従うかを決めることが
できれば、通常の最尤推定が適用できる。
不完全データ
完全
データ
X  x1 , x2 , , xn 
Y  (x1, J1 ), (x2 , J 2 ), , (xn , J n ), 1  J i  m
EM アルゴリズムの概要
1. E (Expectation) ステップ : 次で定義される完全データの対数尤度
の条件付き期待値 を計算する.(ここでは、 θ  (θ1,θm ,1,,m )
と見なす。)
Q(θ | X ; θ )  Eθ(t ) log p(y; θ) | X 
(t )

y Y ( X)
p(y | X ; θ ) log p(y; θ)dy
(t )
具体的な計算方法は後に述べる。
(t )
Q
(
θ
|
X
;
θ
) を θ について 最大化した
2. M (Maximization) ステップ :
ものを θ (t 1) とおき、t=t+1として1に戻る。
E step の詳細
1. 分布モデル
m
p(x; θ)   j p(x; θ j )
j 1
X がJ番目の要素分布に従う確率を
(t )

p
(
x
;
θ
(t )
J
J )
q ( J | x)  m
とすると
(t )
k 1 k p(x; θk )
これによって重み付けをした尤度の和として、
n
m
Eθ(t ) log p(y; θ) | X    q (t ) (k | xi ) log k p(xi ; θ k )
i 1 k 1
が得られる。この式を最大化するξkとθkを求める。
M step の詳細
問題:
Eθ(t ) log p(y; θ) | X  を   k  1 という条件の下で、
m
最大化する θ を求める。
n
k 1
m
Eθ(t ) log p(y; θ) | X    q (t ) (k | xi ) log k p(xi ; θ k )
i 1 k 1
に Lagrange の未定係数項を加えて式の変形をしていくと、結果
的に、次式が得られる。
n

Θkに関してはこ
の式から求める。
( t 1)
J
1
(t )
  q ( J | xi )
n i 1
(t )

log
p
(
x
;
θ
(t )
i
J )
q ( J | xi )
0

θ J
i 1
n
M step の詳細:混合正規分布の場合

( t 1)
J
1 n (t )
  q ( J | xi )
n i 1
μ (Jt 1) 

( t 1)
J

1
n J(t 1)
1
n
n
(t )
q
 ( J | xi )xi
i 1
n
q
( t 1)
i 1
J
(t )
( J | xi )(xi  μ
( t 1)
J
)(xi  μ
( t 1) T
J
)
混合正規分布のあてはめ
EM\MixtureEMj.html
ダウンロード

WPR-8