階層的クラスター分析のクラスター化の方法のウォード法とはどういう方法なのか?
クラスター化とは?
階層的クラスター分析はクラスター化をしていく。
クラスター化とは何か?
階層的クラスター分析では、最初にJaccard係数等の指標で、単語同士の「距離」を計測する。
「距離」近い者同士が最初のクラスターを作る。
その次からクラスターとその他の単語、またはクラスター同士を結び付けていくことをクラスター化と呼ぶ。
Jaccard係数とは?
階層的クラスター分析とは?
クラスター化には4つ種類がある
コンピュータが発達した現在、クラスター化はおもに4つ方法があると言える。
以前にはもっと簡易的な方法があったが、コンピュータのおかげで、計算が簡易な方法は必要なくなった。
手計算の必要がないからだ。
クラスター化は以下の4つ。
- 単リンク法 Single linkage method; 最短距離法 Minimum distance method; 最近隣法
- 完全リンク法 Complete linkage method; 最長距離法 Maximum distance method; 最遠隣法
- 群平均法 Group average method; UPGMA Unweighted pair-group using arithmetic average
- ウォード法 Ward’s method; 最小分散法 Minimum variance method
クラスター化はどれを用いるのがよいか?
クラスター化は、上記4のウォード法をお勧めする。
理由は、外れ値に強いから。
それぞれの方法のごく簡単な説明と特徴を示す。
- 単リンク法:クラスター間の距離として、もっとも近い距離を選ぶ。外れ値に弱い。
- 完全リンク法:クラスター間の距離として、もっとも遠い距離を選ぶ。外れ値に弱い。
- 群平均法:クラスター間の距離として、重みづけ算術平均を計算する。外れ値に強い。
- ウォード法:分散が最小になるようにクラスタリングする。外れ値に強い。
1~3は、クラスター同士もしくはクラスターと要素の距離をもって、クラスター化を進めているが、4のウォード法だけは、クラスター内もしくは間の分散に着目し、分散がもっとも小さくなるようにクラスター化を進める。
分散は、ユークリッド距離に通じていて、結局は距離を表しているが、ウォード法は、クラスターの要素に着目せず、全体を視野に入れている。
以上のような特徴を踏まえて、ウォード法が一番おすすめと考える。
詳しくはこちらの19枚目から23枚目を参照。
http://www.kamishima.net/archive/clustering.pdf
ユークリッド距離とは?
まとめ
階層的クラスター分析のクラスター化には、おもに4つ方法がある。
単リンク法、完全リンク法、群平均法、およびウォード法である。
おすすめはウォード法。
分散を最小化する方策でクラスタリングを進める。
外れ値に強く、実用的。
参考 PDF
おすすめ書籍
KH Coder オフィシャルブック II
コメント