階層的クラスター分析で使われるウォード法とは？ わかりやすく解説

KH Coder では、階層的クラスター分析のクラスター化の方法として、ウォード法、群平均法、最遠隣法の３つから選べる。

ウォード法がデフォルト設定で、おすすめだ。

ウォード法とはどういう方法なのか？

• クラスター化とは？
• クラスター化には4つ種類がある
• クラスター化はどれを用いるのがよいか？
• まとめ
• 参考 PDF
• おすすめ書籍

クラスター化とは？

階層的クラスター分析はクラスター化をしていく。

クラスター化とは何か？

階層的クラスター分析では、最初にJaccard係数等の指標で、単語同士の「距離」を計測する。

「距離」近い者同士が最初のクラスターを作る。

その次からクラスターとその他の単語、またはクラスター同士を結び付けていくことをクラスター化と呼ぶ。

Jaccard係数とは？

階層的クラスター分析とは？

クラスター化には4つ種類がある

コンピュータが発達した現在、クラスター化はおもに4つ方法があると言える。

以前にはもっと簡易的な方法があったが、コンピュータのおかげで、計算が簡易な方法は必要なくなった。

手計算の必要がないからだ。

クラスター化は以下の4つ。

1. 単リンク法 Single linkage method; 最短距離法 Minimum distance method; 最近隣法
2. 完全リンク法 Complete linkage method; 最長距離法 Maximum distance method; 最遠隣法
3. 群平均法 Group average method; UPGMA Unweighted pair-group using arithmetic average
4. ウォード法 Ward’s method; 最小分散法 Minimum variance method

KH Coderでは、２，３，４の３つから選択できる。

クラスター化はどれを用いるのがよいか？

クラスター化は、上記４のウォード法をお勧めする。

理由は、外れ値に強いから。

それぞれの方法のごく簡単な説明と特徴を示す。

1. 単リンク法：クラスター間の距離として、もっとも近い距離を選ぶ。外れ値に弱い。
2. 完全リンク法：クラスター間の距離として、もっとも遠い距離を選ぶ。外れ値に弱い。
3. 群平均法：クラスター間の距離として、重みづけ算術平均を計算する。外れ値に強い。
4. ウォード法：分散が最小になるようにクラスタリングする。外れ値に強い。

１～３は、クラスター同士もしくはクラスターと要素の距離をもって、クラスター化を進めているが、４のウォード法だけは、クラスター内もしくは間の分散に着目し、分散がもっとも小さくなるようにクラスター化を進める。

分散は、ユークリッド距離に通じていて、結局は距離を表しているが、ウォード法は、クラスターの要素に着目せず、全体を視野に入れている。

以上のような特徴を踏まえて、ウォード法が一番おすすめと考える。

詳しくはこちらの19枚目から23枚目を参照。

http://www.kamishima.net/archive/clustering.pdf

ユークリッド距離とは？

https://toukeier.hatenablog.com/entry/2019/06/26/211841toukeier.hatenablog.com

まとめ

階層的クラスター分析のクラスター化には、おもに4つ方法がある。

単リンク法、完全リンク法、群平均法、およびウォード法である。

おすすめはウォード法。

分散を最小化する方策でクラスタリングを進める。

外れ値に強く、実用的。

テキストマイニングソフト KH Coder でテキストマイニングする際には、階層的クラスター分析のクラスタリング方法のデフォルトとしてウォード法が設定されているので、そこは気にせず進められる。

参考 PDF

クラスタリング

おすすめ書籍

KH Coder オフィシャルブック II