体系ガイド · 基礎から応用へ

特徴表現・次元削減・クラスタリング

距離と尺度がデータの見え方を変えることを確認し、PCAとクラスタリングの目的を分ける。

この記事をロゲイアに質問する確認問題3問に進むこれまでの誤答を復習する

更新日

この記事の目次
  1. 特徴表現が距離を決める
  2. PCAは分散を残す射影
  3. k-meansは重心までの距離を小さくする
  4. ラベルなしでも検証は必要
  5. この記事をロゲイアに質問する理解を確かめる

特徴表現が距離を決める

同じ利用者でも、年齢を年で表すか日で表すかで数値の尺度は大きく変わります。ユークリッド距離へそのまま入れると、単位の大きい列が距離を支配することがあります。特徴量の標準化はこの影響を調整しますが、全ての列を同じ重要さにすべきという保証ではありません。カテゴリの番号にも注意が必要で、地域コード1と2が、1と9より本当に近いとは限りません。データの表現と距離の選択は、教師なし学習が発見する構造の前提になります。

PCAは分散を残す射影

PCAは中心化したデータで分散の大きい直交方向を求め、少数の方向へ射影します。二次元の点がほぼ斜めの直線上に並ぶなら、その直線方向を一軸として多くのばらつきを表せます。捨てた直交方向には再構成誤差が残ります。分散の大きさは予測対象への重要さとは別で、低分散の特徴に重要な区別がある場合もあります。平均や射影方向は訓練部分から決め、後続の評価データへ同じ変換を適用します。説明分散比だけで用途への適合を判断しません。

k-meansは重心までの距離を小さくする

k-meansは各点をクラスタへ割り当て、重心との二乗距離の合計を小さくする方法です。点0、1、10、11を二群へ分ければ、自然な候補は{0,1}と{10,11}で、重心は0.5と10.5です。割当てと重心更新を反復しますが、初期値によって局所的な解が変わり得ます。丸く似た尺度の群に合いやすいという性質があり、細長い形や密度の異なる群が、そのまま望む分類になるとは限りません。クラスタ番号に固有の意味や順序があるわけでもありません。

ラベルなしでも検証は必要

教師なしという名前は、結果の正しさを検証しなくてよいという意味ではありません。クラスタ数や距離、尺度を変えたときの安定性、外れ値、後続の用途での役立ち方を調べます。シルエット係数などの内部指標は、選んだ距離に対するまとまりの尺度であり、真の利用者属性を発見した証明ではありません。可視化へ二次元に落とすと、元の空間の距離や近傍が変わることもあります。見つかった群に説明を与える前に、表現が作り出した見かけの構造でないかを確認します。

読了と問題の結果を、言語ごとにこのブラウザへ保存します。

コースの順番に沿って学ぶ

AI基盤へ進む · STEP 16

学習コースから次を選ぶ