Python

【次元低減】UMAP, PCA, t-SNE, PCA + UMAP の比較

Dimensionality Reduction

こんにちは。

現役エンジニアの”はやぶさ”@Cpp_Learningです。仕事でもプライベートでも機械学習で色々やってます。

今回は次元低減の各手法を比較したので、備忘録も兼ねて本記事を書きます。

モチベーション

高次元データを扱う場合、UMAPのみで次元削減するのではなく、PCAで次元削減⇒UMAPで次元削減するのが有効とのこと。

そもそも複数の次元削減手法を組み合わせるという発想がなかったので、新鮮に感じたと同時に…

はやぶさ
はやぶさ
本当かな?もしそうならPCAとUMAPでそれぞれどれくらい次元削減すれば良いの?

というのが気になったので、簡単な比較をしてみました。

実践!PythonでUMAP, PCA, t-SNE, “PCA & UMAP”を比較

以降からUMAP, PCA, t-SNE, “PCA & UMAP”の次元削減手法を実装していきます。

データセット

高次元かつ他の人も入手しやすいデータセットが load_digits(手書き数字の画像)しか思いつかなかったので、それを使います。

データセット可視化

一応データセットを可視化してみます。

手書き数字データセット

こんな感じの0~9の手書き数字データセットです。

t-SNEによる次元削減から可視化まで

本ブログでもお馴染みの t-SNE は以下のように関数化して使い回しています。

t-SNEによる次元削減から可視化まで

64次元のデータ(画像)を2次元に圧縮して空間に埋め込んだものが上図です。

0~9の10classあり、同じクラス同士の距離が近く、異なるクラス同士の距離が遠い空間を生成できました。つまり、t-SNEによりクラスタリング容易な埋め込み空間を生成できたといえます。

PCAによる次元削減から可視化まで

さきほどの関数を少し変更するだけで、別の次元削減手法を試せます。以下はPCAのコードです。

PCAによる次元削減から可視化まで

t-SNEと比べるとクラスタリングしにくい埋め込み空間といえます。(この図を見せられて「クラスを分類する境界線を引いて」と言われても困りますよね?)

UMAPによる次元削減から可視化まで

もう分かると思うけど、今まで使ってきた関数の8行目を変更するだけで、UMAPも試せます。

UMAPによる次元削減から可視化まで

t-SNEよりもコンパクトにまとまった埋め込み空間を生成できました。これもクラスタリングしやすい良い空間だと思います。

“PCA & UMAP”による次元削減から可視化まで

本題の”PCA & UMAP”による次元削減をしてみます。Twitter経由でPCAで50次元に圧縮するのが良いかも(?)という情報を頂きました。

In many t-SNE applications, a value of 50 is recommended, although there’s no guarantee that this is appropriate for all settings.

引用元:uwot::umapのドキュメント

ただ、今回は64次元のデータなので、50次元だとあまり圧縮できません。なので、とりあえずPCAで元データを2/3(40次元)に圧縮してみます。

PCA+UMAPによる次元削減から可視化まで

  1. 64次元の入力データをPCAで40次元に圧縮
  2. さらにUMAPで2次元に圧縮

UMAP単体より、少しだけ良い埋め込み空間を生成できた気がします。

主成分分析(PCA)と累積寄与率

PCAでn次元に圧縮したとき、第1主成分(PC1)から第n主成分(PCn)が存在します。

また各主成分の寄与率(元データの情報が何%含まれているか)を算出し、累積寄与率80%の主成分までを使うのが良いようです。

主成分分析(PCA)と累積寄与率

上図を参考に第13成分(PC13)までを使い、改めて”PCA & UMAP”による次元削減をした結果が以下です。

UMAP
UMAPによる次元削減から可視化まで
PCA40&UMAP
PCA+UMAPによる次元削減から可視化まで
PCA13&UMAP
PCA+UMAPによる次元削減から可視化まで

PCA13&UMAPがPCAで元データ(64次元)を13次元に圧縮し、さらにUMAPで2次元に圧縮した結果です。

今回の場合、PCAで元データを2/3(40次元)に圧縮した埋め込み空間が最もクラスタリングしやすい(パッと見で境界線を引けそうな)結果だと感じました。

スポンサーリンク

おわりに

複数の次元削減手法を組み合わせることで、クラスタリング容易な埋め込み空間を生成できるのか?というのが気になり、各手法を簡単に比較してみました。

今回扱った64次元のデータ(画像)の場合、”PCA&UMAP”の組み合わせが僅差で良い結果だと感じました。ただし、以下の点が検証不足です。

  • 画像以外のデータの場合はどうなる?
  • もっと高次元のデータの場合は?
  • あるいはもっと低次元のデータの場合は?
  • PCA以外の手法とUMAPを組み合わせた場合は?

など

各種検証した結果をまとめたら面白そうだなぁと思いつつ、一人で実践するのは非常に時間がかかりそうなので、ここで終わります。

本記事をきっかけに、次元削減手法の組み合わせに興味をもった人が現れたら嬉しいです。また何らかの検証を行い、情報共有してくれたら最高に嬉しいです。

はやぶさ
はやぶさ
埋め込み空間(Embedding Space)の生成とか好きなので、情報共有してくれたら嬉しいな。

ディープラーニングで埋め込み空間を生成する手法(深層距離学習)も面白いよ。

Amazonギフト券購入で500ポイント還元中!

Amazonギフト券を3,000円分購入すると500ポイントもらえる!

Amazon商品2,000円分とギフト券を同一カートで購入するだけ。

キャンペーン期間は1/31まで。急げ!

 

ギフト券キャンペーンをチェックする

ギフト券と同じカートでまとめ買いができる商品すべて対象

PICK UP BOOKS

  • 数理モデル入門
    数理モデル
  • Jetoson Nano 超入門
    Jetoson Nano
  • 図解速習DEEP LEARNING
    DEEP LEARNING
  • Pythonによる因果分析
    Python