カーネル多変量解析―非線形データ解析の新しい展開 (シリーズ確率と情報の科学)

posted with amazlet at 15.04.10

赤穂昭太郎
岩波書店
売り上げランキング: 147,611

Amazon.co.jpで詳細を見る

SVMとのつながりでしか理解していなかったカーネル法だが、実はもっと一般的で、サポートベクトルとは独立な概念。基本の線形モデルが特徴ベクトルの重みつき和で定義されるのに対し、カーネル多変量解析では、サンプルと入力のカーネル関数値の重みつき和で定義されるという、双対問題を先に与えてしまってから、カーネル関数の性質を考えていく本書の説明のほうが、これまで読んできた解説記事や書籍よりも、ずっとシンプルで理解しやすかった。正則化項の意味がリプレゼンター定理を知ることで理解できたし、グラム行列が正定値でないと何が、なぜ、どれぐらいマズいのかも理解でき、得るところが大きかった。

固有値問題に帰結されるクラス(主成分分析、ラプラシアン固有マップ法、ISOMAP、スペクトラルクラスタリング、判別分析、正準相関分析、独立成分分析)、凸計画問題に帰結されるクラス(SVM,SVR,ν-SVM、One-class SVM)に、それぞれ1章ずつ使って整理しているので、様々なテクニックの相互の関係がよくわかる。カーネル設計(拡散/フィッシャー/周辺化/多項式/文字列カーネル)の章を読むことで、独自カーネルの考案や計算高速化ができそうな気がしてきた。

カーネルの理論(6章)汎化と正則化の理論(7章)は高難度なため、目を通した程度だが、非常に興味深い内容であり、本書だけでなく、このトピックをより詳細に扱った他書を含めて再チャレンジしたい。