カーネルトリックとは(かーねるとりっく(Kernel Trick))

カーネルトリックは、「今いる次元では複雑に絡み合って見えるデータも、もっと高い次元に持ち上げれば単純な形(直線や平面)で分離できるようになることがある」というアイデアに基づいています。例えば2次元平面上でドーナツ状に分布したデータは直線1本では分けられませんが、これを3次元に持ち上げて中心からの距離に応じて高さを持たせると、平面1枚でスパッと分離できるようになります。

実際の計算では、データを高次元空間に明示的に写像するのではなく、「高次元空間で内積を計算したのと同じ結果を、元の次元のまま計算するための関数(カーネル関数)」を使います。これにより、理論上は無限次元への写像すら、計算コストを大きく増やすことなく扱えるという利点があります。

代表的なカーネル関数には、多項式カーネルやRBFカーネル(ガウスカーネル)などがあります。SVM(サポートベクターマシン)と組み合わせて使われることが多く、非線形な分類問題を線形分類の枠組みで解くための強力な道具です。