-- あかほ
入力空間 \(\mathbf{x}\) を何か非線形変換 \(\phi\) を高次元の特徴空間 \(\phi(\mathbf{x})\) へ写す．
この特徴空間中での内積がカーネル:
\[k(\mathbf{x}_i,\mathbf{x}_j)=\phi(\mathbf{x}_i)\cdot\phi(\mathbf{x}_j)\]
変換 \(\phi\) が明示的に分からなくてもカーネルだけ計算できるような，特徴空間中の量がいろいろある．例えば，特徴空間中の分散は
\[\sum_i^n (\phi(\mathbf{x}_i)-\bar{\phi(\mathbf{x})})^2=\sum_i^n \Bigl[k(\mathbf{x}_i,\mathbf{x}_i)-\frac{2}{n}\sum_j^n k(\mathbf{x}_i,\mathbf{x}_j)+\frac{1}{n^2}\sum_{j,k}^n k(\mathbf{x}_j,\mathbf{x}_k)\Bigr]\]
と書ける．このように，カーネルを用いて，特徴空間中での解析を行うことをカーネルトリックという．
-- しましま
関連項目†
リンク集†
関連文献†
- 赤穂昭太郎 "本 カーネル多変量解析—非線形データ解析の新しい展開" 確率と情報の科学シリーズ, 岩波書店 (2008)
Amazon.co.jpへのリンク：&amazon(4000069713);
- 福水 健次「カーネル法入門 ー正定値カーネルによるデータ解析ー」シリーズ多変量データの統計科学 8, 朝倉書店 (2010)
&amazon(4254128088);
- 鹿島久嗣「カーネル法」
- 構造化データのためのカーネルのサーベイ KDD Explorations, vol.5, issue 1
(タイトルがなぜか"Kernel-based Learning in Multi-Relational Data Mining"になっている)
T. Gärtner, "A Survey of Kernels for Structured Data", SIGKDD Explorations, vol.5, issue 1, pp.49-58 (2003)
GoogleScholarAll:A Survey of Kernels for Structured Data
- いろいろなカーネルの紹介
津田宏治 "カーネル設計の技術" IBIS2002, pp.1-10 (2002)
松本裕治 "自然言語処理におけるカーネル法の利用" IBIS2002, pp.19-24 (2002)
鹿島 久嗣 "カーネル法による構造データマイニング" 情報処理, vol.46, no.1, pp.27-33 (2005)
- カーネルトリック
M.A.Aizerman, E.M.Braverman, and L.I.Rozonoer, "Theoretical foundations of the potential function method in pattern recognition learning", Automation and Remote Control, vol.25, pp.821-837 (1964)
GoogleScholarAll:Theoretical foundations of the potential function method in pattern recognition learning
- カーネル多変量解析(確率と情報の科学)
- Book/Pattern Recognition and Machine Learning 6章
- Book/データマイニングの基礎 3.3.2節
- Book/サポートベクターマシン(知の科学) 2章
![[PukiWiki]](image/ibisforest.png "[PukiWiki]")
