交差確認

交差確認 (cross validation)†

サンプル集合 X から汎化誤差を推定する方法

X を n 個の部分集合に分割する
i=1…n について以下を繰り返す
- i 番目の部分集合を Xi，その残りを ~Xi=X-Xi とする
- 訓練集合に ~Xi を，テスト集合に Xi を用いてエラー \(e_i\) を計算
汎化誤差は \(\frac{1}{n}\sum_i^n e_i\) になる．

n個に分割したとき n分割交差確認 (n-fold cross validation) という．特に，Xの要素数がNのとき N 分割交差確認をすると leave-one-out法という．

cross validation の訳語には，交差確認と交差検証とがあるようです．みなさんはどちらの訳語を使っていますか？

-- とおりすがり「交差検定」として使っています。

-- しましま推定の誤差を見積もる方法で，危険率を設定して仮説の棄却を扱う検定の方法ではないので，私はここで『検定』の言葉は使わない方がよいと思います．また，検定は test の訳語になってて，validation の訳語には統計ではあまり使わないかとも思います．

-- しましま

線形モデルなどの場合，cross validation error が陽に求められるのが重要 (具体的な式はいつか追記)． cross validation によって得られた推定量は縮小推定量と関係が深い．一般化交差確認 (generalized cross validation; GCV) についてもいつか追記