クラスのラベルが付加された訓練事例が与えられているクラス分類の場合: 分類したい事例から近い方から順にk個の事例を見つける.これら,k個の事例のうち,最も多数をしめるクラスに分類する.
各データ点での関数値が付加された訓練事例が与えられている回帰分析の場合: 分類したい事例から近い方から順にk個の事例を見つける. これら,k個の事例の関数値を,その事例までの距離に対して減少するような重みをつけた,加重平均して推定値とする.
分類のたびに訓練事例全体を走査するため,分類に必要な計算量は大きい. 事前に学習を全く行わず,蓄えた訓練事例から直接,計算するので,こうした手法をメモリベース (memory-based) 法やアプローチと呼ぶ. k=1のときを特に 最近傍法 (nearest neighbor method) という. 単純な方法だが,その予測精度は結構よい.
-- しましま