- 追加された行はこの色です。
- 削除された行はこの色です。
- ID3 へ行く。
* inductive decision tree (ID3) [#e7b99ff2]
//ここには %項目の説明を書いてください.
J.R.Quinlan が考案した代表的な決定木アルゴリズム.改良版の[[C4.5]]が現在は主に利用される.
サンプル集合 S を,名義属性 \(A_k\) のとる値によって分割したサンプル集合を \(S_{A_k{=}v_{kl}}\) とする.このとき,サンプルのクラス C の分布についての情報ゲイン (information gain) を最大にする属性をノードを分割する属性として選択.
\[H_S(C) - \sum_{v_{kl}\in A_k} \frac{|S_{A_k{=}v_{kl}}|}{|S|} H_{S_{A_k{=}v_{kl}}}(C)\]
ただし,\(H_S(C)\) はサンプル集合 S でのクラス C のエントロピー.
属性がきまれば,その属性のノードを生成し,サンプル集合も分割.新たに生成された葉ノードで同じことを再帰的に繰り返す一種の分割統治アルゴリズム.
>-- しましま
**関連項目 [#je4fc5a3]
//関連する%項目%をリストしてください.
-[[inductive decision tree]]
#br
-[[決定木]]
-[[C4.5]]
-[[分割統治アルゴリズム]]
#br
-[[検索:ID3]]
** リンク集 [#kbdea650]
** 関連文献 [#l8da6fff]
-基本文献~
J.R.Quinlan, "Induction of Decision Trees", Machine Learning, vol.1, pp.81-106 (1986)~
[[GoogleScholarAll:Induction of Decision Trees]]
-[[Book/データマイニングの基礎]] 2.1節