* inductive decision tree (ID3) [#e7b99ff2]

//ここには %項目の説明を書いてください.

J.R.Quinlan が考案した代表的な決定木アルゴリズム.改良版の[[C4.5]]が現在は主に利用される.

サンプル集合 S を,名義属性 \(A_k\) のとる値によって分割したサンプル集合を \(S_{A_k{=}v_{kl}}\) とする.このとき,サンプルのクラス C の分布についての情報ゲイン (information gain) を最大にする属性をノードを分割する属性として選択.
\[H_S(C) - \sum_{v_{kl}\in A_k} \frac{|S_{A_k{=}v_{kl}}|}{|S|} H_{S_{A_k{=}v_{kl}}}(C)\]
ただし,\(H_S(C)\) はサンプル集合 S でのクラス C のエントロピー.
属性がきまれば,その属性のノードを生成し,サンプル集合も分割.新たに生成された葉ノードで同じことを再帰的に繰り返す一種の分割統治アルゴリズム.

>-- しましま

**関連項目 [#je4fc5a3]

//関連する%項目%をリストしてください.
-[[inductive decision tree]]
#br
-[[決定木]]
-[[C4.5]]
-[[分割統治アルゴリズム]]
#br
-[[検索:ID3]]

** リンク集 [#kbdea650]

** 関連文献 [#l8da6fff]

-基本文献~
J.R.Quinlan, "Induction of Decision Trees", Machine Learning, vol.1, pp.81-106 (1986)~
[[GoogleScholarAll:Induction of Decision Trees]]
-[[Book/データマイニングの基礎]] 2.1節

トップ   編集 差分 バックアップ 添付 複製 名前変更 リロード   新規 一覧 単語検索 最終更新   ヘルプ   最終更新のRSS