機械学習

機械学習 (machine learning) †

人工知能関連で朱鷺の杜Wikiと関連のある分野． ただし，機械学習といったときは，ここで扱う学習に加えて，帰納論理プログラミングなどの数理論理系の研究も含めてさすことが多い．

-- しましま

関連項目 †

• machine learning
   
• 統計
• データマイニング
• パターン認識
• 多変量解析
• 情報論的学習理論
• 計算論的学習理論 (PAC学習)
   
• 検索:機械学習

学習の枠組み †

• 教師あり学習
  • 多クラス
    • 誤り訂正出力符号
  • マルチラベル
• 教師なし学習
• 半教師あり学習
  • トランスダクティブ学習
• メタ学習
• 転移学習
  • マルチタスク学習
  • 標本選択バイアス
  • 共変量シフト
• 強化学習
• 逐次学習
• アンサンブル学習
• 能動学習?

データの構造 †

• 時系列
• データストリーム
• マルチリレーショナルデータ
• 構造化データ
• 非構造化データ
• 半構造データ
• グラフマイニング

データの性質 †

• 欠損値
• はずれ値?
• 不均衡データ

リンク集 †

• 講義資料：統計的機械学習入門 @ 中川 裕志
• 機械学習とは @ 鹿島 久嗣
• 機械学習による自然言語処理チュートリアル @ 岡野原 大輔
• Machine Learning @ MIT Open Courseware
• Statistical Data Mining Tutorials @ Andrew Moore：機械学習としても良い資料
• Machine Learning Resources Wiki @ Washington State University
• A Statistical Learning/Pattern Recognition Glossary @ Thomas Minka
• Advanced Topics in Learning & Decision Making @ Michel Jordan：講義資料 (SVM，スペクトラルクラスタリング，VC次元，Dirichlet過程)
• Machine Learning @ Andrew Ng：基礎的内容．講義資料がいろいろ．
• Machine Learning @ AAAI AI topics
• Machine Learning Classifiers Gallery：いろいろなクラス分類器の性質を可視化
• Machine Learning @ videoLectures.net：講義ビデオ，機械学習の有名人多数
• PASCAL Network パターン解析, 統計的モデリング, 計算論的学習についてのヨーロッパのサイト
• 機械学習 @ 人工知能学会誌「私のブックマーク」
   
• Machine Learning @ Open Directory
• Wikipedia:Machine_learning
• Wikipedia.jp:機械学習

Freeware †

• mloss:machine-learning
• mloss:data-mining
   
• dlib C++ library：機械学習手法と，これらの手法が使う数値計算と最適化手法 (C++)
• DTREG：決定木，ニューラルネット，SVM，Fisher判別分析
• ELKI (Environment Developing KDD-Applications Supported by Index-Structures)
• FAEHIM：データマイニング用のWebサービス
• Java Data Mining API (Wikipedia:Java Data Mining)
• Java Data Mining Package (JDMP)：手法の独自実装に加え，Weka や LIBSVM などへのインターフェースを備える (java)
• Java Machine Learning Library (Java-ML) (java)
• KNIME (Konstanz Information Miner)
• LNKnet Pattern Classification Software
• Machine Learning Tools in Java：MLC++のjavaでの実装 (java)
• MLC++：機械学習ライブラリ (C++，クラス分類，決定木，アンサンブル学習)
• Mahout：Apache プロジェクトの機械学習ライブラリ
  • チュートリアル @ IBM developerWorks
• mlpy (machine learning py)：SVMと判別分析に加え，交差確認などの再サンプリング法や基本的な特徴選択手法
• MUSASHI
  • MYCOM Yet Another 仕事のツール
  • 研究のツールボックス@人工知能学会)
• NetLab：解説本と連携した基本手法のmatlab実装
• Orange
• ProM：プロセスの実行ログからビジネスプロセスのためのマイニングをするツール (java)
• PRTools：Pattern Recognition toolbox (解説書：&amazon(0470090138);) (matlab)
• RapidMiner：データマイニング環境．旧Yale．WekaとAPIは互換だが，インターフェースは違う (java)
• Statistical Pattern Recognition Toolbox (matlab)
• R関連
  • Machine Learning & Statistical Learning @ CRAN Task View：統計処理ソフト R の関連パッケージまとめ
  • machine learning@R-forge
  • RjpWiki:Rでデータマイニング
  • Rattle：GUI for Data Mining in R
• TANAGA
• Weka：よく使われている (java)
• XELOPES：データマイニング (非商用のみフリー，java，C#，C++)

関連文献 †

• Book/データマイニングの基礎：機械学習の教科書としてもよい初学者向け教科書
• Book/Pattern Recognition and Machine Learning：修士向け教科書．パターン認識・統計系
  日本語版「パターン認識と機械学習 - ベイズ理論による統計的予測」サポートページ
• Book/Information Theory, Inference, and Learning Algorithms：パターン認識・統計系．
• Book/Machine Learning：定番教科書．人工知能系．
• Book/フリーソフトでつくる音声認識システム 1章
• Nils J. Nilsson, "Introduction to Machine Learning" ドラフトが全文読める