- 追加された行はこの色です。
- 削除された行はこの色です。
- 線形モデル へ行く。
* 線形モデル (linear model) [#p4ae7b09]
//ここには %項目の説明を書いてください.
データ解析の基本は線形モデルである.
多くの場合解が陽に解ける上,モデルがシンプルなので汎化能力も高い.
解が陽に解けるためにはモデルが線形なだけではダメで,(誤差の)確率分布が正規分布であるなどの仮定も必要となる.
> --あかほ
形式的には,入力 \(x_1,\ldots,x_k\) と実数の重み \(\theta_0,\theta_1,\ldots,\theta_k\) を用いて出力 \(y\) が次式で表されるのが線形モデル:
\[y=\theta_0+\sum_{i=1}^k \theta_i x_i + \epsilon\]
ただし,\(\epsilon\) は平均が0で,分散が\(\sigma^2\) の正規分布に従う誤差項.
ベクトル \(\mathbf{x}=[1,x_1,\ldots,x_k]^\top\) と \(\mathbf{\theta}=[\theta_0,\theta_1,\ldots,\theta_k]^\top\) を用いた次の表記も多用される:
\[y=\mathbf{\theta}^\top \mathbf{x}+\epsilon\]
> -- しましま
**関連項目 [#gff99b9c]
//関連する%項目%をリストしてください.
-[[linear model]]
#br
-[[多変量解析]]
-[[回帰分析]]
-[[正規分布]]
-[[最小二乗法]]
-[[一般化線形モデル]]
-[[線形分離可能]]
#br
-[[検索:線形モデル]]
** リンク集 [#w0b956b7]
-[[Generalized Linear Classifiers in NLP>http://ryanmcd.googlepages.com/gslt2007.html]] @ Ryan McDonald
#br
-[[Wikipedia:Linear_model]]
** 関連文献 [#i1c5e081]
//この%項目%に関連する書籍や論文を紹介してください.
-[[Book/統計学の基礎I(統計科学のフロンティア1)]] I章3節
-[[Book/計算統計I(統計科学のフロンティア11)]] I章4.2節
-[[Book/Data Mining - Practical Machine Learning Tools and Techniques]] 4.6章
-[[Book/Principles of Data Mining]] 11.2章
-[[Book/The Elements of Statistical Learning]] 2.3.1章