* 線形モデル (linear model) [#p4ae7b09]

//ここには %項目の説明を書いてください.

データ解析の基本は線形モデルである.
多くの場合解が陽に解ける上,モデルがシンプルなので汎化能力も高い.
解が陽に解けるためにはモデルが線形なだけではダメで,(誤差の)確率分布が正規分布であるなどの仮定も必要となる.

> --あかほ

形式的には,入力 \(x_1,\ldots,x_k\) と実数の重み \(\theta_0,\theta_1,\ldots,\theta_k\) を用いて出力 \(y\) が次式で表されるのが線形モデル:
\[y=\theta_0+\sum_{i=1}^k \theta_i x_i + \epsilon\]
ただし,\(\epsilon\) は平均が0で,分散が\(\sigma^2\) の正規分布に従う誤差項.

ベクトル \(\mathbf{x}=[1,x_1,\ldots,x_k]^\top\) と \(\mathbf{\theta}=[\theta_0,\theta_1,\ldots,\theta_k]^\top\) を用いた次の表記も多用される:
\[y=\mathbf{\theta}^\top \mathbf{x}+\epsilon\]

> -- しましま

**関連項目 [#gff99b9c]

//関連する%項目%をリストしてください.

-[[linear model]]
#br
-[[多変量解析]]
-[[回帰分析]]
-[[正規分布]]
-[[最小二乗法]]
-[[一般化線形モデル]]
-[[線形分離可能]]
#br
-[[検索:線形モデル]]

** リンク集 [#w0b956b7]

-[[Generalized Linear Classifiers in NLP>http://ryanmcd.googlepages.com/gslt2007.html]] @ Ryan McDonald
#br
-[[Wikipedia:Linear_model]]

** 関連文献 [#i1c5e081]

//この%項目%に関連する書籍や論文を紹介してください.

-[[Book/統計学の基礎I(統計科学のフロンティア1)]] I章3節
-[[Book/計算統計I(統計科学のフロンティア11)]] I章4.2節
-[[Book/Data Mining - Practical Machine Learning Tools and Techniques]] 4.6章
-[[Book/Principles of Data Mining]] 11.2章
-[[Book/The Elements of Statistical Learning]] 2.3.1章

トップ   編集 差分 バックアップ 添付 複製 名前変更 リロード   新規 一覧 単語検索 最終更新   ヘルプ   最終更新のRSS