リッジ回帰
をテンプレートにして作成
[
トップ
] [
新規
|
一覧
|
検索
|
最終更新
|
ヘルプ
|
ログイン
]
開始行:
* リッジ回帰 (ridge regression) [#mbcb1959]
//ここには %項目の説明を書いてください.よろしければ署名...
パラメータの二乗和の正則化項を加えた(Tikhonov正則化とも...
(記号の定義は回帰分析を参照)
通常の回帰分析の最小二乗法に正則化項を加えた次式を最小に...
\[(\mathbf{y}-X\mathbf{\theta})^\top(\mathbf{y}-X\mathbf{...
ただし,\(\alpha\ge0\) は複雑度(complexity)パラメータとい...
このパラメータが大きいと高バイアス-低バリアンスに,小さい...
パラメータの推定値は次式
\[\mathbf{\hat{\theta}}=[X^\top X+\alpha I]^{-1}X^\top \m...
ここで,特異値分解 \(X=U\Lambda V^\top\) を考える.すると...
\[\mathbf{\hat{\theta}}=V \mathrm{diag}[\frac{\lambda_1}{...
となる.これは,主成分分析を \(X\) に適用したときに,各第...
\[\mathrm{df(\alpha)}=\sum_{i=1}^{m+1}\frac{\lambda_i^2}{...
> -- しましま
**関連項目 [#f95ae697]
//英語や同義語のあとに,#brで区切って関連する項目をリスト...
-[[ridge regression]]
#br
-[[正則化]]
-[[縮小推定]]
-[[回帰分析]]
-[[バイアス-バリアンス]]
-[[トランスダクティブ学習]]
#br
-[[検索:リッジ回帰]]
**リンク集 [#pcdc1b14]
//関連するWWW資源があればリンクしてください.
-[[Wikipedia:Tikhonov_regularization]]
**関連文献 [#g8abbc7b]
//この%項目%に関連する書籍や論文を紹介してください.
-[[Book/Neural Networks for Pattern Recognition]] 9.2節
-[[Book/The Elements of Statistical Learning]] 3.4.3節
-[[Book/Pattern Recognition and Machine Learning]] 1.1節
終了行:
* リッジ回帰 (ridge regression) [#mbcb1959]
//ここには %項目の説明を書いてください.よろしければ署名...
パラメータの二乗和の正則化項を加えた(Tikhonov正則化とも...
(記号の定義は回帰分析を参照)
通常の回帰分析の最小二乗法に正則化項を加えた次式を最小に...
\[(\mathbf{y}-X\mathbf{\theta})^\top(\mathbf{y}-X\mathbf{...
ただし,\(\alpha\ge0\) は複雑度(complexity)パラメータとい...
このパラメータが大きいと高バイアス-低バリアンスに,小さい...
パラメータの推定値は次式
\[\mathbf{\hat{\theta}}=[X^\top X+\alpha I]^{-1}X^\top \m...
ここで,特異値分解 \(X=U\Lambda V^\top\) を考える.すると...
\[\mathbf{\hat{\theta}}=V \mathrm{diag}[\frac{\lambda_1}{...
となる.これは,主成分分析を \(X\) に適用したときに,各第...
\[\mathrm{df(\alpha)}=\sum_{i=1}^{m+1}\frac{\lambda_i^2}{...
> -- しましま
**関連項目 [#f95ae697]
//英語や同義語のあとに,#brで区切って関連する項目をリスト...
-[[ridge regression]]
#br
-[[正則化]]
-[[縮小推定]]
-[[回帰分析]]
-[[バイアス-バリアンス]]
-[[トランスダクティブ学習]]
#br
-[[検索:リッジ回帰]]
**リンク集 [#pcdc1b14]
//関連するWWW資源があればリンクしてください.
-[[Wikipedia:Tikhonov_regularization]]
**関連文献 [#g8abbc7b]
//この%項目%に関連する書籍や論文を紹介してください.
-[[Book/Neural Networks for Pattern Recognition]] 9.2節
-[[Book/The Elements of Statistical Learning]] 3.4.3節
-[[Book/Pattern Recognition and Machine Learning]] 1.1節
ページ名: