損失関数
Top
/
損失関数
[
トップ
] [
編集
|
凍結
|
差分
|
履歴
|
添付
|
リロード
] [
新規
|
一覧
|
検索
|
最終更新
|
ヘルプ
|
ログイン
]
損失関数
(
loss function
)
†
入出力をまとめたデータを \(z\):
クラス分類
ならクラスと特徴ベクトルの対であり,回帰なら
独立変数
と
従属変数
の対.
\(f\):データを処理する関数
\(L(z;f)\):
損失関数
(
loss function
)
は推定の悪さを定義した関数
回帰の場合は,データは \(z=(x,y)\) で,\(L(z,f)=(y-f(x))^2\) のような
二乗損失 (squared loss)
が利用される
クラス分類
の場合は,データは \(z=(x,c)\) で,クラス \(c\) と関数の出力クラス \(f(x)\) が一致すれば 0,そうでなければ 1 をとる
0/1損失 (0/1 loss)
が利用される
\(f(\cdot;\theta)\) が
パラメトリック
な
確率分布
だったとき,対数損失は\(-\log f(\cdot;\theta)\).この
損失関数
を使った
期待損失
の最小化は,真の分布と予測した分布の
Kullback-Leiblerダイバージェンス
の最小化になっている.
その他:
SVM
で用いられる
ヒンジ損失関数
,
サポートベクトル回帰
の
ε許容誤差関数
,ロバスト統計で用いられる
Huber関数
,
ブースティング
の指数
損失関数
などが代表的.
--
しましま
↑
関連項目
†
loss function
ヒンジ損失関数
ε許容誤差
Huber関数
リグレット
汎化誤差
標本誤差
経験損失最小化
検索:損失関数
↑
リンク集
†
Wikipedia:Loss_function
↑
関連文献
†
Book/わかりやすいパターン認識
8.2節
Book/パターン認識と学習の統計学(統計科学のフロンティア6)
I部 3.2節
Book/Pattern Recognition and Machine Learning
1.5.2節
Book/The Elements of Statistical Learning
7.2節,10.6節
朱鷺の杜Wiki
機械学習
学会・研究会
書籍・資料
論文英語
フリーウェア
python
numpy
テストデータ
日本語版PRML本
カーネル多変量解析
人気ページ
今日の人気ページ
ページ一覧
↑
参加しよう
Wiki超入門
練習用ページ
数式の表示
こびとさん
編集用ID:
ibis
パスワード
: 「VC次元」のVのフルスペルで最初だけ大文字
最新の30件
2024-11-07
しましま/IBIS2024
2024-11-04
IBIS
2024-05-31
人工知能学会全国大会
しましま/人工知能学会全国大会2024
2024-04-13
python
2024-04-09
K-NEL
K-NEL/errata
2023-11-22
PRML/errata2
2023-11-21
PRML/errata1
2023-11-01
しましま/IBIS2023
2023-06-11
しましま/人工知能学会全国大会2023
2023-03-28
Book
2022-11-27
朱鷺の社
2022-11-24
しましま/IBIS2022
2022-07-08
AutoTicketLinkName
2022-06-17
しましま/人工知能学会全国大会2022
2021-11-13
しましま/IBIS2021
2021-10-29
回帰分析
2021-06-11
しましま/人工知能学会全国大会2021
2021-03-07
MenuBar
2021-02-15
python/numpy
2020-12-22
特異値分解
2020-12-18
complement naive Bayes
2020-11-27
しましま/IBIS2020
2020-10-17
Paper/bias-on-the-web
2020-07-16
F値
2020-06-30
DataSet
2020-06-24
バイアス-バリアンス
2020-06-10
Paper
2020-03-15
PRML
↑
カウンタ
累計: 49590
今日: 2
昨日: 3
Last-modified: 2010-02-11 (木) 16:12:47
Link:
しましま/人工知能学会全国大会2024
K-NEL/errata
しましま/IBIS2023
しましま/IBIS2018
機械学習
標本誤差
しましま/IBIS2015
しましま/IBISML020
確率分布
汎化誤差
PRML/course
しましま/IBIS2012
SVM
しましま/IBISML004
しましま/IBIS2010
しましま/IBISML002
K-NEL/eindex
関数
経験損失最小化
独立変数
期待損失
従属変数
三角不等式
マルチタスク学習
ブースティング
ヒンジ関数
パラメトリック
バックプロパゲーション
サポートベクトル回帰
クラス分類
しましま/IBIS2007
しましま/DMSS2009
しましま
loss function
Widrow-Hoffの学習規則
PRML/content
Kullback-Leiblerダイバージェンス
Huber関数
Book/パターン認識と学習の統計学(統計科学のフロンティア6)
Book/The Elements of Statistical Learning
Book/Pattern Recognition and Machine Learning
Book/わかりやすいパターン認識
Book/Principles of Data Mining