しましま/IBISML012
をテンプレートにして作成
[
トップ
] [
新規
|
一覧
|
検索
|
最終更新
|
ヘルプ
|
ログイン
]
開始行:
* 第12回 情報論的学習理論と機械学習研究会 [#afdefc4b]
このページはしましまが [[第12回電子情報通信学会 情報論的...
* 3月4日(月) [#z5916269]
** バイアス付きPassive-Aggressiveアルゴリズム [#leb831a9]
○立石大悟・畑埜晃平・瀧本英二(九大)
- オンラインの線形2値分類:予測誤り回数の最小化
-- Perceptron, PA, Cw, AROW, NHERD などは,基本的には原点...
-- 次元拡張法:バイアスを扱うにはパラメータに定数の特徴を...
- 次元拡張法を使わないで,Passive Agressive にバイアス項...
- Passive Agressive:SVMで時刻tの事例について最適化するよ...
-- 次元拡張法を用いたときの上界は既知だが,最適な定数はデ...
- 時刻 t とはクラスの違う過去の事例の2点の中点を通るよう...
-- 誤り数の上界を解析的に求め,実験的に汎化誤差を評価した
** 一般ディリクレ分布を用いた混合正規分布の変分自由エネル...
○中村文士・渡辺澄夫(東工大)
- 変分自由エネルギー:変分近似した分布と元の同時分布のKL...
-- 変分ベイズでのモデルの選択などに利用する
- 既存研究では混合正規分布の混合比の事前分布に混合要素の...
** Model-Based Policy Gradients with Parameter-Based Expl...
○Syogo Mori・Voot Tangkaratt・Tingting Zhao(Tokyo Tech)...
- 強化学習で政策を直接学習する政策探索法の一つ
-- PGPE (Policy Gradients with Parameter-Based Exploratio...
-- IW-PGEPE法:標本が少ないときの改良だが,標本の使い方を...
- モデルフリーの PGPE法をモデルを導入した model-based PGP...
-- 密度推定を,LSCDE法 (least-squares conditional density...
** 機械学習アルゴリズムに特化したタスクグラフの生成 [#scd...
○秋岡明香・村岡洋一・山名早人(早大)
- タスクグラフ:処理の流れや依存関係を示したもので,並列...
-- タスクグラフによって,スケジューリングアルゴリズムの性...
- 既存のタスクグラフ研究の問題点
-- HPC分野:Write-Once Read-Many → 後で使うデータを高速に...
-- 実アプリケーションから抽出したタスクグラフはきわめて少...
- データストリーム(オンライン機械学習)の処理:ストリー...
-- だいたい同じ感じのタスクグラフになる
** MDL基準の離散混合分布のモデル選択への適用 [#i95c8000]
○赤澤靖章・井上真郷(早大)
- 混合分布の混合数推定で,変分ベイズでクラスタ数の事後分...
** Dual Averaging and Proximal Gradient Descent for Onlin...
○Taiji Suzuki(Univ. Tokyo)
- 大量処理のためオンライン学習,多様性を構造的正則化(ADMM...
- 高次元の識別問題 → 特徴の次元を下げたい → 重みの多くの...
- 構造的正則化:Group Lasso (ここではグループの重複あり)...
-- 変数間に何らかの関係があるような正則化
- オンライン学習
-- FOBOS:損失の勾配の方向に動くが,動きすぎを抑えるのに...
-- RDA:損失の勾配方向に動かし,抑えるのは原点から離れな...
--- これらは一般には proximal operation として表されるた...
- しかし,変数間に関係がある構造的正則化があるときは,pro...
-- 各正則化に応じた方法と,正則化に依存しない方法
- 後者の枠組みで ψ(w) → ~ψ(A w) となるような ~ψ を見つけ...
min{w,y} L(X w) + ~ψ(y), s.t. A w=y
-- y については凸なので proximal operation は容易 → ADMM ...
- このADMMをオンライン化した
* 3月5日(火) [#n36cb3dd]
** プライバシー保護を目的とした線形回帰モデルにおける事後...
○中井祥人・須子統太・松嶋敏泰(早大)
- Du の,元の値が一意に特定できなければOKという弱安全性(...
- ADMM を用いた反復法による解法
- Du の安全性についての須子の証明に基づいた安全性の証明
** 結託攻撃におけるスペクトル拡散型電子透かしの復号性能の...
○山内浩史・井上真郷(早大)
- 電子透かしを入れた画像が K_c があるとき,それらの画像の...
- 拡散符号と利用者情報の積によって,画像に加算するように...
-- 信号数を N として拡散符号は N×D の{+1,-1}行列,利用者...
- ノイズが加えられたすかし画像と元画像の差 r から,ある利...
- r と 拡散符号の相関から sの要素を一個ずつ検出するシング...
** Non-Achievability of Asymptotic Minimax Regret without...
○Kazuho Watanabe(NAIST)・Teemu Roos・Petri Myllymaki(H...
- ユニバーサル符号化:最大リグレット最小化(ミニマックス...
-- 理論的には正規化最尤法(NML)で求まる → 全ての符号の出方...
- 理想符号長 と計算し易い g_n との符号長の差が,log C_n +...
- この漸近的ミニマックス性を達成するには,g が n に依存す...
** カーネル法とランダム行列理論によるノイズ変数の除去 [#f...
○川久保秀子・吉田裕亮(お茶の水女子大)
- ヒルベルト-シュミット独立基準 (HSIC) により変数選択を行う
-- ガウスカーネルを使った独立性の基準だが,実用上は分散パ...
-- 目的変数との独立性との判定に使う
- ランダム行列理論:ランダムな N×P 行列 R の相関行列の固...
-- HSIC を利用するときは MP分布族の Pure Free Meixner 分...
** [招待講演]メタ戦略 〜 問題解決のための実践的解法 〜...
○柳浦睦憲(名大)
''組み合わせ最適化問題''
長方形の詰め込み問題:長方形を箱に詰めていって高さが最小...
- 材料を効率的に切り取ったりするのに使う
- http://www.museum.kyoto-u.ac.jp/ にある『レク太』くんの...
組み合わせ最適化問題:解や順序や割り当てのような組み合わ...
- 巡回セールスマン問題 ← 買い物のルートを考える:どの順番...
-- 街の集合 V と街の間の距離 d_ij → 最小距離で全ての街を...
- 一般化割り当て問題:エージェント,仕事の集合,エージェ...
- 理屈の上では,列挙すれば解けるのだが,場合の数が多すぎ...
- アルゴリズムの計算量とNP困難性
-- 入力規模 N に対して,多項式時間=O(N^k),より大きなオ...
-- NP困難問題:多項式時間では解けない問題(予想)
''近似解法''
最適解と近似解
- 最適解:条件を満たす解で最良のもの → 現実的な時間で求め...
- 近似解:条件を満たす解の中でよいもの → 精度保証のあるも...
-- 近似解を求める方法:欲張り法,局所探索法,メタ戦略
- 欲張り法,局所探索法:非常に高速 →もうちょっと時間がか...
-メタ戦略(メタヒューリスティクス,メタ解法)
-- 多スタート局所探索法,GRASP法/反復局所探索法,可変近...
- 局所探索法:現在の解のσ近傍N(σ)(現在の解にじゃっかんの...
-- 設計要素:近傍,移動戦略(近傍の中のどの解を選んでいく...
- 最近近傍法:巡回セールスマン問題の局所探索法 → まだいっ...
近傍の例
- 挿入近傍:一つの要素を外の位置に挿入
- 交換近傍:二つの要素の位置を交換する
- λ-opt近傍:たかだかλ個の要素を入れ替えることによって得...
-- 巡回セールスマン問題でたかだかλ個の枝を入れ替える
探索空間
- 探索の対象となる解(実行可能解)全ての集合
- 評価関数 g:探索解を評価する基準
- 実行可能解の生成が容易なときは,実行可能解のみを探索し...
ペナルティ関数法(実行可能解の生成が容易でない場合の代表...
- 実行不可能解も探索の対象に含める
- ペナルティ:どれくらい制約を破っているかを表す量
- 目的関数 + ペナルティ項 → 最適化 の形で解く
-- ペナルティの強さを決めるパラメータは,実行可能になるこ...
解空間とは異なる探索空間を使う例
- 長方形詰め込み問題
- BL点 (bottom-left):配置可能な最も低い位置の中の最も左
-- BL法:順列σの順にBL点に配置
- 順列によって詰まり具合が代わる → 詰め込みの空間ではなく...
''メタ戦略''
- 多スタート局所探索法:ランダム生成した初期解から局所探索
- GRASP法:欲張り法+ランダムで初期解生成
- 反復局所探索法:過去に良かった解をランダムにちょっと変...
-- 可変近傍探索法:よい解がえられなかったらキックを広めに...
-- キックの範囲と局所探索の近傍が同じだと,元に戻ってはま...
改悪解への移動を許す方法
- 局所最適解は:良い解であり,経験的に良い解の周辺にはよ...
-- アニーリング法:近傍にランダムに移るが,そのランダムさ...
-- タブー探索法:近傍の中で見つけた解に戻らないようにタブ...
評価関数を変形する方法
- 誘導局所探索法:現在の局所最適解の評価値が悪くなるよう...
多点探索型の手法
- 遺伝アルゴリズム:解集合お集団 + 交叉・突然変異の操作
-- 効率が悪いので改良法 → 遺伝的局所探索法,散布探索法
メタ戦略:次の手順を繰り返す
- 過去の探索履歴をりようして新たな解を生成
- 生成した解を評価し次の探索に使うヒントを見つける
他手法との融合
- 数理計画との組み合わせ → ハイブリッドメタ戦略/mathheur...
''メタ戦略による問題解決''
- メタ戦略の利点:簡単→幅広く適用可能,大規模,柔軟
- 高性能アルゴリズムの実現 → けっこうしんどい
- 汎用ソルバー ← ソルバーを個々の問題で作るのは大変
-- 組み合わせ問題は SAT に帰着できる:帰着するときに規模...
- 標準問題のセットを考えてそれらを組み合わせていろいろな...
-- 整数計画,制約充足,資源制約プロジェクトスケジューリン...
** Constrained Least-Squares Density-Difference Estimatio...
○Nguyen Tuan Duong・Marthinus Christoffel du Plessis(Tok...
- 密度の差の直接推定:Least-Squares Density-Difference (L...
-- C(ontrained)LSDD 問題の制約を利用して精度の向上を図る...
** 情報理論によるシングルフレーム超解像の限界性能評価 [#t...
○川喜田雅則・山口耕太郎・高橋規一・竹内純一(九大)
- 1枚の画像から超解像画像:圧縮センシングと教師あり学習の...
-- ここでは符号化理論を使った Yang の方法
- Yangの方法の前提:矩形領域ごとに疎表現がある +” 宿退し...
-- 高解像度画像と低解像度画像の疎表現間の関連を学習し,そ...
-- 宿退の生成モデル:劣化変換 + ガウスノイズ
- この長解像度画像の高解像度画像を低解像度に写す過程が,...
-- 受信した符号から送信した符号を復元=低解像度画像から高...
- アルゴリズム的にも,Yangの超解像とスパース重ね合わせ符...
-- スパース重ね合わせは通信路容量の限界を達成できるが,超...
-- 通信路容量より小さければ高解像度画像が復元できるはずと...
** 画像領域分割問題に対する階層ディリクレ過程事前分布マル...
○岸 悠介・中村拓磨・原田竜弘・松本 隆(早大)
- 画像の領域分割:HDP-MRFモデル + MCMC による方法 (今まで...
- MRF:隠れ変数の構造としてあり,そこから実際に観測される...
- HDP (階層Dirichlet過程):複数の画像に同種のオブジェクト...
** 統計的決定理論に基づく階層構造を利用したマルチラベル分...
○山本粋士・須子統太・松嶋敏泰(早大)
- 複数のラベルを同時に付けるマルチラベル問題:K 個ラベル...
- 従来法:複数の2値分類問題,ラベルの次元削減,ラベル間の...
- ラベルベクトル y の線形変換を考えて,その損失の期待損失...
- ラベルの階層構造:ラベル間に概念関係の上下あり,上位概...
-- 上位のラベルが付いている場合の条件付き確率で下位ラベル...
- Cesa-Bianchi の H損失ではなく,0-1損失やハミング損失を...
-- ラベル間の木構造を利用して,順に最適化を考えていけばよ...
** 非サポートベクトルのスクリーニングを用いたSVMのパス計...
○小川晃平・鈴木良規・竹内一郎(名工大)
- SVMは正則化の強さで結果が変わるので調整が必要
- データ点は,非SV (サポートベクトル) αi=0,SVでパラメー...
-- 非SVはなくても結果が変わらない → それがわかっていれば...
- 正則化パラメータ C1<C2<C3 で,C1とC3のC1の最適解とC3...
-- 解の存在範囲が,C1のそれより原点から遠く,C3の解を通る...
- この関係を使ってパス追跡の総計算量が削減できるか試した ...
** 局所線形近似に基づくラベル伝播のための類似度適合 [#oe1...
○烏山昌幸・馬見塚 拓(京大)
- グラフ上にラベルがついているノードとついていないのとが...
-- 予測値 f_i のグラフ上でのなめらかさを最適化 → 近傍のラ...
Σ W_ij (f_i - f_j)^2
-- グラフの辺の重みが大きいと同じラベルになりやすい
- Harmonic Gaussian Field (HGF) :ガウスっぽく辺の重みを...
- ノードのラベルを伝播させるのではなく,ラベル決定にかか...
- ラベルと特徴が,低次元の構造+ガウスノイズ という形にな...
終了行:
* 第12回 情報論的学習理論と機械学習研究会 [#afdefc4b]
このページはしましまが [[第12回電子情報通信学会 情報論的...
* 3月4日(月) [#z5916269]
** バイアス付きPassive-Aggressiveアルゴリズム [#leb831a9]
○立石大悟・畑埜晃平・瀧本英二(九大)
- オンラインの線形2値分類:予測誤り回数の最小化
-- Perceptron, PA, Cw, AROW, NHERD などは,基本的には原点...
-- 次元拡張法:バイアスを扱うにはパラメータに定数の特徴を...
- 次元拡張法を使わないで,Passive Agressive にバイアス項...
- Passive Agressive:SVMで時刻tの事例について最適化するよ...
-- 次元拡張法を用いたときの上界は既知だが,最適な定数はデ...
- 時刻 t とはクラスの違う過去の事例の2点の中点を通るよう...
-- 誤り数の上界を解析的に求め,実験的に汎化誤差を評価した
** 一般ディリクレ分布を用いた混合正規分布の変分自由エネル...
○中村文士・渡辺澄夫(東工大)
- 変分自由エネルギー:変分近似した分布と元の同時分布のKL...
-- 変分ベイズでのモデルの選択などに利用する
- 既存研究では混合正規分布の混合比の事前分布に混合要素の...
** Model-Based Policy Gradients with Parameter-Based Expl...
○Syogo Mori・Voot Tangkaratt・Tingting Zhao(Tokyo Tech)...
- 強化学習で政策を直接学習する政策探索法の一つ
-- PGPE (Policy Gradients with Parameter-Based Exploratio...
-- IW-PGEPE法:標本が少ないときの改良だが,標本の使い方を...
- モデルフリーの PGPE法をモデルを導入した model-based PGP...
-- 密度推定を,LSCDE法 (least-squares conditional density...
** 機械学習アルゴリズムに特化したタスクグラフの生成 [#scd...
○秋岡明香・村岡洋一・山名早人(早大)
- タスクグラフ:処理の流れや依存関係を示したもので,並列...
-- タスクグラフによって,スケジューリングアルゴリズムの性...
- 既存のタスクグラフ研究の問題点
-- HPC分野:Write-Once Read-Many → 後で使うデータを高速に...
-- 実アプリケーションから抽出したタスクグラフはきわめて少...
- データストリーム(オンライン機械学習)の処理:ストリー...
-- だいたい同じ感じのタスクグラフになる
** MDL基準の離散混合分布のモデル選択への適用 [#i95c8000]
○赤澤靖章・井上真郷(早大)
- 混合分布の混合数推定で,変分ベイズでクラスタ数の事後分...
** Dual Averaging and Proximal Gradient Descent for Onlin...
○Taiji Suzuki(Univ. Tokyo)
- 大量処理のためオンライン学習,多様性を構造的正則化(ADMM...
- 高次元の識別問題 → 特徴の次元を下げたい → 重みの多くの...
- 構造的正則化:Group Lasso (ここではグループの重複あり)...
-- 変数間に何らかの関係があるような正則化
- オンライン学習
-- FOBOS:損失の勾配の方向に動くが,動きすぎを抑えるのに...
-- RDA:損失の勾配方向に動かし,抑えるのは原点から離れな...
--- これらは一般には proximal operation として表されるた...
- しかし,変数間に関係がある構造的正則化があるときは,pro...
-- 各正則化に応じた方法と,正則化に依存しない方法
- 後者の枠組みで ψ(w) → ~ψ(A w) となるような ~ψ を見つけ...
min{w,y} L(X w) + ~ψ(y), s.t. A w=y
-- y については凸なので proximal operation は容易 → ADMM ...
- このADMMをオンライン化した
* 3月5日(火) [#n36cb3dd]
** プライバシー保護を目的とした線形回帰モデルにおける事後...
○中井祥人・須子統太・松嶋敏泰(早大)
- Du の,元の値が一意に特定できなければOKという弱安全性(...
- ADMM を用いた反復法による解法
- Du の安全性についての須子の証明に基づいた安全性の証明
** 結託攻撃におけるスペクトル拡散型電子透かしの復号性能の...
○山内浩史・井上真郷(早大)
- 電子透かしを入れた画像が K_c があるとき,それらの画像の...
- 拡散符号と利用者情報の積によって,画像に加算するように...
-- 信号数を N として拡散符号は N×D の{+1,-1}行列,利用者...
- ノイズが加えられたすかし画像と元画像の差 r から,ある利...
- r と 拡散符号の相関から sの要素を一個ずつ検出するシング...
** Non-Achievability of Asymptotic Minimax Regret without...
○Kazuho Watanabe(NAIST)・Teemu Roos・Petri Myllymaki(H...
- ユニバーサル符号化:最大リグレット最小化(ミニマックス...
-- 理論的には正規化最尤法(NML)で求まる → 全ての符号の出方...
- 理想符号長 と計算し易い g_n との符号長の差が,log C_n +...
- この漸近的ミニマックス性を達成するには,g が n に依存す...
** カーネル法とランダム行列理論によるノイズ変数の除去 [#f...
○川久保秀子・吉田裕亮(お茶の水女子大)
- ヒルベルト-シュミット独立基準 (HSIC) により変数選択を行う
-- ガウスカーネルを使った独立性の基準だが,実用上は分散パ...
-- 目的変数との独立性との判定に使う
- ランダム行列理論:ランダムな N×P 行列 R の相関行列の固...
-- HSIC を利用するときは MP分布族の Pure Free Meixner 分...
** [招待講演]メタ戦略 〜 問題解決のための実践的解法 〜...
○柳浦睦憲(名大)
''組み合わせ最適化問題''
長方形の詰め込み問題:長方形を箱に詰めていって高さが最小...
- 材料を効率的に切り取ったりするのに使う
- http://www.museum.kyoto-u.ac.jp/ にある『レク太』くんの...
組み合わせ最適化問題:解や順序や割り当てのような組み合わ...
- 巡回セールスマン問題 ← 買い物のルートを考える:どの順番...
-- 街の集合 V と街の間の距離 d_ij → 最小距離で全ての街を...
- 一般化割り当て問題:エージェント,仕事の集合,エージェ...
- 理屈の上では,列挙すれば解けるのだが,場合の数が多すぎ...
- アルゴリズムの計算量とNP困難性
-- 入力規模 N に対して,多項式時間=O(N^k),より大きなオ...
-- NP困難問題:多項式時間では解けない問題(予想)
''近似解法''
最適解と近似解
- 最適解:条件を満たす解で最良のもの → 現実的な時間で求め...
- 近似解:条件を満たす解の中でよいもの → 精度保証のあるも...
-- 近似解を求める方法:欲張り法,局所探索法,メタ戦略
- 欲張り法,局所探索法:非常に高速 →もうちょっと時間がか...
-メタ戦略(メタヒューリスティクス,メタ解法)
-- 多スタート局所探索法,GRASP法/反復局所探索法,可変近...
- 局所探索法:現在の解のσ近傍N(σ)(現在の解にじゃっかんの...
-- 設計要素:近傍,移動戦略(近傍の中のどの解を選んでいく...
- 最近近傍法:巡回セールスマン問題の局所探索法 → まだいっ...
近傍の例
- 挿入近傍:一つの要素を外の位置に挿入
- 交換近傍:二つの要素の位置を交換する
- λ-opt近傍:たかだかλ個の要素を入れ替えることによって得...
-- 巡回セールスマン問題でたかだかλ個の枝を入れ替える
探索空間
- 探索の対象となる解(実行可能解)全ての集合
- 評価関数 g:探索解を評価する基準
- 実行可能解の生成が容易なときは,実行可能解のみを探索し...
ペナルティ関数法(実行可能解の生成が容易でない場合の代表...
- 実行不可能解も探索の対象に含める
- ペナルティ:どれくらい制約を破っているかを表す量
- 目的関数 + ペナルティ項 → 最適化 の形で解く
-- ペナルティの強さを決めるパラメータは,実行可能になるこ...
解空間とは異なる探索空間を使う例
- 長方形詰め込み問題
- BL点 (bottom-left):配置可能な最も低い位置の中の最も左
-- BL法:順列σの順にBL点に配置
- 順列によって詰まり具合が代わる → 詰め込みの空間ではなく...
''メタ戦略''
- 多スタート局所探索法:ランダム生成した初期解から局所探索
- GRASP法:欲張り法+ランダムで初期解生成
- 反復局所探索法:過去に良かった解をランダムにちょっと変...
-- 可変近傍探索法:よい解がえられなかったらキックを広めに...
-- キックの範囲と局所探索の近傍が同じだと,元に戻ってはま...
改悪解への移動を許す方法
- 局所最適解は:良い解であり,経験的に良い解の周辺にはよ...
-- アニーリング法:近傍にランダムに移るが,そのランダムさ...
-- タブー探索法:近傍の中で見つけた解に戻らないようにタブ...
評価関数を変形する方法
- 誘導局所探索法:現在の局所最適解の評価値が悪くなるよう...
多点探索型の手法
- 遺伝アルゴリズム:解集合お集団 + 交叉・突然変異の操作
-- 効率が悪いので改良法 → 遺伝的局所探索法,散布探索法
メタ戦略:次の手順を繰り返す
- 過去の探索履歴をりようして新たな解を生成
- 生成した解を評価し次の探索に使うヒントを見つける
他手法との融合
- 数理計画との組み合わせ → ハイブリッドメタ戦略/mathheur...
''メタ戦略による問題解決''
- メタ戦略の利点:簡単→幅広く適用可能,大規模,柔軟
- 高性能アルゴリズムの実現 → けっこうしんどい
- 汎用ソルバー ← ソルバーを個々の問題で作るのは大変
-- 組み合わせ問題は SAT に帰着できる:帰着するときに規模...
- 標準問題のセットを考えてそれらを組み合わせていろいろな...
-- 整数計画,制約充足,資源制約プロジェクトスケジューリン...
** Constrained Least-Squares Density-Difference Estimatio...
○Nguyen Tuan Duong・Marthinus Christoffel du Plessis(Tok...
- 密度の差の直接推定:Least-Squares Density-Difference (L...
-- C(ontrained)LSDD 問題の制約を利用して精度の向上を図る...
** 情報理論によるシングルフレーム超解像の限界性能評価 [#t...
○川喜田雅則・山口耕太郎・高橋規一・竹内純一(九大)
- 1枚の画像から超解像画像:圧縮センシングと教師あり学習の...
-- ここでは符号化理論を使った Yang の方法
- Yangの方法の前提:矩形領域ごとに疎表現がある +” 宿退し...
-- 高解像度画像と低解像度画像の疎表現間の関連を学習し,そ...
-- 宿退の生成モデル:劣化変換 + ガウスノイズ
- この長解像度画像の高解像度画像を低解像度に写す過程が,...
-- 受信した符号から送信した符号を復元=低解像度画像から高...
- アルゴリズム的にも,Yangの超解像とスパース重ね合わせ符...
-- スパース重ね合わせは通信路容量の限界を達成できるが,超...
-- 通信路容量より小さければ高解像度画像が復元できるはずと...
** 画像領域分割問題に対する階層ディリクレ過程事前分布マル...
○岸 悠介・中村拓磨・原田竜弘・松本 隆(早大)
- 画像の領域分割:HDP-MRFモデル + MCMC による方法 (今まで...
- MRF:隠れ変数の構造としてあり,そこから実際に観測される...
- HDP (階層Dirichlet過程):複数の画像に同種のオブジェクト...
** 統計的決定理論に基づく階層構造を利用したマルチラベル分...
○山本粋士・須子統太・松嶋敏泰(早大)
- 複数のラベルを同時に付けるマルチラベル問題:K 個ラベル...
- 従来法:複数の2値分類問題,ラベルの次元削減,ラベル間の...
- ラベルベクトル y の線形変換を考えて,その損失の期待損失...
- ラベルの階層構造:ラベル間に概念関係の上下あり,上位概...
-- 上位のラベルが付いている場合の条件付き確率で下位ラベル...
- Cesa-Bianchi の H損失ではなく,0-1損失やハミング損失を...
-- ラベル間の木構造を利用して,順に最適化を考えていけばよ...
** 非サポートベクトルのスクリーニングを用いたSVMのパス計...
○小川晃平・鈴木良規・竹内一郎(名工大)
- SVMは正則化の強さで結果が変わるので調整が必要
- データ点は,非SV (サポートベクトル) αi=0,SVでパラメー...
-- 非SVはなくても結果が変わらない → それがわかっていれば...
- 正則化パラメータ C1<C2<C3 で,C1とC3のC1の最適解とC3...
-- 解の存在範囲が,C1のそれより原点から遠く,C3の解を通る...
- この関係を使ってパス追跡の総計算量が削減できるか試した ...
** 局所線形近似に基づくラベル伝播のための類似度適合 [#oe1...
○烏山昌幸・馬見塚 拓(京大)
- グラフ上にラベルがついているノードとついていないのとが...
-- 予測値 f_i のグラフ上でのなめらかさを最適化 → 近傍のラ...
Σ W_ij (f_i - f_j)^2
-- グラフの辺の重みが大きいと同じラベルになりやすい
- Harmonic Gaussian Field (HGF) :ガウスっぽく辺の重みを...
- ノードのラベルを伝播させるのではなく,ラベル決定にかか...
- ラベルと特徴が,低次元の構造+ガウスノイズ という形にな...
ページ名: