しましま/IBISML002
をテンプレートにして作成
[
トップ
] [
新規
|
一覧
|
検索
|
最終更新
|
ヘルプ
|
ログイン
]
開始行:
* 第2回電子情報通信学会 情報論的学習理論と機械学習研究会 ...
このページはしましまが[[第2回電子情報通信学会 情報論的学...
* 9月5日(日) [#yd5f43ad]
*[特別講演]パターンマイニングの新しい落としどころ 〜 ク...
○宇野毅明(NII)
動機
- 全体の分布を捉える代わりに,データの局所的な情報を見つ...
-- マイノリティへの対応
パターンマイニング
- 巨大データの,しきい値以上の項目に含まれる(現れる),...
問題設定の便利さ
- 最適化型ではなく,列挙型の発見問題
- 単純なデータから,単純な評価値で解を見つける
- 最小サポートというしきい値というパラメータがあり調整で...
アルゴリズム分野からすると
- 列挙問題 → アルゴリズム分野では以前からあった設定だが,...
-- 最小サポートというパラメータで調整できるようにしたのが...
最近の問題点
- いいモデルがなかなか出てこない.
- モデルの単純さゆえに直接的に利用できない.副次的に利用...
- 有益なものを見つけると解が多すぎ,重複も多い
- 複雑な解析モデルと,列挙アルゴリズムの間で,列挙アルゴ...
どうすべきか?
- パターンが多すぎる → パターンに制約を導入すると捨てすぎ...
- 出現集合間の類似性に注目しては?
-- モデルが複雑になりがちなので,そういうことは避けたい
- 「単純で頑強な解を求める途中で,複雑で不定な計算を用い...
「見つけ方」の逆転
- 単純なパターンからだんだん複雑なパターンを探す
-- そもそも局所を探してそのパターンを求めたかったのに,パ...
- それは,クラスタリングして,各クラスタの特徴を求めるっ...
-- 大きなクラスタ構造だけが出てきてしまい,局所的な小さな...
-- クラスタ数を増やしたら? → やはり,クラスタ数前提なの...
クリークによる局所構造発見
- 長所:定式化がちゃんとしていて,高速アルゴリズムがある
- 短所:ちょっとした欠損があると,類似したものが多数でき...
-- 類似構造を考えたり,クリーニングでかわす
-- リンク先が似ているものをまとめる:大きな2のアイテム集...
Webリンクデータ
- 550万ページ,1300万リンク
- 20個以上のリンク先を共有するものを似ているとして,大き...
-- 解の数8000で列挙問題として解ける範囲になった.10分ぐら...
- 解の分布:普通の極大クリークは急に解の数が増えて,その...
BMS-WebView2データ
- 単純に適用するとうまくいかない → まんべんなく似ていた
-- 工夫してかわした
頻出文字列
- 文字列長を固定して,ハミング距離が一定以内のものを列挙
* [特別講演](仮) 高階最適化と学習 〜 ボトムアップアプ...
○石川 博(名古屋市大)
- トップダウン:人間の思うものをデータから出せるように
- ボトムアップ:データから始めてパターンを出す
** 高階MRFエネルギー最小化 [#n8d4cd14]
- ノイズ除去問題:画素のラベル付け問題
- MRF:無向グラフのグラフィカルモデル.グラフのクリークご...
P(X)=[1/Z] Π q_c(X_c)
- ポテンシャル:q_c(X_c) の対数をとったものの和
-- エネルギー最小化 ⇔ 確率最大化
- 一階MRF:隣接画素とだけ辺がある
- ノイズの除去: λ(ノイズあり入力画像と類似)+(近隣のラ...
-- を満たすような
- 一階エネルギーでは区別がつかないパターンがある
-- もっと広範囲を見るために,隣接点への隣接点も考えた高階...
高階MRFの最適化
- グラフカット:maxflow-mincutアルゴリズムの応用.一階エ...
- 信念伝搬:因子グラフ上でのバックプロパゲーション
高階グラフカット
- 擬ブール関数(pseudo Boolean func.):常に多項式で書ける
- 高次のPBを,低次のPBで表現可能
- 目的関数を最適化するブール値の組み合わせをグラフカット...
** 画像の公開等系の学習 [#a176f58c]
- 最適化できるようになったとして,エネルギー関数のパラメ...
-- 勾配降下で最適化する.勾配には期待値があるので,MCMC,...
- MCMCは非常に遅い → 勾配を contrastive divergence で近似...
** 何を学習させるべきか? [#b5e55cc6]
- ノイズ除去:輪郭の平滑性,直線性.さらに巨視的な構造の...
-- これを画像だけからできるか?
- 考慮すべきパターンが膨大になる → どうしたらいいのだろう?
-- 規則性を表すようなコルモゴロフ複雑性などの何らかの情報...
* テーマセッション3 [#fc1362e6]
** 表情表出時の顔特徴点の変化を用いたアンサンブル学習によ...
○野宮浩揮・宝珍輝尚(京都工繊大)
- 表情認識:特徴点の移動を特徴に,有用な特徴をアンサンブ...
- 特徴点:顔の決まった24カ所.特徴点間の距離,三角領域の...
アンサンブル学習
- 各特徴量から低レベルな識別器を作り,有用なものを特徴と...
-- 入力画像の特徴量での,各クラスの分類器の出力値
-- 特徴選択は,PCAで次元削減後,クラス内・クラス間分散の...
- 選んだ特徴で構成される特徴ベクトルを使って通常のAdaBoost
** 学習による映像中の音源同定 [#ze58459a]
○池田千廣・フォン ヤオカイ・内田誠一(九大)
- 画像中での音源の同定(単一マイク+単一カメラの動画)
-- 潜在的な音源は既知 → テレビ会議画像で,どちらが話して...
- 画像の特徴:Haar-like特徴,ST-patch
- 音の特徴:power と MFCC(話者認識用の特徴は使ってない)
- フレームごとに,発生中・無音声を与えてAdaBoostを適用
** 人体シルエットの生成型追加学習による人検出の高精度化 [...
○纐纈直也・山内悠嗣・藤吉弘亘(中部大)
- 従来の人検出:HOG, EOH, Edgelt などの特徴 + 機械学習
-- シーンに関する要因は吸収できない
- 3D人体モデル + 背景画像 → 追加サンプル
-- 追加サンプルは,設置したカメラから背景を作り,与えたカ...
- 汎用DBで学習した識別器 H1 を作り,追加サンプルを分類し...
- H1とH2を修正したものを組み合わせた識別器も提案
** 局所学習型パターン認識器の高次元特徴選択パス追跡に関す...
○竹内一郎(名工大)
- 特徴選択:フィルター,ラッパー,正則化
- 正則化パス:正則化パラメータを変化させたときの,各特徴...
- 近隣法の分類で使う距離の計算に使う特徴を選択する
- 距離学習
-- 各点から同じクラスのk個の点は近く,違うクラスについて...
-- ユークリッド距離に近づくような正則化項を導入
- この定式化だと,パラメトリック二次計画問題になる
-- 正則化パスが区分線形となって,容易に計算できる.
* 9月6日(月) [#s4c60061]
* テーマセッション4 [#y16632b2]
** 変分ベイズ法におけるクロスヴァリデーションと汎化誤差の...
○大山慎史・渡辺澄夫(東工大)
- 変分ベイズで汎化誤差を知るのに交差確認をする場合
- モデルに混合正規分布を想定,事前分布はDirichletや正規分...
-- 混合比のDirichlet事前分布の超パラメータ φ が重要と分か...
- 正則な場合(真の分布を実現するパラメータが一つの場合)...
-- 汎化誤差はχ二乗分布のようになり,CV誤差はそれを左右反...
-- 平均も分散も一致する
- 特異な場合:最尤法やベイズ法は違ってくる
-- 平均は一致するが,CV誤差の方が分散が大きい
-- 超パラメータφが小さいと分散は大きくなる
--- 平均も分散も相転移する点がある
** 混合正規分布の隠れ変数上のMCMC法の提案とベイズ周辺尤度...
○三木拓史・渡辺澄夫(東工大)
- 温度 β 付きの事後分布
∫ φ(w) Π p(Xi | w)^β dw
β=0 だと事前分布そのもの,β=1 だと普通の事後分布
- ベイズ自由エネルギー -log<正規化定数> を最小化する経験...
- 混合分布の隠れ変数上でのMCMCは,パラメータ上でMCMCをす...
** A Density Ratio Approach to Two-Sample Test [#z1eba2da]
○Masashi Sugiyama(Tokyo Tech.), Taiji Suzuki(Univ.Toky...
- 二標本検定:二つのサンプル集合が同じ分布から出てきたの...
-- 帰無仮説:生成分布 P=P'
-- 分布間のダイバージェンスのノンパラ推定量を求める
-- 並び替え検定で帰無分布を作る
- ピアソンダイバージェンス
PE(P,P'=(2/2) ∫ ([p(x) / p'(x)] - 1)^2 p'(x) dx
-- KL と同じ fダイバージェンス
-- うまく展開して密度比推定を使って計算
-- 密度比をカーネルの線形結合でモデル化 + 最小二乗
-- 収束の理論限界:密度比が 1(P=P'のとき)収束率が良く...
- 並び替え検定
-- 二つの分布のサンプルを入れ替えて統計量(ここでは PE Di...
-- 出てきた統計量のヒストグラムを帰無分布とする
-- あとは,もとのサンプルの統計量が,この帰無分布の棄却域...
- 第1種過誤が大きめに出るのは,密度比の推定で p'/p と p/p...
- http://sugiyama-www.cs.titech.ac.jp/~sugi/software/LSTT...
* テーマセッション6 [#u9ad128a]
** 損失関数平滑度の自動制御を伴う最小分類誤り学習法 [#vfc...
○徳野純一(同志社大)・渡辺秀行(NICT)・片桐 滋・大崎美...
- 最小分類誤り (minimum classification error)
-- g_j(x; Λ) を最大にするクラス j に分類する
-- 誤分類測度,正しいクラス y に分類する場合
d_y(x; Λ)=- g_y(x; Λ) + log[ {1 / (J-1)} Σ{非正解クラス...
-- これをロジスティック関数にいれて平均をとったものの最小...
L(Λ)=Σ 1 / [1 + exp(-α_y d_y(x;Λ)]
- この誤差測度をParzen窓推定で行う
** 裾野の重たい分布関数を利用した学習ベクトル量子化手法 [...
○宮野博義・石寺永記(NEC情報システムズ)
- 学習ベクトル量子化:少ないプロトタイプ数でオンライン学...
-- オリジナルの LVQ の改良手法:誤り率を最小化する GLVQ,...
- 確率値に基づく RSLVQ の発散を抑えるのに,正規分布よりよ...
** margin assumptionの下での分類器の誤り率の評価について ...
○綾野孝則・鈴木 譲(阪大)
- 二値分類器の誤り率の,サンプル数 n に対する限界を計算
-- margin 仮定,complexity 仮定の下での議論
*[フェロー記念講演]非線形判別分析とその周辺 [#tb76c236]
○栗田多喜夫(広島大)
パターン認識過程
- ベイズ決定理論:特徴ベクトルとクラスの確率的な対応関係...
-- 期待損失最小化と対応
- 識別に有用な特徴 -- 線形判別分析 (LDA, FDA):クラスの分...
- 非線形判別分析:背後の分布が分かっているとき,最適な識...
y=Ψ(x)≒Σk^K P(Ck|x) uk
ukはクラスの代表ベクトルで,Γの固有値問題で計算できる.Γ...
-- 特徴 → 事後確率 → 識別 と空間を変換することに対応
- 事後確率を線形近似 → 全部固有値問題として解ける
- 事後確率を多項ロジットモデルで表す:LgDA
判別カーネル
- 最適非線形判別分析に対応しているカーネルは?
-- クラスの確率を陽に考慮したカーネルになる
K(xi, x)=Σk^K [ p(Ck|xi) P(ck|x) ] / P(Ck)
-- 実際に使うには事後確率を求めないといけない:k近隣法,...
*[フェロー記念講演]部分空間法から相互部分空間法へ [#l57...
○前田賢一(東芝リサーチ/東芝)
パターン認識
-- あるインスタンスが属するクラスを決定すること [飯島]
-- パターン再認(かつてみたことがある「あれ」を特定)
-- classification,identification,verificationなども
- パターン認識の難しさ
-- 10×10画素程度でも,全部の画素のパターンについて,それ...
- Tauschekの文字認識装置 (1929):光学的に一致を調べる装置
部分空間法
- 部分空間
-- 統計学的背景 PCA,CCA [Hotelling 1933, 1936],KL展開 [1...
-- パターン認識への導入:飯島泰藏 (1963),渡辺彗
- 特徴ベクトルで表されてる + ちょっとした差異は同じものと...
-- 色の反転も同じとみなす
-- ある理想パターンを中心とする円錐と,それが反対にも付い...
-- 理想パターンを含む部分空間に射影して,そこで角度の大き...
相互部分空間法
- 辞書と入力の両方を部分空間で表現
- 両方とも部分空間を使うので PCA → CCA
手書き文字認識
- 識 - 織 - 繊 など類似した文字があるときに難しい
- Gauss-Hermite核によるぼかしの一般表現
- 単純類似度:75.9% → 部分空間法 80.2% → 相互部分空間法 8...
-- 当時のマシンは 1mips
顔認識への応用
- 複数の基準パターンを用いた認識
- 写真と本物の顔との区別
-- 実物は3次元だが,写真は2次元なので,分布している多様体...
* 一般セッション4 [#efc2041c]
** q-正規分布とそのエスコート分布の関係について [#m749c706]
○田中 勝(福岡大)
- Tsallisエントロピー
Sq=1/(1-q) [∫-∞^∞ p(x)^q dx - 1]
- q-期待値:確率密度関数を q 乗して規格化したエスコート分...
- q-期待値での平均・分散を与えたときに,Tsallisエントロピ...
p(x|μ,σ)=[1 / Z{q,σ}] ( [ 1 - {(1-q)/(3-q)} {(x-μ)^2 / ...
-- q を変えると,Cauchy 分布,t-分布,正規分布などになる
** 連続DPの一般スキームについて 〜 画像スポッティングた...
○岡 隆一・矢口勇一・溝江真也(会津大)
- 画像のマッチングで,全画素の面的な性質を維持させたまま...
- uniform lattice image:グリッドの格子点に画素が対応
-- マッチする二つの画像1と2と,2を変形させた画像3を考える
-- グリッドの辺が拘束条件 → 相互の制約を左から右,上から...
- DP と相性がいい.
** 自己動的時間伸縮を用いた単一準周期信号の位相合わせ [#a...
○槇原 靖(阪大),チュン タン ゴ(阪大),長原 一(九大),佐川...
- 準周期信号:振幅・周波数・位相に揺らぎがある周期信号
-- 単一の準周期信号の,各周期の信号の位相合わせを行う
- 自己相関で擬周期を求める
- 擬周期後の窓内での自己相関を考えた自己動的時間伸縮
終了行:
* 第2回電子情報通信学会 情報論的学習理論と機械学習研究会 ...
このページはしましまが[[第2回電子情報通信学会 情報論的学...
* 9月5日(日) [#yd5f43ad]
*[特別講演]パターンマイニングの新しい落としどころ 〜 ク...
○宇野毅明(NII)
動機
- 全体の分布を捉える代わりに,データの局所的な情報を見つ...
-- マイノリティへの対応
パターンマイニング
- 巨大データの,しきい値以上の項目に含まれる(現れる),...
問題設定の便利さ
- 最適化型ではなく,列挙型の発見問題
- 単純なデータから,単純な評価値で解を見つける
- 最小サポートというしきい値というパラメータがあり調整で...
アルゴリズム分野からすると
- 列挙問題 → アルゴリズム分野では以前からあった設定だが,...
-- 最小サポートというパラメータで調整できるようにしたのが...
最近の問題点
- いいモデルがなかなか出てこない.
- モデルの単純さゆえに直接的に利用できない.副次的に利用...
- 有益なものを見つけると解が多すぎ,重複も多い
- 複雑な解析モデルと,列挙アルゴリズムの間で,列挙アルゴ...
どうすべきか?
- パターンが多すぎる → パターンに制約を導入すると捨てすぎ...
- 出現集合間の類似性に注目しては?
-- モデルが複雑になりがちなので,そういうことは避けたい
- 「単純で頑強な解を求める途中で,複雑で不定な計算を用い...
「見つけ方」の逆転
- 単純なパターンからだんだん複雑なパターンを探す
-- そもそも局所を探してそのパターンを求めたかったのに,パ...
- それは,クラスタリングして,各クラスタの特徴を求めるっ...
-- 大きなクラスタ構造だけが出てきてしまい,局所的な小さな...
-- クラスタ数を増やしたら? → やはり,クラスタ数前提なの...
クリークによる局所構造発見
- 長所:定式化がちゃんとしていて,高速アルゴリズムがある
- 短所:ちょっとした欠損があると,類似したものが多数でき...
-- 類似構造を考えたり,クリーニングでかわす
-- リンク先が似ているものをまとめる:大きな2のアイテム集...
Webリンクデータ
- 550万ページ,1300万リンク
- 20個以上のリンク先を共有するものを似ているとして,大き...
-- 解の数8000で列挙問題として解ける範囲になった.10分ぐら...
- 解の分布:普通の極大クリークは急に解の数が増えて,その...
BMS-WebView2データ
- 単純に適用するとうまくいかない → まんべんなく似ていた
-- 工夫してかわした
頻出文字列
- 文字列長を固定して,ハミング距離が一定以内のものを列挙
* [特別講演](仮) 高階最適化と学習 〜 ボトムアップアプ...
○石川 博(名古屋市大)
- トップダウン:人間の思うものをデータから出せるように
- ボトムアップ:データから始めてパターンを出す
** 高階MRFエネルギー最小化 [#n8d4cd14]
- ノイズ除去問題:画素のラベル付け問題
- MRF:無向グラフのグラフィカルモデル.グラフのクリークご...
P(X)=[1/Z] Π q_c(X_c)
- ポテンシャル:q_c(X_c) の対数をとったものの和
-- エネルギー最小化 ⇔ 確率最大化
- 一階MRF:隣接画素とだけ辺がある
- ノイズの除去: λ(ノイズあり入力画像と類似)+(近隣のラ...
-- を満たすような
- 一階エネルギーでは区別がつかないパターンがある
-- もっと広範囲を見るために,隣接点への隣接点も考えた高階...
高階MRFの最適化
- グラフカット:maxflow-mincutアルゴリズムの応用.一階エ...
- 信念伝搬:因子グラフ上でのバックプロパゲーション
高階グラフカット
- 擬ブール関数(pseudo Boolean func.):常に多項式で書ける
- 高次のPBを,低次のPBで表現可能
- 目的関数を最適化するブール値の組み合わせをグラフカット...
** 画像の公開等系の学習 [#a176f58c]
- 最適化できるようになったとして,エネルギー関数のパラメ...
-- 勾配降下で最適化する.勾配には期待値があるので,MCMC,...
- MCMCは非常に遅い → 勾配を contrastive divergence で近似...
** 何を学習させるべきか? [#b5e55cc6]
- ノイズ除去:輪郭の平滑性,直線性.さらに巨視的な構造の...
-- これを画像だけからできるか?
- 考慮すべきパターンが膨大になる → どうしたらいいのだろう?
-- 規則性を表すようなコルモゴロフ複雑性などの何らかの情報...
* テーマセッション3 [#fc1362e6]
** 表情表出時の顔特徴点の変化を用いたアンサンブル学習によ...
○野宮浩揮・宝珍輝尚(京都工繊大)
- 表情認識:特徴点の移動を特徴に,有用な特徴をアンサンブ...
- 特徴点:顔の決まった24カ所.特徴点間の距離,三角領域の...
アンサンブル学習
- 各特徴量から低レベルな識別器を作り,有用なものを特徴と...
-- 入力画像の特徴量での,各クラスの分類器の出力値
-- 特徴選択は,PCAで次元削減後,クラス内・クラス間分散の...
- 選んだ特徴で構成される特徴ベクトルを使って通常のAdaBoost
** 学習による映像中の音源同定 [#ze58459a]
○池田千廣・フォン ヤオカイ・内田誠一(九大)
- 画像中での音源の同定(単一マイク+単一カメラの動画)
-- 潜在的な音源は既知 → テレビ会議画像で,どちらが話して...
- 画像の特徴:Haar-like特徴,ST-patch
- 音の特徴:power と MFCC(話者認識用の特徴は使ってない)
- フレームごとに,発生中・無音声を与えてAdaBoostを適用
** 人体シルエットの生成型追加学習による人検出の高精度化 [...
○纐纈直也・山内悠嗣・藤吉弘亘(中部大)
- 従来の人検出:HOG, EOH, Edgelt などの特徴 + 機械学習
-- シーンに関する要因は吸収できない
- 3D人体モデル + 背景画像 → 追加サンプル
-- 追加サンプルは,設置したカメラから背景を作り,与えたカ...
- 汎用DBで学習した識別器 H1 を作り,追加サンプルを分類し...
- H1とH2を修正したものを組み合わせた識別器も提案
** 局所学習型パターン認識器の高次元特徴選択パス追跡に関す...
○竹内一郎(名工大)
- 特徴選択:フィルター,ラッパー,正則化
- 正則化パス:正則化パラメータを変化させたときの,各特徴...
- 近隣法の分類で使う距離の計算に使う特徴を選択する
- 距離学習
-- 各点から同じクラスのk個の点は近く,違うクラスについて...
-- ユークリッド距離に近づくような正則化項を導入
- この定式化だと,パラメトリック二次計画問題になる
-- 正則化パスが区分線形となって,容易に計算できる.
* 9月6日(月) [#s4c60061]
* テーマセッション4 [#y16632b2]
** 変分ベイズ法におけるクロスヴァリデーションと汎化誤差の...
○大山慎史・渡辺澄夫(東工大)
- 変分ベイズで汎化誤差を知るのに交差確認をする場合
- モデルに混合正規分布を想定,事前分布はDirichletや正規分...
-- 混合比のDirichlet事前分布の超パラメータ φ が重要と分か...
- 正則な場合(真の分布を実現するパラメータが一つの場合)...
-- 汎化誤差はχ二乗分布のようになり,CV誤差はそれを左右反...
-- 平均も分散も一致する
- 特異な場合:最尤法やベイズ法は違ってくる
-- 平均は一致するが,CV誤差の方が分散が大きい
-- 超パラメータφが小さいと分散は大きくなる
--- 平均も分散も相転移する点がある
** 混合正規分布の隠れ変数上のMCMC法の提案とベイズ周辺尤度...
○三木拓史・渡辺澄夫(東工大)
- 温度 β 付きの事後分布
∫ φ(w) Π p(Xi | w)^β dw
β=0 だと事前分布そのもの,β=1 だと普通の事後分布
- ベイズ自由エネルギー -log<正規化定数> を最小化する経験...
- 混合分布の隠れ変数上でのMCMCは,パラメータ上でMCMCをす...
** A Density Ratio Approach to Two-Sample Test [#z1eba2da]
○Masashi Sugiyama(Tokyo Tech.), Taiji Suzuki(Univ.Toky...
- 二標本検定:二つのサンプル集合が同じ分布から出てきたの...
-- 帰無仮説:生成分布 P=P'
-- 分布間のダイバージェンスのノンパラ推定量を求める
-- 並び替え検定で帰無分布を作る
- ピアソンダイバージェンス
PE(P,P'=(2/2) ∫ ([p(x) / p'(x)] - 1)^2 p'(x) dx
-- KL と同じ fダイバージェンス
-- うまく展開して密度比推定を使って計算
-- 密度比をカーネルの線形結合でモデル化 + 最小二乗
-- 収束の理論限界:密度比が 1(P=P'のとき)収束率が良く...
- 並び替え検定
-- 二つの分布のサンプルを入れ替えて統計量(ここでは PE Di...
-- 出てきた統計量のヒストグラムを帰無分布とする
-- あとは,もとのサンプルの統計量が,この帰無分布の棄却域...
- 第1種過誤が大きめに出るのは,密度比の推定で p'/p と p/p...
- http://sugiyama-www.cs.titech.ac.jp/~sugi/software/LSTT...
* テーマセッション6 [#u9ad128a]
** 損失関数平滑度の自動制御を伴う最小分類誤り学習法 [#vfc...
○徳野純一(同志社大)・渡辺秀行(NICT)・片桐 滋・大崎美...
- 最小分類誤り (minimum classification error)
-- g_j(x; Λ) を最大にするクラス j に分類する
-- 誤分類測度,正しいクラス y に分類する場合
d_y(x; Λ)=- g_y(x; Λ) + log[ {1 / (J-1)} Σ{非正解クラス...
-- これをロジスティック関数にいれて平均をとったものの最小...
L(Λ)=Σ 1 / [1 + exp(-α_y d_y(x;Λ)]
- この誤差測度をParzen窓推定で行う
** 裾野の重たい分布関数を利用した学習ベクトル量子化手法 [...
○宮野博義・石寺永記(NEC情報システムズ)
- 学習ベクトル量子化:少ないプロトタイプ数でオンライン学...
-- オリジナルの LVQ の改良手法:誤り率を最小化する GLVQ,...
- 確率値に基づく RSLVQ の発散を抑えるのに,正規分布よりよ...
** margin assumptionの下での分類器の誤り率の評価について ...
○綾野孝則・鈴木 譲(阪大)
- 二値分類器の誤り率の,サンプル数 n に対する限界を計算
-- margin 仮定,complexity 仮定の下での議論
*[フェロー記念講演]非線形判別分析とその周辺 [#tb76c236]
○栗田多喜夫(広島大)
パターン認識過程
- ベイズ決定理論:特徴ベクトルとクラスの確率的な対応関係...
-- 期待損失最小化と対応
- 識別に有用な特徴 -- 線形判別分析 (LDA, FDA):クラスの分...
- 非線形判別分析:背後の分布が分かっているとき,最適な識...
y=Ψ(x)≒Σk^K P(Ck|x) uk
ukはクラスの代表ベクトルで,Γの固有値問題で計算できる.Γ...
-- 特徴 → 事後確率 → 識別 と空間を変換することに対応
- 事後確率を線形近似 → 全部固有値問題として解ける
- 事後確率を多項ロジットモデルで表す:LgDA
判別カーネル
- 最適非線形判別分析に対応しているカーネルは?
-- クラスの確率を陽に考慮したカーネルになる
K(xi, x)=Σk^K [ p(Ck|xi) P(ck|x) ] / P(Ck)
-- 実際に使うには事後確率を求めないといけない:k近隣法,...
*[フェロー記念講演]部分空間法から相互部分空間法へ [#l57...
○前田賢一(東芝リサーチ/東芝)
パターン認識
-- あるインスタンスが属するクラスを決定すること [飯島]
-- パターン再認(かつてみたことがある「あれ」を特定)
-- classification,identification,verificationなども
- パターン認識の難しさ
-- 10×10画素程度でも,全部の画素のパターンについて,それ...
- Tauschekの文字認識装置 (1929):光学的に一致を調べる装置
部分空間法
- 部分空間
-- 統計学的背景 PCA,CCA [Hotelling 1933, 1936],KL展開 [1...
-- パターン認識への導入:飯島泰藏 (1963),渡辺彗
- 特徴ベクトルで表されてる + ちょっとした差異は同じものと...
-- 色の反転も同じとみなす
-- ある理想パターンを中心とする円錐と,それが反対にも付い...
-- 理想パターンを含む部分空間に射影して,そこで角度の大き...
相互部分空間法
- 辞書と入力の両方を部分空間で表現
- 両方とも部分空間を使うので PCA → CCA
手書き文字認識
- 識 - 織 - 繊 など類似した文字があるときに難しい
- Gauss-Hermite核によるぼかしの一般表現
- 単純類似度:75.9% → 部分空間法 80.2% → 相互部分空間法 8...
-- 当時のマシンは 1mips
顔認識への応用
- 複数の基準パターンを用いた認識
- 写真と本物の顔との区別
-- 実物は3次元だが,写真は2次元なので,分布している多様体...
* 一般セッション4 [#efc2041c]
** q-正規分布とそのエスコート分布の関係について [#m749c706]
○田中 勝(福岡大)
- Tsallisエントロピー
Sq=1/(1-q) [∫-∞^∞ p(x)^q dx - 1]
- q-期待値:確率密度関数を q 乗して規格化したエスコート分...
- q-期待値での平均・分散を与えたときに,Tsallisエントロピ...
p(x|μ,σ)=[1 / Z{q,σ}] ( [ 1 - {(1-q)/(3-q)} {(x-μ)^2 / ...
-- q を変えると,Cauchy 分布,t-分布,正規分布などになる
** 連続DPの一般スキームについて 〜 画像スポッティングた...
○岡 隆一・矢口勇一・溝江真也(会津大)
- 画像のマッチングで,全画素の面的な性質を維持させたまま...
- uniform lattice image:グリッドの格子点に画素が対応
-- マッチする二つの画像1と2と,2を変形させた画像3を考える
-- グリッドの辺が拘束条件 → 相互の制約を左から右,上から...
- DP と相性がいい.
** 自己動的時間伸縮を用いた単一準周期信号の位相合わせ [#a...
○槇原 靖(阪大),チュン タン ゴ(阪大),長原 一(九大),佐川...
- 準周期信号:振幅・周波数・位相に揺らぎがある周期信号
-- 単一の準周期信号の,各周期の信号の位相合わせを行う
- 自己相関で擬周期を求める
- 擬周期後の窓内での自己相関を考えた自己動的時間伸縮
ページ名: