しましま/IBISML013

第13回 情報論的学習理論と機械学習研究会 †

このページはしましまが 第13回電子情報通信学会 情報論的学習理論と機械学習研究会? に参加してとったメモです．私の主観や勘違いが含まれていたり，私が全く分かってなかったりしていますので，その点を注意してご覧ください．誤りがあれば，指摘してください．

7月18日(木) †

ユニバーサルなベイズ測度 †

○鈴木　譲（阪大）

• 区分的に離散と連続が混ざっているような確率変数
• その場合の測度をちゃんと考えて推定する

Clustering Unclustered Data -- Unsupervised Binary Labeling of Two Datasets Having Different Class Balances -- †

○Marthinus Christoffel du Plessis・Masashi Sugiyama（TokyoTech）

• 密度の差のどちらが大きいか sign[pa(x) - pb(x)] を利用 → これを使って一種のクラスタリングする
• 密度の差の直接推定は CCCP を使ってきれいに最適化できる
• ベイズ的な枠組みの方法なので，密度モデルによっては領域が連結していないような場合でもいける

Direct Approximation of Quadratic Mutual Information and Its Application to Dependence-Maximization Clustering †

○Janya Sainui・Masashi Sugiyama（TokyoTech）

• square-loss MI

  ∫[p(x,y) / p(x)p(y) - 1] p(x)p(y) dx dy

• Quadratic MI

  ∫[p(x,y) - p(x)p(y)] p(x)p(y) dx dy

  この二乗相互情報量をカーネル密度推定で直接推定

クラウドソーシングにおけるオンライン学習 †

○チャン クワン カイ・佐久間　淳（筑波大）

• クラウドソーシングで集めた信頼性にばらつきのあるラベル付きデータ
• 梶野の凸最適化が使える方法をオンライン化する → 途中で傾向に変化があってもOK
• 一番いいワーカーの予測能力を出力に反映できる
• regretを考えるときに，全体での真のラベルが分からないところが問題として難しい

順序制約付き半教師付き学習による低次元部分空間中の局所座標推定　〜 光学ハイパースペクトル植生データを題材に 〜 †

○宇都有昭（東工大）

• 衛星からとった多数のスペクトルでとった画像
  • 少数のラベルがある状態で，各クラスの多様体の推定を行うトランスダクティブな設定
• 局所的なFisher判別分析

複数の関係データの関連を考慮した同時補完法 †

○家入　豊・鹿島久嗣（東大）

• 関係データ：二部グラフを行列であらわし，その行列の補完問題で，未知の部分に関係があるかないかを予測
  • 低ランク分解で予測するが，複数の行列をまとめて考えることで，精度の向上をめざす
  • 潜在因子を共有するときに，関係の相手が違ってくると，因子が共通して使えるとは限らない → A E B のように真ん中に変換用の行列を挟む

情報中立推薦での中立性項の改良 †

○神嶌敏弘・赤穂昭太郎・麻生英樹（産総研）・佐久間　淳（筑波大）

• 質問：中立性の視点を何かに決めること自体の中立性の議論はあるか？

特定クラスの局所座標を利用した異常データ検出線形分類器の構成　〜 光学ハイパースペクトル山林データに基づく病虫害樹木の検出を題材に 〜 †

○宇都有昭（東工大）

• 夏は緑なので，枯れている木が分かるが，秋は分かりにくい
• 多スペクトル画像から低次元の空間を見つける
  • 正常クラスの部分空間を見つけ出して，異常値検出で病気の木を見つける

ペアワイズ共リンク伝播カーネル †

○長谷川　聡・佐久間　淳（筑波大）

• ノード間のリンクの有無を予測する
  • ペアワイズカーネル：ノード対の対間の類似性を考えるカーネル
  • クロネッカー積カーネル：対のそれぞれの対応するノード間の類似性を考える
  • クロネッカー和カーネル：対の一方が共通している場合に定義できるカーネル

Privacy-preserving Online Logistic Regression Based on Homomorphic Encryption †

○Shuang Wu・Junpei Kawamoto（Univ. of Tsukuba）・Hiroaki Kikuchi（Meiji Univ.）・Jun Sakuma（Univ. of Tsukuba）

• 患者と病院を考えて，
  • 学習時は両者のデータを合わせて病院が暗号化されたモデルを得る．
  • 予測時は病院のモデルを使って，患者だけが予測結果を得る
  • w^T x を秘密に計算した

人工知能技術を用いたX線CT画像を対象にした医用画像診断支援システム IBISML2013-11 ○近藤　正・上野淳二・高尾正一郎（徳島大） †

• 多層のニューラルネットワークだが，中間層の構造の組み合わせは進化論的計算で，いろいろ探索する
  • 入力の特徴選択もいろいろ探索する
• CT画像から，

Direct Learning of Sparse Changes in Markov Networks by Density Ratio Estimation †

○Song Liu（Tokyo Tech.）・John A. Quinn（Makerere Univ.）・Michael U. Gutmann（Univ. of Helsinki）・Masashi Sugiyama（Tokyo Tech.）

• 二つのデータ集合の分布をそれぞれマルコフネットでモデル化
  • その比を計算するとき，パラメータは1個分で済む
• 密度の変化の比から，構造変化を検出する．