しましま/DMSM001

第3変数との関わりで決める
- 自然に決まる場合と，能動的に研究者が選ぶ(操作変数(instrumental var.)場合
- 線形モデル+非正規誤差 / 非線形モデル + 正規誤差
相関係数では因果の方向は決まらない
同値モデルの問題から考えると…
X→Y と Y→X が同じ統計量
第3変数 Z の導入
Z→X&Y→X と Z→X→Y を考えて，それぞれの因果の相関を見ることで，X→Y と Y→X の一方を選択する．

X1=β X2 + γ X2^2 + e1 VS X2=β X1 + γ X1^2 + e2

交絡変数：原因と因果の両方の原因になる第3変数
交絡変数の問題点
- 因果によって相関が生じるのではなく，交絡変数によって相関が生じると考えると，因果を考えることができない
- 交絡変数の入れ方によって，結論が変わったりする
- 個体内変動と個体間変動：勉強時間と成績に正相関があるとき→成績悪＆時間短の個体と成績良＆時間長の個体は違うので，勉強を長くしたからといって成績がよくなるとは限らない

昔は偏相関は値が小さすぎて使いにくいと言われていた
どの変数で条件付けするかを考えることができる
DAG (有向非循環グラフ)
- グラフと条件付独立性が対応がつくように同時分布を定義する→同時密度の因数分解 (機械学習でいうところのグラフィカルモデル)
有向分離
- d-separation：XとYを結ぶ各パスにおいて次のどちらかが成立
  1. 合流点があるとき……
  2. (かけなかった)
DAGの制約：偏相関は存在しない→ancentral graph;AG （一部は両方向の辺)
AG
- 辺がない場合：条件付独立になる．DAGのよい性質を引き継ぐ
- 変数のどんな部分集合も条件付独立にはならない場合が生じてしまい，この場合は役にたたない
AGにおける代数的制約 (bi-partial covariance)（わかんなかった） bi-partial covariance=0 ⇔ AGで条件付独立

「教師あり順序付けのための次元縮約」†

神嶌敏弘、赤穂昭太郎（産業技術総合研究所）

質疑応答

矢島安敏（東京工業大学）

線形関数で判別する問題を凸2次問題として定式化→カーネルを用いた非線形判別
One-class SVM：クラスと原点を分離するような分離平面を求める．
グラフのカーネルを使って準教師あり学習をする．
- 辺は類似性を表す．ここではk近隣との間の辺は bij=1 とする．
- その隣接行列からグラフのカーネル (commute timeカーネルやregularized Laplacianカーネル) を求める．
- しかし！カーネルの計算には逆行列計算が必要だが，大規模だと無理．
- うまく変数を変換すると，非負条件のみの凸二次計画問題→implict Lagrangianによて制約のない最適化問題に帰着→共役勾配法で解ける

佐藤一誠、中川裕志（東京大学）

深田健太、鷲尾隆（大阪大学産業科学研究所）

外部入力付自己回帰モデル(ARX)：その自身の過去の時系列と他の外部入力変数の過去の時系列から予測
従来手法：変数選択はAICを利用→測定誤差のためAICが最小値になる部分がよくわからない．
ΔAIC* は，パラメータを一つ減らしたモデルとのAICの差を考える→ 単純化によって，少なくとも誤差オーダーを超えて大きく精度が失われる可能性の高い，最も単純なモデル次数パラメータの組み合わせを発見する．(?)

ターミエアレックサンドル(1)、玉田嘉紀(1)、井元清哉(2)、鷲尾隆(3)、樋口知之(1) (1)統計数理研究所、(2)東京大学医科学研究所、 (3)大阪大学産業科学研究所

頻出な木を見つけることで，高速にDAGパターンを発見．

嶋津恵子(1)、齋藤功(1)、有澤達也(1)、吉永早織(2)、古川康一(2) (1) 慶應義塾大学デジタルメディア・コンテンツ統合研究機構 (2) 慶應義塾大学大学院政策・メディア研究科

福水健次（統計数理研究所）

線形分離できないデータを，高次元に射影して線形分離可能にする．
高次元に射影するための道具：正定値カーネル
集合Ω上の正定値カーネル→Ω上の関数からなるヒルベルト空間 Hk (無限次元かもしれないベクトル空間)(RKHS)が定まる．
1. k(・,x)∈Hk，
2. 有原和 f=Σci k(・,x) の形の源はHkで稠密
3. 再生性 f(x)＝<f,k(・,x)> ∀f∈Hk x∈Ω，関数の値が内積で与えられる