第58回IBISML研究会†
このページはしましまが 第58回電子情報通信学会 情報論的学習理論と機械学習研究会 に参加してとったメモです．私の主観や勘違いが含まれていたり，私が全く分かってなかったりしていますので，その点を注意してご覧ください．誤りがあれば，指摘してください．
12月22日(月)†
ガウス過程トンプソンサンプリングの高確率リグレット保証に関する検討†
○竹野思温（名大）・岩崎省吾（MI-6）
- ベイズ最適化では累積リグレットを使って収束の良さを評価する
- UCBが広く使われるが，トンプソン抽出の理論保証を考える
- 緩和リグレット＝最適解と十分に近い解は除外してリグレットを考える
- 期待緩和リグレットの期待値は計算できるようになった
二値，選好情報を利用する非近視眼的ベイズ最適化 ☆†
○栗 聡汰・杉浦秀平（名大）・竹内一郎（名大/理研）・竹野思温（名大）
- 実数，二値，一対比較の情報が混在した環境でのベイズ最適化
- 情報が混ざっているので，実数でガウス過程求めた分布を事前分布として，EP法で残りの情報を活用する
- 単純な減少量ではなく単位コストあたりの減少量を使う
内関数の観測が得られない合成関数に対するベイズ最適化†
○戸田海仁・杉浦秀平・竹野思温（名大）・竹内一郎（名大/理研）
- 目的関数 f が合成関数＝ f(x)＝g(h(x)) → g(x) は既知だが 内関数 h(x) が観測できないときに f を推定するベイズ最適化
- g の逆関数を使うのは，h のノイズの分布の問題や，g が多対一の写像になっている場合にはできない
事後分布サンプリングに基づく並列ベイズ最適化のリグレット解析†
○杉浦秀平・竹内一郎・竹野思温（名大）
- kriging believer (KB)＝ベイズ最適化で同時に複数点を評価するとき以前の点の評価が完了しているわけではない → まだ値のない点は期待値で代用する発見的手法が弱い
- randomized KB＝期待値で代用する代わりに予測分布から無作為抽出 → リグレットの上界を計算した
［招待講演］圏論的因果モデル†
○大塚 淳（ZEN大）
因果プロセス説の圏論的モデリング
- ストリング図式→プロセスの形式的表現，関手によるプロセスの確率的解釈・分析
- 因果関係についての哲学的見解
- イベント説：因果関係＝出来事 event の間の関係 → Hume（規則的関係）Lewis，Woodward（反事実的関係）
- プロセス説：モノ object が媒介するプロセス → Salmon
- イベント説が形式的に表しやすいので優勢
- Salmonのプロセス説
- 接続するもの → 世界線としてのプロセス
- 圏論のストリング図式：モノをワイヤ（矢印），モノの間の相互作用をボックスで表す
- SCM はこのストリング図式に表現できる
- 関手＝圏→圏への変換
因果的抽出
- 決定論的抽出が可能な条件
- 確定的な過程→ 確率的な過程 ＝ 確率的な過程 → 確定的な過程 の可換性
［招待講演］高次元データの次元の呪いとトポロジー†
○井元佑介（京大）
- 次元の呪い
- ここでは高次元でノイズが加わると，各次元ごとにノイズが積み重なって真値が推定できない
- 近距離構造の喪失，統計量の不一致（真値と），主成分の不一致
- 高次元統計解析：高次元で標本統計量＝母集団統計量を調べる
母集団のパラメータ推定
- 主成分分析：共分散の固有値を求めるときに，固有値が真値に収束しなくなる
- 小さな固有値を無視することが収束しなくなる範囲を小さくすることも数理的に示せる
- 1細胞データ：RNAを読み出したデータ，全体の一部しか読めない，細胞間の空間情報は失われている
- 標本は母集団の分布を代表していない
次元の呪いとトポロジカルデータ解析
- 万能細胞から所望の細胞を作る手法の開発 → 複数の種類が出来てしまうので，その分岐過程を解析したい
- mapper：nerve＝被覆を接点，被覆の重複を辺とするグラフ→トポロジー情報が保存されている
- 点群のダイナミクスを解析できる
- 次元の呪いはうける
高校生の古典学習支援のための小規模言語モデル構築と難点†
○鎌田千鶴・井上真郷（早大）
- 教育用の端末で動作可能な計量LLM
- BERG→encoder + Phi-3構造→decoder
拡散言語モデルにおけるジェイルブレイク攻撃に対する脆弱性の発見と緩和†
○山辺翔二郎（科学大）・佐久間 淳（科学大, RIKEN AIP）
- priming vulnerability → 肯定的な意味合いのトークンが生成されるとジェイルブレイクに繋がりやすい
- 肯定的な意味合いの汚染トークンを含んでいる場合での訓練を行う
Score-based diffusion model による状態空間モデルの潜在状態とパラメータの同時推論†
○山岡優馬・内田誠一・豊田祥史（九大）
- 状態空間の潜在状態に拡散モデルを用いた → パラメータと状態の同時推定
- 推定にあたっては自己組織化という手法を利用する
原子レベルシミュレーションを用いたPINNによるシリコンナノ包有物周囲の弾性場の可視化†
○崔 羿・竹内一郎（名大）
- 応力誘発ナノワイヤー成長＝アルミニウムのナノワイヤーが生成される過程を分析する
- PINN＝物理法則を考慮したNN
12月23日(火)†
○尾崎優太・蒲 健太郎・鈴木泰雅（東京科学大）・人見 将・大関真之（東北大）
- 特徴選択を行うためのマスクを予測し，その予測結果から特徴量間の相関の強さを測る
確率的ブロックモデルが明らかにする高次ネットワークの多次ブロック構造†
○中嶋一貴（都立大）・佐々木勇和（阪大）・宇野毅明（NII）・会田雅樹（都立大）
- 確率ブロックモデル＝コミュニティ内では高く，コミュニティ間では低い
- 複数のメンバー間の相互作用を考える→何人のメンバー間の親和性を考えるか？＝超エッジの大きさ→可能な超エッジの次数をいろいろ変えて予測
- 超エッジの大きさに制限のある法が，あらゆる大きさを考えるより優れる
マルチモーダル深層学習による遺跡自動検出の高性能化†
○三浦舞香・伊藤吉紀・井上真郷（早大）
- 衛星画像からの遺跡の発見→可視光＋赤外の画像や標高データを使うが画像間の位置合わせなどが必要
- 異なる情報源のマッチをとる → cross attention の採用
深層学習を用いたリバーシプレイヤ分類手法†
○渡部朔冶（湘南工科大）・佐々木智志（東京都市大）・安藤慎吾（湘南工科大）
強化学習を用いた冷媒回路の制御に関する研究†
○土田駿元・ライチェフ ビセル（広島大）・上村 匠・川口幹祐（マツダ）・古 艶磊・檜垣 徹（広島大）
- 電気自動車の冷媒の制御を強化学習で行う
- Koopman-Inspired Proximal Policy Optimization モデル，拡散モデルを使う diffusion policy，QVPOの手法を試した
効率的かつ事後的に制御可能な公平性-精度トレードオフを実現する公平な分類手法†
○坂田麻絢・福地一斗（筑波大/理研）
- 公平性の水準を変えると中処理では再学習が必要になり，後処理では精度低下が大きい
- 後処理でのしきい値決定でトレードオフを改善できる手法の提案
軽量な構造学習に基づく予測性と説明性を両立したホワイトボックスモデルの構築 ～ GNBT (Graphical Naive Bayes Transformer) の提案 ～†
○森 俊樹（叡啓大）
深層学習モデルが示す関心領域に対する信頼性評価手法の開発†
○勝岡輝行（名大）・白石智洸（名大/理研）・三輪大貴（名大）・西納修一・竹内一郎（名大/理研）
- 顕著性マップの関心領域の信頼性評価のための選択的推論
○工藤誠己・勝岡輝行・白石智洸・西納修一・竹内一郎（名大）
- NN→バギング→スタッキング といったパイプラインのときの選択的推論を汎用的に解く
- ソフトウェア環境も整備している
○白石智洸（名大/理研）・勝岡輝行（名大）・西納修一・竹内一郎（名大/理研）
![[PukiWiki]](image/ibisforest.png "[PukiWiki]")
