![[PukiWiki]](image/ibisforest.png "[PukiWiki]")
#author("2023-10-31T04:07:03+00:00","default:ibisforest","ibisforest") #author("2023-11-01T08:44:04+00:00","default:ibisforest","ibisforest") * 第26回 情報論的学習理論ワークショップ (IBIS 2023) [#p1d166b8] COLOR(#00AA00){このページはしましまが [[IBIS2023>IBIS#IBIS2023]] に参加してとったメモです．私の主観や勘違いが含まれていたり，私が全く分かってなかったりしていますので，その点を注意してご覧ください．誤りがあれば，指摘してください．} - 日程：2023-10-29 〜 2023-11-01 - ホームページ： http://ibisml.org/ibis2023/ - 会場： 北九州国際会議場 ＆ オンライン #contents * 10月29日（日） [#n02017b1] * チュートリアル1：大規模言語モデル活用技術の最前線 [#d59a7dd6] 稲葉通将（電気通信大学） - 大規模言語モデル (LLM)：モデル，データ，計算環境のいずれもが大規模 LLMのできること - LLMによるアノテーション -- MTurk と張り合える(?) - LLMに基づく推薦対話システム -- 対話型の推薦システム → 映画など関連文書の多い分野では良い - マインクラフトのゲームプレイ -- マインクラフトの文書を読み込んでいるので可能だった - ロボットの制御 -- 文書そのものや，コードを生成させるものは難しい → 強化学習の報酬を与えるのは可能だった - 論文査読 -- 不採録論文の一致率は高いが，採録論文は低い プロンプト：LLMに対する入力 - In-Context Learning：少数の例を与えることで，追加学習なしでタスクを実行可能に - Chain-of-Thought：問題をLLMに回答させるときに，回答に至る思考過程も同時にあたえたプロンプトを使う -- Zero-shot CoT："Let's think step by step" とする -- CoT で違う思考経路を与えて，答えを多数決させる - Plan-and-Solve：問題の解き方を回答させてから，その解き方で解かせる - Auto-CoT：データをクラスタリングしておき，違うクラスタからえた事例でプロンプトを作る -- 多様な事例をプロンプトで与えるとよい - 長期的や多段階の問題は苦手 → 途中経過を出力させるように指示 - Program of Thought：問題を解くプログラムを生成させる -- Faithful CoT：プログラムだけじゃなく，プランニング記述言語 PDDL などの任意の形式言語 - CoTで思考の段階数が多い方がよい，多数決の場合も段階数が多いものを優先すると良い - Tree-of-Thought：複数のプランを生成させ，さらにそれを自身に評価させる - ReAct：次に必要な行動を，その理由と共に生成させる -- 外部検索を使う行動を含めさせることで，ハルシネーション問題を緩和 - Least-to-Most：部分問題への分解 - Self-Refine：ダメだしをして，自身の回答を変更させる - "Let's think step by step" のような性能向上が見込めるインストラクションを最適化（この場合は，「深呼吸をして」を加えることだった） - 重要な情報は，最初や最後に与えるようにする - プロンプトを2回与えると，CoT を上回る - 複数の役割・ペルソナを与えて議論させる -- 非倫理的なペルソナも生成できてしまう問題 - 複数のLLMに回答と共に，確信度を生成 → 他のLLMの回答をフィードバックとするループを繰り返す - 推薦のときに，アイテムの説明を生成させる≒特徴量を生成させる - 話者の少ない言語は，非倫理的な回答が出やすい - LLMのパラメータを量子化するのは4bitまでは性能が変わらない - ウォーターマーク：LLMのトークンを二つのリストに分けて，一方のリストのトークンを使わないようにすると，統計分析で分かる * チュートリアル2：物理シミュレーションのための機械学習入門 [#f338d626] 田中佑典（NTT） - 物理現象と微分方程式 -- 物理シミュレーション：計算機上での物理現象の再現 - 常微分方程式 (ODE)＝独立変数が一つ，状態・方程式・初期条件を定める - 偏微分方程式 (PDE)＝独立変数が二つ以上，状態・方程式・初期条件・境界条件を定める - 順問題＝方程式や初期条件などから，これを満たす関数を求める -- 離散化して数値的に解く（ルンゲクッタ法など） - 逆問題＝解の観測値と，方程式などから，関数のパラメータを推定 - データ駆動型のアプローチ：NNで関数を表すように -- 物理学の知識を制約・バイアスとして利用 physics-informed machine learning -- 制約は，損失関数に制約項を加えるソフトなものと，関数形・NNアーキテクチャに導入(baked という) - ダイナミクスの推定：求める関数をブラックボックス関数で近似する問題 -- ニューラルODE：状態関数 u の時間的な差分をNNでモデル化 --- 小規模なら誤差逆伝播で解く，中規模以上なら随伴変数法を使う（数値誤差は大きい） --- ハミルトニアンPDE：ハミルトニアン密度を全空間に対して積分して表したエネルギーを利用する - 方程式の解の推定：特定の初期条件・境界条件に対する状態関数を求める -- 初期状態や境界条件を制約項に入れて損失関数を定義 - 解作用素の推定：初期条件などから状態関数uへの写像をNNでモデル化 -- 関数間の写像は解作用素と呼ばれる -- 関数をNNに入れられないので，実際には関数の格子点上の値を入れる -- end-to-end の考え方で解作用素を推定 * チュートリアル3：ゼロから作る深層学習理論 [#oa31785a] 今泉允聡（東京大学/理化学研究所） - 複雑なモデルほど汎化誤差が減る理由は？ -- 汎化誤差 ＝ 近似誤差（NNの表現力）＋ 複雑性誤差（予測の安定性）＋ 最適化誤差（学習がうまくいくか） -- 普遍近似定理（NNは任意の関数を誤差ε以内で近似できる）に着目 - 層が少ないNNで1次元入力 -- 2層NN（M個のReLU関数の加重和）で近似可能 - 任意の関数を区分定数関数で近似 → 区分定数関数をNNで近似 -- 区分定数関数を，急激に変化するReLUで近似すれば，NNで表せる - 層が少ないNNでd次元入力 -- 3層NNで近似可能 -- d次元関数を，d次元空間の区分定数関数で近似 → 各次元ごとに区間に入っているかを調べ，それらを次の層で選んで区分定数関数を近似 - 多層で幅が小さなMのNNで多次元入力 -- 層が少なく幅のおおきなNNを，等価な多層で幅の小さなNNに変換 --- 入力を保存する部分，係数を掛ける部分，演算結果を保存する部分と各層でのノードの役割を分ける * チュートリアル4：逐次的意思決定におけるリグレット解析と適応的アルゴリズム [#k9e9a253] 伊藤伸志（NEC） - オンライン学習の分類：フィードバックの違い × 目的関数・実行可能領域の構造 × 確率的・敵対的 - 一般のオンライン学習：解の生成と関数値の観測を反復 - オンライン組合せ最適化＝経路の選択とその重みの観測を反復 - エキスパート問題：N人のエキスパートがいて各反復でエキスパートの回答を得て，その後に全エキスパートの成績が分かる -- 最も成績の良かったエキスパートに対するリグレットを最小化 -- 確率的（定常的）：エキスパートの利得は独立同分布から得られる -- 敵対的（非定常的）：こちらの方策を知っている敵対者が最悪の利得を決める，確率的環境を包含 - Follow the Leader：そこまでの成績が一番良かった人を選ぶ → 確率的な場合は良いが，敵対的な場合はよい - 乗算型重み更新 (MWU, Hedge)：信頼度に応じて確率的にエキスパートを選択し，観測した利得に乗算的に信頼度を更新 → 敵対的な場合に良い -- 信頼度のエントロピーを正則化項とする最適化に等しい - 適応的MWU＝確率的・敵対的の双方に優れる * 10月30日（月） [#k0d4b74e] * 企画セッション1：Vision and Languageの最前線 [#ja4490bf] オーガナイザー：菅沼雅徳（東北大学） ** 大規模言語モデルとVision-and-Language [#r2672b42] 西田光甫（NTT） - V&L：画像の理解を文書化や，その逆処理ができるように - 基盤モデルと事前学習 - 言語モデル＝文字列が与えられたときの，次の文字（トークン）を予測する -- GPT3：300Gトークンで学習，モデルはtransformer -- 少数の例示によって，モデルの更新なしに問題を解けるように - V&L：画像と言語 -- CLIP：テキストと画像の埋め込み間の内積が，関連していれば大きくなるように学習 - instruction tuning＝モデルにタスクを指示する入力 -- V&L では，一度画像の情報を文字列に変換し，fine-tuning して instruction tuning を利用できるように -- 文字列が生成できれば，文字列からの画像生成モデルに入力すればよい - ChatGPT＝強化学習 (RLHF) を用いて，人間のフィードバックを学習に組み込む -- 複数の応答を生成させて，それらに人間が評価を与え，その良さをランキング学習で評価モデルを作る - GPT-4V＝画像もモデルに組み込まれている -- 指示に従った応答を生成できる ** 作業動画と手順書を対象としたマルチモーダル理解 [#ife5125d] 西村太一（京都大学 (現: LINEヤフー)） - Web上の動画を対象：Youtubeなどから取得，余分なものが写っている -- 音声が利用可能，大規模にデータを収集可能 - データ集合 -- YouCook2, YouMakeup：料理とメイク動画のデータ，時間区間のアノテーション -- COIN, Howto100M：多様なタスクの動画 - MIL-NCE：Howto100Mで構成した基盤モデル -- Q&A，レシピ生成，動画検索，プランニング（最初と最後から中間画像を予測） - 一人称動画：作業者視点の動 - データ EPIC-KITCHEN：料理，アノテーションは作業内容と対象物体（bounding boxも） - データ Ego4D：多様な作業者・環境の作業に限らない一人称動画，映像のナレーション， - EgoVLP：画像とテキストの変換タスク - 化学実験の作業タスク：再現性を確保する目的，手順書とビデオを対応付ける ** テキストからの実世界理解に向けて [#qa382d29] 栗田修平（理化学研究所）※オンライン講演 - 画像キャプション生成 (IC)＝画像に題を付ける - 画像質問応答 (VQA)＝画像に関する質問に応答（物の色など） -- VinVL：VQAの手法 - Scene Graph Generation：画像中の物体とそれらの関係のアノテーション (Visual Genome) - 参照表現理解 (referring expression comprehension; visual grounding) -- テキスト表現の物体のbounding boxを予測 -- MDETR：名詞句に対応する画像を検出するモデル -- GLIPv2：画像内部と，別の画像と両方の対照学習 -- OFA：マルチタスク，マルチデータ集合を一つのモデルで - 対照学習：似た画像は近くに，似ていない画像は遠くに配置 -- CLIP：画像とテキストの対照学習，係り受けなどは考慮されていない - オープン語彙物体検出 (open-vocabulary objet detection) -- キャプションの語彙を使って，新たな物体クラスラベルをも作る -- ゼロショットで，与えた語彙に対応する物体を検出するタスクも - RefEgo：一人称画像からの参照表現理解 * 招待講演1：Geometric Algebra Transformers: A General-Purpose Architecture for Geometric Data [#qff5316a] Taco Cohen（Qualcomm AI Research） - 幾何的な推論の応用分野：分子構造の扱い，大気の予測，ロボットの把持，屋内での電波の解析 - 幾何的深層学習 (GDL)：元の入力を処理した結果に幾何的変換を加えたものと，元の入力に幾何的変換を加えたものを処理したものが一致する - Geometric Algebraic Transformer (GATr)：幾何的不変性をそなえたtransformer - GNNなど，他の幾何的深層学習と比較して，GATr はスケーラブル * 10月31日（火） [#n7cd4fdb] * 招待講演2：Prompt2Model: Generating Deployable Models from Natural Language Instructions [#n79eb006] Graham Neubig（Carnegie Mellon University）※オンライン講演 - LLMの課題：プライバシ，コスト，意図どおりの制御 -- これらの課題に対処した，大規模モデルを使って，タスク記述から，小規模な言語モデルを獲得したい → Prompt2model - 多くのデータ集合が公開されるようになったが，大規模なものはあまり使われていない - LLMを使って，データ集合を取得し，データをアノテーション -- クエリを拡張して，関連するモデルを検索 * 企画セッション2：テンソルネットワーク [#o34757a8] オーガナイザー：横田達也（名古屋工業大学） ** Exploring Optimal Tensor Network Architectures Through Tensor Network Structure Search (TN-SS) [#adfd0d75] Chao Li（理化学研究所） - テンソルネットワークにはいろいろな形態がある → TN Structure Search -- 構造は指数的に増加するので大変 - 必要な表現能力の制約の下，最も簡潔な構造を探索 -- 構造を符号化して，遺伝的アルゴリズムを適用 -- 確率的探索：近隣構造を無作為サンプリングし，良いものを選ぶのを繰り返す -- alternating local enumeration：近傍を列挙して，良いものを選ぶのを繰り返す ** 非負テンソルの多体近似 [#x9838575] ガラムカリ和（理化学研究所）※オンライン講演 - テンソル分解での表現：積和で表す -- 分解の方法がいろいろある（CP分解，タッカー分解，テンソルネット） -- 誤差関数が非凸で最適化が難しい -- 解が不定になることも - 提案手法：テンソルの要素値が，自然パラーメータの指数分布族の関数の負の指数関数 -- n体モデル：テンソルのn個のモードの要素の積を項とするモデル - 隠れモードの導入 → 一つだとCP分解に，二つ以上使うとタッカー分解やテンソルトレイン分解になる ** テンソルネットワーク法の量子計算への応用 [#ida1b269] 上田宏（大阪大学） - 量子ビットの演算は，テンソルネットの構造を使うことによって，大幅に計算量を減らせる * 11月1日（水） [#ze5875bb] * 企画セッション3：最適輸送 [#x3dae154] オーガナイザー：今泉允聡（東京大学/理化学研究所） ** 何でも微分する [#zc92d092] 佐藤竜馬（京都大学） - 最適輸送：輸送量非負，出発点から運ぶ量と到着点に届く量は定数の制約下で移動コストの総和を最大化 -- 目的関数は微分できない → エントロピー正則化項を加えて滑らかにする -- 正則化パラメータ ε は，実用的な 0.1 など小さな値にする -- Sinkhornアルゴリズム：正則化項付きの最適化問題を解く → 滑らかなので自動微分と勾配降下が使える - ランキング問題＝実数値配列を順位ベクトルに変換 -- 1次元の最適輸送問題の特殊例になっている → Sinkhorn法で解ける - Sinkhorn法 はブレグマン法の特殊例 -- ブレグマン法は，最短経路問題，教師あり最短経路問題を解ける ** 最適輸送と情報幾何 [#u3b18ea4] 松田孟留（東京大学/理化学研究所） - 1次元分布の変換を考えると，累積分布関数を水平に確率質量を移動させるのが最適 - Wassersteinは変数変換に対して不変ではない - KLダイバージェンスは統計的推測と密接に関連 → Wassersteinでの情報幾何を考える - ベイズ予測分布：データから次の出力を予測する -- KLで測ると，事前分布によって予測分布はシフトしており，そのおかげで最尤推定より真の分布に近いことが示せる -- Wassersteinでも同様のことを示せる - continuity equation：確率分布の時間発展を示す偏微分方程式 -- Wassersteinでのスコア関数を定義し，それで情報行列を定義 -- Wasserstein版の共分散行列（KLのFisher情報量みたいなもの）を定義できて，Cramer-Raoの不等式に対応する不等式を導出できる → 加法的ノイズに対する下界として解釈できる ** 最適輸送と熱力学的トレードオフ関係 [#zd101cd3] 伊藤創祐（東京大学） - Monge-Kantrovichの問題：コストで重み付けした同時分布の最小化 → 最適輸送の下界を与える - 流体力学：2-Wassersteinの最適輸送を速度場に書き換える → 流体方程式の渦なしEuler方程式と等しい - Fokker-Planck方程式＝ブラウン粒子の確率ダイナミクス -- 2-Wassersteinの2乗を使った式が，次時刻を予測する更新式に含まれる - 拡散系での熱力学 -- ゆらぎの定理＝拡散過程の前向きと後ろ向きの相違に関する定理 - Fokker-Plank方程式から導かれる隣接する時間での同時分布で考える → Cramer-Rao 不等式に対応するゆらぎの下界を導出できる * 招待講演3：How to build machines that adapt quickly [#f02cabe6] Emtiyaz Khan（理化学研究所） - 機械学習における適応：小さな変化でも再訓練が必要，僅かな変更に多くのデータが必要，常に変化する環境 - 素早い適応：ベイズ学習，正則化，memory perturbation equation - ベイズ学習 -- weight regularizer：更新前後のパラメータの差に重要度を加えた正則化項 -- RMSpropなどの重み更新則は，勾配を変化させるだけで実現できる - Knowledge-Adaptation Prior -- K-prior：新たなデータが加わったとき，変化した決定境界でも重要だった事例を記憶するように - Memory perturbation equation -- K-priorで将来的に重要にならないであろう事例 → 今まであるデータの端にはないデータは重要にはならないだろう * 企画セッション4：メカニズムデザイン [#e926c704] オーガナイザー：竹内孝（京都大学） ** 機械学習によるメカニズムデザイン [#w2007e83] 恐神貴行（日本IBM） - ゲーム：N＝参加者，Ai＝行動，T＝型（個人が知る情報），Ω＝g(A)＝出力，ui＝(Ω,T)効用(ui) - メカニズムデザイン：均衡を達成した上で，全体効用の最大化をするように設計 -- 均衡（dominant strategy，Nash，Bayesian Nash）：全参加者が方策を変えても効用が増えない - メカニズムに望ましい性質：efficiency＝社会効用の最大化，dominant strategy incentive compatibility＝自身の型に素直に従う，individual rationality＝均衡, weak budget balance - これらの性質を備えるように，個人の型と行動の範囲から，最適な行動を機械学習で定める - trading network：オークションのように買うだけでなく，付加価値を付けて売る場合 -- 四つの性質を満たすものはできない → 最後の二つの条件を厳密ではなく期待値にして緩和する必要 - メカニズムデザインが利用される機械学習 -- 学習理論，バンディット，マルチエージェント強化学習 ** 協力ゲーム理論とPAC学習 [#n5786400] 五十嵐歩美（東京大学） - 協力ゲーム＝エージェント間で協力できる，協力することで利益を最大化できるように -- 提携するエージェントの組合せが指数的に増加する問題 - 協力ゲームの形式的定義 -- N＝エージェントの集合，v＝特性関数：Nの部分集合が提携して得られる利益，I(N,v)＝配分 - core安定性：どのような提携をしても，その配分より大きな利益は得られない -- core安定な解の存在だけでもNP困難 → 機械学習で割当てを決める - PAC学習：目標概念に最も近い仮説を選択するのに必要な事例数を決める -- PAC安定解＝エージェントの提携をiidで生成，エージェントの離反する確率をε未満に -- 効率的なPAC安定化：エージェントの提携をサンプリングする回数が多項式で抑えられる ** マッチング・マーケットデザインの産業応用 [#qcc745e3] 冨田燿志（サイバーエージェント） - マッチング推薦 -- 一方の選好にのみ基づいて推薦しても，マッチングする可能性は増えない -- 両方の選好の積などに基づく，多くの相手に好まれる相手への集中が生じる -- 全体の社会厚生関数を導入する → 計算量が多い -- TUマッチングモデルの導入：均衡条件を満たすマッチング - 保育所の利用調整 -- 希望者が希望する保育所の順位リストを提示 -- 特に制約がなければ Gale-Shapleyの方法 で対応可能 --- 安定マッチング：個人合理性＝希望しないマッチはない，非浪費性＝無駄な空きがない，ブロッキングペアの非存在性＝優先度の低い人が高い人を押しのけて入る -- 保育所の問題：兄弟の同園の入所，転園の希望（より近い園に空きがあればとか）→ これらの制約も満たすアルゴリズム * 招待講演4：Decoupling the Input Graph and the Computational Graph: The Most Important Unsolved Problem in Graph Representation Learning [#j0eafc7f] Petar Veličković（Google DeepMind & University of Cambridge）※オンライン講演 - GNN のグラフ構造は正しいものと仮定されるが，リンクの繋ぎ替えが生じる実問題は多い -- グラフが得られたとしても，GNNは，グラフにボトルネックがあると，その影響が全体に及ぶといった問題 (over-squashing) がある - Deep Sets＝辺は自己ループだけ，transformer＝全結合 - 潜在的なグラフを推定する → 伝播が急激に変わる - nonparametric rewiring -- graph diffusion convolution＝徐々に変化するグラフ構造 -- expander graph propagation＝グラフ構造は未知だが，伝播経路の情報はある - over-squashing を形式的に定義し，計算に
