しましま/IBISML036
をテンプレートにして作成
[
トップ
] [
新規
|
一覧
|
検索
|
最終更新
|
ヘルプ
|
ログイン
]
開始行:
* 第36回 情報論的学習理論と機械学習研究会(IBISML) [#ybc...
このページはしましまが [[第36回電子情報通信学会 情報論的...
- 日時:2017年 3月 5日(月)〜6日(火)
- 会場:理化学研究所革新知能統合研究センター
- http://ibisml.org/ibisml036
- https://www.ieice.org/ken/program/index.php?tgs_regid=5...
#contents
* 3月5日(火) [#dff495c5]
** A connection between Kida's optimal signal approximati...
○Takuro Kida(Tokyo Tech. Prof.EM)・Yuichi Kida(Ohu Uni...
- Y ← F H S Z の信号処理,H と S はgivenで,F は族のみ与...
-- F ← 入力,H ←観測フィルタ,S ← サンプリングフィルタ,A...
** 残差スキップ接続の表現力とネットワークの設計 [#a41dc588]
○長瀬准平・石渡哲哉(芝浦工大)
- スキップ接続:元入力を加算するResNetと,ベクトルの要素...
- 表現力:ネットが表現できる関数集合 → 線形回帰を台として...
-- Res と Dense は,正則性(重みの左逆Affine関数の存在)...
** 強化学習におけるVariational Information Maximizing Exp...
○土井一輝・大川慧悟(岐阜大)・志賀元紀(岐阜大/JST/理研)
- VIME:探索-活用のトレードオフのために,報酬に加え,新た...
-- 観測データの有無によるパラメータの分布のKLダイバージェ...
- TRPO:方策の勾配法による更新方法,過剰な更新を抑えるた...
** 招待講演「機械学習工学への誘い」 [#c88a31f8]
丸山 宏 (Preferred Networks)
- Software 2.0:今までのソフトウェアを深層学習が食べてい...
- 先験的な知識を用いたもの → 入出力のペアから学習する
-- 例 摂氏から華氏への変換:摂氏から華氏への変換式をプロ...
- 深層学習は過学習しにくい,任意の関数を近似できる
- 限界
-- 訓練とテストで環境が同じではない
-- 訓練データにない状況は対応できない
-- 訓練データをうまくサンプリングすることは難しい
- ソフトウェア危機への対応としてソフトウェア工学ができた ...
- 土木工学:安全係数 → 理論値からのマージン
- 開発プロセス
- 機械学習の製品開発:顧客とのコミュニケーションの次に,...
-- Proof of Concept:データの量や質は足りているかの検討段...
-- 機械学習を使った成果が出たら,最後は準委任契約ではなく...
- 品質
-- 機械学習の解く問題自体には形式的な正解はない → ソフト...
-- 入出力の例だけで示す → 入出力の対応を強制することは困難
-- 組み込み系のV字開発では対応できない → ソフトウエアには...
- 再利用
-- 公開モデルを使う→ホワイトボックス再利用,内容の分から...
-- 経産省はモデルの再利用についてのガイドラインを出している
- 計算環境
-- スパコン + スケジューラなどの管理環境 → クラウド環境で...
- 要求
-- 強化学習で衝突のペナルティを∞にすると動かない車ができ...
-- オープンな世界ではフレーム問題があるので不可能
- アーキテクチャ
- データベースのB-Tree(キーからデータの位置を返す)→ 深...
-- 普通のソフトと深層学習を組み合わせるアーキテクチャの例
- インバリアント:ソフトウェア工学でループを幾ら回っても...
-- 機械学習では,実行可能解のような満たすべき制約を考える
- 基礎理論
-- 計算機は離散値しか扱えない → 連続値を扱うための基礎理論
** Set Transformerによるファッションコーディネート選択 [#...
中村拓磨・○斎藤侑輝(ZOZO研)
- ファッションでのデータ適用:スタイルの分類,コーディネ...
- IQON:コーディネートの共有サイト,利用者のフィードバッ...
- fill in the blank:欠けているものの穴埋めタスク
- set transformer:encoderは順列置換に不変なモデルで,enc...
-- decoder の出力に近いものを選ぶ方法や,encoder と候補ア...
** コネクテッドカーサービスに対する虚偽情報混入攻撃の強化...
○彈 雄一郎・長谷川慶太・原田貴史・鷲尾知暁・大嶋嘉人(NT...
- コネクティッドカーのセンサー情報に偽情報を入れる → 所用...
- 検知手法:攻撃データの生成と分析 + 攻撃の検知
- 渋滞が起きたら報酬を与えるような設計で強化学習を導入
* 3月6日(水) [#p6310cba]
** Batch-normalizationがResNetのフィッシャー情報行列に与...
○古庄泰隆・池田和司(奈良先端大)
- ResNet とバッチ正規化付きの ResNet の,初期化時点でのフ...
-- フィッシャー情報行列はヘシアンをよく近似するので,その...
- ResNet は固有値が逆数を層数に対して指数的に増えるが,バ...
** ニューラルネットワークの隠れ層のユニット数とReLU関数が...
○古庄泰隆・池田和司(奈良先端大)
- モデルが複雑になるのに経験誤差と訓練誤差の差が小さくな...
- 中間層の幅を広くするとクラス内の距離を小さくできる
** Shapelet-based Multiple-Instance Learning [#z6cc8195]
○Daiki Suehiro・Kohei Hatano(Kyushu Univ./RIKEN AIP)・E...
- マルチインスタンス学習:インスタンスの集合であるバッグ...
- 時系列の短い部分列をshapeletと呼び,その集合をバッグと...
-- 無限次元のshapeletから良いものを選ぶ → boostingによる...
** カーネル密度推定に基づくモード推定に対する最適カーネル...
○山崎遼也・田中利幸(京大)
- pdfの最頻値を,カーネル密度推定で推定したpdfの最頻値を...
- 解析の結果,裾の重いカーネルを使うのは良くなくて,切断...
** 深層学習超解像を用いた磁気共鳴血管画像の復元 [#t96a53de]
○北崎自然・川喜田雅則・實松 豊(九大)・久原重英(杏林大...
- MRI画像の撮影時間が長いので観測を減らす + 圧縮センシン...
- CNN を使うが,複数の解像度ごとにCNNを作り解像度を合わせ...
** 領域分割学習を用いたブースティング判別器の高速化と顔検...
○森 健・竹内純一・川喜田雅則(九大)
- ブースティング識別の高速化
-- γ打ち切り法:全ての弱識別器を評価しなくても識別結果が...
-- 順序構造学習:打ち切るのだが,さらに平均評価回数が最小...
- 提案→領域分割学習:特徴空間を分割して,それぞれの領域ご...
-- 領域によっては,弱識別器の結果が定数になる場合もある
** 囲碁プログラムにおけるRAVEを用いたLGRFの評価 [#z89d617a]
○清水達哉・葉山雄太・中村あすか・前川仁孝(千葉工大)
- プレイアウトの方法LGRF:定石的な応手を扱うため,決まっ...
- 評価値の更新方法 RAVE:UCB に基づく評価項を加える
終了行:
* 第36回 情報論的学習理論と機械学習研究会(IBISML) [#ybc...
このページはしましまが [[第36回電子情報通信学会 情報論的...
- 日時:2017年 3月 5日(月)〜6日(火)
- 会場:理化学研究所革新知能統合研究センター
- http://ibisml.org/ibisml036
- https://www.ieice.org/ken/program/index.php?tgs_regid=5...
#contents
* 3月5日(火) [#dff495c5]
** A connection between Kida's optimal signal approximati...
○Takuro Kida(Tokyo Tech. Prof.EM)・Yuichi Kida(Ohu Uni...
- Y ← F H S Z の信号処理,H と S はgivenで,F は族のみ与...
-- F ← 入力,H ←観測フィルタ,S ← サンプリングフィルタ,A...
** 残差スキップ接続の表現力とネットワークの設計 [#a41dc588]
○長瀬准平・石渡哲哉(芝浦工大)
- スキップ接続:元入力を加算するResNetと,ベクトルの要素...
- 表現力:ネットが表現できる関数集合 → 線形回帰を台として...
-- Res と Dense は,正則性(重みの左逆Affine関数の存在)...
** 強化学習におけるVariational Information Maximizing Exp...
○土井一輝・大川慧悟(岐阜大)・志賀元紀(岐阜大/JST/理研)
- VIME:探索-活用のトレードオフのために,報酬に加え,新た...
-- 観測データの有無によるパラメータの分布のKLダイバージェ...
- TRPO:方策の勾配法による更新方法,過剰な更新を抑えるた...
** 招待講演「機械学習工学への誘い」 [#c88a31f8]
丸山 宏 (Preferred Networks)
- Software 2.0:今までのソフトウェアを深層学習が食べてい...
- 先験的な知識を用いたもの → 入出力のペアから学習する
-- 例 摂氏から華氏への変換:摂氏から華氏への変換式をプロ...
- 深層学習は過学習しにくい,任意の関数を近似できる
- 限界
-- 訓練とテストで環境が同じではない
-- 訓練データにない状況は対応できない
-- 訓練データをうまくサンプリングすることは難しい
- ソフトウェア危機への対応としてソフトウェア工学ができた ...
- 土木工学:安全係数 → 理論値からのマージン
- 開発プロセス
- 機械学習の製品開発:顧客とのコミュニケーションの次に,...
-- Proof of Concept:データの量や質は足りているかの検討段...
-- 機械学習を使った成果が出たら,最後は準委任契約ではなく...
- 品質
-- 機械学習の解く問題自体には形式的な正解はない → ソフト...
-- 入出力の例だけで示す → 入出力の対応を強制することは困難
-- 組み込み系のV字開発では対応できない → ソフトウエアには...
- 再利用
-- 公開モデルを使う→ホワイトボックス再利用,内容の分から...
-- 経産省はモデルの再利用についてのガイドラインを出している
- 計算環境
-- スパコン + スケジューラなどの管理環境 → クラウド環境で...
- 要求
-- 強化学習で衝突のペナルティを∞にすると動かない車ができ...
-- オープンな世界ではフレーム問題があるので不可能
- アーキテクチャ
- データベースのB-Tree(キーからデータの位置を返す)→ 深...
-- 普通のソフトと深層学習を組み合わせるアーキテクチャの例
- インバリアント:ソフトウェア工学でループを幾ら回っても...
-- 機械学習では,実行可能解のような満たすべき制約を考える
- 基礎理論
-- 計算機は離散値しか扱えない → 連続値を扱うための基礎理論
** Set Transformerによるファッションコーディネート選択 [#...
中村拓磨・○斎藤侑輝(ZOZO研)
- ファッションでのデータ適用:スタイルの分類,コーディネ...
- IQON:コーディネートの共有サイト,利用者のフィードバッ...
- fill in the blank:欠けているものの穴埋めタスク
- set transformer:encoderは順列置換に不変なモデルで,enc...
-- decoder の出力に近いものを選ぶ方法や,encoder と候補ア...
** コネクテッドカーサービスに対する虚偽情報混入攻撃の強化...
○彈 雄一郎・長谷川慶太・原田貴史・鷲尾知暁・大嶋嘉人(NT...
- コネクティッドカーのセンサー情報に偽情報を入れる → 所用...
- 検知手法:攻撃データの生成と分析 + 攻撃の検知
- 渋滞が起きたら報酬を与えるような設計で強化学習を導入
* 3月6日(水) [#p6310cba]
** Batch-normalizationがResNetのフィッシャー情報行列に与...
○古庄泰隆・池田和司(奈良先端大)
- ResNet とバッチ正規化付きの ResNet の,初期化時点でのフ...
-- フィッシャー情報行列はヘシアンをよく近似するので,その...
- ResNet は固有値が逆数を層数に対して指数的に増えるが,バ...
** ニューラルネットワークの隠れ層のユニット数とReLU関数が...
○古庄泰隆・池田和司(奈良先端大)
- モデルが複雑になるのに経験誤差と訓練誤差の差が小さくな...
- 中間層の幅を広くするとクラス内の距離を小さくできる
** Shapelet-based Multiple-Instance Learning [#z6cc8195]
○Daiki Suehiro・Kohei Hatano(Kyushu Univ./RIKEN AIP)・E...
- マルチインスタンス学習:インスタンスの集合であるバッグ...
- 時系列の短い部分列をshapeletと呼び,その集合をバッグと...
-- 無限次元のshapeletから良いものを選ぶ → boostingによる...
** カーネル密度推定に基づくモード推定に対する最適カーネル...
○山崎遼也・田中利幸(京大)
- pdfの最頻値を,カーネル密度推定で推定したpdfの最頻値を...
- 解析の結果,裾の重いカーネルを使うのは良くなくて,切断...
** 深層学習超解像を用いた磁気共鳴血管画像の復元 [#t96a53de]
○北崎自然・川喜田雅則・實松 豊(九大)・久原重英(杏林大...
- MRI画像の撮影時間が長いので観測を減らす + 圧縮センシン...
- CNN を使うが,複数の解像度ごとにCNNを作り解像度を合わせ...
** 領域分割学習を用いたブースティング判別器の高速化と顔検...
○森 健・竹内純一・川喜田雅則(九大)
- ブースティング識別の高速化
-- γ打ち切り法:全ての弱識別器を評価しなくても識別結果が...
-- 順序構造学習:打ち切るのだが,さらに平均評価回数が最小...
- 提案→領域分割学習:特徴空間を分割して,それぞれの領域ご...
-- 領域によっては,弱識別器の結果が定数になる場合もある
** 囲碁プログラムにおけるRAVEを用いたLGRFの評価 [#z89d617a]
○清水達哉・葉山雄太・中村あすか・前川仁孝(千葉工大)
- プレイアウトの方法LGRF:定石的な応手を扱うため,決まっ...
- 評価値の更新方法 RAVE:UCB に基づく評価項を加える
ページ名: