/ プログラム/ 発表一覧/ 著者一覧企業展示一覧/ jsai2017ホーム /

1A2-OS-05b-4 自然勾配近似法を起点としたバッチ正規化の数理的理解

*セッションの無断動画配信はご遠慮下さい。

Tweet #jsai2017 このエントリーをはてなブックマークに追加

05月23日(Tue) 15:50〜17:30 A会場(ウインクあいち-2F 大ホール)
1A2-OS-05b オーガナイズドセッション「OS-5 Deep Learning(2)」

演題番号1A2-OS-05b-4
題目自然勾配近似法を起点としたバッチ正規化の数理的理解
著者木脇 太一(東京大学 情報理工学系研究科 数理情報学専攻)
時間05月23日(Tue) 16:50〜17:10
概要バッチ正規化(BN)と呼ばれる最適化手法はNeural Networkの学習効率を劇的に向上させるため大きく着目されている.定性的な議論および実験的な観測から,BNは自然勾配法(NG)との関係性が指摘されているが,厳密な数理的原理は不明である.本研究ではNatual Neural Networkと呼ばれるNGの実現方法とBNの類似性に着目し,BNがどの様にNGを近似しているのかを数理的に議論する.
論文PDFファイル