雑感等

音楽,数学,語学,その他に関するメモを記す.

2020-11-25から1日間の記事一覧

CNNでのBatch Normalizationの平均・分散

畳み込みニューラルネットを使ってるときにバッチ正規化したら, BN層のパラメータが(ch数×4)になった. これはchごとに正規化していて,各chに含まれる各要素(各画素や各時刻の電圧)をそれぞれ正規化しているわけではない. BNの解説では,ミニバッチに含…