発端 PytorchでDataParallelしたモデルにシングルGPUで学習したパラメタを読み込もうとしたらエラーが出た。 原因 PytorchではDataParallelでモデルを包むと元のモデルがself.moduleに格納される。 そのためDataParallel後のモデルから見るとパラメタ名全て…

GANのいろんなパーツについて効果を確認しながら実験していく記事の2 前回はGenerator：Discriminator=1：1で訓練してたらDiscriminatorが圧勝してしまったので、今回はDiscriminatorを抑えて実験してみる。 「Discriminator Lossが0.6以上の場合のみDiscrim…

GANのいろんなパーツについて効果を確認しながら実験していく記事の1 まずは最も基本ということでDCGAN。 勉強のために論文やらを見ながら自分でコード書いてみた。 とはいえGenerator、DiscriminatorともにConvolution -> Batch Norm -> (Leaky) ReLUを繰り…

今までなんとなく勉強、実験してた深層学習関連をアウトプットしてみようという趣旨のブログ。 きっちりしたまとめというよりは日誌みたいな感じの予定です。