メモ

PytorchでDataParallelしたモデルの保存と読み込み

発端 PytorchでDataParallelしたモデルにシングルGPUで学習したパラメタを読み込もうとしたらエラーが出た。 原因 PytorchではDataParallelでモデルを包むと元のモデルがself.moduleに格納される。 そのためDataParallel後のモデルから見るとパラメタ名全て…