Python convert_sync_bnの例

コード例 #1

ファイル: ofa.py プロジェクト: zeta1999/aw_nas

 def _parallelize(self):
     if self.multiprocess:
         net = convert_sync_bn(self).to(self.device)
         object.__setattr__(
             self, "parallel_model",
             DistributedDataParallel(net,
                                     self.gpus,
                                     find_unused_parameters=True))

コード例 #2

ファイル: cnn_trainer.py プロジェクト: ZhuangzhuangWu/aw_nas

 def _parallelize(self):
     if self.multiprocess:
         net = convert_sync_bn(self.model).to(self.device)
         self.parallel_model = DistributedDataParallel(
             net, self.gpus, find_unused_parameters=True)
     elif len(self.gpus) >= 2:
         self.parallel_model = DataParallel(self.model,
                                            self.gpus).to(self.device)
     else:
         self.parallel_model = self.model