Exemplos de get_bert_optimizer em Python

Exemplo n.º 1

Arquivo: bert_classifier.py Projeto: youngshingjun/ParlAI

 def init_optim(self, params, optim_states=None, saved_optim_type=None):
     """
     Initialize the optimizer.
     """
     self.optimizer = get_bert_optimizer([self.model],
                                         self.opt['type_optimization'],
                                         self.opt['learningrate'])

Exemplo n.º 2

Arquivo: bert_transformer_generator.py Projeto: SirChoeg/ParlAI

 def init_optim(self, params, optim_states=None, saved_optim_type=None):
     self.optimizer = get_bert_optimizer([self.model],
                                         self.opt['type_optimization'],
                                         self.opt['learningrate'],
                                         fp16=self.opt.get('fp16'))