Ejemplos de noisy_linear_cosine_decay en Python

Ejemplo n.º 1

Archivo: legacy_learning_rate_decay_test.py Proyecto: Chiranjeevi731/Machine-Learning

 def testDefaultNoisyLinearCosine(self):
   num_training_steps = 1000
   initial_lr = 1.0
   for step in range(0, 1500, 250):
     # No numerical check because of noise
     decayed_lr = learning_rate_decay.noisy_linear_cosine_decay(
         initial_lr, step, num_training_steps)
     # Cannot be deterministically tested
     self.evaluate(decayed_lr)

Ejemplo n.º 2

Archivo: legacy_learning_rate_decay_test.py Proyecto: Chiranjeevi731/Machine-Learning

 def testNonDefaultNoisyLinearCosine(self):
   num_training_steps = 1000
   initial_lr = 1.0
   for step in range(0, 1500, 250):
     # No numerical check because of noise
     decayed_lr = learning_rate_decay.noisy_linear_cosine_decay(
         initial_lr,
         step,
         num_training_steps,
         initial_variance=0.5,
         variance_decay=0.1,
         alpha=0.1,
         beta=1e-4,
         num_periods=5)
     # Cannot be deterministically tested
     self.evaluate(decayed_lr)