regularization_strengths = [5e4, 1e5]
'''
regularization_strengths = [5e4, 1e5, 5e5, 1e8]
################################################################################
# TODO: #
# Use the validation set to set the learning rate and regularization strength. #
# Save the best trained softmax classifer in best_softmax. #
# Hint: about 10 lines of code expected
################################################################################
ns=SoftmaxClassifier()
max_iters=8000
for rs in regularization_strengths:
ns.train_fmin(X_train,y_train,rs,max_iters)
ta=np.mean(y_train == ns.predict(X_train))
va=np.mean(y_val == ns.predict(X_val))
results[rs]=(ta,va)
if va>best_val:
best_val=va
best_reg = rs
best_softmax=ns
print '\t---- FINISHED fmin with reg: %e------' %rs
################################################################################
# END OF YOUR CODE #
################################################################################
# Print out results.
for rs in sorted(results):
train_accuracy, val_accuracy = results[(rs)]
