loss_engine = pd.Engine(loss, [W1, W2, B1, B2])
# 创建梯度下降optimizer。
optimizer = pd.GradientDescentOptimizer(0.03)
# 迭代至多10000次最小化loss。
for epoch in range(10000):
optimizer.minimize(loss_engine)
if epoch % 100 == 0: # 每100次epoch检查一次loss。
loss_value = loss_engine.value()
print('loss = {:.8f}'.format(loss_value))
if loss_value < 0.001: # loss阈值。
break
# 创建预测函数。
predict = pd.where(pd.reduce_sum([[-1], [1]] * model, axis=0) < 0, -1, 1)
# 创建预测函数计算引擎。
predict_engine = pd.Engine(predict)
# 设置网格密度为0.1。
h = 0.1
# 生成预测采样点网格。
x, y = np.meshgrid(np.arange(np.min(c_x) - 1,
np.max(c_x) + 1, h),
np.arange(np.min(c_y) - 1,
np.max(c_y) + 1, h))
# 绑定变量值。
predict_engine.bind = {A: [x.ravel(), y.ravel()]}
# 迭代至多10000次最小化loss。
for epoch in range(10000):
optimizer.minimize(loss_engine)
if epoch % 100 == 0: # 每100次epoch检查一次loss。
loss_value = loss_engine.value()
print('loss = {:.8f}'.format(loss_value))
if loss_value < 0.001: # loss阈值。
break
# 申明2个变量用于预测。
T = pd.Variable()
K = pd.Constant([[-1], [1]])
# 创建预测函数。
probability = pd.where(pd.reduce_sum(K * pd.maximum(W2 @ pd.maximum(W1 @ T + B1, 0) + B2, 0), axis=0) < 0, -1, 1)
# 创建预测函数计算引擎。
predict_engine = pd.Engine(probability)
# 设置网格密度为0.1。
h = 0.1
# 生成预测采样点网格。
x, y = np.meshgrid(np.arange(np.min(c_x) - 1, np.max(c_x) + 1, h), np.arange(np.min(c_y) - 1, np.max(c_y) + 1, h))
# 绑定变量值。
predict_engine.bind({T: [x.ravel(), y.ravel()]})
# 生成采样点预测值。
z = predict_engine.value().reshape(x.shape)