Pytorch学习记录(五)损失函数、反向传播、优化器


损失函数、反向传播、优化器

MESLoss

  • 导入
from torch import nn
  • 用法
# 以均方误差MSE为例
loss_mse = nn.MSELoss()
loss = loss_mse(result, target)

反向传播

  • 用法
loss.backward()

优化器

  • 导入
from torch import optim
  • 用法
# 以随机梯度下降SGD为例
# 循环前定义
optim_sgd = optim.SGD(model.parameters(), lr=0.01)

# 循环中定义
for ... in ... :
    optim_sgd.zero_grad()
    ...
    ...
    loss.backward()
    optim_sgd.step()