Related to: Machine Learning

PyTorch 딥러닝 학습의 기본 순서

# Optimize 대상인 각 parameter들의 gradient 값 초기화
optimizer.zero_grad()
 
# 예측값 계산
output = model(inputs) # 
 
# Ground_truth와 예측 값 사이의 loss 계산
loss = loss_function(output, ground_truth)
 
# loss 값으로 각 parameter의 gradient 값 계산
loss.backward()
 
# gradient 값으로 각 parameter 갱신
optimizer.step()

참조

Week 2