Cross Entropy Loss

Related to: Fundamentals

Cross Entropy Loss

개요

• 주로 분류 모델이 얼마나 잘 분류했는가를 측정하는데 사용하는 metric
• loss(error)는 0에서 1 사이로 측정됨( 0일 시, 완벽한 모델)

$$\begin{gathered} L=l_1(f(x_1),y_1)+...+l_n(f(x_n),y_n) \\ {l}_c=-(y_c\log (p_c)+(1-y_c)log(1-p_c)) \\ =-{\sum }_{c=1}^n{y}_c\log (p_c) \end{gathered}$$

관련 개념

• BCELoss(Binary Cross Entroby Loss) - 이진 분류에 특화된 Cross Entropy
• Loss Function for task - 태스크별 손실 함수 정리
• Basic Optimizer & Adam(Adaptive Moment Esimation) - 손실을 최소화하는 옵티마이저
• RetinaNet - Focal Loss로 Cross Entropy를 개선한 모델

참조

https://wandb.ai/wandb_fc/korean/reports/---VmlldzoxNDI4NDUx

Week 2