딥러닝/Semantic Segmentation (1) 썸네일형 리스트형 Cross Entropy Loss에 대한 간단한 설명! 오늘은 Supervised Semantic Segmentation에서 주로 사용되는 loss인 Cross Entropy loss에 대해서 설명하려고 합니다! Cross Entropy는 위에 설명 그대로 P와 Q 두 확률간의 Entropy를 계산하는 것입니다. 여기서 P는 정답, Ground Truth라고 생각하고, Q는 예측한 값이라고 생각하면 될 것 같습니다. Cross Entropy를 풀어서 쓴 식입니다. 첫번째 줄의 식을 -, + 를 해서 두번쨰 줄의 식처럼 바꿀 수 있습니다. 그랬을 때 두번째 줄의 식을 세번째 줄로 바꾸어 표현 가능합니다. 즉, 여기서 H(p)는 p의 entropy이고, 뒤의 식은 p와 q의 KL divergence를 구한 것입니다. 그럼 여기서 KL divergence가 무엇일.. 이전 1 다음