*제가 공부하고 이해한대로 적은 글입니다. 틀린부분이 매우 높은 확률로 있을 수 있습니다.* *지적은 정말 환영입니다.* loss landscape또는 loss surface라 하는 것은 말그대로 loss의 표면을 보여주는 것을 말합니다. deep learning에는 local optimum이라는 문제점이 있습니다. local optimum이 뭐냐면 현재 loss를 땅 위에서 구르는 공이라 생각해봅시다. 땅 에는 뭉툭한/뾰족한, 얕은/깊은 구덩이들이 있습니다. 저희는 이 공이 뭉툳하고 깊은 구덩이로 가길 원합니다. (high generalization, low loss) 하지만 이 공이 얕거나 뾰족한 무튼 저희가 가장 바라는 구덩이가 아닌 다른 구덩이에 빠져버리는걸 local optimum이라 합니다. ..
