목록RESNET (1)

통계 이야기

Deep Residual Learning for Image Recognition(2015) 논문 요약

1. Introduction CNN은 이미지 분류 문제에서 아주 강력한 해결책 중 하나였다. 최근의 연구들은 이러한 인공 신경망 네트워크의 깊이가 성능에 매우 중요하다는 것을 밝혀내고 있다. 하지만 다음과 같은 문제가 대두된다. 층을 더 깊이 쌓을수록 네트워크들이 더 학습을 잘하는가? 이 질문에 대한 대답의 장애로 악명높은 문제인 gradient의 소실, 증폭 문제가 있다. 하지만 이 문제는 또한, normalized initialization과 intermediate normalization layers로 해결이 되었다. 깊은 신경망들이 수렴을 시작할 때 degradation 문제에 노출된다. 네트워크의 깊이가 깊어질수록 정확도는 포화되고 그 후에는 오히려 급격하게 성능이 저하된다. 그리고 의도치않게 ..
자연어처리/논문리뷰 2023. 9. 19. 17:50
이전 Prev 1 Next 다음