논문 공부

AlexNet 논문 리뷰

AlexNet을 개략적으로 설명하자면, 딥러닝과 CNN의 주목을 이끌었고, 이에 따라 CNN 구조의 GPU 구현과 dropout 적용이 보편화되는 경향을 가져왔다. 목차 1. DataSet 2. Architecture 3. Reduce Overfitting 4. 학습 세부사항 5. 결과 1. DataSet 2. Architecture 2-1. 활성화 함수 ReLU 사용 backpropagation을 했을 때, vanishing Gradient문제 X, 속도 향상 (vanishing Gradient란? Sigmoid에서 입력값들이 그래프 가운데에서 멀어질 경우, 미분값이 작아져 뒤에 있는 뉴런들이 잘 학습이 되지 않는 문제) 2-2. overlapping pooling - s < z 이용해 에러율 감소 •..