AlexNet을 개략적으로 설명하자면, 딥러닝과 CNN의 주목을 이끌었고, 이에 따라 CNN 구조의 GPU 구현과 dropout 적용이 보편화되는 경향을 가져왔다. 목차 1. DataSet 2. Architecture 3. Reduce Overfitting 4. 학습 세부사항 5. 결과 1. DataSet 2. Architecture 2-1. 활성화 함수 ReLU 사용 backpropagation을 했을 때, vanishing Gradient문제 X, 속도 향상 (vanishing Gradient란? Sigmoid에서 입력값들이 그래프 가운데에서 멀어질 경우, 미분값이 작아져 뒤에 있는 뉴런들이 잘 학습이 되지 않는 문제) 2-2. overlapping pooling - s < z 이용해 에러율 감소 •..
convolution 작동 방법 3 x 3필터를 7 x 7이미지에 적용하면, 5 x 5짜리 아웃풋이 나온다. =도장을 찍어서 매칭되는 좌표의 값을 곱한 뒤 하나로 더하면 됨! 주로 3차원의 RGB 이미지를 다룬다. 위 사진에서 차원이 하나 더 추가된 것을 알 수 있다. 필터를 한번 거치고 나면, 비선형 activation function 적용이 필요하다!(ex. ReLU) CNN은 convolution layer, pooling layer, fully-connected layer로 이루어져 있다. - convolution and pooling layer는 feature extraction의 역할을 함 (=이미지에서 유용한 정보를 뽑아주는 것) - full-connenced layer는 decisi..
학습을 방해하는 것이 목적! -> 학습데이터뿐 아니라 테스트데이터에도 잘 동작할 수 있도록 해주기 위한 일종의 도구 종류 early stopping - iteration이 증가할 수록 training error가 감소하지만, 특정 iteration이 넘어가면 validation error가 증가한다! 그래서 loss가 증가하기 전에 학습을 중지! parameter norm penalty - 파라미터가 너무 커지지 않도록 방지. nerual network가 만들어내는 함수의 공간속에서 함수를 최대한 부드럽게 하는 것! + 부드러운 함수일 수록 일반화 성능이 높을 것이라는 가정 data augmentation - 데이터는 많으면 많을수록 좋기 때문에 데이터 양을 증가시키기 위해 사용 (중구난방으로..
이제 다시 darknet 디렉토리로 돌아와서, mkdir custom_data 사용할 폴더를 하나 만들어준다. custom_data/custom.names custom_data/images custom_data/train.txt (= text.txt) custom_data/custom.data 폴더에는 위 4개의 파일이 필요하다. 우선, 1. 첫번째 names 파일은 이전 포스팅에서 convert2Yolo 하는 과정에서 만들어 준 것을 해당 폴더로 mv 명령어를 통해 옮긴다. 2. 두번째 images폴더는 이미지파일(jpg)과 annotation(txt파일)이 같은 파일명으로 존재해야 폴더이다. 예를들면 000038_cam.jpg, 000028_cam.txt가 세트로 존재해야 한다. a..
인공지능의 역사에 대해 알아보자. 인공지능 역사(초기단계) 기원전 5세기 경으로 거슬러 올라간다. 이때 활동했던 수학가는 아리스토 텔레스가 있다. 어쩌면 인공지능의 시작이라 볼 수 있는 삼단논법, 귀납법, 연역법과 Knowledge Representation(앎의 분류)를 아리스토 텔레스가 정의한다. 앎의 분류란, 쉽게 말해 파충류, 포유류.. 등과 같이 분류하는 것을 말한다. 사실 이 때까지는 인공지능과 무슨 연관이 있지 라고 생각할 수 있다. 이후 한참이 지나 1920년대, 폰 노이만의 Min-Max 게임 이론이 등장한다. (중세는 과학의 암흑기라고도 한다) 게임이론 이외에도 폰 노이만은 Simulation, Cybernetics, Singularity 와 같은 영역들을 두루 연구한다. 이..
※ 이 글은 한국항공대학교 지승도 교수님의 저서 "꿈꾸는 인공지능"의 내용을 기반으로 작성되었음을 알립니다. 인공지능, 사물 인터넷, 빅데이터 등 지능정보기술을 통해 보다 지능적인 사회로 진화함을 의미한다. '초연결' 과 '초지능'을 특징으로 한다. 그렇다면 그 중에서도 인공지능이란 무엇일까 인공지능이란, 감각하고 판단하고 행위하는 방법에 관한 연구로서, 앎을 표현하고 활용하는 시스템이다. 인공지능을 과연 '존재'로써 바라볼 수 있을까? 우리는 현재 소위 '약 인공지능'이라 불리는 AI과 같이 살아가고 있다. 단순히 기계에 불과한 것들에서 인공존재까지 점차 발전해나가는 AI, 이들을 과연 존재로써 바라볼 수 있을까에 대한 해답을 차근차근 알아가보자.
