cs231n 강의노트5 [CS231n] Lecture 5 | Convolutional Neural Networks 이번 강의에서는 Convolutional Neural Network(CNN)가 어떻게 작동하는지를 살펴볼 것이다. Fully Connected Layer에서 하는 일은 어떤 벡터를 가지고 연산을 하는 것이다. activation은 이 layer의 출력이다. 기존의 FC layer가 입력이미지를 쭉 펼쳤다면 이제는 기존의 이미지 구조를 그대로 유지하게 된다. 그리고 filter가 우리의 가중치가 되는 것이다. filter를 가지고 이미지 슬라이딩을 하면서 공간적으로 내적을 수행하게 된다. 여기서 깊이(depth)는 3이다. 깊이는 전체 깊이를 전부 취하지만, 32x32중 5x5만을 취한다. 필터의 각 W와 이에 해당하는 이미지의 픽셀을 곱해준다. 각 원소끼리 Convolution을 하는 것과 그것을 쭉 펴.. 2020. 11. 14. [CS231n] Lecture 4 | Introduction to Neural Networks {지난 시간} ... score function에 대해서 SVM의 loss인 hinge loss에 대해서 softmax의 loss인 cross entropy loss에 대해서 규제(regularizaiton)에 대해서 최적화(optimization)에 대해서 경사하강법에 대해서 ... 배웠다! 일반적으로 계산하는 방법은 numerical 방법이다. 근데 이건 속도가 느리고 정확하지 않다는 단점이 있다. 그래서 우리는 해석적 방법(분석적 방법)인 analytic 방법을 많이 사용하고 보통 gradient check를 할 때 numerical gradient를 사용한다고 배웠다. 앞에서 배웠던 것을 그림으로 표현하면 이와 같이 된다. Wx가 곱해져서 들어오고 그 score 값을 function에다가 넣고 거.. 2020. 11. 14. [CS231n] Lecture 3 | Loss Functions and Optimization 저번 강의에서 배운 것을 정리해보자. 인식에서의 어려운 점을 살펴보았고, 데이터 중심의 방식에 초점을 맞춰보았다. 그리고 이미지 분류에 대해 배웠고 왜 이미지 분류가 어려운지, 컴퓨터가 보는 것과 사람이 보는 것의 차이가 있다는 것도 배웠다. 분류를 어렵게하는 조명의 변화, 변형에 대해 다뤘고 왜 어려운지를 배웠다. 데이터 중심 접근 방법 중에서 가장 단순한 방법인 KNN 분류기에 대해서도 배웠다. 어떻게 KNN을 이용해서 학습데이터를 가지고 각 카테고리 클래스를 분류하는 결정경계선을 학습시킬 수 있는지도 배웠다. cross validation에 대해서 배웠고, train, validation, test 셋으로 나눠서 하이퍼파라미터를 찾는 법도 배웠다. 마지막으로 Linear classification에.. 2020. 10. 24. [CS231n] Lecture 2 | Image Classification 이미지(image)는 숫자로 이루어진 3D array로 구성되어 있다. 컴퓨터는 이미지를 픽셀 값 즉, 숫자로 생각한다. 이미지가 조금만 달라져도 모든 픽셀 값은 달라진다. 그렇기에 우리가 만드는 알고리즘은 이런 상황에 대해 강인해야한다. (보는 시각의 달라짐, 조명, 형태의 변형, 은닉, 배경과 구분 안되는 상황, 클래스내의 구분 등등) 기본적인 image classifier는 이미지를 인자로 받아서 예측을 하는 것이다. 그 이미지가 어느 쪽에 속하는지 label를 반환하는 기본적인 함수를 말한다. 이미지를 구분할 때 직관적이고 명시적인 알고리즘(Hard Code)는 없다. 과거에는 이미지를 보고 특징점들을 찾아내고 edges와 corners를 계산하여 분류하려 했다. 하지만 위 접근방법에는 많은 한계.. 2020. 10. 14. [CS231n] Lecture 1 | Introduction to Convolutional Neural Networks for Visual Recognition CS231n은 딥러닝 분야 중 Computer Vision에 대한 강의이다. 위의 그림에서 볼 수 있는 것과 같이 Computer Vision은 다양한 분야와 관련되어있다. 본격적으로 Computer Vision 강의를 시작하기에 앞서 오늘의 주제는 아래와 같다. Today's Agenda - A brief history of computer vision (CV 역사) - CS231n overview (개요) 과거 생물들에게는 눈이 존재하지 않았다. 즉, 비전이 존재하지 않았다. 그러나 매우 짧은 기간내에 동물 종의 수가 폭발했다. 그 이유를 비전(시각)에서 찾았다. 시각 발달에 의해 먹이활동이 좀 더 적극적으로 변했고 생물들은 포식자로부터 살아남아야 했다. 본격적으로 비전(시각)은 진화론적인 군비 경쟁.. 2020. 10. 10. 이전 1 다음
