코딩복습장

내적을 최대로 자극하는 것은 내적을 구하는 것의 복사본이다. (weight와 input이 같을 때, output이 최대임) 그래서 우리가 실제로 이러한 가중치를 시각화하는 이유는 가중치를 시각화 했을 때, 해당 가중치가 어떤 feature에 가장 크게 반응하는 지 알 수 있기 때문이다. (해석 가능) 우리는 마지막 layer에 대해서도 해석할 수 있다. 마지막 4096개의 원소를 가진 vector를 input으로 사용해서 Nearest Neighbors를 실행했을 때의 결과를 다음과 같이볼 수 있다. 왼쪽의 그림이 test 이미지이고 이들 중에 어떤 이미지와 가장 가까운지 측정을 했을 때, 모든 이미지가 잘 분류된 것을확인할 수 있다. 두 번째 줄의 코끼리를 보자. 4번째 열의 코끼리는 반대의..

우리는 segmentation에서 각 픽셀이 어떤 것을 의미하는 것인지 알고싶다. sementic segmentation은 각 object를 구분하지 않는다고 한다. 우리는 처음에 간단하게 input 이미지의 여러 구간을 보고 이 픽셀들이 무엇을 의미하는지 classification을 하는 문제로볼 수 있다. 하지만 이 방법은 너무 많은 computational cost를 요구하는 방법이라 사용하지 않는다. 이후에 우리는 convolution연산을 사용하여 이미지의 feature를 뽑아내며 이미지의 해상도를 낮춘다. (down sampling)그리고 이미지의 해상도를 높혀 feature가 이미지의 크기와 같도록 만든다.(upsampling) 이렇게 만들어진 feature map에 대해서 각 픽셀..

지금까지 우리가 봤던 신경망은 vanilla feed forward network이다. 어떤 입력을 받고, 그 입력은 고정된 크기의 객체였다. (이미지나, vector) 그 입력이 몇가지 hidden layer를 통과하도록 넣고 단일 출력을 내는 것이다. 그러나 머신러닝 문맥에서 우리는 모델이 처리할 수 있는 데이터 종류에 있어서 더 많은 유연성을 가지고 싶다. 일단 RNN으로 넘어가면, 우리는 network가 해볼 수 이쓴 기회가 훨씬 더 많아진다. 그래서 일단 순환신경망이 있으면, 우리는 이런 일대다 모델을 사용할 수도 있다. 혹은 입력이 이미지 같은 정해진 객체 이지만, 우리의 출력은 caption같은 일련의 변수 길이가 될 수 있다. 또는 다대일 모델도 가질 수 가 있다. (one-to-..