메모장

보호되어 있는 글입니다.

보호되어 있는 글입니다.

보호되어 있는 글입니다.

벌써 3주가 지나갔다 ! 하루하루가 정말 빠르게 흘러간다. 휴학하니깐 학교가기 넘 싫다 복학까지 천천히 흘렀음 좋겠다😋 더보기 1. 하루 한 줄 2. 배운 것 3. 느낀 것 4. 개선할 것 5. 마무리 하루 한 줄 3월 20일 (월) 나름 계획을 알차게 세웠다..! 그러나 LSTM부터 무너짐 3월 21일 (화) 이 날은 치과갔다가 나름 열씨미 공부한 듯 3월 22일 (수) 공부는 했지만, 이해한 건 없다. (feat. Transformer, VAE) 3월 23일 (목) 친구가 인천에 올라와서 9시에 친구들을 잠깐 만났다. 나가기 전까진 많이x1000 귀찮았는데, 막상 나가면 재밌음,, 역시 동네 친구들이랑 만나는 건 재밌따 3월 24일 (금) 하루 종일 심화과제 1번을 이해하려고 노력하였다. Data v..

보호되어 있는 글입니다.

AutoEncoder 비지도 학습의 일종이다. data와 그에 해당하는 label이 주어지지 않고, data만으로 학습시키는 방법이다. 위 그림처럼 입력이 곧 출력이다. Encoder 부분에서 hidden layer 뉴선 수를 입력층보다 작게 하여 데이터를 압축(차원 축소)하거나, 노이즈를 추가해 원본 입력을 복원할 수 있도록 loss를 줄여나가다 보면, feature는 중요한 정보만 담게 된다. Variational AutoEncoder (VAE) AutoEncoder와 비슷해보이지만, 데이터의 확률 분포를 찾는다는 점에서 차이가 있다. +) AE는 앞단(encoder)을 학습하기 위해 뒷단을 붙인거고, VAE는 뒷단(decoder)을 생성하기 위해 앞단을 붙인 것 그렇기에 완벽하게 비슷한 데이터를 만..

Transformer는 자연어 처리 분야에서 매우 효과적으로 사용되는 딥러닝 모델 중 하나이다. RNN은 n개의 입력이 들어오면 n번을 재귀적으로 거치는데, Transfomer는 입력 시퀀스 전체를 한 번에 처리한다. 전체적인 흐름은 다음과 같다. 인코더의 입력은 input embedding에 위치 정보(positional encoding)을 더해서 만든다. step별로 Transfomer를 이해해보겠다. self-attention이란? 입력 시퀀스 내의 모든 위치에 대해 가중치(w)를 계산하고, 이를 사용해 모든 위치의 특성 벡터를 조합한다. => 이 과정을 통해 입력 시퀀스의 각 위치에서 다른 모든 위치에 대한 중요도를 계산할 수 있음 +) 질문 1. key와 value는 같은 의미 아닌가 ? key..

CNN(Convolutional Neural Network)이란 ? 이미지와 같은 2D 데이터를 처리하기 위한 딥러닝 모델이고, CNN은 Convolutional Layer, Pooling Layer, Fully Connected Layer 등으로 구성되어 있다. Convolutional Layer에서는 이미지같은 입력 데이터를 필터(kernel)와 합성곱 연산을 통해 다양한 feature를 추출하는 것이다. 합성곱 연산은 입력 데이터와 필터를 일정 간격으로 겹쳐가며 곱하고 더하는 연산이다. 이러한 연산을 통해 출력 데이터 크기를 계산할 수 있다. 공식은 위와 같다. 주의할 점은 입력 데이터의 채널 수와 kernel의 채널 수가 같아야 하는 것 ! parameter 개수 공식 : (kernel 가로*세로..

https://yodabe.tistory.com/20 https://yodabe.tistory.com/22 위는 2주차 개념 정리이다 실습 코드가 있어 모두 비공개 처리하였다 ㅠ 이번 주의 성취 : 본격적으로 딥러닝 흐름을 알 수 있었다. 간단한 custom model을 직접 구현해보면서 흐름을 알아가고 많은 함수를 접하게 되었다. 결국 못 풀고 제출^^^^^ 다음 주 목표 : 집에 있으면 나만 공부가 안 되나 ㅜ 집 앞 카페에 가서 억지로라도 집중력을 높이고 있다..! 다음 주 목표(week3)는 아래와 같다. 1. 깃 강의 듣기 2. DL Basic 강의 듣기 + 과제 열심히 하기 3. denseNet 논문 읽기 4. 심화과제 풀기..

으하하 나보다 게으른 사람 있을까 이제서야 적는 1주차 회고이다..! https://yodabe.tistory.com/10 https://yodabe.tistory.com/12 https://yodabe.tistory.com/13 https://yodabe.tistory.com/14 https://yodabe.tistory.com/15 위는 1주차 개념 정리이다. 파이썬과 확률 그리고 경사하강법에 대해서 집중적으로 다뤘다. 이번 주의 성취 :어려운 개념은 없었지만, 확실히 할게 많았다... 부캠의 매운맛을 맛 봤달까... 방학 내내 누워서 하루를 보냈는데, 드디어 갓생을 시작하게 되었다 ~! 문제 및 해결 :딱히 없었다 사실 기억이 나지 않는다.. 이래서 회고는 그 주차에 해야하나보다...반성.. 배운 ..