메모장

보호되어 있는 글입니다.

보호되어 있는 글입니다.

보호되어 있는 글입니다.

보호되어 있는 글입니다.

벌써 3주가 지나갔다 ! 하루하루가 정말 빠르게 흘러간다. 휴학하니깐 학교가기 넘 싫다 복학까지 천천히 흘렀음 좋겠다😋 더보기 1. 하루 한 줄 2. 배운 것 3. 느낀 것 4. 개선할 것 5. 마무리 하루 한 줄 3월 20일 (월) 나름 계획을 알차게 세웠다..! 그러나 LSTM부터 무너짐 3월 21일 (화) 이 날은 치과갔다가 나름 열씨미 공부한 듯 3월 22일 (수) 공부는 했지만, 이해한 건 없다. (feat. Transformer, VAE) 3월 23일 (목) 친구가 인천에 올라와서 9시에 친구들을 잠깐 만났다. 나가기 전까진 많이x1000 귀찮았는데, 막상 나가면 재밌음,, 역시 동네 친구들이랑 만나는 건 재밌따 3월 24일 (금) 하루 종일 심화과제 1번을 이해하려고 노력하였다. Data v..

알고리즘 공부할 때, 빈번하게 나오는 유형이 아니다보니 매번 공부를 미뤘다. 이젠, 시간에 쫓기지 않아도 되니 조금씩 다뤄볼 예정이다 ! 이분탐색 이분 탐색이란 말그대로 정렬된 리스트에서 검색 범위를 줄여나가며 특정 값을 찾는 알고리즘이다. 왜 사용 ? 검색이 반복될 때마다, 범위를 절반씩 줄여나갈 수 있기 때문에 시간복잡도 O(logN)이다. 범위 절반씩 줄기 때문에, 당연하다. 투 포인터(Two Pointer)와 무슨 차이 ? 조금 깊게 생각해보면 차이를 확연히 느낄 수 있다. 이분 탐색 투 포인터 시간복잡도 O(logN) O(N) 조건 정렬된 리스트 상관없음 방식 mid를 활용해서 범위를 절반씩 줄여나감 start, end 사용해서 한 칸씩 이동 정렬되지 않은 리스트에서 특정한 값을 찾아야한다면, ..

보호되어 있는 글입니다.

AutoEncoder 비지도 학습의 일종이다. data와 그에 해당하는 label이 주어지지 않고, data만으로 학습시키는 방법이다. 위 그림처럼 입력이 곧 출력이다. Encoder 부분에서 hidden layer 뉴선 수를 입력층보다 작게 하여 데이터를 압축(차원 축소)하거나, 노이즈를 추가해 원본 입력을 복원할 수 있도록 loss를 줄여나가다 보면, feature는 중요한 정보만 담게 된다. Variational AutoEncoder (VAE) AutoEncoder와 비슷해보이지만, 데이터의 확률 분포를 찾는다는 점에서 차이가 있다. +) AE는 앞단(encoder)을 학습하기 위해 뒷단을 붙인거고, VAE는 뒷단(decoder)을 생성하기 위해 앞단을 붙인 것 그렇기에 완벽하게 비슷한 데이터를 만..

Transformer는 자연어 처리 분야에서 매우 효과적으로 사용되는 딥러닝 모델 중 하나이다. RNN은 n개의 입력이 들어오면 n번을 재귀적으로 거치는데, Transfomer는 입력 시퀀스 전체를 한 번에 처리한다. 전체적인 흐름은 다음과 같다. 인코더의 입력은 input embedding에 위치 정보(positional encoding)을 더해서 만든다. step별로 Transfomer를 이해해보겠다. self-attention이란? 입력 시퀀스 내의 모든 위치에 대해 가중치(w)를 계산하고, 이를 사용해 모든 위치의 특성 벡터를 조합한다. => 이 과정을 통해 입력 시퀀스의 각 위치에서 다른 모든 위치에 대한 중요도를 계산할 수 있음 +) 질문 1. key와 value는 같은 의미 아닌가 ? key..

https://inpa.tistory.com/entry/GIT-%E2%9A%A1%EF%B8%8F-%EA%B9%83%ED%97%99-PRPull-Request-%EB%B3%B4%EB%82%B4%EB%8A%94-%EB%B0%A9%EB%B2%95-folk-issue [GIT] ⚡️ 깃헙 Pull Request 보내는 방법 - 알기 쉽게 정리 코드 기여 원리 (Fork 와 Pull Request (PR)) 다음과 같이 Gildong와 Minji 라는 깃헙 리포지토리가 있다고 하자. 이때 Minji가 GIldong 개발자의 프로젝트가 마음에 들어, 같이 프로젝트에 참여해 기여자(Contrib inpa.tistory.com 위 블로그를 참고하였다. $ git add . $ git commit -m "~" $ git..