논문리뷰 3

hidden technical debt in machine learning systems 논문 공부

나온지 오래됐지만 많은 분들이 추천하는 논문을 읽어보았다.(사실상 논문리뷰를 읽은 셈) software engineering과 마찬가지로 라이브 시스템에 ML을 적용하면서 개발과 배포에 걸리는 시간은 상대적으로 빠르고 저렴하지만, 이를 유지보수하는 것은 어렵고 비용이 많이 든다. 🤔라이브 시스템에 ML 적용 : (ex) 실시간으로 데이터를 분석하고 예측을 하여 의사소통에 도움을 주는 것 프로토타입 제작 등으로 ML 시스템을 개발하고 배포하는 초기 비용은 낮을 수 있지만, 장기적으로는 유지보수와 관리에 더 많은 노력과 비용이 필요하다. 🤔WHY? 데이터는 변화하기 때문에, 변화하는 데이터를 재학습시키거나 모델의 성능이 나오지 않으면 모니터링하면서 학습해야하기 때문 특히나 ML system에서 전통적인 코드..

논문리뷰 2023.09.05

[논문 공부 및 구현] Densely Connected Convolutional Networks

Abstract 최근 연구에서 입출력 사이에 shorter connections을 포함시키면, Convolution Network이 깊어지고 정확해지며 학습 효율도 높아진다고 밝혀졌다. 이 논문은 이러한 관찰을 기반으로 Dense Convolutional Network(DenseNet)을 제시한다. 기존의 연구(AlexNet, VGG, GoogLeNet 등의 일반적인 CNN)구조에선 각 레이어 간에 한 개의 연결만 존재하다.(L->L) 그렇기 때문에 많은 필터를 거치면서 소실 문제가 생기는 것이다. 이러한 문제를 완화하기 위해, 본 논문은 네트워크 내의 모든 층이 서로 직접적으로 연결되는 밀집 연결(dense connectivity) 구조를 제안한다. 이 구조는 단순한 연결 구조보다 학습 효율성을 학습시..

논문리뷰 2023.04.09