ComputerVision Jack

Searching for MobileNetV3 Abstract 기술과 새로운 구조 디자인을 통해, 다음 세대의 MobileNets 구조를 제안한다. MobileNetV3는 NetAdapt 알고리즘을 보완하여, 하드웨어 인식 네트워크 구조 검색(NAS)의 조합을 바탕으로 휴대폰 CPU에 맞춰 조정된다. 이 후 새로운 구조 발전을 통해 개선 된다. 따라서 2가지의 새로운 MobileNet Model 제시한다 : MobileNetV3-Large, MobileNetV3-Small 이 두 가지 모델은 높고 낮은 Resource에 사용이 가능하다. 또한 이러한 모델은 Object-Detection 및 Semantic Segmentation 작업에 대해 적용될 수 있다. Introduction 효율적인 Nerual ..

Squuze-and-Excitation Networks Abstract Central Building Block of Convolution Neural Networks (CNNs)은 Convolution 연산자이다. 이 연산은 각 Layer의 Local Receptive Fields에서 공간(Spatial) 및 채널(Channel-wise) 혼합을 통해 Network가 중요한 Features 추출 할 수 있게 만든다. 이전의 CNNs 연구는 공간적(Spatial) 요소와 그것들의 관계에 대해 연구하고, Feature 계층의 공간적 Encoding 통해 CNNs Feature 강화하는 방법을 추구했다. 해당 논문에선 Channel 관계에 중점을 두어 Squeeze-and-Excitation (SE Bloc..

MobileNetV2: Inverted Residuals and Linear Bottlenecks Abstract 새로운 Mobile Architecture, MobileNetV2 제시한다. Object Detection 진행하기 위해 새로운 framework인 MobileDeepLabv3 사용하여 Mobile Model 효율적인 방법으로 제시한다. Inverted Residual 구조를 사용하여, bottleneck 구간에 Shortcut Connections 진행한다. 중간 Expansion Layer 대해 가벼운 Depthwise Convolution 적용해 non-lineartiy한 Feauture 추출한다. 그리고 narrow layer에서 non-lineartiy 제거하는 것이 Feature ..

Densely Connected Convolutional Networks Abstract 최근 Convolution Network는 Shortcut Connections 사용하여 정확도와 학습에 효율적이다. 저자들은 해당 관점을 보강하여 Dense Convolutional Network (DenseNet) 만들었다. 해당 Network는 각 Layer 다른 Layer와 Feed-forward 연결한다 DenseNet은 $L(L+1) / 2$ 직접적인 연결을 갖는다. 각각의 Layer는 모든 진행된 Layer의 Feature-Map 하위 Layer의 Input에 사용된다. 📌 [DenseNet Adventage] - vanishing-gradient 문제가 감소한다. - feature propagation..

MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications Abstract Mobile 및 Embedded application에서 효율적인 MobileNets 제시한다 MobileNet은 Depthwise Separable Convolution 구성된 Streamlined Architecture 이며 경량 Deep Neural Network이다. 해당 논문에서 Latency와 Accuracy 위해 2개의 Global Hyper-Parameter 제안한다. 이러한 Parameter는 Application의 제한된 구조에서 Model의 메모리를 효율적으로 만든다. Introduction 일반적으로 높은 Accuracy..

Aggregated Residual Transformations for Deep Neural Networks Abstract 논문에서 소개하는 Network는 같은 Topology에 대해 변형 시킨 Building Block 반복하여 설계하였다. 이 설계는 적은 Hyper-Parameter 통해서 동종의 Multi-Branch한 구조의 결과로 나타났다. 앞에서 소개한 전략은 "Cardinality" (the size of the set of transformations) 새로운 Dimension 생성한다. 이 Dimension은 Depth와 Width Dimension 외에도 필수적인 요소이다. 게다가 Capacity 위해 Network 깊고, 넓게 만드는 것 보다, Cardinality 증가 시키는 것..

Deep Residual Learning for Image Recognition Abstract Network 구조를 이전과 달리 깊게 쌓아 학습을 쉽게 하려고 Residual Learning Framework 발표한다. 다른 기능들은 사용하지 않으며, Layer Input에 Learning Residual Functions 적용하면서 Layer의 구조를 재구성하는 방법이다. Depth (of Representations)는 많은 Visual Recognition Tasks에서 중요하다. 📌 Network의 Depth 늘릴 경우, Gradient Vanishing 문제가 발생한다. 따라서 깊게 쌓기 위한 방향성의 연구 토대가 되었다. Introduction Deep Convolutional Neural ..