Arc Lab.'s Blog

[업데이트 2018.07.06 15:28] 열두번째 요약할 논문은 "You Only Look Once: Unified, Real-Time Object Detection"(https://arxiv.org/pdf/1506.02640.pdf) 입니다. YOLO의 새로운 접근 방법의 핵심은 하나의 convolutional neural network 모델에 기존 3가지 단계로 분리되어 있던 Object Detection 과정 통합하여 end-to-end 학습한 것입니다. 아래의 Figure 1. R-CNN의 경우 2.후보 영역 추출과 3.CNN 학습 과정 그리고 4.분류기 모두 별도로 동작하여 성능이 많이 떨어지게 됩니다. 향후 이를 보완한 Fast R-CNN, Faster R-CNN이 나오지만, YOLO의 경우..

[업데이트 2018.06.24 15:30] 열한번째 요약할 논문은 "Selective Search for Object Recognition"(http://www.huppelen.nl/publications/selectiveSearchDraft.pdf) 입니다. 본 논문은 Object Detection에서 입력된 이미지의 후보 영역을 추천할 때 사용 되었던 방법으로 R-CNN 등의 논문들이 탁월한 성능을 보여주면서 주목 받게 되었습니다. Abstract를 보면 2가지 방법을 조합하여 Selective Search를 수행합니다. 1) Segmentation2) Exhaustive Search 1번의 경우는 이미지 구조적 특징(색상, 무늬, 크기, 모양)을 사용하여 후보 영역을 추출하는 것을 말하며, 2번의 ..

[업데이트 2018.07.12 13:32] 열번째 요약할 논문은 "Rich feature hierarchies for accurate object detection and semantic segmentation"(https://arxiv.org/pdf/1311.2524v5.pdf) 입니다. 본 논문은 object detection 분야에서 많이 알려진 R-CNN에 대한 내용입니다. 본 논문에서는 VOC 2012년 가장 좋은 결과 대비 mAP(mean average precision)에 있어서 30% 이상 성능 향상을 시켰음을 보여주고 있습니다. (mAP 53.3% 달성) 또한 OverFeat이라는 CNN에 기반한 sliding-window detector 아키텍쳐와 비교했을 때도 200-class ILS..

[업데이트 2018.05.06 16:50] 아홉번째 요약할 논문은 "Visualizing and Understanding Convolutional Networks"(https://arxiv.org/pdf/1311.2901.pdf) 입니다. 본 논문에서는 기존에 우수한 성능을 보인 AlexNet과 같은 Large Convolutional Network가 학습 수행이 왜 잘되는지, 그리고 좋은 성능을 만드는지 clear하게 설명되지 않은 부분에 대해 다룹니다. CNN 아키텍쳐를 구성하는 각각의 중간 layer부터 최종 classifier까지 입력된 이미지로부터 특징이 어떻게 추출되고, 학습이 되어 가는지 시각화를 통해 분석하는 방법을 제시합니다. 또한 이러한 시각화 분석을 통해 기존 Alex Net대비 성능..

[업데이트 2018.04.30 17:10] 여덟번째 요약할 논문은 "Deep Residual Learning for Image Recognition"(https://arxiv.org/pdf/1512.03385.pdf) 입니다. 본 논문에서는 residual learning을 통해 기존의 심층 신경망보다 상당히 더 deep한 신경망에 대해서도 학습을 잘하는것을 보여주고 있습니다. ResNet이라고 불리는 본 논문의 심층 신경망의 경우 152개의 layer로 구성되며, VGGNet 대비 8배나 많은 depth를 가집니다. ILSVRC 2015 image classification 분야에서 top-5 test error 3.57%를 기록하며 우승했습니다. 또한 ImageNet detection/localiza..

[업데이트 2018.04.20 17:04] 일곱번째 요약할 논문은 "Network In Network"(https://arxiv.org/pdf/1312.4400) 입니다. GoogLeNet에서 인용한 논문으로 Inception module의 컨셉을 설계하는데 참조한 논문입니다. GoogLeNet 논문을 리뷰하면서 추가로 찾아본 논문으로 간단히 정리하려고 합니다. 논문 제목에서 알 수 있듯이 네트워크를 구성 할 때 또 하나의 micro network를 포함하여 설계를 하는 것이 컨셉이며, 이렇게 구성하였을 때, 성능 향상이 있었음을 연구한 논문입니다. 기존 CNN에서 convolution을 수행 할 때, 수행 후 feature map을 얻게 되는데, 본 논문에서는 multilayer perceptron 네..

[업데이트 2018.04.30 16:03] 여섯번째 요약할 논문은 "Going Deeper with Convolutions"(https://www.cv-foundation.org/openaccess/content_cvpr_2015/papers/Szegedy_Going_Deeper_With_2015_CVPR_paper.pdf) 입니다. GoogLeNet이라고 부르는 22개의 Layer를 가진 심층 신경망으로 ILSVRC 2014년에 top-5 test error 6.7%를 기록하며, 우승을 하였습니다. 그리고 Inception Module이라는 아키텍쳐 형태로 심층 신경망을 구성합니다. NIN(Network in network, Lin 외) 논문에서 말하는 새로운 형태의 deep network struct..

[업데이트 2018.04.12 16:54] 다섯번째 요약할 논문은 "Very Deep Convolutional Networks For Large-Scale Image Recognition"(https://arxiv.org/pdf/1409.1556.pdf) 입니다. VGG Net이라고 불리우는 심층 신경망 모델로, 2014 ILSVRC (ImageNet Large-Scale Visual Recognition Challenge)에서 우승하진 못했지만 top-5 test error 7.3%를 기록하였습니다. Abstract에서 보면 본 논문에서 중요하게 다루었던 부분은 small receptive filed와 network의 depth입니다. 기존 AlexNet보다 작은 3x3 filter size 및 sti..

[업데이트 2018.04.08 01:51] 네번째 요약할 논문은 "ImageNet Classification with Deep Convolutional Neural Networks"(https://papers.nips.cc/paper/4824-imagenet-classification-with-deep-convolutional-neural-networks.pdf) 입니다. Alex Net이라고 불리우는 심층 신경망 모델로, 2012 ILSVRC (ImageNet Large-Scale Visual Recognition Challenge)에서 괄목 할 만한 성과를 발표하게 됩니다. (top 5 test error rate of 15.4%) Abstract를 보면 ImageNet LSVRC-2010 컨테스트에..

[업데이트 2018.03.21 17:16] 세번째 요약할 논문은 "Gradient-Based Learning Applied to Document Recognition" (yann.lecun.com/exdb/publis/pdf/lecun-01a.pdf) 입니다. 이 논문을 기점으로 Convolutional Neural Network의 발전 계기가 된 LeNet 아키텍쳐에 대해 설명하고 있습니다. Abstract를 보면 역전파 알고리즘으로 훈련된 다층 신경망의 경우 Gradient 기반 학습 기술에 있어서 좋은 성공 사례임을 보여줍니다. 특히 손글씨와 같이 고차원의 패턴을 가진 데이터를 분류함에 있어서 적은 전처리만으로 좋은 성능을 보여줍니다. 이 논문에서는 손글씨를 인식함에 있어서 기존의 인식 방법과 비교..