jepetolee's Insight

#CNN

博客 1 篇 · 论文评述 14 篇 (共 15 篇)

POST

博客文章

PAPER

论文评述

PAPER 컴퓨터 비전 · 모델 해석

CAM: 분류기가 어디를 보고 판단했는지 지도화하다

Global average pooling 뒤의 선형 분류 가중치를 conv feature map에 되돌려 곱하면, 클래스별로 판별에 기여한 영역의 지도(Class Activation Map)를 얻을 수 있음을 보인다. 위치 라벨 없이 학습한 분류기만으로 ILSVRC 약지도 위치추정 top-5 오류 37.1%를 달성했다.

컴퓨터 비전CVPRCAM모델 해석약지도 학습CNN
阅读更多
PAPER 컴퓨터 비전 · 합성곱 신경망

CBAM: 무엇을 볼지, 어디를 볼지 — 채널과 공간의 이중 어텐션

SE의 채널 어텐션에 공간 어텐션을 직렬로 추가한 경량 모듈을 제안한다. 채널 축에서는 avg+max 이중 풀링과 공유 MLP로 "무엇을", 공간 축에서는 채널 방향 풀링과 7×7 conv로 "어디를" 강조하며, 채널→공간 순서가 최적임을 ablation으로 보였다.

컴퓨터 비전인공신경망ECCVCBAM어텐션CNN
阅读更多
PAPER 음성 처리 · 음성 인식

Conformer: 어텐션은 전역, convolution은 국소 — 음성 인식의 하이브리드 표준

어텐션의 전역 문맥과 depthwise convolution의 국소 패턴 모델링을 한 블록 안에 결합한 Conformer를 제안한다. macaron식 반스텝 FFN 두 개 사이에 상대 위치 어텐션과 conv 모듈을 끼운 블록으로, LibriSpeech에서 WER 1.9/3.9%(LM 포함)의 SOTA를 달성하며 음성 인식 인코더의 표준이 됐다.

ASRGoogle ResearchConformerTransformer음성 인식CNN
阅读更多
PAPER 컴퓨터 비전 · 합성곱 신경망

Deformable CNN: 고정 격자를 버리고 샘플링 위치를 학습하다

convolution의 고정된 k×k 샘플링 격자에 학습된 2D offset을 더해, 필터가 물체의 크기와 형태를 따라 휘어지게 만드는 deformable convolution을 제안한다. 분수 offset은 bilinear 보간으로 처리하며, ResNet-101의 마지막 3개 conv층만 교체해도 COCO 검출과 semantic segmentation이 크게 개선된다.

컴퓨터 비전인공신경망ICCVMicrosoft ResearchDeformable ConvolutionCNN객체 검출
阅读更多
PAPER 컴퓨터 비전 · 합성곱 신경망

EfficientNet: 깊이·너비·해상도를 하나의 계수로 함께 키우다

깊이, 너비, 해상도 중 하나만 키우면 정확도가 조기 포화됨을 보이고, 세 축을 α^φ, β^φ, γ^φ로 함께 키우는 compound scaling을 제안한다. NAS로 찾은 MBConv+SE 기반 B0에 이를 적용한 B7이 8.4배 적은 파라미터로 ImageNet 84.3%를 달성했다.

컴퓨터 비전인공신경망ICMLGoogle ResearchEfficientNetNASCNN
阅读更多
PAPER 컴퓨터 비전 · 모델 해석

Grad-CAM: 그래디언트로 CAM을 모든 구조로 일반화하다

클래스 점수의 그래디언트를 feature map에 대해 전역 평균한 값을 채널 중요도로 삼아, GAP 구조 요구와 재학습 없이 임의의 CNN에서 클래스 판별적 히트맵을 뽑는 Grad-CAM을 제안한다. GAP-선형 구조에서 CAM과 수학적으로 일치함을 증명해 엄밀한 일반화임을 보였다.

컴퓨터 비전ICCVGrad-CAM모델 해석CNN
阅读更多
PAPER 컴퓨터 비전 · 합성곱 신경망

LeNet: 국소 수용 영역, 가중치 공유, 서브샘플링 — CNN의 설계도

국소 수용 영역, 가중치 공유, 서브샘플링이라는 세 원리로 이동·왜곡 불변성을 구조에 내장한 convolutional network(LeNet-5)를 집대성하고, MNIST를 구축해 손글씨 숫자 인식 오류율 0.95%(왜곡 증강 시 0.8%)를 달성한다. 미분 가능한 모듈의 합성으로 시스템 전체를 end-to-end 학습한다는 사상까지 담은 CNN의 원전.

컴퓨터 비전인공신경망LeNetCNNMNIST문자 인식
阅读更多
PAPER 컴퓨터 비전 · 합성곱 신경망

MobileNet: depthwise separable로 30배 가벼운 CNN

표준 convolution을 depthwise(채널별 공간 필터)와 pointwise(1×1 채널 혼합)로 분해해 계산량을 8~9배 줄인 경량 아키텍처를 제안한다. 너비 배수 α와 해상도 배수 ρ로 지연시간-정확도 트레이드오프를 연속적으로 조절하며, VGG16의 1/30 계산량으로 거의 같은 ImageNet 정확도를 낸다.

컴퓨터 비전인공신경망Google ResearchMobileNet경량화CNN
阅读更多
PAPER 컴퓨터 비전 · 합성곱 신경망

ResNet: 항등 지름길로 152층을 학습하다

깊은 plain 망이 얕은 망보다 학습 오류조차 높아지는 열화 문제를 지적하고, 층이 H(x) 대신 잔차 F(x) = H(x) - x를 배우게 하는 항등 지름길 연결로 이를 해결한다. 152층 ResNet으로 ILSVRC-2015 우승(top-5 3.57%), residual connection은 이후 모든 딥러닝 아키텍처의 기본 부품이 됐다.

컴퓨터 비전인공신경망CVPRResNetResidual ConnectionCNNImageNetMicrosoft Research
阅读更多
PAPER 음성 처리 · 화자 인식

SincNet: 첫 층을 학습 가능한 대역통과 필터로

raw waveform을 받는 CNN의 첫 conv층을 sinc 함수 두 개의 차로 매개화해, 필터당 저·고 차단 주파수 2개만 학습하는 SincNet을 제안한다. 필터 계수 전체를 배우는 CNN보다 빠르게 수렴하고 화자 식별·검증 모두에서 앞서며, 학습된 필터가 피치·포먼트 대역으로 수렴해 해석까지 가능하다.

ASR인공신경망SincNet화자 인식raw waveformCNN
阅读更多
PAPER 음성 처리 · 음성 인식

TDNN: 시간 지연 유닛으로 음소를 인식하다 — 1D convolution의 원형

유닛 입력에 시간 지연을 두고, 시간축으로 복제된 유닛들이 가중치를 공유하도록 제약해 시간 이동 불변성을 학습하는 Time-Delay Neural Network를 제안한다. 유성 파열음 B/D/G 인식에서 당시 최선의 HMM(93.7%)을 98.5%로 압도했고, 시간축 weight sharing이라는 아이디어는 1D convolution의 원형이 됐다.

ASR인공신경망TDNN음소 인식CNN
阅读更多