POST 개념 정리
CNN 해부학: convolution 연산의 수학과 변형들의 분류
convolution이 왜 이미지에 맞는 연산인지(국소성, 가중치 공유, 평행이동 등변성)부터 stride/padding/dilation이 출력 크기와 수용 영역을 결정하는 수식, 그리고 grouped/depthwise/pointwise/separable/deformable로 이어지는 변형 연산들의 계보까지 한 번에 정리한다.
#인공신경망
신경망 구조, 표현 학습, 최적화, 학습 안정화. 5 Beiträge · 21 Paper-Reviews (insgesamt 26)
POST
Blogbeiträge
POST 개념 정리
딥러닝을 성립시키는 부품들: 층, 활성, 풀링, 손실, 정규화
딥러닝이라는 구조가 성립하기 위한 부품들을 역할 중심으로 해부한다 — 선형변환과 비선형 활성의 교대가 왜 필요한지, 역전파가 성립시키는 "미분 가능하면 배운다"는 계약, 풀링의 종류와 진짜 역할(불변성 대 해상도), 손실 함수의 계보(MSE→교차엔트로피→마진→대조→시퀀스 손실), 그리고 깊이를 견디게 하는 정규화와 residual까지.
POST Competition papers
STAG 프로젝트 진행 현황, 추후 계획 (ICRL)
RSSM 기반 Dreamer 모델을 코인 트레이딩 강화학습에 적용하고, TDD로 핵심 모듈을 검증한 STAG 프로젝트의 진행 기록.
POST Developing Report
STAG 프로젝트 진행 현황, 추후 계획
클린 코드 적용, 강화학습 보상 환경 재설계, Dreamer 모델 도입, TDD 기반 테스트 코드 작성 등 STAG 프로젝트 2개월간의 진행 상황.
POST Developing Report
STAG 프로젝트의 개요
인공신경망 기반 강화학습 자동투자기 STAG의 첫 개발 기록. 이전 프로젝트의 실패 원인을 코드와 알고리즘 관점에서 분석한다.
PAPER
Paper-Reviews
PAPER 강화학습 · Policy Optimization
Actor-Critic의 탄생: ASE와 ACE, 뉴런 둘로 cart-pole을 세우다
시행착오로 행동을 탐색하는 ASE(actor)와, 실패 신호만 주어지는 환경에서 더 촘촘한 내부 평가 신호를 스스로 만들어 ASE를 안내하는 ACE(critic)의 2요소 시스템을 제안한다. 운동 방정식을 모른 채 실패 신호만으로 cart-pole을 세우는 데 성공한, actor-critic 구조의 원전.
PAPER 컴퓨터 비전 · 합성곱 신경망
AlexNet: 딥러닝이 컴퓨터 비전을 접수한 날
5개 conv + 3개 FC, 60M 파라미터의 대형 CNN을 ReLU, dropout, 데이터 증강, 2-GPU 분산으로 ImageNet에서 학습해 ILSVRC-2012 top-5 오류 15.3%로 2위(26.2%)를 압도했다. 딥러닝 기반 컴퓨터 비전 시대를 연 논문.
PAPER 머신 러닝 · 학습 이론
Backpropagation: 오차를 거꾸로 흘려 표현을 배우다
다층 신경망의 모든 가중치에 대한 오차의 편미분을 출력층에서 입력층으로 연쇄법칙을 따라 전파하며 계산하는 back-propagation을 제시한다. 은닉 유닛들이 태스크의 내부 표현을 스스로 구성함을 대칭 검출과 가계도 과제로 보였다 — 퍼셉트론의 한계를 넘어 표현 학습이라는 개념을 연 4페이지.
PAPER 컴퓨터 비전 · 합성곱 신경망
CBAM: 무엇을 볼지, 어디를 볼지 — 채널과 공간의 이중 어텐션
SE의 채널 어텐션에 공간 어텐션을 직렬로 추가한 경량 모듈을 제안한다. 채널 축에서는 avg+max 이중 풀링과 공유 MLP로 "무엇을", 공간 축에서는 채널 방향 풀링과 7×7 conv로 "어디를" 강조하며, 채널→공간 순서가 최적임을 ablation으로 보였다.
PAPER 컴퓨터 비전 · 합성곱 신경망
Deformable CNN: 고정 격자를 버리고 샘플링 위치를 학습하다
convolution의 고정된 k×k 샘플링 격자에 학습된 2D offset을 더해, 필터가 물체의 크기와 형태를 따라 휘어지게 만드는 deformable convolution을 제안한다. 분수 offset은 bilinear 보간으로 처리하며, ResNet-101의 마지막 3개 conv층만 교체해도 COCO 검출과 semantic segmentation이 크게 개선된다.
PAPER 음성 처리 · 화자 인식
ECAPA-TDNN: 채널 어텐션과 다중 스케일로 x-vector를 완성하다
x-vector의 TDNN에 1D SE-Res2Net 블록(채널 게이팅 + 다중 스케일), 전 층 특징 결합(MFA), 채널·문맥 의존 attentive statistics pooling을 더하고 AAM-softmax로 학습한다. VoxCeleb1-O EER 0.87%로 TDNN·ResNet 계열 베이스라인을 모두 넘어 현대 화자 검증의 사실상 표준이 됐다.
PAPER 음성 처리 · 화자 인식
ECAPA2: 2D 국소 특징과 1D 전역 특징의 하이브리드 화자 임베딩
화자 검증의 양대 계열 — 시간 모델링에 강한 1D TDNN(ECAPA)과 주파수 이동 불변성을 가진 2D ResNet — 을 하나로 잇는다. 2D conv 국소 특징 추출기 뒤에 1D 전역 통합 망을 붙이고, margin-mixup과 가변 길이 학습을 더해 VoxCeleb1-O EER 0.34%로 ECAPA-TDNN(0.87%)을 절반 이하로 낮췄다.
PAPER 컴퓨터 비전 · 합성곱 신경망
EfficientNet: 깊이·너비·해상도를 하나의 계수로 함께 키우다
깊이, 너비, 해상도 중 하나만 키우면 정확도가 조기 포화됨을 보이고, 세 축을 α^φ, β^φ, γ^φ로 함께 키우는 compound scaling을 제안한다. NAS로 찾은 MBConv+SE 기반 B0에 이를 적용한 B7이 8.4배 적은 파라미터로 ImageNet 84.3%를 달성했다.
PAPER 컴퓨터 비전 · 합성곱 신경망
LeNet: 국소 수용 영역, 가중치 공유, 서브샘플링 — CNN의 설계도
국소 수용 영역, 가중치 공유, 서브샘플링이라는 세 원리로 이동·왜곡 불변성을 구조에 내장한 convolutional network(LeNet-5)를 집대성하고, MNIST를 구축해 손글씨 숫자 인식 오류율 0.95%(왜곡 증강 시 0.8%)를 달성한다. 미분 가능한 모듈의 합성으로 시스템 전체를 end-to-end 학습한다는 사상까지 담은 CNN의 원전.
PAPER 자연어 처리 · 시퀀스 모델링
LSTM: 상수 오차 회전목마로 1000스텝의 시간 간격을 건너다
RNN의 역전파 오차가 시간을 거슬러 갈수록 지수적으로 소멸하거나 폭발함을 분석하고, 자기 재귀 가중치를 1.0으로 고정한 선형 유닛(상수 오차 회전목마)에 곱셈형 입력/출력 게이트를 붙인 메모리 셀 아키텍처로 1000스텝이 넘는 최소 시간 간격을 학습할 수 있음을 보인다.
PAPER 컴퓨터 비전 · 합성곱 신경망
MobileNet: depthwise separable로 30배 가벼운 CNN
표준 convolution을 depthwise(채널별 공간 필터)와 pointwise(1×1 채널 혼합)로 분해해 계산량을 8~9배 줄인 경량 아키텍처를 제안한다. 너비 배수 α와 해상도 배수 ρ로 지연시간-정확도 트레이드오프를 연속적으로 조절하며, VGG16의 1/30 계산량으로 거의 같은 ImageNet 정확도를 낸다.
PAPER 음성 처리 · 화자 인식
RawNet: 파형에서 화자 임베딩까지, 특징 공학 없는 end-to-end
전처리 없는 raw waveform을 strided conv → residual 블록 → GRU로 처리해 발화 수준 화자 임베딩을 뽑는 end-to-end 시스템. VoxCeleb1에서 스펙트로그램 기반 시스템과 동급 이상(EER 4.0%)을 달성했고, 후속 RawNet2가 첫 층을 SincNet의 sinc 필터로 교체하며 raw waveform 노선을 굳혔다.
PAPER 강화학습 · Policy Optimization
REINFORCE: 정책 그래디언트의 원전 — 보상 × 로그확률의 기울기
확률적 유닛을 가진 신경망에서 Δw = α(r − b)·∂ln g/∂w 형태의 갱신이 기대 보상의 그래디언트를 편향 없이 따라감을 증명한다. baseline의 무편향성, 에피소드 확장, 가우시안 유닛(연속 행동)까지 — 정책 그래디언트와 그 분산 축소 장치들의 수학적 원전.
PAPER 컴퓨터 비전 · 합성곱 신경망
ResNet: 항등 지름길로 152층을 학습하다
깊은 plain 망이 얕은 망보다 학습 오류조차 높아지는 열화 문제를 지적하고, 층이 H(x) 대신 잔차 F(x) = H(x) - x를 배우게 하는 항등 지름길 연결로 이를 해결한다. 152층 ResNet으로 ILSVRC-2015 우승(top-5 3.57%), residual connection은 이후 모든 딥러닝 아키텍처의 기본 부품이 됐다.
PAPER 컴퓨터 비전 · 합성곱 신경망
SENet: 채널에 어텐션을 달다
전역 평균 풀링으로 채널별 통계를 짜내고(squeeze) 두 FC층의 게이트로 채널별 중요도를 계산해(excitation) feature map을 재보정하는 SE 블록을 제안한다. 계산량 0.26% 추가로 ImageNet 오류를 일관되게 낮추며 ILSVRC-2017에서 우승했다.
PAPER 음성 처리 · 화자 인식
SincNet: 첫 층을 학습 가능한 대역통과 필터로
raw waveform을 받는 CNN의 첫 conv층을 sinc 함수 두 개의 차로 매개화해, 필터당 저·고 차단 주파수 2개만 학습하는 SincNet을 제안한다. 필터 계수 전체를 배우는 CNN보다 빠르게 수렴하고 화자 식별·검증 모두에서 앞서며, 학습된 필터가 피치·포먼트 대역으로 수렴해 해석까지 가능하다.
PAPER 음성 처리 · 음성 인식
TDNN: 시간 지연 유닛으로 음소를 인식하다 — 1D convolution의 원형
유닛 입력에 시간 지연을 두고, 시간축으로 복제된 유닛들이 가중치를 공유하도록 제약해 시간 이동 불변성을 학습하는 Time-Delay Neural Network를 제안한다. 유성 파열음 B/D/G 인식에서 당시 최선의 HMM(93.7%)을 98.5%로 압도했고, 시간축 weight sharing이라는 아이디어는 1D convolution의 원형이 됐다.
PAPER 컴퓨터 비전 · 합성곱 신경망
VGG: 3×3만으로 깊이를 증명하다
필터를 3×3 하나로 통일하고 깊이만 11층에서 19층까지 늘리는 통제 실험으로, 깊이가 CNN 성능의 핵심 변수임을 보였다. VGG16/19는 ILSVRC-2014 준우승과 함께 이후 수년간 전이학습의 표준 backbone이 됐다.
PAPER 강화학습 · World Models
DreamerV2: 이산 잠재로 Atari를 정복하다
Dreamer의 연속 잠재를 범주형(categorical) 잠재로 바꾸고 KL 밸런싱을 도입해, 단일 월드 모델로 인간 수준 Atari 성능을 달성한 모델.
PAPER 강화학습 · World Models
Dreamer: 상상 속에서 정책을 학습하다
PlaNet의 RSSM 위에서 actor-critic을 잠재 상상(imagination) 롤아웃으로 학습해, 계획 비용 없이 높은 표본 효율을 달성한 모델.
PAPER 강화학습 · World Models
World Models: 꿈 속에서 정책을 학습하다
에이전트가 환경의 압축된 내부 모델을 학습하고, 그 모델이 만든 가상 환경(꿈) 안에서 정책을 훈련한다는 월드 모델 계열의 출발점.