POST 개념 정리
CNN 해부학: convolution 연산의 수학과 변형들의 분류
convolution이 왜 이미지에 맞는 연산인지(국소성, 가중치 공유, 평행이동 등변성)부터 stride/padding/dilation이 출력 크기와 수용 영역을 결정하는 수식, 그리고 grouped/depthwise/pointwise/separable/deformable로 이어지는 변형 연산들의 계보까지 한 번에 정리한다.
Blog
All posts in chronological order. (19 total)
POST 개념 정리
딥러닝을 성립시키는 부품들: 층, 활성, 풀링, 손실, 정규화
딥러닝이라는 구조가 성립하기 위한 부품들을 역할 중심으로 해부한다 — 선형변환과 비선형 활성의 교대가 왜 필요한지, 역전파가 성립시키는 "미분 가능하면 배운다"는 계약, 풀링의 종류와 진짜 역할(불변성 대 해상도), 손실 함수의 계보(MSE→교차엔트로피→마진→대조→시퀀스 손실), 그리고 깊이를 견디게 하는 정규화와 residual까지.
POST 개념 정리
ASR의 근간 (3): MIR — 음악을 인식하는 문제들의 지도
Music Information Retrieval의 인식 계열 태스크를 정리한다 — 오디오 핑거프린팅(Shazam), 장르 분류와 오토태깅, 코드·키 인식, 비트 트래킹과 온셋 검출, 커버곡 검출. 음성과 무엇이 다른지(화성 구조, CQT, 옥타브 문제), 어떤 표현과 모델이 표준인지, 대표 데이터셋까지.
POST 개념 정리
강화학습의 근간 (1): 파블로프의 개와 벨만의 방정식
강화학습의 두 뿌리를 소개한다 — 파블로프의 조건반사와 손다이크의 효과의 법칙에서 나온 "시행착오 학습"의 심리학, 그리고 벨만의 동적 계획법에서 나온 "최적 제어"의 수학. 두 흐름이 MDP와 벨만 방정식 위에서 만나 강화학습이 되는 과정과, TD 오차가 도파민 신호로 재발견되는 반전까지.
POST 개념 정리
자기지도학습의 세 갈래: 예측, 대조, 자기증류
라벨 없이 표현을 배우는 자기지도학습을 세 계열로 정리한다 — 가려진 것을 맞히는 예측(MAE), 같은 것끼리 당기고 다른 것끼리 미는 대조 학습(SimCLR), 그리고 negative 없이 교사-학생의 출력을 맞추는 자기증류(BYOL/DINO). 각 계열이 붕괴(collapse)를 어떻게 피하는지가 핵심 축이다.