블로그

전체 글을 시간순으로 모았습니다. (총 19편)

POST 개념 정리

딥러닝을 성립시키는 부품들: 층, 활성, 풀링, 손실, 정규화

딥러닝이라는 구조가 성립하기 위한 부품들을 역할 중심으로 해부한다 — 선형변환과 비선형 활성의 교대가 왜 필요한지, 역전파가 성립시키는 "미분 가능하면 배운다"는 계약, 풀링의 종류와 진짜 역할(불변성 대 해상도), 손실 함수의 계보(MSE→교차엔트로피→마진→대조→시퀀스 손실), 그리고 깊이를 견디게 하는 정규화와 residual까지.

더 보기
POST 개념 정리

ASR의 근간 (3): MIR — 음악을 인식하는 문제들의 지도

Music Information Retrieval의 인식 계열 태스크를 정리한다 — 오디오 핑거프린팅(Shazam), 장르 분류와 오토태깅, 코드·키 인식, 비트 트래킹과 온셋 검출, 커버곡 검출. 음성과 무엇이 다른지(화성 구조, CQT, 옥타브 문제), 어떤 표현과 모델이 표준인지, 대표 데이터셋까지.

더 보기
POST 개념 정리

강화학습의 근간 (1): 파블로프의 개와 벨만의 방정식

강화학습의 두 뿌리를 소개한다 — 파블로프의 조건반사와 손다이크의 효과의 법칙에서 나온 "시행착오 학습"의 심리학, 그리고 벨만의 동적 계획법에서 나온 "최적 제어"의 수학. 두 흐름이 MDP와 벨만 방정식 위에서 만나 강화학습이 되는 과정과, TD 오차가 도파민 신호로 재발견되는 반전까지.

더 보기
POST 개념 정리

자기지도학습의 세 갈래: 예측, 대조, 자기증류

라벨 없이 표현을 배우는 자기지도학습을 세 계열로 정리한다 — 가려진 것을 맞히는 예측(MAE), 같은 것끼리 당기고 다른 것끼리 미는 대조 학습(SimCLR), 그리고 negative 없이 교사-학생의 출력을 맞추는 자기증류(BYOL/DINO). 각 계열이 붕괴(collapse)를 어떻게 피하는지가 핵심 축이다.

더 보기