PAPER REVIEWS

Разборы статей

Разбито по категориям и подтемам. Внутри каждой темы статьи связаны в порядке ссылок (reference): сначала читаются предшествующие работы, затем нить ведёт вниз.

83 разборов · 5 категорий

머신 러닝

학습 이론 1

  1. 1
    Backpropagation: 오차를 거꾸로 흘려 표현을 배우다
    Learning representations by back-propagating errors 1986

강화학습

Policy Optimization 7

  1. 1
    Actor-Critic의 탄생: ASE와 ACE, 뉴런 둘로 cart-pole을 세우다
    Neuronlike Adaptive Elements That Can Solve Difficult Learning Control Problems 1983
  2. 2
    REINFORCE: 정책 그래디언트의 원전 — 보상 × 로그확률의 기울기
    Simple Statistical Gradient-Following Algorithms for Connectionist Reinforcement Learning 1992

    Основано на Backpropagation: 오차를 거꾸로 흘려 표현을 배우다 Actor-Critic의 탄생: ASE와 ACE, 뉴런 둘로 cart-pole을 세우다

  3. 3
  4. 4
  5. 5
  6. 6
  7. 7

Value Methods 4

  1. 1
    TD 학습: 결과가 아니라 다음 예측으로 배우다
    Learning to Predict by the Methods of Temporal Differences 1988

    Основано на Actor-Critic의 탄생: ASE와 ACE, 뉴런 둘로 cart-pole을 세우다

  2. 2
  3. 3
  4. 4

World Models 4

  1. 1
    World Models: 꿈 속에서 정책을 학습하다
    World Models 2018

    Основано на Dyna: 경험으로 배우고, 상상으로 계획하다

  2. 2
    PlaNet: 잠재 공간에서 계획하기
    Learning Latent Dynamics for Planning from Pixels (PlaNet) 2019

    Основано на World Models: 꿈 속에서 정책을 학습하다

  3. 3
    Dreamer: 상상 속에서 정책을 학습하다
    Dream to Control: Learning Behaviors by Latent Imagination 2020

    Основано на PlaNet: 잠재 공간에서 계획하기 World Models: 꿈 속에서 정책을 학습하다

  4. 4
    DreamerV2: 이산 잠재로 Atari를 정복하다
    Mastering Atari with Discrete World Models 2021

    Основано на Dreamer: 상상 속에서 정책을 학습하다

Bandits & Exploration 1

  1. 1
    UCB1: 유한 시간에, 균일하게, 로그 regret — 탐험 이론의 표준 도구
    Finite-time Analysis of the Multiarmed Bandit Problem 2002

RLHF & Alignment 3

  1. 1
  2. 2
  3. 3
    APO: 정렬 목적 함수의 미명세를 앵커로 고정하다
    Anchored Preference Optimization and Contrastive Revisions: Addressing Underspecification in Alignment 2024

    Основано на DPO: 당신의 언어 모델은 이미 보상 모델이다

Reasoning RL 7

  1. 1
  2. 2
  3. 3
  4. 4
    Training Verifiers (GSM8K): 생성이 못 미더우면 검증자를 세워라 — ORM의 원점
    Training Verifiers to Solve Math Word Problems 2021

    Основано на GPT-3: 스케일이 만드는 인컨텍스트 학습

  5. 5
  6. 6
  7. 7

자연어 처리

시퀀스 모델링 3

  1. 1
  2. 2
    Seq2Seq: LSTM 인코더-디코더로 문장을 문장으로 사상하다
    Sequence to Sequence Learning with Neural Networks 2014

    Основано на LSTM: 상수 오차 회전목마로 1000스텝의 시간 간격을 건너다

  3. 3
    Bahdanau Attention: 고정 벡터 병목을 정렬 학습으로 풀다
    Neural Machine Translation by Jointly Learning to Align and Translate 2015

    Основано на Seq2Seq: LSTM 인코더-디코더로 문장을 문장으로 사상하다

언어 모델 10

  1. 1
  2. 2
  3. 3
  4. 4
    GPT-2: 언어 모델은 이미 비지도 멀티태스크 학습자다
    Language Models are Unsupervised Multitask Learners 2019

    Основано на GPT-1: 생성적 사전학습 + 판별적 미세조정이라는 레시피

  5. 5
  6. 6
    GPT-3: 스케일이 만드는 인컨텍스트 학습
    Language Models are Few-Shot Learners 2020

    Основано на GPT-2: 언어 모델은 이미 비지도 멀티태스크 학습자다

  7. 7
    InstructGPT: RLHF로 언어 모델을 사용자 의도에 정렬하다
    Training Language Models to Follow Instructions with Human Feedback 2022

    Основано на GPT-3: 스케일이 만드는 인컨텍스트 학습 PPO: 단순함으로 안정적인 정책 최적화

  8. 8
    Scaling Laws: 언어 모델 성능은 멱법칙을 따른다
    Scaling Laws for Neural Language Models 2020

    Основано на GPT-2: 언어 모델은 이미 비지도 멀티태스크 학습자다

  9. 9
    T5: 모든 NLP 태스크를 text-to-text 하나로
    Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer 2020

    Основано на Transformer: 순환을 버리고 어텐션만 남기다 BERT: 마스킹으로 모든 층을 양방향으로 사전학습하다

  10. 10
    Chain-of-Thought: 중간 추론을 말하게 하면 능력이 창발한다
    Chain-of-Thought Prompting Elicits Reasoning in Large Language Models 2022

    Основано на GPT-3: 스케일이 만드는 인컨텍스트 학습

단어 임베딩 2

  1. 1
    Word2Vec: 단어의 의미를 벡터 산술로 만들다
    Efficient Estimation of Word Representations in Vector Space 2013
  2. 2
    GloVe: 동시등장 통계를 직접 회귀하는 전역 단어 벡터
    GloVe: Global Vectors for Word Representation 2014

    Основано на Word2Vec: 단어의 의미를 벡터 산술로 만들다

컴퓨터 비전

생성 모델 2

  1. 1
    DDPM: 노이즈 예측으로 여는 확산 생성 모델
    Denoising Diffusion Probabilistic Models 2020
  2. 2
    Flow Matching: 시뮬레이션 없이 배우는 결정론적 생성 경로
    Flow Matching for Generative Modeling 2023

    Основано на DDPM: 노이즈 예측으로 여는 확산 생성 모델

합성곱 신경망 9

  1. 1
  2. 2
    AlexNet: 딥러닝이 컴퓨터 비전을 접수한 날
    ImageNet Classification with Deep Convolutional Neural Networks 2012

    Основано на LeNet: 국소 수용 영역, 가중치 공유, 서브샘플링 — CNN의 설계도

  3. 3
    VGG: 3×3만으로 깊이를 증명하다
    Very Deep Convolutional Networks for Large-Scale Image Recognition 2015

    Основано на AlexNet: 딥러닝이 컴퓨터 비전을 접수한 날

  4. 4
    ResNet: 항등 지름길로 152층을 학습하다
    Deep Residual Learning for Image Recognition 2016

    Основано на AlexNet: 딥러닝이 컴퓨터 비전을 접수한 날 VGG: 3×3만으로 깊이를 증명하다

  5. 5
    SENet: 채널에 어텐션을 달다
    Squeeze-and-Excitation Networks 2018

    Основано на ResNet: 항등 지름길로 152층을 학습하다

  6. 6
  7. 7
    Deformable CNN: 고정 격자를 버리고 샘플링 위치를 학습하다
    Deformable Convolutional Networks 2017

    Основано на ResNet: 항등 지름길로 152층을 학습하다

  8. 8
    MobileNet: depthwise separable로 30배 가벼운 CNN
    MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications 2017

    Основано на VGG: 3×3만으로 깊이를 증명하다

  9. 9

얼굴 인식 1

  1. 1
    ArcFace: 각도 마진으로 임베딩 사이를 벌리다
    ArcFace: Additive Angular Margin Loss for Deep Face Recognition 2019

    Основано на ResNet: 항등 지름길로 152층을 학습하다

모델 해석 2

  1. 1
    CAM: 분류기가 어디를 보고 판단했는지 지도화하다
    Learning Deep Features for Discriminative Localization 2016

    Основано на AlexNet: 딥러닝이 컴퓨터 비전을 접수한 날 VGG: 3×3만으로 깊이를 증명하다

  2. 2
    Grad-CAM: 그래디언트로 CAM을 모든 구조로 일반화하다
    Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization 2017

    Основано на CAM: 분류기가 어디를 보고 판단했는지 지도화하다

비전 트랜스포머 4

  1. 1
  2. 2
    DeiT: JFT 없이, 증류 토큰으로 ViT를 ImageNet에서 학습하다
    Training data-efficient image transformers & distillation through attention 2021

    Основано на ViT: 이미지는 16×16 단어들이다

  3. 3
    Swin Transformer: 이동 윈도우로 계층적 백본을 되찾다
    Swin Transformer: Hierarchical Vision Transformer using Shifted Windows 2021

    Основано на ViT: 이미지는 16×16 단어들이다

  4. 4
    Swin V2: 3B 파라미터, 1536px — 비전 백본 스케일링의 공학
    Swin Transformer V2: Scaling Up Capacity and Resolution 2022

    Основано на Swin Transformer: 이동 윈도우로 계층적 백본을 되찾다

자기지도학습 4

  1. 1
    SimCLR: 대조 학습에는 트릭이 아니라 조합이 필요하다
    A Simple Framework for Contrastive Learning of Visual Representations 2020

    Основано на ResNet: 항등 지름길로 152층을 학습하다

  2. 2
  3. 3
    DINOv2: 텍스트 없이 만든 비전 파운데이션 모델
    DINOv2: Learning Robust Visual Features without Supervision 2024

    Основано на dino MAE: 75%를 가리고 픽셀을 복원하다 — 비전의 BERT 순간 ViT: 이미지는 16×16 단어들이다

  4. 4

음성 처리

음성 인식 8

  1. 1
    TDNN: 시간 지연 유닛으로 음소를 인식하다 — 1D convolution의 원형
    Phoneme Recognition Using Time-Delay Neural Networks 1989

    Основано на Backpropagation: 오차를 거꾸로 흘려 표현을 배우다

  2. 2
    CTC: 정렬 없이 시퀀스를 라벨링하다
    Connectionist Temporal Classification: Labelling Unsegmented Sequence Data with Recurrent Neural Networks 2006

    Основано на LSTM: 상수 오차 회전목마로 1000스텝의 시간 간격을 건너다

  3. 3
  4. 4
  5. 5
  6. 6
  7. 7
  8. 8

화자 인식 6

  1. 1
    x-vector: TDNN 임베딩 + 증강으로 i-vector 시대를 끝내다
    X-vectors: Robust DNN Embeddings for Speaker Recognition 2018

    Основано на TDNN: 시간 지연 유닛으로 음소를 인식하다 — 1D convolution의 원형

  2. 2
  3. 3
  4. 4
    i-vector: 발화 하나를 벡터 하나로 — 딥러닝 이전의 화자 표현
    Front-End Factor Analysis for Speaker Verification 2011
  5. 5
    SincNet: 첫 층을 학습 가능한 대역통과 필터로
    Speaker Recognition from Raw Waveform with SincNet 2018
  6. 6