论文评述

基于 Backpropagation: 오차를 거꾸로 흘려 표현을 배우다 ,Actor-Critic의 탄생: ASE와 ACE, 뉴런 둘로 cart-pole을 세우다

基于 Actor-Critic의 탄생: ASE와 ACE, 뉴런 둘로 cart-pole을 세우다 ,Q-learning: 모델 없이, 정책과 무관하게, 최적 행동 가치로 ,REINFORCE: 정책 그래디언트의 원전 — 보상 × 로그확률의 기울기 ,LSTM: 상수 오차 회전목마로 1000스텝의 시간 간격을 건너다

基于 REINFORCE: 정책 그래디언트의 원전 — 보상 × 로그확률의 기울기 ,A3C: replay buffer 대신 병렬 — advantage actor-critic의 부활

基于 Actor-Critic의 탄생: ASE와 ACE, 뉴런 둘로 cart-pole을 세우다 ,Q-learning: 모델 없이, 정책과 무관하게, 최적 행동 가치로 ,PPO: 단순함으로 안정적인 정책 최적화

基于 REINFORCE: 정책 그래디언트의 원전 — 보상 × 로그확률의 기울기 ,Actor-Critic의 탄생: ASE와 ACE, 뉴런 둘로 cart-pole을 세우다

基于 REINFORCE: 정책 그래디언트의 원전 — 보상 × 로그확률의 기울기 ,Actor-Critic의 탄생: ASE와 ACE, 뉴런 둘로 cart-pole을 세우다 ,Natural Policy Gradient: 파라미터의 거리가 아니라 분포의 거리로

基于 Actor-Critic의 탄생: ASE와 ACE, 뉴런 둘로 cart-pole을 세우다

基于 TD 학습: 결과가 아니라 다음 예측으로 배우다

基于 TD 학습: 결과가 아니라 다음 예측으로 배우다 ,Q-learning: 모델 없이, 정책과 무관하게, 최적 행동 가치로 ,Actor-Critic의 탄생: ASE와 ACE, 뉴런 둘로 cart-pole을 세우다

基于 Q-learning: 모델 없이, 정책과 무관하게, 최적 행동 가치로 ,AlexNet: 딥러닝이 컴퓨터 비전을 접수한 날

基于 Dyna: 경험으로 배우고, 상상으로 계획하다

基于 World Models: 꿈 속에서 정책을 학습하다

基于 PlaNet: 잠재 공간에서 계획하기 ,World Models: 꿈 속에서 정책을 학습하다

基于 Dreamer: 상상 속에서 정책을 학습하다

基于 UCB1: 유한 시간에, 균일하게, 로그 regret — 탐험 이론의 표준 도구

基于 UCT: 트리의 모든 노드를 밴딧으로 — MCTS의 이론적 탄생 ,REINFORCE: 정책 그래디언트의 원전 — 보상 × 로그확률의 기울기 ,AlexNet: 딥러닝이 컴퓨터 비전을 접수한 날

基于 AlphaGo: 학습된 사전으로 폭을, 학습된 평가로 깊이를 자르다 ,ResNet: 항등 지름길로 152층을 학습하다

基于 TRPO: 단조 개선이 보장되는 보폭만큼만 정책을 움직여라 ,Q-learning: 모델 없이, 정책과 무관하게, 최적 행동 가치로

基于 Deep RL from Human Preferences: 보상 함수를 사람의 선호에서 배우다 ,InstructGPT: RLHF로 언어 모델을 사용자 의도에 정렬하다 ,PPO: 단순함으로 안정적인 정책 최적화

基于 DPO: 당신의 언어 모델은 이미 보상 모델이다

基于 PPO: 단순함으로 안정적인 정책 최적화 ,Chain-of-Thought: 중간 추론을 말하게 하면 능력이 창발한다 ,InstructGPT: RLHF로 언어 모델을 사용자 의도에 정렬하다

基于 DeepSeekMath: critic을 집단 평균으로 대체하다 — GRPO ,InstructGPT: RLHF로 언어 모델을 사용자 의도에 정렬하다 ,Chain-of-Thought: 중간 추론을 말하게 하면 능력이 창발한다

基于 DeepSeekMath: critic을 집단 평균으로 대체하다 — GRPO ,DeepSeek-R1: 검증 가능한 보상만으로 추론이 창발하다 ,PPO: 단순함으로 안정적인 정책 최적화

基于 GPT-3: 스케일이 만드는 인컨텍스트 학습

基于 Training Verifiers (GSM8K): 생성이 못 미더우면 검증자를 세워라 — ORM의 원점 ,Chain-of-Thought: 중간 추론을 말하게 하면 능력이 창발한다

基于 Let's Verify Step by Step: 결과가 아니라 과정에 보상을 — PRM ,Chain-of-Thought: 중간 추론을 말하게 하면 능력이 창발한다

基于 UCT: 트리의 모든 노드를 밴딧으로 — MCTS의 이론적 탄생 ,AlphaGo Zero: 탐색이 곧 정책 개선 연산자 — 백지에서의 GPI ,Let's Verify Step by Step: 결과가 아니라 과정에 보상을 — PRM ,Chain-of-Thought: 중간 추론을 말하게 하면 능력이 창발한다

基于 Backpropagation: 오차를 거꾸로 흘려 표현을 배우다

基于 LSTM: 상수 오차 회전목마로 1000스텝의 시간 간격을 건너다

基于 Seq2Seq: LSTM 인코더-디코더로 문장을 문장으로 사상하다

基于 Seq2Seq: LSTM 인코더-디코더로 문장을 문장으로 사상하다 ,Bahdanau Attention: 고정 벡터 병목을 정렬 학습으로 풀다

基于 LSTM: 상수 오차 회전목마로 1000스텝의 시간 간격을 건너다 ,Word2Vec: 단어의 의미를 벡터 산술로 만들다 ,GloVe: 동시등장 통계를 직접 회귀하는 전역 단어 벡터

基于 Transformer: 순환을 버리고 어텐션만 남기다 ,ELMo: 단어 벡터를 문맥의 함수로 바꾸다

基于 GPT-1: 생성적 사전학습 + 판별적 미세조정이라는 레시피

基于 Transformer: 순환을 버리고 어텐션만 남기다 ,ELMo: 단어 벡터를 문맥의 함수로 바꾸다 ,GPT-1: 생성적 사전학습 + 판별적 미세조정이라는 레시피

基于 GPT-2: 언어 모델은 이미 비지도 멀티태스크 학습자다

基于 GPT-3: 스케일이 만드는 인컨텍스트 학습 ,PPO: 단순함으로 안정적인 정책 최적화

基于 GPT-2: 언어 모델은 이미 비지도 멀티태스크 학습자다

基于 Transformer: 순환을 버리고 어텐션만 남기다 ,BERT: 마스킹으로 모든 층을 양방향으로 사전학습하다

基于 GPT-3: 스케일이 만드는 인컨텍스트 학습

基于 Word2Vec: 단어의 의미를 벡터 산술로 만들다

基于 DDPM: 노이즈 예측으로 여는 확산 생성 모델

基于 Backpropagation: 오차를 거꾸로 흘려 표현을 배우다 ,TDNN: 시간 지연 유닛으로 음소를 인식하다 — 1D convolution의 원형

基于 LeNet: 국소 수용 영역, 가중치 공유, 서브샘플링 — CNN의 설계도

基于 AlexNet: 딥러닝이 컴퓨터 비전을 접수한 날

基于 AlexNet: 딥러닝이 컴퓨터 비전을 접수한 날 ,VGG: 3×3만으로 깊이를 증명하다

基于 ResNet: 항등 지름길로 152층을 학습하다

基于 SENet: 채널에 어텐션을 달다 ,ResNet: 항등 지름길로 152층을 학습하다

基于 ResNet: 항등 지름길로 152층을 학습하다

基于 VGG: 3×3만으로 깊이를 증명하다

基于 ResNet: 항등 지름길로 152층을 학습하다 ,MobileNet: depthwise separable로 30배 가벼운 CNN ,SENet: 채널에 어텐션을 달다

基于 ResNet: 항등 지름길로 152층을 학습하다

基于 AlexNet: 딥러닝이 컴퓨터 비전을 접수한 날 ,VGG: 3×3만으로 깊이를 증명하다

基于 CAM: 분류기가 어디를 보고 판단했는지 지도화하다

基于 Transformer: 순환을 버리고 어텐션만 남기다 ,BERT: 마스킹으로 모든 층을 양방향으로 사전학습하다 ,ResNet: 항등 지름길로 152층을 학습하다

基于 ViT: 이미지는 16×16 단어들이다

基于 ViT: 이미지는 16×16 단어들이다

基于 Swin Transformer: 이동 윈도우로 계층적 백본을 되찾다

基于 ResNet: 항등 지름길로 152층을 학습하다

基于 ViT: 이미지는 16×16 단어들이다 ,BERT: 마스킹으로 모든 층을 양방향으로 사전학습하다

基于 dino ,MAE: 75%를 가리고 픽셀을 복원하다 — 비전의 BERT 순간 ,ViT: 이미지는 16×16 단어들이다

基于 DINOv2: 텍스트 없이 만든 비전 파운데이션 모델 ,dino

基于 ViT: 이미지는 16×16 단어들이다 ,Transformer: 순환을 버리고 어텐션만 남기다 ,SimCLR: 대조 학습에는 트릭이 아니라 조합이 필요하다 ,GPT-2: 언어 모델은 이미 비지도 멀티태스크 학습자다

基于 CLIP: 자연어가 이미지 분류기의 라벨 공간이 되다 ,ViT: 이미지는 16×16 단어들이다

基于 Backpropagation: 오차를 거꾸로 흘려 표현을 배우다

基于 LSTM: 상수 오차 회전목마로 1000스텝의 시간 간격을 건너다

基于 Transformer: 순환을 버리고 어텐션만 남기다 ,CTC: 정렬 없이 시퀀스를 라벨링하다 ,LSTM: 상수 오차 회전목마로 1000스텝의 시간 간격을 건너다

基于 CTC: 정렬 없이 시퀀스를 라벨링하다 ,LSTM: 상수 오차 회전목마로 1000스텝의 시간 간격을 건너다

基于 Transformer: 순환을 버리고 어텐션만 남기다 ,BERT: 마스킹으로 모든 층을 양방향으로 사전학습하다 ,CTC: 정렬 없이 시퀀스를 라벨링하다 ,SimCLR: 대조 학습에는 트릭이 아니라 조합이 필요하다

基于 wav2vec 2.0: 라벨 10분으로 음성 인식하기 — 음성의 자기지도 사전학습 ,BERT: 마스킹으로 모든 층을 양방향으로 사전학습하다 ,CTC: 정렬 없이 시퀀스를 라벨링하다

基于 CTC: 정렬 없이 시퀀스를 라벨링하다 ,LSTM: 상수 오차 회전목마로 1000스텝의 시간 간격을 건너다

基于 Transformer: 순환을 버리고 어텐션만 남기다 ,GPT-2: 언어 모델은 이미 비지도 멀티태스크 학습자다 ,wav2vec 2.0: 라벨 10분으로 음성 인식하기 — 음성의 자기지도 사전학습 ,Deep Speech 2: 파이프라인이 아니라 스케일 — end-to-end ASR의 산업화

基于 TDNN: 시간 지연 유닛으로 음소를 인식하다 — 1D convolution의 원형

基于 x-vector: TDNN 임베딩 + 증강으로 i-vector 시대를 끝내다 ,SENet: 채널에 어텐션을 달다 ,ResNet: 항등 지름길로 152층을 학습하다 ,ArcFace: 각도 마진으로 임베딩 사이를 벌리다

基于 ECAPA-TDNN: 채널 어텐션과 다중 스케일로 x-vector를 완성하다 ,ResNet: 항등 지름길로 152층을 학습하다 ,ArcFace: 각도 마진으로 임베딩 사이를 벌리다

基于 SincNet: 첫 층을 학습 가능한 대역통과 필터로 ,ResNet: 항등 지름길로 152층을 학습하다 ,LSTM: 상수 오차 회전목마로 1000스텝의 시간 간격을 건너다