PAPER 컴퓨터 비전 · 비전-언어 모델
CLIP: 자연어가 이미지 분류기의 라벨 공간이 되다
웹에서 모은 4억 쌍의 (이미지, 텍스트)로 이미지 인코더와 텍스트 인코더를 대조 학습해, 배치 내 올바른 짝을 맞히는 사전학습만으로 임의의 분류 태스크를 프롬프트로 제로샷 수행한다. ImageNet 제로샷 76.2%로 지도학습 ResNet-50과 대등하며, 분포 이동 강건성에서 지도 모델을 압도한다.
#제로샷
0 Beiträge · 3 Paper-Reviews (insgesamt 3)
PAPER
Paper-Reviews
PAPER 음성 처리 · 음성 인식
Whisper: 68만 시간의 약지도가 만드는 강건함
웹에서 수집·필터링한 68만 시간의 약지도 (오디오, 전사) 쌍으로 표준 인코더-디코더 Transformer를 다국어·다태스크(전사, 번역, 언어 식별, 타임스탬프) 학습한다. 미세조정 없는 제로샷 전이가 목표로, 벤치마크 특화 모델보다 분포 밖 강건성에서 압도적이며(wav2vec 2.0 대비 평균 오류 55% 감소) 인간 전사자에 근접한다.
PAPER 자연어 처리 · 언어 모델
GPT-2: 언어 모델은 이미 비지도 멀티태스크 학습자다
대규모 웹 텍스트(WebText)로 학습한 언어 모델이 별도의 지도학습이나 태스크별 아키텍처 없이도 독해, 번역, 요약, 질의응답 등 다양한 태스크를 제로샷으로 수행할 수 있음을 보인다. 1.5B 파라미터 GPT-2는 테스트한 8개 언어모델링 데이터셋 중 7개에서 SOTA를 달성했다.