PAPER 컴퓨터 비전 · 비전 트랜스포머
ViT: 이미지는 16×16 단어들이다
이미지를 16×16 패치 시퀀스로 잘라 표준 Transformer 인코더에 그대로 넣는 Vision Transformer를 제안한다. ImageNet만으로는 ResNet에 밀리지만 JFT-300M 사전학습에서는 압도한다 — 데이터가 충분하면 대규모 학습이 CNN의 inductive bias를 이긴다는 것이 핵심 논지다.
#ViT
0 Beiträge · 1 Paper-Reviews (insgesamt 1)
PAPER