📄️ GPT: Improving Language Understanding by Generative Pre-Training
언어 모델 사전학습으로 GPT 시리즈의 시작을 연 논문
📄️ ViT: An Image is Worth 16x16 Words
이미지를 패치로 분할해 Transformer를 비전에 적용한 논문
📄️ GANs: Generative Adversarial Networks
Generator와 Discriminator의 적대적 학습으로 데이터를 생성하는 GAN
📄️ DDPM: Denoising Diffusion Probabilistic Models
노이즈를 단계적으로 제거해 데이터를 생성하는 Diffusion 모델
📄️ LoRA: Low-Rank Adaptation of Large Language Models
대형 모델을 저랭크 행렬 분해로 효율적으로 파인튜닝하는 기법
📄️ PEFT: Parameter-Efficient Fine-Tuning
대형 모델의 파라미터 일부만 학습하는 효율적 파인튜닝 기법 모음
📄️ RAG: Retrieval-Augmented Generation
외부 문서 검색을 결합해 LLM의 지식을 확장하는 RAG 기법