Skip to main content

Docs

God shall bless us; and all the ends of the earth shall fear him.

RAG

Lewis et al., 2020 — arXiv:2005.11401

핵심 아이디어

LLM의 파라미터에 저장된 지식 외에, 외부 문서를 실시간 검색해 답변 생성에 활용:

질문 → Retriever → 관련 문서 top-k 검색

질문 + 문서 → Generator (LLM) → 최종 답변

구성 요소

구성역할
RetrieverDense Passage Retrieval (DPR) 등으로 관련 문서 검색
Generatorseq2seq 또는 decoder-only LLM으로 답변 생성
Vector DB문서 임베딩 저장 (FAISS, Pinecone 등)

Fine-tuning vs RAG

Fine-tuningRAG
지식 업데이트재학습 필요DB 업데이트만으로 가능
비용높음낮음
출처 추적어려움가능

의의

LLM 할루시네이션 감소 및 최신 지식 활용의 실용적 해법. 기업 AI 서비스의 핵심 패턴.