반응형 Rap1 [딥러닝 with Python] RAP(Retrieval-Augmented Pretraining) RAP(Retrieval Augmented Pretraining)은 인공지능 모델의 성능을 높이기 위해 검색 기반의 정보를 활용해 사전 훈련된 모델의 성능을 극대화하는 방법입니다. 1. RAP(Retrieval-Augmented Pretraining) 이란? RAP는 대형 언어 모델(LLM)의 한계를 보완하기 위해 외부 검색 시스템(retriever)을 활용하는 방법입니다. 모델이 사전 훈련된 데이터뿐만 아니라 실시간으로 검색된 정보까지 활용하여 보다 정확한 답변을 생성할 수 있도록 합니다. 기본적인 RAP의 구조는 다음과 같이 요약할 수 있습니다: 1) Query Encoding: 주어진 입력(query) 를 임베딩 공간으로 변환합니다. 2) Retrieval: 검색 시스템을 활용하여 관련 문서 를.. 2025. 2. 26. 이전 1 다음 반응형
