RAG 모델에서 Retriever의 정보 검색 및 추출 동작

대규모 언어 모델(LLM)의 한계를 극복하기 위해 제안된 RAG(Retriever-Augmented Generation) 모델은 Retriever와 Generator로 이루어져 있습니다. 이번 글에서는 RAG 모델에서 Retriever가 정보를 검색하고 추출하는 동작에 대해서 자세하게 설명하겠습니다. 1. RAG 모델의 개요 RAG 모델은 입력된 질문이나 텍스트에 대한 응답을 생성하기 위해, 먼저 정보를 검색하는 Retriever와 그 정보를 활용해 응답을 생성하는 Generator의 두 단계로 구성됩니다. Retriever는 지식 기반에서 … Read more

LLM의 한계와 RAG(검색 증강 생성)의 작동 방식

최근 몇 년 동안, 대규모 언어 모델(LLM)은 자연어 처리 분야에서 엄청난 발전을 이루어내며 다양한 응용 분야에서 사용되고 있습니다. 그러나 LLM은 여전히 몇 가지 한계를 가지고 있습니다. 이러한 한계를 극복하기 위해 최근에는 RAG(Retriever-Augmented Generation) 모델이 제안되었습니다. 이번 포스팅에서는 LLM의 한계와 RAG의 작동 방식에 대해 자세히 살펴보겠습니다. 1. LLM의 한계 대규모 언어 모델은 방대한 양의 데이터를 기반으로 … Read more

대규모 언어 모델(LLM)과 소형 언어 모델(SLLM)에 대한 이해와 선택 가이드

인공지능 및 자연어 처리 분야에서 대규모 언어 모델(LLM)과 소형 언어 모델(SLLM)은 중요한 역할을 합니다. 이들 모델은 자연어 처리, 대화형 AI, 텍스트 생성 등 다양한 작업에 활용되며, 기존의 접근 방식과 성능을 혁신적으로 바꾸고 있습니다. 이 두 가지 모델은 언어 데이터를 이해하고 생성하는 데 사용되지만, 크기와 복잡도, 그리고 각각의 사용 사례에서 차이가 있습니다. 이번 포스팅에서는 LLM과 SLLM … Read more