Langchain RAG Course: From Basics to Production-Ready RAG Chatbot

Pradip Nichite

과정 개요: 대화형 다중 사용자 RAG 챗봇 구축하기.

배포 프로세스: Jupyter 노트북에서 API로 프런트엔드(Streamlit)로.

API 기능: 문서 관리(추가, 삭제) 및 채팅 기능.

주피터 노트북에서 실용적인 구현에 집중하세요.

1부에서는 RAG 개념, LangChain 구성 요소, 문서 처리, 벡터 데이터베이스 생성, 다중 사용자 챗봇 구축에 대해 설명합니다.

RAG에 대한 설명과 그 중요성에 대해 설명합니다.

RAG는 생성(LLM 출력)과 검색(외부 지식에 액세스)을 결합합니다.

일반적인 RAG 시스템: 질문이 처리되고 관련 정보가 검색되며 검색된 컨텍스트에 따라 LLM이 답변합니다.

LLM의 한계: 오래된 지식과 독점 문서에 대한 접근성 부족.

RAG 프로세스: 관련 문맥을 검색하고, 프롬프트에 문맥을 보강하여 답변을 생성합니다.

문서 처리 단계: 청크로 분할, 벡터 표현(임베딩) 생성, 의미 검색을 위한 벡터 데이터베이스에 저장.

LangChain 생태계 개요: 코어, 커뮤니티 패키지, 체인.

LangChain을 사용하는 이유: 구조, LLM 전환의 용이성, LangSmith 디버깅 도구.

LangChain의 장점: 구조화된 애플리케이션 개발, 손쉬운 LLM 전환, LangSmith 디버깅.

코드 액세스: Collab 노트북, 블로그 게시물, GitHub 리포지토리 공유.

API 키: OpenAI 및 LangSmith 키는 데모용으로 사용됩니다.

LangChain에서 LLM 사용: 채팅 모델 가져오기, 모델 지정하기, 쿼리로 호출하기.

LangSmith 추적: LLM 호출 및 출력 모니터링.

출력 파서: LLM 응답을 일반 텍스트로 변환합니다.

LangChain 체인: LangChain 구성 요소를 순차적으로 실행합니다.

Pydantic으로 구조화된 출력: 더 나은 조작을 위해 출력 구조를 정의합니다.

프롬프트 템플릿: 동적 입력을 위한 프롬프트에서 자리 표시자를 사용합니다.

LangChain 구성 요소를 단일 체인으로 결합합니다.

사용자 지정 메시지: 챗봇을 위한 사람 및 시스템 메시지 만들기.

대체 프롬프트 템플릿 만들기: 메시지 목록 사용하기.

LangChain 표현식 언어: LangChain 구성 요소 오케스트레이션.

LangChain 로더와 스플리터를 사용한 문서 로딩 및 분할.

다양한 문서 유형과 청크 크기를 고려한 다양한 스플리터가 있습니다.

임베딩: OpenAI 및 문장 변환기 임베딩을 사용하여 벡터 표현을 생성합니다.

다양한 유형의 여러 문서를 불러오는 유틸리티 기능입니다.

임베딩을 벡터 데이터베이스(ChromaDB)에 저장합니다.

벡터 데이터베이스를 사용한 시맨틱 검색으로 관련 문서를 검색합니다.

LangChain 체인에서 사용하기 위해 벡터 스토어에서 리트리버 객체를 생성합니다.

질문 및 컨텍스트에 대한 프롬프트 템플릿을 사용하여 RAG 체인 만들기.

문서 개체를 프롬프트에 사용할 단일 문자열로 변환하는 후처리 함수입니다.

질문 답변을 위해 RAG 체인에 LLM을 추가합니다.

후속 질문을 처리하기 위한 채팅 기록을 소개합니다.

채팅 기록 만들기: 메시지 목록(사람 및 AI).

채팅 기록을 사용하여 후속 질문의 맥락을 파악합니다.

LLM을 사용하여 후속 질문을 독립형 질문으로 변환합니다.

동적 채팅 기록 길이를 위한 메시지 자리 표시자.

대화형 RAG에 LangChain의 `create_history_aware_chain`을 사용합니다.

일반 리트리버와 히스토리 인식 리트리버의 비교.

컨텍스트 검색과 질문 답변을 결합한 최종 LLM 체인을 만듭니다.

챗봇 프로덕션화하기 데이터베이스 통합

데이터베이스(SQLite)를 사용하여 여러 사용자의 대화 기록을 저장합니다.

세션 정보를 저장할 데이터베이스 테이블('application_log')을 만듭니다.

데이터베이스에서 채팅 기록을 삽입하고 검색하는 기능입니다.

각 대화에 대해 고유한 세션 ID를 생성합니다.

세션 ID가 없는 새 사용자 및 세션 처리하기.

Colab 노트북을 FastAPI 애플리케이션으로 변환하기.

프론트엔드 커뮤니케이션: API와 상호 작용하는 간소화된 애플리케이션.

API 엔드포인트: 채팅, 문서 업로드, 문서 목록, 문서 삭제.

문서 업로드 및 후속 질문으로 API를 테스트합니다.

간소화된 애플리케이션: API와 상호 작용하기 위한 UI입니다.

간결한 코드 구조: 사이드바 및 채팅 인터페이스.

요청 라이브러리를 사용하여 Streamlit에서 API 호출을 수행합니다.

FastAPI 코드 구조: main.py, pydantic 모델 및 유틸리티 함수.

채팅 엔드포인트 구현: 세션 ID 처리, 채팅 기록 검색, RAG 체인 호출.

문서 엔드포인트 업로드: 파일 업로드, 데이터베이스 삽입, 벡터 데이터베이스 인덱싱을 처리합니다.

문서 엔드포인트 삭제: 데이터베이스와 벡터 데이터베이스 모두에서 문서를 삭제합니다.

Langchain RAG Course: From Basics to Production-Ready RAG Chatbot

Langchain RAG Course: From Basics to Production-Ready RAG Chatbot

스크립트