**소개**

안녕하세요, 여러분. 저희 채널에 오신 것을 환영합니다. 오늘 부분에서는 다시 흥미로운 동영상을 공유해 드리겠습니다. 이 영상에서는 메타에서 멀티모달 모델로 출시한 Llama 3.2를 살펴보겠습니다. Llama 3.2는 텍스트뿐만 아니라 이미지도 처리할 수 있죠.

**Rag 파이프라인 구성**

Rag 파이프라인을 사용하려면 다음과 같은 패키지를 설치해야 합니다.

• Llama index
• Llama index Gro 라이브러리
• Dra 라이브러리
• Hugging Face Embeddings
• Sentence Splitter
• Lo Client

패키지를 설치하고 라이브러리를 가져온 후에 API 키를 설정해야 합니다.

**데이터 전처리**

Rag 파이프라인을 구축할 문서를 가져온 후에는 데이터를 덩어리로 나누어야 합니다. 이렇게 하면 대규모 언어 모델이 데이터를 한 번에 처리할 수 있습니다. 데이터 전처리를 위해 Sentence Splitter를 사용합니다.

**데이터 변환**

문서를 덩어리로 나눈 후에는 그것을 벡터로 변환해야 합니다. 이를 위해 Sentence Transformers All Mini L6 V2 모델을 사용합니다.

**대규모 언어 모델 로드**

Gro를 통해 Llama 3.2 10억 파라미터 모델을 로드합니다.

**서비스 컨텍스트 생성**

서비스 컨텍스트에는 임베딩 모델과 대규모 언어 모델이 포함됩니다. 이를 통해 벡터 저장소 색인을 생성할 수 있습니다.

** 벡터 저장소 인덱스 생성**

벡터 저장소 인덱스는 벡터 형식으로 모든 문서를 포함하는 컨테이너입니다. 벡터 저장소 인덱스를 생성하려면 Vector Store Index from Documents 메서드를 사용합니다.

**벡터 저장소 영구 저장**

벡터 저장소 인덱스가 생성된 후에는 영구 저장할 수 있습니다. 이렇게 하면 이후에 다른 응용 프로그램에서 사용할 수 있습니다.

**색인 쿼리**

쿼리를 수행하려면 Index as Query Engine 메서드를 사용합니다. 이렇게 하면 대규모 언어 모델이 문서를 검색하여 쿼리에 답변합니다.

**결론**

이 영상에서는 Llama 3.2를 Rag 파이프라인에 통합하는 방법을 보여드렸습니다. 이렇게 하면 텍스트 문서에서 효과적으로 질의 응답을 수행할 수 있습니다.