메모리 서비스 개요
메모리란 AI 애플리케이션에서 사용자에 대한 세부 정보나 개발자가 미래 세션에 대해 기억하려는 임의의 정보와 같은 항목을 기억할 수 있는 기능입니다. 랭그라는 그래프는 메모리 서비스를 구축하는 데 도움이 되는 강력한 도구로, 이를 통해 애플리케이션은 과거 상호 작용을 기억하고 개인화된 응답을 생성할 수 있습니다. 이 워크스루에서는 랭그라는 그래프를 사용하여 메모리 서비스를 처음부터 구축하는 방법에 대해 설명합니다.
두 가지 메모리 업데이트 접근 방식
메모리 업데이트에는 주로 두 가지 접근 방식이 있습니다.
- 온-패스 업데이트: 애플리케이션 상호 작용 중에 메모리를 업데이트하는 것으로, 업데이트가 사용자에게 직접적으로 표시됩니다.
- 오프-패스 업데이트: 메모리 업데이트를 사용자 상호 작용과 별도로 백그라운드에서 수행하는 것으로, 더 낮은 대기 시간과 더 나은 사용자 경험을 제공합니다.
이 워크스루에서는 오프-패스 업데이트에 중점을 맞추어 메모리 서비스 구축을 안내합니다.
메모리 서비스 구축
메모리 서비스 구축은 다음 단계를 포함합니다.
- 메모리 생성 시기 결정: 업데이트 시기를 결정하고 반복적인 호출을 줄이기 위해 스케줄링 매개 변수를 사용합니다.
- 메모리 콘텐츠 정의: 사용자 프로필 및 일반적인 이벤트와 같은 메모리에 저장할 항목을 정의하는 스키마를 생성합니다.
- 메모리 업데이트 관리: 사용자 프로필과 이벤트 메모리의 업데이트를 관리하기 위해 병렬 처리 노드를 사용하는 스키마 기반 업데이트 메커니즘 구현합니다.
Studio에서 메모리 서비스 탐색
랭그라는 스튜디오는 메모리 서비스 구축 및 관리를 위한 강력한 플랫폼을 제공합니다. Studio에서 다음과 같은 기능을 활용할 수 있습니다.
- 메모리 타임라인 표시
- 메모리 스키마 구성 및 수정
- 메모리 서비스 상호 작용 트레이싱
이 패턴 사용 사례
오프-패스 메모리 업데이트 패턴은 다음과 같은 경우에 유용합니다.
- 낮은 대기 시간이 중요한 경우
- 복잡한 메모리 스키마를 관리해야 하는 경우
- 보다 개인화된 사용자 경험을 제공해야 하는 경우
결론
랭그라는 그래프와 랭그라는 스튜디오를 사용하면 AI 애플리케이션에 강력하고 유연한 메모리 서비스를 구축할 수 있습니다. 이 서비스를 통해 애플리케이션은 사용자 상호 작용을 기억하여 더 개인화되고 응답성 있는 경험을 제공할 수 있습니다.