롯데백화점의 AI 컨시어지 구축기: Amazon Bedrock과 Strands Agents 활용

개요

롯데백화점은 AI 기반 컨시어지 서비스 '더스틴'을 구축하여 고객 경험을 혁신하고, 정보 접근성을 높였습니다. Amazon Bedrock과 Strands Agents SDK를 활용하여 자연어 기반의 개인화된 쇼핑 정보를 제공하며, 기존 앱의 정보 분산, 디지털 접근성 문제, 검색 기능 고도화 필요성 등 다양한 과제를 해결했습니다.

솔루션 아키텍처

롯데백화점 AI 컨시어지 아키텍처는 API 레이어, AI 에이전트 레이어, 데이터 및 색인 레이어로 구성됩니다.

• API 레이어: CloudFront와 AWS WAF를 통해 트래픽을 보호하고, Application Load Balancer를 통해 ECS의 에이전트 서버로 전달합니다.
• AI 에이전트 레이어: ECS에서 Strands Agents SDK 기반 에이전트 서버를 운영하며, Amazon Bedrock의 Claude Haiku 모델을 사용하여 빠른 응답 속도를 확보했습니다. Bedrock Guardrails로 개인정보를 필터링하고, DynamoDB로 대화 이력을 관리합니다.
• 데이터 및 색인 레이어: 온프레미스에서 S3로 데이터를 업로드하고, SNS/SQS/Lambda를 통해 Amazon OpenSearch Service에 색인합니다. 벡터 검색에는 Bedrock Titan Text Embeddings V2를 활용하며, Tavily 검색 결과는 Claude Sonnet/Opus로 추출 및 파싱합니다.

AI 컨시어지 구현

서비스 화면 및 에이전트 도구

• 직관적인 UI: 자주 묻는 질문 버튼 제공, 카드형 UI로 매장 정보 시각화.
• 도구 설계: 질문 의도별 도구 분류 (매장 정보, 이벤트 정보 등).
• OpenSearch 쿼리: 지점명 등 조건에 따라 동적 쿼리 빌드.
• 시스템 프롬프트: 롯데백화점 고유 서비스 용어 포함 및 에이전트 도구 선택 지침 제공.
• 추천 카테고리: 사용자 질문 의도에 따라 적절한 카테고리 기반 브랜드 추천.

데이터 파이프라인

• 이벤트 기반 파이프라인: S3 업로드 시 Lambda가 데이터를 파싱, 청킹, 임베딩 생성, OpenSearch 색인까지 자동 수행.
• 안정적인 데이터 처리: SQS 메시지 배치 처리, 재시도, Dead Letter Queue 활용.
• 병렬 임베딩 생성: ThreadPoolExecutor를 활용하여 임베딩 생성 속도 향상.
• 증분 처리: 파일명 날짜 정보를 활용한 자동 이전 버전 문서 삭제.

웹 검색 데이터 파이프라인

• AWS Step Functions 활용: 주 1회 실행되는 배치 파이프라인으로 검증된 핫플레이스 정보 서비스 활용.
• LLM 기반 추출 및 검증: Claude 4.5 Sonnet/Opus 모델을 활용하여 핫플레이스 정보 추출 및 유효성 검증.

성능 최적화

• 토큰 사용량 감소: 한글 프롬프트 영문화, 프롬프트 캐싱 전략, 도구 실행 결과 경량화, 도구 실행 이력 압축.
• 검색 결과 필터링: 답변 생성에 실제 참조된 검색 결과 인덱스만 전달하여 토큰 절약 및 응답 속도 최적화.
• 환각(Hallucination) 방지: 검색 결과 유무에 따른 답변 생성 지침 분리 및 폴백 응답 명시.

비즈니스 효과 및 향후 계획

• 고객 만족도 향상: 즉각적인 정보 제공 및 개인화된 추천으로 쇼핑 경험 증대.
• 운영 효율성 증대: 단순 반복 문의 감소로 상담원 업무 부담 경감.
• 비용 효율성: 토큰 최적화 및 비용 효율적인 모델 활용.
• 향후 계획: 다국어 지원, 멤버십 정보 연동을 통한 개인화 추천 고도화.