AWS re:Invent 2024: 금융 산업의 생성형 AI 혁신 사례

금융 리서치 및 시장 분석 자동화 (브릿지워터 & Crypto.com)

• 헤지펀드 브릿지워터는 AIA Labs를 통해 시장 경제 지표를 LLM에 입력하여 인과관계 맵을 생성, 금융 리서치 사이클을 혁신했습니다.
• AWS Bedrock 및 EKS 기반 아키텍처를 활용하며 Textract OCR로 비정형 금융 문서 데이터를 처리했습니다.
• Crypto.com은 Amazon Bedrock Converse API를 이용해 다국어 뉴스 번역 전처리를 수행, 암호화폐 시장 감정 분석의 정확도를 높였습니다.
• 멀티 에이전트 합의 방식을 도입하여 Claude 3 Haiku, SageMaker(fine-tuned Llama 3 8B), 3rd party GPT를 병렬 평가하여 분석 정확도를 90% 이상 달성했습니다.

고객 경험 향상을 위한 맞춤형 금융 상품 제공 (미쓰비시 UFJ 은행)

• 미쓰비시 UFJ 은행은 비정형 금융 문서 처리에 LLM을 도입, 데이터를 HTML과 같은 구조화된 형식으로 변환하여 **정확도 90%**까지 향상시켰습니다.
• GenAIOps 방법론을 채택하여 기본 프롬프트 적용, 인간 개입 조정, 고객 피드백 기반 RAG 적용 등을 반복하며 AI 서비스를 지속적으로 개선했습니다.
• SageMaker와 Bedrock을 기반으로 구축된 시스템은 Anthropic Claude 3.5 Sonnet 모델을 Batch 추론 방식으로 활용하여 비용 효율성과 안정성을 확보했습니다.
• 숙련된 직원이 며칠 걸리던 금융 분석 리포트 생성 시간을 1~2분으로 단축하여 생성률 10배 증가 및 상품 판매 전환율 30% 이상을 달성했습니다.

생성형 AI 서비스 개발 방법론: FMOps

• 발표자들은 생성형 AI 도입 시 환각 현상 최소화 및 높은 정확도 확보를 위해 체계적이고 반복적인 AI 개발 과정의 중요성을 강조했습니다.
• FMOps (GenAIOps) 방법론은 FM/LLM 엔지니어링, 프롬프트 엔지니어링, 모델 배포 및 관리 등으로 구성되어 지속적인 AI 서비스 개선을 가능하게 합니다.
• 실제 고객 피드백을 반영하고 다양한 인재와 역량을 투입하여 AI 모델의 성능을 향상시키는 것이 핵심입니다.