AWS Control Tower 환경에서 Amazon Bedrock 크로스 리전 추론 활용 지침

Amazon Bedrock 크로스 리전 추론 원리 및 SCP 상호작용

크로스 리전 추론은 여러 AWS 리전의 컴퓨팅 자원을 활용하여 온디맨드 추론 트래픽을 효율적으로 관리하고 높은 처리량을 달성합니다.
이 기능은 클라이언트의 소스 리전과 실제 LLM 호출을 처리하는 이행 리전 개념을 기반으로 Amazon Bedrock의 휴리스틱 기반 라우팅을 사용합니다.
하지만 **서비스 제어 정책(SCP)**이 잠재적 이행 리전에 대한 광범위한 서비스 액세스를 거부할 경우, Amazon Bedrock 추론 요청이 실패할 수 있습니다.
성공적인 추론을 위해서는 대상 모델이 사용 가능한 모든 리전에서 bedrock:InvokeModel 및 **bedrock:InvokeModelWithResponseStream**과 같은 최소한의 Amazon Bedrock API 작업이 허용되어야 합니다.

기존 SCP 수정: 특정 리전(예: us-east-2)에 대한 광범위한 거부 정책을 유지하면서, Anthropic Claude 3.5 Sonnet v2와 같은 특정 inference-profile ARN에 대한 Amazon Bedrock 추론 작업을 명시적으로 허용하도록 SCP를 수정합니다.
AWS Control Tower 활용 (옵션 1: CT.MULTISERVICE.PV.1 확장):
- 랜딩 존 설정에서 제한된 리전(예: us-east-2)을 활성화하고, CT.MULTISERVICE.PV.1 제어를 통해 대상 OU에 허용 리전과 함께 **bedrock:Invoke***를 NotActions로 지정하여 Bedrock 추론을 허용합니다.
AWS Control Tower 활용 (옵션 2: 조건부 새 SCP 배포):
- 제한된 리전을 활성화한 후, **AWS Control Tower Customizations (CfCT)**를 사용하여 새로운 SCP를 배포합니다. 이 SCP는 us-east-2의 모든 작업을 거부하지만, 특정 크로스 리전 추론 프로필 ARN에 대한 Amazon Bedrock 추론을 조건부로 허용합니다.

드리프트 관리: AWS Control Tower 환경에서는 직접적인 SCP 수정을 지양하고, CfCT와 같은 권장 솔루션을 통해 사용자 지정 SCP를 배포하여 드리프트를 방지해야 합니다.
테스트의 중요성: 모든 정책 변경은 프로덕션 적용 전에 환경에서 철저히 테스트하여 의도치 않은 서비스 차단을 방지해야 합니다.
주요 이점: 규정 준수를 유지하면서 Amazon Bedrock의 전체 기능을 활용하고, 크로스 리전 추론이 제공하는 장애 조치 기능을 통해 애플리케이션 아키텍처를 단순화하며 성능을 향상시킬 수 있습니다.