AWS Well-Architected Generative AI Lens로 생성형 AI 워크로드 제대로 설계하기

Generative AI Lens 개요

• AWS Well-Architected Framework를 기반으로 생성형 AI 워크로드에 특화된 모범 사례와 질문을 제공하는 가이드입니다.
• PoC 단계를 넘어 프로덕션 환경에서 안전하고 효율적인 생성형 AI 시스템 구축을 목표로 합니다.
• 기존 6개 Pillar(운영 우수성, 보안, 신뢰성, 성능 효율성, 비용 최적화, 지속 가능성)를 Gen AI 특성에 맞춰 확장합니다.
• Amazon Bedrock, RAG 시스템, Amazon SageMaker AI 등 다양한 Gen AI 애플리케이션에 적용됩니다. Generative AI 라이프사이클 및 설계 원칙
• Scoping, Model Selection, Model Customization, Development & Integration, Deployment, Continuous Improvement의 6단계 라이프사이클을 따라 워크로드를 점검합니다.
• 제어 가능한 자율성, 전방위적인 관측, 자원 효율성, 분산 복원성 등 핵심 설계 원칙을 강조합니다.
• Responsible AI (공정성, 설명 가능성, 프라이버시·보안, 안전성 등) 관점의 중요성을 부각합니다. Pillar별 Gen AI 핵심 고려사항 및 활용
• 운영 우수성: 모델 품질 및 사용자 상호작용 모니터링, IaC 기반 자동화된 운영 관리를 다룹니다.
• 보안: Prompt injection, 데이터 유출 방지, 최소 권한 원칙 적용을 강조합니다.
• 신뢰성: FM 호출 처리량 관리, 분산 태스크 완결성, 장애 시 복구 전략을 포함합니다.
• 성능 효율성: 모델, 인프라, 데이터(특히 RAG) 성능 측정 및 최적화 방안을 제시합니다.
• : , 모델 크기, RAG 쿼리 수 등 관리를 안내합니다.