카
카카오페이
January 26, 20241회
AWS re:Invent 2023, 관심 세션을 중심으로 (2편): Cost Optimization, Observability
간단 소개
AWS re:Invent 2023 참관 후기: Cost Optimization과 Observability 세션 중심으로 비용 효율화 전략 및 시스템 안정성 확보 방안을 제시.
AI Summary
- AWS re:Invent 2023 주요 내용
- Generative AI가 핵심 키워드로, Amazon Q와 Amazon Bedrock 등 새로운 제품과 기능 소개
- 기존 제품에 새로운 기능 추가 및 업그레이드 통해 AWS의 Generative AI 솔루션 강조
- Cost Optimization
- 클라우드 환경에서 예상치 못한 비용 발생 가능성 및 비용 효율화의 중요성 강조
- Amazon CTO Dr.Werner Vogels의 The Frugal Architect 7가지 법칙 소개: Design, Measure, Optimize
- myApplications, Cost Optimization Hub 등 AWS에서 제공하는 비용 관리 서비스 소개
- Graviton 전환을 통한 비용 및 성능 향상 사례 공유
- Observability
- 서비스 안정성과 신뢰성 확보를 위한 옵저버빌리티의 중요성 강조
- 옵저버빌리티는 시스템 운영에 대한 포괄적인 이해를 돕고, 모니터링은 무엇이 잘못되었는지, 옵저버빌리티는 왜 잘못되었는지 보여줌
- Building observability to increase resiliency 세션에서 이슈 진단, 숨겨진 이슈 드러내기, 미래 이슈 방지 방법 제시
- AWS observability maturity model 소개 및 단계별 실행 계획 설명
Next Feeds
AWS re:Invent 2023, 관심 세션을 중심으로 (1편): Aurora DB, Amplify
AWS re:Invent 2023 참관 후기: Aurora DB, Amplify를 중심으로 카카오페이 개발자들의 경험과 인사이트를 공유합니다.
AWS re:InventAurora DBAmplifyGenerative AI서버리스
2024. 1. 26.
카카오페이

머신러닝을 활용한 검색 품질 지표 개발 (SIGIR’23 Paper Recap)
네이버 Data&Analytics 팀이 개발한 머신러닝 기반 검색 품질 지표(SQM) 개발 과정과 활용 사례, 성과를 소개합니다.
검색 품질머신러닝품질 지표EBM네이버 검색
2024. 1. 25.
네이버DnA팀

버즈빌의 ML 플랫폼 Buzzflow (1) - 모델을 개발하고 관리하기
버즈빌의 ML 플랫폼 Buzzflow는 머신러닝 모델 개발, 관리, 배포를 위한 통합 환경을 제공하여 생산성을 향상시킨다.
MLOps머신러닝 파이프라인SagemakerMLFlowYAML
2024. 1. 25.
버즈빌

올리브영은 인시던트를 어떻게 관리하고 있는가?
올리브영의 인시던트 관리 정책 수립 배경, 과정, 발생 시 대응, 그리고 처리 후 재발 방지 활동에 대한 전반적인 내용 요약.
인시던트USECASECSP슬랙재발 방지
2024. 1. 24.
올리브영
RLHF - 어떻게 LLM의 성능을 향상시킬 수 있을까?
RLHF는 LLM의 성능을 향상시키기 위해 사람의 피드백을 활용하는 강화 학습 방법이며, DPO 등의 대안도 존재한다.
RLHFLLMSFTReward ModelDPO
2024. 1. 24.
빅웨이브에이아이
LangChain: LLM 서비스를 어떻게 개발할 수 있을까?
LangChain 프레임워크 소개 및 LLM 서비스 개발 방법, 다양한 활용 예시와 향후 전망을 제시합니다.
LangChainLLM프레임워크OpenAIAgent
2024. 1. 24.
빅웨이브에이아이