Kubernetes CPU Limit을 사용하면 벌어지는 일

간단 소개

Kubernetes CPU limit 설정 시 스로틀링 발생 원인과 영향, requests/limits 설정의 중요성, 실제 테스트 결과 분석.

AI Summary

Kubernetes CPU Resource 설정
- CPU Requests: 컨테이너 실행에 필요한 최소 CPU 양, 스케줄링에 사용되며 CPU 경합 시 요청량 보장.
- CPU Limits: 컨테이너가 사용할 수 있는 최대 CPU 양, 초과 시 스로틀링 발생.
- QoS 클래스: requests와 limits 설정에 따라 Guaranteed, Burstable, BestEffort로 분류.
리눅스 커널의 CPU 관리 메커니즘
- cgroup: 시스템 리소스 사용량 제한, 추적, 격리. CPU 서브시스템을 통해 CPU requests와 limits 구현.
- CFS: 리눅스 커널 기본 스케줄러, 가상 런타임(vruntime)을 사용하여 공정성 보장.
- Requests와 cpu.shares: requests 값은 cpu.shares로 변환, CPU 경합 시 상대적 가중치로 작용.
- Limits와 cpu.cfs_period_us & cpu.cfs_quota_us: limits 값은 CFS 대역폭 제어를 통해 절대적 시간 할당량 제한.
Limits 적용 시 발생 가능한 현상
- CPU 스로틀링: 컨테이너가 할당된 CPU 시간을 모두 소진했을 때 발생, 지연 시간 증가 유발.
- 잘못된 '시끄러운 이웃' 문제 해결: limits보다 requests 설정이 중요하며, 적절한 requests 설정 시 CFS 스케줄러가 CPU 시간을 분배.
- 테스트 결과: CPU limits를 낮게 설정 시 작업 완료 시간이 크게 증가, 스로틀링 비율 증가 확인.