Throughput vs Latency | System Design

처리량은 시간당 처리 가능한 작업의 수를 나타내는 지표입니다. 🚗💨

지연 시간은 특정 작업이 완료되는 데 걸리는 시간을 의미하며 밀리초 또는 초 단위로 측정됩니다. ⏰

높은 처리량은 많은 작업을 빠르게 처리하지만, 높은 지연 시간을 초래할 수 있습니다. balancing⚖️

지연 시간을 줄이려면 캐싱, 코드 최적화, 네트워크 경로 단축 등의 기술을 활용할 수 있습니다. 💡

처리량에 비중을 두어야 할 경우에는 대량 데이터 처리, 배치 처리 시스템, 또는 대용량 요청을 처리하는 서버와 같은 경우입니다. ⚙️📊

지연 시간에 비중을 두어야 할 경우에는 사용자 상호작용, 실시간 애플리케이션, 즉각적인 응답이 중요한 시스템과 같습니다. 🕹️