부동소수점 이야기

간단 소개

정산 시스템에서 부동소수점 방식의 실수 계산 문제를 해결하기 위해 BigDecimal을 사용하는 방법과 주의사항을 설명합니다.

AI Summary

부동소수점 방식의 문제점
- 자바의 기본 자료형(double)을 사용한 실수 계산 시 부동소수점 방식으로 인해 의도와 다른 결과가 발생할 수 있음
- 10진수를 2진수로 변환하는 과정에서 정확한 표현이 불가능하여 근사치를 사용, 미세한 오차가 발생
- 간단한 수식에서도 오차가 발생하며, 금액 계산 시 오류로 이어질 수 있음
BigDecimal을 사용한 해결책
- BigDecimal은 내부적으로 십진수를 저장하여 정확한 표현이 가능하고, 무한 소수 정밀도를 가짐
- 문자열 초기화를 통해 부동소수점 방식의 한계를 우회
- 기본 자료형보다 연산 속도는 느리지만, 정확한 계산이 필요한 경우 유용함
BigDecimal 사용 시 주의사항 및 예제
- BigDecimal은 객체이므로 기본 자료형과 연산 방법이 다름, 비교 연산 시 주의 필요
- 다양한 메서드(add, subtract, multiply, divide 등)를 제공하며, 반올림 정책 및 소수점 자릿수 조정 가능
- 소수점 끝의 0을 제거하거나, 최대/최소값을 구하는 등의 기능도 제공