유튜브블로그Top 10
내 프로필

데브허브 안내
소개업데이트 소식

데브허브 커뮤니티

[컴퓨터는 왜 부정확할까?] 02. 실수의 변환

소프트웨어 꼰대 강의

2025. 6. 17.

0

#etc
  • 실수는 10진수에서 2진수로 변환 시 정확하게 표현하기 어렵다. 🤯
  • 10진수를 2진수로 변환하는 과정에서 무한 소수가 발생할 수 있다. ♾️
  • 분모가 2의 n승 꼴이 아닌 유리수와 무리수는 무한 이진 소수로 표현된다. ➗
  • 컴퓨터는 유한한 메모리 때문에 무한 소수를 잘라 근사 오차가 발생한다. ✂️
  • 다음 강의에서는 컴퓨터의 숫자 표현 방식과 오차 발생 원인을 살펴볼 예정이다. 💻

Recommanded Videos