데브허브 | DEVHUB | [컴퓨터는 왜 부정확할까?] 02. 실수의 변환[컴퓨터는 왜 부정확할까?] 02. 실수의 변환
- 강의는 컴퓨터가 실수를 정확하게 표현할 수 없는 이유를 설명하는 시리즈의 일부로, 10진수를 2진수로 변환하는 과정에 초점을 맞춥니다. 📚
- 이번 강의는 오리엔테이션에 이어 소수점(부동 소수점)이 있는 10진수를 2진수로 변환하는 방법을 다루며, 이는 컴퓨터의 실수 표현 한계를 이해하는 데 필수적입니다. 💡
- 자연수, 정수, 유리수, 무리수, 실수, 복소수 등 다양한 수체계를 복습하고, 특히 무리수가 유리수보다 훨씬 많다는 수학적 사실을 강조합니다. 🔢
- 10진법, 2진법, 16진법 등 여러 진법 체계와 정수 부분의 진법 변환 원리를 예시를 통해 쉽게 설명하여 기본 개념을 다집니다. 🧮
- 소수점 이하 부분을 다른 진법으로 변환하는 방법으로, 해당 진법의 밑(예: 2진법은 2)을 반복적으로 곱하고 정수 부분을 취하는 과정을 상세히 설명합니다. ✖️
- 0.12와 같은 간단한 10진수를 2진수로 변환할 때 무한히 반복되는 소수가 발생할 수 있음을 실제 예시를 통해 보여주며, 이것이 컴퓨터 부정확성의 핵심 원인임을 밝힙니다. ♾️
- 2진수로 유한하게 표현되는 소수(분모가 2의 n승 꼴인 유리수)와 무한하게 표현되는 소수(그 외 모든 유리수 및 무리수)를 명확히 구분합니다. 🎯
- 무한한 2진 소수로 표현되는 실수가 유한한 2진 소수보다 압도적으로 많으며, 이는 대부분의 실수가 2진법으로 완벽하게 표현될 수 없음을 의미합니다. 🌊
- 컴퓨터는 유한한 메모리 때문에 무한히 이어지는 2진 소수를 잘라내거나 반올림해야 하며, 이 과정에서 '근사 에러(Approximation Error)'가 필연적으로 발생한다고 설명합니다. ✂️
- 다음 강의에서는 컴퓨터가 숫자를 표현하는 방식(고정 소수점, 부동 소수점)과 각 방식에서 에러가 어떻게 발생하는지에 대해 심층적으로 다룰 예정임을 예고합니다. 🖥️