浮点数如何表示,以及为什么会出现精度问题 - 乂墨EMO

浮点数如何表示,以及为什么会出现精度问题 - 乂墨EMO

💡 原文中文,约500字,阅读约需2分钟。
📝

内容提要

浮点数在计算机中以二进制表示,包含符号位S、指数E和尾数M。以3.14为例,计算其S、E、M的二进制表示。尾数M的四舍五入导致精度问题,使计算结果与原值不同。

🏷️

标签

➡️

继续阅读