浮点数如何表示,以及为什么会出现精度问题 - 乂墨EMO

浮点数如何表示,以及为什么会出现精度问题 - 乂墨EMO

💡 原文中文,约500字,阅读约需2分钟。
📝

内容提要

浮点数在计算机中以二进制表示,包含符号位S、指数E和尾数M。以3.14为例,计算其S、E、M的二进制表示。尾数M的四舍五入导致精度问题,使计算结果与原值不同。

🎯

关键要点

  • 浮点数在计算机中以二进制表示,包含符号位S、指数E和尾数M。
  • 符号位S占1bit,指数E占8bits,尾数M占23bits。
  • 对于3.14,S为0,E为128,M经过四舍五入得到4781507。
  • 尾数M的四舍五入导致了浮点数的精度问题。
  • 计算结果与原值不同是因为重新带入公式计算时产生的精度问题。
➡️

继续阅读