记一例浮点数精度问题

记一例浮点数精度问题

💡 原文中文,约700字,阅读约需2分钟。
📝

内容提要

在内存中,两个浮点数 a 和 b 不断递增。通过给 a 加非负浮点数或同时给 a 和 b 加非负整数来增加它们。后台线程报告增量 deltaA 和 deltaB,但由于浮点数精度问题,可能出现 deltaA < deltaB 的情况,尽管 a 的增量应大于或等于 b 的增量。

🏷️

标签

➡️

继续阅读