DEV Community
·
第60条：在需要精确答案时避免使用float和double
内容提要
浮点数和双精度数不适合货币计算，因为无法精确表示十进制小数。可以用BigDecimal进行精确计算，或用int/long以分为单位计算。BigDecimal适合高精度但速度慢；int/long适合快速小范围计算。根据需求选择合适的数据类型。
关键要点
-
浮点数和双精度数不适合货币计算，无法精确表示十进制小数。
-
浮点数在计算中可能导致错误，例如1.03 - 0.42的结果为0.6100000000000001。
-
在逐步计算中，浮点数也会产生误差，例如购买糖果时的计算错误。
-
解决方案1：使用BigDecimal进行精确计算，避免使用double构造函数，使用String构造函数。
-
BigDecimal适合金融计算，但使用不便且速度较慢。
-
解决方案2：使用int或long进行计算，以分为单位，避免精度问题。
-
使用int和long进行计算时，速度快且精确。
-
结论：不要使用float或double进行需要精确的计算，使用BigDecimal或int/long根据需求选择合适的数据类型。
延伸解读
浮点数的局限性
浮点数和双精度数在进行货币计算时容易产生误差，尤其是在处理小数时。这种误差可能导致实际结果与预期不符，影响财务决策。因此，在需要精确计算的场合，务必避免使用这些数据类型。
BigDecimal的优缺点
虽然BigDecimal适合高精度计算，但其使用相对复杂且计算速度较慢。在处理大量数据时，可能会影响性能。因此，在选择数据类型时，需要根据具体需求权衡精度与性能。
使用int和long的优势
使用int或long进行计算时，可以避免浮点数带来的精度问题，且计算速度更快。这种方法特别适合小范围的财务计算，能够有效提高程序的执行效率。
延伸问答
为什么浮点数和双精度数不适合货币计算？
因为它们无法精确表示十进制小数，可能导致计算错误。
如何使用BigDecimal进行精确计算？
使用BigDecimal的String构造函数来避免精度问题。
在什么情况下应该使用int或long进行计算？
当进行小范围的金融计算时，可以使用int或long，以分为单位进行计算。
BigDecimal的缺点是什么？
BigDecimal使用不便且计算速度较慢，尤其是在大量操作时。
如何避免浮点数计算中的误差？
可以使用BigDecimal进行精确计算，或使用int/long进行以分为单位的计算。
在金融计算中，如何选择数据类型？
根据需要的精度选择：对于最多9位数使用int，最多18位数使用long，更多则使用BigDecimal。
