小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

浮点数比想象中复杂,IEEE 754 规范并非绝对。Julia Desmazes 重新实现浮点运算,发现 bfloat16 的 C++ 实现与硬件结果不一致。她的设计去掉了不必要的功能,最终实现了高效的 FPU。她强调深入理解浮点数的重要性,依赖抽象可能导致意外问题。

读:Floating Dragon — 三个关于浮点数的反直觉事实

暗无天日
暗无天日 · 2026-05-28T00:00:00Z

CSAPP数据实验通过位操作加深了对整数和浮点数底层表示的理解。实验要求在限制条件下实现异或、最小补码、ASCII数字判断等功能,使用位运算符掌握补码和IEEE 754浮点数的表示方法。

CSAPP Data Lab 解析

Louis Aeilot's Blog
Louis Aeilot's Blog · 2025-12-01T18:45:09Z

CSAPP 数据实验通过位操作训练加深了对整数和浮点数底层表示的理解。实验要求在限制条件下实现特定功能,如使用位运算符实现异或、判断最大补码和计算逻辑非等,从而掌握补码和 IEEE 754 浮点数的表示方法。

CSAPP Data Lab 解析

Louis Aeilot's Blog
Louis Aeilot's Blog · 2025-12-01T18:45:09Z
更大、更快、更强的类型

Boost库的进展包括int128的测试准备和与256位后端的IEEE-754十进制类型的集成,实现了超过100%的速度提升。此外,Boost.Math的GPU支持得到了改进,Boost.Multiprecision新增了双双后端,以更低成本提供高精度。

更大、更快、更强的类型

Boost News
Boost News · 2025-07-17T00:00:00Z
什么是浮点数运算问题?

计算机处理无限小数(如0.333...)时,由于浮点数无法精确表示,JavaScript在处理0.1和0.2时会出现精度误差,结果为0.30000000000000004。为解决此问题,JavaScript采用IEEE 754标准,并引入BigInt以处理更大整数,避免精度损失。

什么是浮点数运算问题?

freeCodeCamp.org
freeCodeCamp.org · 2024-10-24T14:19:22Z
浮点数

浮点数的精度取决于其类型。根据IEEE 754标准,单精度浮点数的有效数字约为7位,双精度浮点数的有效数字约为15位。当数值超过这些有效数字时,应使用双精度浮点数以确保计算精度。

浮点数

Long Luo's Life Notes
Long Luo's Life Notes · 2023-12-03T14:12:45Z
IEEE754浮点标准

IEEE754浮点标准通过符号位、阶码和尾数表示数值。尾数形式为1.M,阶码采用余码表示。浮点数的精度与尾数位数相关,越接近0的数表示越密集。标准还定义了特殊值和非规格化数,以填补0附近的空白。

IEEE754浮点标准

李文举
李文举 · 2022-03-01T00:54:08Z
Golang JSON 序列化中的 Inf 错误处理及解决方案

在 Golang 中,浮点数除以零会返回 +Inf 或 -Inf,符合 IEEE 754 标准,但在 JSON 序列化时会出错。可通过 math 包中的 IsNaN 和 IsInf 方法检测并处理这些特殊值,以确保序列化成功。

Golang JSON 序列化中的 Inf 错误处理及解决方案

人言兑
人言兑 · 2021-11-21T10:23:31Z

关于IEEE754 单精度浮点数的定义,转换与数值范围 ---INCLUDES FORMULARS, PLS GO TO FULL TEXT FOR BETTER RENDERING---

IEEE754 单精度浮点数

shrik3
shrik3 · 2020-11-25T08:53:09Z

关于IEEE754 单精度浮点数的定义,转换与数值范围

IEEE754 单精度浮点数

shrik3
shrik3 · 2020-11-25T08:53:09Z

IEEE754单精度浮点数采用Z=(-1)^s×M×2^E的形式表示,其中符号位s、有效数M和指数E分别用二进制表示。有效数M为23位,指数E为8位移码。通过示例3125.97的转换,展示了浮点数的规约形式和非规约形式的表示范围及其有效数。规约形式的实际指数范围为[-126,127],非规约形式用于表示接近0的数。

IEEE754 单精度浮点数

shrik3
shrik3 · 2020-11-25T08:53:09Z
数据表示 - 浮点数

本文介绍了浮点数的表示方法及其在计算机中的应用。浮点数用于近似实数,采用科学记数法,包括有效数字、底数和指数。IEEE-754标准定义了单精度和双精度浮点数的格式,涉及符号位、指数位和尾数。此外,文章讨论了无穷大和NaN的表示及其比较规则。

数据表示 - 浮点数

Hux Blog
Hux Blog · 2020-06-21T00:00:00Z
0.30000000000000004

计算机无法精确存储某些小数,如0.1和0.2,因为它们在二进制中为无限循环小数。根据IEEE 754标准,浮点数的存储格式包括符号位、指数和尾数。这导致0.1和0.2相加的结果为0.30000000000000004,显示了浮点数运算的精度问题。建议在货币系统中使用整数表示金额,以避免精度误差。

0.30000000000000004

INTJer
INTJer · 2016-08-14T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码