小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

数字错误在计算机程序中常见,特别是在高性能计算和深度学习应用中。高性能计算应用使用双精度浮点数减少错误,而神经网络应用使用单精度浮点数。然而,神经网络在训练时若没有提高对数字错误的鲁棒性,部署时可能受到影响。

高性能计算与深度学习中的数值误差

Lei Mao's Log Book
Lei Mao's Log Book · 2023-12-26T08:00:00Z

IEEE754单精度浮点数采用Z=(-1)^s×M×2^E的形式表示,其中符号位s、有效数M和指数E分别用二进制表示。有效数M为23位,指数E为8位移码。通过示例3125.97的转换,展示了浮点数的规约形式和非规约形式的表示范围及其有效数。规约形式的实际指数范围为[-126,127],非规约形式用于表示接近0的数。

IEEE754 单精度浮点数

shrik3
shrik3 · 2020-11-25T08:53:09Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码