小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ

FLOPs(每秒浮点运算次数)是指每秒执行的浮点运算次数。32位数字使用单精度,64位数字使用双精度。常见的单位有MFLOPS,GFLOPS,TFLOPS,PFLOPS和EFLOPS。GeForce RTX 4090的单精度计算能力为82.58 TFLOPS。

什么是 FLOPs

陈少文的博客 陈少文的博客 · 2024-09-09T10:00:00Z
浮点数

浮点数的精度取决于其类型。根据IEEE 754标准,单精度浮点数的有效数字约为7位,双精度浮点数的有效数字约为15位。当数值超过这些有效数字时,应使用双精度浮点数以确保计算精度。

浮点数

Long Luo's Life Notes Long Luo's Life Notes · 2023-12-03T14:12:45Z

关于IEEE754 单精度浮点数的定义,转换与数值范围 ---INCLUDES FORMULARS, PLS GO TO FULL TEXT FOR BETTER RENDERING---

IEEE754 单精度浮点数

shrik3 shrik3 · 2020-11-25T08:53:09Z

关于IEEE754 单精度浮点数的定义,转换与数值范围

IEEE754 单精度浮点数

shrik3 shrik3 · 2020-11-25T08:53:09Z

IEEE754单精度浮点数采用Z=(-1)^s×M×2^E的形式表示,其中符号位s、有效数M和指数E分别用二进制表示。有效数M为23位,指数E为8位移码。通过示例3125.97的转换,展示了浮点数的规约形式和非规约形式的表示范围及其有效数。规约形式的实际指数范围为[-126,127],非规约形式用于表示接近0的数。

IEEE754 单精度浮点数

shrik3 shrik3 · 2020-11-25T08:53:09Z
数据表示 - 浮点数

本文介绍了浮点数的表示方法及其在计算机中的应用。浮点数用于近似实数,采用科学记数法,包括有效数字、底数和指数。IEEE-754标准定义了单精度和双精度浮点数的格式,涉及符号位、指数位和尾数。此外,文章讨论了无穷大和NaN的表示及其比较规则。

数据表示 - 浮点数

Hux Blog Hux Blog · 2020-06-21T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码