小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
总结《每位计算机科学家应了解的浮点数算术》

浮点数用于表示实数,但可能导致计算误差。David Goldberg的博客介绍了浮点数的表示、误差类型(如ulps和相对误差)及其影响。使用浮点数时需注意精度,避免灾难性取消,以减少错误。建议在可能的情况下使用整数。

总结《每位计算机科学家应了解的浮点数算术》

DEV Community
DEV Community · 2025-01-27T03:14:58Z
MATLAB中csc(x)函数在x=k*π附近的计算误差

本文讨论了MATLAB中csc(x)函数在kπ附近的计算误差。以x1≈3π和x2≈25π为例,计算结果与正确值相差较大,显示出MATLAB输出的有效数字不足,误差分别为62.5%和75%。

MATLAB中csc(x)函数在x=k*π附近的计算误差

DEV Community
DEV Community · 2024-11-12T02:20:34Z
计算机的错误计算:切线函数tan(x)和余切函数cot(x)在x=k*π附近

本文分析了MATLAB中切线函数tan(x)和余切函数cot(x)在kπ附近的计算误差。以x=65.973446≈21π为例,MATLAB输出结果与正确值相比,分别有9位和8位错误数字,误差率为56.25%和50%。

计算机的错误计算:切线函数tan(x)和余切函数cot(x)在x=k*π附近

DEV Community
DEV Community · 2024-11-04T08:56:31Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码