大数值下的错误计算:正割函数sec(x)和余割函数csc(x)

大数值下的错误计算:正割函数sec(x)和余割函数csc(x)

DEV Community DEV Community ·

本文讨论了MATLAB中对大数的正割函数sec(x)和余割函数csc(x)的计算错误。以x = 1234567890888777.123为例,MATLAB输出结果与正确值相差甚远,错误率分别为93.75%和100%。

原文英文,约200词,阅读约需1分钟。
阅读原文