您好, 欢迎来到 !    登录 | 注册 | | 设为首页 | 收藏本站

什么时候应该使用双精度而不是十进制?

什么时候应该使用双精度而不是十进制?

我认为您已经很好地总结了优点。但是,您缺少一点。该decimal类型仅能更准确地表示以 10基数的 数字(例如,用于货币/金融计算的数字)。通常,该 double类型将至少提供相同的精度(如果我错了,请纠正我),并且对于任意实数绝对可以提高速度。一个简单的结论是:在考虑使用哪个时,double除非需要base 10精确性,否则请始终使用decimal

关于操作后浮点数精度降低的其他问题,这是一个较微妙的问题。确实,执行每个操作后,精度(在此我将术语互换使用以表示精度)将稳步下降。这是由于两个原因:

在所有情况下,如果要比较两个在理论上应该等效的浮点数(但是是使用不同的计算得出的),则需要允许一定程度的公差(相差多少,但通常很小) 。

有关可以引入准确性错误的特殊情况的更详细概述,请参阅Wikipedia文章的Accuracy部分。最后,如果您想在机器级别上对浮点数/运算进行认真的深入(和数学)讨论,请尝试阅读常被引用的文章《每个计算机科学家应该了解的浮点算术》

其他 2022/1/1 18:16:39 有626人围观

撰写回答


你尚未登录,登录后可以

和开发者交流问题的细节

关注并接收问题和回答的更新提醒

参与内容的编辑和改进,让解决方法与时俱进

请先登录

推荐问题


联系我
置顶