心盛待花开

2021-01-26   阅读量: 479

decimal,float和double的区别是什么?

扫码加入数据分析学习群

float是单精度,double是双bai精度,decimal是数字型,它们所占的内存空间不一样,表示的位数也不一样。除了科学计算以外,一般不用double型的。对于数字(包括小数)一般用decimal型的。

我们可以像如下的方式定义一个decimal类型的浮点数:


decimal d = 12.30M;


对decimal、float、double错误的认识


在精确计算中使用浮点数是非常危险的,尽管C#在浮点数运算时采取了很多措施使得浮点数运算的结果看起来是非常正常的。但实际上如果不清楚浮点数的特性而贸然使用的话,将造成非常严重的隐患。

最重要的是,在精度损失的时候,不会报告任何的错误,也不会有任何的异常产生。


浮点数的精度损失可能在很多地方出现,例如d * g / g 不一定等于d,d / g * g也不一定等于d。


还有两个非常危险的错误认识!!


1、decimal不是浮点型、decimal不存在精度损失。


下面有段程序大家可以去看看结果是什么。记住!所有的浮点型变量都存在精度损失的问题,而decimal是一个不折不扣的浮点型,不论它精度有多高,精度损失依然存在!

2、decimal所能储存的数比double大,从double到decimal的类型转换不会出现任何问题。


微软在decimal的帮助上真的要好好反省了。实际上只有从整形到decimal的转换才是扩大转换,decimal的精度比double大,但所能储存的最大数却比double要小。


“decimal 类型是适合财务和货币计算的 128 位数据类型。”


当然,decimal在大多数情况下是安全的,但浮点数在理论上是不安全的。


至于精度误差造成的显示问题,则是很容易修补的。浮点数会带来的问题以及整型能避免的问题就是一个:


譬如说从A帐户转账到B帐户,经计算得出结果是3.788888888888888元,那么我们从A帐户扣除这么多钱,B帐户增加这么多钱,但事实上A帐户不一定会扣除准确的数值,例如A帐户的金额在100000000000,那么这个时候100000000000 - 3.788888888888888运算结果很有可能是99999999996.211111111111112。而这个时候B帐户的金额为0则很有可能加上准确的数值,如3.788888888888888,这样一来,0.011111111111112元钱就会不见了,日积月累的,差额就会越来越大。


double是64位的,比single-32位精度高。


decimal128位高精度浮点数,常用于金融运算,不会出现浮点数计算的误差,decimal类型具有更高的精度和更小的范围,这使它适合于财务和货币计算。

添加CDA认证专家【维克多阿涛】,微信号:【cdashijiazhuang】,提供数据分析指导及CDA考试秘籍。已助千人通过CDA数字化人才认证。欢迎交流,共同成长!
62.9467 1 0 关注作者 收藏

评论(0)


暂无数据

推荐课程