博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
[转]float,double和decimal类型
阅读量:7186 次
发布时间:2019-06-29

本文共 524 字,大约阅读时间需要 1 分钟。

float:浮点型,含字节数为4,32bit,数值范围为-3.4E38~3.4E38(7个有效位)

double:双精度实型,含字节数为8,64bit数值范围-1.7E308~1.7E308(15个有效位)

decimal:数字型,128bit,不存在精度损失,常用于银行帐目计算。(28个有效位)

 

float f = 345.98756f;//结果显示为345.9876,只显示7个有效位,对最后一位数四舍五入。

double d=345.975423578631442d;//结果显示为345.975423578631,只显示15个有效位,对最后一位四舍五入。

注:float和double的相乘操作,数字溢出不会报错,会有精度的损失。

decimal dd=345.545454879.....//可以支持28位,对最后一位四舍五入。

注:当对decimal类型进行操作时,数值会因溢出而报错。

 

转自:

http://www.cnblogs.com/haiyang1985/archive/2009/03/03/1402394.html

 

转载于:https://www.cnblogs.com/xingluzhe/p/4754538.html

你可能感兴趣的文章
BZOJ5110 : [CodePlus2017]Yazid 的新生舞会
查看>>
11. 配置ZooKeeper ensemble
查看>>
【Redis】redis的安装、配置执行及Jedisclient的开发使用
查看>>
企业防火墙之iptables
查看>>
数据库大数据处理---复制(SQLServer)
查看>>
xml的xPath解析规则
查看>>
MySQL 数据库新用户授权
查看>>
C_C++变量命名规则
查看>>
配置java环境变量
查看>>
[WEB API] CLIENT 指定请求及回应格式(XML/JSON)
查看>>
Spring Security demo
查看>>
T4模板——一个神奇的代码生成器
查看>>
软件开发知识体系汇总
查看>>
redis安装启动和数据操作
查看>>
vue中使用key管理可复用的元素
查看>>
ssh登录到linux机器一直报错/usr/bin/grep: Argument list too long
查看>>
C#操作Exchange配置
查看>>
Spark项目之电商用户行为分析大数据平台之(一)项目介绍
查看>>
C# 读取大文件 (可以读取3GB大小的txt文件)
查看>>
Warning: file_put_contents(常用单词1.txt): failed to open stream: Invalid argument in
查看>>