起步软件技术论坛
搜索
 找回密码
 注册

QQ登录

只需一步,快速开始

查看: 3256|回复: 11

[结贴] 计算后小数点后面为何那么多位?

[复制链接]

47

主题

194

帖子

289

积分

中级会员

Rank: 3Rank: 3

积分
289
QQ
发表于 2014-6-25 13:55:14 | 显示全部楼层 |阅读模式
做了个计算公式:
实际支付余额=本年度合同金额-实际支付总金额
预计支付余额=本年度合同金额-预计支付总金额

结果计算下来后,实际支付余额 和 预计支付余额 两项的小数位特别长,但看数据库存的是小数取整后的数据,不知何原因?
QQ截图20140625135012.jpg

15

主题

650

帖子

1723

积分

金牌会员

Rank: 6Rank: 6

积分
1723
QQ
发表于 2014-6-25 14:04:23 | 显示全部楼层
第一 看看你概念中的精度是好多
第二 可以设置 fromat 限制显示小数位数
回复 支持 反对

使用道具 举报

47

主题

194

帖子

289

积分

中级会员

Rank: 3Rank: 3

积分
289
QQ
 楼主| 发表于 2014-6-25 15:37:27 | 显示全部楼层
zf_fz 发表于 2014-6-25 14:04
第一 看看你概念中的精度是好多
第二 可以设置 fromat 限制显示小数位数

字段属性为float,精度为默认的,没改过。比如我想保留两位小数,精度如何设置?
回复 支持 反对

使用道具 举报

15

主题

650

帖子

1723

积分

金牌会员

Rank: 6Rank: 6

积分
1723
QQ
发表于 2014-6-25 15:41:07 | 显示全部楼层
设置精度跟长度,精度设置为2,长度根据你具体情况自己设置。
回复 支持 反对

使用道具 举报

91

主题

13万

帖子

3万

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
35942
发表于 2014-6-25 17:41:24 | 显示全部楼层
把数据类型设置为decimal,float的精度有问题
远程的联系方法QQ1392416607,添加好友时,需在备注里注明其论坛名字及ID,公司等信息
发远程时同时也发一下帖子地址,方便了解要解决的问题  WeX5教程  WeX5下载



如按照该方法解决,请及时跟帖,便于版主结贴
回复 支持 反对

使用道具 举报

47

主题

194

帖子

289

积分

中级会员

Rank: 3Rank: 3

积分
289
QQ
 楼主| 发表于 2014-6-26 09:47:24 | 显示全部楼层
jishuang 发表于 2014-6-25 17:41
把数据类型设置为decimal,float的精度有问题

数据类型decimal也设置过,不设置精度和长度,问题一样。设了精度和长度,如7567.256,精度为3,长度设4,一样也不行?怎么办啊
回复 支持 反对

使用道具 举报

47

主题

194

帖子

289

积分

中级会员

Rank: 3Rank: 3

积分
289
QQ
 楼主| 发表于 2014-6-26 09:54:15 | 显示全部楼层
jianying012 发表于 2014-6-25 15:37
字段属性为float,精度为默认的,没改过。比如我想保留两位小数,精度如何设置? ...

我的概念里属性是float,精度和长度是默认的,没设置过,默认是空的
format设置后,只是显示对了,但数据库里还是存的取整后的数,比如显示是0.3,数据库里存的是0。
不知是什么问题
回复 支持 反对

使用道具 举报

88

主题

9507

帖子

5135

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
5135
QQ
发表于 2014-6-26 13:47:23 | 显示全部楼层
关系类型是float,不会自动变成整形
关系类型是decimal,又没有设置精度,就会变成整形
一般decimal的长度设置为18,精度设置为2
远程的联系方法 QQ 728094812。添加好友时,需要填写论坛账号
发远程时同时也发一下帖子的地址,方便了解要解决的问题

如按照该方法解决,请及时跟帖,便于版主结贴
回复 支持 反对

使用道具 举报

47

主题

194

帖子

289

积分

中级会员

Rank: 3Rank: 3

积分
289
QQ
 楼主| 发表于 2014-7-2 15:29:29 | 显示全部楼层
zhaixin 发表于 2014-6-26 13:47
关系类型是float,不会自动变成整形
关系类型是decimal,又没有设置精度,就会变成整形
一般decimal的长度 ...

还是不行,decimal设置了长度和精度,结果显示还是一长串。能远程协助一下吗?谢谢了
回复 支持 反对

使用道具 举报

91

主题

13万

帖子

3万

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
35942
发表于 2014-7-2 16:46:12 | 显示全部楼层
这个结果是js动态计算的吗?js计算的会有精度问题

使用justep.Number中提供的API去计算

number.png
远程的联系方法QQ1392416607,添加好友时,需在备注里注明其论坛名字及ID,公司等信息
发远程时同时也发一下帖子地址,方便了解要解决的问题  WeX5教程  WeX5下载



如按照该方法解决,请及时跟帖,便于版主结贴
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则

小黑屋|手机版|X3技术论坛|Justep Inc.    

GMT+8, 2024-5-19 04:12 , Processed in 0.064943 second(s), 26 queries .

Powered by Discuz! X3.4

© 2001-2013 Comsenz Inc.

快速回复 返回顶部 返回列表