计算出现小数点后很多位，怎么处理

lutong001

我的代码，合计数
for ( var i = 0; i < data.getCount(); i++)
                 {
                         var id =data.getRowId(i);
                         if(data.getValue("fzhuangtai",id)!="已取消")
                         {
                                         hejijine=hejijine + data.getValue("fshangjifenpeijine",id)*1.0;
                         }
               
                 }
dataMaster.setValue("fxiangxiajifenpeijine", String(hejijine));

hejijine计算出现小数点后很多位，不能四舍五入。例
7845.875000000001

并影响到后续计算的精确性
这种情况在很多地方都有，怎么彻底解决

jishuang

js中计算会有精度的问题，用提供的API去计算

lutong001

jishuang 发表于 2014-10-17 16:03
js中计算会有精度的问题，用提供的API去计算

可否有例子，怎么调用的

另外我用经常用justep.XData.sum(datadetail.id,"fshangbaojine",null)，很简单，换成这种方法，修改量太大

lutong001

for ( var i = 0; i < data.getCount(); i++)
                 {
                         var id =data.getRowId(i);
                         if(data.getValue("fzhuangtai",id)!="已取消")
                         {
                                         //hejijine=hejijine + data.getValue("fshangjifenpeijine",id)*1.0;
                                         hejijine = justep.Number.accAdd(hejijine,data.getValue("fshangjifenpeijine",id)*1.0);
                         }
               
                 }
还是不行，结果又有很多小数位

其实我的数据很简单，只有小数点后两位，全是加法，怎么可能算不清楚

忘了忘了

lutong001 发表于 2014-10-17 16:37
for ( var i = 0; i < data.getCount(); i++)
                 {
                         var id =data ...

你到底是想获取什么，，这样计算有问题吗？你想 要获取的就是最精确的数字，现在精确了你又觉得位数多了？实在不行你就format  一下 千分位分割呗

lutong001

忘了忘了 发表于 2014-10-17 16:52
你到底是想获取什么，，这样计算有问题吗？你想 要获取的就是最精确的数字，现在精确了你又觉得位数多了 ...

例：5.28+3.1 应该精确等于6.38，但是平台给我算出6.3799999999999，这明显是个错误，这样说你明白吗，
数据控件的format不管用，依然是6.3799999999999

忘了忘了

lutong001 发表于 2014-10-20 11:28
例：5.28+3.1 应该精确等于6.38，但是平台给我算出6.3799999999999，这明显是个错误，这样说你明白吗，
...

你用的是什么类型，如果是decimal，，确实是这样的。精度太高了。。你可以网上搜索一下计算方式

jishuang

data.getValue("fshangjifenpeijine",id)*1.0不要这样转换类型，用js标准的parseInt、parseFloat或者
平台提供的API看看

lutong001

忘了忘了 发表于 2014-10-20 11:39
你用的是什么类型，如果是decimal，，确实是这样的。精度太高了。。你可以网上搜索一下计算方式 ...

数据库是float类型，其实要求精度不高，最多小数点后4位的加减法运算，应该用什么类型

忘了忘了

lutong001 发表于 2014-10-21 10:24
数据库是float类型，其实要求精度不高，最多小数点后4位的加减法运算，应该用什么类型 ...

那就用float，然后可以把结果toFixed();方法截取四位小数