wex3.5 列计算错误问题

teky

baasdata 列(qty decimal,numb decimal,amt decimal),列amt计算规则是qty * numb
错误显示如图
aty   numb   amt
3      2.2       6.6十四个零5

liangyongfei

js 计算 精度问题：http://docs.wex5.com/js-api-number/

teky

liangyongfei 发表于 2016-8-4 10:27
js 计算 精度问题：http://docs.wex5.com/js-api-number/

data组件取值,然后加减还是会出现这种情况，小数点后最长的只有2位
点击加减代码://相减后赋值
seldata.setValue("samt", number.accDiv(number.accAdd(seldata.sum("samt"),0) , number.accAdd(row.val("base_price"),0)));
//相加后赋值
seldata.setValue("samt", number.accAdd(number.accAdd(seldata.sum("samt"),0) , number.accAdd(row.val("base_price"),0)));