一个关于小数多次运算会出现误差的问题

wgs7909 · 发表于 2015-8-26 14:03:17

Balance是decimal类型，整数12位长，小数2位长，经过多次运算后，会出现0.01的误差，请高手给指点一下

wgs7909 · 发表于 2015-8-28 08:17:56

本帖最后由 wgs7909 于 2015-8-28 08:19 编辑

关于KSQL update 的时候，小数会出现误差的问题
http://bbs.wex5.com/forum.php?mod=viewthread&tid=77451
(出处: 起步软件技术论坛)

jishuang · 发表于 2015-8-26 17:58:42

可以到网上查找java中的处理方案

wgs7909 · 发表于 2015-8-27 10:55:20

本帖最后由 wgs7909 于 2015-8-27 11:00 编辑

jishuang 发表于 2015-8-26 17:58
可以到网上查找java中的处理方案

不应该是java的问题啊？我通过工具执行了SQL语句，结果数据库里的值是正常的啊！

jishuang · 发表于 2015-8-27 15:19:46

那就把ksql改为sql用sql执行看看

jishuang · 发表于 2015-8-28 17:41:39

可以把两种方案执行的sql打出来，看看两种sql的参数值是否一致

wgs7909 · 发表于 2015-8-31 08:37:24

本帖最后由 wgs7909 于 2015-8-31 08:39 编辑

jishuang 发表于 2015-8-27 15:19
那就把ksql改为sql用sql执行看看

KSQL转换为sql时，发生小数误差。由此可以判断是平台的BUG。希望能引起攻城狮们的关注。。。

jishuang · 发表于 2015-8-31 14:19:35

你好楼主，您反馈的这个现象通过验证是产品缺陷，我们已提交到产品组(内部编号：2015083100005)，感谢楼主的支持与配合。

jishuang · 发表于 2015-9-1 11:43:09

wgs7909 发表于 2015-8-31 08:37
KSQL转换为sql时，发生小数误差。由此可以判断是平台的BUG。希望能引起攻城狮们的关注。。。
...

ontology中和数据库中定义的精度是多少？

wgs7909 · 发表于 2015-9-1 13:55:32

jishuang 发表于 2015-9-1 11:43
ontology中和数据库中定义的精度是多少？

是这样定义的。
小数是2位

		自动登录	找回密码
密码			注册

[处理中5] 一个关于小数多次运算会出现误差的问题