首页系统综合问题BigDecimal使用不当,造成P0事故!

BigDecimal使用不当,造成P0事故!

时间2022-12-16 09:30:07发布分享专员分类系统综合问题浏览101

来自:掘金bigdecimal divide ,作者:树洞君

链接:

目录

背景

事故

分析

总结

工具分享

背景

我们在使用金额计算或者展示金额的时候经常会使用 BigDecimal,也是涉及金额时非常推荐的一个类型bigdecimal divide 。

BigDecimal 自身也提供了很多构造器方法,这些构造器方法使用不当可能会造成不必要的麻烦甚至是金额损失,从而引起事故资损bigdecimal divide 。

事故

接下来我们看下收银台出的一起事故bigdecimal divide 。

| 问题描述收银台计算商品金额报错,导致订单无法支付bigdecimal divide 。

| 事故级别P0

| 事故过程

如下:

13:44bigdecimal divide ,接到报警,订单支付失败,支付可用率降至 60%

13:50bigdecimal divide ,迅速回滚上线代码,恢复正常

14:20bigdecimal divide ,review 代码,预发布验证发现问题点

14:58bigdecimal divide ,修改问题代码上线,线上恢复

| 故障原因BigDecimal 在金额计算中丢失精度bigdecimal divide 。原因分析

首先我们先用一段代码复现问题根源bigdecimal divide ,如下所示:

publicstaticvoidmain( String[] args) {

BigDecimal bigDecimal= newBigDecimal( 88);

System. out.println(bigDecimal);

bigDecimal= newBigDecimal( "8.8");

System. out.println(bigDecimal);

bigDecimal= newBigDecimal( 8.8);

System. out.println(bigDecimal);

执行结果如下:

通过测试发现bigdecimal divide ,当使用 double 或者 float 这些浮点数据类型时,会丢失精度,String、int 则不会,这是为什么呢?

bigdecimal divide 我们点开构造器方法看下源码:

publicstaticlongdoubleToLongBits( doublevalue) {

longresult = doubleToRawLongBits( value);

// Check for NaN based on values of bit fields, maximum

// exponent and nonzero significand.

if( ((result & DoubleConsts.EXP_BIT_MASK) ==

DoubleConsts.EXP_BIT_MASK) &&

(result & DoubleConsts.SIGNIF_BIT_MASK) != 0L)

result = 0x7ff8000000000000L;

returnresult;

问题就处在 doubleToRawLongBits 这个方法上,在 jdk 中 double 类(float 与 int 对应)中提供了 double 与 long 转换,doubleToRawLongBits 就是将 double 转换为 long,这个方法是原始方法(底层不是 java 实现,是 c++ 实现的)bigdecimal divide 。

double 之所以会出问题,是因为小数点转二进制丢失精度bigdecimal divide 。

BigDecimal使用不当,造成P0事故!

BigDecimal 在处理的时候把十进制小数扩大 N 倍让它在整数上进行计算,并保留相应的精度信息bigdecimal divide 。

①float 和 double 类型,主要是为了科学计算和工程计算而设计的,之所以执行二进制浮点运算,是为了在广泛的数值范围上提供较为精确的快速近和计算bigdecimal divide 。

②并没有提供完全精确的结果,所以不应该被用于精确的结果的场合bigdecimal divide 。

③当浮点数达到一定大的数,就会自动使用科学计数法,这样的表示只是近似真实数而不等于真实数bigdecimal divide 。

④当十进制小数位转换二进制的时候也会出现无限循环或者超过浮点数尾数的长度bigdecimal divide 。

总结

所以,在涉及到精度计算的过程中,我们尽量使用 String 类型来进行转换bigdecimal divide 。

正确用法如下:

BigDecimal bigDecimal2= newBigDecimal( "8.8");

BigDecimal bigDecimal3= newBigDecimal( "8.812");

System. out.println( bigDecimal2.compareTo(bigDecimal3));

System. out.println( bigDecimal2. add(bigDecimal3));

BigDecimal 创建出来的是对象,我们不能用传统的加减乘除对其进行运算,必须使用他的方法,在我们数据库存储里,如果我们使用的是 double 或者 float 类型,需要进行来回的转换后进行计算,非常不方便bigdecimal divide 。

工具分享所以在这里整理出一个 util 类供大家使用:

importjava.math.BigDecimal;

* @Authorshuaige

* @Date2022/4/17

* @Version1.0

publicclassBigDecimalUtils{

publicstaticBigDecimal doubleAdd( doublev1, doublev2) {

BigDecimal b1 = newBigDecimal(Double.toString(v1));

BigDecimal b2 = newBigDecimal(Double.toString(v2));

returnb1.add(b2);

publicstaticBigDecimal floatAdd( floatv1, floatv2) {

BigDecimal b1 = newBigDecimal(Float.toString(v1));

BigDecimal b2 = newBigDecimal(Float.toString(v2));

returnb1.add(b2);

publicstaticBigDecimal doubleSub( doublev1, doublev2) {

BigDecimal b1 = newBigDecimal(Double.toString(v1));

BigDecimal b2 = newBigDecimal(Double.toString(v2));

returnb1.subtract(b2);

publicstaticBigDecimal floatSub( floatv1, floatv2) {

BigDecimal b1 = newBigDecimal(Float.toString(v1));

BigDecimal b2 = newBigDecimal(Float.toString(v2));

returnb1.subtract(b2);

publicstaticBigDecimal doubleMul( doublev1, doublev2) {

BigDecimal b1 = newBigDecimal(Double.toString(v1));

BigDecimal b2 = newBigDecimal(Double.toString(v2));

returnb1.multiply(b2);

publicstaticBigDecimal floatMul( floatv1, floatv2) {

BigDecimal b1 = newBigDecimal(Float.toString(v1));

BigDecimal b2 = newBigDecimal(Float.toString(v2));

returnb1.multiply(b2);

publicstaticBigDecimal doubleDiv( doublev1, doublev2) {

BigDecimal b1 = newBigDecimal(Double.toString(v1));

BigDecimal b2 = newBigDecimal(Double.toString(v2));

// 保留小数点后两位 ROUND_HALF_UP = 四舍五入

returnb1.divide(b2, 2, BigDecimal.ROUND_HALF_UP);

publicstaticBigDecimal floatDiv( floatv1, floatv2) {

BigDecimal b1 = newBigDecimal(Float.toString(v1));

BigDecimal b2 = newBigDecimal(Float.toString(v2));

// 保留小数点后两位 ROUND_HALF_UP = 四舍五入

returnb1.divide(b2, 2, BigDecimal.ROUND_HALF_UP);

* 比较v1 v2大小

* @paramv1

* @paramv2

* @returnv1>v2 return 1 v1=v2 return 0 v1<v2 return -1

publicstaticintdoubleCompareTo( doublev1, doublev2) {

BigDecimal b1 = newBigDecimal(Double.toString(v1));

BigDecimal b2 = newBigDecimal(Double.toString(v2));

returnb1.compareTo(b2);

publicstaticintfloatCompareTo( floatv1, floatv2) {

BigDecimal b1 = newBigDecimal(Float.toString(v1));

BigDecimal b2 = newBigDecimal(Float.toString(v2));

returnb1.compareTo(b2);

--- EOF ---

推荐↓↓↓

爱资源吧版权声明:以上文中内容来自网络,如有侵权请联系删除,谢谢。

BigDecimalBigDecimalbigdecimal divide
登陆注册功能设计 浮点数为什么不精确?