Java的数字精确计算问题-BigDecimal
作者:网络转载 发布时间:[ 2016/7/13 10:41:07 ] 推荐标签:测试开发技术
java的数字运算,偶尔会出现精度的问题,以下阐述的 java的BigDecimal类的使用.
例如:
System.out.println(0.9+0.3); 结果1.2
System.out.println(1.9+0.3); 结果2.1999999999999997
System.out.println(1.9+0.4); 结果2.3
java为了让float或者double类型能够精确的计算,提供了BigDecimal类。
示例如下:
public static BigDecimal getBigDecimal(Double val){
//把double装换成BigDecimal
return new BigDecimal(val);
}
public static BigDecimal getBigDecimal(int val){
//把int装换成BigDecimal
return new BigDecimal(val);
}
public static BigDecimal getBigDecimal(String val){
//把String装换成BigDecimal
return new BigDecimal(val);
}
//行加法运算
public static double add(double d1,double d2){
BigDecimal b1=getBigDecimal(d1);
BigDecimal b2=getBigDecimal(d2);
return b1.add(b2).doubleValue();
}
//进行四舍五入操作
public static double round(double d,int len){
BigDecimal b1=getBigDecimal(d);
BigDecimal b2=getBigDecimal(1);
return b1.divide(b2,len,BigDecimal.ROUND_HALF_UP).doubleValue();
}
后尝试输出:
System.out.println(1.9+0.3); 结果为2.1999999999999997
System.out.println(round(add(1.9,0.3),2)); 结果为2.2
是这么酸爽,以上来源于网络。
相关推荐
更新发布
功能测试和接口测试的区别
2023/3/23 14:23:39如何写好测试用例文档
2023/3/22 16:17:39常用的选择回归测试的方式有哪些?
2022/6/14 16:14:27测试流程中需要重点把关几个过程?
2021/10/18 15:37:44性能测试的七种方法
2021/9/17 15:19:29全链路压测优化思路
2021/9/14 15:42:25性能测试流程浅谈
2021/5/28 17:25:47常见的APP性能测试指标
2021/5/8 17:01:11