Jmeter中使用beanshell进行四则运算，如何避免出现浮点数精度丢失_jmeter怎么处理双精度计算不准确问题

之前编写脚本的时候，需要使用随机数和浮点数进行相乘，于是设计脚本如下：

vars.put("rbNumb","${__Random(1,9,)}");
rbNumb = vars.get("rbNumb");
int rbNumb1 = Integer.parseInt(rbNumb);
rbValue = rbNumb1 * 0.3;
vars.put("rbValue",rbValue.toString());
1
2
3
4
5

但是调试的时候，发现3*0.3的结果不是0.9，而是0.89999999

原因是浮点数相加存在精度误差，参考博客：https://www.cnblogs.com/fisherss/p/11049500.html
所以遇到需要浮点数的情况时，先用整数进行运算，再除以小数位数，该问题即可解决：

vars.put("rbNumb","${__Random(1,9,)}");
rbNumb = vars.get("rbNumb");
int rbNumb1 = Integer.parseInt(rbNumb);
Float rbValueFloat = 0.0;
rbValueFloat = rbNumb1 * 3;
rbValue = rbValueFloat / 10;
vars.put("rbValue",rbValue.toString());
1
2
3
4
5
6
7