前言: 问题阐述 在数学中进行除法运算时,9/2 与 9/2.0 的结果是相等的。那么在计算机中表达式 9/2与 9/2.0 的结果是否相等
问题阐述
在数学中进行除法运算时,9/2 与 9/2.0 的结果是相等的。那么在计算机中表达式 9/2与 9/2.0
的结果是否相等呢?
专家解答
整数与整数之间运算的结果必然是整数,就算是除法也会执行整除而舍弃小数。所以9/2 的结果是
4,但是整数与浮点数的运算会转换为浮点数类型再进行运算,其结果应是浮点数类型,所以 9/2.0 的结果是 4.5,所以 9/2 的结果与
9/2.0的结果是不相等的。
下面通过程序来说明:
运行程序,结果如图 3.9 所示,从输出结果可以看出,9/2 的结果与 9/2.0 的结果是不相等的。
专家点评
由于整数除法与浮点数除法的输出结果存在很大的差别,所以在进行程序设计时,要考虑如何才能得到正确的结果,尤其在进行一些对数据精度要求很高的计算时,更应该慎之又慎,如果有必要可以考虑使用
BigDecimal 类提供的方法实现高精度的算术运算。
网站声明:本站部分文章来源于网络,如有侵权,请联系本站客服,侵必删!!!
文章出自:http://qh.itpxw.cn/peixun/software/202190166.html
免责声明:本站文章均由入驻起航学习网的会员所发或者网络转载,所述观点仅代表作者本人,不代表起航学习网立场。如有侵权或者其他问题,请联系举报,必删。侵权投诉
IT培训网 访问该机构站点 报名留言 加为好友 用户等级:注册会员
用户级别:10
机构名称:IT培训网
联 系 人:罗老师
联系电话:13783581536
联系手机:13783581536
在线客服:
在 线 QQ:
电子邮件:
网站域名:http://www.itpxw.cn
注册时间:2016-07-18 11:07
最后登录:2024-02-20 13:02
Java定义方法的格式是什么?IT培训网小编来告诉大家。所谓方法...
大家在Java教程中会学到关于Java消息推送的知识,那么,Java消息...
常用的Java日期格式转换有哪些?IT培训网小编来告诉大家。 1...
Java创建对象数组的方法是什么?IT培训网小编来告诉大家。Ja...