110.54-112.64+2.1不是应该等于0吗.为什么计算机excel里用公式算这个的答案是5.77316E-15

来源:学生作业帮助网 编辑:作业帮 时间:2024/08/11 12:10:12
110.54-112.64+2.1不是应该等于0吗.为什么计算机excel里用公式算这个的答案是5.77316E-15
xN@_Gciipi&jBD) Ԁ 5B ny f33TB1:PD5B'JI0mEC$wu;W51|XMsO,RLPN%dU;v''oF` d`{KGryiMo]XwQR -gXu|cV{a MJ` ʯec,׉Ǔ=8:t+<( ;j$YZJ,_2?`Pfw

110.54-112.64+2.1不是应该等于0吗.为什么计算机excel里用公式算这个的答案是5.77316E-15
110.54-112.64+2.1不是应该等于0吗.为什么计算机excel里用公式算这个的答案是5.77316E-15

110.54-112.64+2.1不是应该等于0吗.为什么计算机excel里用公式算这个的答案是5.77316E-15
应该是110.54-112.65+2.1吧
这是excel的浮点运算造成的,也就是二进制和十进制转换时候产生的误差,2进制表示小数的时候只能够表示能够用1/(2^n)的和的任意组合,有些小数比如0.1在二进制下是无穷的循环数,无法精确表示,所以产生了个很小的误差