110.54-112.64+2.1不是應該等於0嗎.爲什麼計算機excel里用公式算這個的答案是5.77316E-15
題目:
110.54-112.64+2.1不是應該等於0嗎.爲什麼計算機excel里用公式算這個的答案是5.77316E-15
解答:
應該是110.54-112.65+2.1吧
這是excel的浮點運算造成的,也就是二進位和十進位轉換時候產生的誤差,2進位表示小數的時候只能夠表示能夠用1/(2^n)的和的任意組合,有些小數比如0.1在二進位下是無窮的循環數,無法精確表示,所以產生了個很小的誤差
添加新評論