計算機計算小數除法的陷阱

四月柳巷發表於2024-09-06

小學生都知道上面的程式碼中,8.1/3=2.7

但是計算機計算的結果卻出人意料:2.6999999999999997

原因:計算機是用二進位制格式儲存小數的,這個二進位制格式不能精確表示8.1,它只能表示一個非常接近8.1但又不等於8.1的一個數。

相關文章