MySQL 有意思的浮點數和定點數
單精度的浮點數會產生誤差,在對精度要求比較高的應用中要使用定點數儲存資料,定點數實際上是以字串形式存放的。
-
mysql> create table test (c1 float(10,2),c2 double(10,2),c3 decimal(10,2));
-
Query OK, 0 rows affected (0.17 sec)
-
-
mysql> insert into test values(851028.52,851028.52,851028.52);
-
Query OK, 1 row affected (0.02 sec)
-
-
mysql> insert into test values(851028.42,851028.52,851028.52);
-
Query OK, 1 row affected (0.03 sec)
-
-
mysql> select * from test;
-
+-----------+-----------+-----------+
-
| c1 | c2 | c3 |
-
+-----------+-----------+-----------+
-
| 851028.50 | 851028.52 | 851028.52 |
-
| 851028.44 | 851028.52 | 851028.52 |
-
+-----------+-----------+-----------+
- 2 rows in set (0.00 sec)
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/20893244/viewspace-2135130/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- 浮點數
- 浮點數的理解
- [譯]浮點數的危害
- 浮點數小知識點
- Java中浮點數的坑Java
- 我的IEEE浮點數工具
- 大數相乘(浮點數)實現
- 淺談浮點數(一)
- 轉換成浮點數
- Java浮點數計算Java
- JavaScript浮點數保留兩位小數JavaScript
- 深入理解浮點數的表示
- JS中如何理解浮點數?JS
- python處理浮點數Python
- iOS浮點數精度問題iOS
- JavaScript 浮點數陷阱及解法JavaScript
- 浮點數表示及其實現.
- 補碼、反碼、浮點數
- 【廖雪峰python入門筆記】整數和浮點數Python筆記
- input限制只能輸入整數或保留小數點後2位的浮點數
- 浮點數的二進位制表示
- 深入理解浮點數的運算
- js實現如何保留float浮點數小數點後兩位JS
- JS中浮點數精度問題JS
- js浮點數丟失問題JS
- 【Java】浮點數相等性比較Java
- 學習JAVA浮點數必看文章!Java
- 二進位制小數和IEEE浮點標準
- 八進位制,十六進位制和浮點數
- 浮點數的這些坑,你未必知道
- PHP浮點數的精確計算BCMathPHP
- 有趣的二進位制3—浮點數
- 一個浮點數計算的問題
- javascript將浮點數數變為整數簡單介紹JavaScript
- 浮點數轉換為String字串(可設定精度)方法字串
- js中浮點數計算常用方法JS
- Java如何正確比較浮點數Java
- 浮點數一些設計原理