javascript小數乘法運算導致的精度問題
浮點數進行乘法運算在js中存在著精度問題,這與什麼原因引起的這裡就不介紹了,其實就是計算機本身的問題導致的,雖然c#或者java等語言也存在這樣的問題,但是它們進行了封裝處理,就不用我們擔心了,下面我們介紹一下javascript如何消除此問題。
程式碼如下:
[JavaScript] 純文字檢視 複製程式碼function FxF(f1,f2){ f1 += ''; f2 += ''; var f1Len=f1.split('.')[1].length, f2Len = f2.split('.')[1].length; if(f1Len){ f1 = f1.replace('.', ''); } if(f2Len){ f2 = f2.replace('.', ''); } return f1 * f2 / Math.pow(10,f1Len+f2Len); }; console.log(FxF(3.1415,2.164));
以上程式碼實現了精度運算的要求,當然不止乘法運算具有此問題,其他的運算也具有此問題,這裡就不多介紹了,具體可以參閱js解決浮點數算數運算精度問題一章節。
相關文章
- JavaScript 小數乘法運算精度問題JavaScript
- JavaScript解決浮點數算數運算精度問題JavaScript
- js算數運算精度問題解決方案JS
- Double型別數值相加導致精度缺失問題型別
- javascript浮點數計算精度問題介紹JavaScript
- Java中的小數運算與精度損失Java
- JavaScript 浮點數及運算精度調整總結JavaScript
- JavaScript中解決計算精度丟失的問題JavaScript
- 精度計算問題
- js 處理四則運算失去精度問題JS
- 解決對時間列運算導致不能走索引的問題索引
- 0.1+0.2不等於0.3,微信小程式雲開發如何解決JavaScript小數計算精度失準的問題微信小程式JavaScript
- JavaScript * 乘法運算子JavaScript
- AIX maxperm引數導致監聽問題AI
- 問一個小的運算問題,請高手指教!
- 關於JS的浮點數計算精度問題解決方案JS
- 大數運算—大數加法、減法、乘法、除法詳解
- iOS浮點數精度問題iOS
- PLSQL不規範的引數命名導致的問題SQL
- 大數乘法問題(C++版)C++
- 高精度乘法C++C++
- [Java] 浮點數的精度丟失問題與精度控制方法Java
- 記錄--前端金額運算精度丟失問題及解決方案前端
- 矩陣乘法的運算量計算(華為OJ)矩陣
- js精度小數位數正規表示式判斷 - JavaScriptJSJavaScript
- js梯形乘法運算表效果JS
- JS中浮點數精度問題JS
- ANALYZE導致的阻塞問題分析
- MySQL Flush導致的等待問題MySql
- 計算水仙花數運算超時問題
- Shell階段02 shell變數運算(整數運算/小數運算), shell變數案例變數
- JS計算精度小記JS
- php 處理 浮點數 精度運算 數字處理等PHP
- 利用字串實現高精度數值運算(四)字串
- 利用字串實現高精度數值運算(三)字串
- 利用字串實現高精度數值運算(二)字串
- 利用字串實現高精度數值運算(一)字串
- javascript小問題JavaScript