在做專案之前老師就給我們封裝好了一個js檔案,解決計算中丟失精度的一些函式,直接引用js檔案就可以使用。
eg:
var numA = 0.1;
var numB = 0.2;
alert( numA + numB );
出現結果:0.1 + 0.2 = 0.30000000000000004
為什麼出現這個問題:計算機讀懂的是二進位制,而不是十進位制,就是程式在進位制轉換時候丟失了精度。
解決問題程式碼:
//除法函式,用來得到精確的除法結果 //說明:javascript的除法結果會有誤差,在兩個浮點數相除的時候會比較明顯。這個函式返回較為精確的除法結果。 //呼叫:accDiv(arg1,arg2) //返回值:arg1除以arg2的精確結果 function accDiv(arg1, arg2) { var t1 = 0, t2 = 0, r1, r2; try { t1 = arg1.toString().split(".")[1].length } catch (e) { } try { t2 = arg2.toString().split(".")[1].length } catch (e) { } with (Math) { r1 = Number(arg1.toString().replace(".", "")); r2 = Number(arg2.toString().replace(".", "")); return (r1 / r2) * pow(10, t2 - t1); } } //乘法函式,用來得到精確的乘法結果 //說明:javascript的乘法結果會有誤差,在兩個浮點數相乘的時候會比較明顯。這個函式返回較為精確的乘法結果。 //呼叫:accMul(arg1,arg2) //返回值:arg1乘以arg2的精確結果 function accMul(arg1, arg2) { var m = 0, s1 = arg1.toString(), s2 = arg2.toString(); try { m += s1.split(".")[1].length } catch (e) { } try { m += s2.split(".")[1].length } catch (e) { } return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m); } //加法函式,用來得到精確的加法結果 //說明:javascript的加法結果會有誤差,在兩個浮點數相加的時候會比較明顯。這個函式返回較為精確的加法結果。 //呼叫:accAdd(arg1,arg2) //返回值:arg1加上arg2的精確結果 function accAdd(arg1, arg2) { var r1, r2, m; try { r1 = arg1.toString().split(".")[1].length; } catch (e) { r1 = 0; } try { r2 = arg2.toString().split(".")[1].length; } catch (e) { r2 = 0; } m = Math.pow(10, Math.max(r1, r2)); return (arg1 * m + arg2 * m) / m; } //減法函式 function accSub(arg1, arg2) { var r1, r2, m, n; try { r1 = arg1.toString().split(".")[1].length; } catch (e) { r1 = 0; } try { r2 = arg2.toString().split(".")[1].length; } catch (e) { r2 = 0; } m = Math.pow(10, Math.max(r1, r2)); //last modify by deeka //動態控制精度長度 n = (r1 >= r2) ? r1 : r2; return ((arg2 * m - arg1 * m) / m).toFixed(n); } //給Number型別增加一個add方法,呼叫起來更加方便。 Number.prototype.add = function (arg) { return accAdd(arg, this); }; //給Number類增加一個sub方法,呼叫起來更加方便 Number.prototype.sub = function (arg) { return accSub(arg, this); }; //給Number型別增加一個mul方法 Number.prototype.mul = function (arg) { return accMul(arg, this); }; //給Number型別擴充套件一個div方法 Number.prototype.div = function (arg) { return accDiv(this, arg); };