博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
解决JS浮点数(小数)计算加减乘除的BUG
阅读量:7300 次
发布时间:2019-06-30

本文共 2932 字,大约阅读时间需要 9 分钟。

hot3.png

/** ** 加法函数,用来得到精确的加法结果 ** 说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。 ** 调用:accAdd(arg1,arg2) ** 返回值:arg1加上arg2的精确结果 **/function accAdd(arg1, arg2) {    var r1, r2, m, c;    try {        r1 = arg1.toString().split(".")[1].length;    }    catch (e) {        r1 = 0;    }    try {        r2 = arg2.toString().split(".")[1].length;    }    catch (e) {        r2 = 0;    }    c = Math.abs(r1 - r2);    m = Math.pow(10, Math.max(r1, r2));    if (c > 0) {        var cm = Math.pow(10, c);        if (r1 > r2) {            arg1 = Number(arg1.toString().replace(".", ""));            arg2 = Number(arg2.toString().replace(".", "")) * cm;        } else {            arg1 = Number(arg1.toString().replace(".", "")) * cm;            arg2 = Number(arg2.toString().replace(".", ""));        }    } else {        arg1 = Number(arg1.toString().replace(".", ""));        arg2 = Number(arg2.toString().replace(".", ""));    }    return (arg1 + arg2) / m;}//给Number类型增加一个add方法,调用起来更加方便。Number.prototype.add = function (arg) {    return accAdd(arg, this);};
/** ** 减法函数,用来得到精确的减法结果 ** 说明:javascript的减法结果会有误差,在两个浮点数相减的时候会比较明显。这个函数返回较为精确的减法结果。 ** 调用:accSub(arg1,arg2) ** 返回值:arg1加上arg2的精确结果 **/function accSub(arg1, arg2) {    var r1, r2, m, n;    try {        r1 = arg1.toString().split(".")[1].length;    }    catch (e) {        r1 = 0;    }    try {        r2 = arg2.toString().split(".")[1].length;    }    catch (e) {        r2 = 0;    }    m = Math.pow(10, Math.max(r1, r2)); //last modify by deeka //动态控制精度长度    n = (r1 >= r2) ? r1 : r2;    return ((arg1 * m - arg2 * m) / m).toFixed(n);}// 给Number类型增加一个mul方法,调用起来更加方便。Number.prototype.sub = function (arg) {    return accMul(arg, this);};
 /** ** 乘法函数,用来得到精确的乘法结果 ** 说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。 ** 调用:accMul(arg1,arg2) ** 返回值:arg1乘以 arg2的精确结果 **/function accMul(arg1, arg2) {    var m = 0, s1 = arg1.toString(), s2 = arg2.toString();    try {        m += s1.split(".")[1].length;    }    catch (e) {    }    try {        m += s2.split(".")[1].length;    }    catch (e) {    }    return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m);}// 给Number类型增加一个mul方法,调用起来更加方便。Number.prototype.mul = function (arg) {    return accMul(arg, this);};
/**  ** 除法函数,用来得到精确的除法结果 ** 说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。 ** 调用:accDiv(arg1,arg2) ** 返回值:arg1除以arg2的精确结果 **/function accDiv(arg1, arg2) {    var t1 = 0, t2 = 0, r1, r2;    try {        t1 = arg1.toString().split(".")[1].length;    }    catch (e) {    }    try {        t2 = arg2.toString().split(".")[1].length;    }    catch (e) {    }    with (Math) {        r1 = Number(arg1.toString().replace(".", ""));        r2 = Number(arg2.toString().replace(".", ""));        return (r1 / r2) * pow(10, t2 - t1);    }}//给Number类型增加一个div方法,调用起来更加方便。Number.prototype.div = function (arg) {    return accDiv(this, arg);};

 

 

转载于:https://my.oschina.net/MrMichael/blog/467888

你可能感兴趣的文章
【cocos2d-x 024】 LINK : fatal error LNK1123: 转换到 COFF 期间失败: 文件无效或损坏
查看>>
概述C# Cast()
查看>>
LeetCode - 9. Palindrome Number
查看>>
IOS的 new Date()格式化问题
查看>>
sharepoint webpart 获取文档库下的所有文件夹名
查看>>
java数据结构和算法--------第六章
查看>>
关于php如何连贯操作类方法(以数据库为例)
查看>>
25th SEP, 要好好的走下去
查看>>
BZOJ4822[Cqoi2017]老C的任务——树状数组(二维数点)
查看>>
BZOJ1299[LLH邀请赛]巧克力棒——Nim游戏+搜索
查看>>
未能为 SSL/TLS 安全通道建立信任的解决办法
查看>>
cmake是什么
查看>>
使用MASM10(变量的使用)- Win32汇编语言018
查看>>
【Docker学习笔记】----基于centos 7 的Docker安装
查看>>
Android笔记之OnLongClickListener
查看>>
Java客户端:调用EyeKey HTTP接口进行人脸对比
查看>>
SQL之分区函数
查看>>
创业公司如何实施敏捷开发
查看>>
Django使用AJAX调用自己写的API接口
查看>>
数据科学求职准备
查看>>