博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Js修复四则运算浮点数精度问题
阅读量:7113 次
发布时间:2019-06-28

本文共 1474 字,大约阅读时间需要 4 分钟。

var preMath = function () {    return {        //修复四则运算浮点数精度问题        fixArithmetic: function (m, n, op) {            var a = (m + "");            var b = (n + "");            var x = 1;            var y = 1;            var c = 1;            if (a.indexOf(".") > 0) {                x = Math.pow(10, a.length - a.indexOf(".") - 1);            }            if (b.indexOf(".") > 0) {                y = Math.pow(10, b.length - b.indexOf(".") - 1);            }            switch (op) {                case '+':                    c = Math.max(x, y);                    m = Math.round(m * c);                    n = Math.round(n * c);                    return eval("(" + m + op + n + ")/" + c);                case '-':                    c = Math.max(x, y);                    m = Math.round(m * c);                    n = Math.round(n * c);                    n = -n;                    op = "+";                    return eval("(" + m + op + n + ")/" + c);                case '*':                    c = x * y;                    m = Math.round(m * x);                    n = Math.round(n * y);                    return eval("(" + m + op + n + ")/" + c);                case '/':                    c = Math.max(x, y);                    m = Math.round(m * c);                    n = Math.round(n * c);                    c = 1;                    return eval("(" + m + op + n + ")/" + c);            }        }    };}();

 

转载于:https://www.cnblogs.com/ms-grf/p/6650208.html

你可能感兴趣的文章
ejabberd disable_sasl_mechanisms
查看>>
什么时候才能恢复我学习的心...
查看>>
superset开源可视化BI工具部署
查看>>
printf输出_int64时为0
查看>>
linux下 cmatrix的安装和使用
查看>>
nginx-rtmp-module执行ngx_rtmp_block()流程
查看>>
OpenCV和Zbar两个Python模块实现二维码和条形码识别
查看>>
kernel(2)
查看>>
硅谷容器公司Rancher年报:预示着容器时代已来
查看>>
关于Subscribe Rancher Events的思考
查看>>
Weblogic安装启动流程及免密后台启动
查看>>
一台服务器安装多个tomcat
查看>>
Python正则表达式初识(八)
查看>>
不得不说的Fedora和CentOS安装deb包方法
查看>>
关于Kubernetes(k8s)核心概念的理解
查看>>
神奇的C语言,这才是C语言大牛操作,作为面试题,怕是秒杀众人
查看>>
手机维修020行业的破局者 闪电修以品质赢消费者青睐
查看>>
怎样入门python爬虫?
查看>>
knockoutjs小结
查看>>
ups正确充放电
查看>>