关于浮点数精度再各个编程语言需要注意点

栏目: Go · 发布时间: 7年前

内容简介:浮点数保留N位 (2位),为货币类场景常用选项。比较合理的做法是使用分来存储(int),然后前端在进行转换。否则你就需要关心浮点数自动 四拾伍入。分清自己使用场景选择自己的合适的方法。已知 (mysql(douboule10,2),golang "%.2f",python "%.2f" )

浮点数保留N位 (2位),为货币类场景常用选项。比较合理的做法是使用分来存储(int),然后前端在进行转换。否则你就需要关心浮点数自动 四拾伍入。分清自己使用场景选择自己的合适的方法。已知 (mysql(douboule10,2),golang "%.2f",python "%.2f" )

package main

import (
    "fmt"
    "math"
)

func main() {

    //四拾伍入了
    fmt.Printf("%.2f\n", 1.244444)
    fmt.Printf("%.2f\n", 1.245444) 
    
    //自己实现四拾伍入
    fmt.Printf("%.2f\n", math.Trunc(1.244444*1e2+)*1e-2)
    fmt.Printf("%.2f\n", math.Trunc(1.245444*1e2)*1e-2)
    
    //抛弃掉后面位数
    fmt.Printf("%.2f\n", math.Trunc(1.244444*1e2)*1e-2)
    fmt.Printf("%.2f\n", math.Trunc(1.245444*1e2)*1e-2)
}
关于浮点数精度再各个编程语言需要注意点

golang执行结果.png

>>> "%.2f" % 1.24444
'1.24'
>>> "%.2f" % 1.24555
'1.25'

以上所述就是小编给大家介绍的《关于浮点数精度再各个编程语言需要注意点》,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对 码农网 的支持!

查看所有标签

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们。

创业者手册

创业者手册

[美] 史蒂夫·布兰克、[美] 鲍勃·多夫 / 新华都商学院 / 机械工业出版社 / 2013-1 / 89.00元

我们发现,企业的成功程度和创始人使用本书的频繁程度成正比。书中折角越多,书被翻得越破,企业取得的成功就越显著。阅读本书切忌囫囵吞枣。 所有创业者都坚信自己的道路与众不同,他们在踏上创业之路时从不设计路线图,认为其他模式或模板并不适合自己。同样是初创企业,有些能够取得成功而有些只能沦落到廉价清库的下场,看起来这似乎是运气使然,然而事实并非如此。英雄成功的故事都是一样的。初创企业实现成功之路肯定......一起来看看 《创业者手册》 这本书的介绍吧!

HTML 压缩/解压工具
HTML 压缩/解压工具

在线压缩/解压 HTML 代码

SHA 加密
SHA 加密

SHA 加密工具

HEX HSV 转换工具
HEX HSV 转换工具

HEX HSV 互换工具