Lua:减去十进制数不返回正确的精度。
2010-8-27 0:19:46
收藏:0
阅读:169
评论:4
我正在使用 Lua 5.1
print(10.08 - 10.07)
与其打印 0.01,上面的代码打印出了 0.0099999999999998。
有什么办法可以从这个减法中得到 0.01 吗?
原文链接 https://stackoverflow.com/questions/3580486
点赞
stackoverflow用户893
使用 Lua 的 string.format
函数:
print(string.format('%.02f', 10.08 - 10.07))
2010-08-27 00:24:58
stackoverflow用户68204
你从减法中得到了0.01。它只是以一个重复的小数形式存在,并略有失精度。
Lua使用C类型“double”来表示数字。几乎在你使用的每个平台上,它都是一个大约具有23个小数位精度的64位二进制浮点值。但是,没有任何数量的精度足以准确地用二进制表示0.01。这种情况类似于试图用十进制写1/3。
此外,您正在减去两个大小非常相似的值。这本身就会导致额外的精度损失。
解决方案取决于您的上下文。如果您正在进行会计,那么我强烈建议您不要使用浮点值来表示账户价值,因为这些小错误会累积,最终会出现整个分(或更糟)的出现或消失。更好的方法是用整数分存储帐户,并在显示时除以100。
总的来说,答案是要注意浮点固有的问题,其中之一就是这种小的精度损失。可以通过将答案四舍五入到适当的位数以供显示,并永远不比较计算结果的平等来轻松处理它们。
一些背景资源:
- Lua用户Wiki上半官方解释
- 这个伟大的IEEE浮点计算器页面,您可以在其中输入十进制值并查看它们的表示方式,反之亦然。
- Wiki对IEEE浮点的解释。
- 一般来说,对浮点数字的Wiki解释。
- 每个计算机科学家都应该了解的浮点算术知识是细节方面最全面的讨论。
编辑: 在所有之后添加了WECSSKAFPA文档。虽然第一次通读时可能会有点压倒,但它确实值得一读。同样,Knuth Volume 2涵盖了算术的广泛内容,以及关于浮点的大量部分。由于lhf提醒我它的存在,因此我将Lua维基对为什么浮点是唯一的数值类型的解释作为列表中的第一个项目插入。
2010-08-27 06:48:38
评论区的留言会收到邮件通知哦~
推荐文章
- 如何在roblox studio中1:1导入真实世界的地形?
- 求解,lua_resume的第二次调用继续执行协程问题。
- 【上海普陀区】内向猫网络招募【Skynet游戏框架Lua后端程序员】
- SF爱好求教:如何用lua实现游戏内调用数据库函数实现账号密码注册?
- Lua实现网站后台开发
- LUA错误显式返回,社区常见的规约是怎么样的
- lua5.3下载库失败
- 请问如何实现文本框内容和某个网页搜索框内容连接,并把网页输出来的结果反馈到另外一个文本框上
- lua lanes多线程使用
- 一个kv数据库
- openresty 有没有比较轻量的 docker 镜像
- 想问一下,有大佬用过luacurl吗
- 在Lua执行过程中使用Load函数出现问题
- 为什么 neovim 里没有显示一些特殊字符?
- Lua比较两个表的值(不考虑键的顺序)
- 有个lua简单的项目,外包,有意者加微信 liuheng600456详谈,最好在成都
- 如何在 Visual Studio 2022 中运行 Lua 代码?
- addEventListener 返回 nil Lua
- Lua中获取用户配置主目录的跨平台方法
- 如何编写 Lua 模式将字符串(嵌套数组)转换为真正的数组?
使用一个任意精度库。