使用浮点数或双精度浮点数而不是整数。
2011-5-19 14:41:26
收藏:0
阅读:134
评论:3
我知道 Lua 的默认实现只使用浮点数,因此可以规避在选择哪种 math 函数的变体之前动态确定数字的子类型的问题。
我的问题是 - 如果我尝试将整数模拟为(双精度或浮点)在标准 C99 中,是否有一种可靠(且简单)的方法来确定可精确表示的最大值是多少?
我的意思是,如果我使用 64 位浮点数表示整数,我肯定无法表示所有 64 位整数(此处应用了鸽巢原理)。我怎样才能确定可表示的最大整数?
(列出所有值不是解决方案 - 例如,如果我在 64 位架构中使用双精度浮点数,我必须列出 2^{64} 个数字)
谢谢!
原文链接 https://stackoverflow.com/questions/6060406
点赞
stackoverflow用户513763
IEEE浮点数Wikipage 上说:
将原始二进制值转换为十进制,再转换回去可以保留它:
- 二进制16需要5位十进制数字
- 二进制32需要9位十进制数字
- 二进制64需要17位十进制数字
- 二进制128需要36位十进制数字
2011-05-19 14:50:52
stackoverflow用户596285
如果你正在进行从 int 到 float 和再次从 float 到 int 的转换,那么在我的系统上会在 16,777,217 附近出现问题(但是 double 没有任何问题):
#include <stdio.h>
#include <limits.h>
int main (void)
{
long in, out;
double d;
float f;
for (in=0; in < (LONG_MAX); in++) {
d=in;
f=in;
out=d;
if (in != out) {
printf ("Double conversion imprecise for %ld\n", in);
}
out=f;
if (in != out) {
printf ("Float conversion imprecise for %ld\n", in);
}
}
return 0;
}
2011-05-19 15:04:13
评论区的留言会收到邮件通知哦~
推荐文章
- 如何在roblox studio中1:1导入真实世界的地形?
- 求解,lua_resume的第二次调用继续执行协程问题。
- 【上海普陀区】内向猫网络招募【Skynet游戏框架Lua后端程序员】
- SF爱好求教:如何用lua实现游戏内调用数据库函数实现账号密码注册?
- Lua实现网站后台开发
- LUA错误显式返回,社区常见的规约是怎么样的
- lua5.3下载库失败
- 请问如何实现文本框内容和某个网页搜索框内容连接,并把网页输出来的结果反馈到另外一个文本框上
- lua lanes多线程使用
- 一个kv数据库
- openresty 有没有比较轻量的 docker 镜像
- 想问一下,有大佬用过luacurl吗
- 在Lua执行过程中使用Load函数出现问题
- 为什么 neovim 里没有显示一些特殊字符?
- Lua比较两个表的值(不考虑键的顺序)
- 有个lua简单的项目,外包,有意者加微信 liuheng600456详谈,最好在成都
- 如何在 Visual Studio 2022 中运行 Lua 代码?
- addEventListener 返回 nil Lua
- Lua中获取用户配置主目录的跨平台方法
- 如何编写 Lua 模式将字符串(嵌套数组)转换为真正的数组?
对于64位双精度浮点数,能被表示的最大整数是253(9007199254740992),对于32位浮点数,能被表示的最大整数是224(16777216)。可以在IEEE浮点数网页上查看底数数字。
在Lua中验证这一点非常简单:
local maxdouble = 2 ^ 53 --可以准确表示的最大值比真正的最大值小1 print(string.format("%.0f",maxdouble-1)) --> 9007199254740991 --最大值本身可以准确表示 print(string.format("%.0f",maxdouble)) --> 9007199254740992 --超过最大值的数字会向下取整 print(string.format("%.0f",maxdouble+1)) --> 还是9007199254740992
如果没有IEEE定义的字段大小,我们可以根据我们对浮点数的_设计_的了解,使用简单的循环确定这些值:
#include <stddef.h> #include <stdint.h> #include <stdio.h> #define min(a, b) (a < b ? a : b) #define bits(type) (sizeof(type) * 8) #define testimax(test_t) { \ uintmax_t in = 1, out = 2; \ size_t pow = 0, limit = min(bits(test_t), bits(uintmax_t)); \ while (pow < limit && out == in + 1) { \ in = in << 1; \ out = (test_t) in + 1; \ ++pow; \ } \ if (pow == limit) \ puts(#test_t " is as precise as longest integer type"); \ else printf(#test_t " conversion imprecise for 2^%d+1:\n" \ " in: %llu\n out: %llu\n\n", pow, in + 1, out); \ } int main(void) { testimax(float); testimax(double); return 0; }
上面代码的输出结果:
float conversion imprecise for 2^24+1: in: 16777217 out: 16777216 double conversion imprecise for 2^53+1: in: 9007199254740993 out: 9007199254740992
当然,由于浮点精度的工作方式,64位双精度浮点数可以表示比264大得多的数字,因为浮点指数变为正数。 双精度浮点壳介绍了:
双精度可以容纳的_绝对最大_值在该页面下面列出:0x7fefffffffffffff,计算为(1 +(1-2 ^ -52))\* 21023,大约为1.7976931348623157e308。