V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  Higurashi  ›  全部回复第 3 页 / 共 6 页
回复总数  107
1  2  3  4  5  6  
2021-11-10 12:29:40 +08:00
回复了 Higurashi 创建的主题 问与答 浮点数精确到多少位?
@shintendo #9
意思是 23 bit 所保存着的小数转化(数学上的转化,不进行舍入)为十进制数后最多包含 8 位有效数字,且并不是所有拥有 8 位有效位的十进制小数都能够被准确保存?
2021-11-10 08:22:47 +08:00
回复了 Higurashi 创建的主题 问与答 浮点数精确到多少位?
@shintendo #6
抱歉我没有仔细理解。我想我懂得了你的意思,现在总结一下。
通常所说的精确到多少位(比如 7 ),指的是当我们在源代码中添加一个浮点数字面量时,浮点数超过第 7 位的有效位可能不能够准确表示。
2021-11-09 11:21:09 +08:00
回复了 Higurashi 创建的主题 问与答 浮点数精确到多少位?
@shintendo #6
的确,不同的场景有不同的所谓“精度”。我在 https://www.exploringbinary.com/decimal-precision-of-binary-floating-point-numbers/ 中看到了一种定义:
“For most of our purposes when we say that a format has n-digit precision we mean that over some range, typically [10^k, 10^(k+1)), where k is an integer, all n-digit numbers can be uniquely identified.”
我觉得暂时只讨论清楚这样一种“精度”比较好,所以现在我的疑惑是,[10^k, 10^(k+1)) 范围内的数字,它能够精确到多少位?是如何得到的?比如,我在源代码中写下一个浮点数,我如何知道从第几位开始程序就不再能够准确地将其表示?
链接指向的文章对此进行了解释,但说实话,我还看不太懂。
2021-11-07 13:17:30 +08:00
回复了 Higurashi 创建的主题 问与答 浮点数精确到多少位?
@shintendo #2 @oldshensheep #4 感谢回复。我稍微懂得了一些。24 位二进制最大为 (1111 1111 1111 1111 1111 1111)2 = (2^24-1)10 ,观察到 100(10^2)<=y<1000(10^3),此时 y 有 [log10y] + 1 = 3 个有效位,类似可以知道 2^24-1 有 [log10(2^24-1)] + 1 个有效位。
但是小于 2^24-1 的 24 位二进制数转换为 10 进制也还是 [log10(2^24-1)] + 1 个有效位吗?比如 (0000 0000 0000 0000 0000 001)2 在十进制中有多少个有效位?
2021-11-07 11:59:59 +08:00
回复了 Higurashi 创建的主题 问与答 浮点数精确到多少位?
@GTim #1 感谢回复。是的,的确是这样,但我不明白的是,为什么计算得到的 n 就是十进制下的精确位数?[10506083.html#a4]( https://www.cnblogs.com/HDK2016/p/10506083.html#a4) 中也作了类似说明:

```
在单精度浮点数中的二进制小数位有 23 个,所能表示 2^23 个数,那么只需要换算成在 10 进制下能够表示相同个数的位数,就可以得到精度了。
10^n = 223
10^n = 8388608
10^6 < 8388608 < 107
所以但精度浮点数的精度为 6 位,同理也可以得到双精度浮点数的精度为 15 位。
```

我疑惑的其实是这背后的理由是什么。
2020-12-25 16:11:12 +08:00
回复了 jimmyismagic 创建的主题 阅读 影响你最深的一本书是什么?
《堂吉诃德》
2020-10-25 19:22:50 +08:00
回复了 sciooga 创建的主题 分享创造 可能是 V2EX 最好用的插件
测试表情 😊 测试表情 😃 😊 😤
2020-10-25 18:47:33 +08:00
回复了 sciooga 创建的主题 分享创造 可能是 V2EX 最好用的插件
测试表情:question:
2020-10-24 08:30:18 +08:00
回复了 sciooga 创建的主题 分享创造 可能是 V2EX 最好用的插件
2020-10-23 23:40:17 +08:00
回复了 sciooga 创建的主题 分享创造 可能是 V2EX 最好用的插件
2020-10-23 23:28:31 +08:00
回复了 sciooga 创建的主题 分享创造 可能是 V2EX 最好用的插件
试试直接插入图片:
![直接插入的图]( https://ww1.sinaimg.cn/large/5310e2eagy1fra9nfkpwlj208u08c744.jpg)
2020-10-23 23:25:23 +08:00
回复了 sciooga 创建的主题 分享创造 可能是 V2EX 最好用的插件
测试😺
测试😄
😀
2020-10-22 18:37:38 +08:00
回复了 GeekSky 创建的主题 浏览器 新版 Edge 太好用了,已卸载 Chrome。
@tumaowolf 我可以哎。。
2020-07-18 19:54:56 +08:00
回复了 jss 创建的主题 程序员 [一个特殊需求] 第三方平台如何获取 vx 用户聊天记录
多选聊天记录可分享到印象笔记。
2020-07-11 12:36:03 +08:00
回复了 bear2000 创建的主题 Android 求推荐一个 Android 系统上可以和电脑互传文件的应用
es 文件管理器很方便,似乎是用的 ftp
2020-07-06 21:49:17 +08:00
回复了 GeekSky 创建的主题 生活 感觉自己好病态……
可以去咨询一下心理医生。加油,奥利给!
1  2  3  4  5  6  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1755 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 28ms · UTC 05:13 · PVG 13:13 · LAX 21:13 · JFK 00:13
Developed with CodeLauncher
♥ Do have faith in what you're doing.