![]() | 1 shintendo 2021-01-26 10:47:01 +08:00 浮点精度看有效数字,你放大也没用吧 |
2 walsh 2021-01-26 10:58:00 +08:00 FLT_EPSILON DBL_EPSILON 详情《数值分析》 |
![]() | 3 agagega 2021-01-26 11:04:10 +08:00 via iPhone 浮点数的误差很多来自两点: 1. 有效数字不同,也就是大数和小数做运算的时候。因为做运算的时候要把指数对齐,所以理论上你放大还是不放大没有什么区别 2. 一些数在二进制里无法精确表示 |
![]() | 4 tonyrft 2021-01-26 11:05:04 +08:00 如果真的想要高精度用计算机代数系统就行了 |
![]() | 5 vivoapex 2021-01-26 11:30:55 +08:00 参考《深入理解计算机系统》,我花了两周才把整数和浮点数搞定 |
![]() | 6 UN2758 2021-01-26 11:47:17 +08:00 不能,由于 IEEE754 规定的尾码长度有限,遇到无法用 2 的 n^-1 表示的数时,误差就一定存在,你的放大操作是放大了阶码,没用 |