如何检查双精度是否适合浮动而不转换为无穷大
有没有一种标准方法可以检查64位浮点数是否可以转换为32位浮点数而不转换为+/-无穷大?
我知道之后可以检查+/- Inf。
Convert.ToSingle()
不会这样做。
为了测试double
值d
是否将转换为float
而不产生无穷大,您可以测试d
的绝对值是否严格低于写为3.4028235677973366e+38
的double
0x1.ffffffp+127
(即0x1.ffffffp+127
hex的0x1.ffffffp+127
)。 此数字是可以转换为浮点数的双精度数与不能转换为浮点数的精确数限制。
为了扩展一点,最后一个有限的浮点数是:
0x1.fffffep+127 (3.4028234663852886e+38 in decimal)
如果类型float
具有更多指数位,那么下一个float
多少:
0x2.000000p+127 (3.4028236692093846e+38 in decimal)
比前者更接近前者的数字向下舍入到前者。 限制是两个数字的中点:
上述就是C#学习教程:如何检查双精度是否适合浮动而不转换为无穷大分享的全部内容,如果对大家有所用处且需要了解更多关于C#学习教程,希望大家多多关注—计算机技术网(www.ctvol.com)!
0x1.ffffffp+127 (3.4028235677973366e+38 in decimal)
本文来自网络收集,不代表计算机技术网立场,如涉及侵权请联系管理员删除。
ctvol管理联系方式QQ:251552304
本文章地址:https://www.ctvol.com/cdevelopment/987737.html