我总结了两个负浮点数:
char * lhs = "-2234.6016114467412141"; char * rhs = "-4939600281397002.2812";
根据Perl,使用bignum和Math :: BigFloat,答案是
-4939600281399236.8828114467412141
但是,根据GMP,使用下面的代码,答案是
-4939600281399236.88281
我哪里出错了? 剩下的“14467412141”怎么了?
#include "stdafx.h" #include "gmp-staticgmp.h" #include /* For _MAX_PATH definition */ #include #include #include #define F(x) mpf_t x; mpf_init( x ); void main(void) { F(f_lhs); F(f_rhs); F(f_res); char * resbuff; mp_exp_t exp; char * lhs = "-2234.6016114467412141"; char * rhs = "-4939600281397002.2812"; int validOp = mpf_set_str( f_lhs, lhs, 10 ); validOp = mpf_set_str( f_rhs, rhs, 10 ); mpf_add( f_res, f_lhs, f_rhs ); resbuff = mpf_get_str( NULL, &exp, 10, 0, f_res ); printf( "Using mpf_add, %s + %s = %s (exp=%d)n", lhs, rhs, resbuff, exp ); free(resbuff); }
样本输出:
Using mpf_add, -2234.6016114467412141 + -4939600281397002.2812 = -493960028139923688281 (exp=16)
PS我试过添加一个大于64(默认值)的mpf_set_default_prec
调用,但没有效果。
看起来你正在以64位溢出尾数。 尝试执行mpf_get_prec(f_res)
来检查它是否是您想要的精度。 如果在初始化任何mpf变量之前没有调用mpf_set_default_prec()
(main的第1行)。
使用更大的值启动。 试试这个:
mpf_set_default_prec(5*1024)
以上就是c/c++开发分享GMP上的精度损失mpf_add。 我的数字去了哪里?相关内容,想了解更多C/C++开发(异常处理)及C/C++游戏开发关注计算机技术网(www.ctvol.com)!)。
本文来自网络收集,不代表计算机技术网立场,如涉及侵权请联系管理员删除。
ctvol管理联系方式QQ:251552304
本文章地址:https://www.ctvol.com/c-cdevelopment/544814.html