c/c++语言开发共享GMP上的精度损失mpf_add。 我的数字去了哪里?

我总结了两个负浮点数:

char * lhs = "-2234.6016114467412141"; char * rhs = "-4939600281397002.2812"; 

根据Perl,使用bignum和Math :: BigFloat,答案是

 -4939600281399236.8828114467412141 

但是,根据GMP,使用下面的代码,答案是

 -4939600281399236.88281 

我哪里出错了? 剩下的“14467412141”怎么了?

 #include "stdafx.h" #include "gmp-staticgmp.h" #include  /* For _MAX_PATH definition */ #include  #include  #include  #define F(x) mpf_t x; mpf_init( x ); void main(void) { F(f_lhs); F(f_rhs); F(f_res); char * resbuff; mp_exp_t exp; char * lhs = "-2234.6016114467412141"; char * rhs = "-4939600281397002.2812"; int validOp = mpf_set_str( f_lhs, lhs, 10 ); validOp = mpf_set_str( f_rhs, rhs, 10 ); mpf_add( f_res, f_lhs, f_rhs ); resbuff = mpf_get_str( NULL, &exp, 10, 0, f_res ); printf( "Using mpf_add, %s + %s = %s (exp=%d)n", lhs, rhs, resbuff, exp ); free(resbuff); } 

样本输出:

 Using mpf_add, -2234.6016114467412141 + -4939600281397002.2812 = -493960028139923688281 (exp=16) 

PS我试过添加一个大于64(默认值)的mpf_set_default_prec调用,但没有效果。

    看起来你正在以64位溢出尾数。 尝试执行mpf_get_prec(f_res)来检查它是否是您想要的精度。 如果在初始化任何mpf变量之前没有调用mpf_set_default_prec() (main的第1行)。

    使用更大的值启动。 试试这个:

     mpf_set_default_prec(5*1024) 

      以上就是c/c++开发分享GMP上的精度损失mpf_add。 我的数字去了哪里?相关内容,想了解更多C/C++开发(异常处理)及C/C++游戏开发关注计算机技术网(www.ctvol.com)!)。

      本文来自网络收集,不代表计算机技术网立场,如涉及侵权请联系管理员删除。

      ctvol管理联系方式QQ:251552304

      本文章地址:https://www.ctvol.com/c-cdevelopment/544814.html

      (0)
      上一篇 2021年1月9日
      下一篇 2021年1月9日

      精彩推荐