当前位置: 编程技术>c/c++/嵌入式
基于C++浮点数(float、double)类型数据比较与转换的详解
来源: 互联网 发布时间:2014-10-14
本文导语: 浮点数在内存中的存储机制和整型数不同,其有舍入误差,在计算机中用近似表示任意某个实数。具体的说,这个实数由一个整数或定点数(即尾数)乘以某个基数(计算机中通常是2)的整数次幂得到,这种表示方法类似于...
浮点数在内存中的存储机制和整型数不同,其有舍入误差,在计算机中用近似表示任意某个实数。具体的说,这个实数由一个整数或定点数(即尾数)乘以某个基数(计算机中通常是2)的整数次幂得到,这种表示方法类似于基数为10的科学记数法。
所以浮点数在运算过程中通常伴随着因为无法精确表示而进行的近似或舍入。但是这种设计的好处是可以在固定的长度上存储更大范围的数。
1、将字符串转换为float、double过程存在精度损失,只是float、double各自损失的精度不相同而已
std::string str="8.2";
float cc=atof(str.c_str()); //cc的值为8.1999998
std::string str="8.2";
double cc=atof(str.c_str()); //cc的值为8.1999999999999993
2、将float、double转换为字符过程中可能存在精度损失,但是通过%.8lf可以规避
(1)float小数点前后加起来有效数字只有6位。当给定的float有效数在6位以内转换为字符不会丢失精度,当有效位数大于6位就会存在精度丢失
//精度没有丢失
char buf[100]={''};
float aa=8000.25;
sprintf(buf,"%f",aa); //8000.250000
//精度没有丢失
char buf[100]={''};
float aa=8.00025;
sprintf(buf,"%f",aa); buf = 8.000250
//精度丢失,存在误差
char buf[100]={''};
float aa=8000.251;
sprintf(buf,"%f",aa); //8000.250977
//精度丢失,存在误差此时使用.8lf也无效
char buf[100]={''};
float aa=8000.251;
sprintf(buf,"%.8lf",aa); //8000.25097656
(2)double小数前后加起来的有效数字只有16位,当给定的double有效数在16位以内转换为字符串不会丢失精度,当有效位数大于16位湖影公寓存在精度丢失
存在误差
char buf[100]={''};
double aa=121.437565871234012;
sprintf(buf,"%.20lf",aa); //121.43756587123401000000
//没有误差
char buf[100]={''};
double aa=8000.256165;
sprintf(buf,"%.8lf",aa);
std::cout
所以浮点数在运算过程中通常伴随着因为无法精确表示而进行的近似或舍入。但是这种设计的好处是可以在固定的长度上存储更大范围的数。
1、将字符串转换为float、double过程存在精度损失,只是float、double各自损失的精度不相同而已
std::string str="8.2";
float cc=atof(str.c_str()); //cc的值为8.1999998
std::string str="8.2";
double cc=atof(str.c_str()); //cc的值为8.1999999999999993
2、将float、double转换为字符过程中可能存在精度损失,但是通过%.8lf可以规避
(1)float小数点前后加起来有效数字只有6位。当给定的float有效数在6位以内转换为字符不会丢失精度,当有效位数大于6位就会存在精度丢失
//精度没有丢失
char buf[100]={''};
float aa=8000.25;
sprintf(buf,"%f",aa); //8000.250000
//精度没有丢失
char buf[100]={''};
float aa=8.00025;
sprintf(buf,"%f",aa); buf = 8.000250
//精度丢失,存在误差
char buf[100]={''};
float aa=8000.251;
sprintf(buf,"%f",aa); //8000.250977
//精度丢失,存在误差此时使用.8lf也无效
char buf[100]={''};
float aa=8000.251;
sprintf(buf,"%.8lf",aa); //8000.25097656
(2)double小数前后加起来的有效数字只有16位,当给定的double有效数在16位以内转换为字符串不会丢失精度,当有效位数大于16位湖影公寓存在精度丢失
存在误差
char buf[100]={''};
double aa=121.437565871234012;
sprintf(buf,"%.20lf",aa); //121.43756587123401000000
//没有误差
char buf[100]={''};
double aa=8000.256165;
sprintf(buf,"%.8lf",aa);
std::cout