您的位置：首页 > 编程技术 > C语言  >  C++数据精度问题(对浮点数保存指定位小数)

C++数据精度问题(对浮点数保存指定位小数)

 更新时间：2020年4月25日 17:30  点击：1996

1、背景
对浮点数保存指定位小数。比如， 1.123456. 要保存1位小数，，调用方法后， 保存的结果为： 1.1。 再比如，1.98765, 保存2位小数的结果为： 2.00.

2、 解决方案
A、添加头文件

#include <sstream> 
#include <iomanip>

B、添加命名空间

using namespace std;

C、添加函数

/* 函数名：round 
/* 函数功能：数据精度计算函数 
/* 函数参数：float src：待求精度数   int bits：精度（0表示保留小数点后0位小数，1表示保留1位小数，2：表示保留2位小数） 
/* 函数返回值：精度求取结果 
/* Author: Lee 
/************************************************************************/ 
float round(float src, int bits);

函数实现

float CDemo1Dlg::round(float src, int bits) 
{ 
  stringstream ss; 
  ss << fixed << setprecision(bits) << f; 
  ss >> f; 
 
  return f; 
 
}

D、调用方式

CString str2 = L"99.054"; 
float f2 = (float)_wtof(str2); 
f2 *= 10; 
f2 = this->round(f2, 2);

 E 、注意
比如， 1.05， double在计算机中表示为 1.0499999997， float表示为1.0500000003， 但其实际都是与1.05相等的。
round方方式对处理的位数为5的情况有例外，比如： 1.05， 处理的结果 可能为1.0499999997。 这里写的是float， 你可以换做其他的类型。自己多测几次就明白了

[!--infotagslink--]

相关文章

  • go浮点数转字符串保留小数点后N位的完美解决方法

    这篇文章主要介绍了go浮点数转字符串保留小数点后N位解决办法,本文给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下...2020-05-11

  • PHP浮点数精度丢失问题解决方案

    浮点数就是有很我小数的那种并且不只单纯了数字了，而小编在用支付接口时就碰到浮点数丢失的问题，下文一起来看看问题解决方法． 先看下面这段代码： $f = 0.57; echo...2016-11-25

  • 基于C++浮点数(float、double)类型数据比较与转换的详解

    本篇文章是对C++中浮点数(float、double)类型数据比较与转换进行了详细的分析介绍，需要的朋友参考下...2020-04-25

  • php FILTER_VALIDATE_FLOAT 浮点数验证

    filter_validate_float 过滤器把值作为浮点数来验证。 */ $var=12.3; var_dump(filter_var($var, filter_validate_float)); //float(12.3) /* 非负浮点数（正浮点数...2016-11-25

  • 浮点数在计算机中存储方式是怎样的

    这篇文章介绍了浮点数在计算机中是如何存储的，讲解的比较详细，有需要的朋友可以参考一下。...2020-04-25

  • 深入C++浮点数无效值定义与判定的解决办法

    本篇文章是对C++中浮点数无效值定义与判定进行了介绍，需要的朋友参考下...2020-04-25

  • golang 比较浮点数的大小方式

    这篇文章主要介绍了golang 比较浮点数的大小方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧...2021-05-01

  • php中浮点数计算问题整理

    在php中浮点数计算通常我们会得不到自己想要的结果了，这个到底是什么原因呢，下面我们来分析问题的同时也给各位朋友整理了一些比较好用的实例。 如果用php的+-*/计...2016-11-25

  • round() 函数对浮点数进行四舍五入

    语法 round(x,prec)参数 描述 x 可选。规定要舍入的数字。 prec 可选。规定小数点后的位数。 说明 返回将 x 根据指定精度 prec （十进制小数点后数字的数目）进行四...2016-11-25

  • Python如何执行精确的浮点数运算

    这篇文章主要介绍了Python如何执行精确的浮点数运算，文中讲解非常细致，代码帮助大家更好的理解和学习，感兴趣的朋友可以了解下...2020-08-01

  • php中浮点数运算常见问题

    php中浮点数运算常见问题有哪些呢,今天我们就一起来看看这些关于php中浮点数运算常见问题总结吧,具体的如下文介绍. 本文实例分析了php中让人头疼的浮点数运算。...2016-11-25

  • 深入分析Php处理浮点数的问题

    下文来为各位介绍Php处理浮点数的问题了，如果各位在使用过程中碰到这些问题我们可以一起来看看，希望文章对各位有帮助 公司要对产品价格做调整，因为做的外贸商城，所以...2016-11-25

  • 解析C++浮点数无效值的定义与无效值判定的小结

    本篇文章是对C++中浮点数无效值的定义与无效值的判定进行了详细的分析介绍，需要的朋友参考下...2020-04-25

  • C#浮点数的表示和基本运算

    这篇文章主要介绍了C#浮点数的表示和基本运算,需要的朋友可以参考下...2020-06-25

  • C++数据精度问题(对浮点数保存指定位小数)

    这篇文章主要介绍了对浮点数保存指定位小数。比如， 1.123456. 要保存1位小数，，调用方法后， 保存的结果为： 1.1。 再比如，1.98765, 保存2位小数的结果为： 2.00,需要的朋友可以参考下...2020-04-25

  • 浅谈c# 浮点数计算

    本文通过具体的示例给大家演示了下C#中浮点数运算所遇到的问题及解决方法，有需要的小伙伴可以参考下...2020-06-25

  • PHP浮点数转换整型注意事项

    PHP浮点数是否有小数了，我们要转换整理可能会丢失小数位数据了，下面我来给大家介绍PHP浮点数转换整型的一些事项，有兴趣的同学可进入参考。 先我们来做个实验说明问...2016-11-25

  • 简单谈谈php浮点数精确运算

    如果用php的+-*计算浮点数的时候，可能会遇到一些计算结果错误的问题，所以基本上大部分语言都提供了精准计算的类库或函数库，比如php有BC高精确度函数库，下面我们介绍一下一些常用的BC高精确度函数使用。...2016-03-12

  • perl简单变量 整型 浮点数 字符串

    基本上，简单变量就是一个数据单元，这个单元可以是数字或字符串。一、整型 1、整型 PERL最常用的简单变量，由于其与其它语言基本相同，不再赘述。 例： $x = 12345; if (121...2020-06-29

  • PHP浮点数用法与问题总结

    在php浮点数处理函数在php中有很多，包括有如ceil，floor，round，intval 经过他们处理之后可返回我们想要的浮点数小数位了，下面我来介绍一些关于php浮点数用法与问题分析。...2016-11-25