软件下载 点击激活 软件下载

浮点运算误差

浮点数是一个计算机术语,这是一种在计算机中的数字表示的方法或标准。因为计算机系统是以二进制进行存储和运算的,所以只能以近似的约数表示任意某个实数。浮点计算是指浮点数参与的运算,这种运算通常伴随着因为无法精确表示而进行的近似或舍入,在二进制下的微小误差传递到最终计算结果中,可能会得出不准确的结果。

十进制数值转换为二进制数值的计算方法如下。

(1)整数部分:连续用该整数除以 2 取余数,然后用商再除以 2,直到商等于 0 为止,最后把各个余数按相反的顺序排列。

(2)小数部分:用 2 乘以十进制小数,将得到的整数部分取出,再用 2 乘以余下的小数部分,然后再将积的整数部分取出。如此往复,直到积中的小数部分为 0 或达到所要求的精度为止,最后把取出的整数部分按顺序排列。

(3)含有小数的十进制数转换成二进制时,先将整数、小数部分分别进行转换,然后将转换结果相加。

如果将十进制数值 22.8125 转换为二进制数值,其计算过程如图 1-13 所示。

浮点运算误差

图 1-13 二进制转换过程

整数部分,22 的转换过程为:
22 除以 2 结果为 11,余数为 0。
11 除以 2 结果为 5,余数为 1。
5 除以 2 结果为 2,余数为 1。
2 除以 2 结果为 1,余数为 0。
1 除以 2 结果为 0,余数为 1。

余数按相反的顺序排列,二进制结果为 10110。

小数部分,0.8125 的转换过程为:

首先用 0.8125 乘以 2,结果取整。小数部分继续乘以 2,结果取整,得到小数部分 0 为止,将整数顺序排列。

0.8125 乘以 2 等于 1.625,取整结果为 1,小数部分是 0.625。
0.625 乘以 2 等于 1.25,取整结果为 1,小数部分是 0.25。
0.25 乘以 2 等于 0.5,取整结果为 0,小数部分是 0.5。
0.5 乘以 2 等于 1.0,取整结果为 1,小数部分是 0,计算结束。
将乘积的取整结果顺序排列,结果是 0.1101。

最后将 22 的二进制结果 10110 和 0.8125 的二进制结果 0.1101 相加,计算出十进制数值22.8125 的二进制结果为 10110.1101。

按照上述方法将小数 0.6 转换为二进制代码,计算结果为:0.10011001100110011……,其中的 0011 部分会无限重复,无法用有限的空间量来表示。当结果超出 Excel 计算精度,产生了一个因太小而无法表示的数字时,在 Excel 中的处理结果是 0。

如图1-14所示,在A2单元格输入公式“=4.1-4.2+1”,然后连续单击【开始】选项卡下的【增加小数位数】按钮,计算结果将显示为 0.899999999999999。

浮点运算误差

图 1-14 浮点运算误差

Excel 提供两种基本方法来弥补舍入误差。

一种方法是使用 ROUND 函数将数字四舍五入。例如,将 A2 单元格公式修改为: 

浮点运算误差

公式返回保留一位小数的计算结果 0.9。

有关 ROUND 函数的详细介绍,请参阅 12.4 节。

另一种方法是借助“将精度设为所显示的精度”选项。此选项会强制让工作表中每个数字的值成为单元格中显示的值。依次单击【文件】→【选项】,打开【Excel 选项】对话框。然后单击【高级】,在【计算此工作簿时】区域下选中【将精度设为所显示的精度】复选框,此时 Excel 会弹出警告对话框,提示用户“数据精度将会受到影响”,依次单击【确定】按钮完成设置,如图1-15所示。

浮点运算误差

图 1-15 将精度设为所显示的精度

如果单元格设置了显示两位小数的数字格式,然后启用“将精度设为所显示的精度”选项,在保存工作簿时,所有超出两位小数部分的精度将会丢失。 

浮点运算误差

练习与巩固

1. 如果所选单元格数据类型为数值,状态栏中会显示计数、平均值及求和等结果,如果所选单元格数据类型为文本,状态栏中则只显示(_______)结果。

2. 输入单元格的公式包含运算符、单元格引用、值或字符串、工作表函数和参数,以及(_______)等 5 种元素。

3. 当需要在多个单元格中使用相同的计算规则时,可以通过(_______)和(_______)的操作方法实现,而不必逐个单元格编辑公式。

4. 通过设置 Excel 单元格格式的“保护”属性,配合工作表保护功能,可以实现对工作表中的公式设置保护。你能说出保护公式的主要步骤吗?

5. 有时公式的计算结果中会出现非常细小的误差,这种误差叫作(_______)。

 

网络技巧:家庭宽带使用小常识,值得收藏
END
网络技巧:家庭宽带使用小常识,值得收藏

往期推荐
1. Office365/2021/2019/2016/2013/2010官方永久激活密钥(可绑定账号)
2.  软件库(软件下载)
3.  CorelDRAW 2021破解版下载&安装步骤
4.  Google Earth Pro 7.3 |(谷歌地球)安装教程
5.  最新行政区划、乡镇级、村级shp矢量地图、2022道路、水系、建筑轮廓
浮点运算误差
Office自学网公众号
浮点运算误差
Office自学网客服

打开微信扫一扫,Office自学网

专注分享软件安装和视频教程,让你一号在手,办公无忧!

 

给TA打赏
共{{data.count}}人
人已打赏
办公技巧职场经验

大神,你知道这种表格怎么做吗?

2024-3-6 10:51:43

办公技巧

EXCEL教程:波士顿矩阵分析图-图表这么做,加薪又升职

2024-3-6 14:48:56

文章版权声明 1、本网站名称:office自学网
2、本站永久网址:https://www.officezxw.com/
3、本网站的文章部分内容可能来源于网络,仅供大家学习与参考,如有侵权,请联系站长QQ:1241926466进行删除处理。
4、本站一切资源不代表本站立场,并不代表本站赞同其观点和对其真实性负责。
5、本站一律禁止以任何方式发布或转载任何违法的相关信息,访客发现请向站长举报
6、本站资源大多存储在云盘,如发现链接失效,请联系我们我们会第一时间更新。

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索