有效数字及其运算规则_第1页
有效数字及其运算规则_第2页
有效数字及其运算规则_第3页
免费预览已结束,剩余1页可下载查看

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、有效数字及其运算规则有效数字及其运算规则一、测量结果的有效数字1.有效数字的定义及其基本性质测量结果中所有可靠数字加上末位的可疑数字统称为测量结果的有效数字。有效数字具有以下基本特性:(1)有效数字的位数与仪器精度(最小分度值)有关,也与被测量的大小有关。对于同一被测量量,如果使用不同精度的仪器进行测量,则测得的有效数字的位数是不同的。例如用千分尺(最小分度值,)测量某物体的长度读数为。其中前三位数字“”是最小分度值的整数部分,是可靠数字;末位“”是在最小分度值内估读的数字,为可疑数字;它与千分尺的在同一数位上,所以该测量值有四位数字。如果改用最小分度值(游标精度)为的游标卡尺来测量,其读数为

2、,测量值就只有三位有效数字。游标卡尺没有估读数字,其末位数字“”为可疑数字,它与游标卡尺的也是在同一数位上。()有效数字的位数与小数点的位置无关,单位换算时有效数字的位数不应发生改变。有效数字与不确定度的关系在我们规定不确定度的有效数字只取一位时,任何测量结果,其数值的最后一位应与不确定度所在的那一位对齐。如,测量值的末位“”刚好与不确定度的“”对齐。由于有效数字的最后一位是不确定度所在位,因此有效数字或有效位数在一定程度上反映了测量值的不确定度(或误差限值)。测量值的有效数字位数越多,测量的相对不确定度越小;有效位数越少,相对不确定度就越大。3数值的科学表示法二、有效数字的运算规则1数值的舍

3、入修约原则测量值的数字的舍入,首先要确定需要保留的有效数字和位数,保留数字的位数确定以后,后面多余的数字就应予以舍入修约,其规则如下:(1)拟舍弃数字的最左一位数字小于时,则舍去,即保留的各位数字不变。(2)拟舍弃数字的最左一位数字大于5,或者是5而其后跟有并非0的数字时,则进1,即保留的末位数字加。(3)拟舍弃数字的最左一位数字为5,而的右边无数字或皆为0时,若所保留的末位数字为奇数则进,为偶数或0则舍去,即“单进双不进”。上述规则也称数字修约的偶数规则,即“四舍六入五凑偶”规则。根据上述规则,要将下列各数据保留四位有效数字,舍入后的数据为:; ; ;; 对于测量结果的不确定度的有效数字,本

4、课程规定采取只进不舍的规则。2有效数字运算规则有效数字的运算总的原则是,除遵守数学运算法则外,还规定,准确数字与准确数字的运算结果仍为准确数字;存疑数字与任何数字的运算结果均为存疑数字。()加减法设,运算过程为:1) 先计算绝对不确定度,不确定度在运算过程中取两位,最后取一位。2)计算,各分量位数取到和不确定度所在位相同或比不确定度所在位低一位。3)用绝对不确定度决定最后结果的有效数字。例1 求。其中,。解: ,由于和,故在方和根合成时,可忽略。所以 在计算过程中,因为不确定度在小数点后第一位上,故运算时各分量保留到小数点后第一位或第二位,也暂多保留一位。如果各分量没有标明不确定度,则加减法的

5、运算以各分量中可疑数字位最高的,即不确定度最大的分量为准,其他各分量在运算过程中保留到它下面一位,最后再与它对齐。上例中,分量的可疑数字位最高,以它为准,其它各分量保留到它下面一位,最后对齐。,最后与分量的位数对齐,所以结果为。(2)乘除法设,运算过程为:1)以有效位数最少的分量为准,将各分量(包括常数)的有效数字取到比它多一位,计算,结果也暂多保留一位。2)计算不确定度。)由绝对不确定度决定结果的有效数字位数。例求,其中:,,。解: 各分量中,的有效数字位数最少(3位),以它为准,,都取四位,结果先保留四位。 计算不确定度,应用不确定度传递公式: 结果为: 当测量数据没有给出不确定度时,计算同。结果的有效数字位数一般取与各分量中有效数字位数最少者相同。在运算中,遇到一些物理常数和纯数学数字(如,等),它们不影响运算结果的有效数字位数。综上例题运算得知,有效数字的运算规则:(1)当几个有效数字相加或相减时,其结果的有效数字末位的量级与参加运算的有效数字中可疑数字量级最大者相同。(2)当几个有效数字相乘或相除时,其结果的有效数字位数一般与参加运算的各数中有效数字位数最少者相同。3.函数运算的有

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论