简答题

简述有效数字的修约规则。

正确答案

有效数字的修约规则为:
(1)当拟去的尾数大于保留未位数的半个单位时,则进位,未位数加一个单位。
例如:3.86修约到小数一位,得3.9。
1377修约为三位有效数,得1.38×103
(2)当拟舍去的尾数小于保留未位数的半个单位时,则舍去。
例如:0.0137修约到小数后二位,得0.01
5783.4修约为四位有效数,得5783。
(3)当拟舍去的尾数正好等于保留未位数的半个单位时,如拟保留的未位数是奇数则进位,如果是偶数则舍去。这就是偶数法则。
例如:3.85修约到小数后一位,得3.8。
3175修约到三位有效数,得3.18×10-3
(4)当拟舍去的尾数超过二位数字时,不得进行多次修约,只能一次修约。
例如:3.146修约到小数后一位,应是3.1,而不能先修约3.15,再按偶数法则修约为3.2。
(5)当保留的未位数单位不是1,而是5时,按下列规则进行。
①保留的未位数小于和等于2.5时则舍去,保留未位数为0。
例如:4.12修约到小数后一位,得4.0。
3825修约为三位有效数,得3.80×103
②保留的未位数小于7.5、大于2.5时,则保留未位数为5。
例如:37.26修约到小数后一位,得37.5。
1074修约为三位有效数,得1.05×103
③保留的未位数大于和等于7.5时则进位,保留未位数为0,其左边位数加1。
例如:137.5修约为三位有效数,得140。
59.95修约到小数后一位,得60.0。
(6)当保留的未位数单位为2的倍数时,按下列规则进行。
①当保留的未位数为偶数,应舍去保留未位数右边的数。
例如:37.43修约到小数后一位,得37.4。
②当保留的未位数为奇数,而其右边有数值时,应进位将奇数加1。
例如:37.54修约到小数后一位,得37.6。
③当保留的未位数恰好为奇数,其右边无数值时,应将整个数除2后按偶数法则修约,然后再乘2。
例如:37.30修约到小数后一位,先除2得18.65,按偶数法则修约为18.6,再乘2得37.2。

答案解析

相似试题
  • 从下面4个数字中选出一个有效数字为三位的()。

    单选题查看答案

  • 测量数据中出现的一切非零数字都是有效数字。

    判断题查看答案

  • 在整数部分不为零的小数点右边的零是有效数字

    判断题查看答案

  • 数字电压表在()量程性能最好.

    单选题查看答案

  • 数字显示仪的核心部件是()

    单选题查看答案

  • 数字显示调节仪表有哪些特点?

    简答题查看答案

  • 用数字万用表可直接判断()好坏。

    单选题查看答案

  • TRICON数字输出模件有哪几种类型?

    简答题查看答案

  • 割炬Gol-30中数字“01”表示割炬为()式。

    单选题查看答案