Округление результатов измерений (по материалам СПб АСМС)

Правила  записи  чисел  по  СТ СЭВ  543 - 77

1. Значащие  цифры  данного числа - все  цифры  от  первой  слева, не  равной  нулю,  до  последней  справа.  При  этом  нули,  следующие  из  множителя  10,  не  учитывают.

           Примеры:

                а)  Число  12,0  имеет  три  значащие  цифры.

                б)  Число  30  имеет  две  значащие  цифры.

                в)   Число  120 . 10   имеет  три  значащие  цифры.

                г)    0,514 . 10    имеет  три  значащие  цифры.

                д)    0,0056  имеет  две  значащие  цифры.

2.  Если  необходимо  указать,  что  число  является  точным,  после  числа  указывают  слово  "точно"  или  последнюю  значащую  цифру  печатают  жирным  шрифтом.  Например,  в  печатном  тексте:  1  кВт . ч =  3600  Дж  (точно).

3.  Различают  записи  приближенных  чисел  по  количеству  значащих  цифр.

               Примеры.

                   а)  Различают  числа  2,4  и  2,40.  Запись  2,4  означает,  что  верны  только целые  и  десятые  доли,  истинное  значение  числа  может  быть, например, 2,43  и  2,38.  Запись  2,40  означает,  что  верны  и  сотые  доли:  истинное значение  числа  может  быть  2,403  и   2,398,  но  не  2,41  и  не  2,382.

                   б)  Запись  382  означает,  что  все  цифры  верны:  если  за  последнюю цифру  ручаться  нельзя,  то  число  должно  быть  записано  3,8  . 10 .

                   в)  Если  в  числе  4720  верны  лишь  две  первые  цифры,  оно  должно  быть быть  записано  47 * 10    или  4,7 *  10  .

4.  Число,  для  которого  указывают  допустимое  отклонение,  должно  иметь последнюю  значащую  цифру  того  же  разряда,  как  и  последняя  значащая  цифра  отклонения.

                Примеры.

               а)  Правильно:  17,0  +  0,2.   Неправильно: 17  +  0,2  или  17,00  +  0,2.

               б)  Правильно:  12,13  +  0,17.    Неправильно:  12,13  +  0,2.

               в)  Правильно: 46,40  +  0,15.  Неправильно: 46,4  +  0,15  или 46,402 +  0,15.

5.  Числовые  значения  величины  и  её  погрешности  (отклонения)  целесообразно записывать  с  указанием  одной  и  той  же  единицы  величины.

                    Например:  (80,555  +  0,002)  кг.

6.  Интервалы  между  числовыми  значениями  величин  целесообразно  записывать:

     от  60  до  100,  свыше  120  до  150.

                       Правила  округления  чисел  по  СТ  СЭВ  543 - 77

1.  Округление  числа  представляет  собой  отбрасывание  значащих  цифр  справа  до  определенного  разряда  с  возможным  изменением  цифры  этого  разряда.

2.  В  случае,  если  первая  из  отбрасываемых  цифр  (считая  слева  направо)  менее  5,  то  последнюю  сохраняемую  цифру  не  меняют.

             Пример: Округление  числа  12,23  до  трех  значащих  цифр  дает  12,2.

3.  В  случае,  если  первая  из  отбрасываемых  цифр  (считая  слева  направо)  равна  5,  то  последнюю  сохраняемую  цифру  увеличивают  на  единицу.

             Пример:  Округление  числа  0,145  до  двух  цифр  дает  0,15.

      Примечание.  В  тех  случаях,  когда  следует  учитывать  результаты  предыдущих  округлений,  поступают  следующим  образом.

    Если  отбрасываемая  цифра  получена  в  результате  округления  в  меньшую  сторону,  то  последнюю  оставшуюся  цифру  увеличивают  на  единицу  (с  переходом  при  необходимости  в  следующие  разряды).

      Пример:  Округление  числа  0,25   (полученного  в  результате предыдущего  округления  числа  0,252)  дает  0,3 .

4.  В  случае,  если  первая  из  отбрасываемых  цифр  (считая  слева  направо)  более  5,  то  последнюю  сохраняемую  цифру  увеличивают  на  единицу.

             Пример:   Округление  числа  0,156  до  двух  значащих  цифр  дает  0,16.

5. Округление  выполняют  сразу  до  желаемого  количества  значащих  цифр,  а  не  по  этапам.

             Пример:  Округление  числа  565,46  до  трех  значащих  цифр  дает  565.

6.  Целые  числа  округляют  по  тем  же  правилам ,  что  и  дробные.

                                                                                                                                      3

         Пример:  Округление  числа  23456  до  двух  значащих  цифр  дает  23* 10   .  

                             Из  книги  Л.И. Любимов, И.Д. Форсилова, Е.З. Шапиро

           «Поверка  средств  электрических  измерений. Справочная   книга».

                  Ленинград,  Энергоатомиздат,  Ленинградское  отделение,  1987  год

стр. 47 ...   2.7.   Правила  округления  и  записи  результатов  измерений

         Погрешность  результата  измерений  позволяет  определить  те  цифры  результата,  которые   являются  достоверными.  Нецелесообразно  удерживать  в  выражении  для  измеренного значения  физической  величины  большое  число  цифр,  т.к.  цифры  младших  разрядов  могут  оказаться   недостоверными.

       Существуют  определенные  правила  округления.

1.  В  выражении  погрешности  удерживается   не  более  двух  значащих  цифр,  причем  последняя цифра  обычно  округляется   до  нуля  или  пяти.  Две  цифры  следует  обязательно  удерживать  в  том  случае,  когда  цифра  старшего  разряда  менее  3.

2 .  Числовое  значение  результата   измерения  должно  оканчиваться  цифрой  того  же  разряда,   что  и  значение  погрешности.

      Пример.  235,732  +  0,15  округляется  до  235,73 +  0,15,  но  не  до  235,7  +  0,15.

       При  промежуточных  вычислениях  целесообразно,  чтобы  используемые  числа  содержали  на  одну  значащую  цифру  больше, чем  будет  в  окончательном  результате.  Это  позволяет  уменьшить  погрешность  от  округления.

3.  Если  первая  из  отбрасываемых  цифр  (считая  слева  направо)  меньше  пяти,  то  остающиеся  цифры  не  меняются. 

       Пример.   442,749  +  0,4   округляется  до  442,7  +  0,4.

4.  Если  первая  из  отбрасываемых  цифр  больше  или  равна  пяти,  то  последняя  сохраняемая  цифра  увеличивается  на  единицу.

       Пример.   37,268 + 0,5  округляется  до  37,3  +  0,5;    37,253  +  0,5  округляется  до  37,3 +  0,5.

5.  Округление  следует  выполнять  сразу  до  желаемого  числа  значащих  цифр, поэтапное  округление  может  привести  к  ошибкам.

      Пример.  Поэтапное  округление  результата  измерения  220,46  +  4  дает  на  первом  этапе  220,5  + 4  и  на  втором  221  +  4,  в  то  время  как  правильный  результат  округления  220  + 4.

          Особенно  внимательно  нужно  относиться  к  записи  результата  измерения  без  указания погрешности  (что  в  общем  случае  крайне  нежелательно).  В  этом  случае  в  записываемом числе  оставляются  только  те  цифры,  за  достоверность  которых  можно  ручаться,  т.е.  все значащие  цифры  записанного  числа  должны  быть  достоверными.  Значащими  цифрами  числа  считаются  все  цифры  от  первой  слева,  не  равной  нулю,  до  последней  записанной  справа  цифры,  при  этом  нули,  записанные  в  виде  множителя  10  в  степени  п,  не  учитываются.  Поэтому  записи  2,4 х 10  В  в   степени  3  и  2400  В   не  являются  тождественными.  Первая запись  означает, что  верны  цифры  тысяч  и  сотен  вольт  и  истинное  значение  может  быть, например,  2,42  или  2,38  кВ.  Запись  2400  В   означает, что  верны  и  единицы  вольт,  истинное  значение   может  быть  2400,2   или  2390,8  В,  но  не  2420  или  2380  В.

 Из  книги  П.В. Новицкий  и  И.А. Зограф                                                

                   "Оценка  погрешностей  результатов  измерений"

            Ленинград, Энергоатомиздат,  Ленинградское  отделение,  1991  год

стр. 25  1 - 4.   ПРАВИЛА  ОКРУГЛЕНИЯ  ЗНАЧЕНИЙ  ПОГРЕШНОСТИ  И  РЕЗУЛЬТАТА ИЗМЕРЕНИЙ

           Рассчитывая  значения  погрешности,  особенно  при  пользовании  электронным  калькулятором, значения  погрешностей  получают  с большим  числом  знаков.  Однако  исходными  данными  для   расчета  являются  нормируемые  значения  погрешности  средств  измерения,  которые  указываются  всего  с  одной  или  двумя  значащими  цифрами.   Вследствие  этого  и  в  окончательном  значении  рассчитанной  погрешности  должны  быть  оставлены  только  первые  одна - две  значащие  цифры.  При  этом  приходится  учитывать  следующее.  Если  полученное  число  начинается  с  цифр  1  или 2,  то  отбрасывание  второго  знака  приводит  к  очень  большой  ошибке  (до  30 - 50 %),  что  недопустимо.  Если  же  полученное  число  начинается,  например,  с  цифры  9,  то  сохранение  второго  знака,  т. е. указание  погрешности,  например, 0,94  вместо  0,9,  является  дезинформацией,  так  как  исходные  данные  не  обеспечивают  такой  точности.

         Исходя  из  этого  на  практике  установилось  такое  правило:  если  полученное  число  начинается  с  цифры,  равной  или  большей  3,  то  в  нем  сохраняется  лишь  один  знак;  если  же  оно  начинается  с  цифр,  меньших  3,  т. е.  с  цифр  1  и  2,  то  в  нем  сохраняют  два  знака.  В  соответствии  с  этим  правилом  установлены  и  нормируемые  значения  погрешностей  средств  измерений:  в  числах  1,5  и  2,5 %   указываются  два  знака,  но  в  числах  0,5; 4; 6 %  указывается          

лишь  один  знак.

       В  итоге  можно  сформулировать  три  правила  округления  рассчитанного  значения  погрешности  и  полученного  экспериментального  результата  измерения.

   1 .  Погрешность  результата  измерения  указывается  двумя  значащими  цифрами,  если  первая  из  них  равна  1  или  2,  и  одной, -  если  первая  есть 3  и  более.

   2 .  Результат  измерения  округляется  до  того  же  десятичного  разряда,  которым  оканчивается  округленное  значение  абсолютной  погрешности.

   3 .  Округление  производится  лишь  в  окончательном  ответе,  а  все  предварительные  вычисления  проводят  с  одним - двумя  лишними  знаками.

Пример .  На  вольтметре  класса  точности  2,5  с  пределом  измерений  300  В  был  получен  отсчет  измеряемого  напряжения  Х = 267,5  В.

           Расчет  погрешности  удобнее  вести  в  следующем  порядке:  сперва  необходимо  найти  абсолютную  погрешность, а затем - относительную. Абсолютная  погрешность  /\ (Х) = jo  Xк /100;  при  jo = 2,5 %   и  Х к = 300  В    это  даёт  /\ (Х) =  2,5 х 300 / 100 = 7,5  В  ~  8 В;  относительная

 jo = /\ o x 100 / X = 7,5 x 100 / 267,5  = 2,81 % ~ 2,8 % .

    Так  как  первая  значащая  цифра  значения  абсолютной  погрешности  (7,5 В) больше  трех, то  это  значение  должно  быть  округлено  по  обычным  правилам  округления  до  8 В,  но  в  значении  относительной  погрешности  (2,81 %)  первая  значащая  цифра  меньше  3,  поэтому  здесь  должны  быть  сохранены  в  ответе  два  десятичных  разряда  и  указано  j (x) = 2,8 %.  Полученное  значение  Х = 267,5  В  должно  быть  округлено  до  того  же  десятичного  разряда,  которым  оканчивается  округленное  значение  абсолютной  погрешности ,  т. е.  до  целых  единиц  вольт.

      Таким  образом,  в  окончательном  ответе  должно  быть  сообщено: "Измерение  произведено  с  относительной  погрешностью  j (x) = 2,8 % .  Измеренное  напряжение  Х = (268 + 8)  В  или Х = 268 В + 8 В.

      При  этом  более  наглядно  указать  пределы  интервала  неопределенности  измеренной  величины  в  виде  Х = (260  - 276) В  или  260 В < X < 276 В.

      Наряду  с  изложенными  правилами  округления  значений  погрешностей  результатов  измерения  иногда  предлагаются  более  обоснованные,  но  и  более  сложные  правила.  Недостаток  изложенных  правил  состоит  в  том,  что  относительная  погрешность  от  округления  изменяется  скачком  при  переходе,  например, от  числа  0,29,  когда  она  составляет (0,30 - 0,29) / 0,30 = 3 %,  к  числу  0,3,  когда  она  будет  (0,4 - 0,3) / 0,3 = 30 %.  Для  устранения  столь  резкого  скачка  относительной  погрешности  округления  предлагается  каждую  декаду  возможных  значений  округляемой  погрешности  делить  на  три  части: от 0,1 до 0,2,  от  0,2  до       

0,5  и  от  0,5  до  1,0,  и  в  каждой  из  этих  частей  использовать  свой  шаг  округления,  соответственно  равный  0,02, 0,05  и  0,1.  Тогда  ряд  разрешенных  к  употреблению  округленных  значений  погрешностей  получает  вид: 0,10 - 0,12 - 0,14 - 0,16 - 0,18 - 0,20 - 0,25 - 0,30 - 0,35 - 0,40 - 0,45 - 0,5 - 0,6 - 0,7 - 0,8 - 0,9 - 1,0.  Бесспорное  преимущество  такого  ряда  состоит  в  том, что  погрешность  от  округления  на  границах  участков  изменяется  лишь  от  5  до 10 % . Однако  при  использовании  такого  правила  округления  погрешности последние цифры результата, оставляемые  после  округления,  также  должны  соответствовать  приведенному  ряду.

                 Из  книги  В.А.Кузнецова  и  Г.В.Ялунина    " МЕТРОЛОГИЯ

               теоретические,  прикладные  и  законодательные  основы "

                                 Москва,  Изд - во  стандартов, 1998 г.

стр. 215    7.6  Рекомендуемые  правила  по  округлению  результатов  измерений

       Результаты  измерений  следует  округлять  по  сложившимся  правилам.  В  основе  этих  правил  лежит  следующее  положение:  числовое  значение  результата  измерений  представляется  так, чтобы  оно  оканчивалось  десятичным  знаком  того  же  разряда,  какой  имеет  погрешность  этого  результата.

       Правила  округления  результата  измерений  для  случаев  обычных  измерений,  не  связанных  с  необходимостью  получения  высокоточных  результатов:

1)  погрешность  результата  измерений  представляется  с  одной  или  двумя  значащими  цифрами.  Две  значащие  цифры  приводятся  в  случае  выполнения  точных  измерений;

2)  результат  измерений  округляется  так,  чтобы  он  оканчивался  цифрой  того  же  разряда,  что  и  значение  погрешности.  Если  числовое  значение  результата  измерения  представляется  десятичной  дробью,  оканчивающейся  нулями, то  нули  отбрасываются  только  до  того   разряда,  который  соответствует  разряду  числового  значения  погрешности;

3)      если  цифра  старшего  из  отбрасываемых  разрядов  меньше  5,  то  остающиеся  цифры  в

 числе  не  изменяют.  Если  эта  цифра  равна  или  больше  5,  то  последнюю  оставляемую  цифру  увеличивают  на  единицу.  Лишние  цифры  в  целых  числах  заменяют  нулями, а  в  десятичных  дробях  отбрасывают.  Например, числовое  значение  результата  измерения  составляет  25,458  при  погрешности  результата,  выраженной  пределами  +  0 ,02;  округление  результата  будет  25,46.  Если  пределы  погрешности  имеют  + 0,002,  то  числовое  значение  результата  сохраняется  полностью.  Числовое  значение  результата  измерений  105553  получено  с  погрешностью  + 0,0005.  В  нем  сохраняются  четыре  значащие  цифры  и  округление  даст  число  105600;  если  числовое  значение  результата  105,553,  то  при  тех  же  условиях  округление  дает  число  105,6;

4)  если  отбрасываемая  цифра  равна  пяти,  а  следующие  за  ней  цифры  неизвестны (отсутствуют)  или  нули,  то  последнюю  сохраняемую  цифру  числа  не  изменяют, если  она  четная,  и  увеличивают  на  единицу, если  она  нечетная.  Число  105,5  при  сохранении  трех  значащих  цифр  округляют  до  106;

5)  правила,  изложенные  в  п.1...4, применяются  только  при  округлении  окончательных  результатов.  Все  промежуточные  результаты  целесообразно  представлять  тем  числом  разрядов,  которые  удается  получить