Задача № 1. Округление результатов измерений

При выполнении измерений важно соблюдать определенные правила округления и записи их результатов в технической документации, так как при несоблюдении этих правил возможны существенные ошибки в интерпретации результатов измерений.

Правила записи чисел

1. Значащие цифры данного числа - все цифры от первой слева, не равной нулю, до последней справа. При этом нули, следующие из множителя 10, не учитывают.

Примеры.

а) Число 12,0 имеет три значащие цифры.

б) Число 30 имеет две значащие цифры.

в) Число 12010 8 имеет три значащие цифры.

г) 0,51410 -3 имеет три значащие цифры.

д) 0,0056 имеет две значащие цифры.

2. Если необходимо указать, что число является точным, после числа указывают слово "точно" или последнюю значащую цифру печатают жирным шрифтом. Например: 1 кВт / ч = 3600 Дж (точно) или 1 кВт / ч = 3600 Дж.

3. Различают записи приближенных чисел по количеству значащих цифр. Например, различают числа 2,4 и 2,40. Запись 2,4 означает, что верны только целые и десятые доли, истинное значение числа может быть, например, 2,43 и 2,38. Запись 2,40 означает, что верны и сотые доли: истинное значение числа может быть 2,403 и 2,398, но не 2,41 и не 2,382. Запись 382 означает, что все цифры верны: если за последнюю цифру ручаться нельзя, то число должно быть записано 3,810 2 . Если в числе 4720 верны лишь две первые цифры, оно должно быть записано в виде: 4710 2 или 4,710 3 .

4. Число, для которого указывают допустимое отклонение, должно иметь последнюю значащую цифру того же разряда, как и последняя значащая цифра отклонения.

Примеры.

а) Правильно: 17,0 + 0,2. Неправильно: 17 + 0,2 или 17,00 + 0,2.

б) Правильно: 12,13+ 0,17. Неправильно: 12,13+ 0,2.

в) Правильно: 46,40+ 0,15. Неправильно: 46,4+ 0,15 или 46,402+ 0,15.

5. Числовые значения величины и её погрешности (отклонения) целесообразно записывать с указанием одной и той же единицы величины. Например: (80,555 + 0,002) кг.

6. Интервалы между числовыми значениями величин иногда целесообразно записывать в текстовом виде, тогда предлог "от" означает "", предлог "до"– "", предлог "свыше" – ">", предлог "менее" – "<":

"d принимает значения от 60 до 100" означает "60d 100",

"d принимает значения свыше 120 менее 150" означает "120 <d < 150",

"d принимает значения свыше 30 до 50" означает "30 <d 50".

Правила округления чисел

1. Округление числа представляет собой отбрасывание значащих цифр справа до определенного разряда с возможным изменением цифры этого разряда.

2. В случае если первая из отбрасываемых цифр (считая слева направо) менее 5, то последнюю сохраняемую цифру не меняют.

Пример: Округление числа 12,23 до трех значащих цифр дает 12,2.

3. В случае если первая из отбрасываемых цифр (считая слева направо) равна 5, то последнюю сохраняемую цифру увеличивают на единицу.

Пример: Округление числа 0,145 до двух цифр дает 0,15.

Примечание . В тех случаях, когда следует учитывать результаты предыдущих округлений, поступают следующим образом.

4. Если отбрасываемая цифра получена в результате округления в меньшую сторону, то последнюю оставшуюся цифру увеличивают на единицу (с переходом при необходимости в следующие разряды) , иначе – наоборот. Это касается и дробных и целых чисел.

Пример: Округление числа 0,25 (полученного в результате предыдущего округления числа 0,252) дает 0,3.

4. В случае если первая из отбрасываемых цифр (считая слева направо) более 5, то последнюю сохраняемую цифру увеличивают на единицу.

Пример: Округление числа 0,156 до двух значащих цифр дает 0,16.

5. Округление выполняют сразу до желаемого количества значащих цифр, а не по этапам.

Пример: Округление числа 565,46 до трех значащих цифр дает 565.

6. Целые числа округляют по тем же правилам, что и дробные.

Пример: Округление числа 23456 до двух значащих цифр дает 2310 3

Числовое значение результата измерения должно оканчиваться цифрой того же разряда, что и значение погрешности.

Пример: Число 235,732 + 0,15 должно быть округлено до 235,73 + 0,15, но не до 235,7 + 0,15.

7. Если первая из отбрасываемых цифр (считая слева направо) меньше пяти, то остающиеся цифры не меняются.

Пример: 442,749+ 0,4 округляется до 442,7+ 0,4.

8. Если первая из отбрасываемых цифр больше или равна пяти, то последняя сохраняемая цифра увеличивается на единицу.

Пример: 37,268 + 0,5 округляется до 37,3 + 0,5; 37,253 + 0,5 должно быть округлено до 37,3 + 0,5.

9. Округление следует выполнять сразу до желаемого числа значащих цифр, поэтапное округление может привести к ошибкам.

Пример: Поэтапное округление результата измерения 220,46+ 4 дает на первом этапе 220,5+ 4 и на втором 221+ 4, в то время как правильный результат округления 220+ 4.

10. Если погрешность средств измерения указывается всего с одной или двумя значащими цифрами, а рассчетное значение погрешности получают с большим числом знаков, в окончательном значении рассчитанной погрешности должны быть оставлены соответственно только первые одна или две значащие цифры. При этом, если полученное число начинается с цифр 1 или 2, то отбрасывание второго знака приводит к очень большой ошибке (до 3050 %), что недопустимо. Если же полученное число начинается с цифры 3 и более, например, с цифры 9, то сохранение второго знака, т.е. указание погрешности, например, 0,94 вместо 0,9, является дезинформацией, так как исходные данные не обеспечивают такой точности.

Исходя из этого на практике установилось такое правило: если полученное число начинается со значащей цифры, равной или большей 3, то в нем сохраняется лишь она одна; если же оно начинается со значащих цифр, меньших 3, т.е. с цифр 1 и 2, то в нем сохраняют две значащих цифры. В соответствии с этим правилом установлены и нормируемые значения погрешностей средств измерений: в числах 1,5 и 2,5 % указываются две значащих цифры, но в числах 0,5; 4; 6 % указывается лишь одна значащая цифра.

Пример: На вольтметре класса точности 2,5 с пределом измерений х К = 300 В был получен отсчет измеряемого напряжения х = 267,5 В. В каком виде должен быть записан результат измерения в отчете?

Расчет погрешности удобнее вести в следующем порядке: вначале необходимо найти абсолютную погрешность, а затем – относительную. Абсолютная погрешность х =  0 х К /100, для приведенной погрешности вольтметра  0 = 2,5 % и пределов измерения (диапазона измерения) прибора х К = 300 В: х = 2,5300/100 = 7,5 В ~ 8 В; относительная погрешность  = х 100/х = 7,5100/267,5 = 2,81 % ~ 2,8 % .

Так как первая значащая цифра значения абсолютной погрешности (7,5 В) больше трех, то это значение должно быть округлено по обычным правилам округления до 8 В, но в значении относительной погрешности (2,81 %) первая значащая цифра меньше 3, поэтому здесь должны быть сохранены в ответе два десятичных разряда и указано  = 2,8 %. Полученное значение х = 267,5 В должно быть округлено до того же десятичного разряда, которым оканчивается округленное значение абсолютной погрешности, т.е. до целых единиц вольт.

Таким образом, в окончательном ответе должно быть сообщено: "Измерение произведено с относительной погрешностью = 2,8 % . Измеренное напряжениеХ = (268+ 8) В".

При этом более наглядно указать пределы интервала неопределенности измеренной величины в виде Х = (260276) В или 260 ВX276 В.

При округлении оставляют лишь верные знаки, остальные отбрасывают.

Правило 1. Округление достигается простым отбрасыванием цифр, если первая из отбрасываемых цифр меньше, чем 5.

Правило 2. Если первая из отбрасываемых цифр больше, чем 5, то последняя цифра увеличивается на единицу. Последняя цифра увеличивается также и в том случае, когда первая из отбрасываемых цифр 5, а за ней есть одна или несколько цифр, отличных от нуля. Например, различные округления числа 35,856 будут 35,86; 35,9; 36.

Правило 3. Если отбрасываемая цифра равна 5, а за ней нет значащих цифр, то округление производится на ближайшее четное число, т.е. последняя сохраняемая цифра остается неизменной, если она четная и увеличивается на единицу, если она нечетная. Например, 0,435 округляем до 0,44; 0,465 округляем до 0,46.

8. ПРИМЕР ОБРАБОТКИ РЕЗУЛЬТАТОВ ИЗМЕРЕНИЙ

Определение плотности твердых тел. Предположим, твердое тело имеет форму цилиндра. Тогда плотность ρ может быть определена по формуле:

где D – диаметр цилиндра, h – его высота, m – масса.

Пусть в результате измерений m, D, и h получены следующие данные:

Определим среднее значение D̃:

Найдем погрешности отдельных измерений и их квадраты

Определим среднюю квадратичную погрешность серии измерений:

Задаем значение надежности α = 0,95 и по таблице находим коэффициент Стьюдента t α . n =2,8 (для n = 5). Определяем границы доверительного интервала:

Так как вычисленное значение ΔD = 0,07 мм значительно превышает абсолютную ошибку микрометра, равную 0,01 мм (измерение производится микрометром), то полученное значение может служить оценкой границы доверительного интервала:

D = D ̃ ± ΔD ; D = (12,61 ±0,07) мм.

Определим значение h̃:

Следовательно:

Для α = 0,95 и n = 5 коэффициент Стьюдента t α , n = 2,8.

Определяем границы доверительного интервала

Так как полученное значение Δh = 0,11 мм того же порядка, что и ошибка штангенциркуля, равная 0,1 мм (измерение h производится штангенциркулем), то границы доверительного интервала следует определить по формуле:

Следовательно:

Вычислим среднее значение плотности ρ:

Найдем выражение для относительной погрешности:

где

7. ГОСТ 16263-70 Метрология. Термины и определения.

8. ГОСТ 8.207-76 Прямые измерения с многократными наблюдениями. Методы обработки результатов наблюдений.

9. ГОСТ 11.002-73 (ст. СЭВ 545-77) Правила оценки аномальности результатов наблюдений.

Царьковская Надежда Ивановна

Сахаров Юрий Георгиевич

Общая физика

Методические указания к выполнению лабораторных работ «Введение в теорию погрешностей измерений» для студентов всех специальностей

Формат 60*84 1/16 Объем 1 уч.-изд. л. Тираж 50 экз.

Заказ ______ Бесплатно

Брянская государственная инженерно-технологическая академия

Брянск, проспект Станке Димитрова, 3, БГИТА,

Редакционно-издательский отдел

Отпечатано – подразделение оперативной печати БГИТА

В некоторых случаях, точное число при делении определенной суммы на конкретное число невозможно определить в принципе. Например, при делении 10 на 3, у нас получается 3,3333333333…..3, то есть, данное число невозможно использовать для подсчета конкретных предметов и в других ситуациях. Тогда данное число следует привести к определенному разряду, например, к целому числу или к числу с десятичным разрядом. Если мы приведем 3,3333333333…..3 к целому числу, то получим 3, а приводя 3,3333333333…..3 к числу с десятичным разрядом, получим 3,3.

Правила округления

Что такое округление? Это отбрасывание нескольких цифр, которые являются последними в ряду точного числа. Так, следуя нашему примеру, мы отбросили все последние цифры, чтобы получить целое число (3) и отбросили цифры, оставив только разряды десятков (3,3). Число можно округлять до сотых и тысячных, десятитысячных и прочих чисел. Все зависит от того, насколько точное число необходимо получить. Например, при изготовлении медицинских препаратов, количество каждого из ингредиентов лекарства берется с наибольшей точностью, поскольку даже тысячная грамма может привести к летальному исходу. Если же необходимо подсчитать, какая успеваемость учеников в школе, то чаще всего используется число с десятичным или с сотым разрядом.

Рассмотрим иной пример, в котором применяются правила округления. Например, имеется число 3,583333, которое необходимо округлить до тысячных - после округления, за запятой у нас должно остаться три цифры, то есть результатом станет число 3,583. Если же это число округлять до десятых, то у нас получится не 3,5, а 3,6, поскольку после «5» стоит цифра «8», которая приравнивается уже к «10» во время округления. Таким образом, следуя правилам округления чисел, необходимо знать, если цифры больше «5», то последняя цифра, которую необходимо сохранить, будет увеличена на 1. При наличии цифры, меньшей, чем «5», последняя сохраняемая цифра остается неизменной. Такие правила округления чисел применяются независимо от того, до целого числа или до десятков, сотых и т.д. необходимо округлить число.

В большинстве случаев, при необходимости округления числа, в котором последняя цифра «5», этот процесс выполняется неправильно. Но существует еще и такое правило округления, которое касается именно таких случаев. Рассмотрим на примере. Необходимо округлить число 3,25 до десятых. Применяя правила округления чисел, получим результат 3,2. То есть, если после «пяти» нет цифры или стоит ноль, то последняя цифра остается неизменной, но только при условии, что она является четной - в нашем случае «2» - это четная цифра. Если бы нам необходимо было выполнить округление 3,35, то результатом бы стало число 3,4. Поскольку, в соответствии с правилами округления, при наличии нечетной цифры перед «5», которую необходимо убрать, нечетная цифра увеличивается на 1. Но только при условии, что после «5» нет значащих цифр. Во многих случаях, могут применяться упрощенные правила, согласно которым, при наличии за последней сохраняемой цифрой значений цифр от 0 до 4, сохраняемая цифра не изменяется. При наличии других цифр, последняя цифра увеличивается на 1.

В математике округлением называют операцию, которая позволяет уменьшить в числе количество знаков при помощи их замены, учитывая определенные правила. Если вас интересует вопрос о том, до сотых, то для начала следует разобраться со всеми существующими правилами округления. Существует несколько вариантов того, как можно округлять числа:

1. Статистический - используют при уточнении численности жителей города. Говоря о количестве граждан, называют лишь приближенное значение, а не точную цифру.
2. Половинный - округление половины происходит до ближайшего четного числа.
3. Округление до меньшего числа (округление к нулю) - это самое легкое округление, при котором происходит отбрасывание всех «лишних» цифр.
4. Округление до большего числа - если знаки, которые хотят округлить, не равны нулю, то число округляют в большую сторону. Такой способ используют провайдеры или операторы сотовой связи.
5. Ненулевое округление - числа округляются по всем правилам, но когда результатом должен стать 0, то округление совершается «от нуля».
6. Чередующееся округление - когда N+1 равняется 5-ти, число поочередно округляют то в меньшую, то в большую сторону.

К примеру, вам нужно округлить число 21,837 до сотых. После округления вашим правильным ответом должно стать 21,84. Объясним, почему. Цифра 8 входит в разряд десятых, следовательно, 3 в разряд сотых, а 7 - тысячных. 7 больше 5-ти, поэтому мы увеличиваем 3-ку на 1, то есть до 4-х. Это совсем несложно, если знать несколько правил:

1. Последняя сохраняемая цифра увеличивается на один в том случае, если первая отбрасываемая перед ней - больше чем 5. Если же эта цифра равняется 5-ти и за ней имеются еще какие-либо другие цифры, то предыдущая также увеличивается на 1.

Например, нам нужно округлить до десятых: 54,69=54,7, или 7,357=7,4.

Если вам задали вопрос о том, как округлить число до сотых, действуйте аналогично представленному выше варианту.

2. Последняя сохраняемая цифра остается неизменной, если первая из отбрасываемых, которая стоит перед ней меньше чем 5.

Пример: 96,71=96,7.

3. Последняя из сохраняемых цифр остается неизменной при условии, что она четная, и если первая из отбрасываемых - это число 5, и за ним нет больше никаких цифр. Если же оставляемая цифра - нечетная, то она увеличивается на 1.

Примеры: 84,45=84,4 или 63,75=63,8.

Примечание. Во многих школах ученикам дают упрощенную версию правил округления, так что стоит иметь это в виду. В них все цифры остаются неизменными, если после них идут числа от 0 до 4 и увеличиваются на 1 при условии, что после стоит число от 5 до 9. Грамотно решать задачи с округлением по строгим правилам, но если в школе заведен упрощенный вариант, то во избежание недоразумений стоит придерживаться его. Надеемся, вы поняли, как округлить число до сотых.

Округление в жизни необходимо для удобства работы с числами и указания точности измерений. В настоящее время появилось такое определение, как анти-округление. Например, при подсчете голосов какого-либо исследования круглые числа считаются дурным тоном. Магазины тоже используют анти-округление для создания у покупателей впечатления более выгодной цены (к примеру, пишут 199, а не 200). Надеемся, что на вопрос о том, как округлить число до сотых или десятых, теперь вы сможете ответить и сами.

Если отображение ненужных разрядов вызывает появление знаков ######, или если микроскопическая точность не нужна, измените формат ячеек таким образом, чтобы отображались только необходимые десятичные разряды.

Или если вы хотите округлить число до ближайшего крупного разряда, например, тысячной, сотой, десятой или единицы, используйте функцию в формуле.

С помощью кнопки

Выделите ячейки, которые нужно отформатировать.

На вкладке Главная выберите команду Увеличить разрядность или Уменьшить разрядность , чтобы отобразить больше или меньше цифр после запятой.

С помощью встроенного числового формата

На вкладке Главная в группе Число щелкните стрелку рядом со списком числовых форматов и выберите пункт Другие числовые форматы .

В поле Число десятичных знаков введите число знаков после запятой, которые вы хотите отображать.

С помощью функции в формуле

Округлите число до необходимого количества цифр с помощью функции ОКРУГЛ . Эта функция имеет только два аргумента (аргументы - это части данных, необходимые для выполнения формулы).

Первый аргумент - это число, которое необходимо округлить. Он может быть ссылкой на ячейку или числом.

Второй аргумент - это количество цифр, до которого необходимо округлить число.

Предположим, что ячейка A1 содержит число 823,7825 . Вот как можно округлить его.

Чтобы округлить до ближайшей тысяч и

• Введите =ОКРУГЛ(A1;-3) , что равно 100 0

  Число 823,7825 ближе к 1000, чем к 0 (0 кратно 1000)

  В этом случае используется отрицательное число, поскольку округление должно состоятся влево от запятой. Такое же число применяется в следующих двух формулах, которые округляют до сотен и десятков.

Чтобы округлить до ближайших сотен

• Введите =ОКРУГЛ(A1;-2) , что равно 800

  Число 800 ближе к 823,7825, чем к 900. Наверное, теперь вам все понятно.

Чтобы округлить до ближайших десятков

• Введите =ОКРУГЛ(A1;-1) , что равно 820

Чтобы округлить до ближайших единиц

• Введите =ОКРУГЛ(A1;0) , что равно 824

  Используйте ноль для округления числа до ближайшей единицы.

Чтобы округлить до ближайших десятых

• Введите =ОКРУГЛ(A1;1) , что равно 823,8

  В этом случает для округления числа до необходимого количества разрядов используйте положительное число. То же самое касается двух следующих формул, которые округляют до сотых и тысячных.

Чтобы округлить до ближайших сотых

• Введите =ОКРУГЛ(A1;2) , что равно 823,78

Чтобы округлить до ближайших тысячных

• Введите =ОКРУГЛ(A1;3) , что равно 823,783

Округлите число в большую сторону с помощью функции ОКРУГЛВВЕРХ . Она работает точно так же, как функция ОКРУГЛ, за исключением того, что она всегда округляет число в большую сторону. Например, если необходимо округлить число 3,2 до ноля разрядов:

=ОКРУГЛВВЕРХ(3,2;0) , что равно 4

Округлите число вниз с помощью функции ОКРУГЛВНИЗ . Она работает точно так же, как функция ОКРУГЛ, за исключением того, что она всегда округляет число в меньшую сторону. Например, необходимо округлить число 3,14159 до трех разрядов:

=ОКРУГЛВНИЗ(3,14159;3) , что равно 3,141