Вычислительная математика (Численные методы Тема: Элементы теории погрешностей.
Определить какое равенство точнее исправить мой вариант. Если неправильно покажите как это решить.
Какое равенство точнее 8/13 = 0,615; √ 7 = 2,646
Обозначим a = 8/13 = 0,6153, ã = 1,71; b = √ 7 = 2,6457, b̃= 2,646
Тогда ∆ã =|a – ã| ≤ -1,0947 = ∆ἃ, ∆b̃ =|b – | ≤ -2,4868 = ∆b̃
δã = ∆ã/ã ≤ -1,0947 = -1,09%, ∆b̃ = ∆b̃ /b̃ ≤ -2,4868 = -2,48%
Так как δã = -1,09% > ∆b̃ = -2,48%, то равенство √ 7 = 2,646 определено точнее
ответ: равенство √ 7 = 2,646 определено точнее