10. Машинний нуль. Похибка округлення.

Машинный ноль (англ. computer zero) — представление нуля в вычислительной системе. Машинным нулём обозначаются числа, абсолютная величина которых меньше наименьшей ненулевой величины из диапазона изменения чисел данной вычислительной системы и эта величина равна 2.3*10^-39

Проблема машинного нуля в том, что два числа считаются одинаковыми, если они отличаются на величину, меньшую по модулю, чем машинный ноль.

При представлении чисел со знаком в обратных двоичных кодах существуют проблема наличия двух обратных кодов числа 0: «положительный нуль» и «отрицательный нуль».

Cкладовою методичної похибки є похибка округлення (rounding error), яка виникає завдяки скінченній довжині розрядної сітки комп’ютера, що призводить до наближеного представлення дійсних чисел. Величина цієї похибки визначається не тільки довжиною розрядної комп’ютерної сітки, а також чутливістю конкретного алгоритму до похибок округлення.