ИНСТРУКЦИЯ ПО ЭКСПЛУАТАЦИИ
Диапазоны вычислений,
количество знаков и точность
Диапазон вычислений, количество цифр, используемых для
внутренних вычислений, и точность вычислений зависит от типа
выполняемого вычисления.
Диапазон и точность вычислений
Диапазон
вычислений
От ±1 × 10
-99
до ±9,999999999 × 10
99
или 0
Количество цифр для
внутреннего расчета
15 цифр
Точность
В среднем ±1 на 10-й цифре для
единичного вычисления. Точность для
представления в экспоненциальном
формате ±1 на наименее значимой цифре.
В случае выполнения последовательных
вычислений погрешность накапливается.
Диапазоны вводимых значений и точность при
вычислении функций
Функции Диапазон вводимых значений
sinx
cosx
Deg
0 ≦ |x| < 9 × 10
9
Rad
0 ≦ |x| < 157079632,7
Gra
0 ≦ |x| < 1 × 10
10
tanx
Deg
Как для sinx, за исключением |x| =
(2n-1) × 90.
Rad
Как для sinx, за исключением |x| =
(2n-1) × π/2.
Gra
Как для sinx, за исключением |x| =
(2n-1) × 100.
86