User manual - fx-7400GII_Soft

A-77
* Para um cálculo simples, o erro de cálculo é p1 no 10.º dígito. (No caso de visualização
exponencial, o erro de cálculo é p1 no último dígito significativo.) Os erros são cumulativos no
caso de cálculos consecutivos, o que também pode torná-los grandes. (Isto também é verdade
para cálculos consecutivos internos que são realizados no caso de ^(
x
y
),
x

y
, x!,
3

x
, nPr, nCr,
etc.)
Nas proximidades de um ponto singular e ponto de inflexão de uma função, os erros são
cumulativos e podem tornar-se grandes.
Função Intervalo de introdução
Cálculos
binários, octais,
decimais e
hexadecimais
Depois de uma conversão, os valores ficam dentro dos seguintes intervalos:
DEC: –2147483648 
x  2147483647
BIN: 1000000000000000  x  1111111111111111 (negativo)
0 
x  111111111111111 (0, positivo)
OCT: 20000000000 
x  37777777777 (negativo)
0 
x  17777777777 (0, positivo)
HEX: 80000000 
x  FFFFFFFF
0  x  7FFFFFFF (0, positivo)