User Manual

α-7
Función
Rangos de entrada para
soluciones reales
Dígitos
internos
Precisión Notas
a
b
/c
El máximo de dígitos de
esta expresión, incluyendo
numerador, denominador y
el símbolo de división es de
10 dígitos.
15 dígitos
Como regla, la
precisión es ±1
en el décimo
dígito.*
* Para un único cálculo, el error de cálculo es ± 1 en el décimo dígito. (En el caso de visualización
exponencial, el error de cálculo es ± 1 en el último dígito significativo.) Dado que los errores
se acumulan, en el caso de cálculos consecutivos, pueden llegar a ser importantes. (Esto es
también cierto para cálculos consecutivos internos que se ejecutan en los casos de ^(
x
y
),
x
'
y
, x ! ,
3
'
x
, n P r , n C r , etc.)
En la vecindad de un punto singular de una función y de un punto de inflexión, los errores son
acumulativos y pueden llegar a ser grandes.
Función Rango de entrada
Cálculo binario,
octal, decimal y
hexadecimal
Después de una conversión, los valores caen dentro de los siguientes rangos:
DEC: –2147483648 <
x < 2147483647
BIN: 1000000000000000 <
x < 1111111111111111 (negativo)
0 < x < 111111111111111 (0, positivo)
OCT: 20000000000 <
x < 37777777777 (negativo)
0 <
x < 17777777777 (0, positivo)
HEX: 80000000 < x < FFFFFFFF (negativo)
0 <
x < 7FFFFFFF (0, positivo)