ClassPad 300 PLUS ClassPad OS Versión 2.20 Guía del usuario

20050501
4 Número de dígitos y precisión
k Número de dígitos
Modo estándar
Cuando el cuadro de marcación junto a “Decimal Calculation” en el cuadro de diálogo de
formato básico no está seleccionado, se aplica lo siguiente.
•Para los valores enteros, se almacenan hasta 611 dígitos en la memoria.
• Los valores decimales de hasta 15 dígitos se convierten al formato fraccionario y se
guardan en la memoria. Cuando una expresión matemática no se puede convertir al
formato fraccionario, el resultado se muestra en el formato decimal.
• Los valores almacenados en la memoria se muestran tal como son, independientemente
de la configuración de [Display] (Normal 1, Normal 2, Fix 0 – 9, Sci 0 – 9) (excepto cuando
se muestra un valor decimal).
Modo decimal
Cuando el cuadro de marcación junto a “Decimal Calculation” en el cuadro de diálogo de
formato básico está seleccionado, se aplica lo siguiente.
• Los valores almacenados en la memoria de respuesta (ans) tienen el mismo número de
dígitos que tenían cuando aparecían en pantalla. Un valor que se asigna a una variable
tiene el mismo número de dígitos que el definido para los valores del modo estándar.
• Los valores se muestran de acuerdo a la configuración de [Display] (Normal 1, Normal 2,
Fix 0 – 9, Sci 0 – 9).
• Los valores que aparecen se redondean al número apropiado de lugares decimales.
•Algunas aplicaciones almacenan los valores usando una mantisa de hasta 15 dígitos y un
exponente de 3 dígitos.
k Precisión
• Los cálculos internos se realizan usando 15 dígitos.
•El error para una única expresión numérica (error de cálculo del modo decimal) es ±1 en el
décimo dígito. En el caso del formato exponencial, el error de cálculo es ±1 en el dígito
menos significativo. Tenga en cuenta que al realizar cálculos el error se acumula. El error
también es acumulativo para los cálculos consecutivos internos realizados por: ^(x
y
),
x
,
x!, nPr, nCr, etc.
•El error es acumulativo y tiende a ser mayor cerca de un punto(s) singular(es) y de un
punto(s) de inflexión de una función, y cerca de cero. Con sinh(x) y tanh(x), por ejemplo, el
punto de inflexión está en x = 0. Alrededor del mismo, el error es acumulativo y la precisión
es pobre.
α -4-1
Número de dígitos y precisión