ClassPad 300 PLUS Sistema operativo ClassPad versão 2.20 Manual de Instruções

20050501
4 Número de dígitos e precisão
k Número de dígitos
Modo Padrão
O seguinte é aplicável quando a caixa de verificação próxima a [Decimal Calculation] na
caixa de diálogo “Formato básico” não está seleccionada.
•Até 611 dígitos são armazenados na memória para valores inteiros.
•Os valores decimais até 15 dígitos são convertidos para o formato fraccionário e
guardados na memória. Quando uma expressão matemática não pode ser convertida para
o formato fraccionário, o resultado é visualizado no formato decimal.
•Os valores armazenados na memória são visualizados como são, independentemente de
como as definições [Display] (Normal 1, Normal 2, Fix 0 – 9, Sci 0 – 9) estiverem
configuradas (excepto quando um valor decimal for visualizado).
Modo Decimal
O seguinte é aplicável quando a caixa de verificação próxima a [Decimal Calculation] na
caixa de diálogo “Formato básico” está seleccionada.
•Os valores armazenados na memória Ans têm o mesmo número de dígitos quando têm ao
serem visualizados. Um valor que é atribuído a uma variável tem o mesmo número de
dígitos conforme definido para os valores do modo Padrão.
•Os valores são visualizados de acordo com as definições [Display] (Normal 1, Normal 2,
Fix 0 – 9, Sci 0 – 9).
•Os valores visualizados são arredondados para o número apropriado de casas decimais.
•Algumas aplicações armazenam os valores utilizando uma mantissa de até 15 dígitos e
um expoente de 3 dígitos.
k Precisão
•Os cálculos internos são realizados utilizando 15 dígitos.
•O erro para uma única expressão matemática (erro de cálculo do modo Decimal) é ±1 no
10° dígito. No caso da visualização exponencial, o erro de cálculo é ±1 no dígito menos
significativo. Repare que realizar cálculos consecutivos torna o erro cumulativo. O erro
também é cumulativo para cálculos internos consecutivos realizados para: ^(x
y
),
x
, x!,
nPr, nCr, etc.
•O erro é cumulativo e tende a ser maior na proximidade de (um) ponto(s) singular(es) e
ponto(s) de inflexão das funções, e na proximidade de zero. Com sinh(x) e tanh(x), por
exemplo, o ponto de inflexão ocorre quando x = 0. Nesta proximidade, o erro é cumulativo
e a precisão é inferior.
α -4-1
Número de dígitos e precisão