User manual - CP330ver303

20070301
4 Antal cifre og præcision
k
Antal cifre
Standardtilstand
Det følgende er relevant, når afkrydsningsfeltet ved siden af "Decimal Calculation"
i dialogboksen Basic Format ikke er markeret.
• Op til 611 cifre lagres i hukommelsen til heltalsværdier.
• Decimalværdier på op til 15 cifre konverteres til brøkformat og gemmes i hukommelsen.
Når et matematisk udtryk ikke kan konverteres til brøkformat, vises resultatet i
decimalformat.
• Værdier gemt i hukommelsen vises, som de er uanset indstillinger for [Number Format]
(Normal 1, Normal 2, Fix 0 – 9, Sci 0 – 9) konfigureres (undtagen når en decimalværdi
vises).
Decimaltilstand
Det følgende er relevant, når afkrydsningsfeltet ved siden af "Decimal Calculation"
i dialogboksen Basic Format er markeret.
• Værdier, som er gemt i Ans-hukommelsen og værdier, som er tildelt variabler, har det
samme antal cifre som defineret for Standard-funktionsværdier.
• Værdier vises i overensstemmelse med konfigurationen af indstillinger for [Number Format]
(Normal 1, Normal 2, Fix 0 – 9, Sci 0 – 9).
• De viste værdier afrundes til det passende antal decimaler.
• Nogle programmer gemmer værdier ved hjælp af en mantisse op til 15 cifre lang
og en 3-cifret eksponent.
k
Præcision
• Interne beregning udføres ved hjælp af 15 cifre.
• Fejlen for et enkelt matematisk udtryk (beregningsfejl i decimaltilstand) er
±
1 ved det 10.
ciffer. Ved eksponentialvisning er beregningsfejlen
±
1 for det mindst betydende ciffer.
Bemærk, at udførelse af fortløbende beregninger forårsager kumulative fejl. Fejl er også
kumulative for interne, fortløbende beregninger udført for: ^(
x
y
),
x
'
,
x
!,
n
P
r
,
n
C
r
osv.
• Fejl er kumulative, hvorfor fejlene kan blive omfattende, ved overgangen af en funktions
singulære punkt(er), vendetangentspunkt(er) og nul. Med f.eks. sinh (
x
) og tanh (
x
) opstår
vendetangentspunktet, når
x
= 0. Ved denne overgang er fejl kumulative, og præcisionen
er dårlig.
α
-4-1
Antal cifre og præcision