ClassPad 300 PLUS ClassPad OS Version 2.20 Brugervejledning

20050501
4 Antal cifre og præcision
k Antal cifre
Standardtilstand
Det følgende er relevant, når afkrydsningsfeltet ved siden af "Decimal Calculation"
i dialogboksen Basic Format ikke er markeret.
• Op til 611 cifre lagres i hukommelsen til heltalsværdier.
• Decimalværdier på op til 15 cifre konverteres til brøkformat og gemmes i hukommelsen.
Når et matematisk udtryk ikke kan konverteres til brøkformat, vises resultatet i decimalformat.
• Værdier gemt i hukommelsen vises, som de er uanset indstillinger for [Display]
(Normal 1, Normal 2, Fix 0 – 9, Sci 0 – 9) konfigureres (undtagen når en decimalværdi vises).
Decimaltilstand
Det følgende er relevant, når afkrydsningsfeltet ved siden af "Decimal Calculation"
i dialogboksen Basic Format er markeret.
• Værdier lagret i hukommelsen Ans har samme antal cifre, som de havde, da de blev
vist. En værdi, der tildeles til en variabel, har samme antal cifre som defineret for
standardtilstandværdier.
• Værdier vises i overensstemmelse med konfigurationen af indstillinger for [Display]
(Normal 1, Normal 2, Fix 0 – 9, Sci 0 – 9).
• De viste værdier afrundes til det passende antal decimaler.
• Nogle programmer gemmer værdier ved hjælp af en mantisse op til 15 cifre lang
og en 3-cifret eksponent.
k Præcision
• Interne beregning udføres ved hjælp af 15 cifre.
•Fejlen for et enkelt matematisk udtryk (beregningsfejl i decimaltilstand) er ±1 ved det 10.
ciffer. Ved eksponentialvisning er beregningsfejlen ±1 for det mindst betydende ciffer.
Bemærk, at udførelse af fortløbende beregninger forårsager kumulative fejl. Fejl er også
kumulative for interne, fortløbende beregninger udført for: ^(x
y
),
x
, x!, nPr, nCr osv.
•Fejl er kumulative, hvorfor fejlene kan blive omfattende, ved overgangen af en funktions
singulære punkt(er), vendetangentspunkt(er) og nul. Med f.eks. sinh (x) og tanh (x) opstår
vendetangentspunktet, når x = 0. Ved denne overgang er fejl kumulative, og præcisionen
er dårlig.
α -4-1
Antal cifre og præcision