User manual - ClassPadII_UG

Anhang 292
Stellenanzahl und Genauigkeit
Stellenanzahl
Standardmodus
Folgendes gilt, wenn das Kontrollkästchen neben
dem Eintrag „Decimal Calculation“ im Grundformat-
Dialogfeld nicht aktiviert ist.
Für ganzzahlige Werte werden bis zu 611 Stellen
gespeichert.
Dezimalzahlen mit bis zu 15 Stellen werden in
Brüche umgewandelt und gespeichert. Wenn ein
mathematischer Ausdruck nicht in einen Bruch
umgewandelt werden kann, wird das Ergebnis im
Dezimalformat angezeigt.
Die gespeicherten Werte werden so angezeigt,
wie sie sind, unabhängig von der Konfiguration der
[Number Format]-Einstellungen (Normal 1, Normal
2, Fix 0 bis Fix 9, Sci 0 bis Sci 9) (außer bei Anzeige
eines Dezimalwerts).
Dezimalmodus
Folgendes gilt, wenn das Kontrollkästchen neben
der Option „Decimal Calculation“ des Grundformat-
Dialogfelds aktiviert ist.
Werte im Ans-Speicher und Variablen zugewiesene
Werte haben dieselbe Anzahl Stellen, wie sie für
Standardmoduswerte festgelegt wurde.
Die Werte werden in Abhängigkeit von der
Konfiguration der [Number Format]-Einstellungen
(Normal 1, Normal 2, Fix 0 bis Fix 9, Sci 0 bis Sci 9)
angezeigt.
Angezeigte Zahlenwerte werden auf eine geeignete
Anzahl von Dezimalstellen gerundet.
Einige Anwendungen speichern Werte mit einer
Mantisse von bis zu 15 Stellen und einem 3-stelligen
Exponenten.
Genauigkeit
Interne Berechnungen werden mit 15 Stellen durchgeführt.
Der Fehler für einen mathematischen Ausdruck (Berechnungsfehler im Dezimalmodus) beträgt an der 10.
Stelle ±1. Bei Exponentialanzeige beträgt der Rechenfehler ±1 an der niedrigwertigsten Stelle. Beachten
Sie, dass sich der Fehler durch Folgberechnungen kumulieren kann. Der Fehler kann sich auch für interne
Folgeberechnungen für folgende Funktionen kumulieren: ^(
x
y
),
x
', x!, nPr, nCr usw.
In der Nähe der singulären Punkte und der Wendepunkte einer Funktion sowie in der Nähe von Null ist der
Fehler kumulativ und tendenziell größer. Mit sinh(
x) und tanh(x) liegt der Wendepunkt beispielsweise bei x =
0. In der Nähe dieses Wertes ist der Fehler kumulativ und die Genauigkeit gering.