Operation Manual

440

Funktion

Binär-,

Oktal-,

Dezimal-,

Hexadezimal-

Rechnung

Eingabebereich

Werte fallen nach der Umwandlung in die folgenden Bereiche:

DEC: –2147483648 < x < 2147483647

BIN: 1000000000000000 < x

< 1111111111111111 (negativ)

0 < x < 0111111111111111 (0, positiv)

OCT: 20000000000 < x < 37777777777 (negativ)

0 < x < 17777777777 (0, positive)

HEX: 80000000 < x < FFFFFFFF (negativ)

0 < x < 7FFFFFFF (0, positiv)

* Für eine einzelne Rechnung beträgt der Rechenfehler ±1 an der 10. Stelle. (Bei

Exponenzialanzeige beträgt der Rechenfehler ±1 an der niedrigwertigsten Stelle.) Die Fehler

summieren sich bei fortlaufenden Rechnungen, und können dabei groß werden. (Dies trifft auch auf

interne kontinuierliche Rechnungen zu, die zum Beispiel im Falle von ^(x

y, x!,

x , nPr, nCr

usw. ausgeführt werden.)

In der Nähe des singulären Punktes einer Funktion und des Wendepunktes summieren sich die

Fehler und können groß werden.

Anhang D Eingabebereiche