User manual - fx-7400GII_Soft

A-77
* For en enkelt beregning ligger regnefeilen innenfor p1 ved 10. siffer. (Ved eksponentiell visning
ligger regnefeilen innefor p1 i siste signifikante siffer.) I påfølgende beregninger akkumuleres
feilene, og det kan føre til at de blir store. (Dette er også tilfellet for interne påfølgende beregninger
som utføres for ^(
x
y
),
x

y
, x!,
3

x
, nPr, nCr, osv.)
I nærheten av en funksjons absolutte ekstrempunkt eller vendepunkt, akkumuleres feilene og kan
bli store.
Funksjon Inndataområde
Binære, oktale,
desimale og
heksadesimale
beregninger
Verdiene ligger innenfor følgende områder etter konvertering:
DEC: –2147483648 
x  2147483647
BIN: 1000000000000000  x  1111111111111111 (negativ)
0  x  111111111111111 (0, positiv)
OCT: 20000000000  x  37777777777 (negativ)
0  x  17777777777 (0, positiv)
HEX: 80000000  x  FFFFFFFF (negativ)
0 
x  7FFFFFFF (0, positiv)