User manual - Instruktionshäfte Bilagor

440
Funktion
Binära,
oktala,
decimala,
hexadecimala
beräkningar
Inmatningsomfång
Värden faller inom följande omfång efter omvandling:
DEC: –2147483648 < x < 2147483647
BIN: 1000000000000000 < x
< 1111111111111111 (negativa)
0 < x < 0111111111111111 (0, positiva)
OCT: 20000000000 < x < 37777777777 (negativa)
0 < x < 17777777777 (0, positiva)
HEX: 80000000 < x < FFFFFFFF (negativa)
0 < x < 7FFFFFFF (0, positiva)
* För en enskild beräkning är felmarginalen ±1 vid den 10:e siffran. (Ifråga om exponentvisning är
felmarginalen ±1 vid den minst signifikanta siffran.) Vid fortlöpande beräkning ackumuleras felen,
vilket kan göra felmarginalen ganska stor. (Detta gäller även för interna fortlöpande beräkningar
som utförs med ^(x
y
),
x
y, x!,
3
x, nPr, nCr o.dyl.)
I närheten av en funktions entalspunkt och inflexionspunkt kan fel ackumuleras och bli ganska
betydande.
Bilaga D Inmatningsomfång