User manual - fx-9860GII_Soft
A-77
* Yksittäisessä laskutoimituksessa laskentavirhe on p1 kymmenennessä numerossa.
(Eksponentiaalisessa näytössä laskentavirhe on p1 viimeisessä merkitsevässä numerossa.)
Virheet ovat kumulatiivisia peräkkäisten laskutoimitusten tapauksessa, minkä vuoksi virheet voivat
olla suuria. (Tämä koskee myös sisäisiä peräkkäisiä laskutoimituksia, joita suoritetaan esimerkiksi
seuraavissa tapauksissa ^(
x
y
),
x
y
, x!,
3
x
, nPr, nCr, jne.)
Funktion singulaaripisteen ja käännepisteen läheisyydessä virheet ovat kumulatiivisia, ja ne voivat
olla suuria.
Funktio Syöttöalue
Binääri-, oktaali-,
desimaali- ja
heksadesimaalilaskenta
Muunnoksen jälkeen arvot ovat seuraavilla alueilla:
DEC: –2147483648
x 2147483647
BIN: 1000000000000000 x 1111111111111111 (negatiivinen)
0 x 111111111111111 (0, positiivinen)
OCT: 20000000000 x 37777777777 (negatiivinen)
0 x 17777777777 (0, positiivinen)
HEX: 80000000
x FFFFFFFF (negatiivinen)
0
x 7FFFFFFF (0, positiivinen)