User manual - fx-7400GII_Soft

A-66
Funktion
Indata-intervall för
reella lösningar
Interna
siffror
Noggrannhet Anmärkningar
° ’ ”
k}
° ’ ”
|a|, b, c < 1 s 10
100
0  b, c
15 siffror
Generellt är
noggrannheten
p1 vid den
10:e siffran.*
|x| < 1 s 10
100
Sexagesimalt resultat:
|
x| < 1 s 10
7
^(x
y
)
x > 0:
–1 s 10
100
< ylogx < 100
x = 0 : y > 0
x < 0 : y = n,
m
––––
2
n
+1
(
m, n är heltal)
Däremot;
–1 s 10
100
< y log |x| < 100
""
• Komplexa tal kan användas
som argument.
x

y
y
> 0 : x x 0
–1 × 10
100
<
1
x
logy < 100
y = 0 : x > 0
y < 0 : x = 2n+1,
2
n
+1
––––
m
(m x 0; m, n är heltal)
Däremot;
–1 × 10
100
<
1
x
log |y| < 100
""
• Komplexa tal kan användas
som argument.
a
b
/c
Heltalsdel, täljare och
nämnare kan bestå av
maximalt 10 siffror (inklusive
divisionsstreck).
""
* För enstaka beräkningar är noggrannheten p1 vid den 10:e siffran. (Om resultatet visas på
exponentialform är beräkningsfelet p1 vid den minst signifikanta siffran.) Vid beräkningar i följd
fortplantas felen, vilket gör att noggrannheten kan bli dålig vid långa beräkningsföljder. (Detta
gäller även interna beräkningsföljder, t.ex. vid ^(
x
y
),
x

y
, x!,
3

x
, nPr, nCr.)
I närheten av inflexionspunkter och singulariteter kan felet bli mycket stort.
Funktion Indataområde
Binär, oktal,
decimal och
hexadecimal
heltals-aritmetik
Värden ligger inom följande intervall efter konvertering:
DEC: –2147483648 
x  2147483647
BIN: 1000000000000000  x  1111111111111111 (negativt)
0  x  111111111111111 (0, positivt)
OCT: 20000000000  x  37777777777 (negativt)
0  x  17777777777 (0, positivt)
HEX: 80000000  x  FFFFFFFF (negativt)
0  x  7FFFFFFF (0, positivt)