User manual - File 2

– 87 –
■演算範囲・演算桁数・精度について
本機の演算範囲（入出力が可能な数値の範囲）、内部演算桁数、
および精度は、一般に下表の通りです。
演算範囲
±1
×
10
–99
∼±9.999999999
×
10
99
および 0
内部演算桁数 15 桁
精度
原則として 1 回の計算につき 10 桁目の誤差
が± 1 となります。計算結果が指数方式の
数値となった場合の誤差は、仮数部の最下位
桁において± 1 となります。連続して計算を
行った場合は、この誤差が累積されます。
A
関数計算時の入力範囲
関数 入力範囲
sin
x
DEG 0
<
|
x
|
< 9
×
10
9
RAD 0 <
|
x
|
< 157079632.7
GRA 0
<
|
x
|
< 1
×
10
10
cos
x
DEG 0
<
|
x
|
< 9
×
10
9
RAD 0 <
|
x
|
< 157079632.7
GRA 0
<
|
x
|
< 1
×
10
10
tan
x
DEG sin
x
と同様、ただし、
|
x
|
= (2
n
–1)
×
90 を除く
RAD sin
x
と同様、ただし、
|
x
|
= (2
n
–1)
×
π / 2 を除く
GRA sin
x
と同様、ただし、
|
x
|
= (2
n
–1)
×
100 を除く
sin
–1
x
0
<
|
x
|
< 1
cos
–1
x
tan
–1
x
0
<
|
x
|
< 9.999999999
×
10
99
sinh
x
0
<
|
x
|
< 230.2585092
cosh
x
sinh
–1
x
0
<
|
x
|
< 4.999999999
×
10
99
cosh
–1
x
1
<
x
< 4.999999999
×
10
99
tanh
x
0 <
|
x
|
< 9.999999999
×
10
99
tanh
–1
x
0
<
|
x
|
< 9.999999999
×
10
–1
log
x
/ ln
x
0
<
x
< 9.999999999
×
10
99
10
x
–9.999999999
×
10
99
<
x
< 99.99999999
e
x
–9.999999999
×
10
99
<
x
< 230.2585092
'
x
0
<
x
<
1
×
10
100
x
2
|
x
|
< 1
×
10
50
1/
x
|
x
|
< 1
×
10
100
;
x
G
0
3
'
x
|
x
|
< 1
×
10
100