User Manual

S-33
19: km/h ' m/s 20: m/s ' km/h 21: oz ' g
22: g ' oz 23: lb ' kg 24: kg ' lb
25: atm ' Pa 26: Pa ' atm 27: mmHg ' Pa
28: Pa ' mmHg 29: hp ' kW 30: kW ' hp
31: kgf/cm
2
' Pa 32: Pa ' kgf/cm
2
33: kgf • m ' J
34: J ' kgf
• m 35: lbf/in
2
' kPa 36: kPa ' lbf/in
2
37: °F ' °C 38: °C ' °F 39: J ' cal
40: cal ' J
Los datos de fórmulas de conversión se basan en el documento “NIST
Special Publication 811 (2008)”.
Nota: El comando J'cal realiza conversión de valores a 15°C de
temperatura.
Rangos de cálculo, cantidad de
dígitos y precisión
Rango del cálculo y precisión
Rangos de cálculo
±1 × 10
–99
a ±9,999999999 × 10
99
o 0
Cantidad de dígitos
usados internamente
en el cálculo
15 dígitos
Precisión
En general, ±1 en el 10.° dígito para
un cálculo individual. La precisión con
visualización exponencial es ±1 sobre
el dígito menos significativo. En el caso
de cálculos consecutivos los errores se
propagan acumulativamente.
Rangos de entrada de cálculo de funciones y
precisión
Funciones Rango de entrada
sen
x
cosx
DEG
0  |
x|  9 × 10
9
RAD
0  |
x|  157079632,7
GRA
0  |
x|  1 × 10
10
tanx
DEG
El mismo que sen
x, excepto cuando x =
(2n−1)  90.
RAD
El mismo que sen
x, excepto cuando x =
(2n−1)  π/2.
GRA
El mismo que sen
x, excepto cuando x =
(2n−1)  100.