User manual - BCDライブラリマニュアルver.1.03(2012年3月29日)
1
1. 概要
BCD ライブラリは、加減乗除等の各種演算機能を提供します。
演算精度
BCD 演算の演算精度は 2 種類あり、桁数、数値範囲は次の値になります。
精度 内部桁数 有効桁数 数値範囲
単精度 13 桁 10 桁 ±(1*10
-99
~9.999999999999*10
99
)と 0
倍精度 25 桁 22 桁 ±(1*10
-99
~9.999999999999999999999999*10
99
)と 0
※ BCD 関数で使用する精度は bcd_accuracy 関数を呼ぶことで変更できます。(デフォルト:倍精
度)
丸め処理
BCD ライブラリでは、有効桁外で演算結果の丸めを行います。
また、四則演算では、丸め処理を行わない関数が別に用意されています。
単精度 演算結果の 11 桁目~13 桁目が
000 ~ 007 の場合: 切り捨て
*92 ~ *99 (*:0~8) の場合: 12 桁目+1,13 桁目 ← 0
990 ~ 999 の場合: 12 桁目+1,13 桁目 ← 0
倍精度 演算結果の 23 桁目~25 桁目が
000 ~ 007 の場合: 切り捨て
*92 ~ *99 (*:0~8) の場合: 24 桁目+1,25 桁目 ← 0
990 ~ 999 の場合: 24 桁目+1,25 桁目 ← 0