WOP_TRUNCATEについて

[Mori]

お世話になっております。

現在ＶＥＲＳＩＯＮ2.0Ｊで開発をおこなっております。
wrSetDouble関数について質問があるのですが、パラメータとして
DOUBLE　nValueは999.9
BOOLsbCommaEditはFALSE
UINTsnDecimalPointは1
UINTsnnRoundはWOP_TRUNCATE
UINTsnCharConvはWOP_EDITHNUM
UINTsnFlagはWOP_EDITFPADDINGZERO
をセットしている関数で以下の問題が発生しています。
上記パラメータでウィングレポート出力すると、999.8と出力され0.1ずれた結果が出力されます。
ちなみに、nValueを999.5とするとウィングレポート上は999.5と出力されます。

この現象が発生する原因を教えていただけませんでしょうか。

以上です。宜しくお願いします。

[松嶋＠ソフトウィング]

お世話になっております。

ご連絡頂きました現象ですが、浮動小数点の仕様上999.9は表
現することの出来ない値となり、近似値として999.89999999..
の様な値が使用されるために発生致します。
この誤差が問題になる場合はお客様のアプリケーション側にて
文字列へ変換後にテキストとして出力してください。

ご迷惑をお掛けして申し訳ございませんが、宜しくお願い致し
ます。

[投稿者]

投稿