str時の切上について

皆さんこんにちはTOP@KAWAと申します。

　ﾊﾞｯﾁ処理にて金額をある項目に集計してその値をテキスト項目にＳＴＲ変換しているのですが内容が変わって変換されてきてしまう現象が発生しました。（少数点が切り捨てられた状態でstr変換される。）

　具体的には

　11043692 + 563100 + 9630.5 ⇒11616422.5　

数値項目(11616423) ⇒ 文字項目(11616422）と変換されてしまいます。

　処理内容は　レコード後処理にて

　1..数値項目に内容を加算　

　2.その直後に加算結果を文字項目にSTR変換（　ＳＴＲ(数値項目,'10P0') )

ですがそれ以外の同じパターンの場合は問題なく切上後の状態で変換されています。

　（今回初めて発生しました）

　両項目ともにMSSQLを使用しております。

　今回のような現象に遭われた方、何か心当たりがある方はご教授いただいたくお願いします。

Tanda

AIS川島さん、

変数だけで簡単なプログラムを作って試してみるといいですよ。
私のところでは正常に計算されました。

AIS川島

TOP@KAWAです。

　連絡ありがとうございます。　私も簡単なサンプルPGで検証しましたが正常に動作しました。

データ型のFLOATとか影響しますでしょうか？　Pervasive時代から使用していますがそのとき発生しませんでした。MSSQLでも一年間運用したのですが問題ありませんでした。

更に検証行います。

単にプログラムの作りの問題のような気がしますよ。データの丸め方を見直しされるといいと思います。

コメント