今日は1円、2円に泣かされる....
まずは2円の差。
1.金額/数量 → 単価(ただし、小数点以下2桁まで有効、3桁目で四捨五入
上で求めた単価を使って
2.単価×数量 → 金額(小数点以下1桁目で四捨五入した整数)
1.の金額と2の金額は必ずしも一致しないですよね?(笑)
わかっちゃいるけど~誤差の補正機能が働いていませんでした..しくしく
もひとつ.の問題は浮動小数点の誤差....(こっちは1円の差)
使っているのはCFMLなんだけれど、自動補正してくれないんですねぇ。
JavaScriptも駄目だねぇ~
結局自前で対応しちゃったよ。
(といってもFloatに1000かけてから計算をして、あとから結果を1000で割ったの)
なんかなぁ~~誤差にばっか振り回された一日だったのでした。
#一般的にはどのように対応されていらっしゃるのでしょう?
よく使う機能なのに、パッケージ化されていないワケがない...と思う。
Java(tm)には、java.math.BigDecimalというパッケージがあるけれど
同じようになのがないのかしら?
あるべき対応の姿、もちっと研究いたします(^^;
投稿者 megu : 2004年01月28日 12:36
