エンジニア

はじめに

最近、C#の実装で浮動小数点の減算処理で丸め誤差に起因するバグで数時間ハマったので調べてみようと思います。
これが正解化はさておき、対応策をいくつか提示します。

ハマったコードdouble a = 0.410;d ...