C#の浮動小数点型の丸め誤差でハマったので対策を考える
はじめに
最近、C#の実装で浮動小数点の減算処理で丸め誤差に起因するバグで数時間ハマったので調べてみようと思います。
これが正解化はさておき、対応策をいくつか提示します。
カメラと旅行とルパン三世が好きなWebエンジニアの趣味ブログ
最近、C#の実装で浮動小数点の減算処理で丸め誤差に起因するバグで数時間ハマったので調べてみようと思います。
これが正解化はさておき、対応策をいくつか提示します。