物理と数学とITのあれこれ

物理や数学、パソコンの設定とかプログラミングとかいろいろ書きなぐってます。

2017-07-02から1日間の記事一覧

丸め誤差の恐怖〜浮動小数点数の扱いに注意する〜

丸め誤差は予想以上に厄介であることを思い知らされた。 こいつのせいで予想外のバグとの格闘に時間を割かれてしまったのだ。 自分への戒めとしてこの文章を残す。 丸め誤差とは? 簡単な例として10/3を考えよう。10を3で割り切ると 3.33333.... と永遠に続…