2017-07-02から1日間の記事一覧
丸め誤差は予想以上に厄介であることを思い知らされた。 こいつのせいで予想外のバグとの格闘に時間を割かれてしまったのだ。 自分への戒めとしてこの文章を残す。 丸め誤差とは? 簡単な例として10/3を考えよう。10を3で割り切ると 3.33333.... と永遠に続…
丸め誤差は予想以上に厄介であることを思い知らされた。 こいつのせいで予想外のバグとの格闘に時間を割かれてしまったのだ。 自分への戒めとしてこの文章を残す。 丸め誤差とは? 簡単な例として10/3を考えよう。10を3で割り切ると 3.33333.... と永遠に続…