[ruby-list:49980] Re: 引き算の結果
From:
ml-reader <ml-reader@...>
Date:
2014-10-02 06:08:09 UTC
List:
ruby-list #49980
2014/10/02 14:14、Tanaka Akira <akr@fsij.org> のメール: > 2014-10-02 13:35 GMT+09:00 ml-reader <ml-reader@giraku.jp>: > >> 下のような結果ってそういうものなのでしょうか。 > > 単純に言ってしまえば、そういうものなのではないでしょうか。 > >> $ ruby -e 'puts 16.236-15.748' >> 0.4880000000000013 > > 10進数で考えているときに期待される値に対して、浮動小数点で表現可能な値として、 > 25個ぐらいずれているようですね。 あぁ,なるほど。 確かに...。 prev_floatも勉強になりました。 ありがとうございます。 #正規表現の「田中スペシャル」も重宝させていただいています。 --- あおき