[ruby-list:49980] Re: 引き算の結果

From: ml-reader <ml-reader@...>
Date: 2014-10-02 06:08:09 UTC
List: ruby-list #49980
2014/10/02 14:14、Tanaka Akira <akr@fsij.org> のメール:

> 2014-10-02 13:35 GMT+09:00 ml-reader <ml-reader@giraku.jp>:
> 
>> 下のような結果ってそういうものなのでしょうか。
> 
> 単純に言ってしまえば、そういうものなのではないでしょうか。
> 
>> $ ruby -e 'puts 16.236-15.748'
>> 0.4880000000000013
> 
> 10進数で考えているときに期待される値に対して、浮動小数点で表現可能な値として、
> 25個ぐらいずれているようですね。

あぁ,なるほど。
確かに...。

prev_floatも勉強になりました。
ありがとうございます。

#正規表現の「田中スペシャル」も重宝させていただいています。

---
あおき

In This Thread

Prev Next