[ruby-list:35559] Re: Numeric#===

In article <[e-mail]>,
  Kazuhiro Yoshida <[e-mail]> writes:

> class Float
>   def ==(v)
>     (self - v).abs < Float.EPS
>   end
> end
> 
> とすれば
> 
> p a = 2**0.5
> p a**2 == 2   #=> true
> 
> になるのかな。

ならないんじゃないですかね。

class Float
  EPS = 2.2204460492503131E-16
  def ===(v)
    (self - v).abs < Float::EPS
  end
end

p a = 2**0.5
p a**2 === 2   #=> false

正しい値の
  0b10
に対して a**2 は
  0b10.000000000000000000000000000000000000000000000000001
になるんですが、これは誤差を
   0b0.000000000000000000000000000000000000000000000000001
だけ含んでいて、また EPS は
   0b0.0000000000000000000000000000000000000000000000000001
なので、誤差は EPS の 2倍あって true にはならない、というわけですが。

EPS を Ruby レベルに提供するのは悪くないと思いますが、質問者が期待して
いる機能とはかなり開きがあるんじゃないですかね。たぶん。

まぁ、質問者が期待している機能はそもそも実現可能かどうかというところか
らして難しいところですが。
-- 
[田中 哲][たなか あきら][Tanaka Akira]
「ふえろ! わかめちゃん作戦です$(C⊇」(Little Worker, 桂遊生丸)