[ruby-dev:27571] Re: 1.8.4 検証を(だれが|どのように）行うか

山本です。

>> >  4) Failure:
>> >test_precision(TestFloat) [e:\ruby-cvs\ruby_1_8\test/ruby/test_float.rb:46]:
>> ><3.75176750364613e+17> expected but was
>> ><3.75176750364613e+17>.
>> 
>> これは浮動小数点数の比較ですが、たぶん有効桁の最後の数字が違うという程度の
>> 差があるのでしょう。（実際、エラーメッセージ上は数値に違いがありません）
>
>ということは、その前のコメントアウトされているテストのほうがよ
>り適切ということでしょうか。

上のでもエラーになりました。でも、単独でテストするとエラーにならないので、何か
環境が微妙な影響を与えるのかもしれません。

  def test_precision
    #s = "3.7517675036461267e+17"
    #assert(s == sprintf("%.16e", s.to_f))
    f = 3.7517675036461267e+17
    assert_equal(0.0, f - sprintf("%.16e", f).to_f)
  end

という感じにすると

  8) Failure:
test_precision(TestFloat) [e:\ruby-cvs\ruby_1_8\test/ruby/test_float.rb:47]:
<0> expected but was
<64.0>.

となって、もう少し状況がよくわかります。

irb(main):001:0> 3.7517675036461267e+17
=> 3.75176750364613e+17
irb(main):002:0> 0.0000000000000001e+17
=> 10.0

というか、浮動小数点数は == では比較できなくて、|a - b| < epsiron とか、
ある非常に小さい数との比較でしか判定できなかった気がします。

http://boost.cppll.jp/HEAD/libs/test/doc/floating_point_comparison.htm

を参考にこんな感じにすると、全体テストでもエラーになりませんでした。

  def test_precision
    u = 3.7517675036461267e+17
    v = sprintf("%.16e", u).to_f
    assert((u-v).abs / u.abs <= Float::EPSILON)
    assert((u-v).abs / v.abs <= Float::EPSILON)
  end

# 右辺が Float::EPSILON でいいのかはよくわかりませんけど