[#20036] Re: Roundoff problem with Float and Marshal — matz@... (Yukihiro Matsumoto)

まつもと ゆきひろです

16 messages 2003/04/18
[#20045] Re: Roundoff problem with Float and Marshal — nobu.nakada@... 2003/04/20

なかだです。

[#20063] Re: Roundoff problem with Float and Marshal — matz@... (Yukihiro Matsumoto) 2003/04/22

まつもと ゆきひろです

[#20097] jcode.rb — akira yamada / やまだあきら <akira@...>

25 messages 2003/04/26
[#20098] Re: jcode.rb — matz@... (Yukihiro Matsumoto) 2003/04/27

まつもと ゆきひろです

[#20105] Re: jcode.rb — WATANABE Hirofumi <eban@...> 2003/04/28

わたなべです。

[#20108] Re: jcode.rb — matz@... (Yukihiro Matsumoto) 2003/04/28

まつもと ゆきひろです

[ruby-dev:20046] Re: test failed on mswin32

From: matz@... (Yukihiro Matsumoto)
Date: 2003-04-20 15:17:59 UTC
List: ruby-dev #20046
まつもと ゆきひろです

In message "[ruby-dev:20044] Re: test failed on mswin32"
    on 03/04/21, WATANABE Hirofumi <eban@os.rim.or.jp> writes:

|> > s = "3.7517675036461267e+17"
|> > test_ok(s == sprintf("%.16e", s.to_f))
|> 
|> ですが、mswin32では(というかMSVCRTでは)、sprintfの結果が
|> 
|>   "3.7517675036461267e+017"
|> 
|> となるため失敗します。
|> どうするのが望ましいでしょうか?
|
|これはutil.cのruby_strtod()をテストするために追加されたわけで、
|to_fが使われていればよさそうです。
|  f = 3.7517675036461267e+17
|  test_ok(f == sprintf("%.16e", f).to_f)
|でどうでしょう?

んじゃそれで。

In This Thread

Prev Next