[#20036] Re: Roundoff problem with Float and Marshal — matz@... (Yukihiro Matsumoto)

まつもと ゆきひろです

16 messages 2003/04/18
[#20045] Re: Roundoff problem with Float and Marshal — nobu.nakada@... 2003/04/20

なかだです。

[#20063] Re: Roundoff problem with Float and Marshal — matz@... (Yukihiro Matsumoto) 2003/04/22

まつもと ゆきひろです

[#20097] jcode.rb — akira yamada / やまだあきら <akira@...>

25 messages 2003/04/26
[#20098] Re: jcode.rb — matz@... (Yukihiro Matsumoto) 2003/04/27

まつもと ゆきひろです

[#20105] Re: jcode.rb — WATANABE Hirofumi <eban@...> 2003/04/28

わたなべです。

[#20108] Re: jcode.rb — matz@... (Yukihiro Matsumoto) 2003/04/28

まつもと ゆきひろです

[ruby-dev:20037] test failed on mswin32

From: "U.Nakamura" <usa@...>
Date: 2003-04-19 17:34:39 UTC
List: ruby-dev #20037
こんにちは、なかむら(う)です。

sample/test.rbに追加された、

> s = "3.7517675036461267e+17"
> test_ok(s == sprintf("%.16e", s.to_f))

ですが、mswin32では(というかMSVCRTでは)、sprintfの結果が

  "3.7517675036461267e+017"

となるため失敗します。
どうするのが望ましいでしょうか?


それでは。
-- 
U.Nakamura <usa@osb.att.ne.jp>



In This Thread

Prev Next