[#20036] Re: Roundoff problem with Float and Marshal — matz@... (Yukihiro Matsumoto)

まつもと ゆきひろです

16 messages 2003/04/18
[#20045] Re: Roundoff problem with Float and Marshal — nobu.nakada@... 2003/04/20

なかだです。

[#20063] Re: Roundoff problem with Float and Marshal — matz@... (Yukihiro Matsumoto) 2003/04/22

まつもと ゆきひろです

[#20097] jcode.rb — akira yamada / やまだあきら <akira@...>

25 messages 2003/04/26
[#20098] Re: jcode.rb — matz@... (Yukihiro Matsumoto) 2003/04/27

まつもと ゆきひろです

[#20105] Re: jcode.rb — WATANABE Hirofumi <eban@...> 2003/04/28

わたなべです。

[#20108] Re: jcode.rb — matz@... (Yukihiro Matsumoto) 2003/04/28

まつもと ゆきひろです

[ruby-dev:20064] Re: Roundoff problem with Float and Marshal

From: matz@... (Yukihiro Matsumoto)
Date: 2003-04-23 05:44:14 UTC
List: ruby-dev #20064
まつもと ゆきひろです

In message "[ruby-dev:20063] Re: Roundoff problem with Float and Marshal"
    on 03/04/23, Yukihiro Matsumoto <matz@ruby-lang.org> writes:

|確かにglibcのstrtodを使うとrubyが使っているものよりも正確な
|値を出します。これは内部的にMPを使って精度を稼いでいるようで
|す。速度は重要ではないので、Bignumを使えば良いってことなのか
|なあ。

現在の実装ではfrac1, frac2の2つのintで精度は確保できているよ
うな気がします。要はここからdoubleへの変換がまずいと言うこと
なのかしら。

In This Thread