[#20036] Re: Roundoff problem with Float and Marshal — matz@... (Yukihiro Matsumoto)

まつもと ゆきひろです

16 messages 2003/04/18
[#20045] Re: Roundoff problem with Float and Marshal — nobu.nakada@... 2003/04/20

なかだです。

[#20063] Re: Roundoff problem with Float and Marshal — matz@... (Yukihiro Matsumoto) 2003/04/22

まつもと ゆきひろです

[#20097] jcode.rb — akira yamada / やまだあきら <akira@...>

25 messages 2003/04/26
[#20098] Re: jcode.rb — matz@... (Yukihiro Matsumoto) 2003/04/27

まつもと ゆきひろです

[#20105] Re: jcode.rb — WATANABE Hirofumi <eban@...> 2003/04/28

わたなべです。

[#20108] Re: jcode.rb — matz@... (Yukihiro Matsumoto) 2003/04/28

まつもと ゆきひろです

[ruby-dev:20063] Re: Roundoff problem with Float and Marshal

From: matz@... (Yukihiro Matsumoto)
Date: 2003-04-22 23:26:06 UTC
List: ruby-dev #20063
まつもと ゆきひろです

In message "[ruby-dev:20045] Re: Roundoff problem with Float and Marshal"
    on 03/04/21, nobu.nakada@nifty.ne.jp <nobu.nakada@nifty.ne.jp> writes:

|仮数のビット数を増やしてもいいように、ちょっといじってコミット
|しました。

Rudiは[ruby-talk:69878]でstrtodがちゃんとしてればそもそも
marshalはいじらなくてよいのでは(と彼の友達が考えた)と書いて
ます。また、現在の実装のpowersOf10のテーブルを使うのは不正確
だとも。実際のところどうなんでしょう。

strtodの精度が上がるのはもちろん望ましいので、手が打てればそ
れに越した方が良いのですが、私は誤差と精度についての知識はあ
んまりないもんですから。

確かにglibcのstrtodを使うとrubyが使っているものよりも正確な
値を出します。これは内部的にMPを使って精度を稼いでいるようで
す。速度は重要ではないので、Bignumを使えば良いってことなのか
なあ。

In This Thread