From: matz@... (Yukihiro Matsumoto) Date: 2003-04-23T08:26:06+09:00 Subject: [ruby-dev:20063] Re: Roundoff problem with Float and Marshal まつもと ゆきひろです In message "[ruby-dev:20045] Re: Roundoff problem with Float and Marshal" on 03/04/21, nobu.nakada@nifty.ne.jp writes: |仮数のビット数を増やしてもいいように、ちょっといじってコミット |しました。 Rudiは[ruby-talk:69878]でstrtodがちゃんとしてればそもそも marshalはいじらなくてよいのでは(と彼の友達が考えた)と書いて ます。また、現在の実装のpowersOf10のテーブルを使うのは不正確 だとも。実際のところどうなんでしょう。 strtodの精度が上がるのはもちろん望ましいので、手が打てればそ れに越した方が良いのですが、私は誤差と精度についての知識はあ んまりないもんですから。 確かにglibcのstrtodを使うとrubyが使っているものよりも正確な 値を出します。これは内部的にMPを使って精度を稼いでいるようで す。速度は重要ではないので、Bignumを使えば良いってことなのか なあ。