[#20036] Re: Roundoff problem with Float and Marshal — matz@... (Yukihiro Matsumoto)

まつもと ゆきひろです

16 messages 2003/04/18
[#20045] Re: Roundoff problem with Float and Marshal — nobu.nakada@... 2003/04/20

なかだです。

[#20063] Re: Roundoff problem with Float and Marshal — matz@... (Yukihiro Matsumoto) 2003/04/22

まつもと ゆきひろです

[#20097] jcode.rb — akira yamada / やまだあきら <akira@...>

25 messages 2003/04/26
[#20098] Re: jcode.rb — matz@... (Yukihiro Matsumoto) 2003/04/27

まつもと ゆきひろです

[#20105] Re: jcode.rb — WATANABE Hirofumi <eban@...> 2003/04/28

わたなべです。

[#20108] Re: jcode.rb — matz@... (Yukihiro Matsumoto) 2003/04/28

まつもと ゆきひろです

[ruby-dev:20099] Re: Roundoff problem with Float and Marshal

From: nobu.nakada@...
Date: 2003-04-28 01:50:50 UTC
List: ruby-dev #20099
なかだです。

At Fri, 25 Apr 2003 12:12:59 +0900,
Akinori MUSHA wrote:
> > いや、まあ、その通りなんですが、glibcのstrtodよりも明らかに
> > 負けているのはなんか悔しいかも。もっとも向こうは1600行もある
> > 巨大な関数なんですが。
> 
>  斜め読みなので、的外れだったらすみません。
> 
>  netlib に含まれている strtod() 等の実装、 gdtoa が、なかなか
> いいらしいです。

これもglibc並に大きいですねぇ。まぁ大きさ自体はいいんですが、こ
れも自前でBigintを実装しているし、Bignum#to_fにも誤差があること
を考えると、まずそっちを直したほうがいいのではないかという気が
して来ました。

-- 
--- 僕の前にBugはない。
--- 僕の後ろにBugはできる。
    中田 伸悦

In This Thread