[#20036] Re: Roundoff problem with Float and Marshal — matz@... (Yukihiro Matsumoto)

まつもと ゆきひろです

16 messages 2003/04/18
[#20045] Re: Roundoff problem with Float and Marshal — nobu.nakada@... 2003/04/20

なかだです。

[#20063] Re: Roundoff problem with Float and Marshal — matz@... (Yukihiro Matsumoto) 2003/04/22

まつもと ゆきひろです

[#20097] jcode.rb — akira yamada / やまだあきら <akira@...>

25 messages 2003/04/26
[#20098] Re: jcode.rb — matz@... (Yukihiro Matsumoto) 2003/04/27

まつもと ゆきひろです

[#20105] Re: jcode.rb — WATANABE Hirofumi <eban@...> 2003/04/28

わたなべです。

[#20108] Re: jcode.rb — matz@... (Yukihiro Matsumoto) 2003/04/28

まつもと ゆきひろです

[ruby-dev:20070] Re: Roundoff problem with Float and Marshal

From: Tanaka Akira <akr@...17n.org>
Date: 2003-04-23 08:55:26 UTC
List: ruby-dev #20070
In article <1051053939.850613.18822.nullmailer@picachu.netlab.jp>,
  matz@ruby-lang.org (Yukihiro Matsumoto) writes:

> Rudiは[ruby-talk:69878]でstrtodがちゃんとしてればそもそも
> marshalはいじらなくてよいのでは(と彼の友達が考えた)と書いて
> ます。また、現在の実装のpowersOf10のテーブルを使うのは不正確
> だとも。実際のところどうなんでしょう。

David Goldberg,
What Every Computer Scientist Should Know About Floating Point Arithmetic
ACM Computing Surveys, Vol.23, No.1, March
http://citeseer.nj.nec.com/goldberg91what.html

# の日本語訳
# 「すべての計算機科学者が浮動小数点演算について知っておくべきこと」
# http://urr3.cs.uec.ac.jp/ohkubo-k/papers/index.html

を見てみたら、倍精度なら 10進で 17桁保存しとけば元に戻せると書いてあり
ました。

「どうやって」正しい(もっとも近い) 17桁を生成し、また、「どうやって」
正しい(もっとも近い)倍精度浮動小数点数を生成するのかは別の問題としてあ
りますが。
-- 
[田中 哲][たなか あきら][Tanaka Akira]

In This Thread