[#20227] dyna_vars problem? — Tanaka Akira <akr@...17n.org>

しばらく前から、稀に Ruby が core を吐くという問題を追いかけているので

15 messages 2003/05/19
[#20234] Re: dyna_vars problem? — matz@... (Yukihiro Matsumoto) 2003/05/19

まつもと ゆきひろです

[#20236] Re: dyna_vars problem? — Tanaka Akira <akr@...17n.org> 2003/05/19

In article <1053363181.529491.30320.nullmailer@picachu.netlab.jp>,

[ruby-dev:20161] Re: Bignum(?)#%

From: nobu.nakada@...
Date: 2003-05-05 12:16:46 UTC
List: ruby-dev #20161
なかだです。

At Mon, 5 May 2003 20:57:52 +0900,
Akio Takenaka wrote:
> 9007199254740992=>0x20000000000000
> で溢れているようです.
> メモリ関連なので環境に左右されるでしょうし,バグではない気がしますが,
> 引数がFixnumかFloatかで結果が異なるのもなんだか気持ちが悪いので.

メモリ関連というより、浮動小数点数の有効精度の問題でしょう。剰
余だけではなく、加減算でも起きます。

$ ruby -e 'p 9007199254740996.0-9007199254740995.0'
0.0

-- 
--- 僕の前にBugはない。
--- 僕の後ろにBugはできる。
    中田 伸悦

In This Thread

Prev Next