[#20227] dyna_vars problem? — Tanaka Akira <akr@...17n.org>

しばらく前から、稀に Ruby が core を吐くという問題を追いかけているので

15 messages 2003/05/19
[#20234] Re: dyna_vars problem? — matz@... (Yukihiro Matsumoto) 2003/05/19

まつもと ゆきひろです

[#20236] Re: dyna_vars problem? — Tanaka Akira <akr@...17n.org> 2003/05/19

In article <1053363181.529491.30320.nullmailer@picachu.netlab.jp>,

[ruby-dev:20160] Bignum(?)#%

From: Akio Takenaka <redmagic@...8.xrea.com>
Date: 2003-05-05 11:57:52 UTC
List: ruby-dev #20160
竹中と申します.

Mathの話題かもしれませんが,ご報告.
環境は1.8pre2です.

%ruby -v
ruby 1.8.0 (2003-03-03) [i386-mswin32]


i = 9007199254740994 #3で割ると余りは1のはず.
m = i%3
n = i%3.0
printf ("%f-%f\n" ,m ,n)

=>1.000000-1.000000 #多分,期待されている動作


j = 9007199254740995 #3で割ると余りは2のはず.
m = j%3
n = j%3.0
printf ("%f-%f\n" ,m ,n)

=>2.000000-0.000000 #あれれ?

どうやら
9007199254740992=>0x20000000000000
で溢れているようです.
メモリ関連なので環境に左右されるでしょうし,バグではない気がしますが,
引数がFixnumかFloatかで結果が異なるのもなんだか気持ちが悪いので.

In This Thread

Prev Next