[ruby-dev:10292] Re: bignum division has bug?

なかだです。

At Wed, 12 Jul 2000 07:50:12 +0900
[e-mail] wrote:
> > いがらしです。報告だけですみませんが…
> > 
> > CVS latestで miniruby -e 'p 2**29/2**30' が落ちます。
> > また、 2**30/2**30 や 2**28/2**29  は平気なのですが、
> > 1/2**30 は駄目です。
> 
>   パッチだけですみませんが…。

  すいません、符号の扱いがヘンでした。それに bigdivrem() は mod に 
Fixnum を返すことはないようで。


Index: bignum.c
===================================================================
RCS file: /home/cvs/ruby/bignum.c,v
retrieving revision 1.18
diff -u -2 -p -r1.18 bignum.c
--- bignum.c	2000/07/11 08:27:06	1.18
+++ bignum.c	2000/07/12 04:08:35
@@ -897,9 +897,18 @@ bigdivmod(x, y, divp, modp)
     bigdivrem(x, y, divp, &mod);
     if (RBIGNUM(x)->sign != RBIGNUM(y)->sign && RBIGNUM(mod)->len > 0) {
-	if (divp) *divp = bigadd(*divp, rb_int2big(1), 0);
+	if (divp) {
+	    VALUE div = *divp;
+	    if (FIXNUM_P(div)) {
+		long v = FIX2LONG(div);
+		*divp = rb_int2inum(v > 0 ? v + 1 : v - 1);
+	    }
+	    else {
+		*divp = bigadd(div, rb_int2big(1), 0);
+	    }
+	}
 	if (modp) *modp = bigadd(mod, y, 1);
     }
     else {
-	if (divp) *divp = bignorm(*divp);
+	if (divp && !FIXNUM_P(*divp)) *divp = bignorm(*divp);
 	if (modp) *modp = bignorm(mod);
     }


-- 
そうだ 強気に ちょっと インチキに☆彡
    中田 "Bugるくらいがちょうどいいかも;-)" 伸悦