[ruby-dev:31230] Re: ~big_zero after big_zero % big_neg

なかだです。

At Sun, 15 Jul 2007 09:47:44 +0900,
Tanaka Akira wrote in [ruby-dev:31229]:
> 以下のように、Bignum の 0 をビット演算の否定したときに 0 に
> なることがあります。

> が、上記から p big_zero % big_neg を省くと、挙動が変わってそ
> うはならなくなります。

Bignumの0は(%経由で)bigtrunc()を通るとlen=0になるんですが、
rb_big_neg()がlen==0の場合を考慮していないためですね。

bigtrunc()で0にしないようにするか、rb_big_neg()でlen==0の場合を
考慮するか、どっちがいいでしょう。後者だけだと、他でもちゃんと
考慮しているか全部チェックしないといけないから、防衛的に両方で
すかねぇ。


Index: trunk/bignum.c
===================================================================
--- trunk/bignum.c	(revision 12794)
+++ trunk/bignum.c	(working copy)
@@ -98,5 +98,5 @@ bigtrunc(VALUE x)
     BDIGIT *ds = BDIGITS(x);
 
-    while (len-- && !ds[len]);
+    while (--len && !ds[len]);
     RBIGNUM(x)->len = ++len;
     return x;
@@ -1038,4 +1038,5 @@ rb_big_neg(VALUE x)
     ds = BDIGITS(z);
     i = RBIGNUM(x)->len;
+    if (!i) return INT2FIX(~(SIGNED_VALUE)0);
     while (i--) {
 	ds[i] = ~ds[i];
Index: stable/bignum.c
===================================================================
--- stable/bignum.c	(revision 12794)
+++ stable/bignum.c	(working copy)
@@ -105,5 +105,5 @@ bigtrunc(x)
     BDIGIT *ds = BDIGITS(x);
 
-    while (len-- && !ds[len]);
+    while (--len && !ds[len]);
     RBIGNUM(x)->len = ++len;
     return x;
@@ -1100,4 +1100,5 @@ rb_big_neg(x)
     ds = BDIGITS(z);
     i = RBIGNUM(x)->len;
+    if (!i) return INT2FIX(~(SIGNED_VALUE)0);
     while (i--) ds[i] = ~ds[i];
     RBIGNUM(z)->sign = !RBIGNUM(z)->sign;


-- 
--- 僕の前にBugはない。
--- 僕の後ろにBugはできる。
    中田 伸悦