[ruby-list:24941] Re: Bignum の不具合

前田です。

At Wed, 13 Sep 2000 14:19:36 +0900,
Yasumasa Fujisawa <[e-mail]> wrote:
> ところで、40ビット長くらいのBignumで計算をしていましたが、特定の
> 数値の比較がうまくいかないことに気がつきました。
> 
> rubyのバージョンは1.4.6です。
> 
> 例：
> % ruby -v
> ruby 1.4.6 (2000-08-16) [sparc-solaris2.6]
> % ruby eval.rb
> ruby> 4294967296 == 549755813888
> true　　# NG

比較が不十分のようですね。
パッチです。

diff -u -r1.22 bignum.c
--- bignum.c	2000/07/19 08:04:45	1.22
+++ bignum.c	2000/09/13 06:15:19
@@ -562,7 +562,7 @@
     }
     if (RBIGNUM(x)->sign != RBIGNUM(y)->sign) return Qfalse;
     if (RBIGNUM(x)->len != RBIGNUM(y)->len) return Qfalse;
-    if (memcmp(BDIGITS(x),BDIGITS(y),RBIGNUM(y)->len) != 0) return Qfalse;
+    if (MEMCMP(BDIGITS(x),BDIGITS(y),USHORT,RBIGNUM(y)->len) != 0) return Qfalse;
     return Qtrue;
 }
 
diff -u -r1.24 ruby.h
--- ruby.h	2000/08/31 05:29:54	1.24
+++ ruby.h	2000/09/13 06:15:19
@@ -394,6 +394,7 @@
 #define MEMZERO(p,type,n) memset((p), 0, sizeof(type)*(n))
 #define MEMCPY(p1,p2,type,n) memcpy((p1), (p2), sizeof(type)*(n))
 #define MEMMOVE(p1,p2,type,n) memmove((p1), (p2), sizeof(type)*(n))
+#define MEMCMP(p1,p2,type,n) memcmp((p1), (p2), sizeof(type)*(n))
 
 void rb_glob _((char*,void(*)(),VALUE));

-- 
前田 修吾