[ruby-list:34014] Re: Bignum と負の Fixnum の bit 和について

小塚です。

On Fri, 22 Feb 2002 02:12:22 +0900
[e-mail] (Yukihiro Matsumoto) wrote:

> まつもと ゆきひろです
(..中略..)
> バグですね。2の補数を取るルーチンに問題がありました。
> 直します。

  作者様自らの御確認、痛み入ります。Ruby本体が修正されるまでは
別の方法で回避できないか考えてみます。

  この問題にあたったのは、とあるデータ(24 や 48bitだが32 や 64bitで
表現され、余分なMSB側にはゴミが詰まっている)を取り込んでちょっとした計算を
行った後、再び出力するスクリプトを書いていた時に遭遇しました。

もう少し詳しく書くと
  def sign_extend (v, msb_pos)
    mask = -1 << msb_pos
    if v[msb_pos] == 1
      v |= mask
    else
      mask = ~mask
      v &= mask
    end
    v
  end

という関数を書いて符号拡張後に数値計算を行っていた所、時々予期しない
出力が行われた為に気付いた次第です。従って、私的には別な方法で
函数 sign_extend が表現できれば当面は事が足りるのですが、
なかなか上手な方法が思い浮かばずに難儀しています。もし、似た様な状況に
対処された事の有る方がおられましたら御教示いただけると嬉しいのですが...

# RubyのIntegerはBignumを自動的に使ってくれるので、
# ミョーなデータに対処するのに便利ですね。