[ruby-dev:40351] Re: patch for ruby-core:17472

2010年2月7日22:04 TOYOFUKU Chikanobu <[e-mail]>:
>> - 除数 > 0 ⇒ 0 <= 剰余 < 除数
>
> ?私もこの前 mod に「剰余 < 除数」を期待すると書きましたが改めて
> 考えたら、例えば
> (有効桁数１桁で１億).mod(（有効桁数いくつであろうが）3)
> には意味のある値として何を期待すべきでしょうか。


bigdecimal の元ネタっぽい Java の BigDecimal で試してみました。

precision 1 の 1E50 と、precision 1 の 3 の divideAndRemainder は
precision *50* の 3333...333 と、precision 1 の 1 を返すようです。
precision っていわゆる「有効数字」じゃないみたいなんですよね。
よくわからない。


  v1: 1E+50(1)
  v2: 3(1)
  v1/v2: 33333333333333333333333333333333333333333333333333(50)
  v1%v2: 1(1)


  import java.math.BigDecimal
  object T {
    def p(s: String, v: BigDecimal) {
      println(s + v + "(" + v.precision() + ")")
    }
    def main(args: Array[String]) {
      val v1 = new BigDecimal("1E50")
      val v2 = new BigDecimal("3")
      val a = v1 divideAndRemainder v2
      p("v1: ", v1)
      p("v2: ", v2)
      p("v1/v2: ", a(0))
      p("v1%v2: ", a(1))
    }
  }

-- 
Yusuke ENDOH <[e-mail]>