[#30743] 大きな数の大まかな割り算 — Yukihiro Matsumoto <matz@...>

まつもと ゆきひろです

17 messages 2007/05/01

[#30827] Supporting Fiber — SASADA Koichi <ko1@...>

 ささだです。

22 messages 2007/05/27

[ruby-dev:30747] Re: 大きな数の大まかな割り算

From: keiju@... (石塚圭樹)
Date: 2007-05-02 02:14:56 UTC
List: ruby-dev #30747
けいじゅ@いしつかです.

In [ruby-dev:30746] the message: "[ruby-dev:30746] Re: 大きな数の大ま
かな割り算", on May/02 11:11(JST) 石塚圭樹 writes:

>ただ, Fload.prec_size がどこにあるのかわからない...


  def Float.prec_size
    return @PREC_SIZE if defined?(@PREC_SIZE)
    
    i = 0
    i += 1  while 1.0 + Math.ldexp(1.0,-i) != 1.0
    @PREC_SIZE = i - 1
  end

でした...


__
---------------------------------------------------->> 石塚 圭樹 <<---
---------------------------------->> e-mail: keiju@ishitsuka.com <<---

In This Thread