From: Tanaka Akira <akr@...>
Date: 2011-05-09T14:23:00+09:00
Subject: [ruby-list:48072] Re: 小数点つき時刻情報とTime#parse

 2011年5月9日13:43 EGUCHI Osamu <eguchi@sandeinc.com>:
> 2011年5月9日12:55 Tanaka Akira <akr@fsij.org>:
>> 2011年5月9日10:29 Mitsuo KASAHARA <m.kasahara13@gmail.com>:
>>> と、小数点以下6桁の情報を持つ時刻情報の差分を計算したら、何故か
>>> 一つ目の方では
>>> 0.00629800000000004
>>> と
>>> 00000000004
>>> が余計にくっついて出力されました。
>
>> 桁落ちというものでは。
>
> 桁落ちという見立ては同じですが、

こっちはどうかなぁ。

> class Time
>  TICK = 1000000
>  def -(y)
>   return ((self.tv_sec * TICK + self.tv_usec) -
>          (y.tv_sec * TICK + y.tv_usec)).to_f / TICK
>  end
> end
>
> の様に、1マイクロ分解能で固定小数点処理したほうが
> よりロバストではないでしゅうか？

C に Bignum が組み込まれてればいいんですが。
-- 
[田中 哲][たなか あきら][Tanaka Akira]