[#43103] 浮動小数点を比較するには — wada toshiki <wada-ts@...>

お世話になります。

21 messages 2007/01/11
[#43105] Re: 浮動小数点を比較するには — NISHIMATSU Takeshi <t_nissie@...> 2007/01/11

> Rubyレシピブック(P290)で 比較する数値の差を Float::EPSILON と比較する方法があり

[ruby-list:43126] Re: 浮動小数点を比較するには

From: Tadashi Saito <shiba@...2.accsnet.ne.jp>
Date: 2007-01-15 14:45:26 UTC
List: ruby-list #43126
こんにちは、斎藤と申します。
こういう話題では知見が広がるので、基礎知識が欠けてる自分としては
興味深くありがたいです。

On Fri, 12 Jan 2007 07:42:44 +0900
wada toshiki <wada-ts@joy.email.ne.jp> wrote:

> 測量計算をしたいので浮動小数点を比較する場面が結構あるのですが、この扱いに悩まさ
> れます。

ずっと見ててもやっぱり分からないので、どなたか教えていただけるとありがた
いです。これはBigDecimalを使っても、やっぱり困る場面なのでしょうか?
# でもレシピブック出たのって1.8の後みたいですね…
# やっぱりきっと、自分の勘違い??

--
斎藤ただし

In This Thread