[#43103] 浮動小数点を比較するには — wada toshiki <wada-ts@...>

お世話になります。

21 messages 2007/01/11
[#43105] Re: 浮動小数点を比較するには — NISHIMATSU Takeshi <t_nissie@...> 2007/01/11

> Rubyレシピブック(P290)で 比較する数値の差を Float::EPSILON と比較する方法があり

[ruby-list:43103] 浮動小数点を比較するには

From: wada toshiki <wada-ts@...>
Date: 2007-01-11 22:42:44 UTC
List: ruby-list #43103
お世話になります。
測量計算をしたいので浮動小数点を比較する場面が結構あるのですが、この扱いに悩まさ
れます。

Rubyレシピブック(P290)で 比較する数値の差を Float::EPSILON と比較する方法があり
ますが、記事の例(比較する数値が1.0)はTrueとなってうまくいきますが、それ以外の数
値ではFalseでうまくいきません。

良い方法は無いでしょうか。
-- 
和田稔己




In This Thread

Prev Next