[#36686] 1.1 < 61.1 - 60.0 — Shin-ichiro HARA <sinara@...>

原です。

19 messages 2002/12/06

[#36770] www.ruby-lang.orgリニューアル準備のお知らせ — TADA Tadashi <sho@...>

ruby-lang.orgのwebmasterチームでは、タイムリーな情報提供と使いやすい

11 messages 2002/12/16

[ruby-list:36694] Re: 1.1 < 61.1 - 60.0

From: Shin-ichiro HARA <sinara@...>
Date: 2002-12-06 07:01:46 UTC
List: ruby-list #36694
原です。

>小林です。
>ごぶさたしています。
>
>----- Original Message -----
>From: "Take_tk" <ggb03124@nifty.ne.jp>
>Subject: [ruby-list:36690] Re: 1.1 < 61.1 - 60.0
>
>
>> a = 1.1
>> b = 61.1 - 60.0
>前に中田さんが指摘していますが、厳密に言うと「1.1」や「61.1」
>と書いたものをRubyがFloatとして取り込む段階で既に1.1や61.1
>と異なるわけですので、以降は苦しいものとなります。

そうですよね。リテラル自体に誤差があると考えないといけない。

熊谷さんに書いていただいたものでも、

require "Float_fixed_cmp"
a = 1.1
b = 2.8 - 1.7

p(a > b)     #=> true

となってしまう。


In This Thread