[#36686] 1.1 < 61.1 - 60.0 — Shin-ichiro HARA <sinara@...>

原です。

19 messages 2002/12/06

[#36770] www.ruby-lang.orgリニューアル準備のお知らせ — TADA Tadashi <sho@...>

ruby-lang.orgのwebmasterチームでは、タイムリーな情報提供と使いやすい

11 messages 2002/12/16

[ruby-list:36698] Re: 1.1 < 61.1 - 60.0

From: Take_tk <ggb03124@...>
Date: 2002-12-06 07:44:09 UTC
List: ruby-list #36698
たけ(tk)です

[ruby-list:36694] Re: 1.1 < 61.1 - 60.0 にて
Shin-ichiro HARA <sinara@blade.nagaokaut.ac.jp> さん曰く:

> 熊谷さんに書いていただいたものでも、
> 
> require "Float_fixed_cmp"
> a = 1.1
> b = 2.8 - 1.7
> 
> p(a > b)     #=> true
> 
> となってしまう。

  四捨五入しないとまずかったですね。to_i では下方に向かって誤差があると
きに少なくなってしまう。

  def fix
    (self*$FIX).round
  ##  (self*$FIX).to_i
  end

Take_tk = KUMAGAI Hidetake
たけ(tk)=熊谷秀武


In This Thread