From: Yasushi Shoji <yashi@...>
Date: 2000-09-26T06:58:32+09:00
Subject: [ruby-list:25175] Re: round method

At Tue, 26 Sep 2000 03:08:51 +0900,
matz@zetabits.com (Yukihiro Matsumoto) wrote:
> 
> |round methodの動作で疑問点があるので質問させて下さい。
> |以下の2つの式は、なぜ違う値になるんでしょうか?
> |
> |$ ruby eval.rb
> |ruby> (500.5 * 1).round
> |501
> |ruby> (500 * 1.001).round
> |500
> 
> ruby -e 'printf "%10.20f\n", (500.5)'
> ruby -e 'printf "%10.20f\n", (500*1.001)'

tips & tricks集(だっけ？)への追加に一票
--
           yashi