[#36686] 1.1 < 61.1 - 60.0 — Shin-ichiro HARA <sinara@...>

原です。

19 messages 2002/12/06

[#36770] www.ruby-lang.orgリニューアル準備のお知らせ — TADA Tadashi <sho@...>

ruby-lang.orgのwebmasterチームでは、タイムリーな情報提供と使いやすい

11 messages 2002/12/16

[ruby-list:36705] Re: 1.1 < 61.1 - 60.0

From: Shin-ichiro HARA <sinara@...>
Date: 2002-12-06 10:41:46 UTC
List: ruby-list #36705
原です。

>坂野 正明です。

>> そうですよね。リテラル自体に誤差があると考えないといけない。
>
>[ruby-list:35966] にある、
>        Float::to_r
>はいかがですか?
>Float を必要な精度で Rational に変換するメソッド。

やはり計算途中の丸め誤差とリテラルの問題は分けて考えなければ
いけませんね。to_r は前者には有効ですが、後者には無力です。

リテラルに対しては漢字コードの起動オプション -Kx みたいな形で
小数点数の評価の仕方を変えてやるしかないなあ。

あるいは BigFloat のように文字列を使うか。


In This Thread