[ruby-list:41514] Float と有効精度 /Re: 数を減らしてくループ

坂野 正明です。

At Tue, 8 Nov 2005 15:44:28 +0900,
ゴトウダイスケ <[e-mail]> wrote:
> > とすべきというのが，誤差の蓄積を避けて精度を確保するための定石
> > とされてますね．
> 自分のあまりの無知さが恥ずかしい限りです。

恐縮することは全然ないと個人的には思います。
ruby-list でも、何度も出てきた話題、つまり引っ掛かりやすい点ですし。

誤差が蓄積するような仕様は、C や Fortran のような実行速度命の
言語なら理解できます(し、そうあるべきだとも思います)が、Ruby ほどの
高級言語では、この点の思考コストは相当なものがある、と個人的には
考えます。

原さんがかっておっしゃっていたように、リテラル自体の挙動を
変更することは、ruby 自体に手を入れない限り無理なようです。
ですが、リテラルは、出現箇所も有効精度もプログラマ自身が
知っているはずですから、すべて rational に変換して扱うように
プログラミングすることは可能です。
# 素の Ruby には、真の意味での無理数は存在しませんから。

過去では、
 [ruby-list:39453]
 [ruby-list:39553]
 [ruby-list:36686]
 [ruby-list:35966]
 URIの例: http://blade.nagaokaut.ac.jp/cgi-bin/scat.rb/ruby/ruby-list/35966
に始まるスレッドなどで対策も含めて議論されています。
# to_r は Ruby 1.8 では変更が必要ですが……、投稿しましたっけ? → 自分


参考までに、もうひとつ、よく引っ掛かる場所は、Integer同士の場合、
「/」が整除として定義されているところでしょうか。
"mathn" を require することで回避できますが……、これは、global
な変更になるので、使う library によっては相性が悪くなるかも知れません。
 quo メソッドを使う方が無難かと思います。

ご参考になれば。

坂野 正明