[ruby-dev:5820] Re: Precision in Mathematica (Re: Bigfloat)

原です。


In message "[ruby-dev:5816] Re: Precision in Mathematica (Re: Bigfloat)"
    on 99/03/01, GOTO Kentaro <[e-mail]> writes:
|
|ごとけんです

|# ただし，豊福さんが例としてあげた RationalOddDenomi 
|# とかも同様なんですが，なにか Integer や Rational に
|# 対しては歯抜けのような印象をいまだにもってます．
|# どう頑張っても計算可能な範囲では歯抜けは必至なんだけど．

豊福さんのが RationalOddDenomi という例をあげた時すぐに反応
しなくて申し訳なかったんだけど、私はとても面白い例をあげてく
れたと思いました。これは「２でローカライズした整数環」と呼ぶ
もので TeX で書くと Z_{(2)} ってやつです。面倒なので Z(2) と
書きます。さらに一般に素数 p に対して分母が p で割れないもの
を p でローカライズした整数環 Z(p) っていうのが考えられます。

そうすると写像 Z(2) -> Rational はいいんだけど、Z(2) -> Z(3)
とか、Z(3) -> Z(2) とか、ほとんど意味がないですね。そういう
写像がないことが逆に本質的なわけです。「ローカライズ」とい
う意味は部分的に見るという事なわけですから。そういうときは
prec は積極的に例外をあげるべきでしょうね。


それはそうと、同僚何人かに 0.1 を 1/10 書いたらどう思うかと聞
いてみたら、大抵は気持ち悪いという感じだったんだけど、一人そ
んなの全然構わない、という方がいて良く聞いてみると「わたしは
数値計算などしたことがないので、0.1 と書いた時、そこに誤差が
あるかもしれないなどと全く心配しない。」とおっしゃいました。
なるほどなあ。(^^; さらに、初等教育で、「数学で 0.1 を 1/10 
と書いたり 1/10 を 0.1 と書いたりすると×をくれる」時期があっ
て、それに自分の小中学校時代が重なるかどうかで感覚が違うのか
も、という怪しい説も出ました。