From: "豊福" <toyofuku@...>
Date: 1999-03-04T00:09:12+09:00
Subject: [ruby-dev:5948] Re: Precision in Mathematica (Re: Bigfloat)

  豊福＠パパイヤです。

ごとけんさん
>>> Mathematica だと 0.1 はあくまで 1/10 です．
>>> # 2進数を意識させない作りなので．
>>
>>>   SetPrecision[0.1,100] ==>  0.100000000000000005551115\
>>>      12312578270211815834045410156250000000000000000000\
>>>      00000000000000000000000000
>>ってあったから2進数ではないですか。
>
> なんて鋭いんだ豊福さん (^^;;;

  いや、私だけじゃなくて

けいじゅさん
>>>  Rationalize[0.1, 10^-32]
>>>とかすると, すごい分母の分数になる??
>>Mathematica だと 0.1 はあくまで 1/10 です．
>># 2進数を意識させない作りなので．
> 
> なるほど, SetPercisionとは違っているんですね...

という発言も SetPercision との違いが気になってのこと
だと思います。

  結局どっちなんでしょうかね。
最初は誤差指定のない Rationalize[0.1] はデフォルトの
誤差指定みたいのがあって 1/10 になるのかと思いましたが、
Rationalize[Pi] ==> Pi ですからデフォルトの誤差指定
なんてないみたいだし。

  SetPercision は２進で、Rationalize は１０進で、ということ
ですかね。
---
                        豊福＠パパイヤ
                        unbound@papaya.juice.or.jp
                        toyofuku@juice.or.jp