[ruby-dev:5948] Re: Precision in Mathematica (Re: Bigfloat)

  豊福＠パパイヤです。

ごとけんさん
>>> Mathematica だと 0.1 はあくまで 1/10 です．
>>> # 2進数を意識させない作りなので．
>>
>>>   SetPrecision[0.1,100] ==>  0.100000000000000005551115\
>>>      12312578270211815834045410156250000000000000000000\
>>>      00000000000000000000000000
>>ってあったから2進数ではないですか。
>
> なんて鋭いんだ豊福さん (^^;;;

  いや、私だけじゃなくて

けいじゅさん
>>>  Rationalize[0.1, 10^-32]
>>>とかすると, すごい分母の分数になる??
>>Mathematica だと 0.1 はあくまで 1/10 です．
>># 2進数を意識させない作りなので．
> 
> なるほど, SetPercisionとは違っているんですね...

という発言も SetPercision との違いが気になってのこと
だと思います。

  結局どっちなんでしょうかね。
最初は誤差指定のない Rationalize[0.1] はデフォルトの
誤差指定みたいのがあって 1/10 になるのかと思いましたが、
Rationalize[Pi] ==> Pi ですからデフォルトの誤差指定
なんてないみたいだし。

  SetPercision は２進で、Rationalize は１０進で、ということ
ですかね。
---
                        豊福＠パパイヤ
                        [e-mail]
                        [e-mail]