ruby-dev

むらたです。

irc などで議論させて頂いて、大変参考になりました。

BigDecimal には有効桁数が大切な分野とそうでない分野の二種類の用途があります。
前者の場合、有効桁数が自分の計算精度を知っていてくれたほうが有り難いと思います。
かといって、Mathematica のように演算結果を有効桁数で切ってしまうと、
BigDecimal をただの多倍長浮動小数点数として使っている人には使えない代物になってしまいます。

どうしたらよいか考えてみたのですが、演算結果は常にできるだけ正確な値を算出するようにし、
オペランドから継承された有効桁数は属性として保持させ、有効桁数で切りたい人は
BigDecimal#rounnd などで明示的に丸めてもらいましょうか。

BigDecimal は必ず有限の有効桁数を持つことにして、
無限精度の値は Integer と Rational で表現させるようにします。
BigDecimal を組み込み数値クラスと一緒に使えるように
若干調整が必要だと思いますが、Rational が組み込みになった
今の Ruby ではこの方法が良いのではないかと考えました。

On 2010/02/08, at 23:51, Kenta Murata wrote:

> むらたです。
> 
> On 2010/02/08, at 19:36, TOYOFUKU Chikanobu wrote:
> 
>> 豊福です。
>> 
>>> Mathematica では次のようになります。
>>> In[1]:= N[Sin[N[100000000, 1]], 100]
>>> Out[1]= 0.
>> 
>> これはどういう計算結果による 0. でしょうか。
>> 計算できないという意味の 0.？
> 
> そうではなく、有効桁数1で計算すると 0. になるという、
> そのままの意味だと思います。
> そもそも Sin の外側の N は不要でした
> 
> In[15]:= Sin[N[100000000, 1]]
> Out[15]= 0.
> 
> Sin のアルゴリズムによってはこうならないように
> できるのかもしれません。
> 
>> Sin でなく Exp だとどういう結果を返すのでしょう。
> 
> In[17]:= Exp[N[100000000, 1]]
> Out[17]= 0.*10^43429455
> 
>>> In[2]:= Mod[N[100000000, 1], 3]
>>> Out[2]= 0.*10^7
>> 
>> こういう mod は必要だと思いますしこれを divMod の余りとするのも
>> ありそうに思いますがこれを % にした方がよいでしょうか。それとも
>> しない方がよいでしょうか。
> 
> % 演算子に対応させるかどうかについては、とても悩みどころですね。
> 一貫して % は mod の別名としてしまうのもアリだと思います。
> そうしないと定める事も間違いではないと思いますが、
> その場合どのような演算になるか改めて定義が必要ですね。

--
Kenta Murata
OpenPGP FP = FA26 35D7 4F98 3498 0810 E0D5 F213 966F E9EB 0BCC

本を書きました!!
『Ruby 逆引きレシピ』 http://www.amazon.co.jp/dp/4798119881/mrkn-22

E-mail: mrkn@mrkn.jp
twitter: http://twitter.com/mrkn/
blog: http://d.hatena.ne.jp/mrkn/

Thread

Prev Next

In This Thread

Prev Next