[ruby-dev:5863] Re: Precision in Mathematica (Re: Bigfloat)

けいじゅ＠日本ラショナルソフトウェアです.

In [ruby-dev :5858 ] the message: "[ruby-dev:5858] Re: Precision in
Mathematica (Re: Bigfloat) ", on Mar/02 02:49(JST) GOTO Kentaro
writes:

>ごとけんです

>>昔出した案ですが,
>>
>>1. 同じ精度同士の2項演算はその精度を持つ
>>2. 単項演算はそのまま
>>3. 違う精度の2項演算は精度のの悪い方に合わせる
>>
>>というものです. 
>そうそう，実はその辺で手を打とうかとも思ってました(^^;;

お. 素晴らしい(^^;;;

>というのも
>
>    0.9999999999999999999999999999
>  + 0.9999999999999999999999999999
>  = 1.9999999999999999999999999998
>
>を正当化したいので．もし，厳密に有効数字と誤差を考慮すると
>有効数字がひとけた減って，
>
>  = 1.999999999999999999999999999
>
>となっちゃうんです．これは正しくてもなにか気持悪いですよね

ですよね. なんとなく同じ精度同士の演算は同じ精度になって欲しいですよね.

>ただ上の規則ではフォロウできないものとして，剰余演算子 % を
>どう定めるかという問題もあります．例えば，
>
>    1.0000000000000000000
>  % 0.00000000000000000000001
>
>の有効桁は直観的には0桁なので値はどうするかという事ですが，

私の案だと, 演算前に有効桁は小さい方に合わせられるので,

    1.0000000000000000000
  % 0.0000000000000000000

で演算されます. 結果の有効桁も上記と同じになります. 

>一般に誤差の範囲内に極値や不連続点を含む関数には同様の問題
>があり，ベキ乗や有理関数のように四則演算で簡単にあらわせる
>ものもこの影響を食らいます．

実質上固定精度といっても, そのまま計算すると偉いことになりますよね. 倍
精度ぐらいで計算して, あとできりすてするとか...

># なかなか時間が取れなくて問題の切り分けができない…(__;;;

そういえば最近メイル量が減ったような(^^;;;

__
................................石塚 圭樹＠日本ラショナルソフトェア...
----------------------------------->> e-mail: [e-mail] <<---