[ruby-dev:4826] Re: compare to NaN (Re: Re: call for finite/isnan testers)

えぐち＠エスアンドイー です。

>>> On Sun, 7 Feb 1999 18:28:32 +0900, [e-mail] (石塚圭樹 ) said:

keiju> けいじゅ＠日本ラショナルソフトウェアです.
keiju> 
keiju> 休出までして会社に来ているのにと思いつつ....
keiju> 
keiju> 今日頻繁に登場しておられる方々はみなそうなのかな??

地球の上にいる系の人を除けば、
おうちで接続、あるいはＳＯＨＯな人が多いのでは？
私は、ＳＯＨＯな部類です。

休日出勤ごくろうさまでした。／

keiju> In [ruby-dev :4821 ] the message: "[ruby-dev:4821] Re: compare to NaN
keiju> (Re: Re: call for finite/isnan testers) ", on Feb/07 17:59(JST) EGUCHI
keiju> Osamu writes:
keiju> 
keiju> >えぐち＠エスアンドイー です。
...
keiju> >この場合は、演算結果の精度のがいくつになるかの規則が問題ですね。
keiju> >
keiju> >例えば
keiju> >  加限算は、絶対値の大きな項の精度になる
keiju> >  乗除算は、精度の小さな項の精度になる
keiju> >などです。
keiju> 
keiju> 全部, 精度の小さな項の精度になる
keiju> 
keiju> になっています. 加減算でも, 片方の精度を越えた部分に関しては, 計算して
keiju> も無意味だと思うのですが?
@@@

keiju> >keiju> # 実装はしても, テストが中途半端なままほっといてんですが(^^;;;
keiju> >ありのままな状態で良いので、是非拝見したいです。
keiju> 
keiju> あらま(*^^*
keiju> 
keiju> 大部いじっていないので, もしかしたら本当にデバッグ中かも知れませんので,
keiju> 動作しないかも知れません.
keiju> 
keiju> あと, Bigfloatを
keiju> 
keiju>   仮数 * 10 ^ 指数
keiju> 
keiju> で表現するか,
keiju> 
keiju>   仮数 * 256 ^ 指数
keiju> 
keiju> で表現するか, はたまた他にするかが問題だと思いますが, たぶん10を用いて
keiju> いたと思います.

おっしゃる通り、指数の底は 10 でした。

だいぶ読ませて頂きました。
で、前のメールの四則の精度に関する考えが一部
誤りだったので、まとめて見ました。

＊＊＊＊＊＊
加算と精度の考察

(1) 有効桁数の減少があるケース
	1.2345 x 10 ^ 8 =>	12345????
 +)	3.210 x 10 ^ 5  =>	   3210??
 ------------------------------------------------
        1.2377 x 10 ^ 8 =>	12377????
  ただし桁上がりで汚染された可能性があるので
        1.238 x 10 ^ 8 =>	1238?????

(2) 有効桁数の減少はないが、丸め誤差を生じるケース
	1.2345 x 10 ^ 8 =>	12345????
 +)	3.210 x 10 ^ -5   =>	       .00003210
 ------------------------------------------------
        1.2377 x 10 ^ 8 =>	12345????
  この場合桁上がりで汚染された可能性はない

(3)有効桁数の減少があり、丸め誤差を生じるケース
	1.2345 x 10 ^ 8 =>	12345????
 +)	3.21 x 10 ^ 7   =>	 321?????
 ------------------------------------------------
        1.555 x 10 ^ 8 =>	1555?????
  ただし桁上がりで汚染された可能性があるので
        1.56 x 10 ^ 8 =>	1556?????

減算と精度の考察

(1) 有効桁数の減少があるケース
	1.2345 x 10 ^ 8 =>	12345????
 -)	3.210 x 10 ^ 5   =>	   3210??
 ------------------------------------------------
        1.2311 x 10 ^ 8 =>	12311????
  ただし桁上がりで汚染された可能性があるので
        1.231 x 10 ^ 8 =>	1231?????

(2) 有効桁数の減少はないが、丸め誤差を生じるケース
	1.2345 x 10 ^ 8 =>	12345????
 1)	3.210 x 10 ^ -5   =>	       .00003210
 ------------------------------------------------
        1.2377 x 10 ^ 8 =>	12345????
  この場合桁上がりで汚染された可能性はない

(3)有効桁数の減少があり、丸め誤差を生じるケース
	1.2345 x 10 ^ 8 =>	12345????
 +)	3.21 x 10 ^ 7   =>	 321?????
 ------------------------------------------------
        9.135 x 10 ^ 7 =>	 9135????
  ただし桁上がりで汚染された可能性があるので
        9.14 x 10 ^ 7 =>	 914?????

(3)極端な有効桁数の減少があるケース
	1.2345 x 10 ^ 8 =>	12345????
+)	1.2300 x 10 ^ 8   => 	12300????
 ------------------------------------------------
        4.5 x 10 ^ 5 	=>	   45????
  ただし桁上がりで汚染された可能性があるので
        4 x 10 ^ 5 	=>	   4?????

＊＊＊

また変換時の精度は
  整数を Bigfloat に変換すると無限精度になる
  浮動小数を Bigfloat に変換すると仮数の精度になる

べきだと思います。無限精度と言うのはいいすぎですが、
整数の値は、誤差なしと考えるべきでしょう。
これの延長に文字列からの Bigfloat も生成がありますが。
1.0000 で有効数字 5 桁なのかなぁ？

	えぐち