From: _ wanabe Date: 2010-05-11T07:06:21+09:00 Subject: [ruby-dev:41257] [Bug #3267] BigDecimal/mathでatan()に1.08を入れると戻り値の有効桁数が足りない Bug #3267: BigDecimal/mathでatan()に1.08を入れると戻り値の有効桁数が足りない http://redmine.ruby-lang.org/issues/show/3267 起票者: _ wanabe ステータス: Open, 優先度: Normal 担当者: Kenta Murata ruby -v: ruby 1.9.2dev (2010-05-04 trunk 27600) [i386-mingw32] 2ch.net 上で報告があったので転載します。 Rubyについて Part 40 http://pc12.2ch.net/test/read.cgi/tech/1272248179/121-122 RubyのトランクのBigDecimal/math atan()に1.08を入れると戻り値の有効桁数が足りない return pi.div(neg ? -2 : 2, prec) if x.infinite? return pi / (neg ? -4 : 4) if x.round(prec) == 1 * x = 1 / x if inv = x > 1 x = (-1 + sqrt(1 + x**2, prec))/x if dbl = x > 0.5 irb(main):004:0> BigDecimal("1")/BigDecimal("1.08") => # irb(main):005:0> BigDecimal("1").div(BigDecimal("1.08"), 30) => # irb(main):006:0> ここで桁数が足りなくなるのね。 分母と分子の有効桁数が少ないときに、出力の有効桁数の指定が無い場合は、 適当にちょんぎるのは、言語仕様的には、正解でありましょう。 1/3が来たら、メモリを全部使い切りました、では悲しい。 はい、 x = BigDecimal("1").div(x, prec) で、なおります。 y = tan(atan(x, prec), prec) で、ループを廻して、xとyの値を比較していてたら、たまたま発見しました。 あ、トランクにはtanはないのだけど、sinとcosの組み合わせで間に合わせました。 tanはパッと見、収束が遅いようなので後回し。 あと、expの絶対値が大きくなると、戻って来ないのよね。 exp(a*b+c) = exp(a)**b * exp(c) を使うと、幸せになれるかも。(ん十倍の威力で) んで、powerも全部の桁を計算してご苦労さんなんだが、integerではないのだから、そんなに気張らなくても.. とは、思います。 expと同じ要領でやると、実行速度がずいぶん速くなります。 (Rubyのコードからpowerをcallするんだが、それでもとても速い。 ソースを書き換える手もあるのだけど、コンパイルするのがめんどくさい。 そもそも、その手の労力を厭わない人は、こっちに来なくて良いでしょ) logは、exponentが負の場合、 を書いてあるから、正で2桁以上の場合、を追加すると良いですね。 expとlogが実用範囲内になると、実数**実数が(実用的に)使えるようになります。 ---------------------------------------- http://redmine.ruby-lang.org