[ruby-list:41511] Re: 数を減らしてくループ

小波です．

ゴトウダイスケ wrote:

> windows 2000 sp4 + ruby 1.8.3 (2005-09-21) [i386-mswin32]
> でちょっと試してみました。（増分をかえて）
> すると、、、
> 0.8 となって欲しいところで 0.799999999999999
> 0.4 となって欲しいところで 0.399999999999999
> となりました。これってあまり嬉しくないなぁと思いますが
> いかがでしょう。

数値計算でたとえば dt = 0.01 などとしてループをまわすのに，

dt = 0.01
t = tstart
for ...
  t += dt
  ...
end

というふうにするのは好ましくなくて，

dt = 0.01
for i .....
  t = tstart + dt * i
  ...
end

とすべきというのが，誤差の蓄積を避けて精度を確保するための定石
とされてますね．