From: "ujihisa ." <example@...>
Date: 2011-12-02T09:17:41+09:00
Subject: [ruby-dev:44919] [ruby-trunk - Bug #5699] Windowsで一部のFloat値が正しく扱えない


Issue #5699 has been updated by ujihisa ..


浮動小数点数の計算には誤差があります。参考サイト:

* http://download.oracle.com/docs/cd/E19957-01/806-4847/ncg_goldberg.html
* http://wiki.github.com/rdp/ruby_tutorials_core/ruby-talk-faq#floats_imprecise
* http://en.wikipedia.org/wiki/Floating_point#Accuracy_problems
----------------------------------------
Bug #5699: Windowsで一部のFloat値が正しく扱えない
http://redmine.ruby-lang.org/issues/5699

Author: 剛 奥山
Status: Open
Priority: Normal
Assignee: 
Category: 
Target version: 1.9.2
ruby -v: ruby 1.9.2p290 (2011-07-09) [i386-mingw32]


Windows XP SP3にて、

ruby 1.9.2p290 (2011-07-09) [i386-mingw32] で、
  x = 0.002877 #=> 0.0028770000000000002
となってしまいます。

ruby 1.8.7 (2011-06-30 patchlevel 352) [i386-mingw32] では、
  x = 0.002877 #=> 0.002877
となります。




-- 
http://redmine.ruby-lang.org