[ruby-list:9530] 小数の扱い

ごとけんです

In message "[ruby-list:9529] 小数の扱い"
    on 98/09/11, [e-mail] <[e-mail]> writes:

>いしかわ@NIMSと申します。
>
>　小数の計算でよくわからないことがあるので質問させて下さい。
>剰余を出力しようとして、以下のソースを

これの理由は、

 % ruby -e 'p (0.56*3 - 1.68)'
 2.22045e-16

にあるのでしょう。完全に避ける方法は難しいと
思うのですが、

 Ax3 = (0.56*3)

などとするか、適当な整数 n で 10**n 倍して、
さらに to_i で整数化してから剰余を計算するのが
良いと思います。

-- gotoken