[#47173] 小数点以下を切り捨てる方法について — "T.Soejima" <clev@...2.so-net.ne.jp>

お世話になっております。そえじま@勉強中です。

16 messages 2010/06/23

[ruby-list:47186] Re: 小数点以下を切り捨てる方法について

From: "T.Soejima" <clev@...2.so-net.ne.jp>
Date: 2010-06-24 08:44:42 UTC
List: ruby-list #47186
そえじま@勉強中です。

皆さん、いろいろご教示いただきまして、本当にありがとうございます。

今のところ正規表現が苦手なので、個人的には山崎(ゆ)さんのような
方法が自分には合ってるのかなぁと思っているのですが、皆さんにご教示
いただいた方法のどれを使っても、1.2344999999999999 を与えると
どうしても四捨五入してしまうようです。

宮川さんの、
> class Numeric
>   def to_ss(pos)
>     self.to_s.sub(/(\.\d{#{pos}})\d+/,'\1')
>   end
> end
>   

この方法がシンプルな書き方でかっこいいなと思うんですが
手元のirbで確認したところ、やはり限界の値では四捨五入
されてしまうようです。
(実際はそういう値は発生する可能性がなさそうなので、スルーすると
いう手段もあるのですが、なんとなく。)

このへんは妥協しておくべきなのでしょうか。




In This Thread