[#47133] [ANN] ulmul-0.4.1 is released with ulmul2html5 and ulmul2xhtml — Takeshi NISHIMATSU <t_nissie@...>
西松と申します。
4 messages
2010/06/06
[#47158] [ANN] RubyKaigi 2010: PGP Keysigning Party — Urabe Shyouhei <shyouhei@...>
みなさんこんにちわ。
5 messages
2010/06/15
[#47173] 小数点以下を切り捨てる方法について — "T.Soejima" <clev@...2.so-net.ne.jp>
お世話になっております。そえじま@勉強中です。
16 messages
2010/06/23
[#47174] Re: 小数点以下を切り捨てる方法について
— "NARUSE, Yui" <naruse@...>
2010/06/23
成瀬です。
[#47180] Re: 小数点以下を切り捨てる方法について
— "T.Soejima" <clev@...2.so-net.ne.jp>
2010/06/24
そえじま@勉強中です。
[#47182] Re: 小数点以下を切り捨てる方法について
— "KISHIMOTO, Makoto" <ksmakoto@...4u.or.jp>
2010/06/24
kなんとか、じゃない、きしもとです
[#47199] [ANN] RubyKaigi2010のライトニングトークスの応募フォームをオープンしました — SHIMADA Koji <snoozer.05@...>
日本Ruby会議2010実行委員のしまだです。
5 messages
2010/06/30
[ruby-list:47188] Re: 小数点以下を切り捨てる方法について
From:
"KISHIMOTO, Makoto" <ksmakoto@...4u.or.jp>
Date:
2010-06-24 10:05:40 UTC
List:
ruby-list #47188
浮動小数点数とはそんなものではあるのですが、
# たとえばコンピュータの内部では2進表現なのでソースコードの10進表現と
# 厳密に一致している保証はない。
> 今のところ正規表現が苦手なので、個人的には山崎(ゆ)さんのような
> 方法が自分には合ってるのかなぁと思っているのですが、皆さんにご教示
> いただいた方法のどれを使っても、1.2344999999999999 を与えると
> どうしても四捨五入してしまうようです。
p ('%.20g' % 1.2344999999999999).sub(/(\....).*/){$1}
のように、何も考えずに桁数を増やしてみたところとりあえず "1.234" が
出力されるようにはなりました。
# 本来20桁の精度はないので、これでうまくいかない場合には、
# 桁数をこれ以上増やしてもダメです。