ruby-list

たけ(tk)です

[ruby-list:47186] Re: 小数点以下を切り捨てる方法に
ついて にて
"T.Soejima" <clev@ck2.so-net.ne.jp> さん曰く:


> いただいた方法のどれを使っても、1.2344999999999999　を与えると
> どうしても四捨五入してしまうようです。

Float だからですね。1.2344999999999999 と 1.2345 
との区別がつかないようです。

irb(main):015:0> 1.2344999999999999
=> 1.2345
irb(main):018:0> 1.2344999999999999 - 1.2345
=> 0.0
irb(main):019:0> 1.2344999999999999 == 1.2345
=> true
irb(main):020:0>

もっと正確な浮動小数点を扱いたいなら BigDecimal で
しょう。

irb(main):016:0> require "bigdecimal"
=> true
irb(main):017:0> BigDecimal::new("1.2344999999999999").floor(5).to_f
=> 1.23449

Take_tk = KUMAGAI Hidetake
たけ(tk)＝熊谷秀武

Thread

Prev Next

In This Thread

Prev Next

[#47118] [ANN] RubyKaigi2010の"当日"ボランティアスタッフの募集を開始します — Kei Shiratsuchi <kei.shiratsuchi@...>

[#47119] 配列の配列を返すmap — arima <arima.tknr@...>

[#47122] [Ann] Contribution wanted: test your code with 1.9.2-preview3 — Yusuke ENDOH <mame@...>

[#47126] Rubyist九州定例会の御案内 — Hidetoshi NAGAI <nagai@...>

[#47127] XMLで全てのエントリーURL取得 — Soichi Ishida <zau_777_emacs@...>

[#47132] 第44回 Ruby/Rails勉強会@関西 開催のお知らせ — HIGAKI Masaru (ひがき まさる) <higaki@...>

[#47133] [ANN] ulmul-0.4.1 is released with ulmul2html5 and ulmul2xhtml — Takeshi NISHIMATSU <t_nissie@...>

[#47134] [ANN] activerecord-cassandra-adapter 0.1.0 — sgwr_dts@...

[#47135] Re: SecurityErrorはStandardErrorを継承しているか — ueda@...

[#47136] Re: SecurityError はStandardErrorを継承しているか — ISIHARA HIROSI <ishihara-h@...>

[#47138] 同じデータを引っ張ってしまう。 — "T.Soejima" <clev@...2.so-net.ne.jp>

[#47141] 配列の要素数を合わせたいのですが。 — "T.Soejima" <clev@...2.so-net.ne.jp>

[#47142] Re: Welcome to our (ruby mailing list) You are added automatically — <tomoya.watanabe@...>

[#47143] RubyでSSLを用いてファイルを取得する事は可能でしょうか — 成田恭一(NWH) <ntnarita_prn@...>

[#47144] 「邪道編〜Ruby × Windows で出来ること 」開催のお知らせ — Shozo Arai <shozoa@...>

[#47145] [ANN]Miyako2.1.14リリース — cyross@...

[#47146] 【再送】[ANN]Miyako2.1.14をリリースいたしました — cyross@...

[#47147] [ANN] LiveCoding#10 開催のお知らせ — Tomohiro Nishimura <tomohiro68@...>

[#47148] [訂正] LiveCoding#10 の案内に間違いがありました。 — Tomohiro Nishimura <tomohiro68@...>

[#47149] twitter4rのgemの動作に関する質問です — Yukitaka Uchikoshi <yukitaka.uchikoshi@...>

[#47151] Re: twitter4rのgemの動作に関する質問です(解決しました) — Yukitaka Uchikoshi <yukitaka.uchikoshi@...>

[#47154] RubyKaigi2010 企画 "Ruby で扱う LDAP のススメ" ご協力者募集のお願い — tashen <tashen.hatena@...>

[#47156] [ANN]るびま30号リリース — Masaya Konishi <mkonishi1981@...>

[#47158] [ANN] RubyKaigi 2010: PGP Keysigning Party — Urabe Shyouhei <shyouhei@...>

[#47161] [ANN] nokogiri 1.4.2 リリース — Aaron Patterson <aaron@...>

[#47166] 破壊的なメソッドを作るには？ — "Hideo Konami" <konami@...>

[#47169] RubyKaigi2010の参加登録を受付中です — masayoshi takahashi <maki@...>

[#47170] ANN: ActiveScriptRuby 1.8.7の更新（脆弱性修正） — arton <artonx@...>

[#47171] 第44回 Ruby/Rails勉強会@関西 参加いただき ありがとうございました。 — HIGAKI Masaru (ひがき まさる) <higaki@...>

[#47172] [ANN] Lightweight Language Tiger 開催のお知らせ — masayoshi takahashi <maki@...>

[#47173] 小数点以下を切り捨てる方法について — "T.Soejima" <clev@...2.so-net.ne.jp>

[#47177] [ANN] Ruby 1.8.7 patchlevel 299 released. — Urabe Shyouhei <shyouhei@...>

[#47184] Re: 小数点以下を切り捨てる方法について — "Endo Akira" <endo4917@...>

[#47197] 「Rubyリファレンスマニュアル刷新計画」2010-06分のスナップショットリリース — okkez <okkez000@...>

[#47198] Ruby バージョンアップ方法について — eiichi_maekawa@...

[#47199] [ANN] RubyKaigi2010のライトニングトークスの応募フォームをオープンしました — SHIMADA Koji <snoozer.05@...>

[ruby-list:47190] Re: 小数点以下を切り捨てる方法について

Thread

In This Thread

[#47132] 第44回 Ruby/Rails勉強会@関西開催のお知らせ — HIGAKI Masaru (ひがきまさる) <higaki@...>

[#47144] 「邪道編〜Ruby × Windows で出来ること」開催のお知らせ — Shozo Arai <shozoa@...>

[#47171] 第44回 Ruby/Rails勉強会@関西参加いただきありがとうございました。 — HIGAKI Masaru (ひがきまさる) <higaki@...>