ruby-list

ひょっとして既出かも知れませんが、、、、。

In message <4C231B10.3080608@ck2.so-net.ne.jp> 2010-06-24T17:44+0900,
	"T.Soejima" <clev@ck2.so-net.ne.jp> wrote:
> いただいた方法のどれを使っても、1.2344999999999999　を与えると
> どうしても四捨五入してしまうようです。

そうではなく、そもそもRuby で組み込みの実数は C言語の double で
実装されているので、多くの環境では「64ビットの2進法浮動小数点数」に
なります。その結果、1.2344999999999999 はその表現可能な桁数を越えているので、
1.2345 と区別できない（多分、文字列で表されたものを解釈して内部表現に
する時点で同じ値になってしまう）だけです。なので、そもそも

irb(main):003:0> 1.2345 == 1.2344999999999999
=> true

のようになります。だから、その値をどう加工しても1.2345 と同じ結果になる次第。

そういう桁数まで扱いたければ、添付ライブラリの bigdecimal を使うなど、
組み込みの実数 Float 以外のものを使う必要があるのだと思います。
http://doc.okkez.net/static/187/library/bigdecimal.html

--
阪口哲男＠図書館情報メディア研究科．大学院．筑波大学
Tetsuo SAKAGUCHI.
Graduate School of Library, Information and Media Studies
University of Tsukuba, JAPAN.

Thread

Prev Next

In This Thread

Prev Next

[#47118] [ANN] RubyKaigi2010の"当日"ボランティアスタッフの募集を開始します — Kei Shiratsuchi <kei.shiratsuchi@...>

[#47119] 配列の配列を返すmap — arima <arima.tknr@...>

[#47122] [Ann] Contribution wanted: test your code with 1.9.2-preview3 — Yusuke ENDOH <mame@...>

[#47126] Rubyist九州定例会の御案内 — Hidetoshi NAGAI <nagai@...>

[#47127] XMLで全てのエントリーURL取得 — Soichi Ishida <zau_777_emacs@...>

[#47132] 第44回 Ruby/Rails勉強会@関西 開催のお知らせ — HIGAKI Masaru (ひがき まさる) <higaki@...>

[#47133] [ANN] ulmul-0.4.1 is released with ulmul2html5 and ulmul2xhtml — Takeshi NISHIMATSU <t_nissie@...>

[#47134] [ANN] activerecord-cassandra-adapter 0.1.0 — sgwr_dts@...

[#47135] Re: SecurityErrorはStandardErrorを継承しているか — ueda@...

[#47136] Re: SecurityError はStandardErrorを継承しているか — ISIHARA HIROSI <ishihara-h@...>

[#47138] 同じデータを引っ張ってしまう。 — "T.Soejima" <clev@...2.so-net.ne.jp>

[#47141] 配列の要素数を合わせたいのですが。 — "T.Soejima" <clev@...2.so-net.ne.jp>

[#47142] Re: Welcome to our (ruby mailing list) You are added automatically — <tomoya.watanabe@...>

[#47143] RubyでSSLを用いてファイルを取得する事は可能でしょうか — 成田恭一(NWH) <ntnarita_prn@...>

[#47144] 「邪道編〜Ruby × Windows で出来ること 」開催のお知らせ — Shozo Arai <shozoa@...>

[#47145] [ANN]Miyako2.1.14リリース — cyross@...

[#47146] 【再送】[ANN]Miyako2.1.14をリリースいたしました — cyross@...

[#47147] [ANN] LiveCoding#10 開催のお知らせ — Tomohiro Nishimura <tomohiro68@...>

[#47148] [訂正] LiveCoding#10 の案内に間違いがありました。 — Tomohiro Nishimura <tomohiro68@...>

[#47149] twitter4rのgemの動作に関する質問です — Yukitaka Uchikoshi <yukitaka.uchikoshi@...>

[#47151] Re: twitter4rのgemの動作に関する質問です(解決しました) — Yukitaka Uchikoshi <yukitaka.uchikoshi@...>

[#47154] RubyKaigi2010 企画 "Ruby で扱う LDAP のススメ" ご協力者募集のお願い — tashen <tashen.hatena@...>

[#47156] [ANN]るびま30号リリース — Masaya Konishi <mkonishi1981@...>

[#47158] [ANN] RubyKaigi 2010: PGP Keysigning Party — Urabe Shyouhei <shyouhei@...>

[#47161] [ANN] nokogiri 1.4.2 リリース — Aaron Patterson <aaron@...>

[#47166] 破壊的なメソッドを作るには？ — "Hideo Konami" <konami@...>

[#47169] RubyKaigi2010の参加登録を受付中です — masayoshi takahashi <maki@...>

[#47170] ANN: ActiveScriptRuby 1.8.7の更新（脆弱性修正） — arton <artonx@...>

[#47171] 第44回 Ruby/Rails勉強会@関西 参加いただき ありがとうございました。 — HIGAKI Masaru (ひがき まさる) <higaki@...>

[#47172] [ANN] Lightweight Language Tiger 開催のお知らせ — masayoshi takahashi <maki@...>

[#47173] 小数点以下を切り捨てる方法について — "T.Soejima" <clev@...2.so-net.ne.jp>

[#47177] [ANN] Ruby 1.8.7 patchlevel 299 released. — Urabe Shyouhei <shyouhei@...>

[#47184] Re: 小数点以下を切り捨てる方法について — "Endo Akira" <endo4917@...>

[#47197] 「Rubyリファレンスマニュアル刷新計画」2010-06分のスナップショットリリース — okkez <okkez000@...>

[#47198] Ruby バージョンアップ方法について — eiichi_maekawa@...

[#47199] [ANN] RubyKaigi2010のライトニングトークスの応募フォームをオープンしました — SHIMADA Koji <snoozer.05@...>

[ruby-list:47187] Re: 小数点以下を切り捨てる方法について

Thread

In This Thread

[#47132] 第44回 Ruby/Rails勉強会@関西開催のお知らせ — HIGAKI Masaru (ひがきまさる) <higaki@...>

[#47144] 「邪道編〜Ruby × Windows で出来ること」開催のお知らせ — Shozo Arai <shozoa@...>

[#47171] 第44回 Ruby/Rails勉強会@関西参加いただきありがとうございました。 — HIGAKI Masaru (ひがきまさる) <higaki@...>