ruby-list

成瀬です。

2011年8月24日14:23 KISHIMOTO, Makoto <ksmakoto@dd.iij4u.or.jp>:
>> 10進で単純に考えると0.4になりそうです..
>> 単精度で銀行家丸めをしてみると(つまりRubyでない) 0.4になり、倍精度だと0.5になります。
>> 0.45はバイナリで正確に表現できないので、というような説明があるのですが、
>> 10進のまま考えてはいけないのでしょうか。
>
> コンピュータの浮動小数点とはそういうもの（普通、2進）だからです。
> ある意味で、期待した通りの「ちょうど5」のふるまいが起きるのは、たまたま
> 2進でちょうど表現できる時のみ、と考えていいでしょう（0.375とか）。

浮動小数点数とはそういうものなので、そういうものでは困る場合、
10進のまま考えたいという場合は BigDecimal 等を使ってください。

参考サイト:
* http://download.oracle.com/docs/cd/E19957-01/806-4847/ncg_goldberg.html
* http://wiki.github.com/rdp/ruby_tutorials_core/ruby-talk-faq#floats_imprecise
* http://en.wikipedia.org/wiki/Floating_point#Accuracy_problems

-- 
NARUSE, Yui  <naruse@airemix.jp>

Thread

Prev Next

In This Thread

Prev Next

[#48251] require 'dbi' の警告について — 稲葉伸之 <nobuyuki.inaba@...>

[#48252] Ruby1.9.2 p290 MySQLアクセス用DBI、DBD、deprecated.gemファイル、mysql-2.8.1-x86-mswin32.gemファイルについて — "前川 映一" <eiichi_maekawa@...>

[#48254] Ruby1.8.7p352へのデバッガ設定について — "前川 映一" <eiichi_maekawa@...>

[#48256] 動的なクラス定義とトップレベルでのinclude — "MISHIMA, Hiroyuki" <missy@...>

[#48259] Ruby1.8.7 パッチレベル352のMySQL関連gemファイルについて — eiichi_maekawa@...

[#48267] deprecated2.0.1.gemファイルのダウンロードについて — eiichi_maekawa@...

[#48279] tkライブラリのppm画像表示について — pclc_perl@...

[#48284] Hash#index と Hash#key について — Masa <mhatakeyama@...>

[#48290] バグレポートについて — "前川 映一" <eiichi_maekawa@...>

[#48302] — "kuni" <kuni@...>

[#48303] Railsでsqlite3で作ったアプリをPostgreSQLに移行出来ない — "(株)ユニバース 情報システム部 井上（克）" <inouek@...>

[#48304] Ruby1.8.7p352 デバッガの設定について — eiichi_maekawa@...

[#48308] WinXPでnokogiインストール — AOKI Yoshihiro <aoki@...>

[#48322] [ANN] ytl 0.0.4 リリース — "Miura Hideki" <m-72@...6.so-net.ne.jp>

[#48323] windows版1.9(64bit)rubyから、64bit版mysqlにアクセスする手段はありますか — 中川貴 <nora1962@...>

[#48326] PikによるRubyバージョンの切り替えについて — eiichi_maekawa@...

[#48327] [ANN] Green Shoes v1.0 released — ashbb <ashbbb@...>

[#48328] [ANN] RubyWorld Conference 2011 — Shugo Maeda <shugo@...>

[#48329] Rubyist Magazine 7 周年へのメッセージを募集します — sunao tanabe <sunao.tanabe@...>

[#48330] 1.25を %10.1f で出力したときバージョンにより表示に違いがでるのは何故でしょうか。 — paptimusx <paptimusx@...>

[#48334] autoload がうまく働かない — "Takashi SUGA" <suchowan@...>

[#48342] 第 51 回 Ruby/Rails 勉強会@関西を開催します。 — 無量井 健（むりょうい けん） <muryoimpl@...>

[ruby-list:48339] Re: 1.25を %10.1f で出力したときバージョンにより表示に違いがでるのは何故でしょうか。

Thread

In This Thread

[#48252] Ruby1.9.2　p290　MySQLアクセス用DBI、DBD、deprecated.gemファイル、mysql-2.8.1-x86-mswin32.gemファイルについて — "前川映一" <eiichi_maekawa@...>

[#48254] Ruby1.8.7p352へのデバッガ設定について — "前川映一" <eiichi_maekawa@...>

[#48290] バグレポートについて — "前川映一" <eiichi_maekawa@...>

[#48303] Railsでsqlite3で作ったアプリをPostgreSQLに移行出来ない — "(株)ユニバース情報システム部　井上（克）" <inouek@...>

[#48304] Ruby1.8.7p352　デバッガの設定について — eiichi_maekawa@...

[#48342] 第 51 回 Ruby/Rails 勉強会@関西を開催します。 — 無量井健（むりょういけん） <muryoimpl@...>