ruby-list

pa*xです。

実のところもとはRubyではなく、C++とFortranの数値計算で表示が異なったことがきっかけでした。すいません。
最初のメールにあるようにいろいろとほかの処理系も調べていたところ、

Rubyが1.8.6と1.8.7以降で動作が違うこと、RubyとJRubyで動作が違うことが気になり質問した次第です。
現状ではBCD演算までは考えていません。示唆ありがとうございました。

なかむら(う)さんによると1.8.7では1.8.6と同じ動作らしく、1.9系から丸めの動作がかわる筈らしい
ようなのですが、手元の現象とは異なりました。ちょっと気になっています。
JRubyの動作はJavaにあわせているのだと想像しています。

> 浮動小数点数とはそういうものなので、そういうものでは困る場合、
> 10進のまま考えたいという場合は BigDecimal 等を使ってください。

Thread

Prev Next

In This Thread

Prev Next

[#48251] require 'dbi' の警告について — 稲葉伸之 <nobuyuki.inaba@...>

[#48252] Ruby1.9.2 p290 MySQLアクセス用DBI、DBD、deprecated.gemファイル、mysql-2.8.1-x86-mswin32.gemファイルについて — "前川 映一" <eiichi_maekawa@...>

[#48254] Ruby1.8.7p352へのデバッガ設定について — "前川 映一" <eiichi_maekawa@...>

[#48256] 動的なクラス定義とトップレベルでのinclude — "MISHIMA, Hiroyuki" <missy@...>

[#48259] Ruby1.8.7 パッチレベル352のMySQL関連gemファイルについて — eiichi_maekawa@...

[#48267] deprecated2.0.1.gemファイルのダウンロードについて — eiichi_maekawa@...

[#48279] tkライブラリのppm画像表示について — pclc_perl@...

[#48284] Hash#index と Hash#key について — Masa <mhatakeyama@...>

[#48290] バグレポートについて — "前川 映一" <eiichi_maekawa@...>

[#48302] — "kuni" <kuni@...>

[#48303] Railsでsqlite3で作ったアプリをPostgreSQLに移行出来ない — "(株)ユニバース 情報システム部 井上（克）" <inouek@...>

[#48304] Ruby1.8.7p352 デバッガの設定について — eiichi_maekawa@...

[#48308] WinXPでnokogiインストール — AOKI Yoshihiro <aoki@...>

[#48322] [ANN] ytl 0.0.4 リリース — "Miura Hideki" <m-72@...6.so-net.ne.jp>

[#48323] windows版1.9(64bit)rubyから、64bit版mysqlにアクセスする手段はありますか — 中川貴 <nora1962@...>

[#48326] PikによるRubyバージョンの切り替えについて — eiichi_maekawa@...

[#48327] [ANN] Green Shoes v1.0 released — ashbb <ashbbb@...>

[#48328] [ANN] RubyWorld Conference 2011 — Shugo Maeda <shugo@...>

[#48329] Rubyist Magazine 7 周年へのメッセージを募集します — sunao tanabe <sunao.tanabe@...>

[#48330] 1.25を %10.1f で出力したときバージョンにより表示に違いがでるのは何故でしょうか。 — paptimusx <paptimusx@...>

[#48334] autoload がうまく働かない — "Takashi SUGA" <suchowan@...>

[#48342] 第 51 回 Ruby/Rails 勉強会@関西を開催します。 — 無量井 健（むりょうい けん） <muryoimpl@...>

[ruby-list:48341] Re: 1.25を %10.1f で出力したときバージョンにより表示に違いがでるのは何故でしょうか。

Thread

In This Thread

[#48252] Ruby1.9.2　p290　MySQLアクセス用DBI、DBD、deprecated.gemファイル、mysql-2.8.1-x86-mswin32.gemファイルについて — "前川映一" <eiichi_maekawa@...>

[#48254] Ruby1.8.7p352へのデバッガ設定について — "前川映一" <eiichi_maekawa@...>

[#48290] バグレポートについて — "前川映一" <eiichi_maekawa@...>

[#48303] Railsでsqlite3で作ったアプリをPostgreSQLに移行出来ない — "(株)ユニバース情報システム部　井上（克）" <inouek@...>

[#48304] Ruby1.8.7p352　デバッガの設定について — eiichi_maekawa@...

[#48342] 第 51 回 Ruby/Rails 勉強会@関西を開催します。 — 無量井健（むりょういけん） <muryoimpl@...>