ruby-list

いろいろありがとうございます。
こういう理解でおっけーでしょうか。

0.375 だと2進0.110でキリがよいので問題が(みえ)ない。

倍精度で仮数部に52ビットとれるすると
0.45は0.011100110011001100110011001100110011001100110011001
10進にもどして0.45にほぼ戻る
銀行家丸め、で0.5の表示

もし単精度で仮数部が23ビットとすると
0.45だと0.0111001100110011001100
10進にもどして 0.449999809265137

丸めは printf で行うものとしてe-2の桁は5に満たないとみなされて 0.4

Thread

Prev Next

In This Thread

Prev Next

[#48251] require 'dbi' の警告について — 稲葉伸之 <nobuyuki.inaba@...>

[#48252] Ruby1.9.2 p290 MySQLアクセス用DBI、DBD、deprecated.gemファイル、mysql-2.8.1-x86-mswin32.gemファイルについて — "前川 映一" <eiichi_maekawa@...>

[#48254] Ruby1.8.7p352へのデバッガ設定について — "前川 映一" <eiichi_maekawa@...>

[#48256] 動的なクラス定義とトップレベルでのinclude — "MISHIMA, Hiroyuki" <missy@...>

[#48259] Ruby1.8.7 パッチレベル352のMySQL関連gemファイルについて — eiichi_maekawa@...

[#48267] deprecated2.0.1.gemファイルのダウンロードについて — eiichi_maekawa@...

[#48279] tkライブラリのppm画像表示について — pclc_perl@...

[#48284] Hash#index と Hash#key について — Masa <mhatakeyama@...>

[#48290] バグレポートについて — "前川 映一" <eiichi_maekawa@...>

[#48302] — "kuni" <kuni@...>

[#48303] Railsでsqlite3で作ったアプリをPostgreSQLに移行出来ない — "(株)ユニバース 情報システム部 井上（克）" <inouek@...>

[#48304] Ruby1.8.7p352 デバッガの設定について — eiichi_maekawa@...

[#48308] WinXPでnokogiインストール — AOKI Yoshihiro <aoki@...>

[#48322] [ANN] ytl 0.0.4 リリース — "Miura Hideki" <m-72@...6.so-net.ne.jp>

[#48323] windows版1.9(64bit)rubyから、64bit版mysqlにアクセスする手段はありますか — 中川貴 <nora1962@...>

[#48326] PikによるRubyバージョンの切り替えについて — eiichi_maekawa@...

[#48327] [ANN] Green Shoes v1.0 released — ashbb <ashbbb@...>

[#48328] [ANN] RubyWorld Conference 2011 — Shugo Maeda <shugo@...>

[#48329] Rubyist Magazine 7 周年へのメッセージを募集します — sunao tanabe <sunao.tanabe@...>

[#48330] 1.25を %10.1f で出力したときバージョンにより表示に違いがでるのは何故でしょうか。 — paptimusx <paptimusx@...>

[#48334] autoload がうまく働かない — "Takashi SUGA" <suchowan@...>

[#48342] 第 51 回 Ruby/Rails 勉強会@関西を開催します。 — 無量井 健（むりょうい けん） <muryoimpl@...>

[ruby-list:48340] Re: 1.25を %10.1f で出力したときバージョンにより表示に違いがでるのは何故でしょうか。

Thread

In This Thread

[#48252] Ruby1.9.2　p290　MySQLアクセス用DBI、DBD、deprecated.gemファイル、mysql-2.8.1-x86-mswin32.gemファイルについて — "前川映一" <eiichi_maekawa@...>

[#48254] Ruby1.8.7p352へのデバッガ設定について — "前川映一" <eiichi_maekawa@...>

[#48290] バグレポートについて — "前川映一" <eiichi_maekawa@...>

[#48303] Railsでsqlite3で作ったアプリをPostgreSQLに移行出来ない — "(株)ユニバース情報システム部　井上（克）" <inouek@...>

[#48304] Ruby1.8.7p352　デバッガの設定について — eiichi_maekawa@...

[#48342] 第 51 回 Ruby/Rails 勉強会@関西を開催します。 — 無量井健（むりょういけん） <muryoimpl@...>