[#48251] require 'dbi' の警告について — 稲葉伸之 <nobuyuki.inaba@...>

いなばともうします。

22 messages 2011/08/03
[#48260] Re: require 'dbi' の警告について — Fumiaki Sakamoto <ua6ta6@...> 2011/08/05

坂元と申します。

[#48261] Re: require 'dbi' の警告について — 稲葉伸之 <nobuyuki.inaba@...> 2011/08/05

いろいろありがとうございます。

[#48264] Re: require 'dbi' の警告について — "Y. Nobuoka" <nobuoka@...> 2011/08/05

信岡です。

[#48308] WinXPでnokogiインストール — AOKI Yoshihiro <aoki@...>

あおきと申します。

13 messages 2011/08/12

[#48330] 1.25を %10.1f で出力したときバージョンにより表示に違いがでるのは何故でしょうか。 — paptimusx <paptimusx@...>

1.25を %10.1f で出力したとき、表示に違いがでるのですが、何故でしょうか。

10 messages 2011/08/23
[#48332] Re: 1.25を %10.1f で出力したときバージョンにより表示に違いがでるのは何故でしょうか。 — paptimusx <paptimusx@...> 2011/08/23

2つポストしてしまったようですいません。

[ruby-list:48338] Re: 1.25を %10.1f で出力したときバージョンにより表示に違いがでるのは何故でしょうか。

From: "KISHIMOTO, Makoto" <ksmakoto@...4u.or.jp>
Date: 2011-08-24 05:23:49 UTC
List: ruby-list #48338
> 10進で単純に考えると0.4になりそうです..
> 単精度で銀行家丸めをしてみると(つまりRubyでない) 0.4になり、倍精度だと0.5になります。
> 0.45はバイナリで正確に表現できないので、というような説明があるのですが、
> 10進のまま考えてはいけないのでしょうか。

コンピュータの浮動小数点とはそういうもの(普通、2進)だからです。
ある意味で、期待した通りの「ちょうど5」のふるまいが起きるのは、たまたま
2進でちょうど表現できる時のみ、と考えていいでしょう(0.375とか)。

In This Thread