[#42503] floatの値がずれる — Sato Hiroshi <hirocy.f01@...>

hirocyと申します.

33 messages 2006/07/04
[#42504] Re: floatの値がずれる — rubikitch <rubikitch@...> 2006/07/04

From: Sato Hiroshi <hirocy.f01@plala.to>

[#42505] Re: floatの値がずれる — Sato Hiroshi <hirocy.f01@...> 2006/07/04

hirocyです.るびきちさん,ありがとうございます.

[#42569] JVN、スクリプト言語「Ruby」の2件の脆弱性情報を公表 — Takahiro Kambe <taca@...>

こんばんは。

19 messages 2006/07/11
[#42570] Re: JVN、スクリプト言語「Ruby」の2件の脆弱性情報を公表 — Yukihiro Matsumoto <matz@...> 2006/07/11

まつもと ゆきひろです

[#42572] Re: JVN、スクリプト言語「Ruby」の2件の脆弱性情報を公表 — Takahiro Kambe <taca@...> 2006/07/11

In message <1152619872.835566.21152.nullmailer@x31.priv.netlab.jp>

[#42575] Re: JVN、スクリプト言語「Ruby」の2件の脆弱性情報を公表 — Yukihiro Matsumoto <matz@...> 2006/07/11

まつもと ゆきひろです

[ruby-list:42524] Re: float の値がずれる

From: Tadashi Saito <shiba@...2.accsnet.ne.jp>
Date: 2006-07-05 14:32:34 UTC
List: ruby-list #42524
どうも、斎藤と申します。

On Wed, 5 Jul 2006 19:18:44 +0900
Shin-ichiro HARA <sinara@blade.nagaokaut.ac.jp> wrote:

> 問題の設定の仕方ではBigDecimalが解答にならない場合があります。
> 
> 例えば意外なことにFloatをBigDecimalに変換することはできません。
> BigDecimalのインプットはStringですから。意外じゃなくて、原理的に
> 当然ですけど。
> 
> もちろん、BigDecimal(0.01.to_s)などとすればいいわけですけど、例え
> ば、BigDecimal(100000000000000.1.to_s)は、0.1E15であって、
> 0.1000000000000001E15ではありません。つまりFloat->BigDecimalには
> 標準的な手段がなく、別の方法つまりRational経由とかに話が飛んだり
> するわけです。

なるほど、そういうお話もあるわけですね。
ご教授ありがとうございました。

--
斎藤ただし

In This Thread