[#42503] floatの値がずれる — Sato Hiroshi <hirocy.f01@...>

hirocyと申します.

33 messages 2006/07/04
[#42504] Re: floatの値がずれる — rubikitch <rubikitch@...> 2006/07/04

From: Sato Hiroshi <hirocy.f01@plala.to>

[#42505] Re: floatの値がずれる — Sato Hiroshi <hirocy.f01@...> 2006/07/04

hirocyです.るびきちさん,ありがとうございます.

[#42569] JVN、スクリプト言語「Ruby」の2件の脆弱性情報を公表 — Takahiro Kambe <taca@...>

こんばんは。

19 messages 2006/07/11
[#42570] Re: JVN、スクリプト言語「Ruby」の2件の脆弱性情報を公表 — Yukihiro Matsumoto <matz@...> 2006/07/11

まつもと ゆきひろです

[#42572] Re: JVN、スクリプト言語「Ruby」の2件の脆弱性情報を公表 — Takahiro Kambe <taca@...> 2006/07/11

In message <1152619872.835566.21152.nullmailer@x31.priv.netlab.jp>

[#42575] Re: JVN、スクリプト言語「Ruby」の2件の脆弱性情報を公表 — Yukihiro Matsumoto <matz@...> 2006/07/11

まつもと ゆきひろです

[ruby-list:42538] Re: float の値がずれる

From: Shin-ichiro HARA <sinara@...>
Date: 2006-07-06 03:42:42 UTC
List: ruby-list #42538
原です。

>ふなばです。
>
>> 例えば意外なことにFloatをBigDecimalに変換することはできません。
>> BigDecimalのインプットはStringですから。意外じゃなくて、原理的に
>> 当然ですけど。
>
>一応あるんじゃないですかね。
>
>ruby -r bigdecimal -r bigdecimal/util -e 'p 100000000000000.1.to_d'
>#<BigDecimal:81106b8,'0.1E15',4(8)>

そうですけど、util.rb の aFloat.to_d の実装は BigDecimal(aFloat.to_s) です。
#もうちょっと工夫の余地はあるかも。

>このあたりいろいろと問題がありそう。
>
>100000000000000.1.to_d.to_f      #=> 1.0e+14
>100000000000000.1.to_d.to_r.to_f #=> 1.0e-14

BigDecimal#to_r のバグ?


In This Thread