[#42503] floatの値がずれる — Sato Hiroshi <hirocy.f01@...>

hirocyと申します.

33 messages 2006/07/04
[#42504] Re: floatの値がずれる — rubikitch <rubikitch@...> 2006/07/04

From: Sato Hiroshi <hirocy.f01@plala.to>

[#42505] Re: floatの値がずれる — Sato Hiroshi <hirocy.f01@...> 2006/07/04

hirocyです.るびきちさん,ありがとうございます.

[#42569] JVN、スクリプト言語「Ruby」の2件の脆弱性情報を公表 — Takahiro Kambe <taca@...>

こんばんは。

19 messages 2006/07/11
[#42570] Re: JVN、スクリプト言語「Ruby」の2件の脆弱性情報を公表 — Yukihiro Matsumoto <matz@...> 2006/07/11

まつもと ゆきひろです

[#42572] Re: JVN、スクリプト言語「Ruby」の2件の脆弱性情報を公表 — Takahiro Kambe <taca@...> 2006/07/11

In message <1152619872.835566.21152.nullmailer@x31.priv.netlab.jp>

[#42575] Re: JVN、スクリプト言語「Ruby」の2件の脆弱性情報を公表 — Yukihiro Matsumoto <matz@...> 2006/07/11

まつもと ゆきひろです

[ruby-list:42540] Re: float の値がずれる

From: Shin-ichiro HARA <sinara@...>
Date: 2006-07-06 05:05:44 UTC
List: ruby-list #42540
原です。

>小林です。
>
>----- Original Message ----- From: "Shigeo Kobayashi" <shigeo@tinyforest.gr.jp>
>Subject: [ruby-list:42535] Re: float の値がずれる
>
>
>>ところで、rational.so でも
>> 100000000000000.1.to_r !="100000000000000.1".to_r
>>ですよね?
>すいません、なかなかメールを読み切れなくて。
>この質問はキャンセルして下さい。

いえいえ、ありがたい指摘です。

0.1.to_r は、3602879701896397/36028797018963968 ですけど、
"0.1".to_r は、1/10 になるようにしました。こちらは BigDecimal 
と同じ発想です。

そのせいで、"0.1".to_f.to_r と "0.1".to_r が違うものになってし
まうのが気になるのですが、まあそれでもいいかと。


In This Thread