[#43713] Re: 演算子の優先順位(was: Re: irb と python のバグ?) — "きむらこういち" <hogemuta@...>

木村です。

20 messages 2007/07/14
[#43715] Re: 演算子の優先順位(was: Re: irb — TunTun-m <tntn@...> 2007/07/14

bc では次式の結果は 0.81 ではなく 0.8 になります。

[ruby-list:43733] Re: 演算子の優先順位(was: Re: irb

From: TunTun-m <tntn@...>
Date: 2007-07-16 12:51:03 UTC
List: ruby-list #43733
有効桁の話に戻ります。

話ついていけてないのですが、
0.9 x 0.9 = 0.8     ならば
0.1 x 0.1 = 0.0    になるということでしょうか?

On 2007/07/16, at 14:49, Tanaka Akira wrote:
> まぁ、0.9 * 0.9 ならそうですが、0.1 * 0.1 が 0 になるのは有
> 効桁の適切な扱いから外れているんじゃないかと思いますね。
> -- 
> [田中 哲][たなか あきら][Tanaka Akira]
>
>

つんつん


In This Thread