[#43713] Re: 演算子の優先順位(was: Re: irb と python のバグ?) — "きむらこういち" <hogemuta@...>

木村です。

20 messages 2007/07/14
[#43715] Re: 演算子の優先順位(was: Re: irb — TunTun-m <tntn@...> 2007/07/14

bc では次式の結果は 0.81 ではなく 0.8 になります。

[ruby-list:43727] Re: 演算子の優先順位(was: Re: irb

From: Tanaka Akira <akr@...>
Date: 2007-07-16 05:49:21 UTC
List: ruby-list #43727
In article <20070716021644.GA34737@barber.fe.rn.tuat.ac.jp>,
  IWAOKA Masahiro <iwaoka@tuat.jac-net.com> writes:

> bc は有効桁の概念を持ちます。
>
> 有効桁を考えると、手書きの世界でも
>
> 0.9 × 0.9 = 0.8
>
> が正解です。

まぁ、0.9 * 0.9 ならそうですが、0.1 * 0.1 が 0 になるのは有
効桁の適切な扱いから外れているんじゃないかと思いますね。
-- 
[田中 哲][たなか あきら][Tanaka Akira]

In This Thread