[#43713] Re: 演算子の優先順位(was: Re: irb と python のバグ?) — "きむらこういち" <hogemuta@...>

木村です。

20 messages 2007/07/14
[#43715] Re: 演算子の優先順位(was: Re: irb — TunTun-m <tntn@...> 2007/07/14

bc では次式の結果は 0.81 ではなく 0.8 になります。

[ruby-list:43725] Re: 演算子の優先順位(was: Re: irb

From: IWAOKA Masahiro <iwaoka@...>
Date: 2007-07-16 02:16:48 UTC
List: ruby-list #43725
いわおかです。

# 出遅れましたが

In the message <a8e113750e7b252b232a49be97845c17@otc.ne.jp>,
  on Sat, Jul 14, 2007 at 07:21:56PM +0900, TunTun-m wrote:
> bc では次式の結果は 0.81 ではなく 0.8 になります。
> 
> 0.9*0.9
> .8
> 
> bc は、実用にたえません。

bc は有効桁の概念を持ちます。

有効桁を考えると、手書きの世界でも

0.9 × 0.9 = 0.8

が正解です。

当然、bc でも 0.90*0.90 は 0.81 になります。

いわおか

In This Thread