[#48382] Ruby/Gstreamer for Windows — ashbb <ashbbb@...>

こんにちは。

17 messages 2011/09/22
[#48383] Re: Ruby/Gstreamer for Windows — Kouhei Sutou <kou@...> 2011/09/23

須藤です。

[#48385] Re: Ruby/Gstreamer for Windows — ashbb <ashbbb@...> 2011/09/23

須藤さん

[#48392] 要素のない配列の挙動? — 俊(とし) <toshio.otaguro@...>

前略

21 messages 2011/09/24
[#48393] Re: 要素のない配列の挙動? — TADA Tadashi <t@...> 2011/09/24

ただただしです。

[#48394] Re: 要素のない配列の挙動? — 俊(とし) <toshio.otaguro@...> 2011/09/24

ただただし さん

[#48399] Re: 要素のない配列の挙動? — nonta@... 2011/09/24

野田と申します。

[#48400] Re: 要素のない配列の挙動? — 俊(とし) <toshio.otaguro@...> 2011/09/24

皆さま

[ruby-list:48422] Re: 切り捨てについて教えてください

From: "U.Nakamura" <usa@...>
Date: 2011-09-28 19:12:38 UTC
List: ruby-list #48422
こんにちは、なかむら(う)です。

In message "[ruby-list:48421] 切り捨てについて教えてください"
    on Sep.29,2011 03:37:29, <acnakada@tam.ne.jp> wrote:
> この違いはなぜでしょうか? 教えてください

目に見えているものが必ず正しいわけでもありません。

一般に、コンピュータの浮動小数点数演算は2進数で行われるため、
我々が扱いたがる10進数で同じ値を考えた場合、割り切れるかどう
かが異なるケースがあります。
そのため、10進数で考えた場合に当然予測される値と、実際にコン
ピュータが計算した結果とが微妙に異なる値となることがあります。

私のコンピュータの場合、1300*0.7の値は具体的には
 909.9999999999998863131622783839702606201171875
になります。
よって、小数点以下の切捨てを行うと909になります。


それでは。
-- 
U.Nakamura <usa@garbagecollect.jp>


In This Thread