[#48382] Ruby/Gstreamer for Windows — ashbb <ashbbb@...>

こんにちは。

17 messages 2011/09/22
[#48383] Re: Ruby/Gstreamer for Windows — Kouhei Sutou <kou@...> 2011/09/23

須藤です。

[#48385] Re: Ruby/Gstreamer for Windows — ashbb <ashbbb@...> 2011/09/23

須藤さん

[#48392] 要素のない配列の挙動? — 俊(とし) <toshio.otaguro@...>

前略

21 messages 2011/09/24
[#48393] Re: 要素のない配列の挙動? — TADA Tadashi <t@...> 2011/09/24

ただただしです。

[#48394] Re: 要素のない配列の挙動? — 俊(とし) <toshio.otaguro@...> 2011/09/24

ただただし さん

[#48399] Re: 要素のない配列の挙動? — nonta@... 2011/09/24

野田と申します。

[#48400] Re: 要素のない配列の挙動? — 俊(とし) <toshio.otaguro@...> 2011/09/24

皆さま

[ruby-list:48427] Re: 切り捨てについて教えてください

From: 中田 隆雄 <nakada@...>
Date: 2011-09-30 04:53:41 UTC
List: ruby-list #48427
中田です

ご教授ありがとうございます。

BigDecimal を勉強してみます。
奥が深そうですね。


On 2011/09/29, at 11:46, Tetsuya Imamura wrote:

> こんにちは、今村です。  
> 
> 標準添付ライブラリ BigDecimal を使うという方法もあります。
> 
> 
> require 'bigdecimal'
> 
> (1300 * (BigDecimal("0.7"))) #=> #<BigDecimal:100a1e1f8,'0.91E3',9(36)>  
> (1300 * (BigDecimal("0.7"))).floor # => 910  
> (1300 * (BigDecimal("0.7"))).truncate # => 910  
> 
> 
> 
> _/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/
> _/ 今村哲也 Tetsuya Imamura
> _/ Office: mail@tetsuyai.com (mailto:mail@tetsuyai.com)
> _/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/_/
> 
> 日付:2011年9月29日木曜日、時刻:10:18、差出人:中田 隆雄:
> 
>> 中田です。
>> 早速、ご教授ありがとうございます。
>> 
>> 運用上は
>> 
>> (1300 * (0.7 * 100) / 100) #=> 910.0
>> (1300 * (0.7 * 100) / 100).floor #=> 910
>> (1300 * (0.7 * 100) / 100).truncate #=> 910
>> 
>> とすれで良いのでしょうか?
>> 
>> 運用上のプログラミングや注意点等を
>> ご教授頂けないでしょうか?
>> 
>> 
>> 
>> On 2011/09/29, at 4:12, U.Nakamura wrote:
>> 
>>> こんにちは、なかむら(う)です。
>>> 
>>> In message "[ruby-list:48421] 切り捨てについて教えてください"
>>> on Sep.29,2011 03:37:29, <acnakada@tam.ne.jp (mailto:acnakada@tam.ne.jp)> wrote:
>>>> この違いはなぜでしょうか? 教えてください
>>> 
>>> 目に見えているものが必ず正しいわけでもありません。
>>> 
>>> 一般に、コンピュータの浮動小数点数演算は2進数で行われるため、
>>> 我々が扱いたがる10進数で同じ値を考えた場合、割り切れるかどう
>>> かが異なるケースがあります。
>>> そのため、10進数で考えた場合に当然予測される値と、実際にコン
>>> ピュータが計算した結果とが微妙に異なる値となることがあります。
>>> 
>>> 私のコンピュータの場合、1300*0.7の値は具体的には
>>> 909.9999999999998863131622783839702606201171875
>>> になります。
>>> よって、小数点以下の切捨てを行うと909になります。
>>> 
>>> 
>>> それでは。
>>> --  
>>> U.Nakamura <usa@garbagecollect.jp (mailto:usa@garbagecollect.jp)>
>> 
>> ====================
>> 中田 隆雄
>> acnakada@tam.ne.jp (mailto:acnakada@tam.ne.jp)
>> ====================
> 

===================================
株式会社アチーブメント・コンサルティング
中田 隆雄
nakada@achieve.co.jp
===================================




In This Thread

Prev Next