ruby-list

木村です。

On Wed, 5 Jul 2006 14:22:03 +0900
Tadashi Saito <shiba@mail2.accsnet.ne.jp> wrote:

> > または、固定小数点数ライブラリ(BigDecimal)を使ってみましょう。
> 
> 完全にちゃちゃですが、誤差が発生しない⇒固定小数点数っていうのは
> 誤解だと思います。


| BigDecimal は <浮動小数点数> = 0.xxxxxxxxx*10**n という10進形式で数値を
| 保持します。しかし、計算機の浮動小数点数の内部表現は、言うまでもなく 
| <浮動小数点数> = 0.bbbbbbbb*2**n という 2進形式が普通です(x は 0 から
| 9 まで、b は 0 か 1 の数字)。 

ということなので、二進←→十進変換がないので(変換に起因する)誤差がないと
いうところでしょうね。


> http://ja.wikipedia.org/wiki/%E5%9B%BA%E5%AE%9A%E5%B0%8F%E6%95%B0%E7%82%B9%E6%95%B0
> > 固定小数点数では整数部分に用いるビット数と小数部分に用いるビット数をあらかじめ
> > 固定して表現する。
> 
> BigDecimalにこのような部分は見当たらないと思うのですが。

固定小数点云々については

| BigDecimal は可変長浮動小数点計算機能ライブラリです。

頭でこう云いきってますね。


####

BigDecimalに関する記述は

 http://www.ruby-lang.org/ja/man/?cmd=view;name=BigDecimal#a2.bf.ca.a4.c810.bf.ca

から引用しました。

-- 
木村浩一

Thread

Prev Next

In This Thread

Prev Next

[#42502] [ANN] Ruby-GNOME2-0.15.0 — Masao Mutoh <mutoh@...>

[#42503] floatの値がずれる — Sato Hiroshi <hirocy.f01@...>

[#42514] 日本Rubyカンファレンスなどで感じたことをコラムに書かせていただきました — TAKAHASHI Nobuyori <nob@...>

[#42515] ちょっとしたテスト — rubikitch <rubikitch@...>

[#42526] Readline / context-sensitive completion? — Hiroshi Takagi <gollum@...>

[#42528] Gdk::GC の foreground — Takeshi Honda <moecho21@...>

[#42536] Array#default — take_tk <ggb03124@...>

[#42542] [ANN] Exerb 4.0.0 — Yuya Kato <yuyakato@...>

[#42559] Re: Array#default — Itou-T15@...

[#42560] ActiveRecord Mysql のソケット指定について — ToyTrain <toytrain@...>

[#42563] IO::select() の dead lock ? — Hiroshi migimatsu ^^ <minz@...>

[#42568] オンラインリファレンスでは？ ← [rails:1337] 「=>」 って何？ — take_tk <ggb03124@...>

[#42569] JVN、スクリプト言語「Ruby」の2件の脆弱性情報を公表 — Takahiro Kambe <taca@...>

[#42580] — 森崎 雅之 <laughing_panther_com@...>

[#42581] 文字の結合について — リックス <rubyer4649@...>

[#42584] [ANN] Rubyist Magazine 0015 — SASADA Koichi <ko1@...>

[#42588] [ANN] Ruby-GetText-Package-1.7.0 — Masao Mutoh <mutoh@...>

[#42589] 文字表示について — リックス <rubyer4649@...>

[#42596] callcc (Ruby vs Scheme) — rubikitch <rubikitch@...>

[#42599] includeされたmoduleからの定数参照 — 二宗 崇 <nisyu@...>

[#42604] if 文の条件判断について — リックス <rubyer4649@...>

[#42608] Debug Assertion Failed! on stable-snapshot — Shusaku <tsyk@...>

[#42609] "_DEBUG" symbol in bigdecimal.c — Shusaku <tsyk@...>

[#42612] メソッドの戻り値を知る方法 — Yuumi Yoshida <yuumi3@...>

[ruby-list:42521] Re: floatの値がずれる

Thread

In This Thread

[#42568] オンラインリファレンスでは？ ← [rails:1337] 「=>」って何？ — take_tk <ggb03124@...>

[#42580] — 森崎雅之 <laughing_panther_com@...>

[#42599] includeされたmoduleからの定数参照 — 二宗崇 <nisyu@...>