ruby-list

06/07/04 に Sato Hiroshi<hirocy.f01@plala.to> さんは書きました:
> 今回やりたかったことは，ある規則で単調増加するfloatの配列を
> 生成することでして，その単純なケースを試してみたら丸め誤差が
> 貯まって困ったな，という質問でした．
>
> On Tue, 4 Jul 2006 19:20:18 +0900,
> Sato Hiroshi wrote:
> > 100.times { x << (x[-1] * 10**3).floor * 10**(-3) + 0.001 }
>
> これだとあまりにも泥臭いので，ほとんど同じではあるのですが，
> 最初から十分な桁の整数で配列を作成して，最後にそれを
> collect!でfloatに変える，という方法で解決できました．
> 最善の方法ではないかもですが，ひとまずこれでいけそうです．

もし、そういう数値配列の操作をいろいろするなら
標準添付ではないですが NArray を使ってみるのもよいかも。
http://narray.rubyforge.org/

次の例は 0 から 1 ずつ増える100個の Float からなる配列 x をつくり、
その各要素を 1000 で割ってから、100要素の乱数の配列 r と
要素ごとに足し合わせます。

require "narray"
x, r = NArray.float(100), NArray.float(100)
x.indgen!
x.div!(1000)
r.random!
p x+r


ごとけん

Thread

Prev Next

In This Thread

Prev Next

[#42502] [ANN] Ruby-GNOME2-0.15.0 — Masao Mutoh <mutoh@...>

[#42503] floatの値がずれる — Sato Hiroshi <hirocy.f01@...>

[#42514] 日本Rubyカンファレンスなどで感じたことをコラムに書かせていただきました — TAKAHASHI Nobuyori <nob@...>

[#42515] ちょっとしたテスト — rubikitch <rubikitch@...>

[#42526] Readline / context-sensitive completion? — Hiroshi Takagi <gollum@...>

[#42528] Gdk::GC の foreground — Takeshi Honda <moecho21@...>

[#42536] Array#default — take_tk <ggb03124@...>

[#42542] [ANN] Exerb 4.0.0 — Yuya Kato <yuyakato@...>

[#42559] Re: Array#default — Itou-T15@...

[#42560] ActiveRecord Mysql のソケット指定について — ToyTrain <toytrain@...>

[#42563] IO::select() の dead lock ? — Hiroshi migimatsu ^^ <minz@...>

[#42568] オンラインリファレンスでは？ ← [rails:1337] 「=>」 って何？ — take_tk <ggb03124@...>

[#42569] JVN、スクリプト言語「Ruby」の2件の脆弱性情報を公表 — Takahiro Kambe <taca@...>

[#42580] — 森崎 雅之 <laughing_panther_com@...>

[#42581] 文字の結合について — リックス <rubyer4649@...>

[#42584] [ANN] Rubyist Magazine 0015 — SASADA Koichi <ko1@...>

[#42588] [ANN] Ruby-GetText-Package-1.7.0 — Masao Mutoh <mutoh@...>

[#42589] 文字表示について — リックス <rubyer4649@...>

[#42596] callcc (Ruby vs Scheme) — rubikitch <rubikitch@...>

[#42599] includeされたmoduleからの定数参照 — 二宗 崇 <nisyu@...>

[#42604] if 文の条件判断について — リックス <rubyer4649@...>

[#42608] Debug Assertion Failed! on stable-snapshot — Shusaku <tsyk@...>

[#42609] "_DEBUG" symbol in bigdecimal.c — Shusaku <tsyk@...>

[#42612] メソッドの戻り値を知る方法 — Yuumi Yoshida <yuumi3@...>

[ruby-list:42511] Re: floatの値がずれる

Thread

In This Thread

[#42568] オンラインリファレンスでは？ ← [rails:1337] 「=>」って何？ — take_tk <ggb03124@...>

[#42580] — 森崎雅之 <laughing_panther_com@...>

[#42599] includeされたmoduleからの定数参照 — 二宗崇 <nisyu@...>