[#34991] a = 4 ; p((a < 3) or (a > 5)) — Take_tk <ggb03124@...>

 次のものがエラーになるのは何故なんでしょうか?

12 messages 2002/05/06

[#35028] win32.c 中の my* 関数について — 小西 弘将 <konishih@...6.so-net.ne.jp>

小西 弘将です。

20 messages 2002/05/09
[#35034] Re: win32.c 中の my* 関数について — nobu.nakada@... 2002/05/10

なかだです。

[#35042] Re: win32.c 中の my* 関数について — 小西 弘将 <konishih@...6.so-net.ne.jp> 2002/05/11

 小西 弘将です。

[#35044] Re: win32.c 中の my* 関数について — 小西 弘将 <konishih@...6.so-net.ne.jp> 2002/05/11

 小西 弘将です。

[#35045] Re: win32.c 中の my* 関数について — "U.Nakamura" <usa@...> 2002/05/11

こんにちは、なかむら(う)です。

[#35046] Re: win32.c 中の my* 関数について — nobu.nakada@... 2002/05/11

なかだです。

[#35047] Re: win32.c 中の my* 関数について — 小西 弘将 <konishih@...6.so-net.ne.jp> 2002/05/11

 小西 弘将です。

[#35048] Re: win32.c 中の my* 関数について — nobu.nakada@... 2002/05/11

なかだです。

[#35062] Re: win32.c 中の my* 関数について — 小西 弘将 <konishih@...6.so-net.ne.jp> 2002/05/12

 小西 弘将です。

[#35052] ruby_lib/html/ — Wakou Aoyama <wakou@...>

青山です。

32 messages 2002/05/11
[#35057] Re: ruby_lib/html/ — TN <nyonyoru@...> 2002/05/12

 にょにょると申します。(ここハンドル投稿ダメなのでしょうか?ダメなら本

[#35063] Re: ruby_lib/html/ — Wakou Aoyama <wakou@...> 2002/05/12

青山です。

[#35074] Re: ruby_lib/html/ — nnr <nyonyoru@...> 2002/05/12

 にょにょるです。オンラインではずっとこれを使っているので、これでいきま

[#35054] 「 Ruby/GTK プログラミング入門」 — Noritsugu Nakamura <nnakamur@...>

14 messages 2002/05/12

[#35102] ANNOUNCE: REXML のドキュメントの和訳を公開しました。 — Kouhei Sutou (須藤功平) <kou@...>

はじめまして、須藤です。

57 messages 2002/05/13
[#35115] Re: ANNOUNCE: REXML のドキュメントの和訳を公開しました。 — "NAKAMURA, Hiroshi" <nakahiro@...> 2002/05/14

なひです。

[#35125] Re: ANNOUNCE: REXML のドキュメントの和訳を公開しました。 — Kouhei Sutou (須藤功平) <kou@...> 2002/05/14

須藤です。

[#35130] Re: ANNOUNCE: REXML のドキュメントの和訳を公開しました。 — "NAKAMURA, Hiroshi" <nakahiro@...> 2002/05/15

なひです。

[#35140] Re: ANNOUNCE: REXML のドキュメントの和訳を公開しました。 — Kouhei Sutou (須藤功平) <kou@...> 2002/05/15

須藤です。

[#35141] Re: ANNOUNCE: REXML のドキュメントの和訳を公開しました。 — nobu.nakada@... 2002/05/15

なかだです。

[#35157] Re: ANNOUNCE: REXML のドキュメントの和訳を公開しました。 — TAKAHASHI Masayoshi <maki@...> 2002/05/15

高橋征義です。

[#35159] Re: ANNOUNCE: REXML のドキュメントの和訳を公開しました。 — "NAKAMURA, Hiroshi" <nakahiro@...> 2002/05/16

なひです。

[#35160] Re: ANNOUNCE: REXML のドキュメントの和訳を公開しました。 — "NAKAMURA, Hiroshi" <nakahiro@...> 2002/05/16

なひです。

[#35162] Re: ANNOUNCE: REXML のドキュメントの和訳を公開しました。 — matz@... (Yukihiro Matsumoto) 2002/05/16

まつもと ゆきひろです

[#35186] Re: ANNOUNCE: REXML のドキュメントの和訳を公開しました。 — "NAKAMURA, Hiroshi" <nakahiro@...> 2002/05/17

なひです。

[#35192] Re: ANNOUNCE: REXML のドキュメント — siena@... (Siena.) 2002/05/17

Siena. です。

[#35253] ((1.2)..(3.4)).to_a — Take_tk <ggb03124@...>

1.2..3.4 を配列にすると、その範囲に属しない整数「1」が含まれるという点に

29 messages 2002/05/25
[#35257] Re: ((1.2)..(3.4)).to_a — matz@... (Yukihiro Matsumoto) 2002/05/25

まつもと ゆきひろです

[#35265] Re: ((1.2)..(3.4)).to_a — Take_tk <ggb03124@...> 2002/05/27

たけ(tk)です。

[#35272] Re: ((1.2)..(3.4)).to_a — siena@... (Siena.) 2002/05/27

Siena. です。

[#35279] Re: ((1.2)..(3.4)).to_a — matz@... (Yukihiro Matsumoto) 2002/05/28

まつもと ゆきひろです

[ruby-list:34988] BigFloat の to_i メソッドについて

From: Sako Hiroshi <sakoh@...2.so-net.ne.jp>
Date: 2002-05-03 07:20:15 UTC
List: ruby-list #34988
酒匂と申します。

ruby 1.6.6 + bigfloat 1.1.9
ruby 1.6.7 + bigfloat 1.1.9

(i686-linux, i586-mswin32)

を利用している状況で

-----<program>---------------------------------------------

require 'BigFloat'

x =  BigFloat.new("9500000") * BigFloat.new("0.1")
p [x, x.to_i]

x =  BigFloat.new("950000")
p [x, x.to_i]

x =  BigFloat.new("950000") * BigFloat.new("1")
p [x, x.to_i]

x =  BigFloat.new("95000") * BigFloat.new("10")
p [x, x.to_i]

x =  BigFloat.new("9500") * BigFloat.new("100")
p [x, x.to_i]

x =  BigFloat.new("950.0") * BigFloat.new("1000")
p [x, x.to_i]

x =  BigFloat.new("95.00") * BigFloat.new("10000")
p [x, x.to_i]

x =  BigFloat.new("9.500") * BigFloat.new("100000")
p [x, x.to_i]

x =  BigFloat.new(".9500") * BigFloat.new("1000000")
p [x, x.to_i]

というプログラムを実行すると。

-----<output>---------------------------------------------

[[BigFloat:28492b0,'0.95E6',4(16)], 950000]
[[BigFloat:2849208,'0.95E6',4(12)], 950000]
[[BigFloat:2849130,'0.95E6',4(16)], 950000]
[[BigFloat:2849058,'0.95E6',4(20)], 950095]
[[BigFloat:2848f80,'0.95E6',4(16)], 950000]
[[BigFloat:2848ea8,'0.95E6',4(16)], 950000]
[[BigFloat:2848dd0,'0.95E6',4(16)], 950095]
[[BigFloat:2848cf8,'0.95E6',4(20)], 950095]
[[BigFloat:2848c20,'0.95E6',4(16)], 950000]

といった出力になります。

to_i 後の値として期待しているのはすべて 950000 ですが、ときどき 950095 が混ざって
います。BigFloat の各インスタンス同士に == を適用すると true が返ってきますので、
to_i する際にこのようになるのだと思いますが。。。

これは BigFloat の問題でしょうか?

ちなみに

  (x * 1).to_i 

とすると、皆 950000 を返すようになりますので、応急処置として

class BigFloat
   alias to_i_priv to_i
   def to_i
     (self * 1).to_i_priv
   end
end

としています。。。

-----------------------------------------------------------------------
  <Sako Hiroshi>                           mailto:sakoh@ba2.so-net.ne.jp
  tel: +81-042-749-3169, fax: 020-4669-2655(in Japan) mailto:sakoh@d2.to
  Designers' Den Corporation           http://www02.so-net.ne.jp/~sakoh/
-----------------------------------------------------------------------


In This Thread

Prev Next