[ruby-list:11762] Re: [BUG] 3e9.to_i => floating exception

首藤です。

こいつは厄介です。＃でもなかなか興味深い。:)

> % ruby -ve '3e9.to_i'
> ruby 1.2.2(99/01/21) [i386-freebsd2.2.6]
> floating exception (core dumped)

> % ruby -ve '3e9.to_i'
> ruby 1.2.2(99/01/21) [i386-freebsd2.2.8]
> Floating exception (core dumped)

FreeBSD 2.2.7R でも同じでした。

  % ./ruby -ve '4e9.to_i'
  ruby 1.2.2(99/01/21) [i386-freebsd2.2.7]
  Floating exception

まず、これは C で
  double d = 4e9;
  long l = (long)d;
と cast するだけで起きます。
gdb で調べたところ x86 の fistpl 命令(*)で SIGFPE が起きています。
(*) FPU レジスタのスタックトップから値を pop し、32bit 整数としてメモリに格納。

Linux では起きずに FreeBSD で起きるのは、
x86 FPU の control word の値が異なるからです。
Linux ではマスクされているある種の例外処理が FreeBSD ではマスクされていません。

つぎのプログラムで FPU の control word の値を調べました。
=====
#include <stdio.h>
int main(int argc, char **argv) {
  unsigned short cw;
  __asm__("fnstcw %0" : "=m"(cw));
  printf("FPU control word: 0x%04x\n", (int)cw);
  return 0;
}
=====

  FreeBSD (2.2.7R):	0x1272
  Linux:		0x037f
と異なっています。

FreeBSD と Linux で異なっているのは
  PC: 制度制御
    Linux: 64bit(内部実数)
    FBSD : 53bit(倍精度実数)
  OM: 桁あふれ、のマスク
  ZM: ゼロによる除算、のマスク
  IM: 不法操作、のマスク
    Linux: 1 (マスクされている, FPU 内部の default error handler で処理)
    FBSD : 0 (マスクされていない, ソフトウェアの error handler に渡す)

上記の FPU 例外 3種のどれかが起きていて、
FreeBSD ではマスクされていないので、SIGFPE が発生する、というわけです。

FPU 例外の内 3種がマスクされていないのは FreeBSD のポリシーでしょうか。
このようにすぐに発現する問題が過去に議論されていないとは到底思えないです。

さて、ruby 開発側としてはこの問題をどう扱うべきなのでしょうか...

SHUDO Kazuyuki/首藤一幸   私をたばねないで あらせいとうの花のように
  [e-mail]