[#44904] [ruby-trunk - Bug #5688][Open] Solaris10 で spawn を繰り返すとメモリリークする — okkez _ <redmine@...>

14 messages 2011/11/29

[ruby-dev:44862] [Backport93 - Backport #5429] 64ビットなFreeBSDのioctlでビット31が1なリクエストの時の不具合

From: Motohiro KOSAKI <kosaki.motohiro@...>
Date: 2011-11-12 09:52:14 UTC
List: ruby-dev #44862
Issue #5429 has been updated by Motohiro KOSAKI.


なかださんがミスを直してくれました。
r33724, r33727 も追加で。

----------------------------------------
Backport #5429: 64ビットなFreeBSDのioctlでビット31が1なリクエストの時の不具合
http://redmine.ruby-lang.org/issues/5429

Author: Makoto Kishimoto
Status: Assigned
Priority: Low
Assignee: Yuki Sonoda
Category: 
Target version: 


64ビットなFreeBSD 8において、ioctl(2)のプロトタイプ宣言は以下のように
なっていて、

int
ioctl(int d, unsigned long request, ...);

ビット31(32ビットであればMSB)が1なリクエストでも、上位ビットがゼロ拡張
された64ビット値を期待しています。

それに対しrubyのtrunkではIO#ioctlの引数の値の範囲は符号付き32ビットに
なっていて、最終的にio.cのnogvl_io_cntlに、intを引数としたioctlの
呼び出しがあり、ビット31が1なリクエストは符号拡張されて、ioctlを呼ぶことに
なり、

その結果システムメッセージに、(SNDCTL_DSP_SPEED の例)
WARNING pid 82043 (initial thread): ioctl sign-extension ioctl ffffffffc0045002
というようなウォーニングが出ます(一応目的の動作はしている)。

回避する修正は (unsigned) とキャストを入れればいいように思うのですが、
他のプラットフォームでの問題や、IO#ioctlの受け入れるべき引数の値の範囲の
問題などがあるので、とりあえずチケットのみ登録します。


-- 
http://redmine.ruby-lang.org

In This Thread