[ruby-list:21596] Re: Float クラスの仕様 (Re: squid log 時刻変換)

山田＠日立(電サ)です．

 From: [e-mail] (Yukihiro Matsumoto) さんの 
  Subject: [ruby-list:21593] Re: squid log 時刻変換 というお手紙から

 > まつもと ゆきひろです
 > 
 > In message "[ruby-list:21590] Re: squid log 時刻変換"
 >     on 00/03/23, Yamada Kenji <[e-mail]> writes:
 > 
 > |実際 "939709509.298" という文字列なんですが，
 > |
 > |    print "939709509.298".to_f
 > |
 > |すると 
 > |
 > |    939709509.3
 > |
 > |のように丸められてしまうようです．
 > 
 > ただ単にデフォルトの表示が "%-.10g" のせいでしょう。printfな
 > どでちゃんと整形してやれば適切な値が得られるでしょう。もっと
 > も、不動小数点数の誤差があるんで完全に正確とは言えませんが。

to_s は Object の method で，Float クラスで再定義してい
るという認識であってますか？

だとするとリファレンスマニュアルの Float クラスの説明に
to_s のデフォルトが "%-.10g" というのを記載した方がよい
ように思います．

 > |リファレンスには Float に変換とあるだけで，有効数値の範囲，
 > |有効桁数がわかりません．これは仕様でしょうか？
 > 
 > to_fが丸めてるんじゃなくて、to_sが丸めてます。to_fはできる限
 > り正確な(doubleの範囲内で)値を計算しようとします。
これは Float クラスで扱える範囲は double の範囲という
ことでいいでしょうか？

ちょっと見た限りだと，変換できないと NaN,infinity 
になるようですがこの辺りも Float クラスの to_s メソッド
の仕様ということになりますか？(Numeric クラス?)
# to_s というより Float クラスの仕様になるのかな．

# ほんとはドキュメントの修正案を出せるといいのですが．．．

--
山田賢治＠日立電子サービス(HES:Hitachi Electronics Services Co.,Ltd.)
E-Mail: [e-mail]
FINGERPRINT: 0F C4 F6 E2 9E 87 3E 03  E2 D5 3C 65 88 32 F0 8B