[ruby-list:35953] Re: 指数表記のフォーマットの制御方法

なかだです。

At Tue, 17 Sep 2002 19:46:04 +0900,
岩崎 弘孝 wrote:
>  > 有効桁数を増やしたいだけなら、%15.8eにするとか。指数部分の桁数
>  > 指定というのは、printf()の仕様にはなかったような気がしますが。
> 
> 確かにそうなんですが、書き出したものを別のソフトで読み出すので
> 同じフォーマット（１５桁の制限）で処理をしたいのです。
> 
> -1.23456789e+01
> というデータは
> %15.7eの時 '-1.2345679e+001'
> %15.8eの時 '-1.23456789e+001'
> となり１５文字内に納まらないので１６文字になります。


たぶん、長過ぎたら削るというのが一番手っ取り早いんじゃないでしょ
うか。

  s = sprintf("%15.8e", x)
  s.sub!(/e\+0{0,#{s.size-15}}/, 'e+') if s.size > 15

これでさらにはみ出す、つまり1e100以上の場合は精度を下げる以外に
はないと思います。

> あくまで
> %15.7eの時 '-1.23456789e+01'
> 
> と出て欲しいのですが、方法はないのでしょうか？

精度を7桁と指定している以上、小数点以下が8桁以上になることはあ
りません。

しかし、指数部を常に3桁以上にするというのは珍しい処理系ですね。
SUSv2なんかでも最小2桁しか要求してないのに。

http://www.opengroup.org/onlinepubs/007908799/xsh/fprintf.html

-- 
--- 僕の前にBugはない。
--- 僕の後ろにBugはできる。
    中田 伸悦