[ruby-list:44497] Re: format %g の丸めについて

dezawa@神奈川です

山崎さんの最初のメールを見て考えてみました。

山崎さんがやりたいことは

1. 計算結果を有効二桁で指数表示する。
2. テキストファイルやプログラムに文字列で書かれている数値を有効二桁で表示する

のどちらでしょう。

2 だとすると、 0.00000815 が 8.1E-006 となるのは確かに気持が悪いですが
1 だとすると、 0.00000815 位の計算結果(人は真値を知らない) が 8.1E-006 となる
のは問題ないのではないでしょうか。