ruby-list

えぐち＠エスアンドイーです

2010年6月25日11:40 T.Soejima <clev@ck2.so-net.ne.jp>:
>> それはともかく、もともとの10進小数の切捨てというのが
>> 「本当に」必要なのかは疑問に感じました。
>> ワーストケースで比較すると四捨五入の2倍くらい
>> 誤差がありますので。
>>
> ワーストケースで比較するというのが、意味として理解できない
> んですが、（理解できないのは、私の理解力が低いからです。）
> 現在は通貨の計算をしていまして、実際の値と計算上の値に若干
> の誤差があります。
> この場合は、どうやらある桁数以下の値は、すべて切り捨てている
> ようなのです。
> なので、今回はどうしても切り捨てにしたかったという経緯でした。

合衆国の売上税の計算で、会計方針として
１¢未満の丸めに切り捨てを採用したら当てはまりそうです。

為替や会計では、整数ないし固定小数を使うのが適切な
シチュエーションが多々見られるようですね。

別の分野では、丸めを切り上げ・四捨五入・切り捨ての３条件振って計算し
解の値域から誤差を推定するという事もやられるようです。

  えぐち

Thread

Prev Next

In This Thread

Prev Next

[#47118] [ANN] RubyKaigi2010の"当日"ボランティアスタッフの募集を開始します — Kei Shiratsuchi <kei.shiratsuchi@...>

[#47119] 配列の配列を返すmap — arima <arima.tknr@...>

[#47122] [Ann] Contribution wanted: test your code with 1.9.2-preview3 — Yusuke ENDOH <mame@...>

[#47126] Rubyist九州定例会の御案内 — Hidetoshi NAGAI <nagai@...>

[#47127] XMLで全てのエントリーURL取得 — Soichi Ishida <zau_777_emacs@...>

[#47132] 第44回 Ruby/Rails勉強会@関西 開催のお知らせ — HIGAKI Masaru (ひがき まさる) <higaki@...>

[#47133] [ANN] ulmul-0.4.1 is released with ulmul2html5 and ulmul2xhtml — Takeshi NISHIMATSU <t_nissie@...>

[#47134] [ANN] activerecord-cassandra-adapter 0.1.0 — sgwr_dts@...

[#47135] Re: SecurityErrorはStandardErrorを継承しているか — ueda@...

[#47136] Re: SecurityError はStandardErrorを継承しているか — ISIHARA HIROSI <ishihara-h@...>

[#47138] 同じデータを引っ張ってしまう。 — "T.Soejima" <clev@...2.so-net.ne.jp>

[#47141] 配列の要素数を合わせたいのですが。 — "T.Soejima" <clev@...2.so-net.ne.jp>

[#47142] Re: Welcome to our (ruby mailing list) You are added automatically — <tomoya.watanabe@...>

[#47143] RubyでSSLを用いてファイルを取得する事は可能でしょうか — 成田恭一(NWH) <ntnarita_prn@...>

[#47144] 「邪道編〜Ruby × Windows で出来ること 」開催のお知らせ — Shozo Arai <shozoa@...>

[#47145] [ANN]Miyako2.1.14リリース — cyross@...

[#47146] 【再送】[ANN]Miyako2.1.14をリリースいたしました — cyross@...

[#47147] [ANN] LiveCoding#10 開催のお知らせ — Tomohiro Nishimura <tomohiro68@...>

[#47148] [訂正] LiveCoding#10 の案内に間違いがありました。 — Tomohiro Nishimura <tomohiro68@...>

[#47149] twitter4rのgemの動作に関する質問です — Yukitaka Uchikoshi <yukitaka.uchikoshi@...>

[#47151] Re: twitter4rのgemの動作に関する質問です(解決しました) — Yukitaka Uchikoshi <yukitaka.uchikoshi@...>

[#47154] RubyKaigi2010 企画 "Ruby で扱う LDAP のススメ" ご協力者募集のお願い — tashen <tashen.hatena@...>

[#47156] [ANN]るびま30号リリース — Masaya Konishi <mkonishi1981@...>

[#47158] [ANN] RubyKaigi 2010: PGP Keysigning Party — Urabe Shyouhei <shyouhei@...>

[#47161] [ANN] nokogiri 1.4.2 リリース — Aaron Patterson <aaron@...>

[#47166] 破壊的なメソッドを作るには？ — "Hideo Konami" <konami@...>

[#47169] RubyKaigi2010の参加登録を受付中です — masayoshi takahashi <maki@...>

[#47170] ANN: ActiveScriptRuby 1.8.7の更新（脆弱性修正） — arton <artonx@...>

[#47171] 第44回 Ruby/Rails勉強会@関西 参加いただき ありがとうございました。 — HIGAKI Masaru (ひがき まさる) <higaki@...>

[#47172] [ANN] Lightweight Language Tiger 開催のお知らせ — masayoshi takahashi <maki@...>

[#47173] 小数点以下を切り捨てる方法について — "T.Soejima" <clev@...2.so-net.ne.jp>

[#47177] [ANN] Ruby 1.8.7 patchlevel 299 released. — Urabe Shyouhei <shyouhei@...>

[#47184] Re: 小数点以下を切り捨てる方法について — "Endo Akira" <endo4917@...>

[#47197] 「Rubyリファレンスマニュアル刷新計画」2010-06分のスナップショットリリース — okkez <okkez000@...>

[#47198] Ruby バージョンアップ方法について — eiichi_maekawa@...

[#47199] [ANN] RubyKaigi2010のライトニングトークスの応募フォームをオープンしました — SHIMADA Koji <snoozer.05@...>

[ruby-list:47194] Re: 小数点以下を切り捨てる方法について

Thread

In This Thread

[#47132] 第44回 Ruby/Rails勉強会@関西開催のお知らせ — HIGAKI Masaru (ひがきまさる) <higaki@...>

[#47144] 「邪道編〜Ruby × Windows で出来ること」開催のお知らせ — Shozo Arai <shozoa@...>

[#47171] 第44回 Ruby/Rails勉強会@関西参加いただきありがとうございました。 — HIGAKI Masaru (ひがきまさる) <higaki@...>