ruby-dev

永井＠知能．九工大です．

From: Tanaka Akira <akr@fsij.org>
Subject: [ruby-dev:33122] Re: Binary String
Date: Tue, 15 Jan 2008 19:08:24 +0900
Message-ID: <87bq7ne6zq.fsf@fsij.org>
> 具体的な問題の例はありませんか?
> 
> たとえば、「LANG=xxx で ruby -e 'yyy' とすると foo になるの
> だけれどもそこは bar になってもらわないと困る」というような。

すみません．現在手持ちのサンプルがありません．
昔，ascii テキストをそのまま渡していたら文字化け
(改行コードの問題を含む) を生じたので
必ず toUTF8/fromUTF8 をかませるようにしたのですが，
そうすると binary string をうまく扱えなくなったために
Tk::BinaryString を導入したという経緯から来ています．

> 私が述べた MIME の例についてはどうですか?

ごめんなさい．

>> 外部のシステムとの通信で良くあるのは MIME でしょう。たとえば、
>> メールや HTTP です。受け取ったデータの charset パラメータに
>> 知らない名前が書いてあった時、永井さんのいう、文字列の
>> encoding が未定義という状態になります。
>> (encoding は定義すると GC されずメモリを確保しっぱなしになる
>> ため、その名前の dummy encoding は定義しないこととします)

の部分を正しく読めていませんでした．
「『指定があるものは全部定義する』という方針じゃなかったっけ？」と
思ってました．

このケースのように指定があるにも関わらず 
dummy が一切定義されることなく ASCII-8BIT となるようであれば，
Tk での勝手な推測はまずいということになりそうですね．
スクリプトを書く人は，charset パラメータをきちんと使えば
encoding は適切に設定されると考えるでしょうから，
何も言われず期待していない未定義 (ASCII-8BIT) にされるようだと
代りの encoding の設定にまでは思い至らない可能性が高いでしょう．

でも，それはそれでまずくないですか？
知らない charset (encoding) での処理が要求されたならば，
例外を上げるべきでしょう．
そうした例外を無視して未定義のまま扱うのであれば，
何が起っても (Tk での推測誤りを含めて) 文句は言えないと思います．

> 検索してみたところ http://wiki.tcl.tk/2616 に
> 
> | schlenk 2005-06-27: The identity encoding is for testing
> | purposes, it should not be used without very good reasons.
> 
> という記述があります。この記述がどの程度信用できるのかはわか
> らないのですが、identity が binary であるという規定も見つけ
> られませんでした。tcl 8.5.0 と tk 8.5.0 の doc/ は探したので
> すが、identity に関する記述はほとんど見当たらず、binary であ
> るという記載はないように思います。

こちらは私の方が読んでいませんでした．お恥ずかしい．
Tk::BinaryString を導入時点では，私も存在に気付いていませんでした．

> identity が binary と規定されているというのはどこに書いてあ
> るのでしょう?

明記はなかったですね．
generic/tclEncoding.c での定義で，

  type.toUtfProc      = BinaryProc;
  type.fromUtfProc    = BinaryProc;

となっていたので binary 相当と思い込んでました．
勝手な思い込みですみません．

> どうなんでしょう。永井さんのいう「未定義」と「定義済」という
> 言葉を正確に理解している気がしないのでよくわかりません。

「定義済」は，Ruby が知っているかどうかに関わらず，
何らかの情報を元に encoding が明示/指定されたものであり，
「未定義」は encoding の明示/指定が一切存在しないもの
を指しているつもりでした．

# で，Ruby の知らない encoding で「定義済」のものは
# ASCII-8BIT ではない何らかの dummy encoding が付くのかなと．．．

> おわかりだとは思うのですが、永井さんの期待する方向に私は前向
> きではありません。
> 
> 具体的な個々の問題について、(おそらくは永井さんの期待とは異
> なる方向で) 解決をはかることには前向きです。

指定があったけれども Ruby が知らなかった場合と
指定がない場合とを分けることができるようにするというのも
良くないとお考えですか？
-- 
                                       永井 秀利 （九工大 知能情報）
                                           nagai@ai.kyutech.ac.jp

Thread

Prev Next

In This Thread

Prev Next

[#32910] NKF,Kconv — Kazuhiro NISHIYAMA <zn@...>

[#32913] openの"b"とencoding — Kazuhiro NISHIYAMA <zn@...>

[#32922] SEGV by regexp match in while loop — Tanaka Akira <akr@...>

[#32932] extend Tempfile — Tanaka Akira <akr@...>

[#32935] queue and timeout — Tanaka Akira <akr@...>

[#32940] ripper cannot build on win32 — yukimi_sake <yukimi_sake@...>

[#32945] Shift_JIS variants and UTF-16 support — "U.Nakamura" <usa@...>

[#32946] replica と alias の違い(encoding) — KIMURA Koichi <kimura.koichi@...>

[#32957] SEGV by Symbol#match — "Hiroyuki Iwatsuki" <don@...>

[#32970] rb_thread_create()の中でmodule_eval — Kouhei Sutou <kou@...>

[#32979] BOM of UTF-８ — KIMURA Koichi <hogemuta@...>

[#32987] error with open-uri (instance_eval?) — "U.Nakamura" <usa@...>

[#32988] Re: [ruby-cvs:22194] Ruby:r14957 (trunk): * encoding.c (rb_enc_init): UTF-{16,32}{BE,LE} are not builtin. — Yukihiro Matsumoto <matz@...>

[#32992] ASCII is alias of US-ASCII; replica of dummy encoding is not a dummy — "NARUSE, Yui" <naruse@...>

[#32996] binmode and ASCII-8BIT — Kazuhiro NISHIYAMA <zn@...>

[#33058] Time.mktime — Tadayoshi Funaba <tadf@...>

[#33059] time.rb — Tadayoshi Funaba <tadf@...>

[#33060] Shellwords alias bug? — Masahiro Kawato <m-kawato@...>

[#33061] rational 1.18 — Tadayoshi Funaba <tadf@...>

[#33069] Re: [ruby-cvs:22244] Ruby:r15007 (trunk): * enc/make_encdb.rb: added. search enc/*.c and make encoding database. — Yukihiro Matsumoto <matz@...>

[#33072] Segmentation fault when File.open — Jun Mukai <mukai@...>

[#33076] Encoding.compatible? and dummy encodings — sheepman <sheepman@...>

[#33078] NEW REPLICA ENCODINGS AND ENCODING ALIASES — "NARUSE, Yui" <naruse@...>

[#33079] A patch for the manpage and ruby -h — Yugui <yugui@...>

[#33088] IO#gets with limit — sheepman <sheepman@...>

[#33095] Coerce via aliased methods — Yugui <yugui@...>

[#33097] Re: [ruby-cvs:22286] Ruby:r15049 (trunk): * configure.in (setup): add -I$(EXTOUT)/$(arch) to MINIRUBY. — "U.Nakamura" <usa@...>

[#33101] String#valid_encoding? shoud be strict? — Masayoshi Takahashi <maki@...>

[#33111] us_ascii.o: No such file or directory — Martin Duerst <duerst@...>

[#33124] Thread#priority= does not work — "Yusuke ENDOH" <mame@...>

[#33129] uninitialized constant Encoding::ASCII_8BIT (NameError) — Tanaka Akira <akr@...>

[#33130] 1.9.0 をコンパイルしてみた — Shin-ichiro HARA <sinara@...>

[#33136] enc_register_at should use strdup — sheepman <sheepman@...>

[#33139] Bignum#* might invoke GC parallelly? — "Yusuke ENDOH" <mame@...>

[#33142] eval(str.dump)==str — Kazuhiro NISHIYAMA <zn@...>

[#33156] default script encoding and -K option — sheepman <sheepman@...>

[#33159] the encoding of StringIO.new — sheepman <sheepman@...>

[#33164] default encoding for Marshal.load — "Shugo Maeda" <shugo@...>

[#33173] should initialize the group of threads — sheepman <sheepman@...>

[#33185] コンパイルの問題 (r15218) — Martin Duerst <duerst@...>

[#33189] nonlinear performance of each_char — Tanaka Akira <akr@...>

[#33191] Re: [ruby-cvs:22367] Ruby:r15130 (trunk): * enc/koi8_u.c: added. — Tanaka Akira <akr@...>

[#33211] each_char — Tanaka Akira <akr@...>

[#33218] Re: Ruby1.9String バイト列へのインデックス アクセス — "Hisanori Kiryu" <hkiryu@...>

[#33221] encoding of Iconv::Failure#success — Tanaka Akira <akr@...>

[#33224] printf "%0x" — Tanaka Akira <akr@...>

[#33226] [PATCH] warnings of enc/trans/utf_16_32.c — Nobuyoshi Nakada <nobu@...>

[#33231] each_char yields extra NUL — Tanaka Akira <akr@...>

[#33234] SEGV by test/ruby/test_io_m17n.rb — Tanaka Akira <akr@...>

[#33239] Re: [ruby-cvs:22386] Ruby:r15149 (trunk): * string.c (rb_str_each_char): move forward. — Tanaka Akira <akr@...>

[#33247] requests to transcode — "U.Nakamura" <usa@...>

[#33257] Bignum#quo may cause infinite loop — "Yusuke ENDOH" <mame@...>

[#33258] exhaustive test for bignum.c — "Yusuke ENDOH" <mame@...>

[#33261] Local variables in ChangeLog — Kazuhiro NISHIYAMA <zn@...>

[#33264] Marshal.load fails on LANG=ja_JP.EUC-JP — Tanaka Akira <akr@...>

[#33265] backported GC.stress for 1.8 — Tadashi Saito <shiba@...2.accsnet.ne.jp>

[#33273] Re: [ruby-cvs:22404] Ruby:r15167 (trunk): * configure.in (MINIRUBY): remove -I$(EXTOUT)/$(arch) from — Tanaka Akira <akr@...>

[#33275] comment about sprintf %u — "Yusuke ENDOH" <mame@...>

[#33276] comment about Math#asin — "Yusuke ENDOH" <mame@...>

[#33279] ASCII-8BIT regexp — sheepman <sheepman@...>

[#33280] exhaustive tests for struct.c, sprintf.c and math.c — "Yusuke ENDOH" <mame@...>

[#33282] fronzen string cannot unpack("p") — Nobuyoshi Nakada <nobu@...>

[#33303] Time#strftimeのエンコーディング — rubikitch@...

[#33328] can modify array during iteration — "Yusuke ENDOH" <mame@...>

[#33340] Can large scale projects be successful implemented around a dynamic programming language? — Jordi <mumismo@...>

[#33354] Re: [ruby-cvs:22447] Ruby:r15210 (trunk): * io.c (rb_io_getline_fast): the end point of left_char_head() — "U.Nakamura" <usa@...>

[#33359] printf "%#o\n", 0 — Tanaka Akira <akr@...>

[#33363] printf "%.0d\n", 0 — Tanaka Akira <akr@...>

[#33364] rdocのメモリ消費量がやばい — rubikitch@...

[#33367] printf "%#o\n", -1 — Tanaka Akira <akr@...>

[#33368] summary of script encoding — "U.Nakamura" <usa@...>

[#33377] Regexp#sourceのencoding — Kazuhiro NISHIYAMA <zn@...>

[#33380] Re: [ruby-cvs:22481] Ruby:r15244 (trunk): * string.c (rb_str_usascii_new{,2}: defined. — Tanaka Akira <akr@...>

[#33387] HashからStructを作る — rubikitch@...

[#33388] void value expression — SASADA Koichi <ko1@...>

[#33392] Re: [ruby-cvs:22482] Ruby:r15245 (trunk): * compile.c, compile.h: fix stack pointer issues. — Tanaka Akira <akr@...>

[#33399] regexp match /.../n against to UTF-8 string — Tanaka Akira <akr@...>

[#33400] /#{}/e.encoding — Tanaka Akira <akr@...>

[#33401] _dump and encoding with marshal — Tanaka Akira <akr@...>

[#33403] wrapped String#gsub — "Park Ji-In" <tisphie@...>

[#33218] Re: Ruby1.9String 　バイト列へのインデックス　アクセス — "Hisanori Kiryu" <hkiryu@...>