Honor memcached options= --server=localhost as redis conf
[yaz-moved-to-github.git] / src / charconv.tcl
1 #!/usr/bin/tclsh
2
3 proc usage {} {
4     puts {charconv.tcl: [-p prefix] [-s split] [-o ofile] file ... }
5     exit 1
6 }
7
8 proc preamble_trie {ofilehandle ifiles ofile} {
9     set f $ofilehandle
10
11     set totype {unsigned }
12
13     puts $f "/** \\file $ofile"
14     puts $f "    \\brief Character conversion, generated from [lindex $ifiles 0]"
15     puts $f ""
16     puts $f "    Generated automatically by charconv.tcl"
17     puts $f "*/"
18     puts $f "\#include <string.h>"
19
20     puts $f "\#if HAVE_CONFIG_H"
21     puts $f "\#include <config.h>"
22     puts $f "\#endif"
23
24     puts $f "
25         struct yaz_iconv_trie_flat {
26             char from\[6\];
27             unsigned combining : 1;
28             $totype to : 24;
29         };
30         struct yaz_iconv_trie_dir {
31             int ptr : 15;
32             unsigned combining : 1;
33             $totype to : 24;
34         };
35         
36         struct yaz_iconv_trie {
37             struct yaz_iconv_trie_flat *flat;
38             struct yaz_iconv_trie_dir *dir;
39         };
40     "
41     puts $f {
42         static unsigned long lookup(struct yaz_iconv_trie **ptrs, int ptr, unsigned char *inp,
43                                     size_t inbytesleft, size_t *no_read, int *combining, unsigned mask, unsigned int boffset)
44         {
45             struct yaz_iconv_trie *t = ptrs[ptr-1];
46             if (inbytesleft < 1)
47                 return 0;
48             if (t->dir)
49             {
50                 size_t ch = (inp[0] & mask) + boffset;
51                 unsigned long code;
52                 if (t->dir[ch].ptr)
53                 {
54                     code = lookup(ptrs, t->dir[ch].ptr, inp+1, inbytesleft-1, no_read, combining, mask, boffset);
55                     if (code)
56                     {
57                         (*no_read)++;
58                         return code;
59                     }
60                 }
61                 if (t->dir[ch].to)
62                 {
63                     code = t->dir[ch].to;
64                     *combining = t->dir[ch].combining;
65                     *no_read = 1;
66                     return code;
67                 }
68             }
69             else
70             {
71                 struct yaz_iconv_trie_flat *flat = t->flat;
72                 while (flat->to)
73                 {
74                     size_t len = strlen(flat->from);
75                     if (len <= inbytesleft)
76                     {
77                         size_t i;
78                         for (i = 0; i < len; i++)
79                         {
80                             if (((unsigned char *) flat->from)[i] != (inp[i] & mask) + boffset)
81                                 break;
82                         }
83                         if (i == len)
84                         {
85                             *no_read = len;
86                             *combining = flat->combining;
87                             return flat->to;
88                         }
89                     }
90                     flat++;
91                 }
92             }
93             return 0;
94         }
95     }
96 }
97
98 proc reset_trie {} {
99     global trie
100
101     foreach x [array names trie] {
102         unset trie($x)
103     }
104
105     set trie(no) 1
106     set trie(size) 0
107     set trie(max) 0
108     set trie(split) 50
109     set trie(prefix) {}
110 }
111
112 proc ins_trie {from to combining codename} {
113     global trie
114     if {![info exists trie(no)]} {
115         set trie(no) 1
116         set trie(size) 0
117         set trie(max) 0
118     }
119     if {$trie(max) < $to} {
120         set trie(max) $to
121     }
122     incr trie(size)
123     ins_trie_r [split $from] $to $combining $codename 0
124 }
125
126 proc split_trie {this} {
127     global trie
128     set trie($this,type) d
129     foreach e $trie($this,content) {
130         set from [lindex $e 0]
131         set to [lindex $e 1]
132         set combining [lindex $e 2]
133         set codename [lindex $e 3]
134         
135         set ch [lindex $from 0]
136         set rest [lrange $from 1 end]
137         
138         if {[llength $rest]} {
139             if {![info exist trie($this,ptr,$ch)]} {
140                 set trie($this,ptr,$ch) $trie(no)
141                 incr trie(no)
142             }
143             ins_trie_r $rest $to $combining $codename $trie($this,ptr,$ch)
144         } else {
145             set trie($this,to,$ch) $to
146             set trie($this,combining,$ch) $combining
147             set trie($this,codename,$ch) $codename
148         }
149     }
150     set trie($this,content) missing
151 }
152
153 proc ins_trie_r {from to combining codename this} {
154     global trie
155
156     if {![info exist trie($this,type)]} {
157         set trie($this,type) f
158     }
159     if {$trie($this,type) == "f"} {
160         set dup 0
161         if {[info exists trie($this,content)]} {
162             foreach e $trie($this,content) {
163                 set efrom [lindex $e 0]
164                 if { $efrom == $from } {
165                     set dup 1
166                 }
167             }
168         }
169         if { $dup == 0 } {
170             lappend trie($this,content) [list $from $to $combining $codename]
171         }
172         
173         # split ?
174         if {[llength $trie($this,content)] > $trie(split)} {
175             split_trie $this
176             return [ins_trie_r $from $to $combining $codename $this]
177         }
178     } else {
179         set ch [lindex $from 0]
180         set rest [lrange $from 1 end]
181
182         if {[llength $rest]} {
183             if {![info exist trie($this,ptr,$ch)]} {
184                 set trie($this,ptr,$ch) $trie(no)
185                 incr trie(no)
186             }
187             ins_trie_r $rest $to $combining $codename $trie($this,ptr,$ch)
188         } else {
189             if {![info exist trie($this,to,$ch)]} {
190                 set trie($this,to,$ch) $to
191                 set trie($this,combining,$ch) $combining
192                 set trie($this,codename,$ch) $codename
193             }
194         }
195     }
196 }
197
198 proc dump_trie {ofilehandle} {
199     global trie
200
201     set f $ofilehandle
202
203     puts $f "/* TRIE: size $trie(size) */"
204
205     set this $trie(no)
206     while { [incr this -1] >= 0 } {
207         puts $f "/* PAGE $this */"
208         if {$trie($this,type) == "f"} {
209             puts $f "struct yaz_iconv_trie_flat $trie(prefix)page${this}_flat\[\] = \{"
210             foreach m $trie($this,content) {
211                 puts -nonewline $f "  \{\""
212                 foreach d [lindex $m 0] {
213                     puts -nonewline $f "\\x$d"
214                 }
215                 puts -nonewline $f "\", [lindex $m 2], 0x[lindex $m 1]"
216                 set v [lindex $m 3]
217                 puts $f "\}, /* $v */"
218             }
219             puts $f "  \{\"\", 0, 0\}"
220             puts $f "\};"
221             puts $f "struct yaz_iconv_trie $trie(prefix)page${this} = \{"
222             puts $f "  $trie(prefix)page${this}_flat, 0"
223             puts $f "\};"
224         } else {
225             puts $f "struct yaz_iconv_trie_dir $trie(prefix)page${this}_dir\[256\] = \{"
226             for {set i 0} {$i < 256} {incr i} {
227                 puts -nonewline $f "  \{"
228                 set ch [format %02X $i]
229                 set null 1
230                 if {[info exist trie($this,ptr,$ch)]} {
231                     puts -nonewline $f "[expr $trie($this,ptr,$ch)+1], "
232                     set null 0
233                 } else {
234                     puts -nonewline $f "0, "
235                 }
236                 if {[info exist trie($this,combining,$ch)]} {
237                     puts -nonewline $f "$trie($this,combining,$ch), "
238                 } else {
239                     puts -nonewline $f "0, "
240                 }
241                 if {[info exist trie($this,to,$ch)]} {
242                     puts -nonewline $f "0x$trie($this,to,$ch)\}"
243                     set null 0
244                 } else {
245                     puts -nonewline $f "0\}"
246                 }
247                 if {[info exist trie($this,codename,$ch)]} {
248                     set v $trie($this,codename,$ch)
249                     puts -nonewline $f " /* $v */"
250                 }
251                 if {$i < 255} {
252                     puts $f ","
253                 } else {
254                     puts $f ""
255                 }
256             }
257             puts $f "\};"
258             puts $f "struct yaz_iconv_trie $trie(prefix)page${this} = \{"
259             puts $f "  0, $trie(prefix)page${this}_dir"
260             puts $f "\};"
261         }
262     }
263
264     puts $f "struct yaz_iconv_trie *$trie(prefix)ptrs \[\] = {"
265     for {set this 0} {$this < $trie(no)} {incr this} {
266         puts $f " &$trie(prefix)page$this,"
267     }
268     puts $f "0, };"
269     puts $f ""
270
271     puts $f "unsigned long yaz_$trie(prefix)_conv
272             (unsigned char *inp, size_t inbytesleft, size_t *no_read, int *combining, unsigned mask, unsigned int boffset)
273         {
274             unsigned long code;
275             
276             code = lookup($trie(prefix)ptrs, 1, inp, inbytesleft, no_read, combining, mask, boffset);
277             if (!code)
278             {
279                 *no_read = 1;
280             }
281             return code;
282         }
283     "
284 }
285
286 proc readfile {fname ofilehandle prefix omits reverse} {
287     global trie
288
289     set marc_lines 0
290     set ucs_lines 0
291     set utf_lines 0
292     set altutf_lines 0
293     set codename_lines 0
294     set lineno 0
295     set f [open $fname r]
296     set tablenumber x
297     set combining 0
298     set codename {}
299     set altutf {}
300     while {1} {
301         incr lineno
302         set cnt [gets $f line]
303         if {$cnt < 0} {
304             break
305         }
306         if {[regexp {</characterSet>} $line s]} {
307             dump_trie $ofilehandle
308         } elseif {[regexp {<characterSet .*ISOcode="([0-9A-Fa-f]+)"} $line s tablenumber]} {
309             reset_trie
310             set trie(prefix) "${prefix}_$tablenumber"
311             set combining 0
312         } elseif {[regexp {</code>} $line s]} {
313             if {[string length $ucs]} {
314                 if {$reverse} {
315                     for {set i 0} {$i < [string length $utf]} {incr i 2} {
316                         lappend hex [string range $utf $i [expr $i+1]]
317                     }
318                     # puts "ins_trie $hex $marc
319                     ins_trie $hex $marc $combining $codename
320                     unset hex
321
322                 } else {
323                     for {set i 0} {$i < [string length $marc]} {incr i 2} {
324                         lappend hex [string range $marc $i [expr $i+1]]
325                     }
326                     # puts "ins_trie $hex $ucs"
327                     ins_trie $hex $ucs $combining $codename
328                     unset hex
329                 }
330             }
331             if {$reverse && [string length $marc]} {
332                 for {set i 0} {$i < [string length $altutf]} {incr i 2} {
333                     lappend hex [string range $altutf $i [expr $i+1]]
334                 }
335                 if {[info exists hex]} {
336                     ins_trie $hex $marc $combining $codename
337                     unset hex
338                 }
339             }
340             set marc {}
341             set uni {}
342             set codename {}
343             set combining 0
344             set altutf {}
345         } elseif {[regexp {<marc>([0-9A-Fa-f]*)</marc>} $line s marc]} {
346             incr marc_lines
347         } elseif {[regexp {<name>(.*)</name>} $line s codename]} {
348             incr codename_lines
349         } elseif {[regexp {<name>(.*)} $line s codename]} {
350             incr codename_lines
351             incr lineno
352             set cnt [gets $f line]
353             if {$cnt < 0} {
354                 break
355             }
356             if {[regexp {(.*)</name>} $line s codename_ex]} {
357                 set codename "${codename} ${codename_ex}"
358             }
359         } elseif {[regexp {<isCombining>true</isCombining>} $line s]} {
360             set combining 1
361         } elseif {[regexp {<ucs>([0-9A-Fa-f]*)</ucs>} $line s ucs]} {
362             incr ucs_lines
363         } elseif {[regexp {<utf-8>([0-9A-Fa-f]*)</utf-8>} $line s utf]} {
364             incr utf_lines
365         } elseif {[regexp {<altutf-8>([0-9A-Fa-f]*)</altutf-8>} $line s altutf]} {
366             incr altutf_lines
367         }
368     }
369     close $f
370 }
371
372 set verbose 0
373 set ifile {}
374 set ofile out.c
375 set prefix {c}
376 set reverse_map 0
377 # Parse command line
378 set l [llength $argv]
379 set i 0
380 set omits {}
381 while {$i < $l} {
382     set arg [lindex $argv $i]
383     switch -glob -- $arg {
384         -v {
385             incr verbose
386         }
387         -s {
388             if {[string length $arg]} {
389                 set arg [lindex $argv [incr i]]
390             }
391             set trie(split) $arg
392         }
393         -p {
394             if {[string length $arg]} {
395                 set arg [lindex $argv [incr i]]
396             }
397             set prefix $arg
398         }
399         -o {
400             if {[string length $arg]} {
401                 set arg [lindex $argv [incr i]]
402             }
403             set ofile $arg
404         }
405         -O {
406             if {[string length $arg]} {
407                 set arg [lindex $argv [incr i]]
408             }
409             lappend omits $arg
410         }
411         -r {
412             set reverse_map 1
413         }
414         default {
415             lappend ifiles $arg
416         }
417     }
418     incr i
419 }
420 if {![info exists ifiles]} {
421     puts "charconv.tcl: missing input file(s)"
422     usage
423 }
424
425 set ofilehandle [open ${ofile}.tmp w]
426 preamble_trie $ofilehandle $ifiles $ofile
427
428 foreach ifile $ifiles {
429     readfile $ifile $ofilehandle $prefix $omits $reverse_map
430 }
431 close $ofilehandle
432
433 file rename -force ${ofile}.tmp ${ofile}
434
435