Function data1_path_fopen doesn not call yaz_fopen if profilePath
[idzebra-moved-to-github.git] / data1 / d1_absyn.c
1 /* $Id: d1_absyn.c,v 1.26 2006-06-08 10:33:19 adam Exp $
2    Copyright (C) 1995-2006
3    Index Data ApS
4
5 This file is part of the Zebra server.
6
7 Zebra is free software; you can redistribute it and/or modify it under
8 the terms of the GNU General Public License as published by the Free
9 Software Foundation; either version 2, or (at your option) any later
10 version.
11
12 Zebra is distributed in the hope that it will be useful, but WITHOUT ANY
13 WARRANTY; without even the implied warranty of MERCHANTABILITY or
14 FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
15 for more details.
16
17 You should have received a copy of the GNU General Public License
18 along with Zebra; see the file LICENSE.zebra.  If not, write to the
19 Free Software Foundation, 59 Temple Place - Suite 330, Boston, MA
20 02111-1307, USA.
21 */
22
23 #include <stdio.h>
24 #include <assert.h>
25 #include <stdlib.h>
26 #include <string.h>
27
28 #include <yaz/log.h>
29 #include <yaz/oid.h>
30 #include <idzebra/data1.h>
31 #include <idzebra/recctrl.h>
32 #include <zebra_xpath.h>
33 #include <d1_absyn.h>
34
35 #define D1_MAX_NESTING  128
36
37 struct data1_hash_table {
38     NMEM nmem;
39     int size;
40     struct data1_hash_entry **ar;
41 };
42
43 struct data1_hash_entry {
44     void *clientData;
45     char *str;
46     struct data1_hash_entry *next;
47 };
48
49 unsigned data1_hash_calc(struct data1_hash_table *ht, const char *str)
50 {
51     unsigned v = 0;
52     assert(str);
53     while (*str)
54     {
55         if (*str >= 'a' && *str <= 'z')
56             v = v*65509 + *str -'a'+10;
57         else if (*str >= 'A' && *str <= 'Z')
58             v = v*65509 + *str -'A'+10;
59         else if (*str >= '0' && *str <= '9')
60             v = v*65509 + *str -'0';
61         str++;
62     }
63     return v % ht->size;
64 }
65
66 struct data1_hash_table *data1_hash_open(int size, NMEM nmem)
67 {
68     int i;
69     struct data1_hash_table *ht = nmem_malloc(nmem, sizeof(*ht));
70     ht->nmem = nmem;
71     ht->size = size;
72     if (ht->size <= 0)
73         ht->size = 29;
74     ht->ar = nmem_malloc(nmem, sizeof(*ht->ar) * ht->size);
75     for (i = 0; i<ht->size; i++)
76         ht->ar[i] = 0;
77     return ht;
78 }
79
80 void data1_hash_insert(struct data1_hash_table *ht, const char *str,
81                        void *clientData, int copy)
82 {
83     char *dstr = copy ? nmem_strdup(ht->nmem, str) : (char*) str;
84     if (strchr(str, '?') || strchr(str, '.'))
85     {
86         int i;
87         for (i = 0; i<ht->size; i++)
88         {
89             struct data1_hash_entry **he = &ht->ar[i];
90             for (; *he && strcmp(str, (*he)->str); he = &(*he)->next)
91                 ;
92             if (!*he)
93             {
94                 *he = nmem_malloc(ht->nmem, sizeof(**he));
95                 (*he)->str = dstr;
96                 (*he)->next = 0;
97             }
98             (*he)->clientData = clientData;
99         }
100     }
101     else
102     {
103         struct data1_hash_entry **he = &ht->ar[data1_hash_calc(ht, str)];
104         for (; *he && strcmp(str, (*he)->str); he = &(*he)->next)
105             ;
106         if (!*he)
107         {
108             *he = nmem_malloc(ht->nmem, sizeof(**he));
109             (*he)->str = dstr;
110             (*he)->next = 0;
111         }
112         (*he)->clientData = clientData;
113     }
114 }
115
116 void *data1_hash_lookup(struct data1_hash_table *ht, const char *str)
117 {
118     struct data1_hash_entry **he = &ht->ar[data1_hash_calc(ht, str)];
119     
120     for (; *he && yaz_matchstr(str, (*he)->str); he = &(*he)->next)
121         ;
122     if (*he)
123         return (*he)->clientData;
124     return 0;
125 }
126
127 struct data1_systag {
128     char *name;
129     char *value;
130     struct data1_systag *next;
131 };
132
133 struct data1_absyn_cache_info 
134 {
135     char *name;
136     data1_absyn *absyn;
137     data1_absyn_cache next;
138 };
139
140 struct data1_attset_cache_info 
141 {
142     char *name;
143     data1_attset *attset;
144     data1_attset_cache next;
145 };
146
147 data1_element *data1_mk_element(data1_handle dh)
148 {
149     data1_element *e = nmem_malloc(data1_nmem_get(dh), sizeof(*e));
150     e->name = 0;
151     e->tag = 0;
152     e->termlists = 0;
153     e->next = e->children = 0;
154     e->sub_name = 0;
155     e->hash = 0;
156     return e;
157 }
158
159 data1_absyn *data1_absyn_search (data1_handle dh, const char *name)
160 {
161     data1_absyn_cache p = *data1_absyn_cache_get (dh);
162
163     while (p)
164     {
165         if (!yaz_matchstr (name, p->name))
166             return p->absyn;
167         p = p->next;
168     }
169     return 0;
170 }
171 /* *ostrich*
172    We need to destroy DFAs, in xp_element (xelm) definitions 
173    pop, 2002-12-13
174 */
175
176 void data1_absyn_destroy (data1_handle dh)
177 {
178     data1_absyn_cache p = *data1_absyn_cache_get (dh);
179     
180     while (p)
181     {
182         data1_absyn *abs = p->absyn;
183         if (abs)
184         {
185             data1_xpelement *xpe = abs->xp_elements;
186             while (xpe) {
187                 yaz_log (YLOG_DEBUG,"Destroy xp element %s",xpe->xpath_expr);
188                 if (xpe->dfa) {  dfa_delete (&xpe->dfa); }
189                 xpe = xpe->next;
190             } 
191         }
192         p = p->next;
193     }
194 }
195
196
197 void data1_absyn_trav (data1_handle dh, void *handle,
198                        void (*fh)(data1_handle dh, void *h, data1_absyn *a))
199 {
200     data1_absyn_cache p = *data1_absyn_cache_get (dh);
201
202     while (p)
203     {
204         (*fh)(dh, handle, p->absyn);
205         p = p->next;
206     }
207 }
208
209 data1_absyn *data1_absyn_add (data1_handle dh, const char *name)
210 {
211     char fname[512];
212     NMEM mem = data1_nmem_get (dh);
213
214     data1_absyn_cache p = (data1_absyn_cache)nmem_malloc (mem, sizeof(*p));
215     data1_absyn_cache *pp = data1_absyn_cache_get (dh);
216
217     sprintf(fname, "%s.abs", name);
218     p->absyn = data1_read_absyn (dh, fname, 0);
219     p->name = nmem_strdup (mem, name);
220     p->next = *pp;
221     *pp = p;
222     return p->absyn;
223 }
224
225 data1_absyn *data1_get_absyn (data1_handle dh, const char *name)
226 {
227     data1_absyn *absyn;
228
229     if (!(absyn = data1_absyn_search (dh, name)))
230         absyn = data1_absyn_add (dh, name);
231     return absyn;
232 }
233
234 data1_attset *data1_attset_search_name (data1_handle dh, const char *name)
235 {
236     data1_attset_cache p = *data1_attset_cache_get (dh);
237
238     while (p)
239     {
240         if (!yaz_matchstr (name, p->name))
241             return p->attset;
242         p = p->next;
243     }
244     return 0;
245 }
246
247 data1_attset *data1_attset_search_id (data1_handle dh, int id)
248 {
249     data1_attset_cache p = *data1_attset_cache_get (dh);
250
251     while (p)
252     {
253         if (id == p->attset->reference)
254             return p->attset;
255         p = p->next;
256     }
257     return 0;
258 }
259
260 data1_attset *data1_attset_add (data1_handle dh, const char *name)
261 {
262     char fname[512], aname[512];
263     NMEM mem = data1_nmem_get (dh);
264     data1_attset *attset;
265
266     strcpy (aname, name);
267     sprintf(fname, "%s.att", name);
268     attset = data1_read_attset (dh, fname);
269     if (!attset)
270     {
271         char *cp;
272         attset = data1_read_attset (dh, name);
273         if (attset && (cp = strrchr (aname, '.')))
274             *cp = '\0';
275     }
276     if (!attset)
277         yaz_log (YLOG_WARN|YLOG_ERRNO, "Couldn't load attribute set %s", name);
278     else
279     {
280         data1_attset_cache p = (data1_attset_cache)
281             nmem_malloc (mem, sizeof(*p));
282         data1_attset_cache *pp = data1_attset_cache_get (dh);
283         
284         attset->name = p->name = nmem_strdup (mem, aname);
285         p->attset = attset;
286         p->next = *pp;
287         *pp = p;
288     }
289     return attset;
290 }
291
292 data1_attset *data1_get_attset (data1_handle dh, const char *name)
293 {
294     data1_attset *attset;
295
296     if (!(attset = data1_attset_search_name (dh, name)))
297         attset = data1_attset_add (dh, name);
298     return attset;
299 }
300
301 data1_esetname *data1_getesetbyname(data1_handle dh, data1_absyn *a,
302                                     const char *name)
303 {
304     data1_esetname *r;
305
306     for (r = a->esetnames; r; r = r->next)
307         if (!data1_matchstr(r->name, name))
308             return r;
309     return 0;
310 }
311
312 /* we have multiple versions of data1_getelementbyname */
313 #define DATA1_GETELEMENTBYTAGNAME_VERSION 1
314
315 #if DATA1_GETELEMENTBYTAGNAME_VERSION==0
316 /* straight linear search */
317 data1_element *data1_getelementbytagname (data1_handle dh, data1_absyn *abs,
318                                           data1_element *parent,
319                                           const char *tagname)
320 {
321     data1_element *r;
322
323     /* It's now possible to have a data1 tree with no abstract syntax */
324     if ( !abs )
325         return 0;
326
327     if (!parent)
328         r = abs->main_elements;
329     else
330         r = parent->children;
331
332     for (; r; r = r->next)
333     {
334         data1_name *n;
335
336         for (n = r->tag->names; n; n = n->next)
337             if (!data1_matchstr(tagname, n->name))
338                 return r;
339     }
340     return 0;
341 }
342 #endif
343
344 #if DATA1_GETELEMENTBYTAGNAME_VERSION==1
345 /* using hash search */
346 data1_element *data1_getelementbytagname (data1_handle dh, data1_absyn *abs,
347                                           data1_element *parent,
348                                           const char *tagname)
349 {
350     data1_element *r;
351     struct data1_hash_table *ht;
352
353     /* It's now possible to have a data1 tree with no abstract syntax */
354     if ( !abs )
355         return 0;
356
357     if (!parent)
358         r = abs->main_elements;
359     else
360         r = parent->children;
361
362     if (!r)
363         return 0;
364
365     ht = r->hash;
366     if (!ht)
367     {
368         ht = r->hash = data1_hash_open(29, data1_nmem_get(dh));
369         for (; r; r = r->next)
370         {
371             data1_name *n;
372             
373             for (n = r->tag->names; n; n = n->next)
374                 data1_hash_insert(ht, n->name, r, 0);
375         }
376     }
377     return data1_hash_lookup(ht, tagname);
378 }
379 #endif
380
381 data1_element *data1_getelementbyname (data1_handle dh, data1_absyn *absyn,
382                                        const char *name)
383 {
384     data1_element *r;
385
386     /* It's now possible to have a data1 tree with no abstract syntax */
387     if ( !absyn )
388         return 0;
389     for (r = absyn->main_elements; r; r = r->next)
390         if (!data1_matchstr(r->name, name))
391             return r;
392     return 0;
393 }
394
395
396 void fix_element_ref (data1_handle dh, data1_absyn *absyn, data1_element *e)
397 {
398     /* It's now possible to have a data1 tree with no abstract syntax */
399     if ( !absyn )
400         return;
401
402     for (; e; e = e->next)
403     {
404         if (!e->sub_name)
405         {
406             if (e->children)
407                 fix_element_ref (dh, absyn, e->children);
408         }
409         else
410         {
411             data1_sub_elements *sub_e = absyn->sub_elements;
412             while (sub_e && strcmp (e->sub_name, sub_e->name))
413                 sub_e = sub_e->next;
414             if (sub_e)
415                 e->children = sub_e->elements;
416             else
417                 yaz_log (YLOG_WARN, "Unresolved reference to sub-elements %s",
418                       e->sub_name);
419         }
420     }
421 }
422 /* *ostrich*
423
424    New function, a bit dummy now... I've seen it in zrpn.c... We should build
425    more clever regexps...
426
427
428       //a    ->    ^a/.*$
429       //a/b  ->    ^b/a/.*$
430       /a     ->    ^a/$
431       /a/b   ->    ^b/a/$
432
433       /      ->    none
434
435    pop, 2002-12-13
436
437    Now [] predicates are supported
438
439    pop, 2003-01-17
440
441  */
442
443 static const char * mk_xpath_regexp (data1_handle dh, const char *expr) 
444 {
445     const char *p = expr;
446     int abs = 1;
447     int e = 0;
448     char *stack[32];
449     char *res_p, *res = 0;
450     size_t res_size = 1;
451     
452     if (*p != '/')
453         return ("");
454     p++;
455     if (*p == '/') 
456     { 
457         abs =0;
458         p++;
459     }
460     while (*p)
461     {
462         int is_predicate = 0;
463         char *s;
464         int i, j;
465         for (i = 0; *p && !strchr("/",*p); i++, p++)
466             ;
467         res_size += (i+3); /* we'll add / between later .. */
468         stack[e] = (char *) nmem_malloc(data1_nmem_get(dh), i+1);
469         s = stack[e];
470         for (j = 0; j < i; j++)
471         {
472             const char *pp = p-i+j;
473             if (*pp == '[')
474                 is_predicate=1;
475             else if (*pp == ']')
476                 is_predicate=0;
477             else 
478             {
479                 if (!is_predicate) {
480                     if (*pp == '*') 
481                         *s++ = '.';
482                     *s++ = *pp;
483                 }
484             }
485         }
486         *s = 0;
487         e++;
488         if (*p)
489             p++;
490     }
491     res_p = res = nmem_malloc(data1_nmem_get(dh), res_size + 10);
492
493     if (stack[e-1][0] == '@')  /* path/@attr spec (leaf is attribute) */
494         strcpy(res_p, "/");
495     else
496         strcpy(res_p, "[^@]*/");  /* path .. (index all cdata below it) */
497     res_p = res_p + strlen(res_p);
498     while (--e >= 0) {
499         sprintf(res_p, "%s/", stack[e]);
500         res_p += strlen(stack[e]) + 1;
501     }
502     if (!abs)
503     {
504         sprintf(res_p, ".*"); 
505         res_p += 2;
506     }
507     sprintf (res_p, "$");
508     res_p++;
509     yaz_log(YLOG_DEBUG, "Got regexp: %s", res);
510     return res;
511 }
512
513 static int parse_termlists(data1_handle dh, data1_termlist ***tpp,
514                            char *cp, const char *file, int lineno,
515                            const char *element_name, data1_absyn *res,
516                            int xpelement,
517                            data1_attset *attset)
518 {
519     data1_termlist **tp = *tpp;
520     while(1)
521     {
522         char attname[512], structure[512];
523         char *source;
524         int r, i;
525         int level = 0;
526         structure[0] = '\0';
527         for (i = 0; cp[i] && i<sizeof(attname)-1; i++)
528             if (strchr(":,", cp[i]))
529                 break;
530             else
531                 attname[i] = cp[i];
532         if (i == 0)
533         {
534             if (*cp)
535                 yaz_log(YLOG_WARN,
536                         "%s:%d: Syntax error in termlistspec '%s'",
537                         file, lineno, cp);
538             break;
539         }
540         attname[i] = '\0';
541         r = 1;
542         cp += i;
543         if (*cp == ':')
544             cp++;
545
546         for (i = 0; cp[i] && i<sizeof(structure)-1; i++)
547             if (level == 0 && strchr(",", cp[i]))
548                 break;
549             else
550             {
551                 structure[i] = cp[i];
552                 if (cp[i] == '(')
553                     level++;
554                 else if (cp[i] == ')')
555                     level--;
556             }
557         structure[i] = '\0';
558         if (i)
559             r = 2;
560         cp += i;
561         if (*cp)
562             cp++;  /* skip , */
563
564         *tp = (data1_termlist *)
565             nmem_malloc(data1_nmem_get(dh), sizeof(**tp));
566         (*tp)->next = 0;
567         
568         if (*attname == '!')
569         {
570             if (!xpelement && element_name)
571                 strcpy(attname, element_name);
572             else if (xpelement)
573                 strcpy(attname, ZEBRA_XPATH_CDATA);
574         }
575         if (attset)
576         {
577             if (!data1_getattbyname(dh, attset, attname))
578             {
579                 yaz_log(YLOG_WARN, "Index '%s' not found in attset(s)",
580                         attname);
581             }
582         }
583
584         (*tp)->index_name = nmem_strdup(data1_nmem_get(dh), attname);
585         assert (*(*tp)->index_name != '!');
586         if (r == 2 && (source = strchr(structure, ':')))
587             *source++ = '\0';   /* cut off structure .. */
588         else
589             source = "data";    /* ok: default is leaf data */
590         (*tp)->source = (char *)
591             nmem_strdup (data1_nmem_get (dh), source);
592         
593         if (r < 2) /* is the structure qualified? */
594             (*tp)->structure = "w";
595         else 
596             (*tp)->structure = (char *)
597                 nmem_strdup (data1_nmem_get (dh), structure);
598         tp = &(*tp)->next;
599     }
600
601     *tpp = tp;
602     return 0;
603 }
604
605 /* quinn
606  * Converts a 'melm' field[$subfield] pattern to a simple xpath
607  */
608 static int melm2xpath(char *melm, char *buf)
609 {
610     char *dollar;
611     char *field = melm;
612     char *subfield;
613     char *fieldtype;
614     if ((dollar = strchr(melm, '$'))) {
615         *dollar = '\0';
616         subfield = ++dollar;
617     } else
618         subfield = "";
619     if (field[0] == '0' && field[1] == '0')
620         fieldtype = "controlfield";
621     else
622         fieldtype = "datafield";
623     sprintf(buf, "/*/%s[@tag=\"%s\"]", fieldtype, field);
624     if (*subfield) 
625         sprintf(buf + strlen(buf), "/subfield[@code=\"%s\"]", subfield);
626     else if (field[0] != '0' || field[1] != '0')
627         strcat(buf, "/subfield");
628     yaz_log(YLOG_DEBUG, "Created xpath: '%s'", buf);
629     return 0;
630 }
631
632 const char *data1_systag_lookup(data1_absyn *absyn, const char *tag,
633                                 const char *default_value)
634 {
635     struct data1_systag *p = absyn->systags;
636     for (; p; p = p->next)
637         if (!strcmp(p->name, tag))
638             return p->value;
639     return default_value;
640 }
641
642 #define l_isspace(c) ((c) == '\t' || (c) == ' ' || (c) == '\n' || (c) == '\r')
643
644 int read_absyn_line(FILE *f, int *lineno, char *line, int len,
645                     char *argv[], int num)
646 {
647     char *p;
648     int argc;
649     int quoted = 0;
650     
651     while ((p = fgets(line, len, f)))
652     {
653         (*lineno)++;
654         while (*p && l_isspace(*p))
655             p++;
656         if (*p && *p != '#')
657             break;
658     }
659     if (!p)
660         return 0;
661     
662     for (argc = 0; *p ; argc++)
663     {
664         if (*p == '#')  /* trailing comment */
665             break;
666         argv[argc] = p;
667         while (*p && !(l_isspace(*p) && !quoted)) {
668           if (*p =='"') quoted = 1 - quoted;
669           if (*p =='[') quoted = 1;
670           if (*p ==']') quoted = 0;
671           p++;
672         }
673         if (*p)
674         {
675             *(p++) = '\0';
676             while (*p && l_isspace(*p))
677                 p++;
678         }
679     }
680     return argc;
681 }
682
683 data1_marctab *data1_absyn_getmarctab(data1_handle dh, data1_absyn *absyn)
684 {
685     return absyn->marc;
686 }
687
688 YAZ_EXPORT data1_element *data1_absyn_getelements(data1_handle dh,
689                                                   data1_absyn *absyn)
690 {
691     return absyn->main_elements;
692 }
693
694 data1_absyn *data1_read_absyn (data1_handle dh, const char *file,
695                                int file_must_exist)
696 {
697     data1_sub_elements *cur_elements = NULL;
698     data1_xpelement *cur_xpelement = NULL;
699     data1_attset *attset_list = data1_empty_attset(dh);
700     data1_attset_child **attset_childp = &attset_list->children;
701
702     data1_absyn *res = 0;
703     FILE *f;
704     data1_element **ppl[D1_MAX_NESTING];
705     data1_esetname **esetpp;
706     data1_maptab **maptabp;
707     data1_marctab **marcp;
708     data1_termlist *all = 0;
709     data1_tagset **tagset_childp;
710     struct data1_systag **systagsp;
711     int level = 0;
712     int lineno = 0;
713     int argc;
714     char *argv[50], line[512];
715
716     if (!(f = data1_path_fopen(dh, file, "r")))
717     {
718         if (file_must_exist)
719             return 0;
720     }
721     
722     res = (data1_absyn *) nmem_malloc(data1_nmem_get(dh), sizeof(*res));
723     res->name = 0;
724     res->reference = VAL_NONE;
725     res->tagset = 0;
726     res->encoding = 0;
727     res->enable_xpath_indexing = (f ? 0 : 1);
728     res->systags = 0;
729     systagsp = &res->systags;
730     tagset_childp = &res->tagset;
731
732     res->varset = 0;
733     res->esetnames = 0;
734     esetpp = &res->esetnames;
735     res->maptabs = 0;
736     maptabp = &res->maptabs;
737     res->marc = 0;
738     marcp = &res->marc;
739     res->sub_elements = NULL;
740     res->main_elements = NULL;
741     res->xp_elements = NULL;
742
743     while (f && (argc = read_absyn_line(f, &lineno, line, 512, argv, 50)))
744     {
745         char *cmd = *argv;
746         if (!strcmp(cmd, "elm") || !strcmp(cmd, "element"))
747         {
748             data1_element *new_element;
749             int i;
750             char *p, *sub_p, *path, *name, *termlists;
751             int type, value;
752             data1_termlist **tp;
753
754             if (argc < 4)
755             {
756                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to elm", file, lineno);
757                 continue;
758             }
759             path = argv[1];
760             name = argv[2];
761             termlists = argv[3];
762
763             if (!cur_elements)
764             {
765                 cur_elements = (data1_sub_elements *)
766                     nmem_malloc(data1_nmem_get(dh), sizeof(*cur_elements));
767                 cur_elements->next = res->sub_elements;
768                 cur_elements->elements = NULL;
769                 cur_elements->name = "main";
770                 res->sub_elements = cur_elements;
771                 
772                 level = 0;
773                 ppl[level] = &cur_elements->elements;
774             }
775             p = path;
776             for (i = 1;; i++)
777             {
778                 char *e;
779
780                 if ((e = strchr(p, '/')))
781                     p = e+1;
782                 else
783                     break;
784             }
785             if (i > level+1)
786             {
787                 yaz_log(YLOG_WARN, "%s:%d: Bad level increase", file, lineno);
788                 fclose(f);
789                 return 0;
790             }
791             level = i;
792             new_element = *ppl[level-1] = data1_mk_element(dh);
793             
794             tp = &new_element->termlists;
795             ppl[level-1] = &new_element->next;
796             ppl[level] = &new_element->children;
797             
798             /* consider subtree (if any) ... */
799             if ((sub_p = strchr (p, ':')) && sub_p[1])
800             {
801                 *sub_p++ = '\0';
802                 new_element->sub_name =
803                     nmem_strdup (data1_nmem_get(dh), sub_p);            
804             }
805             /* well-defined tag */
806             if (sscanf(p, "(%d,%d)", &type, &value) == 2)
807             {
808                 if (!res->tagset)
809                 {
810                     yaz_log(YLOG_WARN, "%s:%d: No tagset loaded", file, lineno);
811                     fclose(f);
812                     return 0;
813                 }
814                 if (!(new_element->tag = data1_gettagbynum (dh, res->tagset,
815                                                             type, value)))
816                 {
817                     yaz_log(YLOG_WARN, "%s:%d: Couldn't find tag %s in tagset",
818                          file, lineno, p);
819                     fclose(f);
820                     return 0;
821                 }
822             }
823             /* private tag */
824             else if (*p)
825             {
826                 data1_tag *nt =
827                     new_element->tag = (data1_tag *)
828                     nmem_malloc(data1_nmem_get (dh),
829                                 sizeof(*new_element->tag));
830                 nt->which = DATA1T_string;
831                 nt->value.string = nmem_strdup(data1_nmem_get (dh), p);
832                 nt->names = (data1_name *)
833                     nmem_malloc(data1_nmem_get(dh), 
834                                 sizeof(*new_element->tag->names));
835                 nt->names->name = nt->value.string;
836                 nt->names->next = 0;
837                 nt->kind = DATA1K_string;
838                 nt->next = 0;
839                 nt->tagset = 0;
840             }
841             else
842             {
843                 yaz_log(YLOG_WARN, "%s:%d: Bad element", file, lineno);
844                 fclose(f);
845                 return 0;
846             }
847             /* parse termList definitions */
848             p = termlists;
849             if (*p != '-')
850             {
851                 if (parse_termlists (dh, &tp, p, file, lineno, name, res, 0,
852                                      attset_list))
853                 {
854                     fclose (f);
855                     return 0;
856                 }
857                 *tp = all; /* append any ALL entries to the list */
858             }
859             new_element->name = nmem_strdup(data1_nmem_get (dh), name);
860         }
861         /* *ostrich*
862            New code to support xelm directive
863            for each xelm a dfa is built. xelms are stored in res->xp_elements
864            
865            maybe we should use a simple sscanf instead of dfa?
866            
867            pop, 2002-12-13
868
869            Now [] predicates are supported. regexps and xpath structure is
870            a bit redundant, however it's comfortable later...
871
872            pop, 2003-01-17
873         */
874
875         else if (!strcmp(cmd, "xelm") || !strcmp(cmd, "melm")) {
876
877             int i;
878             char *p, *xpath_expr, *termlists;
879             const char *regexp;
880             struct DFA *dfa = dfa = dfa_init();
881             data1_termlist **tp;
882             char melm_xpath[128];
883             
884             if (argc < 3)
885             {
886                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to xelm", file, lineno);
887                 continue;
888             }
889
890             if (!strcmp(cmd, "melm")) {
891                 if (melm2xpath(argv[1], melm_xpath) < 0)
892                     continue;
893                 xpath_expr = melm_xpath;
894             } else {
895                 xpath_expr = argv[1];
896             }
897             termlists = argv[2];
898             regexp = mk_xpath_regexp(dh, xpath_expr);
899             i = dfa_parse (dfa, &regexp);
900             if (i || *regexp) {
901                 yaz_log(YLOG_WARN, "%s:%d: Bad xpath to xelm", file, lineno);
902                 dfa_delete (&dfa);
903                 continue;
904             }
905             
906             if (!cur_xpelement)
907             {
908                 cur_xpelement = (data1_xpelement *)
909                     nmem_malloc(data1_nmem_get(dh), sizeof(*cur_xpelement));
910                 res->xp_elements = cur_xpelement;
911             } else {
912                 cur_xpelement->next = (data1_xpelement *)
913                     nmem_malloc(data1_nmem_get(dh), sizeof(*cur_xpelement));
914                 cur_xpelement = cur_xpelement->next;
915             }
916             cur_xpelement->next = NULL;
917             cur_xpelement->xpath_expr = nmem_strdup(data1_nmem_get (dh), 
918                                                     xpath_expr); 
919             
920             dfa_mkstate (dfa);
921             cur_xpelement->dfa = dfa;
922
923 #ifdef ENHANCED_XELM 
924             cur_xpelement->xpath_len =
925                 zebra_parse_xpath_str(xpath_expr, 
926                                       cur_xpelement->xpath, XPATH_STEP_COUNT,
927                                       data1_nmem_get(dh));
928             
929             /*
930             dump_xp_steps(cur_xpelement->xpath,cur_xpelement->xpath_len);
931             */
932 #endif
933             cur_xpelement->termlists = 0;
934             tp = &cur_xpelement->termlists;
935             
936             /* parse termList definitions */
937             p = termlists;
938             if (*p != '-')
939             {
940                 if (parse_termlists (dh, &tp, p, file, lineno,
941                                      xpath_expr, res, 1, attset_list))
942                 {
943                     fclose (f);
944                     return 0;
945                 }
946                 *tp = all; /* append any ALL entries to the list */
947             }
948         }
949         else if (!strcmp(cmd, "section"))
950         {
951             char *name;
952             
953             if (argc < 2)
954             {
955                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to section",
956                         file, lineno);
957                 continue;
958             }
959             name = argv[1];
960             
961             cur_elements = (data1_sub_elements *)
962                 nmem_malloc(data1_nmem_get(dh), sizeof(*cur_elements));
963             cur_elements->next = res->sub_elements;
964             cur_elements->elements = NULL;
965             cur_elements->name = nmem_strdup (data1_nmem_get(dh), name);
966             res->sub_elements = cur_elements;
967             
968             level = 0;
969             ppl[level] = &cur_elements->elements;
970         }
971         else if (!strcmp(cmd, "xpath"))
972         {
973             if (argc != 2)
974             {
975                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to 'xpath' directive",
976                      file, lineno);
977                 continue;
978             }
979             if (!strcmp(argv[1], "enable"))
980                 res->enable_xpath_indexing = 1;
981             else if (!strcmp (argv[1], "disable"))
982                 res->enable_xpath_indexing = 0;
983             else
984             {
985                 yaz_log(YLOG_WARN, "%s:%d: Expecting disable/enable "
986                         "after 'xpath' directive", file, lineno);
987             }
988         }
989         else if (!strcmp(cmd, "all"))
990         {
991             data1_termlist **tp = &all;
992             if (all)
993             {
994                 yaz_log(YLOG_WARN, "%s:%d: Too many 'all' directives - ignored",
995                      file, lineno);
996                 continue;
997             }
998             if (argc != 2)
999             {
1000                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to 'all' directive",
1001                      file, lineno);
1002                 continue;
1003             }
1004             if (parse_termlists (dh, &tp, argv[1], file, lineno, 0, res, 0,
1005                                  attset_list))
1006             {
1007                 fclose (f);
1008                 return 0;
1009             }
1010         }
1011         else if (!strcmp(cmd, "name"))
1012         {
1013             if (argc != 2)
1014             {
1015                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to name directive",
1016                      file, lineno);
1017                 continue;
1018             }
1019             res->name = nmem_strdup(data1_nmem_get(dh), argv[1]);
1020         }
1021         else if (!strcmp(cmd, "reference"))
1022         {
1023             char *name;
1024             
1025             if (argc != 2)
1026             {
1027                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to reference",
1028                      file, lineno);
1029                 continue;
1030             }
1031             name = argv[1];
1032             if ((res->reference = oid_getvalbyname(name)) == VAL_NONE)
1033             {
1034                 yaz_log(YLOG_WARN, "%s:%d: Unknown tagset ref '%s'", 
1035                      file, lineno, name);
1036                 continue;
1037             }
1038         }
1039         else if (!strcmp(cmd, "attset"))
1040         {
1041            char *name;
1042            data1_attset *attset;
1043            
1044            if (argc != 2)
1045            {
1046                yaz_log(YLOG_WARN, "%s:%d: Bad # of args to attset",
1047                     file, lineno);
1048                continue;
1049            }
1050            name = argv[1];
1051            if (!(attset = data1_get_attset (dh, name)))
1052            {
1053                yaz_log(YLOG_WARN, "%s:%d: Couldn't find attset  %s",
1054                        file, lineno, name);
1055                continue;
1056            }
1057            *attset_childp = (data1_attset_child *)
1058                nmem_malloc (data1_nmem_get(dh), sizeof(**attset_childp));
1059            (*attset_childp)->child = attset;
1060            (*attset_childp)->next = 0;
1061            attset_childp = &(*attset_childp)->next;
1062         }
1063         else if (!strcmp(cmd, "tagset"))
1064         {
1065             char *name;
1066             int type = 0;
1067             if (argc < 2)
1068             {
1069                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to tagset",
1070                      file, lineno);
1071                 continue;
1072             }
1073             name = argv[1];
1074             if (argc == 3)
1075                 type = atoi(argv[2]);
1076             *tagset_childp = data1_read_tagset (dh, name, type);
1077             if (!(*tagset_childp))
1078             {
1079                 yaz_log(YLOG_WARN, "%s:%d: Couldn't load tagset %s",
1080                      file, lineno, name);
1081                 continue;
1082             }
1083             tagset_childp = &(*tagset_childp)->next;
1084         }
1085         else if (!strcmp(cmd, "varset"))
1086         {
1087             char *name;
1088
1089             if (argc != 2)
1090             {
1091                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args in varset",
1092                      file, lineno);
1093                 continue;
1094             }
1095             name = argv[1];
1096             if (!(res->varset = data1_read_varset (dh, name)))
1097             {
1098                 yaz_log(YLOG_WARN, "%s:%d: Couldn't load Varset %s",
1099                      file, lineno, name);
1100                 continue;
1101             }
1102         }
1103         else if (!strcmp(cmd, "esetname"))
1104         {
1105             char *name, *fname;
1106
1107             if (argc != 3)
1108             {
1109                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args in esetname",
1110                      file, lineno);
1111                 continue;
1112             }
1113             name = argv[1];
1114             fname = argv[2];
1115             
1116             *esetpp = (data1_esetname *)
1117                 nmem_malloc(data1_nmem_get(dh), sizeof(**esetpp));
1118             (*esetpp)->name = nmem_strdup(data1_nmem_get(dh), name);
1119             (*esetpp)->next = 0;
1120             if (*fname == '@')
1121                 (*esetpp)->spec = 0;
1122             else if (!((*esetpp)->spec = data1_read_espec1 (dh, fname)))
1123             {
1124                 yaz_log(YLOG_WARN, "%s:%d: Espec-1 read failed for %s",
1125                      file, lineno, fname);
1126                 continue;
1127             }
1128             esetpp = &(*esetpp)->next;
1129         }
1130         else if (!strcmp(cmd, "maptab"))
1131         {
1132             char *name;
1133             
1134             if (argc != 2)
1135             {
1136                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args for maptab",
1137                      file, lineno);
1138                 continue;
1139             }
1140             name = argv[1];
1141             if (!(*maptabp = data1_read_maptab (dh, name)))
1142             {
1143                 yaz_log(YLOG_WARN, "%s:%d: Couldn't load maptab %s",
1144                      file, lineno, name);
1145                 continue;
1146             }
1147             maptabp = &(*maptabp)->next;
1148         }
1149         else if (!strcmp(cmd, "marc"))
1150         {
1151             char *name;
1152             
1153             if (argc != 2)
1154             {
1155                 yaz_log(YLOG_WARN, "%s:%d: Bad # or args for marc",
1156                      file, lineno);
1157                 continue;
1158             }
1159             name = argv[1];
1160             if (!(*marcp = data1_read_marctab (dh, name)))
1161             {
1162                 yaz_log(YLOG_WARN, "%s:%d: Couldn't read marctab %s",
1163                      file, lineno, name);
1164                 continue;
1165             }
1166             marcp = &(*marcp)->next;
1167         }
1168         else if (!strcmp(cmd, "encoding"))
1169         {
1170             if (argc != 2)
1171             {
1172                 yaz_log(YLOG_WARN, "%s:%d: Bad # or args for encoding",
1173                      file, lineno);
1174                 continue;
1175             }
1176             res->encoding = nmem_strdup (data1_nmem_get(dh), argv[1]);
1177         }
1178         else if (!strcmp(cmd, "systag"))
1179         {
1180             if (argc != 3)
1181             {
1182                 yaz_log(YLOG_WARN, "%s:%d: Bad # or args for systag",
1183                      file, lineno);
1184                 continue;
1185             }
1186             *systagsp = nmem_malloc (data1_nmem_get(dh), sizeof(**systagsp));
1187
1188             (*systagsp)->name = nmem_strdup(data1_nmem_get(dh), argv[1]);
1189             (*systagsp)->value = nmem_strdup(data1_nmem_get(dh), argv[2]);
1190             systagsp = &(*systagsp)->next;
1191         }
1192         else
1193         {
1194             yaz_log(YLOG_WARN, "%s:%d: Unknown directive '%s'", file, 
1195                     lineno, cmd);
1196             continue;
1197         }
1198     }
1199     if (f)
1200         fclose(f);
1201     
1202     for (cur_elements = res->sub_elements; cur_elements;
1203          cur_elements = cur_elements->next)
1204     {
1205         if (!strcmp (cur_elements->name, "main"))
1206             res->main_elements = cur_elements->elements;
1207         fix_element_ref (dh, res, cur_elements->elements);
1208     }
1209     *systagsp = 0;
1210     return res;
1211 }
1212 /*
1213  * Local variables:
1214  * c-basic-offset: 4
1215  * indent-tabs-mode: nil
1216  * End:
1217  * vim: shiftwidth=4 tabstop=8 expandtab
1218  */
1219