Update copyright year + FSF address
[idzebra-moved-to-github.git] / data1 / d1_absyn.c
1 /* $Id: d1_absyn.c,v 1.28 2006-08-14 10:40:06 adam Exp $
2    Copyright (C) 1995-2006
3    Index Data ApS
4
5 This file is part of the Zebra server.
6
7 Zebra is free software; you can redistribute it and/or modify it under
8 the terms of the GNU General Public License as published by the Free
9 Software Foundation; either version 2, or (at your option) any later
10 version.
11
12 Zebra is distributed in the hope that it will be useful, but WITHOUT ANY
13 WARRANTY; without even the implied warranty of MERCHANTABILITY or
14 FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
15 for more details.
16
17 You should have received a copy of the GNU General Public License
18 along with this program; if not, write to the Free Software
19 Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
20
21 */
22
23 #include <stdio.h>
24 #include <assert.h>
25 #include <stdlib.h>
26 #include <string.h>
27
28 #include <yaz/log.h>
29 #include <yaz/oid.h>
30 #include <idzebra/data1.h>
31 #include <idzebra/recctrl.h>
32 #include <zebra_xpath.h>
33 #include <d1_absyn.h>
34
35 #define D1_MAX_NESTING  128
36
37 struct data1_hash_table {
38     NMEM nmem;
39     int size;
40     struct data1_hash_entry **ar;
41 };
42
43 struct data1_hash_entry {
44     void *clientData;
45     char *str;
46     struct data1_hash_entry *next;
47 };
48
49 unsigned data1_hash_calc(struct data1_hash_table *ht, const char *str)
50 {
51     unsigned v = 0;
52     assert(str);
53     while (*str)
54     {
55         if (*str >= 'a' && *str <= 'z')
56             v = v*65509 + *str -'a'+10;
57         else if (*str >= 'A' && *str <= 'Z')
58             v = v*65509 + *str -'A'+10;
59         else if (*str >= '0' && *str <= '9')
60             v = v*65509 + *str -'0';
61         str++;
62     }
63     return v % ht->size;
64 }
65
66 struct data1_hash_table *data1_hash_open(int size, NMEM nmem)
67 {
68     int i;
69     struct data1_hash_table *ht = nmem_malloc(nmem, sizeof(*ht));
70     ht->nmem = nmem;
71     ht->size = size;
72     if (ht->size <= 0)
73         ht->size = 29;
74     ht->ar = nmem_malloc(nmem, sizeof(*ht->ar) * ht->size);
75     for (i = 0; i<ht->size; i++)
76         ht->ar[i] = 0;
77     return ht;
78 }
79
80 void data1_hash_insert(struct data1_hash_table *ht, const char *str,
81                        void *clientData, int copy)
82 {
83     char *dstr = copy ? nmem_strdup(ht->nmem, str) : (char*) str;
84     if (strchr(str, '?') || strchr(str, '.'))
85     {
86         int i;
87         for (i = 0; i<ht->size; i++)
88         {
89             struct data1_hash_entry **he = &ht->ar[i];
90             for (; *he && strcmp(str, (*he)->str); he = &(*he)->next)
91                 ;
92             if (!*he)
93             {
94                 *he = nmem_malloc(ht->nmem, sizeof(**he));
95                 (*he)->str = dstr;
96                 (*he)->next = 0;
97             }
98             (*he)->clientData = clientData;
99         }
100     }
101     else
102     {
103         struct data1_hash_entry **he = &ht->ar[data1_hash_calc(ht, str)];
104         for (; *he && strcmp(str, (*he)->str); he = &(*he)->next)
105             ;
106         if (!*he)
107         {
108             *he = nmem_malloc(ht->nmem, sizeof(**he));
109             (*he)->str = dstr;
110             (*he)->next = 0;
111         }
112         (*he)->clientData = clientData;
113     }
114 }
115
116 void *data1_hash_lookup(struct data1_hash_table *ht, const char *str)
117 {
118     struct data1_hash_entry **he = &ht->ar[data1_hash_calc(ht, str)];
119     
120     for (; *he && yaz_matchstr(str, (*he)->str); he = &(*he)->next)
121         ;
122     if (*he)
123         return (*he)->clientData;
124     return 0;
125 }
126
127 struct data1_systag {
128     char *name;
129     char *value;
130     struct data1_systag *next;
131 };
132
133 struct data1_absyn_cache_info 
134 {
135     char *name;
136     data1_absyn *absyn;
137     data1_absyn_cache next;
138 };
139
140 struct data1_attset_cache_info 
141 {
142     char *name;
143     data1_attset *attset;
144     data1_attset_cache next;
145 };
146
147 data1_element *data1_mk_element(data1_handle dh)
148 {
149     data1_element *e = nmem_malloc(data1_nmem_get(dh), sizeof(*e));
150     e->name = 0;
151     e->tag = 0;
152     e->termlists = 0;
153     e->next = e->children = 0;
154     e->sub_name = 0;
155     e->hash = 0;
156     return e;
157 }
158
159 data1_absyn *data1_absyn_search (data1_handle dh, const char *name)
160 {
161     data1_absyn_cache p = *data1_absyn_cache_get (dh);
162
163     while (p)
164     {
165         if (!yaz_matchstr (name, p->name))
166             return p->absyn;
167         p = p->next;
168     }
169     return 0;
170 }
171 /* *ostrich*
172    We need to destroy DFAs, in xp_element (xelm) definitions 
173    pop, 2002-12-13
174 */
175
176 void data1_absyn_destroy (data1_handle dh)
177 {
178     data1_absyn_cache p = *data1_absyn_cache_get (dh);
179     
180     while (p)
181     {
182         data1_absyn *abs = p->absyn;
183         if (abs)
184         {
185             data1_xpelement *xpe = abs->xp_elements;
186             while (xpe) {
187                 yaz_log (YLOG_DEBUG,"Destroy xp element %s",xpe->xpath_expr);
188                 if (xpe->dfa) {  dfa_delete (&xpe->dfa); }
189                 xpe = xpe->next;
190             } 
191         }
192         p = p->next;
193     }
194 }
195
196
197 void data1_absyn_trav (data1_handle dh, void *handle,
198                        void (*fh)(data1_handle dh, void *h, data1_absyn *a))
199 {
200     data1_absyn_cache p = *data1_absyn_cache_get (dh);
201
202     while (p)
203     {
204         (*fh)(dh, handle, p->absyn);
205         p = p->next;
206     }
207 }
208
209 static data1_absyn *data1_read_absyn(data1_handle dh, const char *file,
210                                      enum DATA1_XPATH_INDEXING en);
211
212 static data1_absyn *data1_absyn_add(data1_handle dh, const char *name,
213                                     enum DATA1_XPATH_INDEXING en)
214 {
215     char fname[512];
216     NMEM mem = data1_nmem_get (dh);
217
218     data1_absyn_cache p = (data1_absyn_cache)nmem_malloc (mem, sizeof(*p));
219     data1_absyn_cache *pp = data1_absyn_cache_get (dh);
220
221     sprintf(fname, "%.500s.abs", name);
222     p->absyn = data1_read_absyn(dh, fname, en);
223     p->name = nmem_strdup(mem, name);
224     p->next = *pp;
225     *pp = p;
226     return p->absyn;
227 }
228
229 data1_absyn *data1_get_absyn (data1_handle dh, const char *name,
230                               enum DATA1_XPATH_INDEXING en)
231 {
232     data1_absyn *absyn;
233
234     if (!(absyn = data1_absyn_search (dh, name)))
235         absyn = data1_absyn_add (dh, name, en);
236     return absyn;
237 }
238
239 data1_attset *data1_attset_search_name (data1_handle dh, const char *name)
240 {
241     data1_attset_cache p = *data1_attset_cache_get (dh);
242
243     while (p)
244     {
245         if (!yaz_matchstr (name, p->name))
246             return p->attset;
247         p = p->next;
248     }
249     return 0;
250 }
251
252 data1_attset *data1_attset_search_id (data1_handle dh, int id)
253 {
254     data1_attset_cache p = *data1_attset_cache_get (dh);
255
256     while (p)
257     {
258         if (id == p->attset->reference)
259             return p->attset;
260         p = p->next;
261     }
262     return 0;
263 }
264
265 data1_attset *data1_attset_add (data1_handle dh, const char *name)
266 {
267     NMEM mem = data1_nmem_get (dh);
268     data1_attset *attset;
269     
270     attset = data1_read_attset (dh, name);
271     if (!attset)
272         yaz_log (YLOG_WARN|YLOG_ERRNO, "Couldn't load attribute set %s", name);
273     else
274     {
275         data1_attset_cache p = (data1_attset_cache)
276             nmem_malloc (mem, sizeof(*p));
277         data1_attset_cache *pp = data1_attset_cache_get (dh);
278         
279         attset->name = p->name = nmem_strdup(mem, name);
280         p->attset = attset;
281         p->next = *pp;
282         *pp = p;
283     }
284     return attset;
285 }
286
287 data1_attset *data1_get_attset (data1_handle dh, const char *name)
288 {
289     data1_attset *attset;
290
291     if (!(attset = data1_attset_search_name (dh, name)))
292         attset = data1_attset_add (dh, name);
293     return attset;
294 }
295
296 data1_esetname *data1_getesetbyname(data1_handle dh, data1_absyn *a,
297                                     const char *name)
298 {
299     data1_esetname *r;
300
301     for (r = a->esetnames; r; r = r->next)
302         if (!data1_matchstr(r->name, name))
303             return r;
304     return 0;
305 }
306
307 /* we have multiple versions of data1_getelementbyname */
308 #define DATA1_GETELEMENTBYTAGNAME_VERSION 1
309
310 #if DATA1_GETELEMENTBYTAGNAME_VERSION==0
311 /* straight linear search */
312 data1_element *data1_getelementbytagname (data1_handle dh, data1_absyn *abs,
313                                           data1_element *parent,
314                                           const char *tagname)
315 {
316     data1_element *r;
317
318     /* It's now possible to have a data1 tree with no abstract syntax */
319     if ( !abs )
320         return 0;
321
322     if (!parent)
323         r = abs->main_elements;
324     else
325         r = parent->children;
326
327     for (; r; r = r->next)
328     {
329         data1_name *n;
330
331         for (n = r->tag->names; n; n = n->next)
332             if (!data1_matchstr(tagname, n->name))
333                 return r;
334     }
335     return 0;
336 }
337 #endif
338
339 #if DATA1_GETELEMENTBYTAGNAME_VERSION==1
340 /* using hash search */
341 data1_element *data1_getelementbytagname (data1_handle dh, data1_absyn *abs,
342                                           data1_element *parent,
343                                           const char *tagname)
344 {
345     data1_element *r;
346     struct data1_hash_table *ht;
347
348     /* It's now possible to have a data1 tree with no abstract syntax */
349     if ( !abs )
350         return 0;
351
352     if (!parent)
353         r = abs->main_elements;
354     else
355         r = parent->children;
356
357     if (!r)
358         return 0;
359
360     ht = r->hash;
361     if (!ht)
362     {
363         ht = r->hash = data1_hash_open(29, data1_nmem_get(dh));
364         for (; r; r = r->next)
365         {
366             data1_name *n;
367             
368             for (n = r->tag->names; n; n = n->next)
369                 data1_hash_insert(ht, n->name, r, 0);
370         }
371     }
372     return data1_hash_lookup(ht, tagname);
373 }
374 #endif
375
376 data1_element *data1_getelementbyname (data1_handle dh, data1_absyn *absyn,
377                                        const char *name)
378 {
379     data1_element *r;
380
381     /* It's now possible to have a data1 tree with no abstract syntax */
382     if ( !absyn )
383         return 0;
384     for (r = absyn->main_elements; r; r = r->next)
385         if (!data1_matchstr(r->name, name))
386             return r;
387     return 0;
388 }
389
390
391 void fix_element_ref (data1_handle dh, data1_absyn *absyn, data1_element *e)
392 {
393     /* It's now possible to have a data1 tree with no abstract syntax */
394     if ( !absyn )
395         return;
396
397     for (; e; e = e->next)
398     {
399         if (!e->sub_name)
400         {
401             if (e->children)
402                 fix_element_ref (dh, absyn, e->children);
403         }
404         else
405         {
406             data1_sub_elements *sub_e = absyn->sub_elements;
407             while (sub_e && strcmp (e->sub_name, sub_e->name))
408                 sub_e = sub_e->next;
409             if (sub_e)
410                 e->children = sub_e->elements;
411             else
412                 yaz_log (YLOG_WARN, "Unresolved reference to sub-elements %s",
413                       e->sub_name);
414         }
415     }
416 }
417 /* *ostrich*
418
419    New function, a bit dummy now... I've seen it in zrpn.c... We should build
420    more clever regexps...
421
422
423       //a    ->    ^a/.*$
424       //a/b  ->    ^b/a/.*$
425       /a     ->    ^a/$
426       /a/b   ->    ^b/a/$
427
428       /      ->    none
429
430    pop, 2002-12-13
431
432    Now [] predicates are supported
433
434    pop, 2003-01-17
435
436  */
437
438 static const char * mk_xpath_regexp (data1_handle dh, const char *expr) 
439 {
440     const char *p = expr;
441     int abs = 1;
442     int e = 0;
443     char *stack[32];
444     char *res_p, *res = 0;
445     size_t res_size = 1;
446     
447     if (*p != '/')
448         return ("");
449     p++;
450     if (*p == '/') 
451     { 
452         abs =0;
453         p++;
454     }
455     while (*p)
456     {
457         int is_predicate = 0;
458         char *s;
459         int i, j;
460         for (i = 0; *p && !strchr("/",*p); i++, p++)
461             ;
462         res_size += (i+3); /* we'll add / between later .. */
463         stack[e] = (char *) nmem_malloc(data1_nmem_get(dh), i+1);
464         s = stack[e];
465         for (j = 0; j < i; j++)
466         {
467             const char *pp = p-i+j;
468             if (*pp == '[')
469                 is_predicate=1;
470             else if (*pp == ']')
471                 is_predicate=0;
472             else 
473             {
474                 if (!is_predicate) {
475                     if (*pp == '*') 
476                         *s++ = '.';
477                     *s++ = *pp;
478                 }
479             }
480         }
481         *s = 0;
482         e++;
483         if (*p)
484             p++;
485     }
486     res_p = res = nmem_malloc(data1_nmem_get(dh), res_size + 10);
487
488     if (stack[e-1][0] == '@')  /* path/@attr spec (leaf is attribute) */
489         strcpy(res_p, "/");
490     else
491         strcpy(res_p, "[^@]*/");  /* path .. (index all cdata below it) */
492     res_p = res_p + strlen(res_p);
493     while (--e >= 0) {
494         sprintf(res_p, "%s/", stack[e]);
495         res_p += strlen(stack[e]) + 1;
496     }
497     if (!abs)
498     {
499         sprintf(res_p, ".*"); 
500         res_p += 2;
501     }
502     sprintf (res_p, "$");
503     res_p++;
504     yaz_log(YLOG_DEBUG, "Got regexp: %s", res);
505     return res;
506 }
507
508 static int parse_termlists(data1_handle dh, data1_termlist ***tpp,
509                            char *cp, const char *file, int lineno,
510                            const char *element_name, data1_absyn *res,
511                            int xpelement,
512                            data1_attset *attset)
513 {
514     data1_termlist **tp = *tpp;
515     while(1)
516     {
517         char attname[512], structure[512];
518         char *source;
519         int r, i;
520         int level = 0;
521         structure[0] = '\0';
522         for (i = 0; cp[i] && i<sizeof(attname)-1; i++)
523             if (strchr(":,", cp[i]))
524                 break;
525             else
526                 attname[i] = cp[i];
527         if (i == 0)
528         {
529             if (*cp)
530                 yaz_log(YLOG_WARN,
531                         "%s:%d: Syntax error in termlistspec '%s'",
532                         file, lineno, cp);
533             break;
534         }
535         attname[i] = '\0';
536         r = 1;
537         cp += i;
538         if (*cp == ':')
539             cp++;
540
541         for (i = 0; cp[i] && i<sizeof(structure)-1; i++)
542             if (level == 0 && strchr(",", cp[i]))
543                 break;
544             else
545             {
546                 structure[i] = cp[i];
547                 if (cp[i] == '(')
548                     level++;
549                 else if (cp[i] == ')')
550                     level--;
551             }
552         structure[i] = '\0';
553         if (i)
554             r = 2;
555         cp += i;
556         if (*cp)
557             cp++;  /* skip , */
558
559         *tp = (data1_termlist *)
560             nmem_malloc(data1_nmem_get(dh), sizeof(**tp));
561         (*tp)->next = 0;
562         
563         if (*attname == '!')
564         {
565             if (!xpelement && element_name)
566                 strcpy(attname, element_name);
567             else if (xpelement)
568                 strcpy(attname, ZEBRA_XPATH_CDATA);
569         }
570         if (attset)
571         {
572             if (!data1_getattbyname(dh, attset, attname))
573             {
574                 yaz_log(YLOG_WARN, "Index '%s' not found in attset(s)",
575                         attname);
576             }
577         }
578
579         (*tp)->index_name = nmem_strdup(data1_nmem_get(dh), attname);
580         assert (*(*tp)->index_name != '!');
581         if (r == 2 && (source = strchr(structure, ':')))
582             *source++ = '\0';   /* cut off structure .. */
583         else
584             source = "data";    /* ok: default is leaf data */
585         (*tp)->source = (char *)
586             nmem_strdup (data1_nmem_get (dh), source);
587         
588         if (r < 2) /* is the structure qualified? */
589             (*tp)->structure = "w";
590         else 
591             (*tp)->structure = (char *)
592                 nmem_strdup (data1_nmem_get (dh), structure);
593         tp = &(*tp)->next;
594     }
595
596     *tpp = tp;
597     return 0;
598 }
599
600 /* quinn
601  * Converts a 'melm' field[$subfield] pattern to a simple xpath
602  */
603 static int melm2xpath(char *melm, char *buf)
604 {
605     char *dollar;
606     char *field = melm;
607     char *subfield;
608     char *fieldtype;
609     if ((dollar = strchr(melm, '$'))) {
610         *dollar = '\0';
611         subfield = ++dollar;
612     } else
613         subfield = "";
614     if (field[0] == '0' && field[1] == '0')
615         fieldtype = "controlfield";
616     else
617         fieldtype = "datafield";
618     sprintf(buf, "/*/%s[@tag=\"%s\"]", fieldtype, field);
619     if (*subfield) 
620         sprintf(buf + strlen(buf), "/subfield[@code=\"%s\"]", subfield);
621     else if (field[0] != '0' || field[1] != '0')
622         strcat(buf, "/subfield");
623     yaz_log(YLOG_DEBUG, "Created xpath: '%s'", buf);
624     return 0;
625 }
626
627 const char *data1_systag_lookup(data1_absyn *absyn, const char *tag,
628                                 const char *default_value)
629 {
630     struct data1_systag *p = absyn->systags;
631     for (; p; p = p->next)
632         if (!strcmp(p->name, tag))
633             return p->value;
634     return default_value;
635 }
636
637 #define l_isspace(c) ((c) == '\t' || (c) == ' ' || (c) == '\n' || (c) == '\r')
638
639 int read_absyn_line(FILE *f, int *lineno, char *line, int len,
640                     char *argv[], int num)
641 {
642     char *p;
643     int argc;
644     int quoted = 0;
645     
646     while ((p = fgets(line, len, f)))
647     {
648         (*lineno)++;
649         while (*p && l_isspace(*p))
650             p++;
651         if (*p && *p != '#')
652             break;
653     }
654     if (!p)
655         return 0;
656     
657     for (argc = 0; *p ; argc++)
658     {
659         if (*p == '#')  /* trailing comment */
660             break;
661         argv[argc] = p;
662         while (*p && !(l_isspace(*p) && !quoted)) {
663           if (*p =='"') quoted = 1 - quoted;
664           if (*p =='[') quoted = 1;
665           if (*p ==']') quoted = 0;
666           p++;
667         }
668         if (*p)
669         {
670             *(p++) = '\0';
671             while (*p && l_isspace(*p))
672                 p++;
673         }
674     }
675     return argc;
676 }
677
678 data1_marctab *data1_absyn_getmarctab(data1_handle dh, data1_absyn *absyn)
679 {
680     return absyn->marc;
681 }
682
683 YAZ_EXPORT data1_element *data1_absyn_getelements(data1_handle dh,
684                                                   data1_absyn *absyn)
685 {
686     return absyn->main_elements;
687 }
688
689 static data1_absyn *data1_read_absyn(data1_handle dh, const char *file,
690                                      enum DATA1_XPATH_INDEXING default_xpath)
691 {
692     data1_sub_elements *cur_elements = NULL;
693     data1_xpelement *cur_xpelement = NULL;
694     data1_attset *attset_list = data1_empty_attset(dh);
695     data1_attset_child **attset_childp = &attset_list->children;
696
697     data1_absyn *res = 0;
698     FILE *f;
699     data1_element **ppl[D1_MAX_NESTING];
700     data1_esetname **esetpp;
701     data1_maptab **maptabp;
702     data1_marctab **marcp;
703     data1_termlist *all = 0;
704     data1_tagset **tagset_childp;
705     struct data1_systag **systagsp;
706     int level = 0;
707     int lineno = 0;
708     int argc;
709     char *argv[50], line[512];
710
711     f = data1_path_fopen(dh, file, "r");
712     
713     res = (data1_absyn *) nmem_malloc(data1_nmem_get(dh), sizeof(*res));
714     res->name = 0;
715     res->reference = VAL_NONE;
716     res->tagset = 0;
717     res->encoding = 0;
718     res->xpath_indexing = 
719         (f ? DATA1_XPATH_INDEXING_DISABLE : default_xpath);
720     res->systags = 0;
721     systagsp = &res->systags;
722     tagset_childp = &res->tagset;
723
724     res->varset = 0;
725     res->esetnames = 0;
726     esetpp = &res->esetnames;
727     res->maptabs = 0;
728     maptabp = &res->maptabs;
729     res->marc = 0;
730     marcp = &res->marc;
731     res->sub_elements = NULL;
732     res->main_elements = NULL;
733     res->xp_elements = NULL;
734
735     while (f && (argc = read_absyn_line(f, &lineno, line, 512, argv, 50)))
736     {
737         char *cmd = *argv;
738         if (!strcmp(cmd, "elm") || !strcmp(cmd, "element"))
739         {
740             data1_element *new_element;
741             int i;
742             char *p, *sub_p, *path, *name, *termlists;
743             int type, value;
744             data1_termlist **tp;
745
746             if (argc < 4)
747             {
748                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to elm", file, lineno);
749                 continue;
750             }
751             path = argv[1];
752             name = argv[2];
753             termlists = argv[3];
754
755             if (!cur_elements)
756             {
757                 cur_elements = (data1_sub_elements *)
758                     nmem_malloc(data1_nmem_get(dh), sizeof(*cur_elements));
759                 cur_elements->next = res->sub_elements;
760                 cur_elements->elements = NULL;
761                 cur_elements->name = "main";
762                 res->sub_elements = cur_elements;
763                 
764                 level = 0;
765                 ppl[level] = &cur_elements->elements;
766             }
767             p = path;
768             for (i = 1;; i++)
769             {
770                 char *e;
771
772                 if ((e = strchr(p, '/')))
773                     p = e+1;
774                 else
775                     break;
776             }
777             if (i > level+1)
778             {
779                 yaz_log(YLOG_WARN, "%s:%d: Bad level increase", file, lineno);
780                 fclose(f);
781                 return 0;
782             }
783             level = i;
784             new_element = *ppl[level-1] = data1_mk_element(dh);
785             
786             tp = &new_element->termlists;
787             ppl[level-1] = &new_element->next;
788             ppl[level] = &new_element->children;
789             
790             /* consider subtree (if any) ... */
791             if ((sub_p = strchr (p, ':')) && sub_p[1])
792             {
793                 *sub_p++ = '\0';
794                 new_element->sub_name =
795                     nmem_strdup (data1_nmem_get(dh), sub_p);            
796             }
797             /* well-defined tag */
798             if (sscanf(p, "(%d,%d)", &type, &value) == 2)
799             {
800                 if (!res->tagset)
801                 {
802                     yaz_log(YLOG_WARN, "%s:%d: No tagset loaded", file, lineno);
803                     fclose(f);
804                     return 0;
805                 }
806                 if (!(new_element->tag = data1_gettagbynum (dh, res->tagset,
807                                                             type, value)))
808                 {
809                     yaz_log(YLOG_WARN, "%s:%d: Couldn't find tag %s in tagset",
810                          file, lineno, p);
811                     fclose(f);
812                     return 0;
813                 }
814             }
815             /* private tag */
816             else if (*p)
817             {
818                 data1_tag *nt =
819                     new_element->tag = (data1_tag *)
820                     nmem_malloc(data1_nmem_get (dh),
821                                 sizeof(*new_element->tag));
822                 nt->which = DATA1T_string;
823                 nt->value.string = nmem_strdup(data1_nmem_get (dh), p);
824                 nt->names = (data1_name *)
825                     nmem_malloc(data1_nmem_get(dh), 
826                                 sizeof(*new_element->tag->names));
827                 nt->names->name = nt->value.string;
828                 nt->names->next = 0;
829                 nt->kind = DATA1K_string;
830                 nt->next = 0;
831                 nt->tagset = 0;
832             }
833             else
834             {
835                 yaz_log(YLOG_WARN, "%s:%d: Bad element", file, lineno);
836                 fclose(f);
837                 return 0;
838             }
839             /* parse termList definitions */
840             p = termlists;
841             if (*p != '-')
842             {
843                 if (parse_termlists (dh, &tp, p, file, lineno, name, res, 0,
844                                      attset_list))
845                 {
846                     fclose (f);
847                     return 0;
848                 }
849                 *tp = all; /* append any ALL entries to the list */
850             }
851             new_element->name = nmem_strdup(data1_nmem_get (dh), name);
852         }
853         /* *ostrich*
854            New code to support xelm directive
855            for each xelm a dfa is built. xelms are stored in res->xp_elements
856            
857            maybe we should use a simple sscanf instead of dfa?
858            
859            pop, 2002-12-13
860
861            Now [] predicates are supported. regexps and xpath structure is
862            a bit redundant, however it's comfortable later...
863
864            pop, 2003-01-17
865         */
866
867         else if (!strcmp(cmd, "xelm") || !strcmp(cmd, "melm")) {
868
869             int i;
870             char *p, *xpath_expr, *termlists;
871             const char *regexp;
872             struct DFA *dfa = dfa = dfa_init();
873             data1_termlist **tp;
874             char melm_xpath[128];
875             
876             if (argc < 3)
877             {
878                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to xelm", file, lineno);
879                 continue;
880             }
881
882             if (!strcmp(cmd, "melm")) {
883                 if (melm2xpath(argv[1], melm_xpath) < 0)
884                     continue;
885                 xpath_expr = melm_xpath;
886             } else {
887                 xpath_expr = argv[1];
888             }
889             termlists = argv[2];
890             regexp = mk_xpath_regexp(dh, xpath_expr);
891             i = dfa_parse (dfa, &regexp);
892             if (i || *regexp) {
893                 yaz_log(YLOG_WARN, "%s:%d: Bad xpath to xelm", file, lineno);
894                 dfa_delete (&dfa);
895                 continue;
896             }
897             
898             if (!cur_xpelement)
899             {
900                 cur_xpelement = (data1_xpelement *)
901                     nmem_malloc(data1_nmem_get(dh), sizeof(*cur_xpelement));
902                 res->xp_elements = cur_xpelement;
903             } else {
904                 cur_xpelement->next = (data1_xpelement *)
905                     nmem_malloc(data1_nmem_get(dh), sizeof(*cur_xpelement));
906                 cur_xpelement = cur_xpelement->next;
907             }
908             cur_xpelement->next = NULL;
909             cur_xpelement->xpath_expr = nmem_strdup(data1_nmem_get (dh), 
910                                                     xpath_expr); 
911             
912             dfa_mkstate (dfa);
913             cur_xpelement->dfa = dfa;
914
915 #ifdef ENHANCED_XELM 
916             cur_xpelement->xpath_len =
917                 zebra_parse_xpath_str(xpath_expr, 
918                                       cur_xpelement->xpath, XPATH_STEP_COUNT,
919                                       data1_nmem_get(dh));
920             
921             /*
922             dump_xp_steps(cur_xpelement->xpath,cur_xpelement->xpath_len);
923             */
924 #endif
925             cur_xpelement->termlists = 0;
926             tp = &cur_xpelement->termlists;
927             
928             /* parse termList definitions */
929             p = termlists;
930             if (*p != '-')
931             {
932                 if (parse_termlists (dh, &tp, p, file, lineno,
933                                      xpath_expr, res, 1, attset_list))
934                 {
935                     fclose (f);
936                     return 0;
937                 }
938                 *tp = all; /* append any ALL entries to the list */
939             }
940         }
941         else if (!strcmp(cmd, "section"))
942         {
943             char *name;
944             
945             if (argc < 2)
946             {
947                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to section",
948                         file, lineno);
949                 continue;
950             }
951             name = argv[1];
952             
953             cur_elements = (data1_sub_elements *)
954                 nmem_malloc(data1_nmem_get(dh), sizeof(*cur_elements));
955             cur_elements->next = res->sub_elements;
956             cur_elements->elements = NULL;
957             cur_elements->name = nmem_strdup (data1_nmem_get(dh), name);
958             res->sub_elements = cur_elements;
959             
960             level = 0;
961             ppl[level] = &cur_elements->elements;
962         }
963         else if (!strcmp(cmd, "xpath"))
964         {
965             if (argc != 2)
966             {
967                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to 'xpath' directive",
968                      file, lineno);
969                 continue;
970             }
971             if (!strcmp(argv[1], "enable"))
972                 res->xpath_indexing = DATA1_XPATH_INDEXING_ENABLE;
973             else if (!strcmp (argv[1], "disable"))
974                 res->xpath_indexing = DATA1_XPATH_INDEXING_DISABLE;
975             else
976             {
977                 yaz_log(YLOG_WARN, "%s:%d: Expecting disable/enable "
978                         "after 'xpath' directive", file, lineno);
979             }
980         }
981         else if (!strcmp(cmd, "all"))
982         {
983             data1_termlist **tp = &all;
984             if (all)
985             {
986                 yaz_log(YLOG_WARN, "%s:%d: Too many 'all' directives - ignored",
987                      file, lineno);
988                 continue;
989             }
990             if (argc != 2)
991             {
992                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to 'all' directive",
993                      file, lineno);
994                 continue;
995             }
996             if (parse_termlists (dh, &tp, argv[1], file, lineno, 0, res, 0,
997                                  attset_list))
998             {
999                 fclose (f);
1000                 return 0;
1001             }
1002         }
1003         else if (!strcmp(cmd, "name"))
1004         {
1005             if (argc != 2)
1006             {
1007                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to name directive",
1008                      file, lineno);
1009                 continue;
1010             }
1011             res->name = nmem_strdup(data1_nmem_get(dh), argv[1]);
1012         }
1013         else if (!strcmp(cmd, "reference"))
1014         {
1015             char *name;
1016             
1017             if (argc != 2)
1018             {
1019                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to reference",
1020                      file, lineno);
1021                 continue;
1022             }
1023             name = argv[1];
1024             if ((res->reference = oid_getvalbyname(name)) == VAL_NONE)
1025             {
1026                 yaz_log(YLOG_WARN, "%s:%d: Unknown tagset ref '%s'", 
1027                      file, lineno, name);
1028                 continue;
1029             }
1030         }
1031         else if (!strcmp(cmd, "attset"))
1032         {
1033            char *name;
1034            data1_attset *attset;
1035            
1036            if (argc != 2)
1037            {
1038                yaz_log(YLOG_WARN, "%s:%d: Bad # of args to attset",
1039                     file, lineno);
1040                continue;
1041            }
1042            name = argv[1];
1043            if (!(attset = data1_get_attset (dh, name)))
1044            {
1045                yaz_log(YLOG_WARN, "%s:%d: Couldn't find attset  %s",
1046                        file, lineno, name);
1047                continue;
1048            }
1049            *attset_childp = (data1_attset_child *)
1050                nmem_malloc (data1_nmem_get(dh), sizeof(**attset_childp));
1051            (*attset_childp)->child = attset;
1052            (*attset_childp)->next = 0;
1053            attset_childp = &(*attset_childp)->next;
1054         }
1055         else if (!strcmp(cmd, "tagset"))
1056         {
1057             char *name;
1058             int type = 0;
1059             if (argc < 2)
1060             {
1061                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to tagset",
1062                      file, lineno);
1063                 continue;
1064             }
1065             name = argv[1];
1066             if (argc == 3)
1067                 type = atoi(argv[2]);
1068             *tagset_childp = data1_read_tagset (dh, name, type);
1069             if (!(*tagset_childp))
1070             {
1071                 yaz_log(YLOG_WARN, "%s:%d: Couldn't load tagset %s",
1072                      file, lineno, name);
1073                 continue;
1074             }
1075             tagset_childp = &(*tagset_childp)->next;
1076         }
1077         else if (!strcmp(cmd, "varset"))
1078         {
1079             char *name;
1080
1081             if (argc != 2)
1082             {
1083                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args in varset",
1084                      file, lineno);
1085                 continue;
1086             }
1087             name = argv[1];
1088             if (!(res->varset = data1_read_varset (dh, name)))
1089             {
1090                 yaz_log(YLOG_WARN, "%s:%d: Couldn't load Varset %s",
1091                      file, lineno, name);
1092                 continue;
1093             }
1094         }
1095         else if (!strcmp(cmd, "esetname"))
1096         {
1097             char *name, *fname;
1098
1099             if (argc != 3)
1100             {
1101                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args in esetname",
1102                      file, lineno);
1103                 continue;
1104             }
1105             name = argv[1];
1106             fname = argv[2];
1107             
1108             *esetpp = (data1_esetname *)
1109                 nmem_malloc(data1_nmem_get(dh), sizeof(**esetpp));
1110             (*esetpp)->name = nmem_strdup(data1_nmem_get(dh), name);
1111             (*esetpp)->next = 0;
1112             if (*fname == '@')
1113                 (*esetpp)->spec = 0;
1114             else if (!((*esetpp)->spec = data1_read_espec1 (dh, fname)))
1115             {
1116                 yaz_log(YLOG_WARN, "%s:%d: Espec-1 read failed for %s",
1117                      file, lineno, fname);
1118                 continue;
1119             }
1120             esetpp = &(*esetpp)->next;
1121         }
1122         else if (!strcmp(cmd, "maptab"))
1123         {
1124             char *name;
1125             
1126             if (argc != 2)
1127             {
1128                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args for maptab",
1129                      file, lineno);
1130                 continue;
1131             }
1132             name = argv[1];
1133             if (!(*maptabp = data1_read_maptab (dh, name)))
1134             {
1135                 yaz_log(YLOG_WARN, "%s:%d: Couldn't load maptab %s",
1136                      file, lineno, name);
1137                 continue;
1138             }
1139             maptabp = &(*maptabp)->next;
1140         }
1141         else if (!strcmp(cmd, "marc"))
1142         {
1143             char *name;
1144             
1145             if (argc != 2)
1146             {
1147                 yaz_log(YLOG_WARN, "%s:%d: Bad # or args for marc",
1148                      file, lineno);
1149                 continue;
1150             }
1151             name = argv[1];
1152             if (!(*marcp = data1_read_marctab (dh, name)))
1153             {
1154                 yaz_log(YLOG_WARN, "%s:%d: Couldn't read marctab %s",
1155                      file, lineno, name);
1156                 continue;
1157             }
1158             marcp = &(*marcp)->next;
1159         }
1160         else if (!strcmp(cmd, "encoding"))
1161         {
1162             if (argc != 2)
1163             {
1164                 yaz_log(YLOG_WARN, "%s:%d: Bad # or args for encoding",
1165                      file, lineno);
1166                 continue;
1167             }
1168             res->encoding = nmem_strdup (data1_nmem_get(dh), argv[1]);
1169         }
1170         else if (!strcmp(cmd, "systag"))
1171         {
1172             if (argc != 3)
1173             {
1174                 yaz_log(YLOG_WARN, "%s:%d: Bad # or args for systag",
1175                      file, lineno);
1176                 continue;
1177             }
1178             *systagsp = nmem_malloc (data1_nmem_get(dh), sizeof(**systagsp));
1179
1180             (*systagsp)->name = nmem_strdup(data1_nmem_get(dh), argv[1]);
1181             (*systagsp)->value = nmem_strdup(data1_nmem_get(dh), argv[2]);
1182             systagsp = &(*systagsp)->next;
1183         }
1184         else
1185         {
1186             yaz_log(YLOG_WARN, "%s:%d: Unknown directive '%s'", file, 
1187                     lineno, cmd);
1188             continue;
1189         }
1190     }
1191     if (f)
1192         fclose(f);
1193     
1194     for (cur_elements = res->sub_elements; cur_elements;
1195          cur_elements = cur_elements->next)
1196     {
1197         if (!strcmp (cur_elements->name, "main"))
1198             res->main_elements = cur_elements->elements;
1199         fix_element_ref (dh, res, cur_elements->elements);
1200     }
1201     *systagsp = 0;
1202     return res;
1203 }
1204 /*
1205  * Local variables:
1206  * c-basic-offset: 4
1207  * indent-tabs-mode: nil
1208  * End:
1209  * vim: shiftwidth=4 tabstop=8 expandtab
1210  */
1211