data1/d1_absyn.c

   1 /* $Id: d1_absyn.c,v 1.25 2006-05-19 13:49:33 adam Exp $
   2    Copyright (C) 1995-2006
   3    Index Data ApS
   4
   5 This file is part of the Zebra server.
   6
   7 Zebra is free software; you can redistribute it and/or modify it under
   8 the terms of the GNU General Public License as published by the Free
   9 Software Foundation; either version 2, or (at your option) any later
  10 version.
  11
  12 Zebra is distributed in the hope that it will be useful, but WITHOUT ANY
  13 WARRANTY; without even the implied warranty of MERCHANTABILITY or
  14 FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
  15 for more details.
  16
  17 You should have received a copy of the GNU General Public License
  18 along with Zebra; see the file LICENSE.zebra.  If not, write to the
  19 Free Software Foundation, 59 Temple Place - Suite 330, Boston, MA
  20 02111-1307, USA.
  21 */
  22
  23 #include <stdio.h>
  24 #include <assert.h>
  25 #include <stdlib.h>
  26 #include <string.h>
  27
  28 #include <yaz/log.h>
  29 #include <yaz/oid.h>
  30 #include <idzebra/data1.h>
  31 #include <idzebra/recctrl.h>
  32 #include <zebra_xpath.h>
  33 #include <d1_absyn.h>
  34
  35 #define D1_MAX_NESTING  128
  36
  37 struct data1_hash_table {
  38     NMEM nmem;
  39     int size;
  40     struct data1_hash_entry **ar;
  41 };
  42
  43 struct data1_hash_entry {
  44     void *clientData;
  45     char *str;
  46     struct data1_hash_entry *next;
  47 };
  48
  49 unsigned data1_hash_calc(struct data1_hash_table *ht, const char *str)
  50 {
  51     unsigned v = 0;
  52     assert(str);
  53     while (*str)
  54     {
  55         if (*str >= 'a' && *str <= 'z')
  56             v = v*65509 + *str -'a'+10;
  57         else if (*str >= 'A' && *str <= 'Z')
  58             v = v*65509 + *str -'A'+10;
  59         else if (*str >= '0' && *str <= '9')
  60             v = v*65509 + *str -'0';
  61         str++;
  62     }
  63     return v % ht->size;
  64 }
  65
  66 struct data1_hash_table *data1_hash_open(int size, NMEM nmem)
  67 {
  68     int i;
  69     struct data1_hash_table *ht = nmem_malloc(nmem, sizeof(*ht));
  70     ht->nmem = nmem;
  71     ht->size = size;
  72     if (ht->size <= 0)
  73         ht->size = 29;
  74     ht->ar = nmem_malloc(nmem, sizeof(*ht->ar) * ht->size);
  75     for (i = 0; i<ht->size; i++)
  76         ht->ar[i] = 0;
  77     return ht;
  78 }
  79
  80 void data1_hash_insert(struct data1_hash_table *ht, const char *str,
  81                        void *clientData, int copy)
  82 {
  83     char *dstr = copy ? nmem_strdup(ht->nmem, str) : (char*) str;
  84     if (strchr(str, '?') || strchr(str, '.'))
  85     {
  86         int i;
  87         for (i = 0; i<ht->size; i++)
  88         {
  89             struct data1_hash_entry **he = &ht->ar[i];
  90             for (; *he && strcmp(str, (*he)->str); he = &(*he)->next)
  91                 ;
  92             if (!*he)
  93             {
  94                 *he = nmem_malloc(ht->nmem, sizeof(**he));
  95                 (*he)->str = dstr;
  96                 (*he)->next = 0;
  97             }
  98             (*he)->clientData = clientData;
  99         }
 100     }
 101     else
 102     {
 103         struct data1_hash_entry **he = &ht->ar[data1_hash_calc(ht, str)];
 104         for (; *he && strcmp(str, (*he)->str); he = &(*he)->next)
 105             ;
 106         if (!*he)
 107         {
 108             *he = nmem_malloc(ht->nmem, sizeof(**he));
 109             (*he)->str = dstr;
 110             (*he)->next = 0;
 111         }
 112         (*he)->clientData = clientData;
 113     }
 114 }
 115
 116 void *data1_hash_lookup(struct data1_hash_table *ht, const char *str)
 117 {
 118     struct data1_hash_entry **he = &ht->ar[data1_hash_calc(ht, str)];
 119
 120     for (; *he && yaz_matchstr(str, (*he)->str); he = &(*he)->next)
 121         ;
 122     if (*he)
 123         return (*he)->clientData;
 124     return 0;
 125 }
 126
 127 struct data1_systag {
 128     char *name;
 129     char *value;
 130     struct data1_systag *next;
 131 };
 132
 133 struct data1_absyn_cache_info
 134 {
 135     char *name;
 136     data1_absyn *absyn;
 137     data1_absyn_cache next;
 138 };
 139
 140 struct data1_attset_cache_info
 141 {
 142     char *name;
 143     data1_attset *attset;
 144     data1_attset_cache next;
 145 };
 146
 147 data1_element *data1_mk_element(data1_handle dh)
 148 {
 149     data1_element *e = nmem_malloc(data1_nmem_get(dh), sizeof(*e));
 150     e->name = 0;
 151     e->tag = 0;
 152     e->termlists = 0;
 153     e->next = e->children = 0;
 154     e->sub_name = 0;
 155     e->hash = 0;
 156     return e;
 157 }
 158
 159 data1_absyn *data1_absyn_search (data1_handle dh, const char *name)
 160 {
 161     data1_absyn_cache p = *data1_absyn_cache_get (dh);
 162
 163     while (p)
 164     {
 165         if (!yaz_matchstr (name, p->name))
 166             return p->absyn;
 167         p = p->next;
 168     }
 169     return NULL;
 170 }
 171 /* *ostrich*
 172    We need to destroy DFAs, in xp_element (xelm) definitions
 173    pop, 2002-12-13
 174 */
 175
 176 void data1_absyn_destroy (data1_handle dh)
 177 {
 178     data1_absyn_cache p = *data1_absyn_cache_get (dh);
 179
 180     while (p)
 181     {
 182         data1_absyn *abs = p->absyn;
 183         if (abs)
 184         {
 185             data1_xpelement *xpe = abs->xp_elements;
 186             while (xpe) {
 187                 yaz_log (YLOG_DEBUG,"Destroy xp element %s",xpe->xpath_expr);
 188                 if (xpe->dfa) {  dfa_delete (&xpe->dfa); }
 189                 xpe = xpe->next;
 190             }
 191         }
 192         p = p->next;
 193     }
 194 }
 195
 196
 197 void data1_absyn_trav (data1_handle dh, void *handle,
 198                        void (*fh)(data1_handle dh, void *h, data1_absyn *a))
 199 {
 200     data1_absyn_cache p = *data1_absyn_cache_get (dh);
 201
 202     while (p)
 203     {
 204         (*fh)(dh, handle, p->absyn);
 205         p = p->next;
 206     }
 207 }
 208
 209 data1_absyn *data1_absyn_add (data1_handle dh, const char *name)
 210 {
 211     char fname[512];
 212     NMEM mem = data1_nmem_get (dh);
 213
 214     data1_absyn_cache p = (data1_absyn_cache)nmem_malloc (mem, sizeof(*p));
 215     data1_absyn_cache *pp = data1_absyn_cache_get (dh);
 216
 217     sprintf(fname, "%s.abs", name);
 218     p->absyn = data1_read_absyn (dh, fname, 0);
 219     p->name = nmem_strdup (mem, name);
 220     p->next = *pp;
 221     *pp = p;
 222     return p->absyn;
 223 }
 224
 225 data1_absyn *data1_get_absyn (data1_handle dh, const char *name)
 226 {
 227     data1_absyn *absyn;
 228
 229     if (!(absyn = data1_absyn_search (dh, name)))
 230         absyn = data1_absyn_add (dh, name);
 231     return absyn;
 232 }
 233
 234 data1_attset *data1_attset_search_name (data1_handle dh, const char *name)
 235 {
 236     data1_attset_cache p = *data1_attset_cache_get (dh);
 237
 238     while (p)
 239     {
 240         if (!yaz_matchstr (name, p->name))
 241             return p->attset;
 242         p = p->next;
 243     }
 244     return NULL;
 245 }
 246
 247 data1_attset *data1_attset_search_id (data1_handle dh, int id)
 248 {
 249     data1_attset_cache p = *data1_attset_cache_get (dh);
 250
 251     while (p)
 252     {
 253         if (id == p->attset->reference)
 254             return p->attset;
 255         p = p->next;
 256     }
 257     return NULL;
 258 }
 259
 260 data1_attset *data1_attset_add (data1_handle dh, const char *name)
 261 {
 262     char fname[512], aname[512];
 263     NMEM mem = data1_nmem_get (dh);
 264     data1_attset *attset;
 265
 266     strcpy (aname, name);
 267     sprintf(fname, "%s.att", name);
 268     attset = data1_read_attset (dh, fname);
 269     if (!attset)
 270     {
 271         char *cp;
 272         attset = data1_read_attset (dh, name);
 273         if (attset && (cp = strrchr (aname, '.')))
 274             *cp = '\0';
 275     }
 276     if (!attset)
 277         yaz_log (YLOG_WARN|YLOG_ERRNO, "Couldn't load attribute set %s", name);
 278     else
 279     {
 280         data1_attset_cache p = (data1_attset_cache)
 281             nmem_malloc (mem, sizeof(*p));
 282         data1_attset_cache *pp = data1_attset_cache_get (dh);
 283
 284         attset->name = p->name = nmem_strdup (mem, aname);
 285         p->attset = attset;
 286         p->next = *pp;
 287         *pp = p;
 288     }
 289     return attset;
 290 }
 291
 292 data1_attset *data1_get_attset (data1_handle dh, const char *name)
 293 {
 294     data1_attset *attset;
 295
 296     if (!(attset = data1_attset_search_name (dh, name)))
 297         attset = data1_attset_add (dh, name);
 298     return attset;
 299 }
 300
 301 data1_esetname *data1_getesetbyname(data1_handle dh, data1_absyn *a,
 302                                     const char *name)
 303 {
 304     data1_esetname *r;
 305
 306     for (r = a->esetnames; r; r = r->next)
 307         if (!data1_matchstr(r->name, name))
 308             return r;
 309     return 0;
 310 }
 311
 312 /* we have multiple versions of data1_getelementbyname */
 313 #define DATA1_GETELEMENTBYTAGNAME_VERSION 1
 314
 315 #if DATA1_GETELEMENTBYTAGNAME_VERSION==0
 316 /* straight linear search */
 317 data1_element *data1_getelementbytagname (data1_handle dh, data1_absyn *abs,
 318                                           data1_element *parent,
 319                                           const char *tagname)
 320 {
 321     data1_element *r;
 322
 323     /* It's now possible to have a data1 tree with no abstract syntax */
 324     if ( !abs )
 325         return 0;
 326
 327     if (!parent)
 328         r = abs->main_elements;
 329     else
 330         r = parent->children;
 331
 332     for (; r; r = r->next)
 333     {
 334         data1_name *n;
 335
 336         for (n = r->tag->names; n; n = n->next)
 337             if (!data1_matchstr(tagname, n->name))
 338                 return r;
 339     }
 340     return 0;
 341 }
 342 #endif
 343
 344 #if DATA1_GETELEMENTBYTAGNAME_VERSION==1
 345 /* using hash search */
 346 data1_element *data1_getelementbytagname (data1_handle dh, data1_absyn *abs,
 347                                           data1_element *parent,
 348                                           const char *tagname)
 349 {
 350     data1_element *r;
 351     struct data1_hash_table *ht;
 352
 353     /* It's now possible to have a data1 tree with no abstract syntax */
 354     if ( !abs )
 355         return 0;
 356
 357     if (!parent)
 358         r = abs->main_elements;
 359     else
 360         r = parent->children;
 361
 362     if (!r)
 363         return 0;
 364
 365     ht = r->hash;
 366     if (!ht)
 367     {
 368         ht = r->hash = data1_hash_open(29, data1_nmem_get(dh));
 369         for (; r; r = r->next)
 370         {
 371             data1_name *n;
 372
 373             for (n = r->tag->names; n; n = n->next)
 374                 data1_hash_insert(ht, n->name, r, 0);
 375         }
 376     }
 377     return data1_hash_lookup(ht, tagname);
 378 }
 379 #endif
 380
 381 data1_element *data1_getelementbyname (data1_handle dh, data1_absyn *absyn,
 382                                        const char *name)
 383 {
 384     data1_element *r;
 385
 386     /* It's now possible to have a data1 tree with no abstract syntax */
 387     if ( !absyn )
 388         return 0;
 389     for (r = absyn->main_elements; r; r = r->next)
 390         if (!data1_matchstr(r->name, name))
 391             return r;
 392     return 0;
 393 }
 394
 395
 396 void fix_element_ref (data1_handle dh, data1_absyn *absyn, data1_element *e)
 397 {
 398     /* It's now possible to have a data1 tree with no abstract syntax */
 399     if ( !absyn )
 400         return;
 401
 402     for (; e; e = e->next)
 403     {
 404         if (!e->sub_name)
 405         {
 406             if (e->children)
 407                 fix_element_ref (dh, absyn, e->children);
 408         }
 409         else
 410         {
 411             data1_sub_elements *sub_e = absyn->sub_elements;
 412             while (sub_e && strcmp (e->sub_name, sub_e->name))
 413                 sub_e = sub_e->next;
 414             if (sub_e)
 415                 e->children = sub_e->elements;
 416             else
 417                 yaz_log (YLOG_WARN, "Unresolved reference to sub-elements %s",
 418                       e->sub_name);
 419         }
 420     }
 421 }
 422 /* *ostrich*
 423
 424    New function, a bit dummy now... I've seen it in zrpn.c... We should build
 425    more clever regexps...
 426
 427
 428       //a    ->    ^a/.*$
 429       //a/b  ->    ^b/a/.*$
 430       /a     ->    ^a/$
 431       /a/b   ->    ^b/a/$
 432
 433       /      ->    none
 434
 435    pop, 2002-12-13
 436
 437    Now [] predicates are supported
 438
 439    pop, 2003-01-17
 440
 441  */
 442
 443 static const char * mk_xpath_regexp (data1_handle dh, const char *expr)
 444 {
 445     const char *p = expr;
 446     int abs = 1;
 447     int e = 0;
 448     char *stack[32];
 449     char *res_p, *res = 0;
 450     size_t res_size = 1;
 451
 452     if (*p != '/')
 453         return ("");
 454     p++;
 455     if (*p == '/')
 456     {
 457         abs =0;
 458         p++;
 459     }
 460     while (*p)
 461     {
 462         int is_predicate = 0;
 463         char *s;
 464         int i, j;
 465         for (i = 0; *p && !strchr("/",*p); i++, p++)
 466             ;
 467         res_size += (i+3); /* we'll add / between later .. */
 468         stack[e] = (char *) nmem_malloc(data1_nmem_get(dh), i+1);
 469         s = stack[e];
 470         for (j = 0; j < i; j++)
 471         {
 472             const char *pp = p-i+j;
 473             if (*pp == '[')
 474                 is_predicate=1;
 475             else if (*pp == ']')
 476                 is_predicate=0;
 477             else
 478             {
 479                 if (!is_predicate) {
 480                     if (*pp == '*')
 481                         *s++ = '.';
 482                     *s++ = *pp;
 483                 }
 484             }
 485         }
 486         *s = 0;
 487         e++;
 488         if (*p)
 489             p++;
 490     }
 491     res_p = res = nmem_malloc(data1_nmem_get(dh), res_size + 10);
 492
 493     if (stack[e-1][0] == '@')  /* path/@attr spec (leaf is attribute) */
 494         strcpy(res_p, "/");
 495     else
 496         strcpy(res_p, "[^@]*/");  /* path .. (index all cdata below it) */
 497     res_p = res_p + strlen(res_p);
 498     while (--e >= 0) {
 499         sprintf(res_p, "%s/", stack[e]);
 500         res_p += strlen(stack[e]) + 1;
 501     }
 502     if (!abs)
 503     {
 504         sprintf(res_p, ".*");
 505         res_p += 2;
 506     }
 507     sprintf (res_p, "$");
 508     res_p++;
 509     yaz_log(YLOG_DEBUG, "Got regexp: %s", res);
 510     return res;
 511 }
 512
 513 static int parse_termlists(data1_handle dh, data1_termlist ***tpp,
 514                            char *cp, const char *file, int lineno,
 515                            const char *element_name, data1_absyn *res,
 516                            int xpelement,
 517                            data1_attset *attset)
 518 {
 519     data1_termlist **tp = *tpp;
 520     while(1)
 521     {
 522         char attname[512], structure[512];
 523         char *source;
 524         int r, i;
 525         int level = 0;
 526         structure[0] = '\0';
 527         for (i = 0; cp[i] && i<sizeof(attname)-1; i++)
 528             if (strchr(":,", cp[i]))
 529                 break;
 530             else
 531                 attname[i] = cp[i];
 532         if (i == 0)
 533         {
 534             if (*cp)
 535                 yaz_log(YLOG_WARN,
 536                         "%s:%d: Syntax error in termlistspec '%s'",
 537                         file, lineno, cp);
 538             break;
 539         }
 540         attname[i] = '\0';
 541         r = 1;
 542         cp += i;
 543         if (*cp == ':')
 544             cp++;
 545
 546         for (i = 0; cp[i] && i<sizeof(structure)-1; i++)
 547             if (level == 0 && strchr(",", cp[i]))
 548                 break;
 549             else
 550             {
 551                 structure[i] = cp[i];
 552                 if (cp[i] == '(')
 553                     level++;
 554                 else if (cp[i] == ')')
 555                     level--;
 556             }
 557         structure[i] = '\0';
 558         if (i)
 559             r = 2;
 560         cp += i;
 561         if (*cp)
 562             cp++;  /* skip , */
 563
 564         *tp = (data1_termlist *)
 565             nmem_malloc(data1_nmem_get(dh), sizeof(**tp));
 566         (*tp)->next = 0;
 567
 568         if (*attname == '!')
 569         {
 570             if (!xpelement && element_name)
 571                 strcpy(attname, element_name);
 572             else if (xpelement)
 573                 strcpy(attname, ZEBRA_XPATH_CDATA);
 574         }
 575         if (attset)
 576         {
 577             if (!data1_getattbyname(dh, attset, attname))
 578             {
 579                 yaz_log(YLOG_WARN, "Index '%s' not found in attset(s)",
 580                         attname);
 581             }
 582         }
 583
 584         (*tp)->index_name = nmem_strdup(data1_nmem_get(dh), attname);
 585         assert (*(*tp)->index_name != '!');
 586         if (r == 2 && (source = strchr(structure, ':')))
 587             *source++ = '\0';   /* cut off structure .. */
 588         else
 589             source = "data";    /* ok: default is leaf data */
 590         (*tp)->source = (char *)
 591             nmem_strdup (data1_nmem_get (dh), source);
 592
 593         if (r < 2) /* is the structure qualified? */
 594             (*tp)->structure = "w";
 595         else
 596             (*tp)->structure = (char *)
 597                 nmem_strdup (data1_nmem_get (dh), structure);
 598         tp = &(*tp)->next;
 599     }
 600
 601     *tpp = tp;
 602     return 0;
 603 }
 604
 605 /* quinn
 606  * Converts a 'melm' field[$subfield] pattern to a simple xpath
 607  */
 608 static int melm2xpath(char *melm, char *buf)
 609 {
 610     char *dollar;
 611     char *field = melm;
 612     char *subfield;
 613     char *fieldtype;
 614     if ((dollar = strchr(melm, '$'))) {
 615         *dollar = '\0';
 616         subfield = ++dollar;
 617     } else
 618         subfield = "";
 619     if (field[0] == '0' && field[1] == '0')
 620         fieldtype = "controlfield";
 621     else
 622         fieldtype = "datafield";
 623     sprintf(buf, "/*/%s[@tag=\"%s\"]", fieldtype, field);
 624     if (*subfield)
 625         sprintf(buf + strlen(buf), "/subfield[@code=\"%s\"]", subfield);
 626     else if (field[0] != '0' || field[1] != '0')
 627         strcat(buf, "/subfield");
 628     yaz_log(YLOG_DEBUG, "Created xpath: '%s'", buf);
 629     return 0;
 630 }
 631
 632 const char *data1_systag_lookup(data1_absyn *absyn, const char *tag,
 633                                 const char *default_value)
 634 {
 635     struct data1_systag *p = absyn->systags;
 636     for (; p; p = p->next)
 637         if (!strcmp(p->name, tag))
 638             return p->value;
 639     return default_value;
 640 }
 641
 642 #define l_isspace(c) ((c) == '\t' || (c) == ' ' || (c) == '\n' || (c) == '\r')
 643
 644 int read_absyn_line(FILE *f, int *lineno, char *line, int len,
 645                     char *argv[], int num)
 646 {
 647     char *p;
 648     int argc;
 649     int quoted = 0;
 650
 651     while ((p = fgets(line, len, f)))
 652     {
 653         (*lineno)++;
 654         while (*p && l_isspace(*p))
 655             p++;
 656         if (*p && *p != '#')
 657             break;
 658     }
 659     if (!p)
 660         return 0;
 661
 662     for (argc = 0; *p ; argc++)
 663     {
 664         if (*p == '#')  /* trailing comment */
 665             break;
 666         argv[argc] = p;
 667         while (*p && !(l_isspace(*p) && !quoted)) {
 668           if (*p =='"') quoted = 1 - quoted;
 669           if (*p =='[') quoted = 1;
 670           if (*p ==']') quoted = 0;
 671           p++;
 672         }
 673         if (*p)
 674         {
 675             *(p++) = '\0';
 676             while (*p && l_isspace(*p))
 677                 p++;
 678         }
 679     }
 680     return argc;
 681 }
 682
 683 data1_marctab *data1_absyn_getmarctab(data1_handle dh, data1_absyn *absyn)
 684 {
 685     return absyn->marc;
 686 }
 687
 688 YAZ_EXPORT data1_element *data1_absyn_getelements(data1_handle dh,
 689                                                   data1_absyn *absyn)
 690 {
 691     return absyn->main_elements;
 692 }
 693
 694 data1_absyn *data1_read_absyn (data1_handle dh, const char *file,
 695                                int file_must_exist)
 696 {
 697     data1_sub_elements *cur_elements = NULL;
 698     data1_xpelement *cur_xpelement = NULL;
 699     data1_attset *attset_list = data1_empty_attset(dh);
 700     data1_attset_child **attset_childp = &attset_list->children;
 701
 702     data1_absyn *res = 0;
 703     FILE *f;
 704     data1_element **ppl[D1_MAX_NESTING];
 705     data1_esetname **esetpp;
 706     data1_maptab **maptabp;
 707     data1_marctab **marcp;
 708     data1_termlist *all = 0;
 709     data1_tagset **tagset_childp;
 710     struct data1_systag **systagsp;
 711     int level = 0;
 712     int lineno = 0;
 713     int argc;
 714     char *argv[50], line[512];
 715
 716     if (!(f = data1_path_fopen(dh, file, "r")))
 717     {
 718         yaz_log(YLOG_WARN|YLOG_ERRNO, "Couldn't open %s", file);
 719         if (file_must_exist)
 720             return 0;
 721     }
 722
 723     res = (data1_absyn *) nmem_malloc(data1_nmem_get(dh), sizeof(*res));
 724     res->name = 0;
 725     res->reference = VAL_NONE;
 726     res->tagset = 0;
 727     res->encoding = 0;
 728     res->enable_xpath_indexing = (f ? 0 : 1);
 729     res->systags = 0;
 730     systagsp = &res->systags;
 731     tagset_childp = &res->tagset;
 732
 733     res->varset = 0;
 734     res->esetnames = 0;
 735     esetpp = &res->esetnames;
 736     res->maptabs = 0;
 737     maptabp = &res->maptabs;
 738     res->marc = 0;
 739     marcp = &res->marc;
 740     res->sub_elements = NULL;
 741     res->main_elements = NULL;
 742     res->xp_elements = NULL;
 743
 744     while (f && (argc = read_absyn_line(f, &lineno, line, 512, argv, 50)))
 745     {
 746         char *cmd = *argv;
 747         if (!strcmp(cmd, "elm") || !strcmp(cmd, "element"))
 748         {
 749             data1_element *new_element;
 750             int i;
 751             char *p, *sub_p, *path, *name, *termlists;
 752             int type, value;
 753             data1_termlist **tp;
 754
 755             if (argc < 4)
 756             {
 757                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to elm", file, lineno);
 758                 continue;
 759             }
 760             path = argv[1];
 761             name = argv[2];
 762             termlists = argv[3];
 763
 764             if (!cur_elements)
 765             {
 766                 cur_elements = (data1_sub_elements *)
 767                     nmem_malloc(data1_nmem_get(dh), sizeof(*cur_elements));
 768                 cur_elements->next = res->sub_elements;
 769                 cur_elements->elements = NULL;
 770                 cur_elements->name = "main";
 771                 res->sub_elements = cur_elements;
 772
 773                 level = 0;
 774                 ppl[level] = &cur_elements->elements;
 775             }
 776             p = path;
 777             for (i = 1;; i++)
 778             {
 779                 char *e;
 780
 781                 if ((e = strchr(p, '/')))
 782                     p = e+1;
 783                 else
 784                     break;
 785             }
 786             if (i > level+1)
 787             {
 788                 yaz_log(YLOG_WARN, "%s:%d: Bad level increase", file, lineno);
 789                 fclose(f);
 790                 return 0;
 791             }
 792             level = i;
 793             new_element = *ppl[level-1] = data1_mk_element(dh);
 794
 795             tp = &new_element->termlists;
 796             ppl[level-1] = &new_element->next;
 797             ppl[level] = &new_element->children;
 798
 799             /* consider subtree (if any) ... */
 800             if ((sub_p = strchr (p, ':')) && sub_p[1])
 801             {
 802                 *sub_p++ = '\0';
 803                 new_element->sub_name =
 804                     nmem_strdup (data1_nmem_get(dh), sub_p);
 805             }
 806             /* well-defined tag */
 807             if (sscanf(p, "(%d,%d)", &type, &value) == 2)
 808             {
 809                 if (!res->tagset)
 810                 {
 811                     yaz_log(YLOG_WARN, "%s:%d: No tagset loaded", file, lineno);
 812                     fclose(f);
 813                     return 0;
 814                 }
 815                 if (!(new_element->tag = data1_gettagbynum (dh, res->tagset,
 816                                                             type, value)))
 817                 {
 818                     yaz_log(YLOG_WARN, "%s:%d: Couldn't find tag %s in tagset",
 819                          file, lineno, p);
 820                     fclose(f);
 821                     return 0;
 822                 }
 823             }
 824             /* private tag */
 825             else if (*p)
 826             {
 827                 data1_tag *nt =
 828                     new_element->tag = (data1_tag *)
 829                     nmem_malloc(data1_nmem_get (dh),
 830                                 sizeof(*new_element->tag));
 831                 nt->which = DATA1T_string;
 832                 nt->value.string = nmem_strdup(data1_nmem_get (dh), p);
 833                 nt->names = (data1_name *)
 834                     nmem_malloc(data1_nmem_get(dh),
 835                                 sizeof(*new_element->tag->names));
 836                 nt->names->name = nt->value.string;
 837                 nt->names->next = 0;
 838                 nt->kind = DATA1K_string;
 839                 nt->next = 0;
 840                 nt->tagset = 0;
 841             }
 842             else
 843             {
 844                 yaz_log(YLOG_WARN, "%s:%d: Bad element", file, lineno);
 845                 fclose(f);
 846                 return 0;
 847             }
 848             /* parse termList definitions */
 849             p = termlists;
 850             if (*p != '-')
 851             {
 852                 if (parse_termlists (dh, &tp, p, file, lineno, name, res, 0,
 853                                      attset_list))
 854                 {
 855                     fclose (f);
 856                     return 0;
 857                 }
 858                 *tp = all; /* append any ALL entries to the list */
 859             }
 860             new_element->name = nmem_strdup(data1_nmem_get (dh), name);
 861         }
 862         /* *ostrich*
 863            New code to support xelm directive
 864            for each xelm a dfa is built. xelms are stored in res->xp_elements
 865
 866            maybe we should use a simple sscanf instead of dfa?
 867
 868            pop, 2002-12-13
 869
 870            Now [] predicates are supported. regexps and xpath structure is
 871            a bit redundant, however it's comfortable later...
 872
 873            pop, 2003-01-17
 874         */
 875
 876         else if (!strcmp(cmd, "xelm") || !strcmp(cmd, "melm")) {
 877
 878             int i;
 879             char *p, *xpath_expr, *termlists;
 880             const char *regexp;
 881             struct DFA *dfa = dfa = dfa_init();
 882             data1_termlist **tp;
 883             char melm_xpath[128];
 884
 885             if (argc < 3)
 886             {
 887                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to xelm", file, lineno);
 888                 continue;
 889             }
 890
 891             if (!strcmp(cmd, "melm")) {
 892                 if (melm2xpath(argv[1], melm_xpath) < 0)
 893                     continue;
 894                 xpath_expr = melm_xpath;
 895             } else {
 896                 xpath_expr = argv[1];
 897             }
 898             termlists = argv[2];
 899             regexp = mk_xpath_regexp(dh, xpath_expr);
 900             i = dfa_parse (dfa, &regexp);
 901             if (i || *regexp) {
 902                 yaz_log(YLOG_WARN, "%s:%d: Bad xpath to xelm", file, lineno);
 903                 dfa_delete (&dfa);
 904                 continue;
 905             }
 906
 907             if (!cur_xpelement)
 908             {
 909                 cur_xpelement = (data1_xpelement *)
 910                     nmem_malloc(data1_nmem_get(dh), sizeof(*cur_xpelement));
 911                 res->xp_elements = cur_xpelement;
 912             } else {
 913                 cur_xpelement->next = (data1_xpelement *)
 914                     nmem_malloc(data1_nmem_get(dh), sizeof(*cur_xpelement));
 915                 cur_xpelement = cur_xpelement->next;
 916             }
 917             cur_xpelement->next = NULL;
 918             cur_xpelement->xpath_expr = nmem_strdup(data1_nmem_get (dh),
 919                                                     xpath_expr);
 920
 921             dfa_mkstate (dfa);
 922             cur_xpelement->dfa = dfa;
 923
 924 #ifdef ENHANCED_XELM
 925             cur_xpelement->xpath_len =
 926                 zebra_parse_xpath_str(xpath_expr,
 927                                       cur_xpelement->xpath, XPATH_STEP_COUNT,
 928                                       data1_nmem_get(dh));
 929
 930             /*
 931             dump_xp_steps(cur_xpelement->xpath,cur_xpelement->xpath_len);
 932             */
 933 #endif
 934             cur_xpelement->termlists = 0;
 935             tp = &cur_xpelement->termlists;
 936
 937             /* parse termList definitions */
 938             p = termlists;
 939             if (*p != '-')
 940             {
 941                 if (parse_termlists (dh, &tp, p, file, lineno,
 942                                      xpath_expr, res, 1, attset_list))
 943                 {
 944                     fclose (f);
 945                     return 0;
 946                 }
 947                 *tp = all; /* append any ALL entries to the list */
 948             }
 949         }
 950         else if (!strcmp(cmd, "section"))
 951         {
 952             char *name;
 953
 954             if (argc < 2)
 955             {
 956                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to section",
 957                         file, lineno);
 958                 continue;
 959             }
 960             name = argv[1];
 961
 962             cur_elements = (data1_sub_elements *)
 963                 nmem_malloc(data1_nmem_get(dh), sizeof(*cur_elements));
 964             cur_elements->next = res->sub_elements;
 965             cur_elements->elements = NULL;
 966             cur_elements->name = nmem_strdup (data1_nmem_get(dh), name);
 967             res->sub_elements = cur_elements;
 968
 969             level = 0;
 970             ppl[level] = &cur_elements->elements;
 971         }
 972         else if (!strcmp(cmd, "xpath"))
 973         {
 974             if (argc != 2)
 975             {
 976                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to 'xpath' directive",
 977                      file, lineno);
 978                 continue;
 979             }
 980             if (!strcmp(argv[1], "enable"))
 981                 res->enable_xpath_indexing = 1;
 982             else if (!strcmp (argv[1], "disable"))
 983                 res->enable_xpath_indexing = 0;
 984             else
 985             {
 986                 yaz_log(YLOG_WARN, "%s:%d: Expecting disable/enable "
 987                         "after 'xpath' directive", file, lineno);
 988             }
 989         }
 990         else if (!strcmp(cmd, "all"))
 991         {
 992             data1_termlist **tp = &all;
 993             if (all)
 994             {
 995                 yaz_log(YLOG_WARN, "%s:%d: Too many 'all' directives - ignored",
 996                      file, lineno);
 997                 continue;
 998             }
 999             if (argc != 2)
1000             {
1001                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to 'all' directive",
1002                      file, lineno);
1003                 continue;
1004             }
1005             if (parse_termlists (dh, &tp, argv[1], file, lineno, 0, res, 0,
1006                                  attset_list))
1007             {
1008                 fclose (f);
1009                 return 0;
1010             }
1011         }
1012         else if (!strcmp(cmd, "name"))
1013         {
1014             if (argc != 2)
1015             {
1016                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to name directive",
1017                      file, lineno);
1018                 continue;
1019             }
1020             res->name = nmem_strdup(data1_nmem_get(dh), argv[1]);
1021         }
1022         else if (!strcmp(cmd, "reference"))
1023         {
1024             char *name;
1025
1026             if (argc != 2)
1027             {
1028                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to reference",
1029                      file, lineno);
1030                 continue;
1031             }
1032             name = argv[1];
1033             if ((res->reference = oid_getvalbyname(name)) == VAL_NONE)
1034             {
1035                 yaz_log(YLOG_WARN, "%s:%d: Unknown tagset ref '%s'",
1036                      file, lineno, name);
1037                 continue;
1038             }
1039         }
1040         else if (!strcmp(cmd, "attset"))
1041         {
1042            char *name;
1043            data1_attset *attset;
1044
1045            if (argc != 2)
1046            {
1047                yaz_log(YLOG_WARN, "%s:%d: Bad # of args to attset",
1048                     file, lineno);
1049                continue;
1050            }
1051            name = argv[1];
1052            if (!(attset = data1_get_attset (dh, name)))
1053            {
1054                yaz_log(YLOG_WARN, "%s:%d: Couldn't find attset  %s",
1055                        file, lineno, name);
1056                continue;
1057            }
1058            *attset_childp = (data1_attset_child *)
1059                nmem_malloc (data1_nmem_get(dh), sizeof(**attset_childp));
1060            (*attset_childp)->child = attset;
1061            (*attset_childp)->next = 0;
1062            attset_childp = &(*attset_childp)->next;
1063         }
1064         else if (!strcmp(cmd, "tagset"))
1065         {
1066             char *name;
1067             int type = 0;
1068             if (argc < 2)
1069             {
1070                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to tagset",
1071                      file, lineno);
1072                 continue;
1073             }
1074             name = argv[1];
1075             if (argc == 3)
1076                 type = atoi(argv[2]);
1077             *tagset_childp = data1_read_tagset (dh, name, type);
1078             if (!(*tagset_childp))
1079             {
1080                 yaz_log(YLOG_WARN, "%s:%d: Couldn't load tagset %s",
1081                      file, lineno, name);
1082                 continue;
1083             }
1084             tagset_childp = &(*tagset_childp)->next;
1085         }
1086         else if (!strcmp(cmd, "varset"))
1087         {
1088             char *name;
1089
1090             if (argc != 2)
1091             {
1092                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args in varset",
1093                      file, lineno);
1094                 continue;
1095             }
1096             name = argv[1];
1097             if (!(res->varset = data1_read_varset (dh, name)))
1098             {
1099                 yaz_log(YLOG_WARN, "%s:%d: Couldn't load Varset %s",
1100                      file, lineno, name);
1101                 continue;
1102             }
1103         }
1104         else if (!strcmp(cmd, "esetname"))
1105         {
1106             char *name, *fname;
1107
1108             if (argc != 3)
1109             {
1110                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args in esetname",
1111                      file, lineno);
1112                 continue;
1113             }
1114             name = argv[1];
1115             fname = argv[2];
1116
1117             *esetpp = (data1_esetname *)
1118                 nmem_malloc(data1_nmem_get(dh), sizeof(**esetpp));
1119             (*esetpp)->name = nmem_strdup(data1_nmem_get(dh), name);
1120             (*esetpp)->next = 0;
1121             if (*fname == '@')
1122                 (*esetpp)->spec = 0;
1123             else if (!((*esetpp)->spec = data1_read_espec1 (dh, fname)))
1124             {
1125                 yaz_log(YLOG_WARN, "%s:%d: Espec-1 read failed for %s",
1126                      file, lineno, fname);
1127                 continue;
1128             }
1129             esetpp = &(*esetpp)->next;
1130         }
1131         else if (!strcmp(cmd, "maptab"))
1132         {
1133             char *name;
1134
1135             if (argc != 2)
1136             {
1137                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args for maptab",
1138                      file, lineno);
1139                 continue;
1140             }
1141             name = argv[1];
1142             if (!(*maptabp = data1_read_maptab (dh, name)))
1143             {
1144                 yaz_log(YLOG_WARN, "%s:%d: Couldn't load maptab %s",
1145                      file, lineno, name);
1146                 continue;
1147             }
1148             maptabp = &(*maptabp)->next;
1149         }
1150         else if (!strcmp(cmd, "marc"))
1151         {
1152             char *name;
1153
1154             if (argc != 2)
1155             {
1156                 yaz_log(YLOG_WARN, "%s:%d: Bad # or args for marc",
1157                      file, lineno);
1158                 continue;
1159             }
1160             name = argv[1];
1161             if (!(*marcp = data1_read_marctab (dh, name)))
1162             {
1163                 yaz_log(YLOG_WARN, "%s:%d: Couldn't read marctab %s",
1164                      file, lineno, name);
1165                 continue;
1166             }
1167             marcp = &(*marcp)->next;
1168         }
1169         else if (!strcmp(cmd, "encoding"))
1170         {
1171             if (argc != 2)
1172             {
1173                 yaz_log(YLOG_WARN, "%s:%d: Bad # or args for encoding",
1174                      file, lineno);
1175                 continue;
1176             }
1177             res->encoding = nmem_strdup (data1_nmem_get(dh), argv[1]);
1178         }
1179         else if (!strcmp(cmd, "systag"))
1180         {
1181             if (argc != 3)
1182             {
1183                 yaz_log(YLOG_WARN, "%s:%d: Bad # or args for systag",
1184                      file, lineno);
1185                 continue;
1186             }
1187             *systagsp = nmem_malloc (data1_nmem_get(dh), sizeof(**systagsp));
1188
1189             (*systagsp)->name = nmem_strdup(data1_nmem_get(dh), argv[1]);
1190             (*systagsp)->value = nmem_strdup(data1_nmem_get(dh), argv[2]);
1191             systagsp = &(*systagsp)->next;
1192         }
1193         else
1194         {
1195             yaz_log(YLOG_WARN, "%s:%d: Unknown directive '%s'", file,
1196                     lineno, cmd);
1197             continue;
1198         }
1199     }
1200     if (f)
1201         fclose(f);
1202
1203     for (cur_elements = res->sub_elements; cur_elements;
1204          cur_elements = cur_elements->next)
1205     {
1206         if (!strcmp (cur_elements->name, "main"))
1207             res->main_elements = cur_elements->elements;
1208         fix_element_ref (dh, res, cur_elements->elements);
1209     }
1210     *systagsp = 0;
1211     yaz_log(YLOG_DEBUG, "%s: data1_read_absyn end", file);
1212     return res;
1213 }
1214 /*
1215  * Local variables:
1216  * c-basic-offset: 4
1217  * indent-tabs-mode: nil
1218  * End:
1219  * vim: shiftwidth=4 tabstop=8 expandtab
1220  */
1221