data1/d1_absyn.c

   1 /* $Id: d1_absyn.c,v 1.22 2006-02-06 23:22:28 adam Exp $
   2    Copyright (C) 1995-2005
   3    Index Data ApS
   4
   5 This file is part of the Zebra server.
   6
   7 Zebra is free software; you can redistribute it and/or modify it under
   8 the terms of the GNU General Public License as published by the Free
   9 Software Foundation; either version 2, or (at your option) any later
  10 version.
  11
  12 Zebra is distributed in the hope that it will be useful, but WITHOUT ANY
  13 WARRANTY; without even the implied warranty of MERCHANTABILITY or
  14 FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
  15 for more details.
  16
  17 You should have received a copy of the GNU General Public License
  18 along with Zebra; see the file LICENSE.zebra.  If not, write to the
  19 Free Software Foundation, 59 Temple Place - Suite 330, Boston, MA
  20 02111-1307, USA.
  21 */
  22
  23 #include <stdio.h>
  24 #include <assert.h>
  25 #include <stdlib.h>
  26 #include <string.h>
  27
  28 #include <yaz/log.h>
  29 #include <yaz/oid.h>
  30 #include <idzebra/data1.h>
  31 #include <zebra_xpath.h>
  32 #include <d1_absyn.h>
  33
  34 #define D1_MAX_NESTING  128
  35
  36 struct data1_hash_table {
  37     NMEM nmem;
  38     int size;
  39     struct data1_hash_entry **ar;
  40 };
  41
  42 struct data1_hash_entry {
  43     void *clientData;
  44     char *str;
  45     struct data1_hash_entry *next;
  46 };
  47
  48 unsigned data1_hash_calc(struct data1_hash_table *ht, const char *str)
  49 {
  50     unsigned v = 0;
  51     assert(str);
  52     while (*str)
  53     {
  54         if (*str >= 'a' && *str <= 'z')
  55             v = v*65509 + *str -'a'+10;
  56         else if (*str >= 'A' && *str <= 'Z')
  57             v = v*65509 + *str -'A'+10;
  58         else if (*str >= '0' && *str <= '9')
  59             v = v*65509 + *str -'0';
  60         str++;
  61     }
  62     return v % ht->size;
  63 }
  64
  65 struct data1_hash_table *data1_hash_open(int size, NMEM nmem)
  66 {
  67     int i;
  68     struct data1_hash_table *ht = nmem_malloc(nmem, sizeof(*ht));
  69     ht->nmem = nmem;
  70     ht->size = size;
  71     if (ht->size <= 0)
  72         ht->size = 29;
  73     ht->ar = nmem_malloc(nmem, sizeof(*ht->ar) * ht->size);
  74     for (i = 0; i<ht->size; i++)
  75         ht->ar[i] = 0;
  76     return ht;
  77 }
  78
  79 void data1_hash_insert(struct data1_hash_table *ht, const char *str,
  80                        void *clientData, int copy)
  81 {
  82     char *dstr = copy ? nmem_strdup(ht->nmem, str) : (char*) str;
  83     if (strchr(str, '?') || strchr(str, '.'))
  84     {
  85         int i;
  86         for (i = 0; i<ht->size; i++)
  87         {
  88             struct data1_hash_entry **he = &ht->ar[i];
  89             for (; *he && strcmp(str, (*he)->str); he = &(*he)->next)
  90                 ;
  91             if (!*he)
  92             {
  93                 *he = nmem_malloc(ht->nmem, sizeof(**he));
  94                 (*he)->str = dstr;
  95                 (*he)->next = 0;
  96             }
  97             (*he)->clientData = clientData;
  98         }
  99     }
 100     else
 101     {
 102         struct data1_hash_entry **he = &ht->ar[data1_hash_calc(ht, str)];
 103         for (; *he && strcmp(str, (*he)->str); he = &(*he)->next)
 104             ;
 105         if (!*he)
 106         {
 107             *he = nmem_malloc(ht->nmem, sizeof(**he));
 108             (*he)->str = dstr;
 109             (*he)->next = 0;
 110         }
 111         (*he)->clientData = clientData;
 112     }
 113 }
 114
 115 void *data1_hash_lookup(struct data1_hash_table *ht, const char *str)
 116 {
 117     struct data1_hash_entry **he = &ht->ar[data1_hash_calc(ht, str)];
 118
 119     for (; *he && yaz_matchstr(str, (*he)->str); he = &(*he)->next)
 120         ;
 121     if (*he)
 122         return (*he)->clientData;
 123     return 0;
 124 }
 125
 126 struct data1_systag {
 127     char *name;
 128     char *value;
 129     struct data1_systag *next;
 130 };
 131
 132 struct data1_absyn_cache_info
 133 {
 134     char *name;
 135     data1_absyn *absyn;
 136     data1_absyn_cache next;
 137 };
 138
 139 struct data1_attset_cache_info
 140 {
 141     char *name;
 142     data1_attset *attset;
 143     data1_attset_cache next;
 144 };
 145
 146 data1_element *data1_mk_element(data1_handle dh)
 147 {
 148     data1_element *e = nmem_malloc(data1_nmem_get(dh), sizeof(*e));
 149     e->name = 0;
 150     e->tag = 0;
 151     e->termlists = 0;
 152     e->next = e->children = 0;
 153     e->sub_name = 0;
 154     e->hash = 0;
 155     return e;
 156 }
 157
 158 data1_absyn *data1_absyn_search (data1_handle dh, const char *name)
 159 {
 160     data1_absyn_cache p = *data1_absyn_cache_get (dh);
 161
 162     while (p)
 163     {
 164         if (!yaz_matchstr (name, p->name))
 165             return p->absyn;
 166         p = p->next;
 167     }
 168     return NULL;
 169 }
 170 /* *ostrich*
 171    We need to destroy DFAs, in xp_element (xelm) definitions
 172    pop, 2002-12-13
 173 */
 174
 175 void data1_absyn_destroy (data1_handle dh)
 176 {
 177     data1_absyn_cache p = *data1_absyn_cache_get (dh);
 178
 179     while (p)
 180     {
 181         data1_absyn *abs = p->absyn;
 182         if (abs)
 183         {
 184             data1_xpelement *xpe = abs->xp_elements;
 185             while (xpe) {
 186                 yaz_log (YLOG_DEBUG,"Destroy xp element %s",xpe->xpath_expr);
 187                 if (xpe->dfa) {  dfa_delete (&xpe->dfa); }
 188                 xpe = xpe->next;
 189             }
 190         }
 191         p = p->next;
 192     }
 193 }
 194
 195
 196 void data1_absyn_trav (data1_handle dh, void *handle,
 197                        void (*fh)(data1_handle dh, void *h, data1_absyn *a))
 198 {
 199     data1_absyn_cache p = *data1_absyn_cache_get (dh);
 200
 201     while (p)
 202     {
 203         (*fh)(dh, handle, p->absyn);
 204         p = p->next;
 205     }
 206 }
 207
 208 data1_absyn *data1_absyn_add (data1_handle dh, const char *name)
 209 {
 210     char fname[512];
 211     NMEM mem = data1_nmem_get (dh);
 212
 213     data1_absyn_cache p = (data1_absyn_cache)nmem_malloc (mem, sizeof(*p));
 214     data1_absyn_cache *pp = data1_absyn_cache_get (dh);
 215
 216     sprintf(fname, "%s.abs", name);
 217     p->absyn = data1_read_absyn (dh, fname, 0);
 218     p->name = nmem_strdup (mem, name);
 219     p->next = *pp;
 220     *pp = p;
 221     return p->absyn;
 222 }
 223
 224 data1_absyn *data1_get_absyn (data1_handle dh, const char *name)
 225 {
 226     data1_absyn *absyn;
 227
 228     if (!(absyn = data1_absyn_search (dh, name)))
 229         absyn = data1_absyn_add (dh, name);
 230     return absyn;
 231 }
 232
 233 data1_attset *data1_attset_search_name (data1_handle dh, const char *name)
 234 {
 235     data1_attset_cache p = *data1_attset_cache_get (dh);
 236
 237     while (p)
 238     {
 239         if (!yaz_matchstr (name, p->name))
 240             return p->attset;
 241         p = p->next;
 242     }
 243     return NULL;
 244 }
 245
 246 data1_attset *data1_attset_search_id (data1_handle dh, int id)
 247 {
 248     data1_attset_cache p = *data1_attset_cache_get (dh);
 249
 250     while (p)
 251     {
 252         if (id == p->attset->reference)
 253             return p->attset;
 254         p = p->next;
 255     }
 256     return NULL;
 257 }
 258
 259 data1_attset *data1_attset_add (data1_handle dh, const char *name)
 260 {
 261     char fname[512], aname[512];
 262     NMEM mem = data1_nmem_get (dh);
 263     data1_attset *attset;
 264
 265     strcpy (aname, name);
 266     sprintf(fname, "%s.att", name);
 267     attset = data1_read_attset (dh, fname);
 268     if (!attset)
 269     {
 270         char *cp;
 271         attset = data1_read_attset (dh, name);
 272         if (attset && (cp = strrchr (aname, '.')))
 273             *cp = '\0';
 274     }
 275     if (!attset)
 276         yaz_log (YLOG_WARN|YLOG_ERRNO, "Couldn't load attribute set %s", name);
 277     else
 278     {
 279         data1_attset_cache p = (data1_attset_cache)
 280             nmem_malloc (mem, sizeof(*p));
 281         data1_attset_cache *pp = data1_attset_cache_get (dh);
 282
 283         attset->name = p->name = nmem_strdup (mem, aname);
 284         p->attset = attset;
 285         p->next = *pp;
 286         *pp = p;
 287     }
 288     return attset;
 289 }
 290
 291 data1_attset *data1_get_attset (data1_handle dh, const char *name)
 292 {
 293     data1_attset *attset;
 294
 295     if (!(attset = data1_attset_search_name (dh, name)))
 296         attset = data1_attset_add (dh, name);
 297     return attset;
 298 }
 299
 300 data1_esetname *data1_getesetbyname(data1_handle dh, data1_absyn *a,
 301                                     const char *name)
 302 {
 303     data1_esetname *r;
 304
 305     for (r = a->esetnames; r; r = r->next)
 306         if (!data1_matchstr(r->name, name))
 307             return r;
 308     return 0;
 309 }
 310
 311 /* we have multiple versions of data1_getelementbyname */
 312 #define DATA1_GETELEMENTBYTAGNAME_VERSION 1
 313
 314 #if DATA1_GETELEMENTBYTAGNAME_VERSION==0
 315 /* straight linear search */
 316 data1_element *data1_getelementbytagname (data1_handle dh, data1_absyn *abs,
 317                                           data1_element *parent,
 318                                           const char *tagname)
 319 {
 320     data1_element *r;
 321
 322     /* It's now possible to have a data1 tree with no abstract syntax */
 323     if ( !abs )
 324         return 0;
 325
 326     if (!parent)
 327         r = abs->main_elements;
 328     else
 329         r = parent->children;
 330
 331     for (; r; r = r->next)
 332     {
 333         data1_name *n;
 334
 335         for (n = r->tag->names; n; n = n->next)
 336             if (!data1_matchstr(tagname, n->name))
 337                 return r;
 338     }
 339     return 0;
 340 }
 341 #endif
 342
 343 #if DATA1_GETELEMENTBYTAGNAME_VERSION==1
 344 /* using hash search */
 345 data1_element *data1_getelementbytagname (data1_handle dh, data1_absyn *abs,
 346                                           data1_element *parent,
 347                                           const char *tagname)
 348 {
 349     data1_element *r;
 350     struct data1_hash_table *ht;
 351
 352     /* It's now possible to have a data1 tree with no abstract syntax */
 353     if ( !abs )
 354         return 0;
 355
 356     if (!parent)
 357         r = abs->main_elements;
 358     else
 359         r = parent->children;
 360
 361     if (!r)
 362         return 0;
 363
 364     ht = r->hash;
 365     if (!ht)
 366     {
 367         ht = r->hash = data1_hash_open(29, data1_nmem_get(dh));
 368         for (; r; r = r->next)
 369         {
 370             data1_name *n;
 371
 372             for (n = r->tag->names; n; n = n->next)
 373                 data1_hash_insert(ht, n->name, r, 0);
 374         }
 375     }
 376     return data1_hash_lookup(ht, tagname);
 377 }
 378 #endif
 379
 380 data1_element *data1_getelementbyname (data1_handle dh, data1_absyn *absyn,
 381                                        const char *name)
 382 {
 383     data1_element *r;
 384
 385     /* It's now possible to have a data1 tree with no abstract syntax */
 386     if ( !absyn )
 387         return 0;
 388     for (r = absyn->main_elements; r; r = r->next)
 389         if (!data1_matchstr(r->name, name))
 390             return r;
 391     return 0;
 392 }
 393
 394
 395 void fix_element_ref (data1_handle dh, data1_absyn *absyn, data1_element *e)
 396 {
 397     /* It's now possible to have a data1 tree with no abstract syntax */
 398     if ( !absyn )
 399         return;
 400
 401     for (; e; e = e->next)
 402     {
 403         if (!e->sub_name)
 404         {
 405             if (e->children)
 406                 fix_element_ref (dh, absyn, e->children);
 407         }
 408         else
 409         {
 410             data1_sub_elements *sub_e = absyn->sub_elements;
 411             while (sub_e && strcmp (e->sub_name, sub_e->name))
 412                 sub_e = sub_e->next;
 413             if (sub_e)
 414                 e->children = sub_e->elements;
 415             else
 416                 yaz_log (YLOG_WARN, "Unresolved reference to sub-elements %s",
 417                       e->sub_name);
 418         }
 419     }
 420 }
 421 /* *ostrich*
 422
 423    New function, a bit dummy now... I've seen it in zrpn.c... We should build
 424    more clever regexps...
 425
 426
 427       //a    ->    ^a/.*$
 428       //a/b  ->    ^b/a/.*$
 429       /a     ->    ^a/$
 430       /a/b   ->    ^b/a/$
 431
 432       /      ->    none
 433
 434    pop, 2002-12-13
 435
 436    Now [] predicates are supported
 437
 438    pop, 2003-01-17
 439
 440  */
 441
 442 static const char * mk_xpath_regexp (data1_handle dh, const char *expr)
 443 {
 444     const char *p = expr;
 445     int abs = 1;
 446     int i;
 447     int e = 0;
 448     char *stack[32];
 449     char *res_p, *res = 0;
 450     size_t res_size = 1;
 451
 452     if (*p != '/')
 453         return ("");
 454     p++;
 455     if (*p == '/')
 456     {
 457         abs =0;
 458         p++;
 459     }
 460     while (*p)
 461     {
 462         int is_predicate = 0;
 463         char *s;
 464         int i, j;
 465         for (i = 0; *p && !strchr("/",*p); i++, p++)
 466             ;
 467         res_size += (i+3); /* we'll add / between later .. */
 468         stack[e] = (char *) nmem_malloc(data1_nmem_get(dh), i+1);
 469         s = stack[e];
 470         for (j = 0; j < i; j++)
 471         {
 472             const char *pp = p-i+j;
 473             if (*pp == '[')
 474                 is_predicate=1;
 475             else if (*pp == ']')
 476                 is_predicate=0;
 477             else
 478             {
 479                 if (!is_predicate) {
 480                     if (*pp == '*')
 481                         *s++ = '.';
 482                     *s++ = *pp;
 483                 }
 484             }
 485         }
 486         *s = 0;
 487         e++;
 488         if (*p)
 489             p++;
 490     }
 491     res_p = res = nmem_malloc(data1_nmem_get(dh), res_size + 10);
 492
 493     if (stack[e-1][0] == '@')  /* path/@attr spec (leaf is attribute) */
 494         sprintf(res_p, "/");
 495     else
 496         sprintf(res_p, "[^@]*/");  /* path .. (index all cdata below it) */
 497     res_p = res_p + strlen(res_p);
 498     while (--e >= 0) {
 499         sprintf(res_p, "%s/", stack[e]);
 500         res_p += strlen(stack[e]) + 1;
 501     }
 502     if (!abs)
 503     {
 504         sprintf(res_p, ".*");
 505         res_p += 2;
 506     }
 507     sprintf (res_p, "$");
 508     res_p++;
 509     yaz_log(YLOG_DEBUG, "Got regexp: %s", res);
 510     return res;
 511 }
 512
 513 /* *ostrich*
 514
 515    added arg xpelement... when called from xelm context, it's 1, saying
 516    that ! means xpath, not element name as attribute name...
 517
 518    pop, 2002-12-13
 519  */
 520 static int parse_termlists (data1_handle dh, data1_termlist ***tpp,
 521                             char *cp, const char *file, int lineno,
 522                             const char *element_name, data1_absyn *res,
 523                             int xpelement)
 524 {
 525     data1_termlist **tp = *tpp;
 526     while(1)
 527     {
 528         char attname[512], structure[512];
 529         char *source;
 530         int r, i;
 531         int level = 0;
 532         structure[0] = '\0';
 533         for (i = 0; cp[i] && i<sizeof(attname)-1; i++)
 534             if (strchr(":,", cp[i]))
 535                 break;
 536             else
 537                 attname[i] = cp[i];
 538         if (i == 0)
 539         {
 540             if (*cp)
 541                 yaz_log(YLOG_WARN,
 542                         "%s:%d: Syntax error in termlistspec '%s'",
 543                         file, lineno, cp);
 544             break;
 545         }
 546         attname[i] = '\0';
 547         r = 1;
 548         cp += i;
 549         if (*cp == ':')
 550             cp++;
 551
 552         for (i = 0; cp[i] && i<sizeof(structure)-1; i++)
 553             if (level == 0 && strchr(",", cp[i]))
 554                 break;
 555             else
 556             {
 557                 structure[i] = cp[i];
 558                 if (cp[i] == '(')
 559                     level++;
 560                 else if (cp[i] == ')')
 561                     level--;
 562             }
 563         structure[i] = '\0';
 564         if (i)
 565             r = 2;
 566         cp += i;
 567         if (*cp)
 568             cp++;  /* skip , */
 569
 570         *tp = (data1_termlist *)
 571             nmem_malloc(data1_nmem_get(dh), sizeof(**tp));
 572         (*tp)->next = 0;
 573
 574 #if NATTR
 575         (*tp)->index_name = nmem_strdup(data1_nmem_get(dh), element_name);
 576         if (*attname == '!' && xpelement)
 577             (*tp)->index_name = 0;
 578 #else
 579         if (!xpelement) {
 580             if (*attname == '!')
 581                 strcpy(attname, element_name);
 582         }
 583         if (!((*tp)->att = data1_getattbyname(dh, res->attset, attname)))
 584         {
 585             if ((!xpelement) || (*attname != '!')) {
 586                 yaz_log(YLOG_WARN,
 587                         "%s:%d: Couldn't find att '%s' in attset",
 588                         file, lineno, attname);
 589                 return -1;
 590             } else {
 591                 (*tp)->att = 0;
 592             }
 593         }
 594 #endif
 595         if (r == 2 && (source = strchr(structure, ':')))
 596             *source++ = '\0';   /* cut off structure .. */
 597         else
 598             source = "data";    /* ok: default is leaf data */
 599         (*tp)->source = (char *)
 600             nmem_strdup (data1_nmem_get (dh), source);
 601
 602         if (r < 2) /* is the structure qualified? */
 603             (*tp)->structure = "w";
 604         else
 605             (*tp)->structure = (char *)
 606                 nmem_strdup (data1_nmem_get (dh), structure);
 607         tp = &(*tp)->next;
 608     }
 609
 610     *tpp = tp;
 611     return 0;
 612 }
 613
 614 /* quinn
 615  * Converts a 'melm' field[$subfield] pattern to a simple xpath
 616  */
 617 static int melm2xpath(char *melm, char *buf)
 618 {
 619     char *dollar;
 620     char *field = melm;
 621     char *subfield;
 622     char *fieldtype;
 623     if ((dollar = strchr(melm, '$'))) {
 624         *dollar = '\0';
 625         subfield = ++dollar;
 626     } else
 627         subfield = "";
 628     if (field[0] == '0' && field[1] == '0')
 629         fieldtype = "controlfield";
 630     else
 631         fieldtype = "datafield";
 632     sprintf(buf, "/*/%s[@tag=\"%s\"]", fieldtype, field);
 633     if (*subfield)
 634         sprintf(buf + strlen(buf), "/subfield[@code=\"%s\"]", subfield);
 635     else if (field[0] != '0' || field[1] != '0')
 636         strcat(buf, "/subfield");
 637     yaz_log(YLOG_DEBUG, "Created xpath: '%s'", buf);
 638     return 0;
 639 }
 640
 641 const char *data1_systag_lookup(data1_absyn *absyn, const char *tag,
 642                                 const char *default_value)
 643 {
 644     struct data1_systag *p = absyn->systags;
 645     for (; p; p = p->next)
 646         if (!strcmp(p->name, tag))
 647             return p->value;
 648     return default_value;
 649 }
 650
 651 #define l_isspace(c) ((c) == '\t' || (c) == ' ' || (c) == '\n' || (c) == '\r')
 652
 653 int read_absyn_line(FILE *f, int *lineno, char *line, int len,
 654                     char *argv[], int num)
 655 {
 656     char *p;
 657     int argc;
 658     int quoted = 0;
 659
 660     while ((p = fgets(line, len, f)))
 661     {
 662         (*lineno)++;
 663         while (*p && l_isspace(*p))
 664             p++;
 665         if (*p && *p != '#')
 666             break;
 667     }
 668     if (!p)
 669         return 0;
 670
 671     for (argc = 0; *p ; argc++)
 672     {
 673         if (*p == '#')  /* trailing comment */
 674             break;
 675         argv[argc] = p;
 676         while (*p && !(l_isspace(*p) && !quoted)) {
 677           if (*p =='"') quoted = 1 - quoted;
 678           if (*p =='[') quoted = 1;
 679           if (*p ==']') quoted = 0;
 680           p++;
 681         }
 682         if (*p)
 683         {
 684             *(p++) = '\0';
 685             while (*p && l_isspace(*p))
 686                 p++;
 687         }
 688     }
 689     return argc;
 690 }
 691
 692 data1_marctab *data1_absyn_getmarctab(data1_handle dh, data1_absyn *absyn)
 693 {
 694     return absyn->marc;
 695 }
 696
 697 YAZ_EXPORT data1_element *data1_absyn_getelements(data1_handle dh,
 698                                                   data1_absyn *absyn)
 699 {
 700     return absyn->main_elements;
 701 }
 702
 703 data1_absyn *data1_read_absyn (data1_handle dh, const char *file,
 704                                int file_must_exist)
 705 {
 706     data1_sub_elements *cur_elements = NULL;
 707     data1_xpelement *cur_xpelement = NULL;
 708
 709     data1_absyn *res = 0;
 710     FILE *f;
 711     data1_element **ppl[D1_MAX_NESTING];
 712     data1_esetname **esetpp;
 713     data1_maptab **maptabp;
 714     data1_marctab **marcp;
 715     data1_termlist *all = 0;
 716     data1_attset_child **attset_childp;
 717     data1_tagset **tagset_childp;
 718     struct data1_systag **systagsp;
 719     int level = 0;
 720     int lineno = 0;
 721     int argc;
 722     char *argv[50], line[512];
 723
 724     if (!(f = data1_path_fopen(dh, file, "r")))
 725     {
 726         yaz_log(YLOG_WARN|YLOG_ERRNO, "Couldn't open %s", file);
 727         if (file_must_exist)
 728             return 0;
 729     }
 730
 731     res = (data1_absyn *) nmem_malloc(data1_nmem_get(dh), sizeof(*res));
 732     res->name = 0;
 733     res->reference = VAL_NONE;
 734     res->tagset = 0;
 735     res->encoding = 0;
 736     res->enable_xpath_indexing = (f ? 0 : 1);
 737     res->systags = 0;
 738     systagsp = &res->systags;
 739     tagset_childp = &res->tagset;
 740
 741     res->attset = data1_empty_attset (dh);
 742     attset_childp =  &res->attset->children;
 743
 744     res->varset = 0;
 745     res->esetnames = 0;
 746     esetpp = &res->esetnames;
 747     res->maptabs = 0;
 748     maptabp = &res->maptabs;
 749     res->marc = 0;
 750     marcp = &res->marc;
 751     res->sub_elements = NULL;
 752     res->main_elements = NULL;
 753     res->xp_elements = NULL;
 754
 755     while (f && (argc = read_absyn_line(f, &lineno, line, 512, argv, 50)))
 756     {
 757         char *cmd = *argv;
 758         if (!strcmp(cmd, "elm") || !strcmp(cmd, "element"))
 759         {
 760             data1_element *new_element;
 761             int i;
 762             char *p, *sub_p, *path, *name, *termlists;
 763             int type, value;
 764             data1_termlist **tp;
 765
 766             if (argc < 4)
 767             {
 768                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to elm", file, lineno);
 769                 continue;
 770             }
 771             path = argv[1];
 772             name = argv[2];
 773             termlists = argv[3];
 774
 775             if (!cur_elements)
 776             {
 777                 cur_elements = (data1_sub_elements *)
 778                     nmem_malloc(data1_nmem_get(dh), sizeof(*cur_elements));
 779                 cur_elements->next = res->sub_elements;
 780                 cur_elements->elements = NULL;
 781                 cur_elements->name = "main";
 782                 res->sub_elements = cur_elements;
 783
 784                 level = 0;
 785                 ppl[level] = &cur_elements->elements;
 786             }
 787             p = path;
 788             for (i = 1;; i++)
 789             {
 790                 char *e;
 791
 792                 if ((e = strchr(p, '/')))
 793                     p = e+1;
 794                 else
 795                     break;
 796             }
 797             if (i > level+1)
 798             {
 799                 yaz_log(YLOG_WARN, "%s:%d: Bad level increase", file, lineno);
 800                 fclose(f);
 801                 return 0;
 802             }
 803             level = i;
 804             new_element = *ppl[level-1] = data1_mk_element(dh);
 805
 806             tp = &new_element->termlists;
 807             ppl[level-1] = &new_element->next;
 808             ppl[level] = &new_element->children;
 809
 810             /* consider subtree (if any) ... */
 811             if ((sub_p = strchr (p, ':')) && sub_p[1])
 812             {
 813                 *sub_p++ = '\0';
 814                 new_element->sub_name =
 815                     nmem_strdup (data1_nmem_get(dh), sub_p);
 816             }
 817             /* well-defined tag */
 818             if (sscanf(p, "(%d,%d)", &type, &value) == 2)
 819             {
 820                 if (!res->tagset)
 821                 {
 822                     yaz_log(YLOG_WARN, "%s:%d: No tagset loaded", file, lineno);
 823                     fclose(f);
 824                     return 0;
 825                 }
 826                 if (!(new_element->tag = data1_gettagbynum (dh, res->tagset,
 827                                                             type, value)))
 828                 {
 829                     yaz_log(YLOG_WARN, "%s:%d: Couldn't find tag %s in tagset",
 830                          file, lineno, p);
 831                     fclose(f);
 832                     return 0;
 833                 }
 834             }
 835             /* private tag */
 836             else if (*p)
 837             {
 838                 data1_tag *nt =
 839                     new_element->tag = (data1_tag *)
 840                     nmem_malloc(data1_nmem_get (dh),
 841                                 sizeof(*new_element->tag));
 842                 nt->which = DATA1T_string;
 843                 nt->value.string = nmem_strdup(data1_nmem_get (dh), p);
 844                 nt->names = (data1_name *)
 845                     nmem_malloc(data1_nmem_get(dh),
 846                                 sizeof(*new_element->tag->names));
 847                 nt->names->name = nt->value.string;
 848                 nt->names->next = 0;
 849                 nt->kind = DATA1K_string;
 850                 nt->next = 0;
 851                 nt->tagset = 0;
 852             }
 853             else
 854             {
 855                 yaz_log(YLOG_WARN, "%s:%d: Bad element", file, lineno);
 856                 fclose(f);
 857                 return 0;
 858             }
 859             /* parse termList definitions */
 860             p = termlists;
 861             if (*p != '-')
 862             {
 863                 assert (res->attset);
 864
 865                 if (parse_termlists (dh, &tp, p, file, lineno, name, res, 0))
 866                 {
 867                     fclose (f);
 868                     return 0;
 869                 }
 870                 *tp = all; /* append any ALL entries to the list */
 871             }
 872             new_element->name = nmem_strdup(data1_nmem_get (dh), name);
 873         }
 874         /* *ostrich*
 875            New code to support xelm directive
 876            for each xelm a dfa is built. xelms are stored in res->xp_elements
 877
 878            maybe we should use a simple sscanf instead of dfa?
 879
 880            pop, 2002-12-13
 881
 882            Now [] predicates are supported. regexps and xpath structure is
 883            a bit redundant, however it's comfortable later...
 884
 885            pop, 2003-01-17
 886         */
 887
 888         else if (!strcmp(cmd, "xelm") || !strcmp(cmd, "melm")) {
 889
 890             int i;
 891             char *p, *xpath_expr, *termlists;
 892             const char *regexp;
 893             struct DFA *dfa = dfa = dfa_init();
 894             data1_termlist **tp;
 895             char melm_xpath[128];
 896
 897             if (argc < 3)
 898             {
 899                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to xelm", file, lineno);
 900                 continue;
 901             }
 902
 903             if (!strcmp(cmd, "melm")) {
 904                 if (melm2xpath(argv[1], melm_xpath) < 0)
 905                     continue;
 906                 xpath_expr = melm_xpath;
 907             } else {
 908                 xpath_expr = argv[1];
 909             }
 910             termlists = argv[2];
 911             regexp = mk_xpath_regexp(dh, xpath_expr);
 912             i = dfa_parse (dfa, &regexp);
 913             if (i || *regexp) {
 914                 yaz_log(YLOG_WARN, "%s:%d: Bad xpath to xelm", file, lineno);
 915                 dfa_delete (&dfa);
 916                 continue;
 917             }
 918
 919             if (!cur_xpelement)
 920             {
 921                 cur_xpelement = (data1_xpelement *)
 922                     nmem_malloc(data1_nmem_get(dh), sizeof(*cur_xpelement));
 923                 res->xp_elements = cur_xpelement;
 924             } else {
 925                 cur_xpelement->next = (data1_xpelement *)
 926                     nmem_malloc(data1_nmem_get(dh), sizeof(*cur_xpelement));
 927                 cur_xpelement = cur_xpelement->next;
 928             }
 929             cur_xpelement->next = NULL;
 930             cur_xpelement->xpath_expr = nmem_strdup(data1_nmem_get (dh),
 931                                                     xpath_expr);
 932
 933             dfa_mkstate (dfa);
 934             cur_xpelement->dfa = dfa;
 935
 936 #ifdef ENHANCED_XELM
 937             cur_xpelement->xpath_len =
 938                 zebra_parse_xpath_str(xpath_expr,
 939                                       cur_xpelement->xpath, XPATH_STEP_COUNT,
 940                                       data1_nmem_get(dh));
 941
 942             /*
 943             dump_xp_steps(cur_xpelement->xpath,cur_xpelement->xpath_len);
 944             */
 945 #endif
 946             cur_xpelement->termlists = 0;
 947             tp = &cur_xpelement->termlists;
 948
 949             /* parse termList definitions */
 950             p = termlists;
 951             if (*p != '-')
 952             {
 953                 assert (res->attset);
 954
 955                 if (parse_termlists (dh, &tp, p, file, lineno,
 956                                      xpath_expr, res, 1))
 957                 {
 958                     fclose (f);
 959                     return 0;
 960                 }
 961                 *tp = all; /* append any ALL entries to the list */
 962             }
 963         }
 964         else if (!strcmp(cmd, "section"))
 965         {
 966             char *name;
 967
 968             if (argc < 2)
 969             {
 970                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to section",
 971                         file, lineno);
 972                 continue;
 973             }
 974             name = argv[1];
 975
 976             cur_elements = (data1_sub_elements *)
 977                 nmem_malloc(data1_nmem_get(dh), sizeof(*cur_elements));
 978             cur_elements->next = res->sub_elements;
 979             cur_elements->elements = NULL;
 980             cur_elements->name = nmem_strdup (data1_nmem_get(dh), name);
 981             res->sub_elements = cur_elements;
 982
 983             level = 0;
 984             ppl[level] = &cur_elements->elements;
 985         }
 986         else if (!strcmp(cmd, "xpath"))
 987         {
 988             if (argc != 2)
 989             {
 990                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to 'xpath' directive",
 991                      file, lineno);
 992                 continue;
 993             }
 994             if (!strcmp(argv[1], "enable"))
 995                 res->enable_xpath_indexing = 1;
 996             else if (!strcmp (argv[1], "disable"))
 997                 res->enable_xpath_indexing = 0;
 998             else
 999             {
1000                 yaz_log(YLOG_WARN, "%s:%d: Expecting disable/enable "
1001                         "after 'xpath' directive", file, lineno);
1002             }
1003         }
1004         else if (!strcmp(cmd, "all"))
1005         {
1006             data1_termlist **tp = &all;
1007             if (all)
1008             {
1009                 yaz_log(YLOG_WARN, "%s:%d: Too many 'all' directives - ignored",
1010                      file, lineno);
1011                 continue;
1012             }
1013             if (argc != 2)
1014             {
1015                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to 'all' directive",
1016                      file, lineno);
1017                 continue;
1018             }
1019             if (parse_termlists (dh, &tp, argv[1], file, lineno, 0, res, 0))
1020             {
1021                 fclose (f);
1022                 return 0;
1023             }
1024         }
1025         else if (!strcmp(cmd, "name"))
1026         {
1027             if (argc != 2)
1028             {
1029                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to name directive",
1030                      file, lineno);
1031                 continue;
1032             }
1033             res->name = nmem_strdup(data1_nmem_get(dh), argv[1]);
1034         }
1035         else if (!strcmp(cmd, "reference"))
1036         {
1037             char *name;
1038
1039             if (argc != 2)
1040             {
1041                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to reference",
1042                      file, lineno);
1043                 continue;
1044             }
1045             name = argv[1];
1046             if ((res->reference = oid_getvalbyname(name)) == VAL_NONE)
1047             {
1048                 yaz_log(YLOG_WARN, "%s:%d: Unknown tagset ref '%s'",
1049                      file, lineno, name);
1050                 continue;
1051             }
1052         }
1053         else if (!strcmp(cmd, "attset"))
1054         {
1055 #if NATTR
1056             yaz_log(YLOG_WARN, "%s:%d: attset obsolete", file, lineno);
1057 #else
1058             char *name;
1059             data1_attset *attset;
1060
1061             if (argc != 2)
1062             {
1063                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to attset",
1064                      file, lineno);
1065                 continue;
1066             }
1067             name = argv[1];
1068             if (!(attset = data1_get_attset (dh, name)))
1069             {
1070                 yaz_log(YLOG_WARN, "%s:%d: Couldn't find attset  %s",
1071                      file, lineno, name);
1072                 continue;
1073             }
1074             *attset_childp = (data1_attset_child *)
1075                 nmem_malloc (data1_nmem_get(dh), sizeof(**attset_childp));
1076             (*attset_childp)->child = attset;
1077             (*attset_childp)->next = 0;
1078             attset_childp = &(*attset_childp)->next;
1079 #endif
1080         }
1081         else if (!strcmp(cmd, "tagset"))
1082         {
1083             char *name;
1084             int type = 0;
1085             if (argc < 2)
1086             {
1087                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args to tagset",
1088                      file, lineno);
1089                 continue;
1090             }
1091             name = argv[1];
1092             if (argc == 3)
1093                 type = atoi(argv[2]);
1094             *tagset_childp = data1_read_tagset (dh, name, type);
1095             if (!(*tagset_childp))
1096             {
1097                 yaz_log(YLOG_WARN, "%s:%d: Couldn't load tagset %s",
1098                      file, lineno, name);
1099                 continue;
1100             }
1101             tagset_childp = &(*tagset_childp)->next;
1102         }
1103         else if (!strcmp(cmd, "varset"))
1104         {
1105             char *name;
1106
1107             if (argc != 2)
1108             {
1109                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args in varset",
1110                      file, lineno);
1111                 continue;
1112             }
1113             name = argv[1];
1114             if (!(res->varset = data1_read_varset (dh, name)))
1115             {
1116                 yaz_log(YLOG_WARN, "%s:%d: Couldn't load Varset %s",
1117                      file, lineno, name);
1118                 continue;
1119             }
1120         }
1121         else if (!strcmp(cmd, "esetname"))
1122         {
1123             char *name, *fname;
1124
1125             if (argc != 3)
1126             {
1127                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args in esetname",
1128                      file, lineno);
1129                 continue;
1130             }
1131             name = argv[1];
1132             fname = argv[2];
1133
1134             *esetpp = (data1_esetname *)
1135                 nmem_malloc(data1_nmem_get(dh), sizeof(**esetpp));
1136             (*esetpp)->name = nmem_strdup(data1_nmem_get(dh), name);
1137             (*esetpp)->next = 0;
1138             if (*fname == '@')
1139                 (*esetpp)->spec = 0;
1140             else if (!((*esetpp)->spec = data1_read_espec1 (dh, fname)))
1141             {
1142                 yaz_log(YLOG_WARN, "%s:%d: Espec-1 read failed for %s",
1143                      file, lineno, fname);
1144                 continue;
1145             }
1146             esetpp = &(*esetpp)->next;
1147         }
1148         else if (!strcmp(cmd, "maptab"))
1149         {
1150             char *name;
1151
1152             if (argc != 2)
1153             {
1154                 yaz_log(YLOG_WARN, "%s:%d: Bad # of args for maptab",
1155                      file, lineno);
1156                 continue;
1157             }
1158             name = argv[1];
1159             if (!(*maptabp = data1_read_maptab (dh, name)))
1160             {
1161                 yaz_log(YLOG_WARN, "%s:%d: Couldn't load maptab %s",
1162                      file, lineno, name);
1163                 continue;
1164             }
1165             maptabp = &(*maptabp)->next;
1166         }
1167         else if (!strcmp(cmd, "marc"))
1168         {
1169             char *name;
1170
1171             if (argc != 2)
1172             {
1173                 yaz_log(YLOG_WARN, "%s:%d: Bad # or args for marc",
1174                      file, lineno);
1175                 continue;
1176             }
1177             name = argv[1];
1178             if (!(*marcp = data1_read_marctab (dh, name)))
1179             {
1180                 yaz_log(YLOG_WARN, "%s:%d: Couldn't read marctab %s",
1181                      file, lineno, name);
1182                 continue;
1183             }
1184             marcp = &(*marcp)->next;
1185         }
1186         else if (!strcmp(cmd, "encoding"))
1187         {
1188             if (argc != 2)
1189             {
1190                 yaz_log(YLOG_WARN, "%s:%d: Bad # or args for encoding",
1191                      file, lineno);
1192                 continue;
1193             }
1194             res->encoding = nmem_strdup (data1_nmem_get(dh), argv[1]);
1195         }
1196         else if (!strcmp(cmd, "systag"))
1197         {
1198             if (argc != 3)
1199             {
1200                 yaz_log(YLOG_WARN, "%s:%d: Bad # or args for systag",
1201                      file, lineno);
1202                 continue;
1203             }
1204             *systagsp = nmem_malloc (data1_nmem_get(dh), sizeof(**systagsp));
1205
1206             (*systagsp)->name = nmem_strdup(data1_nmem_get(dh), argv[1]);
1207             (*systagsp)->value = nmem_strdup(data1_nmem_get(dh), argv[2]);
1208             systagsp = &(*systagsp)->next;
1209         }
1210         else
1211         {
1212             yaz_log(YLOG_WARN, "%s:%d: Unknown directive '%s'", file,
1213                     lineno, cmd);
1214             continue;
1215         }
1216     }
1217     if (f)
1218         fclose(f);
1219
1220     for (cur_elements = res->sub_elements; cur_elements;
1221          cur_elements = cur_elements->next)
1222     {
1223         if (!strcmp (cur_elements->name, "main"))
1224             res->main_elements = cur_elements->elements;
1225         fix_element_ref (dh, res, cur_elements->elements);
1226     }
1227     *systagsp = 0;
1228     yaz_log(YLOG_DEBUG, "%s: data1_read_absyn end", file);
1229     return res;
1230 }