data1/d1_read.c

   1 /* $Id: d1_read.c,v 1.8.2.4 2006-08-14 10:38:51 adam Exp $
   2    Copyright (C) 1995,1996,1997,1998,1999,2000,2001,2002,2003,2004
   3    Index Data Aps
   4
   5 This file is part of the Zebra server.
   6
   7 Zebra is free software; you can redistribute it and/or modify it under
   8 the terms of the GNU General Public License as published by the Free
   9 Software Foundation; either version 2, or (at your option) any later
  10 version.
  11
  12 Zebra is distributed in the hope that it will be useful, but WITHOUT ANY
  13 WARRANTY; without even the implied warranty of MERCHANTABILITY or
  14 FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
  15 for more details.
  16
  17 You should have received a copy of the GNU General Public License
  18 along with this program; if not, write to the Free Software
  19 Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
  20
  21 */
  22
  23
  24 /*
  25  * This module reads "loose" SGML and converts it to data1 tree
  26  */
  27
  28 #include <assert.h>
  29 #include <stdio.h>
  30 #include <stdlib.h>
  31
  32 #include <yaz/xmalloc.h>
  33 #include <yaz/yaz-util.h>
  34 #include <yaz/log.h>
  35 #include <data1.h>
  36
  37 data1_node *data1_get_root_tag (data1_handle dh, data1_node *n)
  38 {
  39     if (!n)
  40         return 0;
  41     if (data1_is_xmlmode(dh))
  42     {
  43         n = n->child;
  44         while (n && n->which != DATA1N_tag)
  45             n = n->next;
  46     }
  47     return n;
  48 }
  49
  50 /*
  51  * get the tag which is the immediate parent of this node (this may mean
  52  * traversing intermediate things like variants and stuff.
  53  */
  54 data1_node *get_parent_tag (data1_handle dh, data1_node *n)
  55 {
  56     if (data1_is_xmlmode(dh))
  57     {
  58         for (; n && n->which != DATA1N_root; n = n->parent)
  59             if (n->which == DATA1N_tag && n->parent &&
  60                 n->parent->which != DATA1N_root)
  61                 return n;
  62     }
  63     else
  64     {
  65         for (; n && n->which != DATA1N_root; n = n->parent)
  66             if (n->which == DATA1N_tag)
  67                 return n;
  68     }
  69     return 0;
  70 }
  71
  72 data1_node *data1_mk_node (data1_handle dh, NMEM m)
  73 {
  74     return data1_mk_node2 (dh, m, DATA1N_root, 0);
  75 }
  76
  77 data1_node *data1_mk_node_type (data1_handle dh, NMEM m, int type)
  78 {
  79     return data1_mk_node2 (dh, m, type, 0);
  80 }
  81
  82 static void data1_init_node (data1_handle dh, data1_node *r, int type)
  83 {
  84     r->which = type;
  85     switch(type)
  86     {
  87     case DATA1N_tag:
  88         r->u.tag.tag = 0;
  89         r->u.tag.element = 0;
  90         r->u.tag.no_data_requested = 0;
  91         r->u.tag.node_selected = 0;
  92         r->u.tag.make_variantlist = 0;
  93         r->u.tag.get_bytes = -1;
  94         r->u.tag.attributes = 0;
  95         break;
  96     case DATA1N_root:
  97         r->u.root.type = 0;
  98         r->u.root.absyn = 0;
  99         break;
 100     case DATA1N_data:
 101         r->u.data.data = 0;
 102         r->u.data.len = 0;
 103         r->u.data.what = 0;
 104         r->u.data.formatted_text = 0;
 105         break;
 106     case DATA1N_comment:
 107         r->u.data.data = 0;
 108         r->u.data.len = 0;
 109         r->u.data.what = 0;
 110         r->u.data.formatted_text = 1;
 111         break;
 112     case DATA1N_variant:
 113         r->u.variant.type = 0;
 114         r->u.variant.value = 0;
 115         break;
 116     case DATA1N_preprocess:
 117         r->u.preprocess.target = 0;
 118         r->u.preprocess.attributes = 0;
 119         break;
 120     default:
 121         logf (LOG_WARN, "data_mk_node_type. bad type = %d\n", type);
 122     }
 123 }
 124
 125 data1_node *data1_append_node (data1_handle dh, NMEM m, int type,
 126                                data1_node *parent)
 127 {
 128     data1_node *r = (data1_node *)nmem_malloc(m, sizeof(*r));
 129     r->next = r->child = r->last_child = 0;
 130     r->destroy = 0;
 131
 132     r->parent = parent;
 133     if (!parent)
 134         r->root = r;
 135     else
 136     {
 137         r->root = parent->root;
 138         if (!parent->child)
 139             parent->child = parent->last_child = r;
 140         else
 141             parent->last_child->next = r;
 142         parent->last_child = r;
 143     }
 144     data1_init_node(dh, r, type);
 145     return r;
 146 }
 147
 148 data1_node *data1_mk_node2 (data1_handle dh, NMEM m, int type,
 149                             data1_node *parent)
 150 {
 151     return data1_append_node (dh, m, type, parent);
 152 }
 153
 154 data1_node *data1_insert_node (data1_handle dh, NMEM m, int type,
 155                                data1_node *parent)
 156 {
 157     data1_node *r = (data1_node *)nmem_malloc(m, sizeof(*r));
 158     r->next = r->child = r->last_child = 0;
 159     r->destroy = 0;
 160
 161     if (!parent)
 162         r->root = r;
 163     else
 164     {
 165         r->root = parent->root;
 166         r->parent = parent;
 167         if (!parent->child)
 168             parent->last_child = r;
 169         else
 170             r->next = parent->child;
 171         parent->child = r;
 172     }
 173     data1_init_node(dh, r, type);
 174     return r;
 175 }
 176
 177 void data1_free_tree (data1_handle dh, data1_node *t)
 178 {
 179     data1_node *p = t->child, *pn;
 180
 181     while (p)
 182     {
 183         pn = p->next;
 184         data1_free_tree (dh, p);
 185         p = pn;
 186     }
 187     if (t->destroy)
 188         (*t->destroy)(t);
 189 }
 190
 191 data1_node *data1_mk_root (data1_handle dh, NMEM nmem, const char *name)
 192 {
 193     data1_absyn *absyn = data1_get_absyn (dh, name);
 194     data1_node *res;
 195     if (!absyn)
 196     {
 197         yaz_log(LOG_WARN, "Unable to acquire abstract syntax " "for '%s'",
 198                 name);
 199         /* It's now OK for a record not to have an absyn */
 200     }
 201     res = data1_mk_node2 (dh, nmem, DATA1N_root, 0);
 202     res->u.root.type = data1_insert_string (dh, res, nmem, name);
 203     res->u.root.absyn = absyn;
 204     return res;
 205 }
 206
 207 void data1_set_root(data1_handle dh, data1_node *res,
 208                     NMEM nmem, const char *name)
 209 {
 210     data1_absyn *absyn = data1_get_absyn (dh, name);
 211
 212     res->u.root.type = data1_insert_string (dh, res, nmem, name);
 213     res->u.root.absyn = absyn;
 214 }
 215
 216 void data1_add_attrs(data1_handle dh, NMEM nmem, const char **attr,
 217                      data1_xattr **p)
 218 {
 219     while (*p)
 220         p = &(*p)->next;
 221
 222     while (attr && *attr)
 223     {
 224         *p = (data1_xattr*) nmem_malloc (nmem, sizeof(**p));
 225         (*p)->name = nmem_strdup (nmem, *attr++);
 226         (*p)->value = nmem_strdup (nmem, *attr++);
 227         (*p)->what = DATA1I_text;
 228
 229         p = &(*p)->next;
 230     }
 231     *p = 0;
 232 }
 233
 234 data1_node *data1_mk_preprocess (data1_handle dh, NMEM nmem,
 235                                  const char *target,
 236                                  const char **attr, data1_node *at)
 237 {
 238     return data1_mk_preprocess_n (dh, nmem, target, strlen(target),
 239                                   attr, at);
 240 }
 241
 242 data1_node *data1_mk_preprocess_n (data1_handle dh, NMEM nmem,
 243                                    const char *target, size_t len,
 244                                    const char **attr, data1_node *at)
 245 {
 246     data1_node *res = data1_mk_node2 (dh, nmem, DATA1N_preprocess, at);
 247     res->u.preprocess.target = data1_insert_string_n (dh, res, nmem,
 248                                                       target, len);
 249
 250     data1_add_attrs(dh, nmem, attr, &res->u.preprocess.attributes);
 251     return res;
 252 }
 253
 254 data1_node *data1_insert_preprocess (data1_handle dh, NMEM nmem,
 255                                  const char *target,
 256                                  const char **attr, data1_node *at)
 257 {
 258     return data1_insert_preprocess_n (dh, nmem, target, strlen(target),
 259                                       attr, at);
 260 }
 261
 262 data1_node *data1_insert_preprocess_n (data1_handle dh, NMEM nmem,
 263                                    const char *target, size_t len,
 264                                    const char **attr, data1_node *at)
 265 {
 266     data1_node *res = data1_insert_node (dh, nmem, DATA1N_preprocess, at);
 267     res->u.preprocess.target = data1_insert_string_n (dh, res, nmem,
 268                                                       target, len);
 269
 270     data1_add_attrs(dh, nmem, attr, &res->u.preprocess.attributes);
 271     return res;
 272 }
 273
 274 data1_node *data1_mk_tag_n (data1_handle dh, NMEM nmem,
 275                             const char *tag, size_t len, const char **attr,
 276                             data1_node *at)
 277 {
 278     data1_node *partag = get_parent_tag(dh, at);
 279     data1_node *res = data1_mk_node2 (dh, nmem, DATA1N_tag, at);
 280     data1_element *e = 0;
 281
 282     res->u.tag.tag = data1_insert_string_n (dh, res, nmem, tag, len);
 283
 284     if (!partag)  /* top tag? */
 285         e  = data1_getelementbytagname (dh, at->root->u.root.absyn,
 286                                         0 /* index as local */,
 287                                         res->u.tag.tag);
 288     else
 289     {
 290         /* only set element for known tags */
 291         e = partag->u.tag.element;
 292         if (e)
 293             e = data1_getelementbytagname (dh, at->root->u.root.absyn,
 294                                            e, res->u.tag.tag);
 295     }
 296     res->u.tag.element = e;
 297     data1_add_attrs(dh, nmem, attr, &res->u.tag.attributes);
 298     return res;
 299 }
 300
 301 void data1_tag_add_attr (data1_handle dh, NMEM nmem,
 302                          data1_node *res, const char **attr)
 303 {
 304     if (res->which != DATA1N_tag)
 305         return;
 306
 307     data1_add_attrs(dh, nmem, attr, &res->u.tag.attributes);
 308 }
 309
 310 data1_node *data1_mk_tag (data1_handle dh, NMEM nmem,
 311                           const char *tag, const char **attr, data1_node *at)
 312 {
 313     return data1_mk_tag_n (dh, nmem, tag, strlen(tag), attr, at);
 314 }
 315
 316 data1_node *data1_search_tag (data1_handle dh, data1_node *n,
 317                               const char *tag)
 318 {
 319     if (*tag == '/')
 320     {
 321         n = data1_get_root_tag (dh, n);
 322         if (n)
 323             n = n->child;
 324         tag++;
 325     }
 326     for (; n; n = n->next)
 327         if (n->which == DATA1N_tag && n->u.tag.tag &&
 328             !yaz_matchstr (n->u.tag.tag, tag))
 329         {
 330             return n;
 331         }
 332     return 0;
 333 }
 334
 335 data1_node *data1_mk_tag_uni (data1_handle dh, NMEM nmem,
 336                               const char *tag, data1_node *at)
 337 {
 338     data1_node *node = data1_search_tag (dh, at->child, tag);
 339     if (!node)
 340         node = data1_mk_tag (dh, nmem, tag, 0 /* attr */, at);
 341     else
 342         node->child = node->last_child = 0;
 343     return node;
 344 }
 345
 346 data1_node *data1_mk_text_n (data1_handle dh, NMEM mem,
 347                              const char *buf, size_t len, data1_node *parent)
 348 {
 349     data1_node *res = data1_mk_node2 (dh, mem, DATA1N_data, parent);
 350     res->u.data.what = DATA1I_text;
 351     res->u.data.len = len;
 352
 353     res->u.data.data = data1_insert_string_n (dh, res, mem, buf, len);
 354     return res;
 355 }
 356
 357 data1_node *data1_mk_text_nf (data1_handle dh, NMEM mem,
 358                               const char *buf, size_t len, data1_node *parent)
 359 {
 360     data1_node *res = data1_mk_text_n (dh, mem, buf, len, parent);
 361     res->u.data.formatted_text = 1;
 362     return res;
 363 }
 364
 365 data1_node *data1_mk_text (data1_handle dh, NMEM mem,
 366                            const char *buf, data1_node *parent)
 367 {
 368     return data1_mk_text_n (dh, mem, buf, strlen(buf), parent);
 369 }
 370
 371 data1_node *data1_mk_comment_n (data1_handle dh, NMEM mem,
 372                                 const char *buf, size_t len,
 373                                 data1_node *parent)
 374 {
 375     data1_node *res = data1_mk_node2 (dh, mem, DATA1N_comment, parent);
 376     res->u.data.what = DATA1I_text;
 377     res->u.data.len = len;
 378
 379     res->u.data.data = data1_insert_string_n (dh, res, mem, buf, len);
 380     return res;
 381 }
 382
 383 data1_node *data1_mk_comment (data1_handle dh, NMEM mem,
 384                               const char *buf, data1_node *parent)
 385 {
 386     return data1_mk_comment_n (dh, mem, buf, strlen(buf), parent);
 387 }
 388
 389 char *data1_insert_string_n (data1_handle dh, data1_node *res,
 390                              NMEM m, const char *str, size_t len)
 391 {
 392     char *b;
 393     if (len >= DATA1_LOCALDATA)
 394         b = (char *) nmem_malloc (m, len+1);
 395     else
 396         b = res->lbuf;
 397     memcpy (b, str, len);
 398     b[len] = 0;
 399     return b;
 400 }
 401
 402 char *data1_insert_string (data1_handle dh, data1_node *res,
 403                            NMEM m, const char *str)
 404 {
 405     return data1_insert_string_n (dh, res, m, str, strlen(str));
 406 }
 407
 408 static data1_node *data1_add_insert_taggeddata(data1_handle dh,
 409                                                data1_node *at,
 410                                                const char *tagname, NMEM m,
 411                                                int local_allowed,
 412                                                int insert_mode)
 413 {
 414     data1_node *root = at->root;
 415     data1_node *partag = get_parent_tag (dh, at);
 416     data1_element *e = NULL;
 417     data1_node *datn = 0;
 418     data1_node *tagn = 0;
 419
 420     if (!partag)
 421         e = data1_getelementbytagname (dh, root->u.root.absyn, 0, tagname);
 422     else
 423     {
 424         e = partag->u.tag.element;
 425         if (e)
 426             e = data1_getelementbytagname (dh, root->u.root.absyn, e, tagname);
 427     }
 428     if (local_allowed || e)
 429     {
 430         if (insert_mode)
 431             tagn = data1_insert_node (dh, m, DATA1N_tag, at);
 432         else
 433             tagn = data1_append_node (dh, m, DATA1N_tag, at);
 434         tagn->u.tag.tag = data1_insert_string (dh, tagn, m, tagname);
 435         tagn->u.tag.element = e;
 436         datn = data1_mk_node2 (dh, m, DATA1N_data, tagn);
 437     }
 438     return datn;
 439 }
 440
 441 data1_node *data1_mk_tag_data(data1_handle dh, data1_node *at,
 442                               const char *tagname, NMEM m)
 443 {
 444     return data1_add_insert_taggeddata (dh, at, tagname, m, 1, 0);
 445 }
 446
 447
 448 /*
 449  * Insert a tagged node into the record root as first child of the node at
 450  * which should be root or tag itself). Returns pointer to the data node,
 451  * which can then be modified.
 452  */
 453 data1_node *data1_mk_tag_data_wd(data1_handle dh, data1_node *at,
 454                                  const char *tagname, NMEM m)
 455 {
 456     return data1_add_insert_taggeddata (dh, at, tagname, m, 0, 1);
 457 }
 458
 459 data1_node *data1_insert_taggeddata (data1_handle dh, data1_node *root,
 460                                      data1_node *at, const char *tagname,
 461                                      NMEM m)
 462 {
 463     return data1_add_insert_taggeddata (dh, at, tagname, m, 0, 1);
 464 }
 465
 466 data1_node *data1_add_taggeddata (data1_handle dh, data1_node *root,
 467                                   data1_node *at, const char *tagname,
 468                                   NMEM m)
 469 {
 470     return data1_add_insert_taggeddata (dh, at, tagname, m, 1, 0);
 471 }
 472
 473 data1_node *data1_mk_tag_data_int (data1_handle dh, data1_node *at,
 474                                    const char *tag, int num,
 475                                    NMEM nmem)
 476 {
 477     data1_node *node_data;
 478
 479     node_data = data1_mk_tag_data (dh, at, tag, nmem);
 480     if (!node_data)
 481         return 0;
 482     node_data->u.data.what = DATA1I_num;
 483     node_data->u.data.data = node_data->lbuf;
 484     sprintf (node_data->u.data.data, "%d", num);
 485     node_data->u.data.len = strlen (node_data->u.data.data);
 486     return node_data;
 487 }
 488
 489 data1_node *data1_mk_tag_data_oid (data1_handle dh, data1_node *at,
 490                                    const char *tag, Odr_oid *oid,
 491                                    NMEM nmem)
 492 {
 493     data1_node *node_data;
 494     char str[128], *p = str;
 495     Odr_oid *ii;
 496
 497     node_data = data1_mk_tag_data (dh, at, tag, nmem);
 498     if (!node_data)
 499         return 0;
 500
 501     for (ii = oid; *ii >= 0; ii++)
 502     {
 503         if (ii != oid)
 504             *p++ = '.';
 505         sprintf (p, "%d", *ii);
 506         p += strlen (p);
 507     }
 508     node_data->u.data.what = DATA1I_oid;
 509     node_data->u.data.len = strlen (str);
 510     node_data->u.data.data = data1_insert_string (dh, node_data, nmem, str);
 511     return node_data;
 512 }
 513
 514
 515 data1_node *data1_mk_tag_data_text (data1_handle dh, data1_node *at,
 516                                     const char *tag, const char *str,
 517                                     NMEM nmem)
 518 {
 519     data1_node *node_data;
 520
 521     node_data = data1_mk_tag_data (dh, at, tag, nmem);
 522     if (!node_data)
 523         return 0;
 524     node_data->u.data.what = DATA1I_text;
 525     node_data->u.data.len = strlen (str);
 526     node_data->u.data.data = data1_insert_string (dh, node_data, nmem, str);
 527     return node_data;
 528 }
 529
 530
 531 data1_node *data1_mk_tag_data_text_uni (data1_handle dh, data1_node *at,
 532                                         const char *tag, const char *str,
 533                                         NMEM nmem)
 534 {
 535     data1_node *node = data1_search_tag (dh, at->child, tag);
 536     if (!node)
 537         return data1_mk_tag_data_text (dh, at, tag, str, nmem);
 538     else
 539     {
 540         data1_node *node_data = node->child;
 541         node_data->u.data.what = DATA1I_text;
 542         node_data->u.data.len = strlen (str);
 543         node_data->u.data.data = data1_insert_string (dh, node_data,
 544                                                       nmem, str);
 545         node_data->child = node_data->last_child = 0;
 546         return node_data;
 547     }
 548 }
 549
 550 static int ampr (int (*get_byte)(void *fh), void *fh, int *amp)
 551 {
 552 #if 1
 553     int c = (*get_byte)(fh);
 554     *amp = 0;
 555     return c;
 556 #else
 557     int c = (*get_byte)(fh);
 558     *amp = 0;
 559     if (c == '&')
 560     {
 561         char ent[20];
 562         int i = 0;
 563
 564         while (1)
 565         {
 566             c = (*get_byte)(fh);
 567             if (c == ';')
 568             {
 569                 ent[i] = 0;
 570
 571                 c = ' ';
 572                 if (!strcmp (ent, "quot"))
 573                     c = '"';
 574                 if (!strcmp (ent, "apos"))
 575                     c = '\'';
 576                 if (!strcmp (ent, "gt"))
 577                     c = '>';
 578                 if (!strcmp (ent, "lt"))
 579                     c = '<';
 580                 if (!strcmp (ent, "amp"))
 581                     c = '&';
 582                 *amp = 1;
 583                 break;
 584             }
 585             else if (c == 0 || d1_isspace(c))
 586                 break;
 587             if (i < 19)
 588                 ent[i++] = c;
 589         }
 590     }
 591     return c;
 592 #endif
 593 }
 594
 595 data1_xattr *data1_read_xattr (data1_handle dh, NMEM m,
 596                                int (*get_byte)(void *fh), void *fh,
 597                                WRBUF wrbuf, int *ch, int *amp)
 598 {
 599     data1_xattr *p_first = 0;
 600     data1_xattr **pp = &p_first;
 601     int c = *ch;
 602     for (;;)
 603     {
 604         data1_xattr *p;
 605         int len;
 606         while (*amp || (c && d1_isspace(c)))
 607             c = ampr (get_byte, fh, amp);
 608         if (*amp == 0 && (c == 0 || c == '>' || c == '/'))
 609             break;
 610         *pp = p = (data1_xattr *) nmem_malloc (m, sizeof(*p));
 611         p->next = 0;
 612         pp = &p->next;
 613         p->value = 0;
 614         p->what = DATA1I_xmltext;
 615
 616         wrbuf_rewind(wrbuf);
 617         while (c && c != '=' && c != '>' && c != '/' && !d1_isspace(c))
 618         {
 619             wrbuf_putc (wrbuf, c);
 620             c = ampr (get_byte, fh, amp);
 621         }
 622         wrbuf_putc (wrbuf, '\0');
 623         len = wrbuf_len(wrbuf);
 624         p->name = (char*) nmem_malloc (m, len);
 625         strcpy (p->name, wrbuf_buf(wrbuf));
 626         if (c == '=')
 627         {
 628             c = ampr (get_byte, fh, amp);
 629             if (*amp == 0 && c == '"')
 630             {
 631                 c = ampr (get_byte, fh, amp);
 632                 wrbuf_rewind(wrbuf);
 633                 while (*amp || (c && c != '"'))
 634                 {
 635                     wrbuf_putc (wrbuf, c);
 636                     c = ampr (get_byte, fh, amp);
 637                 }
 638                 if (c)
 639                     c = ampr (get_byte, fh, amp);
 640             }
 641             else if (*amp == 0 && c == '\'')
 642             {
 643                 c = ampr (get_byte, fh, amp);
 644                 wrbuf_rewind(wrbuf);
 645                 while (*amp || (c && c != '\''))
 646                 {
 647                     wrbuf_putc (wrbuf, c);
 648                     c = ampr (get_byte, fh, amp);
 649                 }
 650                 if (c)
 651                     c = ampr (get_byte, fh, amp);
 652             }
 653             else
 654             {
 655                 wrbuf_rewind(wrbuf);
 656                 while (*amp || (c && c != '>' && c != '/'))
 657                 {
 658                     wrbuf_putc (wrbuf, c);
 659                     c = ampr (get_byte, fh, amp);
 660                 }
 661             }
 662             wrbuf_putc (wrbuf, '\0');
 663             len = wrbuf_len(wrbuf);
 664             p->value = (char*) nmem_malloc (m, len);
 665             strcpy (p->value, wrbuf_buf(wrbuf));
 666         }
 667     }
 668     *ch = c;
 669     return p_first;
 670 }
 671
 672 /*
 673  * Ugh. Sometimes functions just grow and grow on you. This one reads a
 674  * 'node' and its children.
 675  */
 676 data1_node *data1_read_nodex (data1_handle dh, NMEM m,
 677                               int (*get_byte)(void *fh), void *fh, WRBUF wrbuf)
 678 {
 679     data1_node *d1_stack[256];
 680     data1_node *res;
 681     int c, amp;
 682     int level = 0;
 683     int line = 1;
 684
 685     d1_stack[level] = 0;
 686     c = ampr (get_byte, fh, &amp);
 687     while (c != '\0')
 688     {
 689         data1_node *parent = level ? d1_stack[level-1] : 0;
 690
 691         if (amp == 0 && c == '<') /* beginning of tag */
 692         {
 693             data1_xattr *xattr;
 694
 695             char tag[256];
 696             int null_tag = 0;
 697             int end_tag = 0;
 698             size_t i = 0;
 699
 700             c = ampr (get_byte, fh, &amp);
 701             if (amp == 0 && c == '/')
 702             {
 703                 end_tag = 1;
 704                 c = ampr (get_byte, fh, &amp);
 705             }
 706             else if (amp == 0 && c == '?')
 707             {
 708                 int quote_mode = 0;
 709                 while ((c = ampr(get_byte, fh, &amp)))
 710                 {
 711                     if (amp)
 712                         continue;
 713                     if (quote_mode == 0)
 714                     {
 715                         if (c == '"')
 716                             quote_mode = c;
 717                         else if (c == '\'')
 718                             quote_mode = c;
 719                         else if (c == '>')
 720                         {
 721                             c = ampr(get_byte, fh, &amp);
 722                             break;
 723                         }
 724                     }
 725                     else
 726                     {
 727                         if (amp == 0 && c == quote_mode)
 728                             quote_mode = 0;
 729                     }
 730                 }
 731                 continue;
 732             }
 733             else if (amp == 0 && c == '!')
 734             {
 735                 int c0, amp0;
 736
 737                 wrbuf_rewind(wrbuf);
 738
 739                 c0 = ampr (get_byte, fh, &amp0);
 740                 if (amp0 == 0 && c0 == '\0')
 741                     break;
 742                 c = ampr (get_byte, fh, &amp);
 743
 744                 if (amp0 == 0 && c0 == '-' && amp == 0 && c == '-')
 745                 {
 746                     /* COMMENT: <!-- ... --> */
 747                     int no_dash = 0;
 748
 749                     c = ampr (get_byte, fh, &amp);
 750                     while (amp || c)
 751                     {
 752                         if (amp == 0 && c == '-')
 753                             no_dash++;
 754                         else if (amp == 0 && c == '>' && no_dash >= 2)
 755                         {
 756                             if (level > 0)
 757                                 d1_stack[level] =
 758                                     data1_mk_comment_n (
 759                                         dh, m,
 760                                         wrbuf_buf(wrbuf), wrbuf_len(wrbuf)-2,
 761                                         d1_stack[level-1]);
 762                             c = ampr (get_byte, fh, &amp); /* skip > */
 763                             break;
 764                         }
 765                         else
 766                             no_dash = 0;
 767                         wrbuf_putc (wrbuf, c);
 768                         c = ampr (get_byte, fh, &amp);
 769                     }
 770                     continue;
 771                 }
 772                 else
 773                 {   /* DIRECTIVE: <! .. > */
 774
 775                     int blevel = 0;
 776                     while (amp || c)
 777                     {
 778                         if (amp == 0 && c == '>' && blevel == 0)
 779                         {
 780                             c = ampr (get_byte, fh, &amp);
 781                             break;
 782                         }
 783                         if (amp == 0 && c == '[')
 784                             blevel++;
 785                         if (amp == 0 && c == ']' && blevel > 0)
 786                             blevel--;
 787                         c = ampr (get_byte, fh, &amp);
 788                     }
 789                     continue;
 790                 }
 791             }
 792             while (amp || (c && c != '>' && c != '/' && !d1_isspace(c)))
 793             {
 794                 if (i < (sizeof(tag)-1))
 795                     tag[i++] = c;
 796                 c = ampr (get_byte, fh, &amp);
 797             }
 798             tag[i] = '\0';
 799             xattr = data1_read_xattr (dh, m, get_byte, fh, wrbuf, &c, &amp);
 800             if (amp == 0 && c == '/')
 801             {    /* <tag attrs/> or <tag/> */
 802                 null_tag = 1;
 803                 c = ampr (get_byte, fh, &amp);
 804             }
 805             if (amp || c != '>')
 806             {
 807                 yaz_log(LOG_WARN, "d1: %d: Malformed tag", line);
 808                 return 0;
 809             }
 810             else
 811                 c = ampr (get_byte, fh, &amp);
 812
 813             /* End tag? */
 814             if (end_tag)
 815             {
 816                 if (*tag == '\0')
 817                     --level;        /* </> */
 818                 else
 819                 {                   /* </tag> */
 820                     int i = level;
 821                     while (i > 0)
 822                     {
 823                         parent = d1_stack[--i];
 824                         if ((parent->which == DATA1N_root &&
 825                              !strcmp(tag, parent->u.root.type)) ||
 826                             (parent->which == DATA1N_tag &&
 827                              !strcmp(tag, parent->u.tag.tag)))
 828                         {
 829                             level = i;
 830                             break;
 831                         }
 832                     }
 833                     if (i != level)
 834                     {
 835                         yaz_log (LOG_WARN, "%d: no begin tag for %s",
 836                                  line, tag);
 837                         break;
 838                     }
 839                 }
 840                 if (data1_is_xmlmode(dh))
 841                 {
 842                     if (level <= 1)
 843                         return d1_stack[0];
 844                 }
 845                 else
 846                 {
 847                     if (level <= 0)
 848                         return d1_stack[0];
 849                 }
 850                 continue;
 851             }
 852             else if (!strcmp(tag, "var")
 853                      && xattr && xattr->next && xattr->next->next
 854                      && xattr->value == 0
 855                      && xattr->next->value == 0
 856                      && xattr->next->next->value == 0)
 857             {
 858                 /* <var class type value> */
 859                 const char *tclass = xattr->name;
 860                 const char *type = xattr->next->name;
 861                 const char *value = xattr->next->name;
 862                 data1_vartype *tp;
 863
 864                 if (!(tp =
 865                       data1_getvartypebyct(dh,
 866                                            parent->root->u.root.absyn->varset,
 867                                            tclass, type)))
 868                     continue;
 869                 /*
 870                  * If we're the first variant in this group, create a parent
 871                  * variant, and insert it before the current variant.
 872                  */
 873                 if (parent->which != DATA1N_variant)
 874                 {
 875                     res = data1_mk_node2 (dh, m, DATA1N_variant, parent);
 876                 }
 877                 else
 878                 {
 879                     /*
 880                      * now determine if one of our ancestor triples is of
 881                      * same type. If so, we break here.
 882                      */
 883                     int i;
 884                     for (i = level-1; d1_stack[i]->which==DATA1N_variant; --i)
 885                         if (d1_stack[i]->u.variant.type == tp)
 886                         {
 887                             level = i;
 888                             break;
 889                         }
 890                     res = data1_mk_node2 (dh, m, DATA1N_variant, parent);
 891                     res->u.variant.type = tp;
 892                     res->u.variant.value =
 893                         data1_insert_string (dh, res, m, value);
 894                 }
 895             }
 896             else
 897             {
 898
 899                 /* tag .. acquire our element in the abstract syntax */
 900                 if (level == 0)
 901                 {
 902                     parent = data1_mk_root (dh, m, tag);
 903                     res = d1_stack[level] = parent;
 904
 905                     if (data1_is_xmlmode(dh))
 906                     {
 907                         level++;
 908                         res = data1_mk_tag (dh, m, tag, 0 /* attr */, parent);
 909                         res->u.tag.attributes = xattr;
 910                     }
 911                 }
 912                 else
 913                 {
 914                     res = data1_mk_tag (dh, m, tag, 0 /* attr */, parent);
 915                     res->u.tag.attributes = xattr;
 916                 }
 917             }
 918             d1_stack[level] = res;
 919             d1_stack[level+1] = 0;
 920             if (level < 250 && !null_tag)
 921                 ++level;
 922         }
 923         else /* != '<'... this is a body of text */
 924         {
 925             int len;
 926
 927             if (level == 0)
 928             {
 929                 c = ampr (get_byte, fh, &amp);
 930                 continue;
 931             }
 932             res = data1_mk_node2 (dh, m, DATA1N_data, parent);
 933             res->u.data.what = DATA1I_xmltext;
 934             res->u.data.formatted_text = 0;
 935             d1_stack[level] = res;
 936
 937             wrbuf_rewind(wrbuf);
 938
 939             while (amp || (c && c != '<'))
 940             {
 941                 wrbuf_putc (wrbuf, c);
 942                 c = ampr (get_byte, fh, &amp);
 943             }
 944             len = wrbuf_len(wrbuf);
 945
 946             /* use local buffer of nmem if too large */
 947             if (len >= DATA1_LOCALDATA)
 948                 res->u.data.data = (char*) nmem_malloc (m, len);
 949             else
 950                 res->u.data.data = res->lbuf;
 951
 952             if (len)
 953                 memcpy (res->u.data.data, wrbuf_buf(wrbuf), len);
 954             else
 955                 res->u.data.data = 0;
 956             res->u.data.len = len;
 957         }
 958     }
 959     return 0;
 960 }
 961
 962 int getc_mem (void *fh)
 963 {
 964     const char **p = (const char **) fh;
 965     if (**p)
 966         return *(*p)++;
 967     return 0;
 968 }
 969
 970 data1_node *data1_read_node (data1_handle dh, const char **buf, NMEM m)
 971 {
 972     WRBUF wrbuf = wrbuf_alloc();
 973     data1_node *node;
 974
 975     node = data1_read_nodex(dh, m, getc_mem, (void *) (buf), wrbuf);
 976     wrbuf_free (wrbuf, 1);
 977     return node;
 978 }
 979
 980 /*
 981  * Read a record in the native syntax.
 982  */
 983 data1_node *data1_read_record(data1_handle dh,
 984                               int (*rf)(void *, char *, size_t), void *fh,
 985                               NMEM m)
 986 {
 987     int *size;
 988     char **buf = data1_get_read_buf (dh, &size);
 989     const char *bp;
 990     int rd = 0, res;
 991
 992     if (!*buf)
 993         *buf = (char *)xmalloc(*size = 4096);
 994
 995     for (;;)
 996     {
 997         if (rd + 2048 >= *size && !(*buf =(char *)xrealloc(*buf, *size *= 2)))
 998             abort();
 999         if ((res = (*rf)(fh, *buf + rd, 2048)) <= 0)
1000         {
1001             if (!res)
1002             {
1003                 bp = *buf;
1004                 (*buf)[rd] = '\0';
1005                 return data1_read_node(dh, &bp, m);
1006             }
1007             else
1008                 return 0;
1009         }
1010         rd += res;
1011     }
1012 }
1013
1014 data1_node *data1_read_sgml (data1_handle dh, NMEM m, const char *buf)
1015 {
1016     const char *bp = buf;
1017     return data1_read_node (dh, &bp, m);
1018 }
1019
1020
1021 static int conv_item (NMEM m, yaz_iconv_t t,
1022                       WRBUF wrbuf, char *inbuf, size_t inlen)
1023 {
1024     wrbuf_rewind (wrbuf);
1025     if (wrbuf->size < 10)
1026         wrbuf_grow (wrbuf, 10);
1027     for (;;)
1028     {
1029         char *outbuf = wrbuf->buf + wrbuf->pos;
1030         size_t outlen = wrbuf->size - wrbuf->pos;
1031         if (yaz_iconv (t, &inbuf, &inlen, &outbuf, &outlen) ==
1032             (size_t)(-1) && yaz_iconv_error(t) != YAZ_ICONV_E2BIG)
1033         {
1034             /* bad data. stop and skip conversion entirely */
1035             return -1;
1036         }
1037         else if (inlen == 0)
1038         {   /* finished converting */
1039             wrbuf->pos = wrbuf->size - outlen;
1040             break;
1041         }
1042         else
1043         {
1044             /* buffer too small: make sure we expand buffer */
1045             wrbuf->pos = wrbuf->size - outlen;
1046             wrbuf_grow(wrbuf, 20);
1047         }
1048     }
1049     return 0;
1050 }
1051
1052 static void data1_iconv_s (data1_handle dh, NMEM m, data1_node *n,
1053                            yaz_iconv_t t, WRBUF wrbuf, const char *tocode)
1054 {
1055     for (; n; n = n->next)
1056     {
1057         switch (n->which)
1058         {
1059         case DATA1N_data:
1060         case DATA1N_comment:
1061             if (conv_item (m, t, wrbuf, n->u.data.data, n->u.data.len) == 0)
1062             {
1063                 n->u.data.data =
1064                     data1_insert_string_n (dh, n, m, wrbuf->buf,
1065                                            wrbuf->pos);
1066                 n->u.data.len = wrbuf->pos;
1067             }
1068             break;
1069         case DATA1N_tag:
1070             if (conv_item (m, t, wrbuf, n->u.tag.tag, strlen(n->u.tag.tag))
1071                 == 0)
1072             {
1073                 n->u.tag.tag =
1074                     data1_insert_string_n (dh, n, m,
1075                                            wrbuf->buf, wrbuf->pos);
1076             }
1077             if (n->u.tag.attributes)
1078             {
1079                 data1_xattr *p;
1080                 for (p = n->u.tag.attributes; p; p = p->next)
1081                 {
1082                     if (p->value &&
1083                         conv_item(m, t, wrbuf, p->value, strlen(p->value))
1084                         == 0)
1085                     {
1086                         wrbuf_puts (wrbuf, "");
1087                         p->value = nmem_strdup (m, wrbuf->buf);
1088                     }
1089                 }
1090             }
1091             break;
1092         case DATA1N_preprocess:
1093             if (strcmp(n->u.preprocess.target, "xml") == 0)
1094             {
1095                 data1_xattr *p = n->u.preprocess.attributes;
1096                 for (; p; p = p->next)
1097                     if (strcmp (p->name, "encoding") == 0)
1098                         p->value = nmem_strdup (m, tocode);
1099             }
1100             break;
1101         }
1102         data1_iconv_s (dh, m, n->child, t, wrbuf, tocode);
1103     }
1104 }
1105
1106 const char *data1_get_encoding (data1_handle dh, data1_node *n)
1107 {
1108     /* see if we have an xml header that specifies encoding */
1109     if (n && n->child && n->child->which == DATA1N_preprocess &&
1110         strcmp (n->child->u.preprocess.target, "xml") == 0)
1111     {
1112         data1_xattr *xp = n->child->u.preprocess.attributes;
1113         for (; xp; xp = xp->next)
1114             if (!strcmp (xp->name, "encoding") == 0)
1115                 return xp->value;
1116     }
1117     /* no encoding in header, so see if "encoding" was specified for abs */
1118     if (n && n->which == DATA1N_root &&
1119         n->u.root.absyn && n->u.root.absyn->encoding)
1120         return n->u.root.absyn->encoding;
1121     /* none of above, return a hard coded default */
1122     return "ISO-8859-1";
1123 }
1124
1125 int data1_iconv (data1_handle dh, NMEM m, data1_node *n,
1126                   const char *tocode,
1127                   const char *fromcode)
1128 {
1129     yaz_log(LOG_DEBUG, "data1_iconv tocode=%s fromcode=%s", tocode, fromcode);
1130     if (yaz_matchstr (tocode, fromcode))
1131     {
1132         WRBUF wrbuf = wrbuf_alloc();
1133         yaz_iconv_t t = yaz_iconv_open (tocode, fromcode);
1134         if (!t)
1135         {
1136             wrbuf_free(wrbuf, 1);
1137             return -1;
1138         }
1139         data1_iconv_s (dh, m, n, t, wrbuf, tocode);
1140         yaz_iconv_close (t);
1141         wrbuf_free (wrbuf, 1);
1142     }
1143     return 0;
1144 }
1145
1146 void data1_concat_text(data1_handle dh, NMEM m, data1_node *n)
1147 {
1148     for (; n; n = n->next)
1149     {
1150         if (n->which == DATA1N_data && n->next &&
1151             n->next->which == DATA1N_data)
1152         {
1153             int sz = 0;
1154             int off = 0;
1155             char *ndata;
1156             data1_node *np;
1157             for (np = n; np && np->which == DATA1N_data; np=np->next)
1158                 sz += np->u.data.len;
1159             ndata = nmem_malloc(m, sz);
1160             for (np = n; np && np->which == DATA1N_data; np=np->next)
1161             {
1162                 memcpy(ndata+off, np->u.data.data, np->u.data.len);
1163                 off += np->u.data.len;
1164             }
1165             n->u.data.data = ndata;
1166             n->u.data.len = sz;
1167             n->next = np;
1168             if (!np && n->parent)
1169                 n->parent->last_child = n;
1170
1171         }
1172         data1_concat_text(dh, m, n->child);
1173     }
1174 }