index/zrpn.c

   1 /*
   2  * Copyright (C) 1994-1995, Index Data I/S
   3  * All rights reserved.
   4  * Sebastian Hammer, Adam Dickmeiss
   5  *
   6  * $Log: zrpn.c,v $
   7  * Revision 1.37  1995-12-06 15:05:28  adam
   8  * More verbose in count_set.
   9  *
  10  * Revision 1.36  1995/12/06  12:41:27  adam
  11  * New command 'stat' for the index program.
  12  * Filenames can be read from stdin by specifying '-'.
  13  * Bug fix/enhancement of the transformation from terms to regular
  14  * expressons in the search engine.
  15  *
  16  * Revision 1.35  1995/11/27  09:29:00  adam
  17  * Bug fixes regarding conversion to regular expressions.
  18  *
  19  * Revision 1.34  1995/11/16  17:00:56  adam
  20  * Better logging of rpn query.
  21  *
  22  * Revision 1.33  1995/11/01  13:58:28  quinn
  23  * Moving data1 to yaz/retrieval
  24  *
  25  * Revision 1.32  1995/10/27  14:00:11  adam
  26  * Implemented detection of database availability.
  27  *
  28  * Revision 1.31  1995/10/17  18:02:10  adam
  29  * New feature: databases. Implemented as prefix to words in dictionary.
  30  *
  31  * Revision 1.30  1995/10/16  09:32:38  adam
  32  * More work on relational op.
  33  *
  34  * Revision 1.29  1995/10/13  16:01:49  adam
  35  * Work on relations.
  36  *
  37  * Revision 1.28  1995/10/13  12:26:43  adam
  38  * Optimization of truncation.
  39  *
  40  * Revision 1.27  1995/10/12  17:07:22  adam
  41  * Truncation works.
  42  *
  43  * Revision 1.26  1995/10/12  12:40:54  adam
  44  * Bug fixes in rpn_prox.
  45  *
  46  * Revision 1.25  1995/10/10  13:59:24  adam
  47  * Function rset_open changed its wflag parameter to general flags.
  48  *
  49  * Revision 1.24  1995/10/09  16:18:37  adam
  50  * Function dict_lookup_grep got extra client data parameter.
  51  *
  52  * Revision 1.23  1995/10/06  16:33:37  adam
  53  * Use attribute mappings.
  54  *
  55  * Revision 1.22  1995/10/06  15:07:39  adam
  56  * Structure 'local-number' handled.
  57  *
  58  * Revision 1.21  1995/10/06  13:52:06  adam
  59  * Bug fixes. Handler may abort further scanning.
  60  *
  61  * Revision 1.20  1995/10/06  11:06:33  adam
  62  * Scan entries include 'occurrences' now.
  63  *
  64  * Revision 1.19  1995/10/06  10:43:56  adam
  65  * Scan added. 'occurrences' in scan entries not set yet.
  66  *
  67  * Revision 1.18  1995/10/04  16:57:20  adam
  68  * Key input and merge sort in one pass.
  69  *
  70  * Revision 1.17  1995/10/04  12:55:17  adam
  71  * Bug fix in ranked search. Use=Any keys inserted.
  72  *
  73  * Revision 1.16  1995/10/02  16:24:40  adam
  74  * Use attribute actually used in search requests.
  75  *
  76  * Revision 1.15  1995/10/02  15:18:52  adam
  77  * New member in recRetrieveCtrl: diagnostic.
  78  *
  79  * Revision 1.14  1995/09/28  12:10:32  adam
  80  * Bug fixes. Field prefix used in queries.
  81  *
  82  * Revision 1.13  1995/09/18  14:17:50  adam
  83  * Minor changes.
  84  *
  85  * Revision 1.12  1995/09/15  14:45:21  adam
  86  * Retrieve control.
  87  * Work on truncation.
  88  *
  89  * Revision 1.11  1995/09/14  11:53:27  adam
  90  * First work on regular expressions/truncations.
  91  *
  92  * Revision 1.10  1995/09/11  15:23:26  adam
  93  * More work on relevance search.
  94  *
  95  * Revision 1.9  1995/09/11  13:09:35  adam
  96  * More work on relevance feedback.
  97  *
  98  * Revision 1.8  1995/09/08  14:52:27  adam
  99  * Minor changes. Dictionary is lower case now.
 100  *
 101  * Revision 1.7  1995/09/07  13:58:36  adam
 102  * New parameter: result-set file descriptor (RSFD) to support multiple
 103  * positions within the same result-set.
 104  * Boolean operators: and, or, not implemented.
 105  * Result-set references.
 106  *
 107  * Revision 1.6  1995/09/06  16:11:18  adam
 108  * Option: only one word key per file.
 109  *
 110  * Revision 1.5  1995/09/06  10:33:04  adam
 111  * More work on present. Some log messages removed.
 112  *
 113  * Revision 1.4  1995/09/05  15:28:40  adam
 114  * More work on search engine.
 115  *
 116  * Revision 1.3  1995/09/04  15:20:22  adam
 117  * Minor changes.
 118  *
 119  * Revision 1.2  1995/09/04  12:33:43  adam
 120  * Various cleanup. YAZ util used instead.
 121  *
 122  * Revision 1.1  1995/09/04  09:10:40  adam
 123  * More work on index add/del/update.
 124  * Merge sort implemented.
 125  * Initial work on z39 server.
 126  *
 127  */
 128 #include <stdio.h>
 129 #include <assert.h>
 130 #include <unistd.h>
 131 #include <ctype.h>
 132
 133 #include "zserver.h"
 134 #include "attribute.h"
 135
 136 #include <rsisam.h>
 137 #include <rstemp.h>
 138 #include <rsnull.h>
 139 #include <rsbool.h>
 140 #include <rsrel.h>
 141
 142 int index_word_prefix_map (char *string, oid_value attrSet, int attrUse,
 143                            char *basename)
 144 {
 145     attent *attp;
 146
 147     logf (LOG_DEBUG, "oid_value attrSet = %d, attrUse = %d", attrSet, attrUse);
 148     attp = att_getentbyatt (attrSet, attrUse);
 149     if (!attp)
 150         return -1;
 151     logf (LOG_DEBUG, "ord=%d", attp->attset_ordinal);
 152     return index_word_prefix (string, attp->attset_ordinal,
 153                               attp->local_attribute, basename);
 154 }
 155
 156 typedef struct {
 157     int type;
 158     int major;
 159     int minor;
 160     Z_AttributesPlusTerm *zapt;
 161 } AttrType;
 162
 163 static int attr_find (AttrType *src, oid_value *attributeSetP)
 164 {
 165     while (src->major < src->zapt->num_attributes)
 166     {
 167         Z_AttributeElement *element;
 168
 169         element = src->zapt->attributeList[src->major];
 170         if (src->type == *element->attributeType)
 171         {
 172             switch (element->which)
 173             {
 174             case Z_AttributeValue_numeric:
 175                 ++(src->major);
 176                 if (element->attributeSet && attributeSetP)
 177                 {
 178                     oident *attrset;
 179
 180                     attrset = oid_getentbyoid (element->attributeSet);
 181                     *attributeSetP = attrset->value;
 182                 }
 183                 return *element->value.numeric;
 184                 break;
 185             case Z_AttributeValue_complex:
 186                 if (src->minor >= element->value.complex->num_list ||
 187                     element->value.complex->list[src->minor]->which !=
 188                     Z_StringOrNumeric_numeric)
 189                     break;
 190                 ++(src->minor);
 191                 if (element->attributeSet && attributeSetP)
 192                 {
 193                     oident *attrset;
 194
 195                     attrset = oid_getentbyoid (element->attributeSet);
 196                     *attributeSetP = attrset->value;
 197                 }
 198                 return *element->value.complex->list[src->minor-1]->u.numeric;
 199             default:
 200                 assert (0);
 201             }
 202         }
 203         ++(src->major);
 204     }
 205     return -1;
 206 }
 207
 208 static void attr_init (AttrType *src, Z_AttributesPlusTerm *zapt,
 209                        int type)
 210 {
 211     src->zapt = zapt;
 212     src->type = type;
 213     src->major = 0;
 214     src->minor = 0;
 215 }
 216
 217 struct trunc_info {
 218     int  *ptr;
 219     int  *indx;
 220     char **heap;
 221     int  heapnum;
 222     int  (*cmp)(const void *p1, const void *p2);
 223     int  keysize;
 224     char *swapbuf;
 225     char *tmpbuf;
 226     char *buf;
 227 };
 228
 229 static void heap_swap (struct trunc_info *ti, int i1, int i2)
 230 {
 231     int swap;
 232
 233     swap = ti->ptr[i1];
 234     ti->ptr[i1] = ti->ptr[i2];
 235     ti->ptr[i2] = swap;
 236 }
 237
 238 static void heap_delete (struct trunc_info *ti)
 239 {
 240     int cur = 1, child = 2;
 241
 242     heap_swap (ti, 1, ti->heapnum--);
 243     while (child <= ti->heapnum) {
 244         if (child < ti->heapnum &&
 245             (*ti->cmp)(ti->heap[ti->ptr[child]],
 246                        ti->heap[ti->ptr[1+child]]) > 0)
 247             child++;
 248         if ((*ti->cmp)(ti->heap[ti->ptr[cur]],
 249                        ti->heap[ti->ptr[child]]) > 0)
 250         {
 251             heap_swap (ti, cur, child);
 252             cur = child;
 253             child = 2*cur;
 254         }
 255         else
 256             break;
 257     }
 258 }
 259
 260 static void heap_insert (struct trunc_info *ti, const char *buf, int indx)
 261 {
 262     int cur, parent;
 263
 264     cur = ++(ti->heapnum);
 265     memcpy (ti->heap[ti->ptr[cur]], buf, ti->keysize);
 266     ti->indx[ti->ptr[cur]] = indx;
 267     parent = cur/2;
 268     while (parent && (*ti->cmp)(ti->heap[ti->ptr[parent]],
 269                                 ti->heap[ti->ptr[cur]]) > 0)
 270     {
 271         heap_swap (ti, cur, parent);
 272         cur = parent;
 273         parent = cur/2;
 274     }
 275 }
 276
 277 static
 278 struct trunc_info *heap_init (int size, int key_size,
 279                               int (*cmp)(const void *p1, const void *p2))
 280 {
 281     struct trunc_info *ti = xmalloc (sizeof(*ti));
 282     int i;
 283
 284     ++size;
 285     ti->heapnum = 0;
 286     ti->keysize = key_size;
 287     ti->cmp = cmp;
 288     ti->indx = xmalloc (size * sizeof(*ti->indx));
 289     ti->heap = xmalloc (size * sizeof(*ti->heap));
 290     ti->ptr = xmalloc (size * sizeof(*ti->ptr));
 291     ti->swapbuf = xmalloc (ti->keysize);
 292     ti->tmpbuf = xmalloc (ti->keysize);
 293     ti->buf = xmalloc (size * ti->keysize);
 294     for (i = size; --i >= 0; )
 295     {
 296         ti->ptr[i] = i;
 297         ti->heap[i] = ti->buf + ti->keysize * i;
 298     }
 299     return ti;
 300 }
 301
 302 static void heap_close (struct trunc_info *ti)
 303 {
 304     xfree (ti->ptr);
 305     xfree (ti->indx);
 306     xfree (ti->heap);
 307     xfree (ti->swapbuf);
 308     xfree (ti->tmpbuf);
 309     xfree (ti);
 310 }
 311
 312 static RSET rset_trunc_r (ISAM isam, ISAM_P *isam_p, int from, int to,
 313                          int merge_chunk)
 314 {
 315     RSET result;
 316     RSFD result_rsfd;
 317     rset_temp_parms parms;
 318
 319     parms.key_size = sizeof(struct it_key);
 320     result = rset_create (rset_kind_temp, &parms);
 321     result_rsfd = rset_open (result, RSETF_WRITE|RSETF_SORT_SYSNO);
 322
 323     if (to - from > merge_chunk)
 324     {
 325         RSFD *rsfd;
 326         RSET *rset;
 327         int i, i_add = (to-from)/merge_chunk + 1;
 328         struct trunc_info *ti;
 329         int rscur = 0;
 330         int rsmax = (to-from)/i_add + 1;
 331
 332         rset = xmalloc (sizeof(*rset) * rsmax);
 333         rsfd = xmalloc (sizeof(*rsfd) * rsmax);
 334
 335         for (i = from; i < to; i += i_add)
 336         {
 337             if (i_add <= to - i)
 338                 rset[rscur] = rset_trunc_r (isam, isam_p, i, i+i_add,
 339                                             merge_chunk);
 340             else
 341                 rset[rscur] = rset_trunc_r (isam, isam_p, i, to,
 342                                             merge_chunk);
 343             rscur++;
 344         }
 345         ti = heap_init (rscur, sizeof(struct it_key), key_compare);
 346         for (i = rscur; --i >= 0; )
 347         {
 348             rsfd[i] = rset_open (rset[i], RSETF_READ|RSETF_SORT_SYSNO);
 349             if (rset_read (rset[i], rsfd[i], ti->tmpbuf))
 350                 heap_insert (ti, ti->tmpbuf, i);
 351             else
 352             {
 353                 rset_close (rset[i], rsfd[i]);
 354                 rset_delete (rset[i]);
 355             }
 356         }
 357         while (ti->heapnum)
 358         {
 359             int n = ti->indx[ti->ptr[1]];
 360
 361             rset_write (result, result_rsfd, ti->heap[ti->ptr[1]]);
 362
 363             while (1)
 364             {
 365                 if (!rset_read (rset[n], rsfd[n], ti->tmpbuf))
 366                 {
 367                     heap_delete (ti);
 368                     rset_close (rset[n], rsfd[n]);
 369                     rset_delete (rset[n]);
 370                     break;
 371                 }
 372                 if ((*ti->cmp)(ti->tmpbuf, ti->heap[ti->ptr[1]]) > 1)
 373                 {
 374                     heap_delete (ti);
 375                     heap_insert (ti, ti->tmpbuf, n);
 376                     break;
 377                 }
 378             }
 379         }
 380         xfree (rset);
 381         xfree (rsfd);
 382         heap_close (ti);
 383     }
 384     else
 385     {
 386         ISPT *ispt;
 387         int i;
 388         struct trunc_info *ti;
 389
 390         ispt = xmalloc (sizeof(*ispt) * (to-from));
 391
 392         ti = heap_init (to-from, sizeof(struct it_key),
 393                         key_compare);
 394         for (i = to-from; --i >= 0; )
 395         {
 396             ispt[i] = is_position (isam, isam_p[from+i]);
 397             if (is_readkey (ispt[i], ti->tmpbuf))
 398                 heap_insert (ti, ti->tmpbuf, i);
 399             else
 400                 is_pt_free (ispt[i]);
 401         }
 402         while (ti->heapnum)
 403         {
 404             int n = ti->indx[ti->ptr[1]];
 405
 406             rset_write (result, result_rsfd, ti->heap[ti->ptr[1]]);
 407 #if 0
 408 /* section that preserve all keys */
 409             heap_delete (ti);
 410             if (is_readkey (ispt[n], ti->tmpbuf))
 411                 heap_insert (ti, ti->tmpbuf, n);
 412             else
 413                 is_pt_free (ispt[n]);
 414 #else
 415 /* section that preserve all keys with unique sysnos */
 416             while (1)
 417             {
 418                 if (!is_readkey (ispt[n], ti->tmpbuf))
 419                 {
 420                     heap_delete (ti);
 421                     is_pt_free (ispt[n]);
 422                     break;
 423                 }
 424                 if ((*ti->cmp)(ti->tmpbuf, ti->heap[ti->ptr[1]]) > 1)
 425                 {
 426                     heap_delete (ti);
 427                     heap_insert (ti, ti->tmpbuf, n);
 428                     break;
 429                 }
 430             }
 431 #endif
 432         }
 433         heap_close (ti);
 434         xfree (ispt);
 435     }
 436     rset_close (result, result_rsfd);
 437     return result;
 438 }
 439
 440 static int isam_trunc_cmp (const void *p1, const void *p2)
 441 {
 442     ISAM_P i1 = *(ISAM_P*) p1;
 443     ISAM_P i2 = *(ISAM_P*) p2;
 444     int d;
 445
 446     d = is_type (i1) - is_type (i2);
 447     if (d)
 448         return d;
 449     return is_block (i1) - is_block (i2);
 450 }
 451
 452 static RSET rset_trunc (ISAM isam, ISAM_P *isam_p, int no)
 453 {
 454
 455     qsort (isam_p, no, sizeof(*isam_p), isam_trunc_cmp);
 456     return rset_trunc_r (isam, isam_p, 0, no, 100);
 457 }
 458
 459 struct grep_info {
 460     ISAM_P *isam_p_buf;
 461     int isam_p_size;
 462     int isam_p_indx;
 463 };
 464
 465 static void add_isam_p (const char *info, struct grep_info *p)
 466 {
 467     if (p->isam_p_indx == p->isam_p_size)
 468     {
 469         ISAM_P *new_isam_p_buf;
 470
 471         p->isam_p_size = 2*p->isam_p_size + 100;
 472         new_isam_p_buf = xmalloc (sizeof(*new_isam_p_buf) *
 473                                   p->isam_p_size);
 474         if (p->isam_p_buf)
 475         {
 476             memcpy (new_isam_p_buf, p->isam_p_buf,
 477                     p->isam_p_indx * sizeof(*p->isam_p_buf));
 478             xfree (p->isam_p_buf);
 479         }
 480         p->isam_p_buf = new_isam_p_buf;
 481     }
 482     assert (*info == sizeof(*p->isam_p_buf));
 483     memcpy (p->isam_p_buf + p->isam_p_indx, info+1, sizeof(*p->isam_p_buf));
 484     (p->isam_p_indx)++;
 485 }
 486
 487 static int grep_handle (Dict_char *name, const char *info, void *p)
 488 {
 489     logf (LOG_DEBUG, "dict name: %s", name);
 490     add_isam_p (info, p);
 491     return 0;
 492 }
 493
 494 static void gen_regular_rel (char *dst, int val, int islt)
 495 {
 496     int dst_p = 1;
 497     int w, d, i;
 498     int pos = 0;
 499     char numstr[20];
 500
 501     *dst = '(';
 502     sprintf (numstr, "%d", val);
 503     for (w = strlen(numstr); --w >= 0; pos++)
 504     {
 505         d = numstr[w];
 506         if (pos > 0)
 507         {
 508             if (islt)
 509             {
 510                 if (d == '0')
 511                     continue;
 512                 d--;
 513             }
 514             else
 515             {
 516                 if (d == '9')
 517                     continue;
 518                 d++;
 519             }
 520         }
 521
 522         strcpy (dst + dst_p, numstr);
 523         dst_p = strlen(dst) - pos - 1;
 524
 525         if (islt)
 526         {
 527             if (d != '0')
 528             {
 529                 dst[dst_p++] = '[';
 530                 dst[dst_p++] = '0';
 531                 dst[dst_p++] = '-';
 532                 dst[dst_p++] = d;
 533                 dst[dst_p++] = ']';
 534             }
 535             else
 536                 dst[dst_p++] = d;
 537         }
 538         else
 539         {
 540             if (d != '9')
 541             {
 542                 dst[dst_p++] = '[';
 543                 dst[dst_p++] = d;
 544                 dst[dst_p++] = '-';
 545                 dst[dst_p++] = '9';
 546                 dst[dst_p++] = ']';
 547             }
 548             else
 549                 dst[dst_p++] = d;
 550         }
 551         for (i = 0; i<pos; i++)
 552         {
 553             dst[dst_p++] = '[';
 554             dst[dst_p++] = '0';
 555             dst[dst_p++] = '-';
 556             dst[dst_p++] = '9';
 557             dst[dst_p++] = ']';
 558         }
 559         dst[dst_p++] = '|';
 560     }
 561     dst[dst_p] = '\0';
 562     if (islt)
 563     {
 564         for (i=1; i<pos; i++)
 565             strcat (dst, "[0-9]?");
 566     }
 567     else
 568     {
 569         for (i = 0; i <= pos; i++)
 570             strcat (dst, "[0-9]");
 571         strcat (dst, "[0-9]*");
 572     }
 573     strcat (dst, ")");
 574 }
 575
 576 static int relational_term (ZServerInfo *zi, Z_AttributesPlusTerm *zapt,
 577                             const char *term_sub,
 578                             char *term_dict,
 579                             oid_value attributeSet,
 580                             struct grep_info *grep_info,
 581                             int *max_pos)
 582 {
 583     AttrType relation;
 584     int relation_value;
 585     int term_value;
 586     int r;
 587
 588     attr_init (&relation, zapt, 2);
 589     relation_value = attr_find (&relation, NULL);
 590     term_value = atoi (term_sub);
 591
 592     switch (relation_value)
 593     {
 594     case 1:
 595         if (term_value <= 0)
 596             return 1;
 597         logf (LOG_DEBUG, "Relation <");
 598         gen_regular_rel (term_dict + strlen(term_dict), term_value-1, 1);
 599         break;
 600     case 2:
 601         if (term_value < 0)
 602             return 1;
 603         logf (LOG_DEBUG, "Relation <=");
 604         gen_regular_rel (term_dict + strlen(term_dict), term_value, 1);
 605         break;
 606     case 4:
 607         if (term_value < 0)
 608             term_value = 0;
 609         logf (LOG_DEBUG, "Relation >=");
 610         gen_regular_rel (term_dict + strlen(term_dict), term_value, 0);
 611         break;
 612     case 5:
 613         if (term_value < 0)
 614             term_value = 0;
 615         logf (LOG_DEBUG, "Relation >");
 616         gen_regular_rel (term_dict + strlen(term_dict), term_value+1, 0);
 617         break;
 618     default:
 619         return 0;
 620     }
 621     logf (LOG_DEBUG, "dict_lookup_grep: %s", term_dict);
 622     r = dict_lookup_grep (zi->wordDict, term_dict, 0, grep_info, max_pos,
 623                           grep_handle);
 624     if (r)
 625         logf (LOG_WARN, "dict_lookup_grep fail, rel=gt: %d", r);
 626     logf (LOG_DEBUG, "%d positions", grep_info->isam_p_indx);
 627     return 1;
 628 }
 629
 630 static void verbatim_char (int ch, int *indx, char *dst)
 631 {
 632     if (!isalnum (ch))
 633         dst[(*indx)++] = '\\';
 634     dst[(*indx)++] = ch;
 635 }
 636
 637 static int trunc_term (ZServerInfo *zi, Z_AttributesPlusTerm *zapt,
 638                        const char *term_sub,
 639                        oid_value attributeSet, struct grep_info *grep_info,
 640                        int num_bases, char **basenames)
 641 {
 642     char term_dict[2*IT_MAX_WORD+2];
 643     int i, j, r, base_no;
 644     AttrType truncation;
 645     int truncation_value;
 646     AttrType use;
 647     int use_value;
 648     oid_value curAttributeSet = attributeSet;
 649
 650     attr_init (&use, zapt, 1);
 651     use_value = attr_find (&use, &curAttributeSet);
 652     logf (LOG_DEBUG, "use value %d", use_value);
 653     attr_init (&truncation, zapt, 5);
 654     truncation_value = attr_find (&truncation, NULL);
 655     logf (LOG_DEBUG, "truncation value %d", truncation_value);
 656
 657     if (use_value == -1)
 658         use_value = 1016;
 659
 660     for (base_no = 0; base_no < num_bases; base_no++)
 661     {
 662         int max_pos;
 663         int prefix_len = index_word_prefix_map (term_dict, curAttributeSet,
 664                                                 use_value,
 665                                                 basenames[base_no]);
 666         if (prefix_len < 0)
 667         {
 668             zi->errCode = 114;
 669             return -1;
 670         }
 671         if (!relational_term (zi, zapt, term_sub, term_dict,
 672                               attributeSet, grep_info, &max_pos))
 673         {
 674             switch (truncation_value)
 675             {
 676             case -1:         /* not specified */
 677             case 100:        /* do not truncate */
 678                 j = strlen(term_dict);
 679                 term_dict[j++] = '(';
 680                 for (i = 0; term_sub[i]; i++)
 681                     verbatim_char (term_sub[i], &j, term_dict);
 682                 strcpy (term_dict+j, ")");
 683                 r = dict_lookup_grep (zi->wordDict, term_dict, 0, grep_info,
 684                                       &max_pos, grep_handle);
 685                 if (r)
 686                     logf (LOG_WARN, "dict_lookup_grep err, trunc=none:%d", r);
 687                 break;
 688             case 1:          /* right truncation */
 689                 j = strlen(term_dict);
 690                 term_dict[j++] = '(';
 691                 for (i = 0; term_sub[i]; i++)
 692                     verbatim_char (term_sub[i], &j, term_dict);
 693                 strcpy (term_dict+j, ".*)");
 694                 dict_lookup_grep (zi->wordDict, term_dict, 0, grep_info,
 695                                   &max_pos, grep_handle);
 696                 break;
 697             case 2:          /* left truncation */
 698             case 3:          /* left&right truncation */
 699                 zi->errCode = 120;
 700                 return -1;
 701             case 101:        /* process # in term */
 702                 j = strlen(term_dict);
 703                 term_dict[j++] = '(';
 704                 for (i=0; term_sub[i]; i++)
 705                     if (term_sub[i] == '#' && i > 2)
 706                     {
 707                         term_dict[j++] = '.';
 708                         term_dict[j++] = '*';
 709                     }
 710                     else
 711                         verbatim_char (term_sub[i], &j, term_dict);
 712                 strcpy (term_dict+j, ")");
 713                 r = dict_lookup_grep (zi->wordDict, term_dict, 0, grep_info,
 714                                       &max_pos, grep_handle);
 715                 if (r)
 716                     logf (LOG_WARN, "dict_lookup_grep err, trunc=#: %d",
 717                           r);
 718                 break;
 719             case 102:        /* regular expression */
 720                 sprintf (term_dict + strlen(term_dict), "(%s)", term_sub);
 721                 r = dict_lookup_grep (zi->wordDict, term_dict, 0, grep_info,
 722                                       &max_pos, grep_handle);
 723                 if (r)
 724                     logf (LOG_WARN, "dict_lookup_grep err, trunc=regular: %d",
 725                           r);
 726                 break;
 727             }
 728         }
 729         if (max_pos <= strlen(basenames[base_no]))
 730         {
 731             zi->errCode = 109; /* Database unavailable */
 732             zi->errString = basenames[base_no];
 733             return -1;
 734         }
 735     }
 736     logf (LOG_DEBUG, "%d positions", grep_info->isam_p_indx);
 737     return 0;
 738 }
 739
 740 static void trans_term (ZServerInfo *zi, Z_AttributesPlusTerm *zapt,
 741                         char *termz)
 742 {
 743     size_t i, sizez;
 744     Z_Term *term = zapt->term;
 745
 746     sizez = term->u.general->len;
 747     if (sizez > IT_MAX_WORD)
 748         sizez = IT_MAX_WORD;
 749     for (i = 0; i < sizez; i++)
 750         termz[i] = index_char_cvt (term->u.general->buf[i]);
 751     termz[i] = '\0';
 752 }
 753
 754 static RSET rpn_search_APT_relevance (ZServerInfo *zi,
 755                                       Z_AttributesPlusTerm *zapt,
 756                                       oid_value attributeSet,
 757                                       int num_bases, char **basenames)
 758 {
 759     rset_relevance_parms parms;
 760     char termz[IT_MAX_WORD+1];
 761     char term_sub[IT_MAX_WORD+1];
 762     struct grep_info grep_info;
 763     char *p0 = termz, *p1 = NULL;
 764     RSET result;
 765
 766     parms.key_size = sizeof(struct it_key);
 767     parms.max_rec = 100;
 768     parms.cmp = key_compare;
 769     parms.is = zi->wordIsam;
 770
 771     if (zapt->term->which != Z_Term_general)
 772     {
 773         zi->errCode = 124;
 774         return NULL;
 775     }
 776     trans_term (zi, zapt, termz);
 777     grep_info.isam_p_indx = 0;
 778     grep_info.isam_p_size = 0;
 779     grep_info.isam_p_buf = NULL;
 780     while (1)
 781     {
 782         if ((p1 = strchr (p0, ' ')))
 783         {
 784             memcpy (term_sub, p0, p1-p0);
 785             term_sub[p1-p0] = '\0';
 786         }
 787         else
 788             strcpy (term_sub, p0);
 789         if (trunc_term (zi, zapt, term_sub, attributeSet, &grep_info,
 790                         num_bases, basenames))
 791             return NULL;
 792         if (!p1)
 793             break;
 794         p0 = p1;
 795         while (*++p0 == ' ')
 796             ;
 797     }
 798     parms.isam_positions = grep_info.isam_p_buf;
 799     parms.no_isam_positions = grep_info.isam_p_indx;
 800     if (grep_info.isam_p_indx > 0)
 801         result = rset_create (rset_kind_relevance, &parms);
 802     else
 803         result = rset_create (rset_kind_null, NULL);
 804     xfree (grep_info.isam_p_buf);
 805     return result;
 806 }
 807
 808 static RSET rpn_search_APT_word (ZServerInfo *zi,
 809                                  Z_AttributesPlusTerm *zapt,
 810                                  oid_value attributeSet,
 811                                  int num_bases, char **basenames)
 812 {
 813     rset_isam_parms parms;
 814     char termz[IT_MAX_WORD+1];
 815     struct grep_info grep_info;
 816     RSET result;
 817
 818     if (zapt->term->which != Z_Term_general)
 819     {
 820         zi->errCode = 124;
 821         return NULL;
 822     }
 823     trans_term (zi, zapt, termz);
 824
 825     grep_info.isam_p_indx = 0;
 826     grep_info.isam_p_size = 0;
 827     grep_info.isam_p_buf = NULL;
 828
 829     if (trunc_term (zi, zapt, termz, attributeSet, &grep_info,
 830                     num_bases, basenames))
 831         return NULL;
 832     if (grep_info.isam_p_indx < 1)
 833         result = rset_create (rset_kind_null, NULL);
 834     else if (grep_info.isam_p_indx == 1)
 835     {
 836         parms.is = zi->wordIsam;
 837         parms.pos = *grep_info.isam_p_buf;
 838         result = rset_create (rset_kind_isam, &parms);
 839     }
 840     else
 841         result = rset_trunc (zi->wordIsam, grep_info.isam_p_buf,
 842                              grep_info.isam_p_indx);
 843     xfree (grep_info.isam_p_buf);
 844     return result;
 845 }
 846
 847 static RSET rpn_prox (RSET *rset, int rset_no)
 848 {
 849     int i;
 850     RSFD *rsfd;
 851     int  *more;
 852     struct it_key **buf;
 853     RSFD rsfd_result;
 854     RSET result;
 855     rset_temp_parms parms;
 856
 857     rsfd = xmalloc (sizeof(*rsfd)*rset_no);
 858     more = xmalloc (sizeof(*more)*rset_no);
 859     buf = xmalloc (sizeof(*buf)*rset_no);
 860
 861     for (i = 0; i<rset_no; i++)
 862     {
 863         buf[i] = xmalloc (sizeof(**buf));
 864         rsfd[i] = rset_open (rset[i], RSETF_READ|RSETF_SORT_SYSNO);
 865         if (!(more[i] = rset_read (rset[i], rsfd[i], buf[i])))
 866         {
 867             while (i >= 0)
 868             {
 869                 rset_close (rset[i], rsfd[i]);
 870                 xfree (buf[i]);
 871                 --i;
 872             }
 873             xfree (rsfd);
 874             xfree (more);
 875             xfree (buf);
 876             return rset_create (rset_kind_null, NULL);
 877         }
 878     }
 879     parms.key_size = sizeof (struct it_key);
 880     result = rset_create (rset_kind_temp, &parms);
 881     rsfd_result = rset_open (result, RSETF_WRITE|RSETF_SORT_SYSNO);
 882
 883     while (*more)
 884     {
 885         for (i = 1; i<rset_no; i++)
 886         {
 887             int cmp;
 888
 889             if (!more[i])
 890             {
 891                 *more = 0;
 892                 break;
 893             }
 894             cmp = key_compare (buf[i], buf[i-1]);
 895             if (cmp > 1)
 896             {
 897                 more[i-1] = rset_read (rset[i-1], rsfd[i-1], buf[i-1]);
 898                 break;
 899             }
 900             else if (cmp == 1)
 901             {
 902                 if (buf[i-1]->seqno+1 != buf[i]->seqno)
 903                 {
 904                     more[i-1] = rset_read (rset[i-1], rsfd[i-1], buf[i-1]);
 905                     break;
 906                 }
 907             }
 908             else
 909             {
 910                 more[i] = rset_read (rset[i], rsfd[i], buf[i]);
 911                 break;
 912             }
 913         }
 914         if (i == rset_no)
 915         {
 916             rset_write (result, rsfd_result, buf[0]);
 917             more[0] = rset_read (*rset, *rsfd, *buf);
 918         }
 919     }
 920
 921     for (i = 0; i<rset_no; i++)
 922     {
 923         rset_close (rset[i], rsfd[i]);
 924         xfree (buf[i]);
 925     }
 926     rset_close (result, rsfd_result);
 927     xfree (buf);
 928     xfree (more);
 929     xfree (rsfd);
 930     return result;
 931 }
 932
 933 static RSET rpn_search_APT_phrase (ZServerInfo *zi,
 934                                    Z_AttributesPlusTerm *zapt,
 935                                    oid_value attributeSet,
 936                                    int num_bases, char **basenames)
 937 {
 938     char termz[IT_MAX_WORD+1];
 939     char term_sub[IT_MAX_WORD+1];
 940     char *p0 = termz, *p1 = NULL;
 941     RSET rset[60], result;
 942     int i, rset_no = 0;
 943     struct grep_info grep_info;
 944
 945     if (zapt->term->which != Z_Term_general)
 946     {
 947         zi->errCode = 124;
 948         return NULL;
 949     }
 950     trans_term (zi, zapt, termz);
 951
 952     grep_info.isam_p_size = 0;
 953     grep_info.isam_p_buf = NULL;
 954
 955     while (1)
 956     {
 957         if ((p1 = strchr (p0, ' ')))
 958         {
 959             memcpy (term_sub, p0, p1-p0);
 960             term_sub[p1-p0] = '\0';
 961         }
 962         else
 963             strcpy (term_sub, p0);
 964
 965         grep_info.isam_p_indx = 0;
 966         if (trunc_term (zi, zapt, term_sub, attributeSet, &grep_info,
 967                         num_bases, basenames))
 968             return NULL;
 969         if (grep_info.isam_p_indx == 0)
 970             rset[rset_no] = rset_create (rset_kind_null, NULL);
 971         else if (grep_info.isam_p_indx > 1)
 972             rset[rset_no] = rset_trunc (zi->wordIsam,
 973                                         grep_info.isam_p_buf,
 974                                         grep_info.isam_p_indx);
 975         else
 976         {
 977             rset_isam_parms parms;
 978
 979             parms.is = zi->wordIsam;
 980             parms.pos = *grep_info.isam_p_buf;
 981             rset[rset_no] = rset_create (rset_kind_isam, &parms);
 982         }
 983         assert (rset[rset_no]);
 984         if (++rset_no >= sizeof(rset)/sizeof(*rset))
 985             break;
 986         if (!p1)
 987             break;
 988         p0 = p1;
 989         while (*++p0 == ' ')
 990             ;
 991     }
 992     xfree (grep_info.isam_p_buf);
 993     if (rset_no == 0)
 994         return rset_create (rset_kind_null, NULL);
 995     else if (rset_no == 1)
 996         return (rset[0]);
 997
 998     result = rpn_prox (rset, rset_no);
 999     for (i = 0; i<rset_no; i++)
1000         rset_delete (rset[i]);
1001     return result;
1002 }
1003
1004 static RSET rpn_search_APT_local (ZServerInfo *zi, Z_AttributesPlusTerm *zapt,
1005                                   oid_value attributeSet)
1006 {
1007     RSET result;
1008     RSFD rsfd;
1009     struct it_key key;
1010     rset_temp_parms parms;
1011     char termz[IT_MAX_WORD+1];
1012
1013     if (zapt->term->which != Z_Term_general)
1014     {
1015         zi->errCode = 124;
1016         return NULL;
1017     }
1018     parms.key_size = sizeof (struct it_key);
1019     result = rset_create (rset_kind_temp, &parms);
1020     rsfd = rset_open (result, RSETF_WRITE|RSETF_SORT_SYSNO);
1021
1022     trans_term (zi, zapt, termz);
1023     key.sysno = atoi (termz);
1024     if (key.sysno <= 0)
1025         key.sysno = 1;
1026     rset_write (result, rsfd, &key);
1027     rset_close (result, rsfd);
1028     return result;
1029 }
1030
1031 static RSET rpn_search_APT (ZServerInfo *zi, Z_AttributesPlusTerm *zapt,
1032                             oid_value attributeSet,
1033                             int num_bases, char **basenames)
1034 {
1035     AttrType relation;
1036     AttrType structure;
1037     int relation_value, structure_value;
1038
1039     attr_init (&relation, zapt, 2);
1040     attr_init (&structure, zapt, 4);
1041
1042     relation_value = attr_find (&relation, NULL);
1043     structure_value = attr_find (&structure, NULL);
1044     switch (structure_value)
1045     {
1046     case -1:
1047         if (relation_value == 102) /* relevance relation */
1048             return rpn_search_APT_relevance (zi, zapt, attributeSet,
1049                                              num_bases, basenames);
1050         return rpn_search_APT_phrase (zi, zapt, attributeSet,
1051                                       num_bases, basenames);
1052     case 1: /* phrase */
1053         if (relation_value == 102) /* relevance relation */
1054             return rpn_search_APT_relevance (zi, zapt, attributeSet,
1055                                              num_bases, basenames);
1056         return rpn_search_APT_phrase (zi, zapt, attributeSet,
1057                                       num_bases, basenames);
1058         break;
1059     case 2: /* word */
1060         if (relation_value == 102) /* relevance relation */
1061             return rpn_search_APT_relevance (zi, zapt, attributeSet,
1062                                              num_bases, basenames);
1063         return rpn_search_APT_word (zi, zapt, attributeSet,
1064                                     num_bases, basenames);
1065     case 3: /* key */
1066         break;
1067     case 4: /* year */
1068         break;
1069     case 5: /* date - normalized */
1070         break;
1071     case 6: /* word list */
1072         return rpn_search_APT_relevance (zi, zapt, attributeSet,
1073                                          num_bases, basenames);
1074     case 100: /* date - un-normalized */
1075         break;
1076     case 101: /* name - normalized */
1077         break;
1078     case 102: /* date - un-normalized */
1079         break;
1080     case 103: /* structure */
1081         break;
1082     case 104: /* urx */
1083         break;
1084     case 105: /* free-form-text */
1085         return rpn_search_APT_relevance (zi, zapt, attributeSet,
1086                                          num_bases, basenames);
1087     case 106: /* document-text */
1088         return rpn_search_APT_relevance (zi, zapt, attributeSet,
1089                                          num_bases, basenames);
1090     case 107: /* local-number */
1091         return rpn_search_APT_local (zi, zapt, attributeSet);
1092     case 108: /* string */
1093         return rpn_search_APT_word (zi, zapt, attributeSet,
1094                                     num_bases, basenames);
1095     case 109: /* numeric string */
1096         break;
1097     }
1098     zi->errCode = 118;
1099     return NULL;
1100 }
1101
1102 static RSET rpn_search_ref (ZServerInfo *zi, Z_ResultSetId *resultSetId)
1103 {
1104     ZServerSet *s;
1105
1106     if (!(s = resultSetGet (zi, resultSetId)))
1107         return rset_create (rset_kind_null, NULL);
1108     return s->rset;
1109 }
1110
1111 static RSET rpn_search_structure (ZServerInfo *zi, Z_RPNStructure *zs,
1112                                   oid_value attributeSet,
1113                                   int num_bases, char **basenames)
1114 {
1115     RSET r = NULL;
1116     if (zs->which == Z_RPNStructure_complex)
1117     {
1118         rset_bool_parms bool_parms;
1119
1120         bool_parms.rset_l = rpn_search_structure (zi, zs->u.complex->s1,
1121                                                   attributeSet,
1122                                                   num_bases, basenames);
1123         if (bool_parms.rset_l == NULL)
1124             return NULL;
1125         bool_parms.rset_r = rpn_search_structure (zi, zs->u.complex->s2,
1126                                                   attributeSet,
1127                                                   num_bases, basenames);
1128         if (bool_parms.rset_r == NULL)
1129         {
1130             rset_delete (bool_parms.rset_l);
1131             return NULL;
1132         }
1133         bool_parms.key_size = sizeof(struct it_key);
1134         bool_parms.cmp = key_compare;
1135
1136         switch (zs->u.complex->operator->which)
1137         {
1138         case Z_Operator_and:
1139             r = rset_create (rset_kind_and, &bool_parms);
1140             break;
1141         case Z_Operator_or:
1142             r = rset_create (rset_kind_or, &bool_parms);
1143             break;
1144         case Z_Operator_and_not:
1145             r = rset_create (rset_kind_not, &bool_parms);
1146             break;
1147         default:
1148             assert (0);
1149         }
1150     }
1151     else if (zs->which == Z_RPNStructure_simple)
1152     {
1153         if (zs->u.simple->which == Z_Operand_APT)
1154         {
1155             logf (LOG_DEBUG, "rpn_search_APT");
1156             r = rpn_search_APT (zi, zs->u.simple->u.attributesPlusTerm,
1157                                 attributeSet, num_bases, basenames);
1158         }
1159         else if (zs->u.simple->which == Z_Operand_resultSetId)
1160         {
1161             logf (LOG_DEBUG, "rpn_search_ref");
1162             r = rpn_search_ref (zi, zs->u.simple->u.resultSetId);
1163         }
1164         else
1165         {
1166             assert (0);
1167         }
1168     }
1169     else
1170     {
1171         assert (0);
1172     }
1173     return r;
1174 }
1175
1176 static void count_set (RSET r, int *count)
1177 {
1178     int psysno = 0;
1179     int kno = 0;
1180     struct it_key key;
1181     RSFD rfd;
1182
1183     logf (LOG_DEBUG, "rpn_save_set");
1184     *count = 0;
1185     rfd = rset_open (r, RSETF_READ|RSETF_SORT_SYSNO);
1186     while (rset_read (r, rfd, &key))
1187     {
1188         if (key.sysno != psysno)
1189         {
1190             psysno = key.sysno;
1191             (*count)++;
1192         }
1193         kno++;
1194     }
1195     rset_close (r, rfd);
1196     logf (LOG_DEBUG, "%d keys, %d distinct sysnos", kno, *count);
1197 }
1198
1199 int rpn_search (ZServerInfo *zi,
1200                 Z_RPNQuery *rpn, int num_bases, char **basenames,
1201                 const char *setname, int *hits)
1202 {
1203     RSET rset;
1204     oident *attrset;
1205     oid_value attributeSet;
1206
1207     zlog_rpn (rpn);
1208
1209     zi->errCode = 0;
1210     zi->errString = NULL;
1211
1212     attrset = oid_getentbyoid (rpn->attributeSetId);
1213     attributeSet = attrset->value;
1214     rset = rpn_search_structure (zi, rpn->RPNStructure, attributeSet,
1215                                  num_bases, basenames);
1216     if (!rset)
1217         return zi->errCode;
1218     count_set (rset, hits);
1219     resultSetAdd (zi, setname, 1, rset);
1220     if (zi->errCode)
1221         logf (LOG_DEBUG, "search error: %d", zi->errCode);
1222     return zi->errCode;
1223 }
1224
1225 struct scan_info {
1226     struct scan_entry *list;
1227     ODR odr;
1228     int before, after;
1229     ISAM isam;
1230     char prefix[20];
1231 };
1232
1233 static int scan_handle (Dict_char *name, const char *info, int pos,
1234                         void *client)
1235 {
1236     int len_prefix, idx;
1237     ISAM_P isam_p;
1238     RSET rset;
1239     struct scan_info *scan_info = client;
1240
1241     rset_isam_parms parms;
1242
1243     len_prefix = strlen(scan_info->prefix);
1244     if (memcmp (name, scan_info->prefix, len_prefix))
1245         return 1;
1246     if (pos > 0)
1247         idx = scan_info->after - pos + scan_info->before;
1248     else
1249         idx = - pos - 1;
1250     scan_info->list[idx].term = odr_malloc (scan_info->odr,
1251                                             strlen(name + len_prefix)+1);
1252     strcpy (scan_info->list[idx].term, name + len_prefix);
1253     assert (*info == sizeof(isam_p));
1254     memcpy (&isam_p, info+1, sizeof(isam_p));
1255     parms.is = scan_info->isam;
1256     parms.pos = isam_p;
1257 #if 1
1258     rset = rset_create (rset_kind_isam, &parms);
1259     count_set (rset, &scan_info->list[idx].occurrences);
1260     rset_delete (rset);
1261 #else
1262     scan_info->list[idx].occurrences = 1;
1263 #endif
1264     logf (LOG_DEBUG, "pos=%3d idx=%3d name=%s", pos, idx, name);
1265     return 0;
1266 }
1267
1268
1269 static int dummy_handle (Dict_char *name, const char *info, void *p)
1270 {
1271     return 0;
1272 }
1273
1274 int rpn_scan (ZServerInfo *zi, Z_AttributesPlusTerm *zapt,
1275               int num_bases, char **basenames,
1276               int *position, int *num_entries, struct scan_entry **list,
1277               int *status)
1278 {
1279     int i, j, sizez, max_pos;
1280     int pos = *position;
1281     int num = *num_entries;
1282     int before;
1283     int after;
1284     char termz[IT_MAX_WORD+20];
1285     AttrType use;
1286     int use_value;
1287     Z_Term *term = zapt->term;
1288     struct scan_info scan_info;
1289
1290     logf (LOG_DEBUG, "scan, position = %d, num = %d", pos, num);
1291
1292     if (num_bases != 1)
1293         return 111;
1294     scan_info.before = before = pos-1;
1295     scan_info.after = after = 1+num-pos;
1296     scan_info.odr = zi->odr;
1297
1298     logf (LOG_DEBUG, "scan, before = %d, after = %d", before, after);
1299
1300     scan_info.isam = zi->wordIsam;
1301     scan_info.list = odr_malloc (zi->odr, (before+after)*
1302                                  sizeof(*scan_info.list));
1303     for (j = 0; j<before+after; j++)
1304         scan_info.list[j].term = NULL;
1305     attr_init (&use, zapt, 1);
1306     use_value = attr_find (&use, NULL);
1307     logf (LOG_DEBUG, "use value %d", use_value);
1308
1309     if (use_value == -1)
1310         use_value = 1016;
1311     i = index_word_prefix (termz, 1, use_value, *basenames);
1312
1313     dict_lookup_grep (zi->wordDict, termz, 0, NULL, &max_pos,
1314                       dummy_handle);
1315     if (max_pos <= strlen(*basenames))
1316     {
1317         zi->errString = *basenames;
1318         return zi->errCode = 109; /* Database unavailable */
1319     }
1320     strcpy (scan_info.prefix, termz);
1321     sizez = term->u.general->len;
1322     if (sizez > IT_MAX_WORD)
1323         sizez = IT_MAX_WORD;
1324     for (j = 0; j<sizez; j++)
1325         termz[j+i] = index_char_cvt (term->u.general->buf[j]);
1326     termz[j+i] = '\0';
1327
1328     dict_scan (zi->wordDict, termz, &before, &after, &scan_info, scan_handle);
1329
1330     *status = BEND_SCAN_SUCCESS;
1331
1332     for (i = 0; i<scan_info.after; i++)
1333         if (scan_info.list[scan_info.before+scan_info.after-i-1].term)
1334             break;
1335     *num_entries -= i;
1336     if (i)
1337         *status = BEND_SCAN_PARTIAL;
1338
1339     for (i = 0; i<scan_info.before; i++)
1340         if (scan_info.list[i].term)
1341             break;
1342     if (i)
1343         *status = BEND_SCAN_PARTIAL;
1344     *position -= i;
1345     *num_entries -= i;
1346
1347     *list = scan_info.list+i;       /* list is set to first 'real' entry */
1348
1349     if (*num_entries == 0)          /* signal 'unsupported use-attribute' */
1350         zi->errCode = 114;          /* if no entries was found */
1351     logf (LOG_DEBUG, "position = %d, num_entries = %d",
1352           *position, *num_entries);
1353     if (zi->errCode)
1354         logf (LOG_DEBUG, "scan error: %d", zi->errCode);
1355     return 0;
1356 }
1357
1358
1359