index/trunc.c

   1 /*
   2  * Copyright (C) 1994-1999, Index Data
   3  * All rights reserved.
   4  * Sebastian Hammer, Adam Dickmeiss
   5  *
   6  * $Log: trunc.c,v $
   7  * Revision 1.20  2002-03-20 20:24:29  adam
   8  * Hits per term. Returned in SearchResult-1
   9  *
  10  * Revision 1.19  2001/01/16 16:56:15  heikki
  11  * Searching in my isam-d
  12  *
  13  * Revision 1.18  2000/05/18 12:01:36  adam
  14  * System call times(2) used again. More 64-bit fixes.
  15  *
  16  * Revision 1.17  2000/03/15 15:00:30  adam
  17  * First work on threaded version.
  18  *
  19  * Revision 1.16  1999/11/30 13:48:03  adam
  20  * Improved installation. Updated for inclusion of YAZ header files.
  21  *
  22  * Revision 1.15  1999/07/20 13:59:18  adam
  23  * Fixed bug that occurred when phrases had 0 hits.
  24  *
  25  * Revision 1.14  1999/05/26 07:49:13  adam
  26  * C++ compilation.
  27  *
  28  * Revision 1.13  1999/05/12 13:08:06  adam
  29  * First version of ISAMS.
  30  *
  31  * Revision 1.12  1999/02/02 14:51:10  adam
  32  * Updated WIN32 code specific sections. Changed header.
  33  *
  34  * Revision 1.11  1998/03/25 13:48:02  adam
  35  * Fixed bug in rset_trunc_r.
  36  *
  37  * Revision 1.10  1998/03/05 08:45:13  adam
  38  * New result set model and modular ranking system. Moved towards
  39  * descent server API. System information stored as "SGML" records.
  40  *
  41  * Revision 1.9  1998/01/12 15:04:09  adam
  42  * The test option (-s) only uses read-lock (and not write lock).
  43  *
  44  * Revision 1.8  1997/10/31 12:34:27  adam
  45  * Bug fix: memory leak.
  46  *
  47  * Revision 1.7  1997/09/29 09:07:29  adam
  48  * Minor change.
  49  *
  50  * Revision 1.6  1997/09/22 12:39:06  adam
  51  * Added get_pos method for the ranked result sets.
  52  *
  53  * Revision 1.5  1997/09/17 12:19:17  adam
  54  * Zebra version corresponds to YAZ version 1.4.
  55  * Changed Zebra server so that it doesn't depend on global common_resource.
  56  *
  57  * Revision 1.4  1996/12/23 15:30:44  adam
  58  * Work on truncation.
  59  * Bug fix: result sets weren't deleted after server shut down.
  60  *
  61  * Revision 1.3  1996/12/20 11:07:14  adam
  62  * Multi-or result set.
  63  *
  64  * Revision 1.2  1996/11/08 11:10:28  adam
  65  * Buffers used during file match got bigger.
  66  * Compressed ISAM support everywhere.
  67  * Bug fixes regarding masking characters in queries.
  68  * Redesigned Regexp-2 queries.
  69  *
  70  * Revision 1.1  1996/11/04 14:07:40  adam
  71  * Moved truncation code to trunc.c.
  72  *
  73  */
  74 #include <stdio.h>
  75 #include <assert.h>
  76
  77 #define NEW_TRUNC 1
  78
  79 #include "zserver.h"
  80 #include <rstemp.h>
  81 #include <rsnull.h>
  82 #include <rsisams.h>
  83 #if ZMBOL
  84 #include <rsisam.h>
  85 #include <rsisamc.h>
  86 #include <rsisamd.h>
  87 #if NEW_TRUNC
  88 #include <rsm_or.h>
  89 #endif
  90 #endif
  91
  92 struct trunc_info {
  93     int  *ptr;
  94     int  *indx;
  95     char **heap;
  96     int  heapnum;
  97     int  (*cmp)(const void *p1, const void *p2);
  98     int  keysize;
  99     char *swapbuf;
 100     char *tmpbuf;
 101     char *buf;
 102 };
 103
 104 static void heap_swap (struct trunc_info *ti, int i1, int i2)
 105 {
 106     int swap;
 107
 108     swap = ti->ptr[i1];
 109     ti->ptr[i1] = ti->ptr[i2];
 110     ti->ptr[i2] = swap;
 111 }
 112
 113 static void heap_delete (struct trunc_info *ti)
 114 {
 115     int cur = 1, child = 2;
 116
 117     heap_swap (ti, 1, ti->heapnum--);
 118     while (child <= ti->heapnum) {
 119         if (child < ti->heapnum &&
 120             (*ti->cmp)(ti->heap[ti->ptr[child]],
 121                        ti->heap[ti->ptr[1+child]]) > 0)
 122             child++;
 123         if ((*ti->cmp)(ti->heap[ti->ptr[cur]],
 124                        ti->heap[ti->ptr[child]]) > 0)
 125         {
 126             heap_swap (ti, cur, child);
 127             cur = child;
 128             child = 2*cur;
 129         }
 130         else
 131             break;
 132     }
 133 }
 134
 135 static void heap_insert (struct trunc_info *ti, const char *buf, int indx)
 136 {
 137     int cur, parent;
 138
 139     cur = ++(ti->heapnum);
 140     memcpy (ti->heap[ti->ptr[cur]], buf, ti->keysize);
 141     ti->indx[ti->ptr[cur]] = indx;
 142     parent = cur/2;
 143     while (parent && (*ti->cmp)(ti->heap[ti->ptr[parent]],
 144                                 ti->heap[ti->ptr[cur]]) > 0)
 145     {
 146         heap_swap (ti, cur, parent);
 147         cur = parent;
 148         parent = cur/2;
 149     }
 150 }
 151
 152 static struct trunc_info *heap_init (int size, int key_size,
 153                                      int (*cmp)(const void *p1,
 154                                                 const void *p2))
 155 {
 156     struct trunc_info *ti = (struct trunc_info *) xmalloc (sizeof(*ti));
 157     int i;
 158
 159     ++size;
 160     ti->heapnum = 0;
 161     ti->keysize = key_size;
 162     ti->cmp = cmp;
 163     ti->indx = (int *) xmalloc (size * sizeof(*ti->indx));
 164     ti->heap = (char **) xmalloc (size * sizeof(*ti->heap));
 165     ti->ptr = (int *) xmalloc (size * sizeof(*ti->ptr));
 166     ti->swapbuf = (char *) xmalloc (ti->keysize);
 167     ti->tmpbuf = (char *) xmalloc (ti->keysize);
 168     ti->buf = (char *) xmalloc (size * ti->keysize);
 169     for (i = size; --i >= 0; )
 170     {
 171         ti->ptr[i] = i;
 172         ti->heap[i] = ti->buf + ti->keysize * i;
 173     }
 174     return ti;
 175 }
 176
 177 static void heap_close (struct trunc_info *ti)
 178 {
 179     xfree (ti->ptr);
 180     xfree (ti->indx);
 181     xfree (ti->heap);
 182     xfree (ti->swapbuf);
 183     xfree (ti->tmpbuf);
 184     xfree (ti->buf);
 185     xfree (ti);
 186 }
 187
 188 static RSET rset_trunc_r (ZebraHandle zi, const char *term, int length,
 189                          const char *flags, ISAMS_P *isam_p, int from, int to,
 190                          int merge_chunk)
 191 {
 192     RSET result;
 193     RSFD result_rsfd;
 194     rset_temp_parms parms;
 195
 196     parms.cmp = key_compare_it;
 197     parms.key_size = sizeof(struct it_key);
 198     parms.temp_path = res_get (zi->service->res, "setTmpDir");
 199     parms.rset_term = rset_term_create (term, length, flags);
 200     result = rset_create (rset_kind_temp, &parms);
 201     result_rsfd = rset_open (result, RSETF_WRITE);
 202
 203     if (to - from > merge_chunk)
 204     {
 205         RSFD *rsfd;
 206         RSET *rset;
 207         int term_index;
 208         int i, i_add = (to-from)/merge_chunk + 1;
 209         struct trunc_info *ti;
 210         int rscur = 0;
 211         int rsmax = (to-from)/i_add + 1;
 212
 213         rset = (RSET *) xmalloc (sizeof(*rset) * rsmax);
 214         rsfd = (RSFD *) xmalloc (sizeof(*rsfd) * rsmax);
 215
 216         for (i = from; i < to; i += i_add)
 217         {
 218             if (i_add <= to - i)
 219                 rset[rscur] = rset_trunc_r (zi, term, length, flags,
 220                                             isam_p, i, i+i_add, merge_chunk);
 221             else
 222                 rset[rscur] = rset_trunc_r (zi, term, length, flags,
 223                                             isam_p, i, to, merge_chunk);
 224             rscur++;
 225         }
 226         ti = heap_init (rscur, sizeof(struct it_key), key_compare_it);
 227         for (i = rscur; --i >= 0; )
 228         {
 229             rsfd[i] = rset_open (rset[i], RSETF_READ);
 230             if (rset_read (rset[i], rsfd[i], ti->tmpbuf, &term_index))
 231                 heap_insert (ti, ti->tmpbuf, i);
 232             else
 233             {
 234                 rset_close (rset[i], rsfd[i]);
 235                 rset_delete (rset[i]);
 236             }
 237         }
 238         while (ti->heapnum)
 239         {
 240             int n = ti->indx[ti->ptr[1]];
 241
 242             rset_write (result, result_rsfd, ti->heap[ti->ptr[1]]);
 243
 244             while (1)
 245             {
 246                 if (!rset_read (rset[n], rsfd[n], ti->tmpbuf, &term_index))
 247                 {
 248                     heap_delete (ti);
 249                     rset_close (rset[n], rsfd[n]);
 250                     rset_delete (rset[n]);
 251                     break;
 252                 }
 253                 if ((*ti->cmp)(ti->tmpbuf, ti->heap[ti->ptr[1]]) > 1)
 254                 {
 255                     heap_delete (ti);
 256                     heap_insert (ti, ti->tmpbuf, n);
 257                     break;
 258                 }
 259             }
 260         }
 261         xfree (rset);
 262         xfree (rsfd);
 263         heap_close (ti);
 264     }
 265 #if ZMBOL
 266     else if (zi->service->isam)
 267     {
 268         ISPT *ispt;
 269         int i;
 270         struct trunc_info *ti;
 271
 272         ispt = (ISPT *) xmalloc (sizeof(*ispt) * (to-from));
 273
 274         ti = heap_init (to-from, sizeof(struct it_key),
 275                         key_compare_it);
 276         for (i = to-from; --i >= 0; )
 277         {
 278             ispt[i] = is_position (zi->service->isam, isam_p[from+i]);
 279             if (is_readkey (ispt[i], ti->tmpbuf))
 280                 heap_insert (ti, ti->tmpbuf, i);
 281             else
 282                 is_pt_free (ispt[i]);
 283         }
 284         while (ti->heapnum)
 285         {
 286             int n = ti->indx[ti->ptr[1]];
 287
 288             rset_write (result, result_rsfd, ti->heap[ti->ptr[1]]);
 289 #if 1
 290 /* section that preserve all keys */
 291             heap_delete (ti);
 292             if (is_readkey (ispt[n], ti->tmpbuf))
 293                 heap_insert (ti, ti->tmpbuf, n);
 294             else
 295                 is_pt_free (ispt[n]);
 296 #else
 297 /* section that preserve all keys with unique sysnos */
 298             while (1)
 299             {
 300                 if (!is_readkey (ispt[n], ti->tmpbuf))
 301                 {
 302                     heap_delete (ti);
 303                     is_pt_free (ispt[n]);
 304                     break;
 305                 }
 306                 if ((*ti->cmp)(ti->tmpbuf, ti->heap[ti->ptr[1]]) > 1)
 307                 {
 308                     heap_delete (ti);
 309                     heap_insert (ti, ti->tmpbuf, n);
 310                     break;
 311                 }
 312             }
 313 #endif
 314         }
 315         heap_close (ti);
 316         xfree (ispt);
 317     }
 318     else if (zi->service->isamc)
 319     {
 320         ISAMC_PP *ispt;
 321         int i;
 322         struct trunc_info *ti;
 323
 324         ispt = (ISAMC_PP *) xmalloc (sizeof(*ispt) * (to-from));
 325
 326         ti = heap_init (to-from, sizeof(struct it_key),
 327                         key_compare_it);
 328         for (i = to-from; --i >= 0; )
 329         {
 330             ispt[i] = isc_pp_open (zi->service->isamc, isam_p[from+i]);
 331             if (isc_pp_read (ispt[i], ti->tmpbuf))
 332                 heap_insert (ti, ti->tmpbuf, i);
 333             else
 334                 isc_pp_close (ispt[i]);
 335         }
 336         while (ti->heapnum)
 337         {
 338             int n = ti->indx[ti->ptr[1]];
 339
 340             rset_write (result, result_rsfd, ti->heap[ti->ptr[1]]);
 341 #if 0
 342 /* section that preserve all keys */
 343             heap_delete (ti);
 344             if (isc_pp_read (ispt[n], ti->tmpbuf))
 345                 heap_insert (ti, ti->tmpbuf, n);
 346             else
 347                 isc_pp_close (ispt[n]);
 348 #else
 349 /* section that preserve all keys with unique sysnos */
 350             while (1)
 351             {
 352                 if (!isc_pp_read (ispt[n], ti->tmpbuf))
 353                 {
 354                     heap_delete (ti);
 355                     isc_pp_close (ispt[n]);
 356                     break;
 357                 }
 358                 if ((*ti->cmp)(ti->tmpbuf, ti->heap[ti->ptr[1]]) > 1)
 359                 {
 360                     heap_delete (ti);
 361                     heap_insert (ti, ti->tmpbuf, n);
 362                     break;
 363                 }
 364             }
 365 #endif
 366         }
 367         heap_close (ti);
 368         xfree (ispt);
 369     }
 370
 371     else if (zi->service->isamd)
 372     {
 373         ISAMD_PP *ispt;
 374         int i;
 375         struct trunc_info *ti;
 376
 377         ispt = (ISAMD_PP *) xmalloc (sizeof(*ispt) * (to-from));
 378
 379         ti = heap_init (to-from, sizeof(struct it_key),
 380                         key_compare_it);
 381         for (i = to-from; --i >= 0; )
 382         {
 383             ispt[i] = isamd_pp_open (zi->service->isamd, isam_p[from+i]);
 384             if (isamd_pp_read (ispt[i], ti->tmpbuf))
 385                 heap_insert (ti, ti->tmpbuf, i);
 386             else
 387                 isamd_pp_close (ispt[i]);
 388         }
 389         while (ti->heapnum)
 390         {
 391             int n = ti->indx[ti->ptr[1]];
 392
 393             rset_write (result, result_rsfd, ti->heap[ti->ptr[1]]);
 394 #if 0
 395 /* section that preserve all keys */
 396             heap_delete (ti);
 397             if (isamd_pp_read (ispt[n], ti->tmpbuf))
 398                 heap_insert (ti, ti->tmpbuf, n);
 399             else
 400                 isamd_pp_close (ispt[n]);
 401 #else
 402 /* section that preserve all keys with unique sysnos */
 403             while (1)
 404             {
 405                 if (!isamd_pp_read (ispt[n], ti->tmpbuf))
 406                 {
 407                     heap_delete (ti);
 408                     isamd_pp_close (ispt[n]);
 409                     break;
 410                 }
 411                 if ((*ti->cmp)(ti->tmpbuf, ti->heap[ti->ptr[1]]) > 1)
 412                 {
 413                     heap_delete (ti);
 414                     heap_insert (ti, ti->tmpbuf, n);
 415                     break;
 416                 }
 417             }
 418 #endif
 419         }
 420         heap_close (ti);
 421         xfree (ispt);
 422     }
 423
 424 #endif
 425     else if (zi->service->isams)
 426     {
 427         ISAMS_PP *ispt;
 428         int i;
 429         struct trunc_info *ti;
 430
 431         ispt = (ISAMS_PP *) xmalloc (sizeof(*ispt) * (to-from));
 432
 433         ti = heap_init (to-from, sizeof(struct it_key),
 434                         key_compare_it);
 435         for (i = to-from; --i >= 0; )
 436         {
 437             ispt[i] = isams_pp_open (zi->service->isams, isam_p[from+i]);
 438             if (isams_pp_read (ispt[i], ti->tmpbuf))
 439                 heap_insert (ti, ti->tmpbuf, i);
 440             else
 441                 isams_pp_close (ispt[i]);
 442         }
 443         while (ti->heapnum)
 444         {
 445             int n = ti->indx[ti->ptr[1]];
 446
 447             rset_write (result, result_rsfd, ti->heap[ti->ptr[1]]);
 448             while (1)
 449             {
 450                 if (!isams_pp_read (ispt[n], ti->tmpbuf))
 451                 {
 452                     heap_delete (ti);
 453                     isams_pp_close (ispt[n]);
 454                     break;
 455                 }
 456                 if ((*ti->cmp)(ti->tmpbuf, ti->heap[ti->ptr[1]]) > 1)
 457                 {
 458                     heap_delete (ti);
 459                     heap_insert (ti, ti->tmpbuf, n);
 460                     break;
 461                 }
 462             }
 463         }
 464         heap_close (ti);
 465         xfree (ispt);
 466     }
 467     else
 468         logf (LOG_WARN, "Unknown isam set in rset_trunc_r");
 469
 470     rset_close (result, result_rsfd);
 471     return result;
 472 }
 473
 474 static int isams_trunc_cmp (const void *p1, const void *p2)
 475 {
 476     ISAMS_P i1 = *(ISAMS_P*) p1;
 477     ISAMS_P i2 = *(ISAMS_P*) p2;
 478
 479     return i1 - i2;
 480 }
 481
 482 #if ZMBOL
 483 static int isam_trunc_cmp (const void *p1, const void *p2)
 484 {
 485     ISAM_P i1 = *(ISAM_P*) p1;
 486     ISAM_P i2 = *(ISAM_P*) p2;
 487     int d;
 488
 489     d = is_type (i1) - is_type (i2);
 490     if (d)
 491         return d;
 492     return is_block (i1) - is_block (i2);
 493 }
 494
 495 static int isamc_trunc_cmp (const void *p1, const void *p2)
 496 {
 497     ISAMC_P i1 = *(ISAMC_P*) p1;
 498     ISAMC_P i2 = *(ISAMC_P*) p2;
 499     int d;
 500
 501     d = isc_type (i1) - isc_type (i2);
 502     if (d)
 503         return d;
 504     return isc_block (i1) - isc_block (i2);
 505 }
 506 static int isamd_trunc_cmp (const void *p1, const void *p2)
 507 {
 508     ISAMD_P i1 = *(ISAMD_P*) p1;
 509     ISAMD_P i2 = *(ISAMD_P*) p2;
 510     int d;
 511
 512     d = isamd_type (i1) - isamd_type (i2);
 513     if (d)
 514         return d;
 515     return isamd_block (i1) - isamd_block (i2);
 516 }
 517 #endif
 518
 519 RSET rset_trunc (ZebraHandle zi, ISAMS_P *isam_p, int no,
 520                  const char *term, int length, const char *flags)
 521 {
 522     logf (LOG_DEBUG, "rset_trunc no=%d", no);
 523     if (no < 1)
 524     {
 525         rset_null_parms parms;
 526         parms.rset_term = rset_term_create (term, length, flags);
 527         return rset_create (rset_kind_null, &parms);
 528     }
 529     if (zi->service->isams)
 530     {
 531         if (no == 1)
 532         {
 533             rset_isams_parms parms;
 534
 535             parms.pos = *isam_p;
 536             parms.is = zi->service->isams;
 537             parms.rset_term = rset_term_create (term, length, flags);
 538             return rset_create (rset_kind_isams, &parms);
 539         }
 540         qsort (isam_p, no, sizeof(*isam_p), isams_trunc_cmp);
 541     }
 542 #if ZMBOL
 543     else if (zi->service->isam)
 544     {
 545         if (no == 1)
 546         {
 547             rset_isam_parms parms;
 548
 549             parms.pos = *isam_p;
 550             parms.is = zi->service->isam;
 551             parms.rset_term = rset_term_create (term, length, flags);
 552             return rset_create (rset_kind_isam, &parms);
 553         }
 554         qsort (isam_p, no, sizeof(*isam_p), isam_trunc_cmp);
 555     }
 556     else if (zi->service->isamc)
 557     {
 558         if (no == 1)
 559         {
 560             rset_isamc_parms parms;
 561
 562             parms.key_size = sizeof(struct it_key);
 563             parms.cmp = key_compare_it;
 564             parms.pos = *isam_p;
 565             parms.is = zi->service->isamc;
 566             parms.rset_term = rset_term_create (term, length, flags);
 567             return rset_create (rset_kind_isamc, &parms);
 568         }
 569 #if NEW_TRUNC
 570         else if (no < 10000)
 571         {
 572             rset_m_or_parms parms;
 573
 574             parms.key_size = sizeof(struct it_key);
 575             parms.cmp = key_compare_it;
 576             parms.isc = zi->service->isamc;
 577             parms.isam_positions = isam_p;
 578             parms.no_isam_positions = no;
 579             parms.no_save_positions = 100000;
 580             parms.rset_term = rset_term_create (term, length, flags);
 581             return rset_create (rset_kind_m_or, &parms);
 582         }
 583 #endif
 584         qsort (isam_p, no, sizeof(*isam_p), isamc_trunc_cmp);
 585     }
 586     else if (zi->service->isamd)
 587     {
 588         if (no == 1)
 589         {
 590             rset_isamd_parms parms;
 591
 592             parms.pos = *isam_p;
 593             parms.is = zi->service->isamd;
 594             parms.rset_term = rset_term_create (term, length, flags);
 595             return rset_create (rset_kind_isamd, &parms);
 596         }
 597 #if NEW_TRUNC_NOT_DONE_FOR_ISAM_D
 598         else if (no < 10000)
 599         {
 600             rset_m_or_parms parms;
 601
 602             parms.key_size = sizeof(struct it_key);
 603             parms.cmp = key_compare_it;
 604             parms.isc = 0;
 605             parms.isamd=zi->service->isamd;
 606             parms.isam_positions = isam_p;
 607             parms.no_isam_positions = no;
 608             parms.no_save_positions = 100000;
 609             parms.rset_term = rset_term_create (term, length, flags);
 610             return rset_create (rset_kind_m_or, &parms);
 611         }
 612 #endif
 613         qsort (isam_p, no, sizeof(*isam_p), isamd_trunc_cmp);
 614     }
 615 #endif
 616     else
 617     {
 618         logf (LOG_WARN, "Unknown isam set in rset_trunc");
 619         return rset_create (rset_kind_null, NULL);
 620     }
 621     return rset_trunc_r (zi, term, length, flags, isam_p, 0, no, 100);
 622 }
 623