index/trunc.c

   1 /* $Id: trunc.c,v 1.42 2004-09-01 15:01:32 heikki Exp $
   2    Copyright (C) 1995,1996,1997,1998,1999,2000,2001,2002,2003,2004
   3    Index Data Aps
   4
   5 This file is part of the Zebra server.
   6
   7 Zebra is free software; you can redistribute it and/or modify it under
   8 the terms of the GNU General Public License as published by the Free
   9 Software Foundation; either version 2, or (at your option) any later
  10 version.
  11
  12 Zebra is distributed in the hope that it will be useful, but WITHOUT ANY
  13 WARRANTY; without even the implied warranty of MERCHANTABILITY or
  14 FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
  15 for more details.
  16
  17 You should have received a copy of the GNU General Public License
  18 along with Zebra; see the file LICENSE.zebra.  If not, write to the
  19 Free Software Foundation, 59 Temple Place - Suite 330, Boston, MA
  20 02111-1307, USA.
  21 */
  22
  23
  24 #include <stdio.h>
  25 #include <assert.h>
  26
  27 #include "index.h"
  28 #include <rset.h>
  29
  30 struct trunc_info {
  31     int  *ptr;
  32     int  *indx;
  33     char **heap;
  34     int  heapnum;
  35     int  (*cmp)(const void *p1, const void *p2);
  36     int  keysize;
  37     char *swapbuf;
  38     char *tmpbuf;
  39     char *buf;
  40 };
  41
  42 static void heap_swap (struct trunc_info *ti, int i1, int i2)
  43 {
  44     int swap;
  45
  46     swap = ti->ptr[i1];
  47     ti->ptr[i1] = ti->ptr[i2];
  48     ti->ptr[i2] = swap;
  49 }
  50
  51 static void heap_delete (struct trunc_info *ti)
  52 {
  53     int cur = 1, child = 2;
  54
  55     heap_swap (ti, 1, ti->heapnum--);
  56     while (child <= ti->heapnum) {
  57         if (child < ti->heapnum &&
  58             (*ti->cmp)(ti->heap[ti->ptr[child]],
  59                        ti->heap[ti->ptr[1+child]]) > 0)
  60             child++;
  61         if ((*ti->cmp)(ti->heap[ti->ptr[cur]],
  62                        ti->heap[ti->ptr[child]]) > 0)
  63         {
  64             heap_swap (ti, cur, child);
  65             cur = child;
  66             child = 2*cur;
  67         }
  68         else
  69             break;
  70     }
  71 }
  72
  73 static void heap_insert (struct trunc_info *ti, const char *buf, int indx)
  74 {
  75     int cur, parent;
  76
  77     cur = ++(ti->heapnum);
  78     memcpy (ti->heap[ti->ptr[cur]], buf, ti->keysize);
  79     ti->indx[ti->ptr[cur]] = indx;
  80     parent = cur/2;
  81     while (parent && (*ti->cmp)(ti->heap[ti->ptr[parent]],
  82                                 ti->heap[ti->ptr[cur]]) > 0)
  83     {
  84         heap_swap (ti, cur, parent);
  85         cur = parent;
  86         parent = cur/2;
  87     }
  88 }
  89
  90 static struct trunc_info *heap_init (int size, int key_size,
  91                                      int (*cmp)(const void *p1,
  92                                                 const void *p2))
  93 {
  94     struct trunc_info *ti = (struct trunc_info *) xmalloc (sizeof(*ti));
  95     int i;
  96
  97     ++size;
  98     ti->heapnum = 0;
  99     ti->keysize = key_size;
 100     ti->cmp = cmp;
 101     ti->indx = (int *) xmalloc (size * sizeof(*ti->indx));
 102     ti->heap = (char **) xmalloc (size * sizeof(*ti->heap));
 103     ti->ptr = (int *) xmalloc (size * sizeof(*ti->ptr));
 104     ti->swapbuf = (char *) xmalloc (ti->keysize);
 105     ti->tmpbuf = (char *) xmalloc (ti->keysize);
 106     ti->buf = (char *) xmalloc (size * ti->keysize);
 107     for (i = size; --i >= 0; )
 108     {
 109         ti->ptr[i] = i;
 110         ti->heap[i] = ti->buf + ti->keysize * i;
 111     }
 112     return ti;
 113 }
 114
 115 static void heap_close (struct trunc_info *ti)
 116 {
 117     xfree (ti->ptr);
 118     xfree (ti->indx);
 119     xfree (ti->heap);
 120     xfree (ti->swapbuf);
 121     xfree (ti->tmpbuf);
 122     xfree (ti->buf);
 123     xfree (ti);
 124 }
 125
 126 static RSET rset_trunc_r (ZebraHandle zi, const char *term, int length,
 127                           const char *flags, ISAMS_P *isam_p, int from, int to,
 128                           int merge_chunk, int preserve_position,
 129                           int term_type, NMEM rset_nmem,
 130                           const struct key_control *kctrl)
 131 {
 132     RSET result;
 133     RSFD result_rsfd;
 134     int nn = 0;
 135
 136     /*
 137     rset_temp_parms parms;
 138     parms.cmp = key_compare_it;
 139     parms.key_size = sizeof(struct it_key);
 140     parms.temp_path = res_get (zi->res, "setTmpDir");
 141     result = rset_create (rset_kind_temp, &parms);
 142     */
 143     result=rstemp_create( rset_nmem,kctrl,
 144             res_get (zi->res, "setTmpDir"));
 145     result_rsfd = rset_open (result, RSETF_WRITE);
 146
 147     if (to - from > merge_chunk)
 148     {
 149         RSFD *rsfd;
 150         RSET *rset;
 151         int i, i_add = (to-from)/merge_chunk + 1;
 152         struct trunc_info *ti;
 153         int rscur = 0;
 154         int rsmax = (to-from)/i_add + 1;
 155
 156         rset = (RSET *) xmalloc (sizeof(*rset) * rsmax);
 157         rsfd = (RSFD *) xmalloc (sizeof(*rsfd) * rsmax);
 158
 159         for (i = from; i < to; i += i_add)
 160         {
 161             if (i_add <= to - i)
 162                 rset[rscur] = rset_trunc_r (zi, term, length, flags,
 163                                             isam_p, i, i+i_add,
 164                                             merge_chunk, preserve_position,
 165                                             term_type, rset_nmem, kctrl);
 166             else
 167                 rset[rscur] = rset_trunc_r (zi, term, length, flags,
 168                                             isam_p, i, to,
 169                                             merge_chunk, preserve_position,
 170                                             term_type, rset_nmem, kctrl);
 171             rscur++;
 172         }
 173         ti = heap_init (rscur, sizeof(struct it_key), key_compare_it);
 174         for (i = rscur; --i >= 0; )
 175         {
 176             rsfd[i] = rset_open (rset[i], RSETF_READ);
 177             if (rset_read(rsfd[i], ti->tmpbuf))
 178                 heap_insert (ti, ti->tmpbuf, i);
 179             else
 180             {
 181                 rset_close (rsfd[i]);
 182                 rset_delete (rset[i]);
 183             }
 184         }
 185         while (ti->heapnum)
 186         {
 187             int n = ti->indx[ti->ptr[1]];
 188
 189             rset_write (result_rsfd, ti->heap[ti->ptr[1]]);
 190             nn++;
 191
 192             while (1)
 193             {
 194                 if (!rset_read (rsfd[n], ti->tmpbuf))
 195                 {
 196                     heap_delete (ti);
 197                     rset_close (rsfd[n]);
 198                     rset_delete (rset[n]);
 199                     break;
 200                 }
 201                 if ((*ti->cmp)(ti->tmpbuf, ti->heap[ti->ptr[1]]) > 1)
 202                 {
 203                     heap_delete (ti);
 204                     heap_insert (ti, ti->tmpbuf, n);
 205                     break;
 206                 }
 207             }
 208         }
 209         xfree (rset);
 210         xfree (rsfd);
 211         heap_close (ti);
 212     }
 213     else if (zi->reg->isamc)
 214     {
 215         ISAMC_PP *ispt;
 216         int i;
 217         struct trunc_info *ti;
 218
 219         ispt = (ISAMC_PP *) xmalloc (sizeof(*ispt) * (to-from));
 220
 221         ti = heap_init (to-from, sizeof(struct it_key),
 222                         key_compare_it);
 223         for (i = to-from; --i >= 0; )
 224         {
 225             ispt[i] = isc_pp_open (zi->reg->isamc, isam_p[from+i]);
 226             if (isc_pp_read (ispt[i], ti->tmpbuf))
 227                 heap_insert (ti, ti->tmpbuf, i);
 228             else
 229                 isc_pp_close (ispt[i]);
 230         }
 231         while (ti->heapnum)
 232         {
 233             int n = ti->indx[ti->ptr[1]];
 234
 235             rset_write (result_rsfd, ti->heap[ti->ptr[1]]);
 236             nn++;
 237             if (preserve_position)
 238             {
 239                 heap_delete (ti);
 240                 if (isc_pp_read (ispt[n], ti->tmpbuf))
 241                     heap_insert (ti, ti->tmpbuf, n);
 242                 else
 243                     isc_pp_close (ispt[n]);
 244             }
 245             else
 246             {
 247                 while (1)
 248                 {
 249                     if (!isc_pp_read (ispt[n], ti->tmpbuf))
 250                     {
 251                         heap_delete (ti);
 252                         isc_pp_close (ispt[n]);
 253                         break;
 254                     }
 255                     if ((*ti->cmp)(ti->tmpbuf, ti->heap[ti->ptr[1]]) > 1)
 256                     {
 257                         heap_delete (ti);
 258                         heap_insert (ti, ti->tmpbuf, n);
 259                         break;
 260                     }
 261                 }
 262             }
 263         }
 264         heap_close (ti);
 265         xfree (ispt);
 266     }
 267     else if (zi->reg->isams)
 268     {
 269         ISAMS_PP *ispt;
 270         int i;
 271         struct trunc_info *ti;
 272         int nn = 0;
 273
 274         ispt = (ISAMS_PP *) xmalloc (sizeof(*ispt) * (to-from));
 275
 276         ti = heap_init (to-from, sizeof(struct it_key),
 277                         key_compare_it);
 278         for (i = to-from; --i >= 0; )
 279         {
 280             ispt[i] = isams_pp_open (zi->reg->isams, isam_p[from+i]);
 281             if (isams_pp_read (ispt[i], ti->tmpbuf))
 282                 heap_insert (ti, ti->tmpbuf, i);
 283             else
 284                 isams_pp_close (ispt[i]);
 285         }
 286         while (ti->heapnum)
 287         {
 288             int n = ti->indx[ti->ptr[1]];
 289
 290             rset_write (result_rsfd, ti->heap[ti->ptr[1]]);
 291             nn++;
 292             while (1)
 293             {
 294                 if (!isams_pp_read (ispt[n], ti->tmpbuf))
 295                 {
 296                     heap_delete (ti);
 297                     isams_pp_close (ispt[n]);
 298                     break;
 299                 }
 300                 if ((*ti->cmp)(ti->tmpbuf, ti->heap[ti->ptr[1]]) > 1)
 301                 {
 302                     heap_delete (ti);
 303                     heap_insert (ti, ti->tmpbuf, n);
 304                     break;
 305                 }
 306             }
 307         }
 308         heap_close (ti);
 309         xfree (ispt);
 310     }
 311     else if (zi->reg->isamb)
 312     {
 313         ISAMB_PP *ispt;
 314         int i;
 315         struct trunc_info *ti;
 316
 317         ispt = (ISAMB_PP *) xmalloc (sizeof(*ispt) * (to-from));
 318
 319         ti = heap_init (to-from, sizeof(struct it_key),
 320                         key_compare_it);
 321         for (i = to-from; --i >= 0; )
 322         {
 323             if (isam_p[from+i]) {
 324                 ispt[i] = isamb_pp_open (zi->reg->isamb, isam_p[from+i]);
 325                 if (isamb_pp_read (ispt[i], ti->tmpbuf))
 326                     heap_insert (ti, ti->tmpbuf, i);
 327                 else
 328                     isamb_pp_close (ispt[i]);
 329             }
 330         }
 331         while (ti->heapnum)
 332         {
 333             int n = ti->indx[ti->ptr[1]];
 334
 335             rset_write (result_rsfd, ti->heap[ti->ptr[1]]);
 336             nn++;
 337
 338             if (preserve_position)
 339             {
 340                 heap_delete (ti);
 341                 if (isamb_pp_read (ispt[n], ti->tmpbuf))
 342                     heap_insert (ti, ti->tmpbuf, n);
 343                 else
 344                     isamb_pp_close (ispt[n]);
 345             }
 346             else
 347             {
 348                 while (1)
 349                 {
 350                     if (!isamb_pp_read (ispt[n], ti->tmpbuf))
 351                     {
 352                         heap_delete (ti);
 353                         isamb_pp_close (ispt[n]);
 354                         break;
 355                     }
 356                     if ((*ti->cmp)(ti->tmpbuf, ti->heap[ti->ptr[1]]) > 1)
 357                     {
 358                         heap_delete (ti);
 359                         heap_insert (ti, ti->tmpbuf, n);
 360                         break;
 361                     }
 362                 }
 363             }
 364         }
 365         heap_close (ti);
 366         xfree (ispt);
 367     }
 368     else
 369         logf (LOG_WARN, "Unknown isam set in rset_trunc_r");
 370
 371     rset_close (result_rsfd);
 372     return result;
 373 }
 374
 375 static int isams_trunc_cmp (const void *p1, const void *p2)
 376 {
 377     ISAMS_P i1 = *(ISAMS_P*) p1;
 378     ISAMS_P i2 = *(ISAMS_P*) p2;
 379
 380     if (i1 > i2)
 381         return 1;
 382     else if (i1 < i2)
 383         return -1;
 384     return 0;
 385 }
 386
 387 static int isamc_trunc_cmp (const void *p1, const void *p2)
 388 {
 389     ISAMC_P i1 = *(ISAMC_P*) p1;
 390     ISAMC_P i2 = *(ISAMC_P*) p2;
 391     zint d;
 392
 393     d = (isc_type (i1) - isc_type (i2));
 394     if (d == 0)
 395         d = isc_block (i1) - isc_block (i2);
 396     if (d > 0)
 397         return 1;
 398     else if (d < 0)
 399         return -1;
 400     return 0;
 401 }
 402
 403 RSET rset_trunc (ZebraHandle zi, ISAMS_P *isam_p, int no,
 404                  const char *term, int length, const char *flags,
 405                  int preserve_position, int term_type, NMEM rset_nmem,
 406                  const struct key_control *kctrl)
 407 {
 408     logf (LOG_DEBUG, "rset_trunc no=%d", no);
 409     if (no < 1)
 410         return rsnull_create (rset_nmem,kctrl);
 411     if (zi->reg->isams)
 412     {
 413         if (no == 1)
 414             return rsisams_create(rset_nmem, kctrl,
 415                     zi->reg->isams, *isam_p);
 416         qsort (isam_p, no, sizeof(*isam_p), isams_trunc_cmp);
 417     }
 418     else if (zi->reg->isamc)
 419     {
 420         if (no == 1)
 421             return rsisamc_create(rset_nmem, kctrl,
 422                     zi->reg->isamc, *isam_p);
 423
 424 #if 0 /* NEW_TRUNC */ /* FIXME - Use the new multi_or instead !! */
 425         else if (no < 10000)
 426         {
 427             rset_m_or_parms parms;
 428
 429             parms.key_size = sizeof(struct it_key);
 430             parms.cmp = key_compare_it;
 431             parms.isc = zi->reg->isamc;
 432             parms.isam_positions = isam_p;
 433             parms.no_isam_positions = no;
 434             parms.no_save_positions = 100000;
 435             return rset_create (rset_kind_m_or, &parms);
 436         }
 437 #endif
 438         qsort (isam_p, no, sizeof(*isam_p), isamc_trunc_cmp);
 439     }
 440     else if (zi->reg->isamb)
 441     {
 442         if (no == 1)
 443             return rsisamb_create(rset_nmem,kctrl,
 444                     zi->reg->isamb, *isam_p);
 445         else if (no <10000 ) /* FIXME - hardcoded number */
 446         {
 447             RSET r;
 448             RSET *rsets=xmalloc(no*sizeof(RSET)); /* use nmem! */
 449             int i;
 450             for (i=0;i<no;i++)
 451                 rsets[i]=rsisamb_create(rset_nmem, kctrl,
 452                     zi->reg->isamb, isam_p[i] );
 453             r=rsmultior_create( rset_nmem, kctrl, no, rsets);
 454             xfree(rsets);
 455         }
 456         qsort (isam_p, no, sizeof(*isam_p), isamc_trunc_cmp);
 457     }
 458     else
 459     {
 460         logf (LOG_WARN, "Unknown isam set in rset_trunc");
 461         return rsnull_create (rset_nmem, kctrl);
 462     }
 463     return rset_trunc_r (zi, term, length, flags, isam_p, 0, no, 100,
 464                          preserve_position, term_type, rset_nmem,kctrl);
 465 }
 466