More XPATH work; common sequence numbers for extract keys
[idzebra-moved-to-github.git] / index / trunc.c
1 /*
2  * Copyright (C) 1994-1999, Index Data
3  * All rights reserved.
4  * Sebastian Hammer, Adam Dickmeiss
5  *
6  * $Log: trunc.c,v $
7  * Revision 1.23  2002-04-12 14:40:42  adam
8  * Work on XPATH
9  *
10  * Revision 1.22  2002/04/05 08:46:26  adam
11  * Zebra with full functionality
12  *
13  * Revision 1.21  2002/04/04 14:14:13  adam
14  * Multiple registers (alpha early)
15  *
16  * Revision 1.20  2002/03/20 20:24:29  adam
17  * Hits per term. Returned in SearchResult-1
18  *
19  * Revision 1.19  2001/01/16 16:56:15  heikki
20  * Searching in my isam-d
21  *
22  * Revision 1.18  2000/05/18 12:01:36  adam
23  * System call times(2) used again. More 64-bit fixes.
24  *
25  * Revision 1.17  2000/03/15 15:00:30  adam
26  * First work on threaded version.
27  *
28  * Revision 1.16  1999/11/30 13:48:03  adam
29  * Improved installation. Updated for inclusion of YAZ header files.
30  *
31  * Revision 1.15  1999/07/20 13:59:18  adam
32  * Fixed bug that occurred when phrases had 0 hits.
33  *
34  * Revision 1.14  1999/05/26 07:49:13  adam
35  * C++ compilation.
36  *
37  * Revision 1.13  1999/05/12 13:08:06  adam
38  * First version of ISAMS.
39  *
40  * Revision 1.12  1999/02/02 14:51:10  adam
41  * Updated WIN32 code specific sections. Changed header.
42  *
43  * Revision 1.11  1998/03/25 13:48:02  adam
44  * Fixed bug in rset_trunc_r.
45  *
46  * Revision 1.10  1998/03/05 08:45:13  adam
47  * New result set model and modular ranking system. Moved towards
48  * descent server API. System information stored as "SGML" records.
49  *
50  * Revision 1.9  1998/01/12 15:04:09  adam
51  * The test option (-s) only uses read-lock (and not write lock).
52  *
53  * Revision 1.8  1997/10/31 12:34:27  adam
54  * Bug fix: memory leak.
55  *
56  * Revision 1.7  1997/09/29 09:07:29  adam
57  * Minor change.
58  *
59  * Revision 1.6  1997/09/22 12:39:06  adam
60  * Added get_pos method for the ranked result sets.
61  *
62  * Revision 1.5  1997/09/17 12:19:17  adam
63  * Zebra version corresponds to YAZ version 1.4.
64  * Changed Zebra server so that it doesn't depend on global common_resource.
65  *
66  * Revision 1.4  1996/12/23 15:30:44  adam
67  * Work on truncation.
68  * Bug fix: result sets weren't deleted after server shut down.
69  *
70  * Revision 1.3  1996/12/20 11:07:14  adam
71  * Multi-or result set.
72  *
73  * Revision 1.2  1996/11/08 11:10:28  adam
74  * Buffers used during file match got bigger.
75  * Compressed ISAM support everywhere.
76  * Bug fixes regarding masking characters in queries.
77  * Redesigned Regexp-2 queries.
78  *
79  * Revision 1.1  1996/11/04 14:07:40  adam
80  * Moved truncation code to trunc.c.
81  *
82  */
83 #include <stdio.h>
84 #include <assert.h>
85
86 #define NEW_TRUNC 1
87
88 #include "index.h"
89 #include <rstemp.h>
90 #include <rsnull.h>
91 #include <rsisams.h>
92 #include <rsisam.h>
93 #include <rsisamc.h>
94 #include <rsisamd.h>
95 #if NEW_TRUNC
96 #include <rsm_or.h>
97 #endif
98
99 struct trunc_info {
100     int  *ptr;
101     int  *indx;
102     char **heap;
103     int  heapnum;
104     int  (*cmp)(const void *p1, const void *p2);
105     int  keysize;
106     char *swapbuf;
107     char *tmpbuf;
108     char *buf;
109 };
110
111 static void heap_swap (struct trunc_info *ti, int i1, int i2)
112 {
113     int swap;
114
115     swap = ti->ptr[i1];
116     ti->ptr[i1] = ti->ptr[i2];
117     ti->ptr[i2] = swap;
118 }
119
120 static void heap_delete (struct trunc_info *ti)
121 {
122     int cur = 1, child = 2;
123
124     heap_swap (ti, 1, ti->heapnum--);
125     while (child <= ti->heapnum) {
126         if (child < ti->heapnum &&
127             (*ti->cmp)(ti->heap[ti->ptr[child]],
128                        ti->heap[ti->ptr[1+child]]) > 0)
129             child++;
130         if ((*ti->cmp)(ti->heap[ti->ptr[cur]],
131                        ti->heap[ti->ptr[child]]) > 0)
132         {
133             heap_swap (ti, cur, child);
134             cur = child;
135             child = 2*cur;
136         }
137         else
138             break;
139     }
140 }
141
142 static void heap_insert (struct trunc_info *ti, const char *buf, int indx)
143 {
144     int cur, parent;
145
146     cur = ++(ti->heapnum);
147     memcpy (ti->heap[ti->ptr[cur]], buf, ti->keysize);
148     ti->indx[ti->ptr[cur]] = indx;
149     parent = cur/2;
150     while (parent && (*ti->cmp)(ti->heap[ti->ptr[parent]],
151                                 ti->heap[ti->ptr[cur]]) > 0)
152     {
153         heap_swap (ti, cur, parent);
154         cur = parent;
155         parent = cur/2;
156     }
157 }
158
159 static struct trunc_info *heap_init (int size, int key_size,
160                                      int (*cmp)(const void *p1,
161                                                 const void *p2))
162 {
163     struct trunc_info *ti = (struct trunc_info *) xmalloc (sizeof(*ti));
164     int i;
165
166     ++size;
167     ti->heapnum = 0;
168     ti->keysize = key_size;
169     ti->cmp = cmp;
170     ti->indx = (int *) xmalloc (size * sizeof(*ti->indx));
171     ti->heap = (char **) xmalloc (size * sizeof(*ti->heap));
172     ti->ptr = (int *) xmalloc (size * sizeof(*ti->ptr));
173     ti->swapbuf = (char *) xmalloc (ti->keysize);
174     ti->tmpbuf = (char *) xmalloc (ti->keysize);
175     ti->buf = (char *) xmalloc (size * ti->keysize);
176     for (i = size; --i >= 0; )
177     {
178         ti->ptr[i] = i;
179         ti->heap[i] = ti->buf + ti->keysize * i;
180     }
181     return ti;
182 }
183
184 static void heap_close (struct trunc_info *ti)
185 {
186     xfree (ti->ptr);
187     xfree (ti->indx);
188     xfree (ti->heap);
189     xfree (ti->swapbuf);
190     xfree (ti->tmpbuf);
191     xfree (ti->buf);
192     xfree (ti);
193 }
194
195 static RSET rset_trunc_r (ZebraHandle zi, const char *term, int length,
196                           const char *flags, ISAMS_P *isam_p, int from, int to,
197                           int merge_chunk, int preserve_position)
198 {
199     RSET result; 
200     RSFD result_rsfd;
201     rset_temp_parms parms;
202
203     parms.cmp = key_compare_it;
204     parms.key_size = sizeof(struct it_key);
205     parms.temp_path = res_get (zi->res, "setTmpDir");
206     parms.rset_term = rset_term_create (term, length, flags);
207     result = rset_create (rset_kind_temp, &parms);
208     result_rsfd = rset_open (result, RSETF_WRITE);
209
210     if (to - from > merge_chunk)
211     {
212         RSFD *rsfd;
213         RSET *rset;
214         int term_index;
215         int i, i_add = (to-from)/merge_chunk + 1;
216         struct trunc_info *ti;
217         int rscur = 0;
218         int rsmax = (to-from)/i_add + 1;
219         
220         rset = (RSET *) xmalloc (sizeof(*rset) * rsmax);
221         rsfd = (RSFD *) xmalloc (sizeof(*rsfd) * rsmax);
222         
223         for (i = from; i < to; i += i_add)
224         {
225             if (i_add <= to - i)
226                 rset[rscur] = rset_trunc_r (zi, term, length, flags,
227                                             isam_p, i, i+i_add,
228                                             merge_chunk, preserve_position);
229             else
230                 rset[rscur] = rset_trunc_r (zi, term, length, flags,
231                                             isam_p, i, to,
232                                             merge_chunk, preserve_position);
233             rscur++;
234         }
235         ti = heap_init (rscur, sizeof(struct it_key), key_compare_it);
236         for (i = rscur; --i >= 0; )
237         {
238             rsfd[i] = rset_open (rset[i], RSETF_READ);
239             if (rset_read (rset[i], rsfd[i], ti->tmpbuf, &term_index))
240                 heap_insert (ti, ti->tmpbuf, i);
241             else
242             {
243                 rset_close (rset[i], rsfd[i]);
244                 rset_delete (rset[i]);
245             }
246         }
247         while (ti->heapnum)
248         {
249             int n = ti->indx[ti->ptr[1]];
250
251             rset_write (result, result_rsfd, ti->heap[ti->ptr[1]]);
252
253             while (1)
254             {
255                 if (!rset_read (rset[n], rsfd[n], ti->tmpbuf, &term_index))
256                 {
257                     heap_delete (ti);
258                     rset_close (rset[n], rsfd[n]);
259                     rset_delete (rset[n]);
260                     break;
261                 }
262                 if ((*ti->cmp)(ti->tmpbuf, ti->heap[ti->ptr[1]]) > 1)
263                 {
264                     heap_delete (ti);
265                     heap_insert (ti, ti->tmpbuf, n);
266                     break;
267                 }
268             }
269         }
270         xfree (rset);
271         xfree (rsfd);
272         heap_close (ti);
273     }
274     else if (zi->reg->isam)
275     {
276         ISPT *ispt;
277         int i;
278         struct trunc_info *ti;
279
280         ispt = (ISPT *) xmalloc (sizeof(*ispt) * (to-from));
281
282         ti = heap_init (to-from, sizeof(struct it_key),
283                         key_compare_it);
284         for (i = to-from; --i >= 0; )
285         {
286             ispt[i] = is_position (zi->reg->isam, isam_p[from+i]);
287             if (is_readkey (ispt[i], ti->tmpbuf))
288                 heap_insert (ti, ti->tmpbuf, i);
289             else
290                 is_pt_free (ispt[i]);
291         }
292         while (ti->heapnum)
293         {
294             int n = ti->indx[ti->ptr[1]];
295
296             rset_write (result, result_rsfd, ti->heap[ti->ptr[1]]);
297 #if 1
298 /* section that preserve all keys */
299             heap_delete (ti);
300             if (is_readkey (ispt[n], ti->tmpbuf))
301                 heap_insert (ti, ti->tmpbuf, n);
302             else
303                 is_pt_free (ispt[n]);
304 #else
305 /* section that preserve all keys with unique sysnos */
306             while (1)
307             {
308                 if (!is_readkey (ispt[n], ti->tmpbuf))
309                 {
310                     heap_delete (ti);
311                     is_pt_free (ispt[n]);
312                     break;
313                 }
314                 if ((*ti->cmp)(ti->tmpbuf, ti->heap[ti->ptr[1]]) > 1)
315                 {
316                     heap_delete (ti);
317                     heap_insert (ti, ti->tmpbuf, n);
318                     break;
319                 }
320             }
321 #endif
322         }
323         heap_close (ti);
324         xfree (ispt);
325     }
326     else if (zi->reg->isamc)
327     {
328         ISAMC_PP *ispt;
329         int i;
330         struct trunc_info *ti;
331
332         ispt = (ISAMC_PP *) xmalloc (sizeof(*ispt) * (to-from));
333
334         ti = heap_init (to-from, sizeof(struct it_key),
335                         key_compare_it);
336         for (i = to-from; --i >= 0; )
337         {
338             ispt[i] = isc_pp_open (zi->reg->isamc, isam_p[from+i]);
339             if (isc_pp_read (ispt[i], ti->tmpbuf))
340                 heap_insert (ti, ti->tmpbuf, i);
341             else
342                 isc_pp_close (ispt[i]);
343         }
344         while (ti->heapnum)
345         {
346             int n = ti->indx[ti->ptr[1]];
347
348             rset_write (result, result_rsfd, ti->heap[ti->ptr[1]]);
349             if (preserve_position)
350             {
351                 heap_delete (ti);
352                 if (isc_pp_read (ispt[n], ti->tmpbuf))
353                     heap_insert (ti, ti->tmpbuf, n);
354                 else
355                     isc_pp_close (ispt[n]);
356             }
357             else
358             {
359                 while (1)
360                 {
361                     if (!isc_pp_read (ispt[n], ti->tmpbuf))
362                     {
363                         heap_delete (ti);
364                         isc_pp_close (ispt[n]);
365                         break;
366                     }
367                     if ((*ti->cmp)(ti->tmpbuf, ti->heap[ti->ptr[1]]) > 1)
368                     {
369                         heap_delete (ti);
370                         heap_insert (ti, ti->tmpbuf, n);
371                         break;
372                     }
373                 }
374             }
375         }
376         heap_close (ti);
377         xfree (ispt);
378     }
379
380     else if (zi->reg->isamd)
381     {
382         ISAMD_PP *ispt;
383         int i;
384         struct trunc_info *ti;
385
386         ispt = (ISAMD_PP *) xmalloc (sizeof(*ispt) * (to-from));
387
388         ti = heap_init (to-from, sizeof(struct it_key),
389                         key_compare_it);
390         for (i = to-from; --i >= 0; )
391         {
392             ispt[i] = isamd_pp_open (zi->reg->isamd, isam_p[from+i]);
393             if (isamd_pp_read (ispt[i], ti->tmpbuf))
394                 heap_insert (ti, ti->tmpbuf, i);
395             else
396                 isamd_pp_close (ispt[i]);
397         }
398         while (ti->heapnum)
399         {
400             int n = ti->indx[ti->ptr[1]];
401
402             rset_write (result, result_rsfd, ti->heap[ti->ptr[1]]);
403 #if 0
404 /* section that preserve all keys */
405             heap_delete (ti);
406             if (isamd_pp_read (ispt[n], ti->tmpbuf))
407                 heap_insert (ti, ti->tmpbuf, n);
408             else
409                 isamd_pp_close (ispt[n]);
410 #else
411 /* section that preserve all keys with unique sysnos */
412             while (1)
413             {
414                 if (!isamd_pp_read (ispt[n], ti->tmpbuf))
415                 {
416                     heap_delete (ti);
417                     isamd_pp_close (ispt[n]);
418                     break;
419                 }
420                 if ((*ti->cmp)(ti->tmpbuf, ti->heap[ti->ptr[1]]) > 1)
421                 {
422                     heap_delete (ti);
423                     heap_insert (ti, ti->tmpbuf, n);
424                     break;
425                 }
426             }
427 #endif
428         }
429         heap_close (ti);
430         xfree (ispt);
431     }
432
433     else if (zi->reg->isams)
434     {
435         ISAMS_PP *ispt;
436         int i;
437         struct trunc_info *ti;
438
439         ispt = (ISAMS_PP *) xmalloc (sizeof(*ispt) * (to-from));
440
441         ti = heap_init (to-from, sizeof(struct it_key),
442                         key_compare_it);
443         for (i = to-from; --i >= 0; )
444         {
445             ispt[i] = isams_pp_open (zi->reg->isams, isam_p[from+i]);
446             if (isams_pp_read (ispt[i], ti->tmpbuf))
447                 heap_insert (ti, ti->tmpbuf, i);
448             else
449                 isams_pp_close (ispt[i]);
450         }
451         while (ti->heapnum)
452         {
453             int n = ti->indx[ti->ptr[1]];
454
455             rset_write (result, result_rsfd, ti->heap[ti->ptr[1]]);
456             while (1)
457             {
458                 if (!isams_pp_read (ispt[n], ti->tmpbuf))
459                 {
460                     heap_delete (ti);
461                     isams_pp_close (ispt[n]);
462                     break;
463                 }
464                 if ((*ti->cmp)(ti->tmpbuf, ti->heap[ti->ptr[1]]) > 1)
465                 {
466                     heap_delete (ti);
467                     heap_insert (ti, ti->tmpbuf, n);
468                     break;
469                 }
470             }
471         }
472         heap_close (ti);
473         xfree (ispt);
474     }
475     else
476         logf (LOG_WARN, "Unknown isam set in rset_trunc_r");
477
478     rset_close (result, result_rsfd);
479     return result;
480 }
481
482 static int isams_trunc_cmp (const void *p1, const void *p2)
483 {
484     ISAMS_P i1 = *(ISAMS_P*) p1;
485     ISAMS_P i2 = *(ISAMS_P*) p2;
486
487     return i1 - i2;
488 }
489
490 static int isam_trunc_cmp (const void *p1, const void *p2)
491 {
492     ISAM_P i1 = *(ISAM_P*) p1;
493     ISAM_P i2 = *(ISAM_P*) p2;
494     int d;
495
496     d = is_type (i1) - is_type (i2);
497     if (d)
498         return d;
499     return is_block (i1) - is_block (i2);
500 }
501
502 static int isamc_trunc_cmp (const void *p1, const void *p2)
503 {
504     ISAMC_P i1 = *(ISAMC_P*) p1;
505     ISAMC_P i2 = *(ISAMC_P*) p2;
506     int d;
507
508     d = isc_type (i1) - isc_type (i2);
509     if (d)
510         return d;
511     return isc_block (i1) - isc_block (i2);
512 }
513 static int isamd_trunc_cmp (const void *p1, const void *p2)
514 {
515     ISAMD_P i1 = *(ISAMD_P*) p1;
516     ISAMD_P i2 = *(ISAMD_P*) p2;
517     int d;
518
519     d = isamd_type (i1) - isamd_type (i2);
520     if (d)
521         return d;
522     return isamd_block (i1) - isamd_block (i2);
523 }
524
525 RSET rset_trunc (ZebraHandle zi, ISAMS_P *isam_p, int no,
526                  const char *term, int length, const char *flags,
527                  int preserve_position)
528 {
529     logf (LOG_DEBUG, "rset_trunc no=%d", no);
530     if (no < 1)
531     {
532         rset_null_parms parms;
533         parms.rset_term = rset_term_create (term, length, flags);
534         return rset_create (rset_kind_null, &parms);
535     }
536     if (zi->reg->isams)
537     {
538         if (no == 1)
539         {
540             rset_isams_parms parms;
541
542             parms.pos = *isam_p;
543             parms.is = zi->reg->isams;
544             parms.rset_term = rset_term_create (term, length, flags);
545             return rset_create (rset_kind_isams, &parms);
546         }
547         qsort (isam_p, no, sizeof(*isam_p), isams_trunc_cmp);
548     }
549     else if (zi->reg->isam)
550     {
551         if (no == 1)
552         {
553             rset_isam_parms parms;
554
555             parms.pos = *isam_p;
556             parms.is = zi->reg->isam;
557             parms.rset_term = rset_term_create (term, length, flags);
558             return rset_create (rset_kind_isam, &parms);
559         }
560         qsort (isam_p, no, sizeof(*isam_p), isam_trunc_cmp);
561     }
562     else if (zi->reg->isamc)
563     {
564         if (no == 1)
565         {
566             rset_isamc_parms parms;
567
568             parms.key_size = sizeof(struct it_key);
569             parms.cmp = key_compare_it;
570             parms.pos = *isam_p;
571             parms.is = zi->reg->isamc;
572             parms.rset_term = rset_term_create (term, length, flags);
573             return rset_create (rset_kind_isamc, &parms);
574         }
575 #if NEW_TRUNC
576         else if (no < 10000)
577         {
578             rset_m_or_parms parms;
579
580             parms.key_size = sizeof(struct it_key);
581             parms.cmp = key_compare_it;
582             parms.isc = zi->reg->isamc;
583             parms.isam_positions = isam_p;
584             parms.no_isam_positions = no;
585             parms.no_save_positions = 100000;
586             parms.rset_term = rset_term_create (term, length, flags);
587             return rset_create (rset_kind_m_or, &parms);
588         }
589 #endif
590         qsort (isam_p, no, sizeof(*isam_p), isamc_trunc_cmp);
591     }
592     else if (zi->reg->isamd)
593     {
594         if (no == 1)
595         {
596             rset_isamd_parms parms;
597
598             parms.pos = *isam_p;
599             parms.is = zi->reg->isamd;
600             parms.rset_term = rset_term_create (term, length, flags);
601             return rset_create (rset_kind_isamd, &parms);
602         }
603 #if NEW_TRUNC_NOT_DONE_FOR_ISAM_D
604         else if (no < 10000)
605         {
606             rset_m_or_parms parms;
607
608             parms.key_size = sizeof(struct it_key);
609             parms.cmp = key_compare_it;
610             parms.isc = 0;
611             parms.isamd=zi->reg->isamd;
612             parms.isam_positions = isam_p;
613             parms.no_isam_positions = no;
614             parms.no_save_positions = 100000;
615             parms.rset_term = rset_term_create (term, length, flags);
616             return rset_create (rset_kind_m_or, &parms);
617         }
618 #endif
619         qsort (isam_p, no, sizeof(*isam_p), isamd_trunc_cmp);
620     }
621     else
622     {
623         logf (LOG_WARN, "Unknown isam set in rset_trunc");
624         return rset_create (rset_kind_null, NULL);
625     }
626     return rset_trunc_r (zi, term, length, flags, isam_p, 0, no, 100,
627                          preserve_position);
628 }
629