Moved truncation code to trunc.c.
[idzebra-moved-to-github.git] / index / zrpn.c
index ba61830..8d5da19 100644 (file)
@@ -4,7 +4,28 @@
  * Sebastian Hammer, Adam Dickmeiss
  *
  * $Log: zrpn.c,v $
- * Revision 1.48  1996-05-28 15:15:01  adam
+ * Revision 1.55  1996-11-04 14:07:44  adam
+ * Moved truncation code to trunc.c.
+ *
+ * Revision 1.54  1996/10/29 14:09:52  adam
+ * Use of cisam system - enabled if setting isamc is 1.
+ *
+ * Revision 1.53  1996/06/26 09:21:43  adam
+ * Bug fix: local attribute set wasn't obeyed in scan.
+ *
+ * Revision 1.52  1996/06/17  14:26:20  adam
+ * Function gen_regular_rel changed to handle negative numbers.
+ *
+ * Revision 1.51  1996/06/11 10:54:15  quinn
+ * Relevance work
+ *
+ * Revision 1.50  1996/06/07  08:51:53  adam
+ * Bug fix: Character mapping was broken (introducued by last revision).
+ *
+ * Revision 1.49  1996/06/04  10:18:11  adam
+ * Search/scan uses character mapping module.
+ *
+ * Revision 1.48  1996/05/28  15:15:01  adam
  * Bug fix: Didn't handle unknown database correctly.
  *
  * Revision 1.47  1996/05/15  18:36:28  adam
 #include "zserver.h"
 #include "attribute.h"
 
-#include <rsisam.h>
+#include <charmap.h>
 #include <rstemp.h>
 #include <rsnull.h>
 #include <rsbool.h>
 #include <rsrel.h>
 
-int index_word_prefix_map (char *string, oid_value attrSet, int attrUse,
-                           char *basename)
-{
-    attent *attp;
-
-    logf (LOG_DEBUG, "oid_value attrSet = %d, attrUse = %d", attrSet, attrUse);
-    attp = att_getentbyatt (attrSet, attrUse);
-    if (!attp)
-        return -1;
-    logf (LOG_DEBUG, "ord=%d", attp->attset_ordinal);
-    return index_word_prefix (string, attp->attset_ordinal,
-                              attp->local_attributes->local, basename);
-}
-
 typedef struct {
     int type;
     int major;
@@ -256,259 +263,25 @@ static void attr_init (AttrType *src, Z_AttributesPlusTerm *zapt,
     src->minor = 0;
 }
 
-struct trunc_info {
-    int  *ptr;
-    int  *indx;
-    char **heap;
-    int  heapnum;
-    int  (*cmp)(const void *p1, const void *p2);
-    int  keysize;
-    char *swapbuf;
-    char *tmpbuf;
-    char *buf;
-};
-
-static void heap_swap (struct trunc_info *ti, int i1, int i2)
-{
-    int swap;
-
-    swap = ti->ptr[i1];
-    ti->ptr[i1] = ti->ptr[i2];
-    ti->ptr[i2] = swap;
-}
-
-static void heap_delete (struct trunc_info *ti)
-{
-    int cur = 1, child = 2;
-
-    heap_swap (ti, 1, ti->heapnum--);
-    while (child <= ti->heapnum) {
-        if (child < ti->heapnum &&
-            (*ti->cmp)(ti->heap[ti->ptr[child]],
-                       ti->heap[ti->ptr[1+child]]) > 0)
-            child++;
-        if ((*ti->cmp)(ti->heap[ti->ptr[cur]],
-                       ti->heap[ti->ptr[child]]) > 0)
-        {
-            heap_swap (ti, cur, child);
-            cur = child;
-            child = 2*cur;
-        }
-        else
-            break;
-    }
-}
-
-static void heap_insert (struct trunc_info *ti, const char *buf, int indx)
-{
-    int cur, parent;
-
-    cur = ++(ti->heapnum);
-    memcpy (ti->heap[ti->ptr[cur]], buf, ti->keysize);
-    ti->indx[ti->ptr[cur]] = indx;
-    parent = cur/2;
-    while (parent && (*ti->cmp)(ti->heap[ti->ptr[parent]],
-                                ti->heap[ti->ptr[cur]]) > 0)
-    {
-        heap_swap (ti, cur, parent);
-        cur = parent;
-        parent = cur/2;
-    }
-}
-
-static
-struct trunc_info *heap_init (int size, int key_size,
-                              int (*cmp)(const void *p1, const void *p2))
-{
-    struct trunc_info *ti = xmalloc (sizeof(*ti));
-    int i;
-
-    ++size;
-    ti->heapnum = 0;
-    ti->keysize = key_size;
-    ti->cmp = cmp;
-    ti->indx = xmalloc (size * sizeof(*ti->indx));
-    ti->heap = xmalloc (size * sizeof(*ti->heap));
-    ti->ptr = xmalloc (size * sizeof(*ti->ptr));
-    ti->swapbuf = xmalloc (ti->keysize);
-    ti->tmpbuf = xmalloc (ti->keysize);
-    ti->buf = xmalloc (size * ti->keysize);
-    for (i = size; --i >= 0; )
-    {
-        ti->ptr[i] = i;
-        ti->heap[i] = ti->buf + ti->keysize * i;
-    }
-    return ti;
-}
-
-static void heap_close (struct trunc_info *ti)
-{
-    xfree (ti->ptr);
-    xfree (ti->indx);
-    xfree (ti->heap);
-    xfree (ti->swapbuf);
-    xfree (ti->tmpbuf);
-    xfree (ti);
-}
-
-static RSET rset_trunc_r (ISAM isam, ISAM_P *isam_p, int from, int to,
-                         int merge_chunk)
-{
-    RSET result; 
-    RSFD result_rsfd;
-    rset_temp_parms parms;
-
-    parms.key_size = sizeof(struct it_key);
-    result = rset_create (rset_kind_temp, &parms);
-    result_rsfd = rset_open (result, RSETF_WRITE|RSETF_SORT_SYSNO);
-
-    if (to - from > merge_chunk)
-    {
-        RSFD *rsfd;
-        RSET *rset;
-        int i, i_add = (to-from)/merge_chunk + 1;
-        struct trunc_info *ti;
-        int rscur = 0;
-        int rsmax = (to-from)/i_add + 1;
-        
-        rset = xmalloc (sizeof(*rset) * rsmax);
-        rsfd = xmalloc (sizeof(*rsfd) * rsmax);
-        
-        for (i = from; i < to; i += i_add)
-        {
-            if (i_add <= to - i)
-                rset[rscur] = rset_trunc_r (isam, isam_p, i, i+i_add,
-                                            merge_chunk);
-            else
-                rset[rscur] = rset_trunc_r (isam, isam_p, i, to,
-                                            merge_chunk);
-            rscur++;
-        }
-        ti = heap_init (rscur, sizeof(struct it_key), key_compare);
-        for (i = rscur; --i >= 0; )
-        {
-            rsfd[i] = rset_open (rset[i], RSETF_READ|RSETF_SORT_SYSNO);
-            if (rset_read (rset[i], rsfd[i], ti->tmpbuf))
-                heap_insert (ti, ti->tmpbuf, i);
-            else
-            {
-                rset_close (rset[i], rsfd[i]);
-                rset_delete (rset[i]);
-            }
-        }
-        while (ti->heapnum)
-        {
-            int n = ti->indx[ti->ptr[1]];
-
-            rset_write (result, result_rsfd, ti->heap[ti->ptr[1]]);
-
-            while (1)
-            {
-                if (!rset_read (rset[n], rsfd[n], ti->tmpbuf))
-                {
-                    heap_delete (ti);
-                    rset_close (rset[n], rsfd[n]);
-                    rset_delete (rset[n]);
-                    break;
-                }
-                if ((*ti->cmp)(ti->tmpbuf, ti->heap[ti->ptr[1]]) > 1)
-                {
-                    heap_delete (ti);
-                    heap_insert (ti, ti->tmpbuf, n);
-                    break;
-                }
-            }
-        }
-        xfree (rset);
-        xfree (rsfd);
-        heap_close (ti);
-    }
-    else
-    {
-        ISPT *ispt;
-        int i;
-        struct trunc_info *ti;
-
-        ispt = xmalloc (sizeof(*ispt) * (to-from));
-
-        ti = heap_init (to-from, sizeof(struct it_key),
-                        key_compare);
-        for (i = to-from; --i >= 0; )
-        {
-            ispt[i] = is_position (isam, isam_p[from+i]);
-            if (is_readkey (ispt[i], ti->tmpbuf))
-                heap_insert (ti, ti->tmpbuf, i);
-            else
-                is_pt_free (ispt[i]);
-        }
-        while (ti->heapnum)
-        {
-            int n = ti->indx[ti->ptr[1]];
-
-            rset_write (result, result_rsfd, ti->heap[ti->ptr[1]]);
-#if 0
-/* section that preserve all keys */
-            heap_delete (ti);
-            if (is_readkey (ispt[n], ti->tmpbuf))
-                heap_insert (ti, ti->tmpbuf, n);
-            else
-                is_pt_free (ispt[n]);
-#else
-/* section that preserve all keys with unique sysnos */
-            while (1)
-            {
-                if (!is_readkey (ispt[n], ti->tmpbuf))
-                {
-                    heap_delete (ti);
-                    is_pt_free (ispt[n]);
-                    break;
-                }
-                if ((*ti->cmp)(ti->tmpbuf, ti->heap[ti->ptr[1]]) > 1)
-                {
-                    heap_delete (ti);
-                    heap_insert (ti, ti->tmpbuf, n);
-                    break;
-                }
-            }
-#endif
-        }
-        heap_close (ti);
-        xfree (ispt);
-    }
-    rset_close (result, result_rsfd);
-    return result;
-}
-
-static int isam_trunc_cmp (const void *p1, const void *p2)
-{
-    ISAM_P i1 = *(ISAM_P*) p1;
-    ISAM_P i2 = *(ISAM_P*) p2;
-    int d;
-
-    d = is_type (i1) - is_type (i2);
-    if (d)
-        return d;
-    return is_block (i1) - is_block (i2);
-}
-
-static RSET rset_trunc (ISAM isam, ISAM_P *isam_p, int no)
-{
-
-    qsort (isam_p, no, sizeof(*isam_p), isam_trunc_cmp);
-    return rset_trunc_r (isam, isam_p, 0, no, 100);
-}
-
-struct grep_info {
-    ISAM_P *isam_p_buf;
-    int isam_p_size;
-    int isam_p_indx;
-};
+#define TERM_COUNT        
+       
+struct grep_info {        
+#ifdef TERM_COUNT        
+    int *term_no;        
+#endif        
+    ISAM_P *isam_p_buf;        
+    int isam_p_size;        
+    int isam_p_indx;        
+};        
 
 static void add_isam_p (const char *info, struct grep_info *p)
 {
     if (p->isam_p_indx == p->isam_p_size)
     {
         ISAM_P *new_isam_p_buf;
+#ifdef TERM_COUNT        
+        int *new_term_no;        
+#endif        
         
         p->isam_p_size = 2*p->isam_p_size + 100;
         new_isam_p_buf = xmalloc (sizeof(*new_isam_p_buf) *
@@ -520,6 +293,18 @@ static void add_isam_p (const char *info, struct grep_info *p)
             xfree (p->isam_p_buf);
         }
         p->isam_p_buf = new_isam_p_buf;
+
+#ifdef TERM_COUNT
+        new_term_no = xmalloc (sizeof(*new_term_no) *
+                                  p->isam_p_size);
+        if (p->term_no)
+        {
+            memcpy (new_term_no, p->isam_p_buf,
+                    p->isam_p_indx * sizeof(*p->term_no));
+            xfree (p->term_no);
+        }
+        p->term_no = new_term_no;
+#endif
     }
     assert (*info == sizeof(*p->isam_p_buf));
     memcpy (p->isam_p_buf + p->isam_p_indx, info+1, sizeof(*p->isam_p_buf));
@@ -528,19 +313,45 @@ static void add_isam_p (const char *info, struct grep_info *p)
 
 static int grep_handle (char *name, const char *info, void *p)
 {
-    logf (LOG_DEBUG, "dict name: %s", name);
     add_isam_p (info, p);
     return 0;
 }
 
+/* gen_regular_rel - generate regular expression from relation
+ *  val:     border value (inclusive)
+ *  islt:    1 if <=; 0 if >=.
+ */
 static void gen_regular_rel (char *dst, int val, int islt)
 {
-    int dst_p = 1;
+    int dst_p;
     int w, d, i;
     int pos = 0;
     char numstr[20];
 
-    *dst = '(';
+    logf (LOG_DEBUG, "gen_regular_rel. val=%d, islt=%d", val, islt);
+    if (val >= 0)
+    {
+        if (islt)
+            strcpy (dst, "(-[0-9]+|");
+        else
+            strcpy (dst, "(");
+    } 
+    else
+    {
+        if (!islt)
+        {
+            strcpy (dst, "([0-9]+|-");
+            dst_p = strlen (dst);
+            islt = 1;
+        }
+        else
+        {
+            strcpy (dst, "(-");
+            islt = 0;
+        }
+        val = -val;
+    }
+    dst_p = strlen (dst);
     sprintf (numstr, "%d", val);
     for (w = strlen(numstr); --w >= 0; pos++)
     {
@@ -661,7 +472,7 @@ static int relational_term (ZServerInfo *zi, Z_AttributesPlusTerm *zapt,
         return 0;
     }
     logf (LOG_DEBUG, "dict_lookup_grep: %s", term_dict);
-    r = dict_lookup_grep (zi->wordDict, term_dict, 0, grep_info, max_pos,
+    r = dict_lookup_grep (zi->dict, term_dict, 0, grep_info, max_pos,
                           0, grep_handle);
     if (r)
         logf (LOG_WARN, "dict_lookup_grep fail, rel=gt: %d", r);
@@ -732,20 +543,16 @@ static int field_term (ZServerInfo *zi, Z_AttributesPlusTerm *zapt,
                 term_dict[prefix_len++] = '|';
             else
                 term_dict[prefix_len++] = '(';
-            if ((ord >= 'A' && ord <= 'Z') || (ord >= 'a' && ord <= 'z'))
-                term_dict[prefix_len++] = ord;
-            else
-            {
-                term_dict[prefix_len++] = '\\';
-                term_dict[prefix_len++] = ord;
-            }
+            term_dict[prefix_len++] = 1;
+            term_dict[prefix_len++] = ord;
         }
         if (!prefix_len)
         {
             zi->errCode = 114;
             return -1;
         }
-        term_dict[prefix_len++] = ')';
+        term_dict[prefix_len++] = ')';        
+        term_dict[prefix_len++] = 1;
         term_dict[prefix_len++] = regType;
         term_dict[prefix_len] = '\0';
         if (!relational_term (zi, zapt, term_sub, term_dict,
@@ -762,7 +569,7 @@ static int field_term (ZServerInfo *zi, Z_AttributesPlusTerm *zapt,
                 for (i = 0; term_sub[i]; i++)
                     verbatim_char (term_sub[i], &j, term_dict);
                 strcpy (term_dict+j, ")");
-                r = dict_lookup_grep (zi->wordDict, term_dict, 0, grep_info,
+                r = dict_lookup_grep (zi->dict, term_dict, 0, grep_info,
                                       &max_pos, 0, grep_handle);
                 if (r)
                     logf (LOG_WARN, "dict_lookup_grep err, trunc=none:%d", r);
@@ -772,7 +579,7 @@ static int field_term (ZServerInfo *zi, Z_AttributesPlusTerm *zapt,
                 for (i = 0; term_sub[i]; i++)
                     verbatim_char (term_sub[i], &j, term_dict);
                 strcpy (term_dict+j, ".*)");
-                dict_lookup_grep (zi->wordDict, term_dict, 0, grep_info,
+                dict_lookup_grep (zi->dict, term_dict, 0, grep_info,
                                   &max_pos, 0, grep_handle);
                 break;
             case 2:          /* left truncation */
@@ -790,7 +597,7 @@ static int field_term (ZServerInfo *zi, Z_AttributesPlusTerm *zapt,
                     else
                         verbatim_char (term_sub[i], &j, term_dict);
                 strcpy (term_dict+j, ")");
-                r = dict_lookup_grep (zi->wordDict, term_dict, 0, grep_info,
+                r = dict_lookup_grep (zi->dict, term_dict, 0, grep_info,
                                       &max_pos, 0, grep_handle);
                 if (r)
                     logf (LOG_WARN, "dict_lookup_grep err, trunc=#: %d",
@@ -798,7 +605,7 @@ static int field_term (ZServerInfo *zi, Z_AttributesPlusTerm *zapt,
                 break;
             case 102:        /* regular expression */
                sprintf (term_dict + j, "(%s)", term_sub);
-                r = dict_lookup_grep (zi->wordDict, term_dict, 0, grep_info,
+                r = dict_lookup_grep (zi->dict, term_dict, 0, grep_info,
                                       &max_pos, 0, grep_handle);
                 if (r)
                     logf (LOG_WARN, "dict_lookup_grep err, trunc=regular: %d",
@@ -813,7 +620,7 @@ static int field_term (ZServerInfo *zi, Z_AttributesPlusTerm *zapt,
                     cp += 2;
                 }
                sprintf (term_dict + j, "(%s)", cp);
-                r = dict_lookup_grep (zi->wordDict, term_dict, r, grep_info,
+                r = dict_lookup_grep (zi->dict, term_dict, r, grep_info,
                                       &max_pos, j, grep_handle);
                 if (r)
                     logf (LOG_WARN, "dict_lookup_grep err, trunc=eregular: %d",
@@ -829,28 +636,43 @@ static int field_term (ZServerInfo *zi, Z_AttributesPlusTerm *zapt,
 static void trans_term (ZServerInfo *zi, Z_AttributesPlusTerm *zapt,
                         char *termz)
 {
-    size_t i, sizez;
-    int sep = 0;
+    size_t sizez;
     Z_Term *term = zapt->term;
 
     sizez = term->u.general->len;
     if (sizez > IT_MAX_WORD-1)
         sizez = IT_MAX_WORD-1;
-    for (i = 0; i < sizez; i++)
+    memcpy (termz, term->u.general->buf, sizez);
+    termz[sizez] = '\0';
+}
+
+static void trans_scan_term (ZServerInfo *zi, Z_AttributesPlusTerm *zapt,
+                             char *termz)
+{
+    Z_Term *term = zapt->term;
+    char **map;
+    char *cp = (char*) term->u.general->buf;
+    const char *cp_end = cp + term->u.general->len;
+    const char *src;
+    int i = 0;
+    int prev_space = 0;
+    int len;
+    
+    while ((len = (cp_end - cp)) > 0)
     {
-        if (!isalnum(term->u.general->buf[i]))
-            sep = 1;
-        else
+        map = map_chrs_input (&cp, len);
+        if (**map == *CHR_SPACE)
         {
-            if (sep)
-                 *termz++ = ' ';
-            *termz++ = index_char_cvt (term->u.general->buf[i]);
-            sep = 0;
-        }
+            if (prev_space)
+                continue;
+            prev_space = 1;
+        } 
+        else
+            prev_space = 0;
+        for (src = *map; *src; src++)
+            termz[i++] = *src;
     }
-    if (sep)
-        *termz++ = ' ';
-    *termz = '\0';
+    termz[i] = '\0';
 }
 
 static RSET rpn_search_APT_relevance (ZServerInfo *zi, 
@@ -862,13 +684,15 @@ static RSET rpn_search_APT_relevance (ZServerInfo *zi,
     char termz[IT_MAX_WORD+1];
     char term_sub[IT_MAX_WORD+1];
     struct grep_info grep_info;
-    char *p0 = termz, *p1 = NULL;
+    char *p0 = termz;
     RSET result;
+    int term_index = 0;
 
     parms.key_size = sizeof(struct it_key);
     parms.max_rec = 100;
     parms.cmp = key_compare;
-    parms.is = zi->wordIsam;
+    parms.is = zi->isam;
+    parms.no_terms = 0;
 
     if (zapt->term->which != Z_Term_general)
     {
@@ -877,33 +701,58 @@ static RSET rpn_search_APT_relevance (ZServerInfo *zi,
     }
     trans_term (zi, zapt, termz);
 
+#ifdef TERM_COUNT
+    grep_info.term_no = 0;
+#endif
     grep_info.isam_p_indx = 0;
     grep_info.isam_p_size = 0;
     grep_info.isam_p_buf = NULL;
     while (1)
     {
-        if ((p1 = strchr (p0, ' ')))
+        char **map;
+        char *p2, *p1;
+
+        p1 = p0;
+        while (*(p0 = p1))
         {
-            memcpy (term_sub, p0, p1-p0);
-            term_sub[p1-p0] = '\0';
+            map = map_chrs_input (&p1, strlen(p1));
+            if (**map != *CHR_SPACE)
+                break;
         }
-        else
-            strcpy (term_sub, p0);
+        if (!*p0)
+            break;
+        
+        p1 = p0;
+        while (*(p2 = p1))
+        {
+            map = map_chrs_input (&p1, strlen(p1));
+            if (**map == *CHR_SPACE)
+                break;
+        }
+        if (p2 == p0)
+            break;
+        memcpy (term_sub, p0, p2-p0);
+        term_sub[p2-p0] = '\0';
+        p0 = p2;
         if (field_term (zi, zapt, term_sub, 'w', attributeSet, &grep_info,
                         num_bases, basenames))
             return NULL;
-        if (!p1)
-            break;
-        p0 = p1;
-        while (*++p0 == ' ')
-            ;
+#ifdef TERM_COUNT
+        for (; term_index < grep_info.isam_p_indx; term_index++)
+            grep_info.term_no[term_index] = parms.no_terms;
+        parms.no_terms++;
+#endif
     }
+    parms.term_no = grep_info.term_no;
     parms.isam_positions = grep_info.isam_p_buf;
     parms.no_isam_positions = grep_info.isam_p_indx;
     if (grep_info.isam_p_indx > 0)
         result = rset_create (rset_kind_relevance, &parms);
     else
         result = rset_create (rset_kind_null, NULL);
+#ifdef TERM_COUNT
+    xfree(grep_info.term_no);
+#endif
     xfree (grep_info.isam_p_buf);
     return result;
 }
@@ -913,7 +762,6 @@ static RSET rpn_search_APT_cphrase (ZServerInfo *zi,
                                     oid_value attributeSet,
                                     int num_bases, char **basenames)
 {
-    rset_isam_parms parms;
     char termz[IT_MAX_WORD+1];
     struct grep_info grep_info;
     RSET result;
@@ -925,6 +773,9 @@ static RSET rpn_search_APT_cphrase (ZServerInfo *zi,
     }
     trans_term (zi, zapt, termz);
 
+#ifdef TERM_COUNT
+    grep_info.term_no = 0;
+#endif
     grep_info.isam_p_indx = 0;
     grep_info.isam_p_size = 0;
     grep_info.isam_p_buf = NULL;
@@ -932,55 +783,10 @@ static RSET rpn_search_APT_cphrase (ZServerInfo *zi,
     if (field_term (zi, zapt, termz, 'p', attributeSet, &grep_info,
                     num_bases, basenames))
         return NULL;
-    if (grep_info.isam_p_indx < 1)
-        result = rset_create (rset_kind_null, NULL);
-    else if (grep_info.isam_p_indx == 1)
-    {
-        parms.is = zi->wordIsam;
-        parms.pos = *grep_info.isam_p_buf;
-        result = rset_create (rset_kind_isam, &parms);
-    }
-    else
-        result = rset_trunc (zi->wordIsam, grep_info.isam_p_buf,
-                             grep_info.isam_p_indx);
-    xfree (grep_info.isam_p_buf);
-    return result;
-}
-static RSET rpn_search_APT_word (ZServerInfo *zi,
-                                 Z_AttributesPlusTerm *zapt,
-                                 oid_value attributeSet,
-                                 int num_bases, char **basenames)
-{
-    rset_isam_parms parms;
-    char termz[IT_MAX_WORD+1];
-    struct grep_info grep_info;
-    RSET result;
-
-    if (zapt->term->which != Z_Term_general)
-    {
-        zi->errCode = 124;
-        return NULL;
-    }
-    trans_term (zi, zapt, termz);
-
-    grep_info.isam_p_indx = 0;
-    grep_info.isam_p_size = 0;
-    grep_info.isam_p_buf = NULL;
-
-    if (field_term (zi, zapt, termz, 'w', attributeSet, &grep_info,
-                    num_bases, basenames))
-        return NULL;
-    if (grep_info.isam_p_indx < 1)
-        result = rset_create (rset_kind_null, NULL);
-    else if (grep_info.isam_p_indx == 1)
-    {
-        parms.is = zi->wordIsam;
-        parms.pos = *grep_info.isam_p_buf;
-        result = rset_create (rset_kind_isam, &parms);
-    }
-    else
-        result = rset_trunc (zi->wordIsam, grep_info.isam_p_buf,
-                             grep_info.isam_p_indx);
+    result = rset_trunc (zi, grep_info.isam_p_buf, grep_info.isam_p_indx);
+#ifdef TERM_COUNT
+    xfree(grep_info.term_no);
+#endif
     xfree (grep_info.isam_p_buf);
     return result;
 }
@@ -1078,7 +884,7 @@ static RSET rpn_search_APT_phrase (ZServerInfo *zi,
 {
     char termz[IT_MAX_WORD+1];
     char term_sub[IT_MAX_WORD+1];
-    char *p0 = termz, *p1 = NULL;
+    char *p0 = termz;
     RSET rset[60], result;
     int i, rset_no = 0;
     struct grep_info grep_info;
@@ -1090,46 +896,54 @@ static RSET rpn_search_APT_phrase (ZServerInfo *zi,
     }
     trans_term (zi, zapt, termz);
 
+#ifdef TERM_COUNT
+    grep_info.term_no = 0;
+#endif
     grep_info.isam_p_size = 0;
     grep_info.isam_p_buf = NULL;
 
     while (1)
     {
-        if ((p1 = strchr (p0, ' ')))
+        char **map;
+        char *p2, *p1;
+
+        p1 = p0;
+        while (*(p0 = p1))
         {
-            memcpy (term_sub, p0, p1-p0);
-            term_sub[p1-p0] = '\0';
+            map = map_chrs_input (&p1, strlen(p1));
+            if (**map != *CHR_SPACE)
+                break;
         }
-        else
-            strcpy (term_sub, p0);
+        if (!*p0)
+            break;
+        
+        p1 = p0;
+        while (*(p2 = p1))
+        {
+            map = map_chrs_input (&p1, strlen(p1));
+            if (**map == *CHR_SPACE)
+                break;
+        }
+        if (p2 == p0)
+            break;
+
+        memcpy (term_sub, p0, p2-p0);
+        term_sub[p2-p0] = '\0';
+        p0 = p2;
 
         grep_info.isam_p_indx = 0;
         if (field_term (zi, zapt, term_sub, 'w', attributeSet, &grep_info,
                         num_bases, basenames))
             return NULL;
-        if (grep_info.isam_p_indx == 0)
-            rset[rset_no] = rset_create (rset_kind_null, NULL);
-        else if (grep_info.isam_p_indx > 1)
-            rset[rset_no] = rset_trunc (zi->wordIsam,
-                                        grep_info.isam_p_buf,
-                                        grep_info.isam_p_indx);
-        else
-        {
-            rset_isam_parms parms;
-            
-            parms.is = zi->wordIsam;
-            parms.pos = *grep_info.isam_p_buf;
-            rset[rset_no] = rset_create (rset_kind_isam, &parms);
-        }
+        rset[rset_no] = rset_trunc (zi, grep_info.isam_p_buf,
+                                    grep_info.isam_p_indx);
         assert (rset[rset_no]);
         if (++rset_no >= sizeof(rset)/sizeof(*rset))
             break;
-        if (!p1)
-            break;
-        p0 = p1;
-        while (*++p0 == ' ')
-            ;
     }
+#ifdef TERM_COUNT
+    xfree(grep_info.term_no);
+#endif
     xfree (grep_info.isam_p_buf);
     if (rset_no == 0)
         return rset_create (rset_kind_null, NULL);
@@ -1214,8 +1028,8 @@ static RSET rpn_search_APT (ZServerInfo *zi, Z_AttributesPlusTerm *zapt,
         if (completeness_value == 2 || completeness_value == 3)
             return rpn_search_APT_cphrase (zi, zapt, attributeSet,
                                            num_bases, basenames);
-        return rpn_search_APT_word (zi, zapt, attributeSet,
-                                    num_bases, basenames);
+        return rpn_search_APT_phrase (zi, zapt, attributeSet,
+                                      num_bases, basenames);
     case 3: /* key */
         break;
     case 4: /* year */
@@ -1244,8 +1058,8 @@ static RSET rpn_search_APT (ZServerInfo *zi, Z_AttributesPlusTerm *zapt,
     case 107: /* local-number */
         return rpn_search_APT_local (zi, zapt, attributeSet);
     case 108: /* string */ 
-        return rpn_search_APT_word (zi, zapt, attributeSet,
-                                    num_bases, basenames);
+        return rpn_search_APT_phrase (zi, zapt, attributeSet,
+                                      num_bases, basenames);
     case 109: /* numeric string */
         break;
     }
@@ -1349,6 +1163,7 @@ void count_set_save (RSET *r, int *count)
     rfd = rset_open (*r, RSETF_READ|RSETF_SORT_SYSNO);
     while (rset_read (*r, rfd, &key))
     {
+        logf (LOG_DEBUG, "sysno=%-7d seqno=%d", key.sysno, key.seqno);
         if (key.sysno != psysno)
         {
             rset_write (w, wfd, &key);
@@ -1395,6 +1210,7 @@ int rpn_search (ZServerInfo *zi,
     oident *attrset;
     oid_value attributeSet;
 
+    dict_grep_cmap (zi->dict, map_chrs_input);
     zlog_rpn (rpn);
 
     zi->errCode = 0;
@@ -1450,6 +1266,20 @@ static int scan_handle (char *name, const char *info, int pos, void *client)
 }
 
 
+static void scan_term_untrans (ODR odr, char **dstp, const char *src)
+{    
+    char *dst = odr_malloc (odr, strlen(src)*2+1);
+    *dstp = dst;
+
+    while (*src)
+    {
+        const char *cp = map_chrs_output (&src);
+        while (*cp)
+            *dst++ = *cp++;
+    }
+    *dst = '\0';
+}
+
 int rpn_scan (ZServerInfo *zi, Z_AttributesPlusTerm *zapt,
               oid_value attributeset,
               int num_bases, char **basenames,
@@ -1474,17 +1304,17 @@ int rpn_scan (ZServerInfo *zi, Z_AttributesPlusTerm *zapt,
 
     logf (LOG_DEBUG, "scan, position = %d, num = %d", pos, num);
 
+    if (attributeset == VAL_NONE)
+        attributeset = VAL_BIB1;
+        
     attr_init (&use, zapt, 1);
-    use_value = attr_find (&use, NULL);
+    use_value = attr_find (&use, &attributeset);
     logf (LOG_DEBUG, "use value %d", use_value);
 
     attr_init (&completeness, zapt, 6);
     completeness_value = attr_find (&completeness, NULL);
     logf (LOG_DEBUG, "completeness value %d", completeness_value);
 
-    if (attributeset == VAL_NONE)
-        attributeset = VAL_BIB1;
-        
     if (use_value == -1)
         use_value = 1016;
     for (base_no = 0; base_no < num_bases && ord_no < 32; base_no++)
@@ -1539,8 +1369,10 @@ int rpn_scan (ZServerInfo *zi, Z_AttributesPlusTerm *zapt,
             (completeness_value==2 || completeness_value==3) ? 'p': 'w';
         termz[prefix_len] = 0;
         strcpy (scan_info->prefix, termz);
-        trans_term (zi, zapt, termz+prefix_len);
-        dict_scan (zi->wordDict, termz, &before_tmp, &after_tmp, scan_info,
+
+        trans_scan_term (zi, zapt, termz+prefix_len);
+                    
+        dict_scan (zi->dict, termz, &before_tmp, &after_tmp, scan_info,
                    scan_handle);
     }
     glist = odr_malloc (zi->odr, (before+after)*sizeof(*glist));
@@ -1554,7 +1386,6 @@ int rpn_scan (ZServerInfo *zi, Z_AttributesPlusTerm *zapt,
         const char *mterm = NULL;
         const char *tst;
         RSET rset;
-        rset_isam_parms parms;
         
         for (j = 0; j < ord_no; j++)
         {
@@ -1568,12 +1399,8 @@ int rpn_scan (ZServerInfo *zi, Z_AttributesPlusTerm *zapt,
         }
         if (j0 == -1)
             break;
-        glist[i+before].term = odr_malloc (zi->odr, strlen(mterm)+1);
-        strcpy (glist[i+before].term, mterm);
-        
-        parms.is = zi->wordIsam;
-        parms.pos = scan_info_array[j0].list[ptr[j0]].isam_p;
-        rset = rset_create (rset_kind_isam, &parms);
+        scan_term_untrans (zi->odr, &glist[i+before].term, mterm);
+        rset = rset_trunc (zi, &scan_info_array[j0].list[ptr[j0]].isam_p, 1);
 
         ptr[j0]++;
         for (j = j0+1; j<ord_no; j++)
@@ -1582,13 +1409,11 @@ int rpn_scan (ZServerInfo *zi, Z_AttributesPlusTerm *zapt,
                 (tst=scan_info_array[j].list[ptr[j]].term) &&
                 !strcmp (tst, mterm))
             {
-                rset_isam_parms parms;
                 rset_bool_parms bool_parms;
                 RSET rset2;
 
-                parms.is = zi->wordIsam;
-                parms.pos = scan_info_array[j].list[ptr[j]].isam_p;
-                rset2 = rset_create (rset_kind_isam, &parms);
+                rset2 =
+                   rset_trunc (zi, &scan_info_array[j].list[ptr[j]].isam_p, 1);
 
                 bool_parms.key_size = sizeof(struct it_key);
                 bool_parms.cmp = key_compare;
@@ -1618,7 +1443,6 @@ int rpn_scan (ZServerInfo *zi, Z_AttributesPlusTerm *zapt,
         const char *mterm = NULL;
         const char *tst;
         RSET rset;
-        rset_isam_parms parms;
         
         for (j = 0; j <ord_no; j++)
         {
@@ -1632,12 +1456,11 @@ int rpn_scan (ZServerInfo *zi, Z_AttributesPlusTerm *zapt,
         }
         if (j0 == -1)
             break;
-        glist[before-1-i].term = odr_malloc (zi->odr, strlen(mterm)+1);
-        strcpy (glist[before-1-i].term, mterm);
 
-        parms.is = zi->wordIsam;
-        parms.pos = scan_info_array[j0].list[before-1-ptr[j0]].isam_p;
-        rset = rset_create (rset_kind_isam, &parms);
+        scan_term_untrans (zi->odr, &glist[before-1-i].term, mterm);
+
+        rset = rset_trunc
+               (zi, &scan_info_array[j0].list[before-1-ptr[j0]].isam_p, 1);
 
         ptr[j0]++;
 
@@ -1647,13 +1470,11 @@ int rpn_scan (ZServerInfo *zi, Z_AttributesPlusTerm *zapt,
                 (tst=scan_info_array[j].list[before-1-ptr[j]].term) &&
                 !strcmp (tst, mterm))
             {
-                rset_isam_parms parms;
                 rset_bool_parms bool_parms;
                 RSET rset2;
 
-                parms.is = zi->wordIsam;
-                parms.pos = scan_info_array[j].list[before-1-ptr[j]].isam_p;
-                rset2 = rset_create (rset_kind_isam, &parms);
+                rset2 = rset_trunc (zi,
+                         &scan_info_array[j].list[before-1-ptr[j]].isam_p, 1);
 
                 bool_parms.key_size = sizeof(struct it_key);
                 bool_parms.cmp = key_compare;