Fix broken xml entity.
[idzebra-moved-to-github.git] / util / zebramap.c
index fd62d4a..80a5a86 100644 (file)
@@ -1,25 +1,25 @@
-/* $Id: zebramap.c,v 1.72 2007-11-15 08:53:26 adam Exp $
-   Copyright (C) 1995-2007
-   Index Data ApS
-
-   This file is part of the Zebra server.
-
-   Zebra is free software; you can redistribute it and/or modify it under
-   the terms of the GNU General Public License as published by the Free
-   Software Foundation; either version 2, or (at your option) any later
-   version.
-
-   Zebra is distributed in the hope that it will be useful, but WITHOUT ANY
-   WARRANTY; without even the implied warranty of MERCHANTABILITY or
-   FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
-   for more details.
-
-   You should have received a copy of the GNU General Public License
-   along with Zebra; see the file LICENSE.zebra.  If not, write to the
-   Free Software Foundation, 59 Temple Place - Suite 330, Boston, MA
-   02111-1307, USA.
+/* This file is part of the Zebra server.
+   Copyright (C) Index Data
+
+Zebra is free software; you can redistribute it and/or modify it under
+the terms of the GNU General Public License as published by the Free
+Software Foundation; either version 2, or (at your option) any later
+version.
+
+Zebra is distributed in the hope that it will be useful, but WITHOUT ANY
+WARRANTY; without even the implied warranty of MERCHANTABILITY or
+FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
+for more details.
+
+You should have received a copy of the GNU General Public License
+along with this program; if not, write to the Free Software
+Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
+
 */
 
+#if HAVE_CONFIG_H
+#include <config.h>
+#endif
 #include <assert.h>
 #include <stdlib.h>
 #include <ctype.h>
@@ -170,7 +170,7 @@ static int parse_command(zebra_maps_t zms, int argc, char **argv,
     }
     else if (!zm)
     {
-        yaz_log(YLOG_WARN, "%s:%d: Missing sort/index before '%s'",  
+        yaz_log(YLOG_WARN, "%s:%d: Missing sort/index before '%s'",
                 fname, lineno, argv[0]);
         return -1;
     }
@@ -215,8 +215,8 @@ static int parse_command(zebra_maps_t zms, int argc, char **argv,
             zm->u.sort.entry_size = atoi(argv[1]);
         else
         {
-            yaz_log(YLOG_WARN, 
-                    "%s:%d: entrysize only valid in sort section",  
+            yaz_log(YLOG_WARN,
+                    "%s:%d: entrysize only valid in sort section",
                     fname, lineno);
             return -1;
         }
@@ -230,8 +230,16 @@ static int parse_command(zebra_maps_t zms, int argc, char **argv,
     }
     else if (!yaz_matchstr(argv[0], "icuchain"))
     {
+        char full_path[1024];
+        if (!yaz_filepath_resolve(argv[1], zms->tabpath, zms->tabroot,
+                                  full_path))
+        {
+            yaz_log(YLOG_WARN, "%s:%d: Could not locate icuchain config '%s'",
+                    fname, lineno, argv[1]);
+            return -1;
+        }
 #if YAZ_HAVE_XML2
-        zm->doc = xmlParseFile(argv[1]);
+        zm->doc = xmlParseFile(full_path);
         if (!zm->doc)
         {
             yaz_log(YLOG_WARN, "%s:%d: Could not load icuchain config '%s'",
@@ -243,14 +251,14 @@ static int parse_command(zebra_maps_t zms, int argc, char **argv,
 #if YAZ_HAVE_ICU
             UErrorCode status;
             xmlNode *xml_node = xmlDocGetRootElement(zm->doc);
-            zm->icu_chain = 
+            zm->icu_chain =
                 icu_chain_xml_config(xml_node,
 /* not sure about sort for this function yet.. */
 #if 1
                                      1,
 #else
                                      zm->type == ZEBRA_MAP_TYPE_SORT,
-#endif                                    
+#endif
                                      &status);
             if (!zm->icu_chain)
             {
@@ -276,7 +284,7 @@ static int parse_command(zebra_maps_t zms, int argc, char **argv,
     }
     else
     {
-        yaz_log(YLOG_WARN, "%s:%d: Unrecognized directive '%s'",  
+        yaz_log(YLOG_WARN, "%s:%d: Unrecognized directive '%s'",
                 fname, lineno, argv[0]);
         return -1;
     }
@@ -337,6 +345,12 @@ zebra_maps_t zebra_maps_open(Res res, const char *base_path,
     return zms;
 }
 
+void zebra_maps_define_default_sort(zebra_maps_t zms)
+{
+    zebra_map_t zm = zebra_add_map(zms, "s", ZEBRA_MAP_TYPE_SORT);
+    zm->u.sort.entry_size = 80;
+}
+
 zebra_map_t zebra_map_get(zebra_maps_t zms, const char *id)
 {
     zebra_map_t zm;
@@ -352,7 +366,7 @@ zebra_map_t zebra_map_get_or_add(zebra_maps_t zms, const char *id)
     if (!zm)
     {
         zm = zebra_add_map(zms, id, ZEBRA_MAP_TYPE_INDEX);
-       
+
        /* no reason to warn if no maps are read from file */
        if (zms->no_files_read)
            yaz_log(YLOG_WARN, "Unknown register type: %s", id);
@@ -387,7 +401,7 @@ const char **zebra_maps_input(zebra_map_t zm,
     chrmaptab maptab = zebra_charmap_get(zm);
     if (maptab)
        return chr_map_input(maptab, from, len, first);
-    
+
     zm->zebra_maps->temp_map_str[0] = **from;
 
     (*from)++;
@@ -398,7 +412,7 @@ const char **zebra_maps_search(zebra_map_t zm,
                               const char **from, int len,  int *q_map_match)
 {
     chrmaptab maptab;
-    
+
     *q_map_match = 0;
     maptab = zebra_charmap_get(zm);
     if (maptab)
@@ -433,7 +447,7 @@ const char *zebra_maps_output(zebra_map_t zm,
 /* ------------------------------------ */
 
 int zebra_maps_is_complete(zebra_map_t zm)
-{ 
+{
     if (zm)
        return zm->completeness;
     return 0;
@@ -459,7 +473,7 @@ int zebra_maps_is_staticrank(zebra_map_t zm)
        return zm->type == ZEBRA_MAP_TYPE_STATICRANK;
     return 0;
 }
-    
+
 int zebra_maps_is_sort(zebra_map_t zm)
 {
     if (zm)
@@ -558,11 +572,11 @@ int zebra_maps_attr(zebra_maps_t zms, Z_AttributesPlusTerm *zapt,
        break;
     case 106: /* document-text */
         *search_type = "or-list";
-       break;  
+       break;
     case -1:
     case 1:   /* phrase */
     case 2:   /* word */
-    case 108: /* string */ 
+    case 108: /* string */
        *search_type = "phrase";
        break;
     case 107: /* local-number */
@@ -639,49 +653,34 @@ static int tokenize_simple(zebra_map_t zm,
     return 0;
  }
 
-int zebra_map_tokenize(zebra_map_t zm,
-                       const char *buf, size_t len,
-                       const char **result_buf, size_t *result_len)
+
+int zebra_map_tokenize_next(zebra_map_t zm,
+                            const char **result_buf, size_t *result_len,
+                            const char **display_buf, size_t *display_len)
 {
     assert(zm->use_chain);
 
-    if (buf)
-    {
-        wrbuf_rewind(zm->input_str);
-        wrbuf_write(zm->input_str, buf, len);
-        zm->simple_off = 0;
-    }
-
 #if YAZ_HAVE_ICU
     if (!zm->icu_chain)
         return tokenize_simple(zm, result_buf, result_len);
     else
     {
         UErrorCode status;
-        if (buf)
-        {
-            if (zm->debug)
-            {
-                wrbuf_rewind(zm->print_str);
-                wrbuf_write_escaped(zm->print_str, wrbuf_buf(zm->input_str),
-                                    wrbuf_len(zm->input_str));
-                
-                yaz_log(YLOG_LOG, "input %s", 
-                        wrbuf_cstr(zm->print_str)); 
-            }
-            icu_chain_assign_cstr(zm->icu_chain,
-                                  wrbuf_cstr(zm->input_str),
-                                  &status);
-            assert(U_SUCCESS(status));
-        }
         while (icu_chain_next_token(zm->icu_chain, &status))
         {
-            assert(U_SUCCESS(status));
+            if (!U_SUCCESS(status))
+                return 0;
             *result_buf = icu_chain_token_sortkey(zm->icu_chain);
             assert(*result_buf);
 
             *result_len = strlen(*result_buf);
 
+            if (display_buf)
+            {
+                *display_buf = icu_chain_token_display(zm->icu_chain);
+                if (display_len)
+                    *display_len = strlen(*display_buf);
+            }
             if (zm->debug)
             {
                 wrbuf_rewind(zm->print_str);
@@ -692,7 +691,6 @@ int zebra_map_tokenize(zebra_map_t zm,
             if (**result_buf != '\0')
                 return 1;
         }
-        assert(U_SUCCESS(status));
     }
     return 0;
 #else
@@ -700,8 +698,48 @@ int zebra_map_tokenize(zebra_map_t zm,
 #endif
 }
 
+int zebra_map_tokenize_start(zebra_map_t zm,
+                             const char *buf, size_t len)
+{
+#if YAZ_HAVE_ICU
+    int ret;
+#endif
+    assert(zm->use_chain);
+
+    wrbuf_rewind(zm->input_str);
+    wrbuf_write(zm->input_str, buf, len);
+    zm->simple_off = 0;
+#if YAZ_HAVE_ICU
+    if (zm->icu_chain)
+    {
+        UErrorCode status;
+        if (zm->debug)
+        {
+            wrbuf_rewind(zm->print_str);
+            wrbuf_write_escaped(zm->print_str, wrbuf_buf(zm->input_str),
+                                wrbuf_len(zm->input_str));
+
+            yaz_log(YLOG_LOG, "input %s",
+                    wrbuf_cstr(zm->print_str));
+        }
+        ret = icu_chain_assign_cstr(zm->icu_chain,
+                                    wrbuf_cstr(zm->input_str), &status);
+        if (!ret && !U_SUCCESS(status))
+        {
+            if (zm->debug)
+            {
+                yaz_log(YLOG_WARN, "bad encoding for input");
+            }
+            return -1;
+        }
+    }
+#endif
+    return 0;
+}
+
 int zebra_maps_is_icu(zebra_map_t zm)
 {
+    assert(zm);
 #if YAZ_HAVE_ICU
     return zm->use_chain;
 #else
@@ -713,6 +751,7 @@ int zebra_maps_is_icu(zebra_map_t zm)
 /*
  * Local variables:
  * c-basic-offset: 4
+ * c-file-style: "Stroustrup"
  * indent-tabs-mode: nil
  * End:
  * vim: shiftwidth=4 tabstop=8 expandtab