Fixed bug #685: Optimize xelm/melm matching. Indexing the Koha collection
[idzebra-moved-to-github.git] / data1 / d1_absyn.c
index 2879df4..5adb241 100644 (file)
@@ -1,4 +1,4 @@
-/* $Id: d1_absyn.c,v 1.26 2006-06-08 10:33:19 adam Exp $
+/* $Id: d1_absyn.c,v 1.29 2006-09-28 18:38:44 adam Exp $
    Copyright (C) 1995-2006
    Index Data ApS
 
@@ -15,9 +15,9 @@ FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
 for more details.
 
 You should have received a copy of the GNU General Public License
-along with Zebra; see the file LICENSE.zebra.  If not, write to the
-Free Software Foundation, 59 Temple Place - Suite 330, Boston, MA
-02111-1307, USA.
+along with this program; if not, write to the Free Software
+Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
+
 */
 
 #include <stdio.h>
@@ -185,9 +185,10 @@ void data1_absyn_destroy (data1_handle dh)
            data1_xpelement *xpe = abs->xp_elements;
            while (xpe) {
                yaz_log (YLOG_DEBUG,"Destroy xp element %s",xpe->xpath_expr);
-               if (xpe->dfa) {  dfa_delete (&xpe->dfa); }
+               if (xpe->dfa) 
+                    dfa_delete (&xpe->dfa);
                xpe = xpe->next;
-           } 
+           }
        }
         p = p->next;
     }
@@ -206,7 +207,11 @@ void data1_absyn_trav (data1_handle dh, void *handle,
     }
 }
 
-data1_absyn *data1_absyn_add (data1_handle dh, const char *name)
+static data1_absyn *data1_read_absyn(data1_handle dh, const char *file,
+                                     enum DATA1_XPATH_INDEXING en);
+
+static data1_absyn *data1_absyn_add(data1_handle dh, const char *name,
+                                    enum DATA1_XPATH_INDEXING en)
 {
     char fname[512];
     NMEM mem = data1_nmem_get (dh);
@@ -214,20 +219,21 @@ data1_absyn *data1_absyn_add (data1_handle dh, const char *name)
     data1_absyn_cache p = (data1_absyn_cache)nmem_malloc (mem, sizeof(*p));
     data1_absyn_cache *pp = data1_absyn_cache_get (dh);
 
-    sprintf(fname, "%s.abs", name);
-    p->absyn = data1_read_absyn (dh, fname, 0);
-    p->name = nmem_strdup (mem, name);
+    sprintf(fname, "%.500s.abs", name);
+    p->absyn = data1_read_absyn(dh, fname, en);
+    p->name = nmem_strdup(mem, name);
     p->next = *pp;
     *pp = p;
     return p->absyn;
 }
 
-data1_absyn *data1_get_absyn (data1_handle dh, const char *name)
+data1_absyn *data1_get_absyn (data1_handle dh, const char *name,
+                              enum DATA1_XPATH_INDEXING en)
 {
     data1_absyn *absyn;
 
     if (!(absyn = data1_absyn_search (dh, name)))
-       absyn = data1_absyn_add (dh, name);
+       absyn = data1_absyn_add (dh, name, en);
     return absyn;
 }
 
@@ -259,20 +265,10 @@ data1_attset *data1_attset_search_id (data1_handle dh, int id)
 
 data1_attset *data1_attset_add (data1_handle dh, const char *name)
 {
-    char fname[512], aname[512];
     NMEM mem = data1_nmem_get (dh);
     data1_attset *attset;
-
-    strcpy (aname, name);
-    sprintf(fname, "%s.att", name);
-    attset = data1_read_attset (dh, fname);
-    if (!attset)
-    {
-       char *cp;
-       attset = data1_read_attset (dh, name);
-       if (attset && (cp = strrchr (aname, '.')))
-           *cp = '\0';
-    }
+    
+    attset = data1_read_attset (dh, name);
     if (!attset)
        yaz_log (YLOG_WARN|YLOG_ERRNO, "Couldn't load attribute set %s", name);
     else
@@ -281,7 +277,7 @@ data1_attset *data1_attset_add (data1_handle dh, const char *name)
            nmem_malloc (mem, sizeof(*p));
        data1_attset_cache *pp = data1_attset_cache_get (dh);
        
-       attset->name = p->name = nmem_strdup (mem, aname);
+       attset->name = p->name = nmem_strdup(mem, name);
        p->attset = attset;
        p->next = *pp;
        *pp = p;
@@ -312,37 +308,6 @@ data1_esetname *data1_getesetbyname(data1_handle dh, data1_absyn *a,
 /* we have multiple versions of data1_getelementbyname */
 #define DATA1_GETELEMENTBYTAGNAME_VERSION 1
 
-#if DATA1_GETELEMENTBYTAGNAME_VERSION==0
-/* straight linear search */
-data1_element *data1_getelementbytagname (data1_handle dh, data1_absyn *abs,
-                                         data1_element *parent,
-                                         const char *tagname)
-{
-    data1_element *r;
-
-    /* It's now possible to have a data1 tree with no abstract syntax */
-    if ( !abs )
-        return 0;
-
-    if (!parent)
-        r = abs->main_elements;
-    else
-       r = parent->children;
-
-    for (; r; r = r->next)
-    {
-       data1_name *n;
-
-       for (n = r->tag->names; n; n = n->next)
-           if (!data1_matchstr(tagname, n->name))
-               return r;
-    }
-    return 0;
-}
-#endif
-
-#if DATA1_GETELEMENTBYTAGNAME_VERSION==1
-/* using hash search */
 data1_element *data1_getelementbytagname (data1_handle dh, data1_absyn *abs,
                                          data1_element *parent,
                                          const char *tagname)
@@ -359,12 +324,15 @@ data1_element *data1_getelementbytagname (data1_handle dh, data1_absyn *abs,
     else
        r = parent->children;
 
+#if DATA1_GETELEMENTBYTAGNAME_VERSION==1
+    /* using hash search */
     if (!r)
        return 0;
 
     ht = r->hash;
     if (!ht)
     {
+        /* build hash table (the first time) */
        ht = r->hash = data1_hash_open(29, data1_nmem_get(dh));
        for (; r; r = r->next)
        {
@@ -375,8 +343,19 @@ data1_element *data1_getelementbytagname (data1_handle dh, data1_absyn *abs,
        }
     }
     return data1_hash_lookup(ht, tagname);
-}
+#else
+    /* using linear search */
+    for (; r; r = r->next)
+    {
+       data1_name *n;
+
+       for (n = r->tag->names; n; n = n->next)
+           if (!data1_matchstr(tagname, n->name))
+               return r;
+    }
+    return 0;
 #endif
+}
 
 data1_element *data1_getelementbyname (data1_handle dh, data1_absyn *absyn,
                                       const char *name)
@@ -691,8 +670,8 @@ YAZ_EXPORT data1_element *data1_absyn_getelements(data1_handle dh,
     return absyn->main_elements;
 }
 
-data1_absyn *data1_read_absyn (data1_handle dh, const char *file,
-                               int file_must_exist)
+static data1_absyn *data1_read_absyn(data1_handle dh, const char *file,
+                                     enum DATA1_XPATH_INDEXING default_xpath)
 {
     data1_sub_elements *cur_elements = NULL;
     data1_xpelement *cur_xpelement = NULL;
@@ -713,18 +692,15 @@ data1_absyn *data1_read_absyn (data1_handle dh, const char *file,
     int argc;
     char *argv[50], line[512];
 
-    if (!(f = data1_path_fopen(dh, file, "r")))
-    {
-        if (file_must_exist)
-            return 0;
-    }
+    f = data1_path_fopen(dh, file, "r");
     
     res = (data1_absyn *) nmem_malloc(data1_nmem_get(dh), sizeof(*res));
     res->name = 0;
     res->reference = VAL_NONE;
     res->tagset = 0;
     res->encoding = 0;
-    res->enable_xpath_indexing = (f ? 0 : 1);
+    res->xpath_indexing = 
+        (f ? DATA1_XPATH_INDEXING_DISABLE : default_xpath);
     res->systags = 0;
     systagsp = &res->systags;
     tagset_childp = &res->tagset;
@@ -877,9 +853,10 @@ data1_absyn *data1_read_absyn (data1_handle dh, const char *file,
            int i;
            char *p, *xpath_expr, *termlists;
            const char *regexp;
-           struct DFA *dfa = dfa = dfa_init();
+           struct DFA *dfa = 0;
            data1_termlist **tp;
            char melm_xpath[128];
+            data1_xpelement *xp_old = 0;
             
            if (argc < 3)
            {
@@ -896,13 +873,24 @@ data1_absyn *data1_read_absyn (data1_handle dh, const char *file,
            }
            termlists = argv[2];
            regexp = mk_xpath_regexp(dh, xpath_expr);
-           i = dfa_parse (dfa, &regexp);
-           if (i || *regexp) {
-                yaz_log(YLOG_WARN, "%s:%d: Bad xpath to xelm", file, lineno);
-                dfa_delete (&dfa);
-                continue;
-           }
-            
+
+#if OPTIMIZE_MELM
+            for (xp_old = res->xp_elements; xp_old; xp_old = xp_old->next)
+                if (!strcmp(xp_old->regexp, regexp))
+                    break;
+#endif
+            if (!xp_old)
+            {
+                const char *regexp_ptr = regexp;
+
+                dfa = dfa_init();
+                i = dfa_parse (dfa, &regexp_ptr);
+                if (i || *regexp_ptr) {
+                    yaz_log(YLOG_WARN, "%s:%d: Bad xpath to xelm", file, lineno);
+                    dfa_delete (&dfa);
+                    continue;
+                }
+            }
            if (!cur_xpelement)
            {
                 cur_xpelement = (data1_xpelement *)
@@ -913,12 +901,16 @@ data1_absyn *data1_read_absyn (data1_handle dh, const char *file,
                     nmem_malloc(data1_nmem_get(dh), sizeof(*cur_xpelement));
                 cur_xpelement = cur_xpelement->next;
            }
+#if OPTIMIZE_MELM
+            cur_xpelement->regexp = regexp;
+#endif
            cur_xpelement->next = NULL;
            cur_xpelement->xpath_expr = nmem_strdup(data1_nmem_get (dh), 
                                                    xpath_expr); 
            
-           dfa_mkstate (dfa);
-           cur_xpelement->dfa = dfa;
+            if (dfa)
+                dfa_mkstate (dfa);
+            cur_xpelement->dfa = dfa;
 
 #ifdef ENHANCED_XELM 
             cur_xpelement->xpath_len =
@@ -977,9 +969,9 @@ data1_absyn *data1_read_absyn (data1_handle dh, const char *file,
                continue;
             }
             if (!strcmp(argv[1], "enable"))
-                res->enable_xpath_indexing = 1;
+                res->xpath_indexing = DATA1_XPATH_INDEXING_ENABLE;
             else if (!strcmp (argv[1], "disable"))
-                res->enable_xpath_indexing = 0;
+                res->xpath_indexing = DATA1_XPATH_INDEXING_DISABLE;
             else
             {
                yaz_log(YLOG_WARN, "%s:%d: Expecting disable/enable "