- Allow keywords to be used unquoted as search terms.
[cql-java-moved-to-github.git] / src / org / z3950 / zing / cql / CQLParser.java
index 2792aaa..eadedef 100644 (file)
@@ -1,15 +1,18 @@
-// $Id: CQLParser.java,v 1.12 2002-11-01 23:45:28 mike Exp $
+// $Id: CQLParser.java,v 1.20 2002-11-14 22:04:16 mike Exp $
 
 package org.z3950.zing.cql;
 import java.io.IOException;
 import java.util.Vector;
+import java.util.Properties;
+import java.io.InputStream;
+import java.io.FileInputStream;
+import java.io.FileNotFoundException;
 
 
 /**
- * Compiles a CQL string into a parse tree.
- * ##
+ * Compiles CQL strings into parse trees of CQLNode subtypes.
  *
- * @version    $Id: CQLParser.java,v 1.12 2002-11-01 23:45:28 mike Exp $
+ * @version    $Id: CQLParser.java,v 1.20 2002-11-14 22:04:16 mike Exp $
  * @see                <A href="http://zing.z3950.org/cql/index.html"
  *                     >http://zing.z3950.org/cql/index.html</A>
  */
@@ -23,43 +26,57 @@ public class CQLParser {
            System.err.println("PARSEDEBUG: " + str);
     }
 
+    /**
+     * Compiles a CQL query.
+     * <P>
+     * The resulting parse tree may be further processed by hand (see
+     * the individual node-types' documentation for details on the
+     * data structure) or, more often, simply rendered out in the
+     * desired form using one of the back-ends.  <TT>toCQL()</TT>
+     * returns a decompiled CQL query equivalent to the one that was
+     * compiled in the first place; and <TT>toXCQL()</TT> returns an
+     * XML snippet representing the query.
+     *
+     * @param cql      The query
+     * @return         A CQLNode object which is the root of a parse
+     * tree representing the query.  */
     public CQLNode parse(String cql)
        throws CQLParseException, IOException {
        lexer = new CQLLexer(cql, LEXDEBUG);
 
        lexer.nextToken();
-       debug("about to parse_query()");
-       CQLNode root = parse_query("srw.serverChoice", new CQLRelation("="));
+       debug("about to parseQuery()");
+       CQLNode root = parseQuery("srw.serverChoice", new CQLRelation("scr"));
        if (lexer.ttype != lexer.TT_EOF)
            throw new CQLParseException("junk after end: " + lexer.render());
 
        return root;
     }
 
-    private CQLNode parse_query(String qualifier, CQLRelation relation)
+    private CQLNode parseQuery(String qualifier, CQLRelation relation)
        throws CQLParseException, IOException {
-       debug("in parse_query()");
+       debug("in parseQuery()");
 
-       CQLNode term = parse_term(qualifier, relation);
+       CQLNode term = parseTerm(qualifier, relation);
        while (lexer.ttype != lexer.TT_EOF &&
               lexer.ttype != ')') {
            if (lexer.ttype == lexer.TT_AND) {
                match(lexer.TT_AND);
-               CQLNode term2 = parse_term(qualifier, relation);
+               CQLNode term2 = parseTerm(qualifier, relation);
                term = new CQLAndNode(term, term2);
            } else if (lexer.ttype == lexer.TT_OR) {
                match(lexer.TT_OR);
-               CQLNode term2 = parse_term(qualifier, relation);
+               CQLNode term2 = parseTerm(qualifier, relation);
                term = new CQLOrNode(term, term2);
            } else if (lexer.ttype == lexer.TT_NOT) {
                match(lexer.TT_NOT);
-               CQLNode term2 = parse_term(qualifier, relation);
+               CQLNode term2 = parseTerm(qualifier, relation);
                term = new CQLNotNode(term, term2);
            } else if (lexer.ttype == lexer.TT_PROX) {
                match(lexer.TT_PROX);
                CQLProxNode proxnode = new CQLProxNode(term);
                gatherProxParameters(proxnode);
-               CQLNode term2 = parse_term(qualifier, relation);
+               CQLNode term2 = parseTerm(qualifier, relation);
                proxnode.addSecondSubterm(term2);
                term = (CQLNode) proxnode;
            } else {
@@ -72,26 +89,25 @@ public class CQLParser {
        return term;
     }
 
-    private CQLNode parse_term(String qualifier, CQLRelation relation)
+    private CQLNode parseTerm(String qualifier, CQLRelation relation)
        throws CQLParseException, IOException {
-       debug("in parse_term()");
+       debug("in parseTerm()");
 
        String word;
        while (true) {
            if (lexer.ttype == '(') {
                debug("parenthesised term");
                match('(');
-               CQLNode expr = parse_query(qualifier, relation);
+               CQLNode expr = parseQuery(qualifier, relation);
                match(')');
                return expr;
-           } else if (lexer.ttype != lexer.TT_WORD && lexer.ttype != '"') {
-               throw new CQLParseException("expected qualifier or term, " +
-                                           "got " + lexer.render());
+           } else if (lexer.ttype == '>') {
+               match('>');
+               return parsePrefix(qualifier, relation);
            }
 
            debug("non-parenthesised term");
-           word = lexer.sval;
-           match(lexer.ttype);
+           word = matchSymbol("qualifier or term");
            if (!isBaseRelation())
                break;
 
@@ -106,7 +122,7 @@ public class CQLParser {
                    lexer.ttype != lexer.TT_STEM)
                    throw new CQLParseException("expected relation modifier, "
                                                + "got " + lexer.render());
-               relation.addModifier(lexer.sval);
+               relation.addModifier(lexer.sval.toLowerCase());
                match(lexer.ttype);
            }
 
@@ -119,6 +135,21 @@ public class CQLParser {
        return node;
     }
 
+    private CQLNode parsePrefix(String qualifier, CQLRelation relation)
+       throws CQLParseException, IOException {
+       debug("prefix mapping");
+
+       String name = null;
+       String identifier = matchSymbol("prefix-name");
+       if (lexer.ttype == '=') {
+           match('=');
+           name = identifier;
+           identifier = matchSymbol("prefix-identifer");
+       }
+       CQLNode term = parseTerm(qualifier, relation);
+       return new CQLPrefixNode(name, identifier, term);
+    }
+
     private void gatherProxParameters(CQLProxNode node)
        throws CQLParseException, IOException {
        for (int i = 0; i < 4; i++) {
@@ -129,7 +160,8 @@ public class CQLParser {
            if (lexer.ttype != '/') {
                // not an omitted default
                switch (i) {
-                   // Assumes order is: relation/distance/unit/ordering
+                   // Order should be: relation/distance/unit/ordering
+                   // For now, use MA's: unit/relation/distance/ordering
                case 0: gatherProxRelation(node); break;
                case 1: gatherProxDistance(node); break;
                case 2: gatherProxUnit(node); break;
@@ -181,16 +213,17 @@ public class CQLParser {
        match(lexer.ttype);
     }
 
-    boolean isBaseRelation() {
+    private boolean isBaseRelation() {
        debug("isBaseRelation: checking ttype=" + lexer.ttype +
              " (" + lexer.render() + ")");
        return (isProxRelation() ||
                lexer.ttype == lexer.TT_ANY ||
                lexer.ttype == lexer.TT_ALL ||
-               lexer.ttype == lexer.TT_EXACT);
+               lexer.ttype == lexer.TT_EXACT ||
+               lexer.ttype == lexer.TT_SCR);
     }
 
-    boolean isProxRelation() {
+    private boolean isProxRelation() {
        debug("isProxRelation: checking ttype=" + lexer.ttype +
              " (" + lexer.render() + ")");
        return (lexer.ttype == '<' ||
@@ -214,48 +247,121 @@ public class CQLParser {
              " (tmp=" + tmp + ")");
     }
 
+    private String matchSymbol(String expected)
+       throws CQLParseException, IOException {
+
+       debug("in matchSymbol()");
+       if (lexer.ttype == lexer.TT_WORD ||
+           lexer.ttype == lexer.TT_NUMBER ||
+           lexer.ttype == '"' ||
+           // The following is a complete list of keywords.  Because
+           // they're listed here, they can be used unquoted as
+           // qualifiers, terms, prefix names and prefix identifiers.
+           lexer.ttype == lexer.TT_AND ||
+           lexer.ttype == lexer.TT_OR ||
+           lexer.ttype == lexer.TT_NOT ||
+           lexer.ttype == lexer.TT_PROX ||
+           lexer.ttype == lexer.TT_ANY ||
+           lexer.ttype == lexer.TT_ALL ||
+           lexer.ttype == lexer.TT_EXACT ||
+           lexer.ttype == lexer.TT_pWORD ||
+           lexer.ttype == lexer.TT_SENTENCE ||
+           lexer.ttype == lexer.TT_PARAGRAPH ||
+           lexer.ttype == lexer.TT_ELEMENT ||
+           lexer.ttype == lexer.TT_ORDERED ||
+           lexer.ttype == lexer.TT_UNORDERED ||
+           lexer.ttype == lexer.TT_RELEVANT ||
+           lexer.ttype == lexer.TT_FUZZY ||
+           lexer.ttype == lexer.TT_STEM ||
+           lexer.ttype == lexer.TT_SCR) {
+           String symbol = (lexer.ttype == lexer.TT_NUMBER) ?
+               lexer.render() : lexer.sval;
+           match(lexer.ttype);
+           return symbol;
+       }
+
+       throw new CQLParseException("expected " + expected + ", " +
+                                   "got " + lexer.render());
+    }
+
 
-    // Test harness.
-    //
-    // e.g. echo '(au=Kerninghan or au=Ritchie) and ti=Unix' |
-    //                         java org.z3950.zing.cql.CQLParser
-    // yields:
-    // <triple>
-    //   <boolean>and</boolean>
-    //   <triple>
-    //     <boolean>or</boolean>
-    //     <searchClause>
-    //       <index>au<index>
-    //       <relation>=<relation>
-    //       <term>Kerninghan<term>
-    //     </searchClause>
-    //     <searchClause>
-    //       <index>au<index>
-    //       <relation>=<relation>
-    //       <term>Ritchie<term>
-    //     </searchClause>
-    //   </triple>
-    //   <searchClause>
-    //     <index>ti<index>
-    //     <relation>=<relation>
-    //     <term>Unix<term>
-    //   </searchClause>
-    // </triple>
-    //
+    /**
+     * Simple test-harness for the CQLParser class.
+     * <P>
+     * Reads a CQL query either from its command-line argument, if
+     * there is one, or standard input otherwise.  So these two
+     * invocations are equivalent:
+     * <PRE>
+     *  CQLParser 'au=(Kerninghan or Ritchie) and ti=Unix'
+     *  echo au=(Kerninghan or Ritchie) and ti=Unix | CQLParser
+     * </PRE>
+     * The test-harness parses the supplied query and renders is as
+     * XCQL, so that both of the invocations above produce the
+     * following output:
+     * <PRE>
+     * &lt;triple&gt;
+     *   &lt;boolean&gt;
+     *     &lt;value&gt;and&lt;/value&gt;
+     *   &lt;/boolean&gt;
+     *   &lt;triple&gt;
+     *     &lt;boolean&gt;
+     *       &lt;value&gt;or&lt;/value&gt;
+     *     &lt;/boolean&gt;
+     *     &lt;searchClause&gt;
+     *       &lt;index&gt;au&lt;/index&gt;
+     *       &lt;relation&gt;
+     *         &lt;value&gt;=&lt;/value&gt;
+     *       &lt;/relation&gt;
+     *       &lt;term&gt;Kerninghan&lt;/term&gt;
+     *     &lt;/searchClause&gt;
+     *     &lt;searchClause&gt;
+     *       &lt;index&gt;au&lt;/index&gt;
+     *       &lt;relation&gt;
+     *         &lt;value&gt;=&lt;/value&gt;
+     *       &lt;/relation&gt;
+     *       &lt;term&gt;Ritchie&lt;/term&gt;
+     *     &lt;/searchClause&gt;
+     *   &lt;/triple&gt;
+     *   &lt;searchClause&gt;
+     *     &lt;index&gt;ti&lt;/index&gt;
+     *     &lt;relation&gt;
+     *       &lt;value&gt;=&lt;/value&gt;
+     *     &lt;/relation&gt;
+     *     &lt;term&gt;Unix&lt;/term&gt;
+     *   &lt;/searchClause&gt;
+     * &lt;/triple&gt;
+     * </PRE>
+     * <P>
+     * @param -c
+     * Causes the output to be written in CQL rather than XCQL - that
+     * is, a query equivalent to that which was input, is output.  In
+     * effect, the test harness acts as a query canonicaliser.
+     * @return
+     * The input query, either as XCQL [default] or CQL [if the
+     * <TT>-c</TT> option is supplied].
+     */
     public static void main (String[] args) {
-       boolean canonicalise = false;
+       char mode = 'x';        // x=XCQL, c=CQL, p=PQF
+       String pfile = null;
+
        Vector argv = new Vector();
        for (int i = 0; i < args.length; i++) {
            argv.add(args[i]);
        }
 
        if (argv.size() > 0 && argv.get(0).equals("-c")) {
-           canonicalise = true;
+           mode = 'c';
+           argv.remove(0);
+       } else if (argv.size() > 1 && argv.get(0).equals("-p")) {
+           mode = 'p';
+           argv.remove(0);
+           pfile = (String) argv.get(0);
            argv.remove(0);
        }
 
        if (argv.size() > 1) {
-           System.err.println("Usage: CQLParser [-c] [<CQL-query>]");
+           System.err.println(
+               "Usage: CQLParser [-c] [-p <pqf-properties> [<CQL-query>]");
            System.err.println("If unspecified, query is read from stdin");
            System.exit(1);
        }
@@ -268,7 +374,7 @@ public class CQLParser {
            try {
                // Read in the whole of standard input in one go
                int nbytes = System.in.read(bytes);
-           } catch (java.io.IOException ex) {
+           } catch (IOException ex) {
                System.err.println("Can't read query: " + ex.getMessage());
                System.exit(2);
            }
@@ -276,21 +382,51 @@ public class CQLParser {
        }
 
        CQLParser parser = new CQLParser();
-       CQLNode root;
+       CQLNode root = null;
        try {
            root = parser.parse(cql);
-           debug("root='" + root + "'");
-           if (canonicalise) {
-               System.out.println(root.toCQL());
-           } else {
-               System.out.println(root.toXCQL(0));
-           }
        } catch (CQLParseException ex) {
            System.err.println("Syntax error: " + ex.getMessage());
            System.exit(3);
-       } catch (java.io.IOException ex) {
+       } catch (IOException ex) {
            System.err.println("Can't compile query: " + ex.getMessage());
            System.exit(4);
        }
+
+       try {
+           if (mode == 'c') {
+               System.out.println(root.toCQL());
+           } else if (mode == 'p') {
+               InputStream f = new FileInputStream(pfile);
+               if (f == null)
+                   throw new FileNotFoundException(pfile);
+
+               Properties config = new Properties();
+               config.load(f);
+               f.close();
+               System.out.println(root.toPQF(config));
+           } else {
+               System.out.print(root.toXCQL(0));
+           }
+       } catch (IOException ex) {
+           System.err.println("Can't render query: " + ex.getMessage());
+           System.exit(5);
+       } catch (UnknownQualifierException ex) {
+           System.err.println("Unknown qualifier: " + ex.getMessage());
+           System.exit(6);
+       } catch (UnknownRelationException ex) {
+           System.err.println("Unknown relation: " + ex.getMessage());
+           System.exit(7);
+       } catch (UnknownRelationModifierException ex) {
+           System.err.println("Unknown relation modifier: " +
+                              ex.getMessage());
+           System.exit(8);
+       } catch (UnknownPositionException ex) {
+           System.err.println("Unknown position: " + ex.getMessage());
+           System.exit(9);
+       } catch (PQFTranslationException ex) {
+           // We catch all of this class's subclasses, so --
+           throw new Error("can't get a PQFTranslationException");
+       }
     }
 }