Added functions to create CCL RPN nodes. Added small tokenizer
[yaz-moved-to-github.git] / include / yaz / tokenizer.h
1 /*
2  * Copyright (c) 1995-2007, Index Data
3  * All rights reserved.
4  * Redistribution and use in source and binary forms, with or without
5  * modification, are permitted provided that the following conditions are met:
6  *
7  *     * Redistributions of source code must retain the above copyright
8  *       notice, this list of conditions and the following disclaimer.
9  *     * Redistributions in binary form must reproduce the above copyright
10  *       notice, this list of conditions and the following disclaimer in the
11  *       documentation and/or other materials provided with the distribution.
12  *     * Neither the name of Index Data nor the names of its contributors
13  *       may be used to endorse or promote products derived from this
14  *       software without specific prior written permission.
15  *
16  * THIS SOFTWARE IS PROVIDED BY THE REGENTS AND CONTRIBUTORS ``AS IS'' AND ANY
17  * EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED
18  * WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE
19  * DISCLAIMED. IN NO EVENT SHALL THE REGENTS AND CONTRIBUTORS BE LIABLE FOR ANY
20  * DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES
21  * (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
22  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND
23  * ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
24  * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF
25  * THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
26  */
27 /* $Id: tokenizer.h,v 1.1 2007-04-26 21:45:16 adam Exp $ */
28
29 /** \file tokenizer.h
30     \brief Header with public definitions about YAZ' tokenizer
31 */
32
33 #ifndef YAZ_TOKENIZER
34 #define YAZ_TOKENIZER
35 #include <yaz/nmem.h>
36
37 YAZ_BEGIN_CDECL
38
39 #define YAZ_TOKENIZER_EOF 0
40 #define YAZ_TOKENIZER_ERROR (-1)
41 #define YAZ_TOKENIZER_STRING (-2)
42 #define YAZ_TOKENIZER_QSTRING (-3)
43
44 typedef struct yaz_tokenizer *yaz_tokenizer_t;
45
46 YAZ_EXPORT
47 yaz_tokenizer_t yaz_tokenizer_create(void);
48
49 YAZ_EXPORT
50 void yaz_tokenizer_destroy(yaz_tokenizer_t t);
51
52 YAZ_EXPORT
53 void yaz_tokenizer_read_buf(yaz_tokenizer_t t, const char *buf);
54
55 YAZ_EXPORT
56 int yaz_tokenizer_move(yaz_tokenizer_t t);
57
58 YAZ_EXPORT
59 const char *yaz_tokenizer_string(yaz_tokenizer_t t);
60
61 YAZ_EXPORT
62 void yaz_tokenizer_single_tokens(yaz_tokenizer_t t, const char *simple);
63
64 YAZ_END_CDECL
65
66 #endif
67 /* CQL_H_INCLUDED */
68 /*
69  * Local variables:
70  * c-basic-offset: 4
71  * indent-tabs-mode: nil
72  * End:
73  * vim: shiftwidth=4 tabstop=8 expandtab
74  */
75