Separate malloc debug library. Removal of ASN_COMPILED-#ifdefs.
[yaz-moved-to-github.git] / zutil / pquery.c
1 /*
2  * Copyright (c) 1995-2001, Index Data.
3  * See the file LICENSE for details.
4  *
5  * $Id: pquery.c,v 1.11 2001-11-13 23:00:43 adam Exp $
6  */
7
8 #include <stdio.h>
9 #include <string.h>
10 #include <stdlib.h>
11
12 #include <yaz/proto.h>
13 #include <yaz/oid.h>
14 #include <yaz/pquery.h>
15
16 static oid_value p_query_dfset = VAL_NONE;
17
18 struct lex_info {
19     const char *query_buf;
20     const char *lex_buf;
21     size_t lex_len;
22     int query_look;
23     char *left_sep;
24     char *right_sep;
25     int escape_char;
26     int term_type;
27 };
28
29 static Z_RPNStructure *rpn_structure (struct lex_info *li, ODR o, oid_proto, 
30                                       int num_attr, int max_attr, 
31                                       int *attr_list, char **attr_clist,
32                                       oid_value *attr_set);
33
34 static enum oid_value query_oid_getvalbyname (struct lex_info *li)
35 {
36     enum oid_value value;
37     char buf[32];
38
39     if (li->lex_len > 31)
40         return VAL_NONE;
41     memcpy (buf, li->lex_buf, li->lex_len);
42     buf[li->lex_len] = '\0';
43     value = oid_getvalbyname (buf);
44     return value;
45 }
46
47 static int compare_term (struct lex_info *li, const char *src, size_t off)
48 {
49     size_t len=strlen(src);
50
51     if (li->lex_len == len+off && !memcmp (li->lex_buf+off, src, len-off))
52         return 1;
53     return 0;
54 }
55
56 static int query_token (struct lex_info *li)
57 {
58     int sep_char = ' ';
59     const char *sep_match;
60     const char **qptr = &li->query_buf;
61
62     while (**qptr == ' ')
63         (*qptr)++;
64     if (**qptr == '\0')
65         return 0;
66     li->lex_len = 0;
67     if ((sep_match = strchr (li->left_sep, **qptr)))
68     {
69         sep_char = li->right_sep[sep_match - li->left_sep];
70         ++(*qptr);
71     }
72     li->lex_buf = *qptr;
73     
74     while (**qptr && **qptr != sep_char)
75     {
76         if (**qptr == '\\')
77         {
78             ++(li->lex_len);
79             ++(*qptr);
80         }
81         ++(li->lex_len);
82         ++(*qptr);
83     }
84     if (**qptr)
85         ++(*qptr);
86     if (li->lex_len >= 1 && li->lex_buf[0] == li->escape_char)
87     {
88         if (compare_term (li, "and", 1))
89             return 'a';
90         if (compare_term (li, "or", 1))
91             return 'o';
92         if (compare_term (li, "not", 1))
93             return 'n';
94         if (compare_term (li, "attr", 1))
95             return 'l';
96         if (compare_term (li, "set", 1))
97             return 's';
98         if (compare_term (li, "attrset", 1))
99             return 'r';
100         if (compare_term (li, "prox", 1))
101             return 'p';
102         if (compare_term (li, "term", 1))
103             return 'y';
104     }
105     return 't';
106 }
107
108 static int lex (struct lex_info *li)
109 {
110     return li->query_look = query_token (li);
111 }
112
113 static int escape_string(char *out_buf, const char *in, int len)
114 {
115
116     char *out = out_buf;
117     while (--len >= 0)
118         if (*in == '\\' && len > 0)
119         {
120             --len;
121             switch (*++in)
122             {
123             case 't':
124                 *out++ = '\t';
125                 break;
126             case 'n':
127                 *out++ = '\n';
128                 break;
129             case 'r':
130                 *out++ = '\r';
131                 break;
132             case 'f':
133                 *out++ = '\f';
134                 break;
135             case 'x':
136                 if (len > 1)
137                 {
138                     char s[4];
139                     int n = 0;
140                     s[0] = *++in;
141                     s[1] = *++in;
142                     s[2] = '\0';
143                     len = len - 2;
144                     sscanf (s, "%x", &n);
145                     *out++ = n;
146                 }
147                 break;
148             case '0':
149             case '1':
150             case '2':
151             case '3':
152                 if (len > 1)
153                 {
154                     char s[4];
155                     int n = 0;
156                     s[0] = *in;
157                     s[1] = *++in;                   
158                     s[2] = *++in;
159                     s[3] = '\0';
160                     len = len - 2;
161                     sscanf (s, "%o", &n);
162                     *out++ = n;
163                 }
164                 break;
165             default:
166                 *out++ = *in;
167                 break;
168             }
169             in++;
170         }
171         else
172             *out++ = *in++;
173     return out - out_buf;
174 }
175
176 static int p_query_parse_attr(struct lex_info *li, ODR o,
177                               int num_attr, int *attr_list,
178                               char **attr_clist, oid_value *attr_set)
179 {
180     const char *cp;
181     if (!(cp = strchr (li->lex_buf, '=')) ||
182         (size_t) (cp-li->lex_buf) > li->lex_len)
183     {
184         attr_set[num_attr] = query_oid_getvalbyname (li);
185         if (attr_set[num_attr] == VAL_NONE)
186             return 0;
187         lex (li);
188         
189         if (!(cp = strchr (li->lex_buf, '=')))
190             return 0;
191     }
192     else 
193     {
194         if (num_attr > 0)
195             attr_set[num_attr] = attr_set[num_attr-1];
196         else
197             attr_set[num_attr] = VAL_NONE;
198     }
199     attr_list[2*num_attr] = atoi(li->lex_buf);
200         cp++;
201     if (*cp >= '0' && *cp <= '9')
202     {
203         attr_list[2*num_attr+1] = atoi (cp);
204         attr_clist[num_attr] = 0;
205     }
206     else
207     {
208         int len = li->lex_len - (cp - li->lex_buf);
209         attr_list[2*num_attr+1] = 0;
210         attr_clist[num_attr] = (char *) odr_malloc (o, len+1);
211         len = escape_string(attr_clist[num_attr], cp, len);
212         attr_clist[num_attr][len] = '\0';
213     }
214     return 1;
215 }
216
217 static Z_AttributesPlusTerm *rpn_term (struct lex_info *li, ODR o,
218                                        oid_proto proto, 
219                                        int num_attr, int *attr_list,
220                                        char **attr_clist, oid_value *attr_set)
221 {
222     Z_AttributesPlusTerm *zapt;
223     Odr_oct *term_octet;
224     Z_Term *term;
225     Z_AttributeElement **elements;
226
227     zapt = (Z_AttributesPlusTerm *)odr_malloc (o, sizeof(*zapt));
228     term_octet = (Odr_oct *)odr_malloc (o, sizeof(*term_octet));
229     term = (Z_Term *)odr_malloc (o, sizeof(*term));
230
231     if (!num_attr)
232         elements = (Z_AttributeElement**)odr_nullval();
233     else
234     {
235         int i, k = 0;
236         int *attr_tmp;
237
238         elements = (Z_AttributeElement**)
239             odr_malloc (o, num_attr * sizeof(*elements));
240
241         attr_tmp = (int *)odr_malloc (o, num_attr * 2 * sizeof(int));
242         memcpy (attr_tmp, attr_list, num_attr * 2 * sizeof(int));
243         for (i = num_attr; --i >= 0; )
244         {
245             int j;
246             for (j = i+1; j<num_attr; j++)
247                 if (attr_tmp[2*j] == attr_tmp[2*i])
248                     break;
249             if (j < num_attr)
250                 continue;
251             elements[k] =
252                 (Z_AttributeElement*)odr_malloc (o,sizeof(**elements));
253             elements[k]->attributeType = &attr_tmp[2*i];
254             elements[k]->attributeSet =
255                 yaz_oidval_to_z3950oid(o, CLASS_ATTSET, attr_set[i]);
256             if (attr_clist[i])
257             {
258                 elements[k]->which = Z_AttributeValue_complex;
259                 elements[k]->value.complex = (Z_ComplexAttribute *)
260                     odr_malloc (o, sizeof(Z_ComplexAttribute));
261                 elements[k]->value.complex->num_list = 1;
262                 elements[k]->value.complex->list =
263                     (Z_StringOrNumeric **)
264                     odr_malloc (o, 1 * sizeof(Z_StringOrNumeric *));
265                 elements[k]->value.complex->list[0] =
266                     (Z_StringOrNumeric *)
267                     odr_malloc (o, sizeof(Z_StringOrNumeric));
268                 elements[k]->value.complex->list[0]->which =
269                     Z_StringOrNumeric_string;
270                 elements[k]->value.complex->list[0]->u.string =
271                     attr_clist[i];
272                 elements[k]->value.complex->semanticAction = (int **)
273                     odr_nullval();
274                 elements[k]->value.complex->num_semanticAction = 0;
275             }
276             else
277             {
278                 elements[k]->which = Z_AttributeValue_numeric;
279                 elements[k]->value.numeric = &attr_tmp[2*i+1];
280             }
281             k++;
282         }
283         num_attr = k;
284     }
285     zapt->attributes = (Z_AttributeList *)
286         odr_malloc (o, sizeof(*zapt->attributes));
287     zapt->attributes->num_attributes = num_attr;
288     zapt->attributes->attributes = elements;
289
290     zapt->term = term;
291     term->which = Z_Term_general;
292     term->u.general = term_octet;
293     term_octet->buf = (unsigned char *)odr_malloc (o, li->lex_len);
294     term_octet->size = term_octet->len =
295         escape_string ((char *) (term_octet->buf), li->lex_buf, li->lex_len);
296     return zapt;
297 }
298
299 static Z_Operand *rpn_simple (struct lex_info *li, ODR o, oid_proto proto,
300                               int num_attr, int *attr_list, char **attr_clist,
301                               oid_value *attr_set)
302 {
303     Z_Operand *zo;
304
305     zo = (Z_Operand *)odr_malloc (o, sizeof(*zo));
306     switch (li->query_look)
307     {
308     case 't':
309         zo->which = Z_Operand_APT;
310         if (!(zo->u.attributesPlusTerm =
311               rpn_term (li, o, proto, num_attr, attr_list, attr_clist,
312                         attr_set)))
313             return NULL;
314         lex (li);
315         break;
316     case 's':
317         lex (li);
318         if (!li->query_look)
319             return NULL;
320         zo->which = Z_Operand_resultSetId;
321         zo->u.resultSetId = (char *)odr_malloc (o, li->lex_len+1);
322         memcpy (zo->u.resultSetId, li->lex_buf, li->lex_len);
323         zo->u.resultSetId[li->lex_len] = '\0';
324         lex (li);
325         break;
326     default:
327         return NULL;
328     }
329     return zo;
330 }
331
332 static Z_ProximityOperator *rpn_proximity (struct lex_info *li, ODR o)
333 {
334     Z_ProximityOperator *p = (Z_ProximityOperator *)odr_malloc (o, sizeof(*p));
335
336     if (!lex (li))
337         return NULL;
338     if (*li->lex_buf == '1')
339     {
340         p->exclusion = (int *)odr_malloc (o, sizeof(*p->exclusion));
341         *p->exclusion = 1;
342     } 
343     else if (*li->lex_buf == '0')
344     {
345         p->exclusion = (int *)odr_malloc (o, sizeof(*p->exclusion));
346         *p->exclusion = 0;
347     }
348     else
349         p->exclusion = NULL;
350
351     if (!lex (li))
352         return NULL;
353     p->distance = (int *)odr_malloc (o, sizeof(*p->distance));
354     *p->distance = atoi (li->lex_buf);
355
356     if (!lex (li))
357         return NULL;
358     p->ordered = (int *)odr_malloc (o, sizeof(*p->ordered));
359     *p->ordered = atoi (li->lex_buf);
360     
361     if (!lex (li))
362         return NULL;
363     p->relationType = (int *)odr_malloc (o, sizeof(*p->relationType));
364     *p->relationType = atoi (li->lex_buf);
365
366     if (!lex (li))
367         return NULL;
368     if (*li->lex_buf == 'k')
369         p->which = 0;
370     else if (*li->lex_buf == 'p')
371         p->which = 1;
372     else
373         p->which = atoi (li->lex_buf);
374
375     if (!lex (li))
376         return NULL;
377     p->which = Z_ProximityOperator_known;
378     p->u.known = (int *)odr_malloc (o, sizeof(*p->u.known));
379     *p->u.known = atoi (li->lex_buf);
380     return p;
381 }
382
383 static Z_Complex *rpn_complex (struct lex_info *li, ODR o, oid_proto proto,
384                                int num_attr, int max_attr, 
385                                int *attr_list, char **attr_clist,
386                                oid_value *attr_set)
387 {
388     Z_Complex *zc;
389     Z_Operator *zo;
390
391     zc = (Z_Complex *)odr_malloc (o, sizeof(*zc));
392     zo = (Z_Operator *)odr_malloc (o, sizeof(*zo));
393     zc->roperator = zo;
394     switch (li->query_look)
395     {
396     case 'a':
397         zo->which = Z_Operator_and;
398         zo->u.and_not = odr_nullval();
399         break;
400     case 'o':
401         zo->which = Z_Operator_or;
402         zo->u.and_not = odr_nullval();
403         break;
404     case 'n':
405         zo->which = Z_Operator_and_not;
406         zo->u.and_not = odr_nullval();
407         break;
408     case 'p':
409         zo->which = Z_Operator_prox;
410         zo->u.prox = rpn_proximity (li, o);
411         if (!zo->u.prox)
412             return NULL;
413         break;
414     default:
415         return NULL;
416     }
417     lex (li);
418     if (!(zc->s1 =
419           rpn_structure (li, o, proto, num_attr, max_attr, attr_list,
420                          attr_clist, attr_set)))
421         return NULL;
422     if (!(zc->s2 =
423           rpn_structure (li, o, proto, num_attr, max_attr, attr_list,
424                          attr_clist, attr_set)))
425         return NULL;
426     return zc;
427 }
428
429 static Z_RPNStructure *rpn_structure (struct lex_info *li, ODR o,
430                                       oid_proto proto, 
431                                       int num_attr, int max_attr, 
432                                       int *attr_list,
433                                       char **attr_clist,
434                                       oid_value *attr_set)
435 {
436     Z_RPNStructure *sz;
437
438     sz = (Z_RPNStructure *)odr_malloc (o, sizeof(*sz));
439     switch (li->query_look)
440     {
441     case 'a':
442     case 'o':
443     case 'n':
444     case 'p':
445         sz->which = Z_RPNStructure_complex;
446         if (!(sz->u.complex =
447               rpn_complex (li, o, proto, num_attr, max_attr, attr_list,
448                            attr_clist, attr_set)))
449             return NULL;
450         break;
451     case 't':
452     case 's':
453         sz->which = Z_RPNStructure_simple;
454         if (!(sz->u.simple =
455               rpn_simple (li, o, proto, num_attr, attr_list,
456                           attr_clist, attr_set)))
457             return NULL;
458         break;
459     case 'l':
460         lex (li);
461         if (!li->query_look)
462             return NULL;
463         if (num_attr >= max_attr)
464             return NULL;
465         p_query_parse_attr(li, o, num_attr, attr_list, attr_clist, attr_set);
466         num_attr++;
467         lex (li);
468         return
469             rpn_structure (li, o, proto, num_attr, max_attr, attr_list,
470                            attr_clist,  attr_set);
471     case 'y':
472         lex (li);
473         if (!li->query_look)
474             return NULL;
475         if (compare_term (li, "general", 0))
476             li->term_type = Z_Term_general;
477         else if (compare_term (li, "numeric", 0))
478             li->term_type = Z_Term_numeric;
479         else if (compare_term (li, "string", 0))
480             li->term_type = Z_Term_characterString;
481         else if (compare_term (li, "oid", 0))
482             li->term_type = Z_Term_oid;
483         else if (compare_term (li, "datetime", 0))
484             li->term_type = Z_Term_dateTime;
485         else if (compare_term (li, "null", 0))
486             li->term_type = Z_Term_null;
487         lex (li);
488         return
489             rpn_structure (li, o, proto, num_attr, max_attr, attr_list,
490                            attr_clist, attr_set);
491     case 0:                /* operator/operand expected! */
492         return NULL;
493     }
494     return sz;
495 }
496
497 Z_RPNQuery *p_query_rpn_mk (ODR o, struct lex_info *li, oid_proto proto,
498                             const char *qbuf)
499 {
500     Z_RPNQuery *zq;
501     int attr_array[1024];
502     char *attr_clist[512];
503     oid_value attr_set[512];
504     oid_value topSet = VAL_NONE;
505
506     zq = (Z_RPNQuery *)odr_malloc (o, sizeof(*zq));
507     lex (li);
508     if (li->query_look == 'r')
509     {
510         lex (li);
511         topSet = query_oid_getvalbyname (li);
512         if (topSet == VAL_NONE)
513             return NULL;
514
515         lex (li);
516     }
517     if (topSet == VAL_NONE)
518         topSet = p_query_dfset;
519     if (topSet == VAL_NONE)
520         topSet = VAL_BIB1;
521
522     zq->attributeSetId = yaz_oidval_to_z3950oid(o, CLASS_ATTSET, topSet);
523
524     if (!zq->attributeSetId)
525         return 0;
526
527     if (!(zq->RPNStructure = rpn_structure (li, o, proto, 0, 512,
528                                             attr_array, attr_clist, attr_set)))
529         return NULL;
530     return zq;
531 }
532
533 Z_RPNQuery *p_query_rpn (ODR o, oid_proto proto,
534                          const char *qbuf)
535 {
536     struct lex_info li;
537     
538     li.left_sep = "{\"";
539     li.right_sep = "}\"";
540     li.escape_char = '@';
541     li.term_type = Z_Term_general;
542     li.query_buf = qbuf;
543     return p_query_rpn_mk (o, &li, proto, qbuf);
544 }
545
546
547 Z_AttributesPlusTerm *p_query_scan_mk (struct lex_info *li,
548                                        ODR o, oid_proto proto,
549                                        Odr_oid **attributeSetP,
550                                        const char *qbuf)
551 {
552     int attr_list[1024];
553     char *attr_clist[512];
554     oid_value attr_set[512];
555     int num_attr = 0;
556     int max_attr = 512;
557     oid_value topSet = VAL_NONE;
558
559     lex (li);
560     if (li->query_look == 'r')
561     {
562         lex (li);
563         topSet = query_oid_getvalbyname (li);
564
565         lex (li);
566     }
567     if (topSet == VAL_NONE)
568         topSet = p_query_dfset;
569     if (topSet == VAL_NONE)
570         topSet = VAL_BIB1;
571
572     *attributeSetP = yaz_oidval_to_z3950oid (o, CLASS_ATTSET, topSet);
573
574     while (li->query_look == 'l')
575     {
576         lex (li);
577         if (!li->query_look)
578             return NULL;
579         if (num_attr >= max_attr)
580             return NULL;
581         p_query_parse_attr(li, o, num_attr, attr_list, attr_clist, attr_set);
582         num_attr++;
583         lex (li);
584     }
585     if (!li->query_look)
586         return NULL;
587     return rpn_term (li, o, proto, num_attr, attr_list, attr_clist, attr_set);
588 }
589
590 Z_AttributesPlusTerm *p_query_scan (ODR o, oid_proto proto,
591                                     Odr_oid **attributeSetP,
592                                     const char *qbuf)
593 {
594     struct lex_info li;
595
596     li.left_sep = "{\"";
597     li.right_sep = "}\"";
598     li.escape_char = '@';
599     li.term_type = Z_Term_general;
600     li.query_buf = qbuf;
601
602     return p_query_scan_mk (&li, o, proto, attributeSetP, qbuf);
603 }
604
605 int p_query_attset (const char *arg)
606 {
607     p_query_dfset = oid_getvalbyname (arg);
608     return (p_query_dfset == VAL_NONE) ? -1 : 0;
609 }
610