2007.
[idzebra-moved-to-github.git] / index / safari.c
1 /* $Id: safari.c,v 1.5 2007-01-15 15:10:17 adam Exp $
2    Copyright (C) 1995-2007
3    Index Data ApS
4
5 This file is part of the Zebra server.
6
7 Zebra is free software; you can redistribute it and/or modify it under
8 the terms of the GNU General Public License as published by the Free
9 Software Foundation; either version 2, or (at your option) any later
10 version.
11
12 Zebra is distributed in the hope that it will be useful, but WITHOUT ANY
13 WARRANTY; without even the implied warranty of MERCHANTABILITY or
14 FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
15 for more details.
16
17 You should have received a copy of the GNU General Public License
18 along with this program; if not, write to the Free Software
19 Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
20
21 */
22
23
24 #include <stdio.h>
25 #include <assert.h>
26 #include <ctype.h>
27
28 #include <idzebra/util.h>
29 #include <idzebra/recctrl.h>
30
31 struct filter_info {
32     int segments;
33 };
34
35 static void *filter_init(Res res, RecType recType)
36 {
37     struct filter_info *tinfo = (struct filter_info *) xmalloc(sizeof(*tinfo));
38     tinfo->segments = 0;
39     return tinfo;
40 }
41
42 static void *filter_init2(Res res, RecType recType)
43 {
44     struct filter_info *tinfo = (struct filter_info *) xmalloc(sizeof(*tinfo));
45     tinfo->segments = 1;
46     return tinfo;
47 }
48
49 static ZEBRA_RES filter_config(void *clientData, Res res, const char *args)
50 {
51     return ZEBRA_OK;
52 }
53
54 static void filter_destroy(void *clientData)
55 {
56     struct filter_info *tinfo = clientData;
57     xfree (tinfo);
58 }
59
60 struct fi_info {
61     struct recExtractCtrl *p;
62     char *buf;
63     int offset;
64     int max;
65 };
66
67 static struct fi_info *fi_open(struct recExtractCtrl *p)
68 {
69     struct fi_info *fi = (struct fi_info *) xmalloc (sizeof(*fi));
70
71     fi->p = p;
72     fi->buf = (char *) xmalloc (4096);
73     fi->offset = 1;
74     fi->max = 1;
75     return fi;
76 }
77
78 static int fi_getchar(struct fi_info *fi, char *dst)
79 {
80     if (fi->offset >= fi->max)
81     {
82         if (fi->max <= 0)
83             return 0;
84         fi->max = fi->p->stream->readf(fi->p->stream, fi->buf, 4096);
85         fi->offset = 0;
86         if (fi->max <= 0)
87             return 0;
88     }
89     *dst = fi->buf[(fi->offset)++];
90     return 1;
91 }
92
93 static int fi_gets(struct fi_info *fi, char *dst, int max)
94 {
95     int l = 0;
96     while(1)
97     {
98         char dstbyte;
99         if (!fi_getchar(fi, &dstbyte))
100             return 0;
101         if (dstbyte == '\n')
102             break;
103         if (l < max)
104             dst[l++] = dstbyte;
105     }
106     dst[l] = '\0';
107     return 1;
108 }
109
110 static void fi_close (struct fi_info *fi)
111 {
112     xfree (fi->buf);
113     xfree (fi);
114 }
115
116 static int filter_extract(void *clientData, struct recExtractCtrl *p)
117 {
118     struct filter_info *tinfo = clientData;
119     char line[512];
120     RecWord recWord;
121     struct fi_info *fi = fi_open(p);
122
123 #if 0
124     yaz_log(YLOG_LOG, "filter_extract off=%ld",
125             (long) (*fi->p->tellf)(fi->p->fh));
126 #endif
127     (*p->init)(p, &recWord);
128
129     if (!fi_gets(fi, line, sizeof(line)-1))
130         return RECCTRL_EXTRACT_ERROR_GENERIC;
131     sscanf(line, "%255s", p->match_criteria);
132     
133     recWord.index_type = '0';
134     while (fi_gets(fi, line, sizeof(line)-1))
135     {
136         int nor = 0;
137         char field[40];
138         char *cp;
139 #if 0
140         yaz_log(YLOG_LOG, "safari line: %s", line);
141 #endif
142         if (tinfo->segments)
143         {
144             if (sscanf(line, ZINT_FORMAT " " ZINT_FORMAT " " ZINT_FORMAT 
145                        ZINT_FORMAT " %39s %n",
146                        &recWord.record_id, &recWord.section_id, 
147                        &recWord.segment,
148                        &recWord.seqno,
149                        field, &nor) < 5)
150             {
151                 yaz_log(YLOG_WARN, "Bad safari record line: %s", line);
152                 return RECCTRL_EXTRACT_ERROR_GENERIC;
153             }
154         }
155         else
156         {
157             if (sscanf(line, ZINT_FORMAT " " ZINT_FORMAT " " ZINT_FORMAT " %39s %n",
158                        &recWord.record_id, &recWord.section_id, &recWord.seqno,
159                        field, &nor) < 4)
160             {
161                 yaz_log(YLOG_WARN, "Bad safari record line: %s", line);
162                 return RECCTRL_EXTRACT_ERROR_GENERIC;
163             }
164         }
165         for (cp = line + nor; *cp == ' '; cp++)
166             ;
167         recWord.index_name = field;
168         recWord.term_buf = cp;
169         recWord.term_len = strlen(cp);
170         (*p->tokenAdd)(&recWord);
171     }
172     fi_close(fi);
173     return RECCTRL_EXTRACT_OK;
174 }
175
176 static int filter_retrieve (void *clientData, struct recRetrieveCtrl *p)
177 {
178     int r, filter_ptr = 0;
179     static char *filter_buf = NULL;
180     static int filter_size = 0;
181     int make_header = 1;
182     int make_body = 1;
183     const char *elementSetName = NULL;
184     int no_lines = 0;
185
186     if (p->comp && p->comp->which == Z_RecordComp_simple &&
187         p->comp->u.simple->which == Z_ElementSetNames_generic)
188         elementSetName = p->comp->u.simple->u.generic;
189
190     if (elementSetName)
191     {
192         /* don't make header for the R(aw) element set name */
193         if (!strcmp(elementSetName, "R"))
194         {
195             make_header = 0;
196             make_body = 1;
197         }
198         /* only make header for the H(eader) element set name */
199         else if (!strcmp(elementSetName, "H"))
200         {
201             make_header = 1;
202             make_body = 0;
203         }
204     }
205     while (1)
206     {
207         if (filter_ptr + 4096 >= filter_size)
208         {
209             char *nb;
210
211             filter_size = 2*filter_size + 8192;
212             nb = (char *) xmalloc (filter_size);
213             if (filter_buf)
214             {
215                 memcpy (nb, filter_buf, filter_ptr);
216                 xfree (filter_buf);
217             }
218             filter_buf = nb;
219         }
220         if (make_header && filter_ptr == 0)
221         {
222             if (p->score >= 0)
223             {
224                 sprintf (filter_buf, "Rank: %d\n", p->score);
225                 filter_ptr = strlen(filter_buf);
226             }
227             sprintf (filter_buf + filter_ptr, "Local Number: " ZINT_FORMAT "\n",
228                      p->localno);
229             filter_ptr = strlen(filter_buf);
230             if (p->fname)
231             {
232                 sprintf (filter_buf + filter_ptr, "Filename: %s\n", p->fname);
233                 filter_ptr = strlen(filter_buf);
234             }
235             strcpy(filter_buf+filter_ptr++, "\n");
236         }
237         if (!make_body)
238             break;
239         r = p->stream->readf(p->stream, filter_buf + filter_ptr, 4096);
240         if (r <= 0)
241             break;
242         filter_ptr += r;
243     }
244     filter_buf[filter_ptr] = '\0';
245     if (elementSetName)
246     {
247         if (!strcmp (elementSetName, "B"))
248             no_lines = 4;
249         if (!strcmp (elementSetName, "M"))
250             no_lines = 20;
251     }
252     if (no_lines)
253     {
254         char *p = filter_buf;
255         int i = 0;
256
257         while (++i <= no_lines && (p = strchr (p, '\n')))
258             p++;
259         if (p)
260         {
261             p[1] = '\0';
262             filter_ptr = p-filter_buf;
263         }
264     }
265     p->output_format = VAL_SUTRS;
266     p->rec_buf = filter_buf;
267     p->rec_len = filter_ptr; 
268     return 0;
269 }
270
271 static struct recType filter_type = {
272     0,
273     "safari",
274     filter_init,
275     filter_config,
276     filter_destroy,
277     filter_extract,
278     filter_retrieve
279 };
280
281 static struct recType filter_type2 = {
282     0,
283     "safari2",
284     filter_init2,
285     filter_config,
286     filter_destroy,
287     filter_extract,
288     filter_retrieve
289 };
290
291 RecType
292 #ifdef IDZEBRA_STATIC_SAFARI
293 idzebra_filter_safari
294 #else
295 idzebra_filter
296 #endif
297
298 [] = {
299     &filter_type,
300     &filter_type2,
301     0,
302 };
303 /*
304  * Local variables:
305  * c-basic-offset: 4
306  * indent-tabs-mode: nil
307  * End:
308  * vim: shiftwidth=4 tabstop=8 expandtab
309  */
310