Change check live connections check - show 'watch'.
[pazpar2-moved-to-github.git] / src / client.c
1 /* This file is part of Pazpar2.
2    Copyright (C) 2006-2010 Index Data
3
4 Pazpar2 is free software; you can redistribute it and/or modify it under
5 the terms of the GNU General Public License as published by the Free
6 Software Foundation; either version 2, or (at your option) any later
7 version.
8
9 Pazpar2 is distributed in the hope that it will be useful, but WITHOUT ANY
10 WARRANTY; without even the implied warranty of MERCHANTABILITY or
11 FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
12 for more details.
13
14 You should have received a copy of the GNU General Public License
15 along with this program; if not, write to the Free Software
16 Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
17
18 */
19
20 /** \file client.c
21     \brief Z39.50 client 
22 */
23
24 #if HAVE_CONFIG_H
25 #include <config.h>
26 #endif
27 #include <stdlib.h>
28 #include <stdio.h>
29 #include <string.h>
30 #if HAVE_SYS_TIME_H
31 #include <sys/time.h>
32 #endif
33 #if HAVE_UNISTD_H
34 #include <unistd.h>
35 #endif
36 #include <signal.h>
37 #include <assert.h>
38
39 #include <yaz/marcdisp.h>
40 #include <yaz/comstack.h>
41 #include <yaz/tcpip.h>
42 #include <yaz/proto.h>
43 #include <yaz/readconf.h>
44 #include <yaz/pquery.h>
45 #include <yaz/otherinfo.h>
46 #include <yaz/yaz-util.h>
47 #include <yaz/nmem.h>
48 #include <yaz/query-charset.h>
49 #include <yaz/querytowrbuf.h>
50 #include <yaz/oid_db.h>
51 #include <yaz/diagbib1.h>
52 #include <yaz/snprintf.h>
53 #include <yaz/rpn2cql.h>
54
55 #define USE_TIMING 0
56 #if USE_TIMING
57 #include <yaz/timing.h>
58 #endif
59
60 #include "ppmutex.h"
61 #include "session.h"
62 #include "parameters.h"
63 #include "client.h"
64 #include "connection.h"
65 #include "settings.h"
66 #include "relevance.h"
67 #include "incref.h"
68
69 /* client counting (1) , disable client counting (0) */
70 #if 1
71 static YAZ_MUTEX g_mutex = 0;
72 static int no_clients = 0;
73
74 static void client_use(int delta)
75 {
76     if (!g_mutex)
77         yaz_mutex_create(&g_mutex);
78     yaz_mutex_enter(g_mutex);
79     no_clients += delta;
80     yaz_mutex_leave(g_mutex);
81     yaz_log(YLOG_DEBUG, "%s clients=%d", delta > 0 ? "INC" : "DEC", no_clients);
82 }
83 #else
84 #define client_use(x)
85 #endif
86
87 /** \brief Represents client state for a connection to one search target */
88 struct client {
89     struct session_database *database;
90     struct connection *connection;
91     struct session *session;
92     char *pquery; // Current search
93     char *cqlquery; // used for SRU targets only
94     Odr_int hits;
95     int record_offset;
96     int maxrecs;
97     int startrecs;
98     int diagnostic;
99     enum client_state state;
100     struct show_raw *show_raw;
101     ZOOM_resultset resultset;
102     YAZ_MUTEX mutex;
103     int ref_count;
104 };
105
106 struct show_raw {
107     int active; // whether this request has been sent to the server
108     int position;
109     int binary;
110     char *syntax;
111     char *esn;
112     void (*error_handler)(void *data, const char *addinfo);
113     void (*record_handler)(void *data, const char *buf, size_t sz);
114     void *data;
115     struct show_raw *next;
116 };
117
118 static const char *client_states[] = {
119     "Client_Connecting",
120     "Client_Idle",
121     "Client_Working",
122     "Client_Error",
123     "Client_Failed",
124     "Client_Disconnected"
125 };
126
127 const char *client_get_state_str(struct client *cl)
128 {
129     return client_states[cl->state];
130 }
131
132 enum client_state client_get_state(struct client *cl)
133 {
134     return cl->state;
135 }
136
137 void client_set_state(struct client *cl, enum client_state st)
138 {
139     int was_active = 0;
140     if (client_is_active(cl))
141         was_active = 1;
142     cl->state = st;
143     /* If client is going from being active to inactive and all clients
144        are now idle we fire a watch for the session . The assumption is
145        that session is not mutex locked if client is already active */
146     if (was_active && !client_is_active(cl) && cl->session)
147     {
148         int no_active = session_active_clients(cl->session);
149         if (no_active == 0)
150             session_alert_watch(cl->session, SESSION_WATCH_SHOW);
151     }
152 }
153
154 static void client_show_raw_error(struct client *cl, const char *addinfo);
155
156 struct connection *client_get_connection(struct client *cl)
157 {
158     return cl->connection;
159 }
160
161 struct session_database *client_get_database(struct client *cl)
162 {
163     return cl->database;
164 }
165
166 struct session *client_get_session(struct client *cl)
167 {
168     return cl->session;
169 }
170
171 const char *client_get_pquery(struct client *cl)
172 {
173     return cl->pquery;
174 }
175
176 static void client_send_raw_present(struct client *cl);
177 static int nativesyntax_to_type(struct session_database *sdb, char *type,
178                                 ZOOM_record rec);
179
180 static void client_show_immediate(
181     ZOOM_resultset resultset, struct session_database *sdb, int position,
182     void *data,
183     void (*error_handler)(void *data, const char *addinfo),
184     void (*record_handler)(void *data, const char *buf, size_t sz),
185     int binary)
186 {
187     ZOOM_record rec = 0;
188     char type[80];
189     const char *buf;
190     int len;
191
192     if (!resultset)
193     {
194         error_handler(data, "no resultset");
195         return;
196     }
197     rec = ZOOM_resultset_record(resultset, position-1);
198     if (!rec)
199     {
200         error_handler(data, "no record");
201         return;
202     }
203     if (binary)
204         strcpy(type, "raw");
205     else
206         nativesyntax_to_type(sdb, type, rec);
207     buf = ZOOM_record_get(rec, type, &len);
208     if (!buf)
209     {
210         error_handler(data, "no record");
211         return;
212     }
213     record_handler(data, buf, len);
214 }
215
216
217 int client_show_raw_begin(struct client *cl, int position,
218                           const char *syntax, const char *esn,
219                           void *data,
220                           void (*error_handler)(void *data, const char *addinfo),
221                           void (*record_handler)(void *data, const char *buf,
222                                                  size_t sz),
223                           int binary)
224 {
225     if (syntax == 0 && esn == 0)
226         client_show_immediate(cl->resultset, client_get_database(cl),
227                               position, data,
228                               error_handler, record_handler,
229                               binary);
230     else
231     {
232         struct show_raw *rr, **rrp;
233
234         if (!cl->connection)
235             return -1;
236     
237
238         rr = xmalloc(sizeof(*rr));
239         rr->position = position;
240         rr->active = 0;
241         rr->data = data;
242         rr->error_handler = error_handler;
243         rr->record_handler = record_handler;
244         rr->binary = binary;
245         if (syntax)
246             rr->syntax = xstrdup(syntax);
247         else
248             rr->syntax = 0;
249         if (esn)
250             rr->esn = xstrdup(esn);
251         else
252             rr->esn = 0;
253         rr->next = 0;
254         
255         for (rrp = &cl->show_raw; *rrp; rrp = &(*rrp)->next)
256             ;
257         *rrp = rr;
258         
259         if (cl->state == Client_Failed)
260         {
261             client_show_raw_error(cl, "client failed");
262         }
263         else if (cl->state == Client_Disconnected)
264         {
265             client_show_raw_error(cl, "client disconnected");
266         }
267         else
268         {
269             client_send_raw_present(cl);
270         }
271     }
272     return 0;
273 }
274
275 static void client_show_raw_delete(struct show_raw *r)
276 {
277     xfree(r->syntax);
278     xfree(r->esn);
279     xfree(r);
280 }
281
282 void client_show_raw_remove(struct client *cl, void *data)
283 {
284     struct show_raw *rr = data;
285     struct show_raw **rrp = &cl->show_raw;
286     while (*rrp != rr)
287         rrp = &(*rrp)->next;
288     if (*rrp)
289     {
290         *rrp = rr->next;
291         client_show_raw_delete(rr);
292     }
293 }
294
295 void client_show_raw_dequeue(struct client *cl)
296 {
297     struct show_raw *rr = cl->show_raw;
298
299     cl->show_raw = rr->next;
300     client_show_raw_delete(rr);
301 }
302
303 static void client_show_raw_error(struct client *cl, const char *addinfo)
304 {
305     while (cl->show_raw)
306     {
307         cl->show_raw->error_handler(cl->show_raw->data, addinfo);
308         client_show_raw_dequeue(cl);
309     }
310 }
311
312 static void client_send_raw_present(struct client *cl)
313 {
314     struct session_database *sdb = client_get_database(cl);
315     struct connection *co = client_get_connection(cl);
316     ZOOM_resultset set = cl->resultset;
317
318     int offset = cl->show_raw->position;
319     const char *syntax = 0;
320     const char *elements = 0;
321
322     assert(cl->show_raw);
323     assert(set);
324
325     yaz_log(YLOG_DEBUG, "%s: trying to present %d record(s) from %d",
326             client_get_url(cl), 1, offset);
327
328     if (cl->show_raw->syntax)
329         syntax = cl->show_raw->syntax;
330     else
331         syntax = session_setting_oneval(sdb, PZ_REQUESTSYNTAX);
332     ZOOM_resultset_option_set(set, "preferredRecordSyntax", syntax);
333
334     if (cl->show_raw->esn)
335         elements = cl->show_raw->esn;
336     else
337         elements = session_setting_oneval(sdb, PZ_ELEMENTS);
338     if (elements && *elements)
339         ZOOM_resultset_option_set(set, "elementSetName", elements);
340
341     ZOOM_resultset_records(set, 0, offset-1, 1);
342     cl->show_raw->active = 1;
343
344     connection_continue(co);
345 }
346
347 static int nativesyntax_to_type(struct session_database *sdb, char *type,
348                                 ZOOM_record rec)
349 {
350     const char *s = session_setting_oneval(sdb, PZ_NATIVESYNTAX);
351
352     if (s && *s)
353     {
354         if (!strncmp(s, "iso2709", 7))
355         {
356             const char *cp = strchr(s, ';');
357             yaz_snprintf(type, 80, "xml; charset=%s", cp ? cp+1 : "marc-8s");
358         }
359         else if (!strncmp(s, "xml", 3))
360         {
361             strcpy(type, "xml");
362         }
363         else if (!strncmp(s, "txml", 4))
364         {
365             const char *cp = strchr(s, ';');
366             yaz_snprintf(type, 80, "txml; charset=%s", cp ? cp+1 : "marc-8s");
367         }
368         else
369             return -1;
370         return 0;
371     }
372     else  /* attempt to deduce structure */
373     {
374         const char *syntax = ZOOM_record_get(rec, "syntax", NULL);
375         if (syntax)
376         {
377             if (!strcmp(syntax, "XML"))
378             {
379                 strcpy(type, "xml");
380                 return 0;
381             }
382             else if (!strcmp(syntax, "TXML"))
383                 {
384                     strcpy(type, "txml");
385                     return 0;
386                 }
387             else if (!strcmp(syntax, "USmarc") || !strcmp(syntax, "MARC21"))
388             {
389                 strcpy(type, "xml; charset=marc8-s");
390                 return 0;
391             }
392             else return -1;
393         }
394         else return -1;
395     }
396 }
397
398 /**
399  * TODO Consider thread safety!!!
400  *
401  */
402 int client_report_facets(struct client *cl, ZOOM_resultset rs) {
403     int facet_idx;
404     ZOOM_facet_field *facets = ZOOM_resultset_facets(rs);
405     int facet_num;
406     struct session *se = client_get_session(cl);
407     facet_num = ZOOM_resultset_facets_size(rs);
408     yaz_log(YLOG_DEBUG, "client_report_facets: %d", facet_num);
409
410     for (facet_idx = 0; facet_idx < facet_num; facet_idx++) {
411         const char *name = ZOOM_facet_field_name(facets[facet_idx]);
412         size_t term_idx;
413         size_t term_num = ZOOM_facet_field_term_count(facets[facet_idx]);
414         for (term_idx = 0; term_idx < term_num; term_idx++ ) {
415             int freq;
416             const char *term = ZOOM_facet_field_get_term(facets[facet_idx], term_idx, &freq);
417             if (term)
418                 add_facet(se, name, term, freq);
419         }
420     }
421
422     return 0;
423 }
424
425 static void ingest_raw_record(struct client *cl, ZOOM_record rec)
426 {
427     const char *buf;
428     int len;
429     char type[80];
430
431     if (cl->show_raw->binary)
432         strcpy(type, "raw");
433     else
434     {
435         struct session_database *sdb = client_get_database(cl);
436         nativesyntax_to_type(sdb, type, rec);
437     }
438
439     buf = ZOOM_record_get(rec, type, &len);
440     cl->show_raw->record_handler(cl->show_raw->data,  buf, len);
441     client_show_raw_dequeue(cl);
442 }
443
444 void client_search_response(struct client *cl)
445 {
446     struct connection *co = cl->connection;
447     struct session *se = cl->session;
448     ZOOM_connection link = connection_get_link(co);
449     ZOOM_resultset resultset = cl->resultset;
450
451     const char *error, *addinfo = 0;
452     
453     if (ZOOM_connection_error(link, &error, &addinfo))
454     {
455         cl->hits = 0;
456         client_set_state(cl, Client_Error);
457         yaz_log(YLOG_WARN, "Search error %s (%s): %s",
458                 error, addinfo, client_get_url(cl));
459     }
460     else
461     {
462         client_report_facets(cl, resultset);
463         cl->record_offset = cl->startrecs;
464         cl->hits = ZOOM_resultset_size(resultset);
465         if (se)
466             se->total_hits += cl->hits;
467     }
468 }
469
470 void client_got_records(struct client *cl)
471 {
472     struct session *se = cl->session;
473     if (se)
474     {
475         client_unlock(cl);
476         session_alert_watch(se, SESSION_WATCH_SHOW);
477         session_alert_watch(se, SESSION_WATCH_RECORD);
478         client_lock(cl);
479     }
480 }
481
482 void client_record_response(struct client *cl)
483 {
484     struct connection *co = cl->connection;
485     ZOOM_connection link = connection_get_link(co);
486     ZOOM_resultset resultset = cl->resultset;
487     const char *error, *addinfo;
488
489     if (ZOOM_connection_error(link, &error, &addinfo))
490     {
491         client_set_state(cl, Client_Error);
492         yaz_log(YLOG_WARN, "Search error %s (%s): %s",
493             error, addinfo, client_get_url(cl));
494     }
495     else
496     {
497         ZOOM_record rec = 0;
498         const char *msg, *addinfo;
499         
500         if (cl->show_raw && cl->show_raw->active)
501         {
502             if ((rec = ZOOM_resultset_record(resultset,
503                                              cl->show_raw->position-1)))
504             {
505                 cl->show_raw->active = 0;
506                 ingest_raw_record(cl, rec);
507             }
508             else
509             {
510                 yaz_log(YLOG_WARN, "Expected record, but got NULL, offset=%d",
511                         cl->show_raw->position-1);
512             }
513         }
514         else
515         {
516             int offset = cl->record_offset;
517             if ((rec = ZOOM_resultset_record(resultset, offset)))
518             {
519                 cl->record_offset++;
520                 if (cl->session == 0)
521                     ;
522                 else if (ZOOM_record_error(rec, &msg, &addinfo, 0))
523                 {
524                     yaz_log(YLOG_WARN, "Record error %s (%s): %s (rec #%d)",
525                             msg, addinfo, client_get_url(cl),
526                             cl->record_offset);
527                 }
528                 else
529                 {
530                     struct session_database *sdb = client_get_database(cl);
531                     NMEM nmem = nmem_create();
532                     const char *xmlrec;
533                     char type[80];
534
535                     if (nativesyntax_to_type(sdb, type, rec))
536                         yaz_log(YLOG_WARN, "Failed to determine record type");
537                     xmlrec = ZOOM_record_get(rec, type, NULL);
538                     if (!xmlrec)
539                         yaz_log(YLOG_WARN, "ZOOM_record_get failed from %s",
540                                 client_get_url(cl));
541                     else
542                     {
543                         if (ingest_record(cl, xmlrec, cl->record_offset, nmem))
544                             yaz_log(YLOG_WARN, "Failed to ingest from %s",
545                                     client_get_url(cl));
546                     }
547                     nmem_destroy(nmem);
548                 }
549             }
550             else
551             {
552                 yaz_log(YLOG_WARN, "Expected record, but got NULL, offset=%d",
553                         offset);
554             }
555         }
556     }
557 }
558
559 static int client_set_facets_request(struct client *cl, ZOOM_connection link) {
560     int index = 0;
561     struct session_database *sdb = client_get_database(cl);
562     const char *opt_facet_term_sort  = session_setting_oneval(sdb, PZ_TERMLIST_TERM_SORT);
563     const char *opt_facet_term_count = session_setting_oneval(sdb, PZ_TERMLIST_TERM_COUNT);
564     struct session *session = client_get_session(cl);
565     struct conf_service *service = session->service;
566     int num = service->num_metadata;
567     WRBUF wrbuf = wrbuf_alloc();
568     int first = 1;
569     yaz_log(YLOG_DEBUG, "Facet settings, sort: %s count: %s", opt_facet_term_sort, opt_facet_term_count);
570     for (index = 0; index < num; index++) {
571         struct conf_metadata *conf_meta = &service->metadata[index];
572         if (conf_meta->termlist) {
573             if (first)
574                 first = 0;
575             else
576                 wrbuf_puts(wrbuf, ",");
577             wrbuf_printf(wrbuf, "@attr 1=%s ", conf_meta->name);
578
579             if (opt_facet_term_sort && opt_facet_term_sort[0] != '\0') {
580                 wrbuf_printf(wrbuf, " @attr 2=%s ", opt_facet_term_sort);
581             }
582             if (opt_facet_term_count && opt_facet_term_count[0] != '\0') {
583                 wrbuf_printf(wrbuf, " @attr 3=%s ", opt_facet_term_count);
584             }
585         }
586     }
587     if (wrbuf_len(wrbuf)) {
588         yaz_log(YLOG_LOG, "Setting ZOOM facets option: %s", wrbuf_cstr(wrbuf));
589         ZOOM_connection_option_set(link, "facets", wrbuf_cstr(wrbuf));
590         return 1;
591     }
592     return 0;
593 }
594
595 int client_has_facet(struct client *cl, const char *name) {
596     ZOOM_facet_field facet_field;
597     if (!cl || !cl->resultset || !name) {
598         yaz_log(YLOG_DEBUG, "client has facet: Missing %p %p %s", cl, (cl ? cl->resultset: 0), name);
599         return 0;
600     }
601     facet_field = ZOOM_resultset_get_facet_field(cl->resultset, name);
602     if (facet_field) {
603         yaz_log(YLOG_DEBUG, "client: has facets for %s", name);
604         return 1;
605     }
606     yaz_log(YLOG_DEBUG, "client: No facets for %s", name);
607     return 0;
608 }
609
610
611 void client_start_search(struct client *cl)
612 {
613     struct session_database *sdb = client_get_database(cl);
614     struct connection *co = client_get_connection(cl);
615     ZOOM_connection link = connection_get_link(co);
616     ZOOM_resultset rs;
617     char *databaseName = sdb->database->databases[0];
618     const char *opt_piggyback = session_setting_oneval(sdb, PZ_PIGGYBACK);
619     const char *opt_queryenc = session_setting_oneval(sdb, PZ_QUERYENCODING);
620     const char *opt_elements = session_setting_oneval(sdb, PZ_ELEMENTS);
621     const char *opt_requestsyn = session_setting_oneval(sdb, PZ_REQUESTSYNTAX);
622     const char *opt_maxrecs = session_setting_oneval(sdb, PZ_MAXRECS);
623     const char *opt_sru = session_setting_oneval(sdb, PZ_SRU);
624     const char *opt_sort = session_setting_oneval(sdb, PZ_SORT);
625     char maxrecs_str[24], startrecs_str[24];
626
627     assert(link);
628
629     cl->hits = -1;
630     cl->record_offset = 0;
631     cl->diagnostic = 0;
632     client_set_state(cl, Client_Working);
633
634     if (*opt_piggyback)
635         ZOOM_connection_option_set(link, "piggyback", opt_piggyback);
636     else
637         ZOOM_connection_option_set(link, "piggyback", "1");
638     if (*opt_queryenc)
639         ZOOM_connection_option_set(link, "rpnCharset", opt_queryenc);
640     if (*opt_sru && *opt_elements)
641         ZOOM_connection_option_set(link, "schema", opt_elements);
642     else if (*opt_elements)
643         ZOOM_connection_option_set(link, "elementSetName", opt_elements);
644     if (*opt_requestsyn)
645         ZOOM_connection_option_set(link, "preferredRecordSyntax", opt_requestsyn);
646
647     if (!*opt_maxrecs)
648     {
649         sprintf(maxrecs_str, "%d", cl->maxrecs);
650         opt_maxrecs = maxrecs_str;
651     }
652     ZOOM_connection_option_set(link, "count", opt_maxrecs);
653
654
655     if (atoi(opt_maxrecs) > 20)
656         ZOOM_connection_option_set(link, "presentChunk", "20");
657     else
658         ZOOM_connection_option_set(link, "presentChunk", opt_maxrecs);
659
660     sprintf(startrecs_str, "%d", cl->startrecs);
661     ZOOM_connection_option_set(link, "start", startrecs_str);
662
663     if (databaseName)
664         ZOOM_connection_option_set(link, "databaseName", databaseName);
665
666     if (cl->cqlquery)
667     {
668         ZOOM_query q = ZOOM_query_create();
669         yaz_log(YLOG_LOG, "Search %s CQL: %s", sdb->database->url, cl->cqlquery);
670         ZOOM_query_cql(q, cl->cqlquery);
671         if (*opt_sort)
672             ZOOM_query_sortby(q, opt_sort);
673         rs = ZOOM_connection_search(link, q);
674         ZOOM_query_destroy(q);
675     }
676     else
677     {
678         client_set_facets_request(cl, link);
679         yaz_log(YLOG_LOG, "Search %s PQF: %s", sdb->database->url, cl->pquery);
680         rs = ZOOM_connection_search_pqf(link, cl->pquery);
681     }
682     ZOOM_resultset_destroy(cl->resultset);
683     cl->resultset = rs;
684     connection_continue(co);
685 }
686
687 struct client *client_create(void)
688 {
689     struct client *r = xmalloc(sizeof(*r));
690     r->maxrecs = 100;
691     r->startrecs = 0;
692     r->pquery = 0;
693     r->cqlquery = 0;
694     r->database = 0;
695     r->connection = 0;
696     r->session = 0;
697     r->hits = 0;
698     r->record_offset = 0;
699     r->diagnostic = 0;
700     r->state = Client_Disconnected;
701     r->show_raw = 0;
702     r->resultset = 0;
703     r->mutex = 0;
704     pazpar2_mutex_create(&r->mutex, "client");
705
706     r->ref_count = 1;
707     client_use(1);
708     
709     return r;
710 }
711
712 void client_lock(struct client *c)
713 {
714     yaz_mutex_enter(c->mutex);
715 }
716
717 void client_unlock(struct client *c)
718 {
719     yaz_mutex_leave(c->mutex);
720 }
721
722 void client_incref(struct client *c)
723 {
724     pazpar2_incref(&c->ref_count, c->mutex);
725     yaz_log(YLOG_DEBUG, "client_incref c=%p %s cnt=%d",
726             c, client_get_url(c), c->ref_count);
727 }
728
729 int client_destroy(struct client *c)
730 {
731     if (c)
732     {
733         yaz_log(YLOG_DEBUG, "client_destroy c=%p %s cnt=%d",
734                 c, client_get_url(c), c->ref_count);
735         if (!pazpar2_decref(&c->ref_count, c->mutex))
736         {
737             xfree(c->pquery);
738             c->pquery = 0;
739             xfree(c->cqlquery);
740             c->cqlquery = 0;
741             assert(!c->connection);
742
743             if (c->resultset)
744             {
745                 ZOOM_resultset_destroy(c->resultset);
746             }
747             yaz_mutex_destroy(&c->mutex);
748             xfree(c);
749             client_use(-1);
750             return 1;
751         }
752     }
753     return 0;
754 }
755
756 void client_set_connection(struct client *cl, struct connection *con)
757 {
758     if (cl->resultset)
759         ZOOM_resultset_release(cl->resultset);
760     if (con)
761     {
762         assert(cl->connection == 0);
763         cl->connection = con;
764         client_incref(cl);
765     }
766     else
767     {
768         cl->connection = con;
769         client_destroy(cl);
770     }
771 }
772
773 void client_disconnect(struct client *cl)
774 {
775     if (cl->state != Client_Idle)
776         client_set_state(cl, Client_Disconnected);
777     client_set_connection(cl, 0);
778 }
779
780 // Extract terms from query into null-terminated termlist
781 static void extract_terms(NMEM nmem, struct ccl_rpn_node *query, char **termlist)
782 {
783     int num = 0;
784
785     pull_terms(nmem, query, termlist, &num);
786     termlist[num] = 0;
787 }
788
789 // Initialize CCL map for a target
790 static CCL_bibset prepare_cclmap(struct client *cl)
791 {
792     struct session_database *sdb = client_get_database(cl);
793     struct setting *s;
794     CCL_bibset res;
795
796     if (!sdb->settings)
797         return 0;
798     res = ccl_qual_mk();
799     for (s = sdb->settings[PZ_CCLMAP]; s; s = s->next)
800     {
801         char *p = strchr(s->name + 3, ':');
802         if (!p)
803         {
804             yaz_log(YLOG_WARN, "Malformed cclmap name: %s", s->name);
805             ccl_qual_rm(&res);
806             return 0;
807         }
808         p++;
809         ccl_qual_fitem(res, s->value, p);
810     }
811     return res;
812 }
813
814 // returns a xmalloced CQL query corresponding to the pquery in client
815 static char *make_cqlquery(struct client *cl)
816 {
817     cql_transform_t cqlt = cql_transform_create();
818     Z_RPNQuery *zquery;
819     char *r;
820     WRBUF wrb = wrbuf_alloc();
821     int status;
822     ODR odr_out = odr_createmem(ODR_ENCODE);
823
824     zquery = p_query_rpn(odr_out, cl->pquery);
825     yaz_log(YLOG_LOG, "PQF: %s", cl->pquery);
826     if ((status = cql_transform_rpn2cql_wrbuf(cqlt, wrb, zquery)))
827     {
828         yaz_log(YLOG_WARN, "Failed to generate CQL query, code=%d", status);
829         r = 0;
830     }
831     else
832     {
833         r = xstrdup(wrbuf_cstr(wrb));
834     }     
835     wrbuf_destroy(wrb);
836     odr_destroy(odr_out);
837     cql_transform_close(cqlt);
838     return r;
839 }
840
841 // Parse the query given the settings specific to this client
842 int client_parse_query(struct client *cl, const char *query)
843 {
844     struct session *se = client_get_session(cl);
845     struct session_database *sdb = client_get_database(cl);
846     struct ccl_rpn_node *cn;
847     int cerror, cpos;
848     CCL_bibset ccl_map = prepare_cclmap(cl);
849     const char *sru = session_setting_oneval(sdb, PZ_SRU);
850     const char *pqf_prefix = session_setting_oneval(sdb, PZ_PQF_PREFIX);
851     const char *pqf_strftime = session_setting_oneval(sdb, PZ_PQF_STRFTIME);
852
853     if (!ccl_map)
854         return -1;
855
856     cn = ccl_find_str(ccl_map, query, &cerror, &cpos);
857     ccl_qual_rm(&ccl_map);
858     if (!cn)
859     {
860         client_set_state(cl, Client_Error);
861         yaz_log(YLOG_WARN, "Failed to parse CCL query %s for %s",
862                 query,
863                 client_get_database(cl)->database->url);
864         return -1;
865     }
866     wrbuf_rewind(se->wrbuf);
867     if (*pqf_prefix)
868     {
869         wrbuf_puts(se->wrbuf, pqf_prefix);
870         wrbuf_puts(se->wrbuf, " ");
871     }
872     if (!pqf_strftime || !*pqf_strftime)
873         ccl_pquery(se->wrbuf, cn);
874     else
875     {
876         time_t cur_time = time(0);
877         struct tm *tm =  localtime(&cur_time);
878         char tmp_str[300];
879         const char *cp = tmp_str;
880
881         /* see man strftime(3) for things .. In particular %% gets converted
882          to %.. And That's our original query .. */
883         strftime(tmp_str, sizeof(tmp_str)-1, pqf_strftime, tm);
884         for (; *cp; cp++)
885         {
886             if (cp[0] == '%')
887                 ccl_pquery(se->wrbuf, cn);
888             else
889                 wrbuf_putc(se->wrbuf, cp[0]);
890         }
891     }
892     xfree(cl->pquery);
893     cl->pquery = xstrdup(wrbuf_cstr(se->wrbuf));
894
895     xfree(cl->cqlquery);
896     if (*sru)
897     {
898         if (!(cl->cqlquery = make_cqlquery(cl)))
899             return -1;
900     }
901     else
902         cl->cqlquery = 0;
903
904     /* TODO FIX Not thread safe */
905     if (!se->relevance)
906     {
907         // Initialize relevance structure with query terms
908         char *p[512];
909         extract_terms(se->nmem, cn, p);
910         se->relevance = relevance_create(
911             se->service->relevance_pct,
912             se->nmem, (const char **) p);
913     }
914
915     ccl_rpn_delete(cn);
916     return 0;
917 }
918
919 void client_set_session(struct client *cl, struct session *se)
920 {
921     cl->session = se;
922 }
923
924 int client_is_active(struct client *cl)
925 {
926     if (cl->connection && (cl->state == Client_Connecting ||
927                            cl->state == Client_Working))
928         return 1;
929     return 0;
930 }
931
932 Odr_int client_get_hits(struct client *cl)
933 {
934     return cl->hits;
935 }
936
937 int client_get_num_records(struct client *cl)
938 {
939     return cl->record_offset;
940 }
941
942 void client_set_diagnostic(struct client *cl, int diagnostic)
943 {
944     cl->diagnostic = diagnostic;
945 }
946
947 int client_get_diagnostic(struct client *cl)
948 {
949     return cl->diagnostic;
950 }
951
952 void client_set_database(struct client *cl, struct session_database *db)
953 {
954     cl->database = db;
955 }
956
957 struct host *client_get_host(struct client *cl)
958 {
959     return client_get_database(cl)->database->host;
960 }
961
962 const char *client_get_url(struct client *cl)
963 {
964     if (cl->database)
965         return client_get_database(cl)->database->url;
966     else
967         return "NOURL";
968 }
969
970 void client_set_maxrecs(struct client *cl, int v)
971 {
972     cl->maxrecs = v;
973 }
974
975 void client_set_startrecs(struct client *cl, int v)
976 {
977     cl->startrecs = v;
978 }
979
980 /*
981  * Local variables:
982  * c-basic-offset: 4
983  * c-file-style: "Stroustrup"
984  * indent-tabs-mode: nil
985  * End:
986  * vim: shiftwidth=4 tabstop=8 expandtab
987  */
988