Extend init resp to include server ID, bug #3231
[pazpar2-moved-to-github.git] / src / pazpar2_config.c
1 /* This file is part of Pazpar2.
2    Copyright (C) 2006-2010 Index Data
3
4 Pazpar2 is free software; you can redistribute it and/or modify it under
5 the terms of the GNU General Public License as published by the Free
6 Software Foundation; either version 2, or (at your option) any later
7 version.
8
9 Pazpar2 is distributed in the hope that it will be useful, but WITHOUT ANY
10 WARRANTY; without even the implied warranty of MERCHANTABILITY or
11 FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
12 for more details.
13
14 You should have received a copy of the GNU General Public License
15 along with this program; if not, write to the Free Software
16 Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
17
18 */
19
20 #if HAVE_CONFIG_H
21 #include <config.h>
22 #endif
23
24 #include <string.h>
25 #include <assert.h>
26
27 #include <libxml/parser.h>
28 #include <libxml/tree.h>
29
30 #include <yaz/yaz-util.h>
31 #include <yaz/nmem.h>
32 #include <yaz/snprintf.h>
33 #include <yaz/tpath.h>
34
35 #if HAVE_GLOB_H
36 #define USE_POSIX_GLOB 1
37 #else
38 #define USE_POSIX_GLOB 0
39 #endif
40
41
42 #if USE_POSIX_GLOB
43 #include <glob.h>
44 #endif
45 #include <sys/types.h>
46 #include <sys/stat.h>
47 #if HAVE_UNISTD_H
48 #include <unistd.h>
49 #endif
50 #include "pazpar2_config.h"
51 #include "settings.h"
52 #include "eventl.h"
53 #include "http.h"
54
55 struct conf_config
56 {
57     NMEM nmem; /* for conf_config and servers memory */
58     struct conf_server *servers;
59     WRBUF confdir;
60 };
61
62
63 static char *parse_settings(struct conf_config *config,
64                             NMEM nmem, xmlNode *node);
65
66 static struct conf_targetprofiles *parse_targetprofiles(NMEM nmem,
67                                                         xmlNode *node);
68
69 static void conf_metadata_assign(NMEM nmem, 
70                                  struct conf_metadata * metadata,
71                                  const char *name,
72                                  enum conf_metadata_type type,
73                                  enum conf_metadata_merge merge,
74                                  enum conf_setting_type setting,
75                                  int brief,
76                                  int termlist,
77                                  int rank,
78                                  int sortkey_offset,
79                                  enum conf_metadata_mergekey mt)
80 {
81     assert(nmem && metadata && name);
82     
83     metadata->name = nmem_strdup(nmem, name);
84
85     metadata->type = type;
86
87     // enforcing that type_year is always range_merge
88     if (metadata->type == Metadata_type_year)
89         metadata->merge = Metadata_merge_range;
90     else
91         metadata->merge = merge;    
92
93     metadata->setting = setting;
94     metadata->brief = brief;   
95     metadata->termlist = termlist;
96     metadata->rank = rank;    
97     metadata->sortkey_offset = sortkey_offset;
98     metadata->mergekey = mt;
99 }
100
101
102 static void conf_sortkey_assign(NMEM nmem, 
103                                 struct conf_sortkey * sortkey,
104                                 const char *name,
105                                 enum conf_sortkey_type type)
106 {
107     assert(nmem && sortkey && name);
108     
109     sortkey->name = nmem_strdup(nmem, name);
110     sortkey->type = type;
111 }
112
113
114 static struct conf_service *service_init(struct conf_server *server,
115                                          int num_metadata, int num_sortkeys,
116                                          const char *service_id)
117 {
118     struct conf_service * service = 0;
119     NMEM nmem = nmem_create();
120
121     service = nmem_malloc(nmem, sizeof(struct conf_service));
122     service->ref_count = 1;
123     service->nmem = nmem;
124     service->next = 0;
125     service->settings = 0;
126     service->databases = 0;
127     service->targetprofiles = 0;
128     service->server = server;
129     service->session_timeout = 60; /* default session timeout */
130     service->z3950_session_timeout = 180;
131     service->z3950_operation_timeout = 30;
132
133     service->relevance_pct = 0;
134     service->sort_pct = 0;
135     service->mergekey_pct = 0;
136
137     service->id = service_id ? nmem_strdup(nmem, service_id) : 0;
138     service->num_metadata = num_metadata;
139     service->metadata = 0;
140     if (service->num_metadata)
141       service->metadata 
142           = nmem_malloc(nmem, 
143                         sizeof(struct conf_metadata) * service->num_metadata);
144     service->num_sortkeys = num_sortkeys;
145     service->sortkeys = 0;
146     if (service->num_sortkeys)
147         service->sortkeys 
148             = nmem_malloc(nmem, 
149                           sizeof(struct conf_sortkey) * service->num_sortkeys);
150     service->dictionary = 0;
151     return service; 
152 }
153
154 static struct conf_metadata* conf_service_add_metadata(
155     struct conf_service *service,
156     int field_id,
157     const char *name,
158     enum conf_metadata_type type,
159     enum conf_metadata_merge merge,
160     enum conf_setting_type setting,
161     int brief,
162     int termlist,
163     int rank,
164     int sortkey_offset,
165     enum conf_metadata_mergekey mt)
166 {
167     struct conf_metadata * md = 0;
168
169     if (!service || !service->metadata || !service->num_metadata
170         || field_id < 0  || !(field_id < service->num_metadata))
171         return 0;
172
173     md = service->metadata + field_id;
174     conf_metadata_assign(service->nmem, md, name, type, merge, setting,
175                          brief, termlist, rank, sortkey_offset,
176                          mt);
177     return md;
178 }
179
180
181 static struct conf_sortkey * conf_service_add_sortkey(
182     struct conf_service *service,
183     int field_id,
184     const char *name,
185     enum conf_sortkey_type type)
186 {
187     struct conf_sortkey * sk = 0;
188
189     if (!service || !service->sortkeys || !service->num_sortkeys
190         || field_id < 0  || !(field_id < service->num_sortkeys))
191         return 0;
192
193     //sk = &((service->sortkeys)[field_id]);
194     sk = service->sortkeys + field_id;
195     conf_sortkey_assign(service->nmem, sk, name, type);
196
197     return sk;
198 }
199
200
201 int conf_service_metadata_field_id(struct conf_service *service,
202                                    const char * name)
203 {
204     int i = 0;
205
206     if (!service || !service->metadata || !service->num_metadata)
207         return -1;
208
209     for(i = 0; i < service->num_metadata; i++) {
210         if (!strcmp(name, (service->metadata[i]).name))
211             return i;
212     }
213    
214     return -1;
215 }
216
217
218 int conf_service_sortkey_field_id(struct conf_service *service,
219                                   const char * name)
220 {
221     int i = 0;
222
223     if (!service || !service->sortkeys || !service->num_sortkeys)
224         return -1;
225
226     for(i = 0; i < service->num_sortkeys; i++) {
227         if (!strcmp(name, (service->sortkeys[i]).name))
228             return i;
229     }
230    
231     return -1;
232 }
233
234 static void conf_dir_path(struct conf_config *config, WRBUF w, const char *src)
235 {
236     if (config->confdir && wrbuf_len(config->confdir) > 0 &&
237         !yaz_is_abspath(src))
238     {
239         wrbuf_printf(w, "%s/%s", wrbuf_cstr(config->confdir), src);
240     }
241     else
242         wrbuf_puts(w, src);
243 }
244
245 void service_destroy(struct conf_service *service)
246 {
247     if (service)
248     {
249         assert(service->ref_count > 0);
250         service->ref_count--;
251         if (service->ref_count == 0)
252         {
253             pp2_charset_destroy(service->relevance_pct);
254             pp2_charset_destroy(service->sort_pct);
255             pp2_charset_destroy(service->mergekey_pct);
256             nmem_destroy(service->nmem);
257         }
258     }
259 }
260
261 void service_incref(struct conf_service *service)
262 {
263     service->ref_count++;
264 }
265
266 static int parse_metadata(struct conf_service *service, xmlNode *n,
267                           int *md_node, int *sk_node)
268 {
269     xmlChar *xml_name = xmlGetProp(n, (xmlChar *) "name");
270     xmlChar *xml_brief = xmlGetProp(n, (xmlChar *) "brief");
271     xmlChar *xml_sortkey = xmlGetProp(n, (xmlChar *) "sortkey");
272     xmlChar *xml_merge = xmlGetProp(n, (xmlChar *) "merge");
273     xmlChar *xml_type = xmlGetProp(n, (xmlChar *) "type");
274     xmlChar *xml_termlist = xmlGetProp(n, (xmlChar *) "termlist");
275     xmlChar *xml_rank = xmlGetProp(n, (xmlChar *) "rank");
276     xmlChar *xml_setting = xmlGetProp(n, (xmlChar *) "setting");
277     xmlChar *xml_mergekey = xmlGetProp(n, (xmlChar *) "mergekey");
278     
279     enum conf_metadata_type type = Metadata_type_generic;
280     enum conf_metadata_merge merge = Metadata_merge_no;
281     enum conf_setting_type setting = Metadata_setting_no;
282     enum conf_sortkey_type sk_type = Metadata_sortkey_relevance;
283     enum conf_metadata_mergekey mergekey_type = Metadata_mergekey_no;
284     int brief = 0;
285     int termlist = 0;
286     int rank = 0;
287     int sortkey_offset = 0;
288     
289     // now do the parsing logic
290     if (!xml_name)
291     {
292         yaz_log(YLOG_FATAL, "Must specify name in metadata element");
293         return -1;
294     }
295     if (xml_brief)
296     {
297         if (!strcmp((const char *) xml_brief, "yes"))
298             brief = 1;
299         else if (strcmp((const char *) xml_brief, "no"))
300         {
301             yaz_log(YLOG_FATAL, "metadata/brief must be yes or no");
302             return -1;
303         }
304     }
305     else
306         brief = 0;
307     
308     if (xml_termlist)
309     {
310         if (!strcmp((const char *) xml_termlist, "yes"))
311             termlist = 1;
312         else if (strcmp((const char *) xml_termlist, "no"))
313         {
314             yaz_log(YLOG_FATAL, "metadata/termlist must be yes or no");
315             return -1;
316         }
317     }
318     else
319         termlist = 0;
320     
321     if (xml_rank)
322         rank = atoi((const char *) xml_rank);
323     else
324         rank = 0;
325     
326     if (xml_type)
327     {
328         if (!strcmp((const char *) xml_type, "generic"))
329             type = Metadata_type_generic;
330         else if (!strcmp((const char *) xml_type, "year"))
331             type = Metadata_type_year;
332         else if (!strcmp((const char *) xml_type, "date"))
333             type = Metadata_type_date;
334         else
335         {
336             yaz_log(YLOG_FATAL, 
337                     "Unknown value for metadata/type: %s", xml_type);
338             return -1;
339         }
340     }
341     else
342         type = Metadata_type_generic;
343     
344     if (xml_merge)
345     {
346         if (!strcmp((const char *) xml_merge, "no"))
347             merge = Metadata_merge_no;
348         else if (!strcmp((const char *) xml_merge, "unique"))
349             merge = Metadata_merge_unique;
350         else if (!strcmp((const char *) xml_merge, "longest"))
351             merge = Metadata_merge_longest;
352         else if (!strcmp((const char *) xml_merge, "range"))
353             merge = Metadata_merge_range;
354         else if (!strcmp((const char *) xml_merge, "all"))
355             merge = Metadata_merge_all;
356         else
357         {
358             yaz_log(YLOG_FATAL, 
359                     "Unknown value for metadata/merge: %s", xml_merge);
360             return -1;
361         }
362     }
363     else
364         merge = Metadata_merge_no;
365     
366     if (xml_setting)
367     {
368         if (!strcmp((const char *) xml_setting, "no"))
369             setting = Metadata_setting_no;
370         else if (!strcmp((const char *) xml_setting, "postproc"))
371             setting = Metadata_setting_postproc;
372         else if (!strcmp((const char *) xml_setting, "parameter"))
373             setting = Metadata_setting_parameter;
374         else
375         {
376             yaz_log(YLOG_FATAL,
377                     "Unknown value for medadata/setting: %s", xml_setting);
378             return -1;
379         }
380     }
381     
382     // add a sortkey if so specified
383     if (xml_sortkey && strcmp((const char *) xml_sortkey, "no"))
384     {
385         if (merge == Metadata_merge_no)
386         {
387             yaz_log(YLOG_FATAL, 
388                     "Can't specify sortkey on a non-merged field");
389             return -1;
390         }
391         if (!strcmp((const char *) xml_sortkey, "numeric"))
392             sk_type = Metadata_sortkey_numeric;
393         else if (!strcmp((const char *) xml_sortkey, "skiparticle"))
394             sk_type = Metadata_sortkey_skiparticle;
395         else
396         {
397             yaz_log(YLOG_FATAL,
398                     "Unknown sortkey in metadata element: %s", 
399                     xml_sortkey);
400             return -1;
401         }
402         sortkey_offset = *sk_node;
403         
404         conf_service_add_sortkey(service, *sk_node,
405                                  (const char *) xml_name, sk_type);
406         
407         (*sk_node)++;
408     }
409     else
410         sortkey_offset = -1;
411     
412     if (xml_mergekey)
413     {
414         if (!strcmp((const char *) xml_mergekey, "required"))
415             mergekey_type = Metadata_mergekey_required;
416         else if (!strcmp((const char *) xml_mergekey, "optional"))
417             mergekey_type = Metadata_mergekey_optional;
418         else if (!strcmp((const char *) xml_mergekey, "no"))
419             mergekey_type = Metadata_mergekey_no;
420         else
421         {
422             yaz_log(YLOG_FATAL, "Unknown value for mergekey: %s", xml_mergekey);
423             return -1;
424         }
425     }
426     
427     
428     // metadata known, assign values
429     conf_service_add_metadata(service, *md_node,
430                               (const char *) xml_name,
431                               type, merge, setting,
432                               brief, termlist, rank, sortkey_offset,
433                               mergekey_type);
434     
435     xmlFree(xml_name);
436     xmlFree(xml_brief);
437     xmlFree(xml_sortkey);
438     xmlFree(xml_merge);
439     xmlFree(xml_type);
440     xmlFree(xml_termlist);
441     xmlFree(xml_rank);
442     xmlFree(xml_setting);
443     xmlFree(xml_mergekey);
444     (*md_node)++;
445     return 0;
446 }
447
448 static struct conf_service *service_create_static(struct conf_server *server,
449                                                   xmlNode *node,
450                                                   const char *service_id)
451 {
452     xmlNode *n;
453     int md_node = 0;
454     int sk_node = 0;
455
456     struct conf_service *service = 0;
457     int num_metadata = 0;
458     int num_sortkeys = 0;
459     int got_settings = 0;
460     
461     // count num_metadata and num_sortkeys
462     for (n = node->children; n; n = n->next)
463         if (n->type == XML_ELEMENT_NODE && !strcmp((const char *)
464                                                    n->name, "metadata"))
465         {
466             xmlChar *sortkey = xmlGetProp(n, (xmlChar *) "sortkey");
467             num_metadata++;
468             if (sortkey && strcmp((const char *) sortkey, "no"))
469                 num_sortkeys++;
470             xmlFree(sortkey);
471         }
472
473     service = service_init(server, num_metadata, num_sortkeys, service_id);
474
475     for (n = node->children; n; n = n->next)
476     {
477         if (n->type != XML_ELEMENT_NODE)
478             continue;
479         if (!strcmp((const char *) n->name, "timeout"))
480         {
481             xmlChar *src = xmlGetProp(n, (xmlChar *) "session");
482             if (src)
483             {
484                 service->session_timeout = atoi((const char *) src);
485                 xmlFree(src);
486                 if (service->session_timeout < 9)
487                 {
488                     yaz_log(YLOG_FATAL, "session timeout out of range");
489                     return 0;
490                 }
491             }
492             src = xmlGetProp(n, (xmlChar *) "z3950_operation");
493             if (src)
494             {
495                 service->z3950_operation_timeout = atoi((const char *) src);
496                 xmlFree(src);
497                 if (service->z3950_session_timeout < 9)
498                 {
499                     yaz_log(YLOG_FATAL, "Z39.50 operation timeout out of range");
500                     return 0;
501                 }
502             }
503             src = xmlGetProp(n, (xmlChar *) "z3950_session");
504             if (src)
505             {
506                 service->z3950_session_timeout = atoi((const char *) src);
507                 xmlFree(src);
508                 if (service->z3950_session_timeout < 9)
509                 {
510                     yaz_log(YLOG_FATAL, "Z39.50 session timeout out of range");
511                     return 0;
512                 }
513             }
514         }
515         else if (!strcmp((const char *) n->name, "settings"))
516             got_settings++;
517         else if (!strcmp((const char *) n->name, (const char *) "targetprofiles"))
518         {
519             if (service->targetprofiles)
520             {
521                 yaz_log(YLOG_FATAL, "Can't repeat targetprofiles");
522                 return 0;
523             }
524             if (!(service->targetprofiles = 
525                   parse_targetprofiles(service->nmem, n)))
526                 return 0;
527         }
528         else if (!strcmp((const char *) n->name, "relevance"))
529         {
530             if (service->relevance_pct)
531             {
532                 yaz_log(YLOG_LOG, "relevance may not repeat in service");
533                 return 0;
534             }
535             else
536             {
537                 service->relevance_pct = pp2_charset_create_xml(n);
538                 if (!service->relevance_pct)
539                     return 0;
540             }
541         }
542         else if (!strcmp((const char *) n->name, "sort"))
543         {
544             if (service->sort_pct)
545             {
546                 yaz_log(YLOG_LOG, "sort may not repeat in service");
547                 return 0;
548             }
549             else
550             {
551                 service->sort_pct = pp2_charset_create_xml(n);
552                 if (!service->sort_pct)
553                     return 0;
554             }
555         }
556         else if (!strcmp((const char *) n->name, "mergekey"))
557         {
558             if (service->mergekey_pct)
559             {
560                 yaz_log(YLOG_LOG, "mergekey may not repeat in service");
561                 return 0;
562             }
563             else
564             {
565                 service->mergekey_pct = pp2_charset_create_xml(n);
566                 if (!service->mergekey_pct)
567                     return 0;
568             }
569         }
570         else if (!strcmp((const char *) n->name, (const char *) "metadata"))
571         {
572             if (parse_metadata(service, n, &md_node, &sk_node))
573                 return 0;
574         }
575         else
576         {
577             yaz_log(YLOG_FATAL, "Bad element: %s", n->name);
578             return 0;
579         }
580     }
581     if (got_settings)
582     {
583         int pass;
584         /* metadata has been read.. Consider now settings */
585         init_settings(service);
586         for (pass = 1; pass <= 2; pass++)
587         {
588             for (n = node->children; n; n = n->next)
589             {
590                 if (n->type != XML_ELEMENT_NODE)
591                     continue;
592                 if (!strcmp((const char *) n->name, "settings"))
593                 {
594                     xmlChar *src = xmlGetProp(n, (xmlChar *) "src");
595                     if (src)
596                     {
597                         WRBUF w = wrbuf_alloc();
598                         conf_dir_path(server->config, w, (const char *) src);
599                         settings_read_file(service, wrbuf_cstr(w), pass);
600                         wrbuf_destroy(w);
601                         xmlFree(src);
602                     }
603                     else
604                     {
605                         settings_read_node(service, n, pass);
606                     }
607                 }
608             }
609         }
610     }
611     return service;
612 }
613
614 static char *parse_settings(struct conf_config *config,
615                             NMEM nmem, xmlNode *node)
616 {
617     xmlChar *src = xmlGetProp(node, (xmlChar *) "src");
618     char *r;
619
620     if (src)
621     {
622         WRBUF w = wrbuf_alloc();
623         conf_dir_path(config, w, (const char *) src);
624         r = nmem_strdup(nmem, wrbuf_cstr(w));
625         wrbuf_destroy(w);
626     }
627     else
628     {
629         yaz_log(YLOG_FATAL, "Must specify src in targetprofile");
630         return 0;
631     }
632     xmlFree(src);
633     return r;
634 }
635
636 static void inherit_server_settings(struct conf_service *s)
637 {
638     struct conf_server *server = s->server;
639     if (!s->dictionary) /* service has no config settings ? */
640     {
641         if (server->server_settings)
642         {
643             /* inherit settings from server */
644             init_settings(s);
645             settings_read_file(s, server->server_settings, 1);
646             settings_read_file(s, server->server_settings, 2);
647         }
648         else
649         {
650             yaz_log(YLOG_WARN, "service '%s' has no settings",
651                     s->id ? s->id : "unnamed");
652             init_settings(s);
653         }
654     }
655     
656     /* use relevance/sort/mergekey from server if not defined
657        for this service.. */
658     if (!s->relevance_pct)
659     {
660         if (server->relevance_pct)
661         {
662             s->relevance_pct = server->relevance_pct;
663             pp2_charset_incref(s->relevance_pct);
664         }
665         else
666             s->relevance_pct = pp2_charset_create(0);
667     }
668     
669     if (!s->sort_pct)
670     {
671         if (server->sort_pct)
672         {
673             s->sort_pct = server->sort_pct;
674             pp2_charset_incref(s->sort_pct);
675         }
676         else
677             s->sort_pct = pp2_charset_create(0);
678     }
679     
680     if (!s->mergekey_pct)
681     {
682         if (server->mergekey_pct)
683         {
684             s->mergekey_pct = server->mergekey_pct;
685             pp2_charset_incref(s->mergekey_pct);
686         }
687         else
688             s->mergekey_pct = pp2_charset_create(0);
689     }
690 }
691
692 struct conf_service *service_create(struct conf_server *server,
693                                     xmlNode *node)
694 {
695     struct conf_service *service = service_create_static(server,
696                                                          node, 0);
697     if (service)
698     {
699         inherit_server_settings(service);
700         resolve_databases(service);
701     }
702     return service;
703 }
704
705 static struct conf_server *server_create(struct conf_config *config,
706                                          NMEM nmem, xmlNode *node)
707 {
708     xmlNode *n;
709     struct conf_server *server = nmem_malloc(nmem, sizeof(struct conf_server));
710
711     server->host = 0;
712     server->port = 0;
713     server->proxy_host = 0;
714     server->proxy_port = 0;
715     server->myurl = 0;
716     server->proxy_addr = 0;
717     server->service = 0;
718     server->config = config;
719     server->next = 0;
720     server->relevance_pct = 0;
721     server->sort_pct = 0;
722     server->mergekey_pct = 0;
723     server->server_settings = 0;
724
725     xmlChar *server_id = xmlGetProp(node, (xmlChar *) "id");
726     if (server_id)
727         server->server_id = nmem_strdup(nmem, (const char *)server_id);
728     else
729         server->server_id = 0;
730
731     for (n = node->children; n; n = n->next)
732     {
733         if (n->type != XML_ELEMENT_NODE)
734             continue;
735         if (!strcmp((const char *) n->name, "listen"))
736         {
737             xmlChar *port = xmlGetProp(n, (xmlChar *) "port");
738             xmlChar *host = xmlGetProp(n, (xmlChar *) "host");
739             if (port)
740                 server->port = atoi((const char *) port);
741             if (host)
742                 server->host = nmem_strdup(nmem, (const char *) host);
743             xmlFree(port);
744             xmlFree(host);
745         }
746         else if (!strcmp((const char *) n->name, "proxy"))
747         {
748             xmlChar *port = xmlGetProp(n, (xmlChar *) "port");
749             xmlChar *host = xmlGetProp(n, (xmlChar *) "host");
750             xmlChar *myurl = xmlGetProp(n, (xmlChar *) "myurl");
751             if (port)
752                 server->proxy_port = atoi((const char *) port);
753             if (host)
754                 server->proxy_host = nmem_strdup(nmem, (const char *) host);
755             if (myurl)
756                 server->myurl = nmem_strdup(nmem, (const char *) myurl);
757             xmlFree(port);
758             xmlFree(host);
759             xmlFree(myurl);
760         }
761         else if (!strcmp((const char *) n->name, "settings"))
762         {
763             if (server->server_settings)
764             {
765                 yaz_log(YLOG_FATAL, "Can't repeat 'settings'");
766                 return 0;
767             }
768             if (!(server->server_settings = parse_settings(config, nmem, n)))
769                 return 0;
770         }
771         else if (!strcmp((const char *) n->name, "relevance"))
772         {
773             server->relevance_pct = pp2_charset_create_xml(n);
774             if (!server->relevance_pct)
775                 return 0;
776         }
777         else if (!strcmp((const char *) n->name, "sort"))
778         {
779             server->sort_pct = pp2_charset_create_xml(n);
780             if (!server->sort_pct)
781                 return 0;
782         }
783         else if (!strcmp((const char *) n->name, "mergekey"))
784         {
785             server->mergekey_pct = pp2_charset_create_xml(n);
786             if (!server->mergekey_pct)
787                 return 0;
788         }
789         else if (!strcmp((const char *) n->name, "service"))
790         {
791             char *service_id = (char *)
792                 xmlGetProp(n, (xmlChar *) "id");
793
794             struct conf_service **sp = &server->service;
795             for (; *sp; sp = &(*sp)->next)
796                 if ((*sp)->id && service_id &&
797                     0 == strcmp((*sp)->id, service_id))
798                 {
799                     yaz_log(YLOG_FATAL, "Duplicate service: %s", service_id);
800                     break;
801                 }
802                 else if (!(*sp)->id && !service_id)
803                 {
804                     yaz_log(YLOG_FATAL, "Duplicate unnamed service");
805                     break;
806                 }
807
808             if (*sp)  /* service already exist */
809             {
810                 xmlFree(service_id);
811                 return 0;
812             }
813             else
814             {
815                 struct conf_service *s = service_create_static(server, n,
816                                                                service_id);
817                 xmlFree(service_id);
818                 if (!s)
819                     return 0;
820                 *sp = s;
821             }
822         }
823         else
824         {
825             yaz_log(YLOG_FATAL, "Bad element: %s", n->name);
826             return 0;
827         }
828     }
829     if (server->service)
830     {
831         struct conf_service *s;
832         for (s = server->service; s; s = s->next)
833             inherit_server_settings(s);
834     }
835     return server;
836 }
837
838 WRBUF conf_get_fname(struct conf_service *service, const char *fname)
839 {
840     struct conf_config *config = service->server->config;
841     WRBUF w = wrbuf_alloc();
842
843     conf_dir_path(config, w, fname);
844     return w;
845 }
846
847 static struct conf_targetprofiles *parse_targetprofiles(NMEM nmem,
848                                                         xmlNode *node)
849 {
850     struct conf_targetprofiles *r = nmem_malloc(nmem, sizeof(*r));
851     xmlChar *type = xmlGetProp(node, (xmlChar *) "type");
852     xmlChar *src = xmlGetProp(node, (xmlChar *) "src");
853
854     memset(r, 0, sizeof(*r));
855
856     if (type)
857     {
858         if (!strcmp((const char *) type, "local"))
859             r->type = Targetprofiles_local;
860         else
861         {
862             yaz_log(YLOG_FATAL, "Unknown targetprofile type");
863             return 0;
864         }
865     }
866     else
867     {
868         yaz_log(YLOG_FATAL, "Must specify type for targetprofile");
869         return 0;
870     }
871
872     if (src)
873         r->src = nmem_strdup(nmem, (const char *) src);
874     else
875     {
876         yaz_log(YLOG_FATAL, "Must specify src in targetprofile");
877         return 0;
878     }
879     xmlFree(type);
880     xmlFree(src);
881     return r;
882 }
883
884 struct conf_service *locate_service(struct conf_server *server,
885                                     const char *service_id)
886 {
887     struct conf_service *s = server->service;
888     for (; s; s = s->next)
889         if (s->id && service_id && 0 == strcmp(s->id, service_id))
890             return s;
891         else if (!s->id && !service_id)
892             return s;
893     return 0;
894 }
895
896
897 static int parse_config(struct conf_config *config, xmlNode *root)
898 {
899     xmlNode *n;
900
901     for (n = root->children; n; n = n->next)
902     {
903         if (n->type != XML_ELEMENT_NODE)
904             continue;
905         if (!strcmp((const char *) n->name, "server"))
906         {
907             struct conf_server *tmp = server_create(config, config->nmem, n);
908             if (!tmp)
909                 return -1;
910             tmp->next = config->servers;
911             config->servers = tmp;
912         }
913         else if (!strcmp((const char *) n->name, "targetprofiles"))
914         {
915             yaz_log(YLOG_FATAL, "targetprofiles unsupported here. Must be part of service");
916             return -1;
917
918         }
919         else
920         {
921             yaz_log(YLOG_FATAL, "Bad element: %s", n->name);
922             return -1;
923         }
924     }
925     return 0;
926 }
927
928 static int process_config_includes(struct conf_config *config, xmlNode *n);
929
930 static int config_include_one(struct conf_config *config, xmlNode **sib,
931     const char *path)
932 {
933     struct stat st;
934     if (stat(path, &st) < 0)
935     {
936         yaz_log(YLOG_FATAL|YLOG_ERRNO, "stat %s", path);
937         return -1;
938     }
939     else
940     {
941         if ((st.st_mode & S_IFMT) == S_IFREG)
942         {
943             xmlDoc *doc = xmlParseFile(path);
944             if (doc)
945             {
946                 xmlNodePtr t = xmlDocGetRootElement(doc);
947                 int ret = process_config_includes(config, t);
948                 *sib = xmlAddNextSibling(*sib, xmlCopyNode(t, 1));
949                 xmlFreeDoc(doc);
950                 if (ret)
951                     return -1;
952             }
953             else
954             {
955                 yaz_log(YLOG_FATAL, "Could not parse %s", path);
956                 return -1;
957             }
958         }
959     }
960     return 0;
961 }
962
963 static int config_include_src(struct conf_config *config, xmlNode **np,
964                               const char *src)
965 {
966     int ret = 0; /* return code. OK so far */
967     WRBUF w = wrbuf_alloc();
968     xmlNodePtr sib; /* our sibling that we append */
969     xmlNodePtr c; /* tmp node */
970
971     wrbuf_printf(w, " begin include src=\"%s\" ", src);
972
973     /* replace include element with a 'begin' comment */
974     sib = xmlNewComment((const xmlChar *) wrbuf_cstr(w));
975     xmlReplaceNode(*np, sib);
976
977     xmlFreeNode(*np);
978
979     wrbuf_rewind(w);
980     conf_dir_path(config, w, src);
981 #if USE_POSIX_GLOB
982     {
983         size_t i;
984         glob_t glob_res;
985         glob(wrbuf_cstr(w), 0 /* flags */, 0 /* errfunc */, &glob_res);
986         
987         for (i = 0; ret == 0 && i < glob_res.gl_pathc; i++)
988         {
989             const char *path = glob_res.gl_pathv[i];
990             ret = config_include_one(config, &sib, path);
991         }
992         globfree(&glob_res);
993     }
994 #else
995     ret = config_include_one(config, &sib, wrbuf_cstr(w));
996 #endif
997     wrbuf_rewind(w);
998     wrbuf_printf(w, " end include src=\"%s\" ", src);
999     c = xmlNewComment((const xmlChar *) wrbuf_cstr(w));
1000     sib = xmlAddNextSibling(sib, c);
1001     
1002     *np = sib;
1003     wrbuf_destroy(w);
1004     return ret;
1005 }
1006
1007 static int process_config_includes(struct conf_config *config, xmlNode *n)
1008 {
1009     for (; n; n = n->next)
1010     {
1011         if (n->type == XML_ELEMENT_NODE)
1012         {
1013             if (!strcmp((const char *) n->name, "include"))
1014             {
1015                 xmlChar *src = xmlGetProp(n, (xmlChar *) "src");
1016                 if (src)
1017                 {
1018                     int ret = config_include_src(config, &n,
1019                                                  (const char *) src);
1020                     xmlFree(src);
1021                     if (ret)
1022                         return ret;
1023                         
1024                 }
1025             }
1026             else
1027             {
1028                 if (process_config_includes(config, n->children))
1029                     return -1;
1030             }
1031         }
1032     }
1033     return 0;
1034 }
1035
1036 struct conf_config *config_create(const char *fname, int verbose)
1037 {
1038     xmlDoc *doc = xmlParseFile(fname);
1039     xmlNode *n;
1040     const char *p;
1041     int r;
1042     NMEM nmem = nmem_create();
1043     struct conf_config *config = nmem_malloc(nmem, sizeof(struct conf_config));
1044
1045     xmlSubstituteEntitiesDefault(1);
1046     xmlLoadExtDtdDefaultValue = 1;
1047     if (!doc)
1048     {
1049         yaz_log(YLOG_FATAL, "Failed to read %s", fname);
1050         nmem_destroy(nmem);
1051         return 0;
1052     }
1053
1054     config->nmem = nmem;
1055     config->servers = 0;
1056
1057     config->confdir = wrbuf_alloc();
1058     if ((p = strrchr(fname, 
1059 #ifdef WIN32
1060                      '\\'
1061 #else
1062                      '/'
1063 #endif
1064              )))
1065     {
1066         int len = p - fname;
1067         wrbuf_write(config->confdir, fname, len);
1068     }
1069     wrbuf_puts(config->confdir, "");
1070     
1071     n = xmlDocGetRootElement(doc);
1072     r = process_config_includes(config, n);
1073     if (r == 0) /* OK */
1074     {
1075         if (verbose)
1076         {
1077             yaz_log(YLOG_LOG, "Configuration %s after include processing",
1078                     fname);
1079 #if LIBXML_VERSION >= 20600
1080             xmlDocFormatDump(yaz_log_file(), doc, 0);
1081 #else
1082             xmlDocDump(yaz_log_file(), doc);
1083 #endif
1084         }
1085         r = parse_config(config, n);
1086     }
1087     xmlFreeDoc(doc);
1088
1089     if (r)
1090     {
1091         config_destroy(config);
1092         return 0;
1093     }
1094     return config;
1095 }
1096
1097 void server_destroy(struct conf_server *server)
1098 {
1099     struct conf_service *s = server->service;
1100     while (s)
1101     {
1102         struct conf_service *s_next = s->next;
1103         service_destroy(s);
1104         s = s_next;
1105     }
1106     pp2_charset_destroy(server->relevance_pct);
1107     pp2_charset_destroy(server->sort_pct);
1108     pp2_charset_destroy(server->mergekey_pct);
1109 }
1110
1111 void config_destroy(struct conf_config *config)
1112 {
1113     if (config)
1114     {
1115         struct conf_server *server = config->servers;
1116         while (server)
1117         {
1118             struct conf_server *s_next = server->next;
1119             server_destroy(server);
1120             server = s_next;
1121         }
1122         wrbuf_destroy(config->confdir);
1123         nmem_destroy(config->nmem);
1124     }
1125 }
1126
1127 void config_stop_listeners(struct conf_config *conf)
1128 {
1129     struct conf_server *ser;
1130     for (ser = conf->servers; ser; ser = ser->next)
1131         http_close_server(ser);
1132 }
1133
1134 void config_start_databases(struct conf_config *conf)
1135 {
1136     struct conf_server *ser;
1137     for (ser = conf->servers; ser; ser = ser->next)
1138     {
1139         struct conf_service *s = ser->service;
1140         for (;s ; s = s->next)
1141             resolve_databases(s);
1142     }
1143 }
1144
1145 int config_start_listeners(struct conf_config *conf,
1146                            const char *listener_override)
1147 {
1148     struct conf_server *ser;
1149     for (ser = conf->servers; ser; ser = ser->next)
1150     {
1151         WRBUF w = wrbuf_alloc();
1152         int r;
1153         if (listener_override)
1154         {
1155             wrbuf_puts(w, listener_override);
1156             listener_override = 0; /* only first server is overriden */
1157         }
1158         else
1159         {
1160             if (ser->host)
1161                 wrbuf_puts(w, ser->host);
1162             if (ser->port)
1163             {
1164                 if (wrbuf_len(w))
1165                     wrbuf_puts(w, ":");
1166                 wrbuf_printf(w, "%d", ser->port);
1167             }
1168         }
1169         r = http_init(wrbuf_cstr(w), ser);
1170         wrbuf_destroy(w);
1171         if (r)
1172             return -1;
1173
1174         w = wrbuf_alloc();
1175         if (ser->proxy_host || ser->proxy_port)
1176         {
1177             if (ser->proxy_host)
1178                 wrbuf_puts(w, ser->proxy_host);
1179             if (ser->proxy_port)
1180             {
1181                 if (wrbuf_len(w))
1182                     wrbuf_puts(w, ":");
1183                 wrbuf_printf(w, "%d", ser->proxy_port);
1184             }
1185         }
1186         if (wrbuf_len(w))
1187             http_set_proxyaddr(wrbuf_cstr(w), ser);
1188         wrbuf_destroy(w);
1189     }
1190     return 0;
1191 }
1192
1193 /*
1194  * Local variables:
1195  * c-basic-offset: 4
1196  * c-file-style: "Stroustrup"
1197  * indent-tabs-mode: nil
1198  * End:
1199  * vim: shiftwidth=4 tabstop=8 expandtab
1200  */
1201