Mergekey changes - order + required/optional.
[pazpar2-moved-to-github.git] / src / pazpar2_config.c
1 /* This file is part of Pazpar2.
2    Copyright (C) 2006-2009 Index Data
3
4 Pazpar2 is free software; you can redistribute it and/or modify it under
5 the terms of the GNU General Public License as published by the Free
6 Software Foundation; either version 2, or (at your option) any later
7 version.
8
9 Pazpar2 is distributed in the hope that it will be useful, but WITHOUT ANY
10 WARRANTY; without even the implied warranty of MERCHANTABILITY or
11 FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
12 for more details.
13
14 You should have received a copy of the GNU General Public License
15 along with this program; if not, write to the Free Software
16 Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
17
18 */
19
20 #if HAVE_CONFIG_H
21 #include <config.h>
22 #endif
23
24 #include <string.h>
25 #include <assert.h>
26
27 #include <libxml/parser.h>
28 #include <libxml/tree.h>
29
30 #include <yaz/yaz-util.h>
31 #include <yaz/nmem.h>
32 #include <yaz/snprintf.h>
33 #include <yaz/tpath.h>
34
35 #if HAVE_GLOB_H
36 #define USE_POSIX_GLOB 1
37 #else
38 #define USE_POSIX_GLOB 0
39 #endif
40
41
42 #if USE_POSIX_GLOB
43 #include <glob.h>
44 #endif
45 #include <sys/types.h>
46 #include <sys/stat.h>
47 #if HAVE_UNISTD_H
48 #include <unistd.h>
49 #endif
50 #include "pazpar2_config.h"
51 #include "settings.h"
52 #include "eventl.h"
53 #include "http.h"
54
55 struct conf_config
56 {
57     NMEM nmem; /* for conf_config and servers memory */
58     struct conf_server *servers;
59     WRBUF confdir;
60 };
61
62
63 static char *parse_settings(struct conf_config *config,
64                             NMEM nmem, xmlNode *node);
65
66 static struct conf_targetprofiles *parse_targetprofiles(NMEM nmem,
67                                                         xmlNode *node);
68
69 static void conf_metadata_assign(NMEM nmem, 
70                                  struct conf_metadata * metadata,
71                                  const char *name,
72                                  enum conf_metadata_type type,
73                                  enum conf_metadata_merge merge,
74                                  enum conf_setting_type setting,
75                                  int brief,
76                                  int termlist,
77                                  int rank,
78                                  int sortkey_offset,
79                                  enum conf_metadata_mergekey mt)
80 {
81     assert(nmem && metadata && name);
82     
83     metadata->name = nmem_strdup(nmem, name);
84
85     metadata->type = type;
86
87     // enforcing that type_year is always range_merge
88     if (metadata->type == Metadata_type_year)
89         metadata->merge = Metadata_merge_range;
90     else
91         metadata->merge = merge;    
92
93     metadata->setting = setting;
94     metadata->brief = brief;   
95     metadata->termlist = termlist;
96     metadata->rank = rank;    
97     metadata->sortkey_offset = sortkey_offset;
98     metadata->mergekey = mt;
99 }
100
101
102 static void conf_sortkey_assign(NMEM nmem, 
103                                 struct conf_sortkey * sortkey,
104                                 const char *name,
105                                 enum conf_sortkey_type type)
106 {
107     assert(nmem && sortkey && name);
108     
109     sortkey->name = nmem_strdup(nmem, name);
110     sortkey->type = type;
111 }
112
113
114 static struct conf_service *service_init(struct conf_server *server,
115                                          int num_metadata, int num_sortkeys,
116                                          const char *service_id)
117 {
118     struct conf_service * service = 0;
119     NMEM nmem = nmem_create();
120
121     service = nmem_malloc(nmem, sizeof(struct conf_service));
122     service->ref_count = 1;
123     service->nmem = nmem;
124     service->next = 0;
125     service->settings = 0;
126     service->databases = 0;
127     service->targetprofiles = 0;
128     service->server = server;
129     service->session_timeout = 60; /* default session timeout */
130     service->z3950_session_timeout = 180;
131     service->z3950_operation_timeout = 30;
132
133     service->relevance_pct = 0;
134     service->sort_pct = 0;
135     service->mergekey_pct = 0;
136
137     service->id = service_id ? nmem_strdup(nmem, service_id) : 0;
138     service->num_metadata = num_metadata;
139     service->metadata = 0;
140     if (service->num_metadata)
141       service->metadata 
142           = nmem_malloc(nmem, 
143                         sizeof(struct conf_metadata) * service->num_metadata);
144     service->num_sortkeys = num_sortkeys;
145     service->sortkeys = 0;
146     if (service->num_sortkeys)
147         service->sortkeys 
148             = nmem_malloc(nmem, 
149                           sizeof(struct conf_sortkey) * service->num_sortkeys);
150     service->dictionary = 0;
151     return service; 
152 }
153
154 static struct conf_metadata* conf_service_add_metadata(
155     struct conf_service *service,
156     int field_id,
157     const char *name,
158     enum conf_metadata_type type,
159     enum conf_metadata_merge merge,
160     enum conf_setting_type setting,
161     int brief,
162     int termlist,
163     int rank,
164     int sortkey_offset,
165     enum conf_metadata_mergekey mt)
166 {
167     struct conf_metadata * md = 0;
168
169     if (!service || !service->metadata || !service->num_metadata
170         || field_id < 0  || !(field_id < service->num_metadata))
171         return 0;
172
173     md = service->metadata + field_id;
174     conf_metadata_assign(service->nmem, md, name, type, merge, setting,
175                          brief, termlist, rank, sortkey_offset,
176                          mt);
177     return md;
178 }
179
180
181 static struct conf_sortkey * conf_service_add_sortkey(
182     struct conf_service *service,
183     int field_id,
184     const char *name,
185     enum conf_sortkey_type type)
186 {
187     struct conf_sortkey * sk = 0;
188
189     if (!service || !service->sortkeys || !service->num_sortkeys
190         || field_id < 0  || !(field_id < service->num_sortkeys))
191         return 0;
192
193     //sk = &((service->sortkeys)[field_id]);
194     sk = service->sortkeys + field_id;
195     conf_sortkey_assign(service->nmem, sk, name, type);
196
197     return sk;
198 }
199
200
201 int conf_service_metadata_field_id(struct conf_service *service,
202                                    const char * name)
203 {
204     int i = 0;
205
206     if (!service || !service->metadata || !service->num_metadata)
207         return -1;
208
209     for(i = 0; i < service->num_metadata; i++) {
210         if (!strcmp(name, (service->metadata[i]).name))
211             return i;
212     }
213    
214     return -1;
215 }
216
217
218 int conf_service_sortkey_field_id(struct conf_service *service,
219                                   const char * name)
220 {
221     int i = 0;
222
223     if (!service || !service->sortkeys || !service->num_sortkeys)
224         return -1;
225
226     for(i = 0; i < service->num_sortkeys; i++) {
227         if (!strcmp(name, (service->sortkeys[i]).name))
228             return i;
229     }
230    
231     return -1;
232 }
233
234 static void conf_dir_path(struct conf_config *config, WRBUF w, const char *src)
235 {
236     if (config->confdir && wrbuf_len(config->confdir) > 0 &&
237         !yaz_is_abspath(src))
238     {
239         wrbuf_printf(w, "%s/%s", wrbuf_cstr(config->confdir), src);
240     }
241     else
242         wrbuf_puts(w, src);
243 }
244
245 void service_destroy(struct conf_service *service)
246 {
247     if (service)
248     {
249         assert(service->ref_count > 0);
250         service->ref_count--;
251         if (service->ref_count == 0)
252         {
253             pp2_charset_destroy(service->relevance_pct);
254             pp2_charset_destroy(service->sort_pct);
255             pp2_charset_destroy(service->mergekey_pct);
256             nmem_destroy(service->nmem);
257         }
258     }
259 }
260
261 void service_incref(struct conf_service *service)
262 {
263     service->ref_count++;
264 }
265
266 static int parse_metadata(struct conf_service *service, xmlNode *n,
267                           int *md_node, int *sk_node)
268 {
269     xmlChar *xml_name = xmlGetProp(n, (xmlChar *) "name");
270     xmlChar *xml_brief = xmlGetProp(n, (xmlChar *) "brief");
271     xmlChar *xml_sortkey = xmlGetProp(n, (xmlChar *) "sortkey");
272     xmlChar *xml_merge = xmlGetProp(n, (xmlChar *) "merge");
273     xmlChar *xml_type = xmlGetProp(n, (xmlChar *) "type");
274     xmlChar *xml_termlist = xmlGetProp(n, (xmlChar *) "termlist");
275     xmlChar *xml_rank = xmlGetProp(n, (xmlChar *) "rank");
276     xmlChar *xml_setting = xmlGetProp(n, (xmlChar *) "setting");
277     xmlChar *xml_mergekey = xmlGetProp(n, (xmlChar *) "mergekey");
278     
279     enum conf_metadata_type type = Metadata_type_generic;
280     enum conf_metadata_merge merge = Metadata_merge_no;
281     enum conf_setting_type setting = Metadata_setting_no;
282     enum conf_sortkey_type sk_type = Metadata_sortkey_relevance;
283     enum conf_metadata_mergekey mergekey_type = Metadata_mergekey_no;
284     int brief = 0;
285     int termlist = 0;
286     int rank = 0;
287     int sortkey_offset = 0;
288     
289     // now do the parsing logic
290     if (!xml_name)
291     {
292         yaz_log(YLOG_FATAL, "Must specify name in metadata element");
293         return -1;
294     }
295     if (xml_brief)
296     {
297         if (!strcmp((const char *) xml_brief, "yes"))
298             brief = 1;
299         else if (strcmp((const char *) xml_brief, "no"))
300         {
301             yaz_log(YLOG_FATAL, "metadata/brief must be yes or no");
302             return -1;
303         }
304     }
305     else
306         brief = 0;
307     
308     if (xml_termlist)
309     {
310         if (!strcmp((const char *) xml_termlist, "yes"))
311             termlist = 1;
312         else if (strcmp((const char *) xml_termlist, "no"))
313         {
314             yaz_log(YLOG_FATAL, "metadata/termlist must be yes or no");
315             return -1;
316         }
317     }
318     else
319         termlist = 0;
320     
321     if (xml_rank)
322         rank = atoi((const char *) xml_rank);
323     else
324         rank = 0;
325     
326     if (xml_type)
327     {
328         if (!strcmp((const char *) xml_type, "generic"))
329             type = Metadata_type_generic;
330         else if (!strcmp((const char *) xml_type, "year"))
331             type = Metadata_type_year;
332         else if (!strcmp((const char *) xml_type, "date"))
333             type = Metadata_type_date;
334         else
335         {
336             yaz_log(YLOG_FATAL, 
337                     "Unknown value for metadata/type: %s", xml_type);
338             return -1;
339         }
340     }
341     else
342         type = Metadata_type_generic;
343     
344     if (xml_merge)
345     {
346         if (!strcmp((const char *) xml_merge, "no"))
347             merge = Metadata_merge_no;
348         else if (!strcmp((const char *) xml_merge, "unique"))
349             merge = Metadata_merge_unique;
350         else if (!strcmp((const char *) xml_merge, "longest"))
351             merge = Metadata_merge_longest;
352         else if (!strcmp((const char *) xml_merge, "range"))
353             merge = Metadata_merge_range;
354         else if (!strcmp((const char *) xml_merge, "all"))
355             merge = Metadata_merge_all;
356         else
357         {
358             yaz_log(YLOG_FATAL, 
359                     "Unknown value for metadata/merge: %s", xml_merge);
360             return -1;
361         }
362     }
363     else
364         merge = Metadata_merge_no;
365     
366     if (xml_setting)
367     {
368         if (!strcmp((const char *) xml_setting, "no"))
369             setting = Metadata_setting_no;
370         else if (!strcmp((const char *) xml_setting, "postproc"))
371             setting = Metadata_setting_postproc;
372         else if (!strcmp((const char *) xml_setting, "parameter"))
373             setting = Metadata_setting_parameter;
374         else
375         {
376             yaz_log(YLOG_FATAL,
377                     "Unknown value for medadata/setting: %s", xml_setting);
378             return -1;
379         }
380     }
381     
382     // add a sortkey if so specified
383     if (xml_sortkey && strcmp((const char *) xml_sortkey, "no"))
384     {
385         if (merge == Metadata_merge_no)
386         {
387             yaz_log(YLOG_FATAL, 
388                     "Can't specify sortkey on a non-merged field");
389             return -1;
390         }
391         if (!strcmp((const char *) xml_sortkey, "numeric"))
392             sk_type = Metadata_sortkey_numeric;
393         else if (!strcmp((const char *) xml_sortkey, "skiparticle"))
394             sk_type = Metadata_sortkey_skiparticle;
395         else
396         {
397             yaz_log(YLOG_FATAL,
398                     "Unknown sortkey in metadata element: %s", 
399                     xml_sortkey);
400             return -1;
401         }
402         sortkey_offset = *sk_node;
403         
404         conf_service_add_sortkey(service, *sk_node,
405                                  (const char *) xml_name, sk_type);
406         
407         (*sk_node)++;
408     }
409     else
410         sortkey_offset = -1;
411     
412     if (xml_mergekey)
413     {
414         if (!strcmp((const char *) xml_mergekey, "required"))
415             mergekey_type = Metadata_mergekey_required;
416         else if (!strcmp((const char *) xml_mergekey, "optional"))
417             mergekey_type = Metadata_mergekey_optional;
418         else if (!strcmp((const char *) xml_mergekey, "no"))
419             mergekey_type = Metadata_mergekey_no;
420         else
421         {
422             yaz_log(YLOG_FATAL, "Unknown value for mergekey: %s", xml_mergekey);
423             return -1;
424         }
425     }
426     
427     
428     // metadata known, assign values
429     conf_service_add_metadata(service, *md_node,
430                               (const char *) xml_name,
431                               type, merge, setting,
432                               brief, termlist, rank, sortkey_offset,
433                               mergekey_type);
434     
435     xmlFree(xml_name);
436     xmlFree(xml_brief);
437     xmlFree(xml_sortkey);
438     xmlFree(xml_merge);
439     xmlFree(xml_type);
440     xmlFree(xml_termlist);
441     xmlFree(xml_rank);
442     xmlFree(xml_setting);
443     xmlFree(xml_mergekey);
444     (*md_node)++;
445     return 0;
446 }
447
448 static struct conf_service *service_create_static(struct conf_server *server,
449                                                   xmlNode *node,
450                                                   const char *service_id)
451 {
452     xmlNode *n;
453     int md_node = 0;
454     int sk_node = 0;
455
456     struct conf_service *service = 0;
457     int num_metadata = 0;
458     int num_sortkeys = 0;
459     int got_settings = 0;
460     
461     // count num_metadata and num_sortkeys
462     for (n = node->children; n; n = n->next)
463         if (n->type == XML_ELEMENT_NODE && !strcmp((const char *)
464                                                    n->name, "metadata"))
465         {
466             xmlChar *sortkey = xmlGetProp(n, (xmlChar *) "sortkey");
467             num_metadata++;
468             if (sortkey && strcmp((const char *) sortkey, "no"))
469                 num_sortkeys++;
470             xmlFree(sortkey);
471         }
472
473     service = service_init(server, num_metadata, num_sortkeys, service_id);
474
475     for (n = node->children; n; n = n->next)
476     {
477         if (n->type != XML_ELEMENT_NODE)
478             continue;
479         if (!strcmp((const char *) n->name, "timeout"))
480         {
481             xmlChar *src = xmlGetProp(n, (xmlChar *) "session");
482             if (src)
483             {
484                 service->session_timeout = atoi((const char *) src);
485                 xmlFree(src);
486                 if (service->session_timeout < 9)
487                 {
488                     yaz_log(YLOG_FATAL, "session timeout out of range");
489                     return 0;
490                 }
491             }
492             src = xmlGetProp(n, (xmlChar *) "z3950_operation");
493             if (src)
494             {
495                 service->z3950_operation_timeout = atoi((const char *) src);
496                 xmlFree(src);
497                 if (service->z3950_session_timeout < 9)
498                 {
499                     yaz_log(YLOG_FATAL, "Z39.50 operation timeout out of range");
500                     return 0;
501                 }
502             }
503             src = xmlGetProp(n, (xmlChar *) "z3950_session");
504             if (src)
505             {
506                 service->z3950_session_timeout = atoi((const char *) src);
507                 xmlFree(src);
508                 if (service->z3950_session_timeout < 9)
509                 {
510                     yaz_log(YLOG_FATAL, "Z39.50 session timeout out of range");
511                     return 0;
512                 }
513             }
514         }
515         else if (!strcmp((const char *) n->name, "settings"))
516             got_settings++;
517         else if (!strcmp((const char *) n->name, (const char *) "targetprofiles"))
518         {
519             if (service->targetprofiles)
520             {
521                 yaz_log(YLOG_FATAL, "Can't repeat targetprofiles");
522                 return 0;
523             }
524             if (!(service->targetprofiles = 
525                   parse_targetprofiles(service->nmem, n)))
526                 return 0;
527         }
528         else if (!strcmp((const char *) n->name, "relevance"))
529         {
530             if (service->relevance_pct)
531             {
532                 yaz_log(YLOG_LOG, "relevance may not repeat in service");
533                 return 0;
534             }
535             else
536             {
537                 service->relevance_pct = pp2_charset_create_xml(n);
538                 if (!service->relevance_pct)
539                     return 0;
540             }
541         }
542         else if (!strcmp((const char *) n->name, "sort"))
543         {
544             if (service->sort_pct)
545             {
546                 yaz_log(YLOG_LOG, "sort may not repeat in service");
547                 return 0;
548             }
549             else
550             {
551                 service->sort_pct = pp2_charset_create_xml(n);
552                 if (!service->sort_pct)
553                     return 0;
554             }
555         }
556         else if (!strcmp((const char *) n->name, "mergekey"))
557         {
558             if (service->mergekey_pct)
559             {
560                 yaz_log(YLOG_LOG, "mergekey may not repeat in service");
561                 return 0;
562             }
563             else
564             {
565                 service->mergekey_pct = pp2_charset_create_xml(n);
566                 if (!service->mergekey_pct)
567                     return 0;
568             }
569         }
570         else if (!strcmp((const char *) n->name, (const char *) "metadata"))
571         {
572             if (parse_metadata(service, n, &md_node, &sk_node))
573                 return 0;
574         }
575         else
576         {
577             yaz_log(YLOG_FATAL, "Bad element: %s", n->name);
578             return 0;
579         }
580     }
581     if (got_settings)
582     {
583         int pass;
584         /* metadata has been read.. Consider now settings */
585         init_settings(service);
586         for (pass = 1; pass <= 2; pass++)
587         {
588             for (n = node->children; n; n = n->next)
589             {
590                 if (n->type != XML_ELEMENT_NODE)
591                     continue;
592                 if (!strcmp((const char *) n->name, "settings"))
593                 {
594                     xmlChar *src = xmlGetProp(n, (xmlChar *) "src");
595                     if (src)
596                     {
597                         WRBUF w = wrbuf_alloc();
598                         conf_dir_path(server->config, w, (const char *) src);
599                         settings_read_file(service, wrbuf_cstr(w), pass);
600                         wrbuf_destroy(w);
601                         xmlFree(src);
602                     }
603                     else
604                     {
605                         settings_read_node(service, n, pass);
606                     }
607                 }
608             }
609         }
610     }
611     return service;
612 }
613
614 static char *parse_settings(struct conf_config *config,
615                             NMEM nmem, xmlNode *node)
616 {
617     xmlChar *src = xmlGetProp(node, (xmlChar *) "src");
618     char *r;
619
620     if (src)
621     {
622         WRBUF w = wrbuf_alloc();
623         conf_dir_path(config, w, (const char *) src);
624         r = nmem_strdup(nmem, wrbuf_cstr(w));
625         wrbuf_destroy(w);
626     }
627     else
628     {
629         yaz_log(YLOG_FATAL, "Must specify src in targetprofile");
630         return 0;
631     }
632     xmlFree(src);
633     return r;
634 }
635
636 static void inherit_server_settings(struct conf_service *s)
637 {
638     struct conf_server *server = s->server;
639     if (!s->dictionary) /* service has no config settings ? */
640     {
641         if (server->server_settings)
642         {
643             /* inherit settings from server */
644             init_settings(s);
645             settings_read_file(s, server->server_settings, 1);
646             settings_read_file(s, server->server_settings, 2);
647         }
648         else
649         {
650             yaz_log(YLOG_WARN, "service '%s' has no settings",
651                     s->id ? s->id : "unnamed");
652             init_settings(s);
653         }
654     }
655     
656     /* use relevance/sort/mergekey from server if not defined
657        for this service.. */
658     if (!s->relevance_pct)
659     {
660         if (server->relevance_pct)
661         {
662             s->relevance_pct = server->relevance_pct;
663             pp2_charset_incref(s->relevance_pct);
664         }
665         else
666             s->relevance_pct = pp2_charset_create(0);
667     }
668     
669     if (!s->sort_pct)
670     {
671         if (server->sort_pct)
672         {
673             s->sort_pct = server->sort_pct;
674             pp2_charset_incref(s->sort_pct);
675         }
676         else
677             s->sort_pct = pp2_charset_create(0);
678     }
679     
680     if (!s->mergekey_pct)
681     {
682         if (server->mergekey_pct)
683         {
684             s->mergekey_pct = server->mergekey_pct;
685             pp2_charset_incref(s->mergekey_pct);
686         }
687         else
688             s->mergekey_pct = pp2_charset_create(0);
689     }
690 }
691
692 struct conf_service *service_create(struct conf_server *server,
693                                     xmlNode *node)
694 {
695     struct conf_service *service = service_create_static(server,
696                                                          node, 0);
697     if (service)
698     {
699         inherit_server_settings(service);
700         resolve_databases(service);
701     }
702     return service;
703 }
704
705 static struct conf_server *server_create(struct conf_config *config,
706                                          NMEM nmem, xmlNode *node)
707 {
708     xmlNode *n;
709     struct conf_server *server = nmem_malloc(nmem, sizeof(struct conf_server));
710
711     server->host = 0;
712     server->port = 0;
713     server->proxy_host = 0;
714     server->proxy_port = 0;
715     server->myurl = 0;
716     server->proxy_addr = 0;
717     server->service = 0;
718     server->config = config;
719     server->next = 0;
720     server->relevance_pct = 0;
721     server->sort_pct = 0;
722     server->mergekey_pct = 0;
723     server->server_settings = 0;
724
725     for (n = node->children; n; n = n->next)
726     {
727         if (n->type != XML_ELEMENT_NODE)
728             continue;
729         if (!strcmp((const char *) n->name, "listen"))
730         {
731             xmlChar *port = xmlGetProp(n, (xmlChar *) "port");
732             xmlChar *host = xmlGetProp(n, (xmlChar *) "host");
733             if (port)
734                 server->port = atoi((const char *) port);
735             if (host)
736                 server->host = nmem_strdup(nmem, (const char *) host);
737             xmlFree(port);
738             xmlFree(host);
739         }
740         else if (!strcmp((const char *) n->name, "proxy"))
741         {
742             xmlChar *port = xmlGetProp(n, (xmlChar *) "port");
743             xmlChar *host = xmlGetProp(n, (xmlChar *) "host");
744             xmlChar *myurl = xmlGetProp(n, (xmlChar *) "myurl");
745             if (port)
746                 server->proxy_port = atoi((const char *) port);
747             if (host)
748                 server->proxy_host = nmem_strdup(nmem, (const char *) host);
749             if (myurl)
750                 server->myurl = nmem_strdup(nmem, (const char *) myurl);
751             xmlFree(port);
752             xmlFree(host);
753             xmlFree(myurl);
754         }
755         else if (!strcmp((const char *) n->name, "settings"))
756         {
757             if (server->server_settings)
758             {
759                 yaz_log(YLOG_FATAL, "Can't repeat 'settings'");
760                 return 0;
761             }
762             if (!(server->server_settings = parse_settings(config, nmem, n)))
763                 return 0;
764         }
765         else if (!strcmp((const char *) n->name, "relevance"))
766         {
767             server->relevance_pct = pp2_charset_create_xml(n);
768             if (!server->relevance_pct)
769                 return 0;
770         }
771         else if (!strcmp((const char *) n->name, "sort"))
772         {
773             server->sort_pct = pp2_charset_create_xml(n);
774             if (!server->sort_pct)
775                 return 0;
776         }
777         else if (!strcmp((const char *) n->name, "mergekey"))
778         {
779             server->mergekey_pct = pp2_charset_create_xml(n);
780             if (!server->mergekey_pct)
781                 return 0;
782         }
783         else if (!strcmp((const char *) n->name, "service"))
784         {
785             char *service_id = (char *)
786                 xmlGetProp(n, (xmlChar *) "id");
787
788             struct conf_service **sp = &server->service;
789             for (; *sp; sp = &(*sp)->next)
790                 if ((*sp)->id && service_id &&
791                     0 == strcmp((*sp)->id, service_id))
792                 {
793                     yaz_log(YLOG_FATAL, "Duplicate service: %s", service_id);
794                     break;
795                 }
796                 else if (!(*sp)->id && !service_id)
797                 {
798                     yaz_log(YLOG_FATAL, "Duplicate unnamed service '%s'",
799                         service_id);
800                     break;
801                 }
802
803             if (*sp)  /* service already exist */
804             {
805                 xmlFree(service_id);
806                 return 0;
807             }
808             else
809             {
810                 struct conf_service *s = service_create_static(server, n,
811                                                                service_id);
812                 xmlFree(service_id);
813                 if (!s)
814                     return 0;
815                 *sp = s;
816             }
817         }
818         else
819         {
820             yaz_log(YLOG_FATAL, "Bad element: %s", n->name);
821             return 0;
822         }
823     }
824     if (server->service)
825     {
826         struct conf_service *s;
827         for (s = server->service; s; s = s->next)
828             inherit_server_settings(s);
829     }
830     return server;
831 }
832
833 WRBUF conf_get_fname(struct conf_service *service, const char *fname)
834 {
835     struct conf_config *config = service->server->config;
836     WRBUF w = wrbuf_alloc();
837
838     conf_dir_path(config, w, fname);
839     return w;
840 }
841
842 static struct conf_targetprofiles *parse_targetprofiles(NMEM nmem,
843                                                         xmlNode *node)
844 {
845     struct conf_targetprofiles *r = nmem_malloc(nmem, sizeof(*r));
846     xmlChar *type = xmlGetProp(node, (xmlChar *) "type");
847     xmlChar *src = xmlGetProp(node, (xmlChar *) "src");
848
849     memset(r, 0, sizeof(*r));
850
851     if (type)
852     {
853         if (!strcmp((const char *) type, "local"))
854             r->type = Targetprofiles_local;
855         else
856         {
857             yaz_log(YLOG_FATAL, "Unknown targetprofile type");
858             return 0;
859         }
860     }
861     else
862     {
863         yaz_log(YLOG_FATAL, "Must specify type for targetprofile");
864         return 0;
865     }
866
867     if (src)
868         r->src = nmem_strdup(nmem, (const char *) src);
869     else
870     {
871         yaz_log(YLOG_FATAL, "Must specify src in targetprofile");
872         return 0;
873     }
874     xmlFree(type);
875     xmlFree(src);
876     return r;
877 }
878
879 struct conf_service *locate_service(struct conf_server *server,
880                                     const char *service_id)
881 {
882     struct conf_service *s = server->service;
883     for (; s; s = s->next)
884         if (s->id && service_id && 0 == strcmp(s->id, service_id))
885             return s;
886         else if (!s->id && !service_id)
887             return s;
888     return 0;
889 }
890
891
892 static int parse_config(struct conf_config *config, xmlNode *root)
893 {
894     xmlNode *n;
895
896     for (n = root->children; n; n = n->next)
897     {
898         if (n->type != XML_ELEMENT_NODE)
899             continue;
900         if (!strcmp((const char *) n->name, "server"))
901         {
902             struct conf_server *tmp = server_create(config, config->nmem, n);
903             if (!tmp)
904                 return -1;
905             tmp->next = config->servers;
906             config->servers = tmp;
907         }
908         else if (!strcmp((const char *) n->name, "targetprofiles"))
909         {
910             yaz_log(YLOG_FATAL, "targetprofiles unsupported here. Must be part of service");
911             return -1;
912
913         }
914         else
915         {
916             yaz_log(YLOG_FATAL, "Bad element: %s", n->name);
917             return -1;
918         }
919     }
920     return 0;
921 }
922
923 static int process_config_includes(struct conf_config *config, xmlNode *n);
924
925 static int config_include_one(struct conf_config *config, xmlNode **sib,
926     const char *path)
927 {
928     struct stat st;
929     if (stat(path, &st) < 0)
930     {
931         yaz_log(YLOG_FATAL|YLOG_ERRNO, "stat %s", path);
932         return -1;
933     }
934     else
935     {
936         if ((st.st_mode & S_IFMT) == S_IFREG)
937         {
938             xmlDoc *doc = xmlParseFile(path);
939             if (doc)
940             {
941                 xmlNodePtr t = xmlDocGetRootElement(doc);
942                 int ret = process_config_includes(config, t);
943                 *sib = xmlAddNextSibling(*sib, xmlCopyNode(t, 1));
944                 xmlFreeDoc(doc);
945                 if (ret)
946                     return -1;
947             }
948             else
949             {
950                 yaz_log(YLOG_FATAL, "Could not parse %s", path);
951                 return -1;
952             }
953         }
954     }
955     return 0;
956 }
957
958 static int config_include_src(struct conf_config *config, xmlNode **np,
959                               const char *src)
960 {
961     int ret = 0; /* return code. OK so far */
962     WRBUF w = wrbuf_alloc();
963     xmlNodePtr sib; /* our sibling that we append */
964     xmlNodePtr c; /* tmp node */
965
966     wrbuf_printf(w, " begin include src=\"%s\" ", src);
967
968     /* replace include element with a 'begin' comment */
969     sib = xmlNewComment((const xmlChar *) wrbuf_cstr(w));
970     xmlReplaceNode(*np, sib);
971
972     xmlFreeNode(*np);
973
974     wrbuf_rewind(w);
975     conf_dir_path(config, w, src);
976 #if USE_POSIX_GLOB
977     {
978         size_t i;
979         glob_t glob_res;
980         glob(wrbuf_cstr(w), 0 /* flags */, 0 /* errfunc */, &glob_res);
981         
982         for (i = 0; ret == 0 && i < glob_res.gl_pathc; i++)
983         {
984             const char *path = glob_res.gl_pathv[i];
985             ret = config_include_one(config, &sib, path);
986         }
987         globfree(&glob_res);
988     }
989 #else
990     ret = config_include_one(config, &sib, wrbuf_cstr(w));
991 #endif
992     wrbuf_rewind(w);
993     wrbuf_printf(w, " end include src=\"%s\" ", src);
994     c = xmlNewComment((const xmlChar *) wrbuf_cstr(w));
995     sib = xmlAddNextSibling(sib, c);
996     
997     *np = sib;
998     wrbuf_destroy(w);
999     return ret;
1000 }
1001
1002 static int process_config_includes(struct conf_config *config, xmlNode *n)
1003 {
1004     for (; n; n = n->next)
1005     {
1006         if (n->type == XML_ELEMENT_NODE)
1007         {
1008             if (!strcmp((const char *) n->name, "include"))
1009             {
1010                 xmlChar *src = xmlGetProp(n, (xmlChar *) "src");
1011                 if (src)
1012                 {
1013                     int ret = config_include_src(config, &n,
1014                                                  (const char *) src);
1015                     xmlFree(src);
1016                     if (ret)
1017                         return ret;
1018                         
1019                 }
1020             }
1021             else
1022             {
1023                 if (process_config_includes(config, n->children))
1024                     return -1;
1025             }
1026         }
1027     }
1028     return 0;
1029 }
1030
1031 struct conf_config *config_create(const char *fname, int verbose)
1032 {
1033     xmlDoc *doc = xmlParseFile(fname);
1034     xmlNode *n;
1035     const char *p;
1036     int r;
1037     NMEM nmem = nmem_create();
1038     struct conf_config *config = nmem_malloc(nmem, sizeof(struct conf_config));
1039
1040     xmlSubstituteEntitiesDefault(1);
1041     xmlLoadExtDtdDefaultValue = 1;
1042     if (!doc)
1043     {
1044         yaz_log(YLOG_FATAL, "Failed to read %s", fname);
1045         nmem_destroy(nmem);
1046         return 0;
1047     }
1048
1049     config->nmem = nmem;
1050     config->servers = 0;
1051
1052     config->confdir = wrbuf_alloc();
1053     if ((p = strrchr(fname, 
1054 #ifdef WIN32
1055                      '\\'
1056 #else
1057                      '/'
1058 #endif
1059              )))
1060     {
1061         int len = p - fname;
1062         wrbuf_write(config->confdir, fname, len);
1063     }
1064     wrbuf_puts(config->confdir, "");
1065     
1066     n = xmlDocGetRootElement(doc);
1067     r = process_config_includes(config, n);
1068     if (r == 0) /* OK */
1069     {
1070         if (verbose)
1071         {
1072             yaz_log(YLOG_LOG, "Configuration %s after include processing",
1073                     fname);
1074             xmlDocFormatDump(yaz_log_file(), doc, 0);
1075         }
1076         r = parse_config(config, n);
1077     }
1078     xmlFreeDoc(doc);
1079
1080     if (r)
1081     {
1082         config_destroy(config);
1083         return 0;
1084     }
1085     return config;
1086 }
1087
1088 void server_destroy(struct conf_server *server)
1089 {
1090     struct conf_service *s = server->service;
1091     while (s)
1092     {
1093         struct conf_service *s_next = s->next;
1094         service_destroy(s);
1095         s = s_next;
1096     }
1097     pp2_charset_destroy(server->relevance_pct);
1098     pp2_charset_destroy(server->sort_pct);
1099     pp2_charset_destroy(server->mergekey_pct);
1100 }
1101
1102 void config_destroy(struct conf_config *config)
1103 {
1104     if (config)
1105     {
1106         struct conf_server *server = config->servers;
1107         while (server)
1108         {
1109             struct conf_server *s_next = server->next;
1110             server_destroy(server);
1111             server = s_next;
1112         }
1113         wrbuf_destroy(config->confdir);
1114         nmem_destroy(config->nmem);
1115     }
1116 }
1117
1118 void config_stop_listeners(struct conf_config *conf)
1119 {
1120     struct conf_server *ser;
1121     for (ser = conf->servers; ser; ser = ser->next)
1122         http_close_server(ser);
1123 }
1124
1125 void config_start_databases(struct conf_config *conf)
1126 {
1127     struct conf_server *ser;
1128     for (ser = conf->servers; ser; ser = ser->next)
1129     {
1130         struct conf_service *s = ser->service;
1131         for (;s ; s = s->next)
1132             resolve_databases(s);
1133     }
1134 }
1135
1136 int config_start_listeners(struct conf_config *conf,
1137                            const char *listener_override)
1138 {
1139     struct conf_server *ser;
1140     for (ser = conf->servers; ser; ser = ser->next)
1141     {
1142         WRBUF w = wrbuf_alloc();
1143         int r;
1144         if (listener_override)
1145         {
1146             wrbuf_puts(w, listener_override);
1147             listener_override = 0; /* only first server is overriden */
1148         }
1149         else
1150         {
1151             if (ser->host)
1152                 wrbuf_puts(w, ser->host);
1153             if (ser->port)
1154             {
1155                 if (wrbuf_len(w))
1156                     wrbuf_puts(w, ":");
1157                 wrbuf_printf(w, "%d", ser->port);
1158             }
1159         }
1160         r = http_init(wrbuf_cstr(w), ser);
1161         wrbuf_destroy(w);
1162         if (r)
1163             return -1;
1164
1165         w = wrbuf_alloc();
1166         if (ser->proxy_host || ser->proxy_port)
1167         {
1168             if (ser->proxy_host)
1169                 wrbuf_puts(w, ser->proxy_host);
1170             if (ser->proxy_port)
1171             {
1172                 if (wrbuf_len(w))
1173                     wrbuf_puts(w, ":");
1174                 wrbuf_printf(w, "%d", ser->proxy_port);
1175             }
1176         }
1177         if (wrbuf_len(w))
1178             http_set_proxyaddr(wrbuf_cstr(w), ser);
1179         wrbuf_destroy(w);
1180     }
1181     return 0;
1182 }
1183
1184 /*
1185  * Local variables:
1186  * c-basic-offset: 4
1187  * c-file-style: "Stroustrup"
1188  * indent-tabs-mode: nil
1189  * End:
1190  * vim: shiftwidth=4 tabstop=8 expandtab
1191  */
1192