Re-structure conf/server/service ptrs
[pazpar2-moved-to-github.git] / src / pazpar2_config.c
1 /* This file is part of Pazpar2.
2    Copyright (C) 2006-2009 Index Data
3
4 Pazpar2 is free software; you can redistribute it and/or modify it under
5 the terms of the GNU General Public License as published by the Free
6 Software Foundation; either version 2, or (at your option) any later
7 version.
8
9 Pazpar2 is distributed in the hope that it will be useful, but WITHOUT ANY
10 WARRANTY; without even the implied warranty of MERCHANTABILITY or
11 FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
12 for more details.
13
14 You should have received a copy of the GNU General Public License
15 along with this program; if not, write to the Free Software
16 Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
17
18 */
19
20 #if HAVE_CONFIG_H
21 #include <config.h>
22 #endif
23
24 #include <string.h>
25 #include <assert.h>
26
27 #include <libxml/parser.h>
28 #include <libxml/tree.h>
29 #include <libxslt/xslt.h>
30 #include <libxslt/transform.h>
31 #include <libxslt/xsltutils.h>
32
33 #include <yaz/yaz-util.h>
34 #include <yaz/nmem.h>
35 #include <yaz/snprintf.h>
36 #include <yaz/tpath.h>
37
38 #if HAVE_GLOB_H
39 #define USE_POSIX_GLOB 1
40 #else
41 #define USE_POSIX_GLOB 0
42 #endif
43
44
45 #if USE_POSIX_GLOB
46 #include <glob.h>
47 #endif
48 #include <sys/types.h>
49 #include <sys/stat.h>
50 #if HAVE_UNISTD_H
51 #include <unistd.h>
52 #endif
53 #include "pazpar2_config.h"
54 #include "settings.h"
55 #include "eventl.h"
56 #include "http.h"
57
58 struct conf_config
59 {
60     NMEM nmem; /* for conf_config and servers memory */
61     struct conf_server *servers;
62     WRBUF confdir;
63 };
64
65
66 static char *parse_settings(struct conf_config *config,
67                             NMEM nmem, xmlNode *node);
68
69 static struct conf_targetprofiles *parse_targetprofiles(NMEM nmem,
70                                                         xmlNode *node);
71
72 static void conf_metadata_assign(NMEM nmem, 
73                                  struct conf_metadata * metadata,
74                                  const char *name,
75                                  enum conf_metadata_type type,
76                                  enum conf_metadata_merge merge,
77                                  enum conf_setting_type setting,
78                                  int brief,
79                                  int termlist,
80                                  int rank,
81                                  int sortkey_offset,
82                                  enum conf_metadata_mergekey mt)
83 {
84     assert(nmem && metadata && name);
85     
86     metadata->name = nmem_strdup(nmem, name);
87
88     metadata->type = type;
89
90     // enforcing that type_year is always range_merge
91     if (metadata->type == Metadata_type_year)
92         metadata->merge = Metadata_merge_range;
93     else
94         metadata->merge = merge;    
95
96     metadata->setting = setting;
97     metadata->brief = brief;   
98     metadata->termlist = termlist;
99     metadata->rank = rank;    
100     metadata->sortkey_offset = sortkey_offset;
101     metadata->mergekey = mt;
102 }
103
104
105 static void conf_sortkey_assign(NMEM nmem, 
106                                 struct conf_sortkey * sortkey,
107                                 const char *name,
108                                 enum conf_sortkey_type type)
109 {
110     assert(nmem && sortkey && name);
111     
112     sortkey->name = nmem_strdup(nmem, name);
113     sortkey->type = type;
114 }
115
116
117 static struct conf_service *service_init(struct conf_server *server,
118                                          int num_metadata, int num_sortkeys,
119                                          const char *service_id)
120 {
121     struct conf_service * service = 0;
122     NMEM nmem = nmem_create();
123
124     service = nmem_malloc(nmem, sizeof(struct conf_service));
125     service->nmem = nmem;
126     service->next = 0;
127     service->settings = 0;
128     service->databases = 0;
129     service->targetprofiles = 0;
130     service->server = server;
131     service->session_timeout = 60; /* default session timeout */
132     service->z3950_session_timeout = 180;
133     service->z3950_connect_timeout = 15;
134
135     service->relevance_pct = 0;
136     service->sort_pct = 0;
137     service->mergekey_pct = 0;
138
139     service->id = service_id ? nmem_strdup(nmem, service_id) : 0;
140     service->num_metadata = num_metadata;
141     service->metadata = 0;
142     if (service->num_metadata)
143       service->metadata 
144           = nmem_malloc(nmem, 
145                         sizeof(struct conf_metadata) * service->num_metadata);
146     service->num_sortkeys = num_sortkeys;
147     service->sortkeys = 0;
148     if (service->num_sortkeys)
149         service->sortkeys 
150             = nmem_malloc(nmem, 
151                           sizeof(struct conf_sortkey) * service->num_sortkeys);
152     service->dictionary = 0;
153     return service; 
154 }
155
156 static struct conf_metadata* conf_service_add_metadata(
157     struct conf_service *service,
158     int field_id,
159     const char *name,
160     enum conf_metadata_type type,
161     enum conf_metadata_merge merge,
162     enum conf_setting_type setting,
163     int brief,
164     int termlist,
165     int rank,
166     int sortkey_offset,
167     enum conf_metadata_mergekey mt)
168 {
169     struct conf_metadata * md = 0;
170
171     if (!service || !service->metadata || !service->num_metadata
172         || field_id < 0  || !(field_id < service->num_metadata))
173         return 0;
174
175     md = service->metadata + field_id;
176     conf_metadata_assign(service->nmem, md, name, type, merge, setting,
177                          brief, termlist, rank, sortkey_offset,
178                          mt);
179     return md;
180 }
181
182
183 static struct conf_sortkey * conf_service_add_sortkey(
184     struct conf_service *service,
185     int field_id,
186     const char *name,
187     enum conf_sortkey_type type)
188 {
189     struct conf_sortkey * sk = 0;
190
191     if (!service || !service->sortkeys || !service->num_sortkeys
192         || field_id < 0  || !(field_id < service->num_sortkeys))
193         return 0;
194
195     //sk = &((service->sortkeys)[field_id]);
196     sk = service->sortkeys + field_id;
197     conf_sortkey_assign(service->nmem, sk, name, type);
198
199     return sk;
200 }
201
202
203 int conf_service_metadata_field_id(struct conf_service *service,
204                                    const char * name)
205 {
206     int i = 0;
207
208     if (!service || !service->metadata || !service->num_metadata)
209         return -1;
210
211     for(i = 0; i < service->num_metadata; i++) {
212         if (!strcmp(name, (service->metadata[i]).name))
213             return i;
214     }
215    
216     return -1;
217 }
218
219
220 int conf_service_sortkey_field_id(struct conf_service *service,
221                                   const char * name)
222 {
223     int i = 0;
224
225     if (!service || !service->sortkeys || !service->num_sortkeys)
226         return -1;
227
228     for(i = 0; i < service->num_sortkeys; i++) {
229         if (!strcmp(name, (service->sortkeys[i]).name))
230             return i;
231     }
232    
233     return -1;
234 }
235
236 static void conf_dir_path(struct conf_config *config, WRBUF w, const char *src)
237 {
238     if (config->confdir && wrbuf_len(config->confdir) > 0 &&
239         !yaz_is_abspath(src))
240     {
241         wrbuf_printf(w, "%s/%s", wrbuf_cstr(config->confdir), src);
242     }
243     else
244         wrbuf_puts(w, src);
245 }
246
247 static void service_destroy(struct conf_service *service)
248 {
249     if (service)
250     {
251         pp2_charset_destroy(service->relevance_pct);
252         pp2_charset_destroy(service->sort_pct);
253         pp2_charset_destroy(service->mergekey_pct);
254         nmem_destroy(service->nmem);
255     }
256 }
257
258 static int parse_metadata(struct conf_service *service, xmlNode *n,
259                           int *md_node, int *sk_node)
260 {
261     xmlChar *xml_name = xmlGetProp(n, (xmlChar *) "name");
262     xmlChar *xml_brief = xmlGetProp(n, (xmlChar *) "brief");
263     xmlChar *xml_sortkey = xmlGetProp(n, (xmlChar *) "sortkey");
264     xmlChar *xml_merge = xmlGetProp(n, (xmlChar *) "merge");
265     xmlChar *xml_type = xmlGetProp(n, (xmlChar *) "type");
266     xmlChar *xml_termlist = xmlGetProp(n, (xmlChar *) "termlist");
267     xmlChar *xml_rank = xmlGetProp(n, (xmlChar *) "rank");
268     xmlChar *xml_setting = xmlGetProp(n, (xmlChar *) "setting");
269     xmlChar *xml_mergekey = xmlGetProp(n, (xmlChar *) "mergekey");
270     
271     enum conf_metadata_type type = Metadata_type_generic;
272     enum conf_metadata_merge merge = Metadata_merge_no;
273     enum conf_setting_type setting = Metadata_setting_no;
274     enum conf_sortkey_type sk_type = Metadata_sortkey_relevance;
275     enum conf_metadata_mergekey mergekey_type = Metadata_mergekey_no;
276     int brief = 0;
277     int termlist = 0;
278     int rank = 0;
279     int sortkey_offset = 0;
280     
281     // now do the parsing logic
282     if (!xml_name)
283     {
284         yaz_log(YLOG_FATAL, "Must specify name in metadata element");
285         return -1;
286     }
287     if (xml_brief)
288     {
289         if (!strcmp((const char *) xml_brief, "yes"))
290             brief = 1;
291         else if (strcmp((const char *) xml_brief, "no"))
292         {
293             yaz_log(YLOG_FATAL, "metadata/brief must be yes or no");
294             return -1;
295         }
296     }
297     else
298         brief = 0;
299     
300     if (xml_termlist)
301     {
302         if (!strcmp((const char *) xml_termlist, "yes"))
303             termlist = 1;
304         else if (strcmp((const char *) xml_termlist, "no"))
305         {
306             yaz_log(YLOG_FATAL, "metadata/termlist must be yes or no");
307             return -1;
308         }
309     }
310     else
311         termlist = 0;
312     
313     if (xml_rank)
314         rank = atoi((const char *) xml_rank);
315     else
316         rank = 0;
317     
318     if (xml_type)
319     {
320         if (!strcmp((const char *) xml_type, "generic"))
321             type = Metadata_type_generic;
322         else if (!strcmp((const char *) xml_type, "year"))
323             type = Metadata_type_year;
324         else if (!strcmp((const char *) xml_type, "date"))
325             type = Metadata_type_date;
326         else
327         {
328             yaz_log(YLOG_FATAL, 
329                     "Unknown value for metadata/type: %s", xml_type);
330             return -1;
331         }
332     }
333     else
334         type = Metadata_type_generic;
335     
336     if (xml_merge)
337     {
338         if (!strcmp((const char *) xml_merge, "no"))
339             merge = Metadata_merge_no;
340         else if (!strcmp((const char *) xml_merge, "unique"))
341             merge = Metadata_merge_unique;
342         else if (!strcmp((const char *) xml_merge, "longest"))
343             merge = Metadata_merge_longest;
344         else if (!strcmp((const char *) xml_merge, "range"))
345             merge = Metadata_merge_range;
346         else if (!strcmp((const char *) xml_merge, "all"))
347             merge = Metadata_merge_all;
348         else
349         {
350             yaz_log(YLOG_FATAL, 
351                     "Unknown value for metadata/merge: %s", xml_merge);
352             return -1;
353         }
354     }
355     else
356         merge = Metadata_merge_no;
357     
358     if (xml_setting)
359     {
360         if (!strcmp((const char *) xml_setting, "no"))
361             setting = Metadata_setting_no;
362         else if (!strcmp((const char *) xml_setting, "postproc"))
363             setting = Metadata_setting_postproc;
364         else if (!strcmp((const char *) xml_setting, "parameter"))
365             setting = Metadata_setting_parameter;
366         else
367         {
368             yaz_log(YLOG_FATAL,
369                     "Unknown value for medadata/setting: %s", xml_setting);
370             return -1;
371         }
372     }
373     
374     // add a sortkey if so specified
375     if (xml_sortkey && strcmp((const char *) xml_sortkey, "no"))
376     {
377         if (merge == Metadata_merge_no)
378         {
379             yaz_log(YLOG_FATAL, 
380                     "Can't specify sortkey on a non-merged field");
381             return -1;
382         }
383         if (!strcmp((const char *) xml_sortkey, "numeric"))
384             sk_type = Metadata_sortkey_numeric;
385         else if (!strcmp((const char *) xml_sortkey, "skiparticle"))
386             sk_type = Metadata_sortkey_skiparticle;
387         else
388         {
389             yaz_log(YLOG_FATAL,
390                     "Unknown sortkey in metadata element: %s", 
391                     xml_sortkey);
392             return -1;
393         }
394         sortkey_offset = *sk_node;
395         
396         conf_service_add_sortkey(service, *sk_node,
397                                  (const char *) xml_name, sk_type);
398         
399         (*sk_node)++;
400     }
401     else
402         sortkey_offset = -1;
403     
404     if (xml_mergekey && strcmp((const char *) xml_mergekey, "no"))
405     {
406         mergekey_type = Metadata_mergekey_yes;
407     }
408     
409     
410     // metadata known, assign values
411     conf_service_add_metadata(service, *md_node,
412                               (const char *) xml_name,
413                               type, merge, setting,
414                               brief, termlist, rank, sortkey_offset,
415                               mergekey_type);
416     
417     xmlFree(xml_name);
418     xmlFree(xml_brief);
419     xmlFree(xml_sortkey);
420     xmlFree(xml_merge);
421     xmlFree(xml_type);
422     xmlFree(xml_termlist);
423     xmlFree(xml_rank);
424     xmlFree(xml_setting);
425     (*md_node)++;
426     return 0;
427 }
428
429 static struct conf_service *service_create(struct conf_server *server,
430                                            xmlNode *node,
431                                            const char *service_id)
432 {
433     xmlNode *n;
434     int md_node = 0;
435     int sk_node = 0;
436
437     struct conf_service *service = 0;
438     int num_metadata = 0;
439     int num_sortkeys = 0;
440     int got_settings = 0;
441     
442     // count num_metadata and num_sortkeys
443     for (n = node->children; n; n = n->next)
444         if (n->type == XML_ELEMENT_NODE && !strcmp((const char *)
445                                                    n->name, "metadata"))
446         {
447             xmlChar *sortkey = xmlGetProp(n, (xmlChar *) "sortkey");
448             num_metadata++;
449             if (sortkey && strcmp((const char *) sortkey, "no"))
450                 num_sortkeys++;
451             xmlFree(sortkey);
452         }
453
454     service = service_init(server, num_metadata, num_sortkeys, service_id);
455
456     for (n = node->children; n; n = n->next)
457     {
458         if (n->type != XML_ELEMENT_NODE)
459             continue;
460         if (!strcmp((const char *) n->name, "timeout"))
461         {
462             xmlChar *src = xmlGetProp(n, (xmlChar *) "session");
463             if (src)
464             {
465                 service->session_timeout = atoi((const char *) src);
466                 xmlFree(src);
467                 if (service->session_timeout < 9)
468                 {
469                     yaz_log(YLOG_FATAL, "session timeout out of range");
470                     return 0;
471                 }
472             }
473             src = xmlGetProp(n, (xmlChar *) "z3950_connect");
474             if (src)
475             {
476                 service->z3950_connect_timeout = atoi((const char *) src);
477                 xmlFree(src);
478                 if (service->z3950_session_timeout < 9)
479                 {
480                     yaz_log(YLOG_FATAL, "Z39.50 connect timeout out of range");
481                     return 0;
482                 }
483             }
484             src = xmlGetProp(n, (xmlChar *) "z3950_session");
485             if (src)
486             {
487                 service->z3950_session_timeout = atoi((const char *) src);
488                 xmlFree(src);
489                 if (service->z3950_session_timeout < 9)
490                 {
491                     yaz_log(YLOG_FATAL, "Z39.50 session timeout out of range");
492                     return 0;
493                 }
494             }
495         }
496         else if (!strcmp((const char *) n->name, "settings"))
497             got_settings++;
498         else if (!strcmp((const char *) n->name, (const char *) "targetprofiles"))
499         {
500             if (service->targetprofiles)
501             {
502                 yaz_log(YLOG_FATAL, "Can't repeat targetprofiles");
503                 return 0;
504             }
505             if (!(service->targetprofiles = 
506                   parse_targetprofiles(service->nmem, n)))
507                 return 0;
508         }
509         else if (!strcmp((const char *) n->name, "relevance"))
510         {
511             if (service->relevance_pct)
512             {
513                 yaz_log(YLOG_LOG, "relevance may not repeat in service");
514                 return 0;
515             }
516             else
517             {
518                 service->relevance_pct = pp2_charset_create_xml(n);
519                 if (!service->relevance_pct)
520                     return 0;
521             }
522         }
523         else if (!strcmp((const char *) n->name, "sort"))
524         {
525             if (service->sort_pct)
526             {
527                 yaz_log(YLOG_LOG, "sort may not repeat in service");
528                 return 0;
529             }
530             else
531             {
532                 service->sort_pct = pp2_charset_create_xml(n);
533                 if (!service->sort_pct)
534                     return 0;
535             }
536         }
537         else if (!strcmp((const char *) n->name, "mergekey"))
538         {
539             if (service->mergekey_pct)
540             {
541                 yaz_log(YLOG_LOG, "mergekey may not repeat in service");
542                 return 0;
543             }
544             else
545             {
546                 service->mergekey_pct = pp2_charset_create_xml(n);
547                 if (!service->mergekey_pct)
548                     return 0;
549             }
550         }
551         else if (!strcmp((const char *) n->name, (const char *) "metadata"))
552         {
553             if (parse_metadata(service, n, &md_node, &sk_node))
554                 return 0;
555         }
556         else
557         {
558             yaz_log(YLOG_FATAL, "Bad element: %s", n->name);
559             return 0;
560         }
561     }
562     if (got_settings)
563     {
564         int pass;
565         /* metadata has been read.. Consider now settings */
566         init_settings(service);
567         for (pass = 1; pass <= 2; pass++)
568         {
569             for (n = node->children; n; n = n->next)
570             {
571                 if (n->type != XML_ELEMENT_NODE)
572                     continue;
573                 if (!strcmp((const char *) n->name, "settings"))
574                 {
575                     xmlChar *src = xmlGetProp(n, (xmlChar *) "src");
576                     if (src)
577                     {
578                         WRBUF w = wrbuf_alloc();
579                         conf_dir_path(server->config, w, (const char *) src);
580                         settings_read_file(service, wrbuf_cstr(w), pass);
581                         wrbuf_destroy(w);
582                         xmlFree(src);
583                     }
584                     else
585                     {
586                         settings_read_node(service, n, pass);
587                     }
588                 }
589             }
590         }
591     }
592     return service;
593 }
594
595 static char *parse_settings(struct conf_config *config,
596                             NMEM nmem, xmlNode *node)
597 {
598     xmlChar *src = xmlGetProp(node, (xmlChar *) "src");
599     char *r;
600
601     if (src)
602     {
603         WRBUF w = wrbuf_alloc();
604         conf_dir_path(config, w, (const char *) src);
605         r = nmem_strdup(nmem, wrbuf_cstr(w));
606         wrbuf_destroy(w);
607     }
608     else
609     {
610         yaz_log(YLOG_FATAL, "Must specify src in targetprofile");
611         return 0;
612     }
613     xmlFree(src);
614     return r;
615 }
616
617 static void inherit_server_settings(struct conf_server *server)
618 {
619     struct conf_service *s;
620     for (s = server->service; s; s = s->next)
621     {
622         if (!s->dictionary) /* service has no config settings ? */
623         {
624             if (server->server_settings)
625             {
626                 /* inherit settings from server */
627                 init_settings(s);
628                 settings_read_file(s, server->server_settings, 1);
629                 settings_read_file(s, server->server_settings, 2);
630             }
631             else
632             {
633                 yaz_log(YLOG_WARN, "service '%s' has no settings",
634                         s->id ? s->id : "unnamed");
635                 init_settings(s);
636             }
637         }
638
639         /* use relevance/sort/mergekey from server if not defined
640            for this service.. */
641         if (!s->relevance_pct)
642         {
643             if (server->relevance_pct)
644             {
645                 s->relevance_pct = server->relevance_pct;
646                 pp2_charset_incref(s->relevance_pct);
647             }
648             else
649                 s->relevance_pct = pp2_charset_create(0);
650         }
651         
652         if (!s->sort_pct)
653         {
654             if (server->sort_pct)
655             {
656                 s->sort_pct = server->sort_pct;
657                 pp2_charset_incref(s->sort_pct);
658             }
659             else
660                 s->sort_pct = pp2_charset_create(0);
661         }
662         
663         if (!s->mergekey_pct)
664         {
665             if (server->mergekey_pct)
666             {
667                 s->mergekey_pct = server->mergekey_pct;
668                 pp2_charset_incref(s->mergekey_pct);
669             }
670             else
671                 s->mergekey_pct = pp2_charset_create(0);
672         }
673     }
674 }
675
676 static struct conf_server *server_create(struct conf_config *config,
677                                          NMEM nmem, xmlNode *node)
678 {
679     xmlNode *n;
680     struct conf_server *server = nmem_malloc(nmem, sizeof(struct conf_server));
681
682     server->host = 0;
683     server->port = 0;
684     server->proxy_host = 0;
685     server->proxy_port = 0;
686     server->myurl = 0;
687     server->proxy_addr = 0;
688     server->service = 0;
689     server->config = config;
690     server->next = 0;
691     server->relevance_pct = 0;
692     server->sort_pct = 0;
693     server->mergekey_pct = 0;
694     server->server_settings = 0;
695
696     for (n = node->children; n; n = n->next)
697     {
698         if (n->type != XML_ELEMENT_NODE)
699             continue;
700         if (!strcmp((const char *) n->name, "listen"))
701         {
702             xmlChar *port = xmlGetProp(n, (xmlChar *) "port");
703             xmlChar *host = xmlGetProp(n, (xmlChar *) "host");
704             if (port)
705                 server->port = atoi((const char *) port);
706             if (host)
707                 server->host = nmem_strdup(nmem, (const char *) host);
708             xmlFree(port);
709             xmlFree(host);
710         }
711         else if (!strcmp((const char *) n->name, "proxy"))
712         {
713             xmlChar *port = xmlGetProp(n, (xmlChar *) "port");
714             xmlChar *host = xmlGetProp(n, (xmlChar *) "host");
715             xmlChar *myurl = xmlGetProp(n, (xmlChar *) "myurl");
716             if (port)
717                 server->proxy_port = atoi((const char *) port);
718             if (host)
719                 server->proxy_host = nmem_strdup(nmem, (const char *) host);
720             if (myurl)
721                 server->myurl = nmem_strdup(nmem, (const char *) myurl);
722             xmlFree(port);
723             xmlFree(host);
724             xmlFree(myurl);
725         }
726         else if (!strcmp((const char *) n->name, "settings"))
727         {
728             if (server->server_settings)
729             {
730                 yaz_log(YLOG_FATAL, "Can't repeat 'settings'");
731                 return 0;
732             }
733             if (!(server->server_settings = parse_settings(config, nmem, n)))
734                 return 0;
735         }
736         else if (!strcmp((const char *) n->name, "relevance"))
737         {
738             server->relevance_pct = pp2_charset_create_xml(n);
739             if (!server->relevance_pct)
740                 return 0;
741         }
742         else if (!strcmp((const char *) n->name, "sort"))
743         {
744             server->sort_pct = pp2_charset_create_xml(n);
745             if (!server->sort_pct)
746                 return 0;
747         }
748         else if (!strcmp((const char *) n->name, "mergekey"))
749         {
750             server->mergekey_pct = pp2_charset_create_xml(n);
751             if (!server->mergekey_pct)
752                 return 0;
753         }
754         else if (!strcmp((const char *) n->name, "service"))
755         {
756             char *service_id = (char *)
757                 xmlGetProp(n, (xmlChar *) "id");
758
759             struct conf_service **sp = &server->service;
760             for (; *sp; sp = &(*sp)->next)
761                 if ((*sp)->id && service_id &&
762                     0 == strcmp((*sp)->id, service_id))
763                 {
764                     yaz_log(YLOG_FATAL, "Duplicate service: %s", service_id);
765                     break;
766                 }
767                 else if (!(*sp)->id && !service_id)
768                 {
769                     yaz_log(YLOG_FATAL, "Duplicate unnamed service '%s'",
770                         service_id);
771                     break;
772                 }
773
774             if (*sp)  /* service already exist */
775             {
776                 xmlFree(service_id);
777                 return 0;
778             }
779             else
780             {
781                 struct conf_service *s = service_create(server, n,
782                                                         service_id);
783                 xmlFree(service_id);
784                 if (!s)
785                     return 0;
786                 *sp = s;
787             }
788         }
789         else
790         {
791             yaz_log(YLOG_FATAL, "Bad element: %s", n->name);
792             return 0;
793         }
794     }
795     inherit_server_settings(server);
796     return server;
797 }
798
799 xsltStylesheet *conf_load_stylesheet(struct conf_service *service,
800                                      const char *fname)
801 {
802     struct conf_config *config = service->server->config;
803     WRBUF w = wrbuf_alloc();
804     xsltStylesheet *s;
805
806     conf_dir_path(config, w, fname);
807     s = xsltParseStylesheetFile((xmlChar *) wrbuf_cstr(w));
808     wrbuf_destroy(w);
809     return s;
810 }
811
812 static struct conf_targetprofiles *parse_targetprofiles(NMEM nmem,
813                                                         xmlNode *node)
814 {
815     struct conf_targetprofiles *r = nmem_malloc(nmem, sizeof(*r));
816     xmlChar *type = xmlGetProp(node, (xmlChar *) "type");
817     xmlChar *src = xmlGetProp(node, (xmlChar *) "src");
818
819     memset(r, 0, sizeof(*r));
820
821     if (type)
822     {
823         if (!strcmp((const char *) type, "local"))
824             r->type = Targetprofiles_local;
825         else
826         {
827             yaz_log(YLOG_FATAL, "Unknown targetprofile type");
828             return 0;
829         }
830     }
831     else
832     {
833         yaz_log(YLOG_FATAL, "Must specify type for targetprofile");
834         return 0;
835     }
836
837     if (src)
838         r->src = nmem_strdup(nmem, (const char *) src);
839     else
840     {
841         yaz_log(YLOG_FATAL, "Must specify src in targetprofile");
842         return 0;
843     }
844     xmlFree(type);
845     xmlFree(src);
846     return r;
847 }
848
849 struct conf_service *locate_service(struct conf_server *server,
850                                     const char *service_id)
851 {
852     struct conf_service *s = server->service;
853     for (; s; s = s->next)
854         if (s->id && service_id && 0 == strcmp(s->id, service_id))
855             return s;
856         else if (!s->id && !service_id)
857             return s;
858     return 0;
859 }
860
861
862 static int parse_config(struct conf_config *config, xmlNode *root)
863 {
864     xmlNode *n;
865
866     for (n = root->children; n; n = n->next)
867     {
868         if (n->type != XML_ELEMENT_NODE)
869             continue;
870         if (!strcmp((const char *) n->name, "server"))
871         {
872             struct conf_server *tmp = server_create(config, config->nmem, n);
873             if (!tmp)
874                 return -1;
875             tmp->next = config->servers;
876             config->servers = tmp;
877         }
878         else if (!strcmp((const char *) n->name, "targetprofiles"))
879         {
880             yaz_log(YLOG_FATAL, "targetprofiles unsupported here. Must be part of service");
881             return -1;
882
883         }
884         else
885         {
886             yaz_log(YLOG_FATAL, "Bad element: %s", n->name);
887             return -1;
888         }
889     }
890     return 0;
891 }
892
893 static int process_config_includes(struct conf_config *config, xmlNode *n);
894
895 static int config_include_one(struct conf_config *config, xmlNode **sib,
896     const char *path)
897 {
898     struct stat st;
899     if (stat(path, &st) < 0)
900     {
901         yaz_log(YLOG_FATAL|YLOG_ERRNO, "stat %s", path);
902         return -1;
903     }
904     else
905     {
906         if ((st.st_mode & S_IFMT) == S_IFREG)
907         {
908             xmlDoc *doc = xmlParseFile(path);
909             if (doc)
910             {
911                 xmlNodePtr t = xmlDocGetRootElement(doc);
912                 int ret = process_config_includes(config, t);
913                 *sib = xmlAddNextSibling(*sib, xmlCopyNode(t, 1));
914                 xmlFreeDoc(doc);
915                 if (ret)
916                     return -1;
917             }
918             else
919             {
920                 yaz_log(YLOG_FATAL, "Could not parse %s", path);
921                 return -1;
922             }
923         }
924     }
925     return 0;
926 }
927
928 static int config_include_src(struct conf_config *config, xmlNode **np,
929                               const char *src)
930 {
931     int ret = 0; /* return code. OK so far */
932     WRBUF w = wrbuf_alloc();
933     xmlNodePtr sib; /* our sibling that we append */
934     xmlNodePtr c; /* tmp node */
935
936     wrbuf_printf(w, " begin include src=\"%s\" ", src);
937
938     /* replace include element with a 'begin' comment */
939     sib = xmlNewComment((const xmlChar *) wrbuf_cstr(w));
940     xmlReplaceNode(*np, sib);
941
942     xmlFreeNode(*np);
943
944     wrbuf_rewind(w);
945     conf_dir_path(config, w, src);
946 #if USE_POSIX_GLOB
947     {
948         size_t i;
949         glob_t glob_res;
950         glob(wrbuf_cstr(w), 0 /* flags */, 0 /* errfunc */, &glob_res);
951         
952         for (i = 0; ret == 0 && i < glob_res.gl_pathc; i++)
953         {
954             const char *path = glob_res.gl_pathv[i];
955             ret = config_include_one(config, &sib, path);
956         }
957         globfree(&glob_res);
958     }
959 #else
960     ret = config_include_one(config, &sib, wrbuf_cstr(w));
961 #endif
962     wrbuf_rewind(w);
963     wrbuf_printf(w, " end include src=\"%s\" ", src);
964     c = xmlNewComment((const xmlChar *) wrbuf_cstr(w));
965     sib = xmlAddNextSibling(sib, c);
966     
967     *np = sib;
968     wrbuf_destroy(w);
969     return ret;
970 }
971
972 static int process_config_includes(struct conf_config *config, xmlNode *n)
973 {
974     for (; n; n = n->next)
975     {
976         if (n->type == XML_ELEMENT_NODE)
977         {
978             if (!strcmp((const char *) n->name, "include"))
979             {
980                 xmlChar *src = xmlGetProp(n, (xmlChar *) "src");
981                 if (src)
982                 {
983                     int ret = config_include_src(config, &n,
984                                                  (const char *) src);
985                     xmlFree(src);
986                     if (ret)
987                         return ret;
988                         
989                 }
990             }
991             else
992             {
993                 if (process_config_includes(config, n->children))
994                     return -1;
995             }
996         }
997     }
998     return 0;
999 }
1000
1001 struct conf_config *config_create(const char *fname, int verbose)
1002 {
1003     xmlDoc *doc = xmlParseFile(fname);
1004     xmlNode *n;
1005     const char *p;
1006     int r;
1007     NMEM nmem = nmem_create();
1008     struct conf_config *config = nmem_malloc(nmem, sizeof(struct conf_config));
1009
1010     xmlSubstituteEntitiesDefault(1);
1011     xmlLoadExtDtdDefaultValue = 1;
1012     if (!doc)
1013     {
1014         yaz_log(YLOG_FATAL, "Failed to read %s", fname);
1015         nmem_destroy(nmem);
1016         return 0;
1017     }
1018
1019     config->nmem = nmem;
1020     config->servers = 0;
1021
1022     config->confdir = wrbuf_alloc();
1023     if ((p = strrchr(fname, 
1024 #ifdef WIN32
1025                      '\\'
1026 #else
1027                      '/'
1028 #endif
1029              )))
1030     {
1031         int len = p - fname;
1032         wrbuf_write(config->confdir, fname, len);
1033     }
1034     wrbuf_puts(config->confdir, "");
1035     
1036     n = xmlDocGetRootElement(doc);
1037     r = process_config_includes(config, n);
1038     if (r == 0) /* OK */
1039     {
1040         if (verbose)
1041         {
1042             yaz_log(YLOG_LOG, "Configuration %s after include processing",
1043                     fname);
1044             xmlDocFormatDump(yaz_log_file(), doc, 0);
1045         }
1046         r = parse_config(config, n);
1047     }
1048     xmlFreeDoc(doc);
1049
1050     if (r)
1051     {
1052         config_destroy(config);
1053         return 0;
1054     }
1055     return config;
1056 }
1057
1058 void server_destroy(struct conf_server *server)
1059 {
1060     struct conf_service *s = server->service;
1061     while (s)
1062     {
1063         struct conf_service *s_next = s->next;
1064         service_destroy(s);
1065         s = s_next;
1066     }
1067     pp2_charset_destroy(server->relevance_pct);
1068     pp2_charset_destroy(server->sort_pct);
1069     pp2_charset_destroy(server->mergekey_pct);
1070 }
1071
1072 void config_destroy(struct conf_config *config)
1073 {
1074     if (config)
1075     {
1076         struct conf_server *server = config->servers;
1077         while (server)
1078         {
1079             struct conf_server *s_next = server->next;
1080             server_destroy(server);
1081             server = s_next;
1082         }
1083         wrbuf_destroy(config->confdir);
1084         nmem_destroy(config->nmem);
1085     }
1086 }
1087
1088 void config_stop_listeners(struct conf_config *conf)
1089 {
1090     struct conf_server *ser;
1091     for (ser = conf->servers; ser; ser = ser->next)
1092         http_close_server(ser);
1093 }
1094
1095 void config_start_databases(struct conf_config *conf)
1096 {
1097     struct conf_server *ser;
1098     for (ser = conf->servers; ser; ser = ser->next)
1099     {
1100         struct conf_service *s = ser->service;
1101         for (;s ; s = s->next)
1102             resolve_databases(s);
1103     }
1104 }
1105
1106 int config_start_listeners(struct conf_config *conf,
1107                            const char *listener_override)
1108 {
1109     struct conf_server *ser;
1110     for (ser = conf->servers; ser; ser = ser->next)
1111     {
1112         WRBUF w = wrbuf_alloc();
1113         int r;
1114         if (listener_override)
1115         {
1116             wrbuf_puts(w, listener_override);
1117             listener_override = 0; /* only first server is overriden */
1118         }
1119         else
1120         {
1121             if (ser->host)
1122                 wrbuf_puts(w, ser->host);
1123             if (ser->port)
1124             {
1125                 if (wrbuf_len(w))
1126                     wrbuf_puts(w, ":");
1127                 wrbuf_printf(w, "%d", ser->port);
1128             }
1129         }
1130         r = http_init(wrbuf_cstr(w), ser);
1131         wrbuf_destroy(w);
1132         if (r)
1133             return -1;
1134
1135         w = wrbuf_alloc();
1136         if (ser->proxy_host || ser->proxy_port)
1137         {
1138             if (ser->proxy_host)
1139                 wrbuf_puts(w, ser->proxy_host);
1140             if (ser->proxy_port)
1141             {
1142                 if (wrbuf_len(w))
1143                     wrbuf_puts(w, ":");
1144                 wrbuf_printf(w, "%d", ser->proxy_port);
1145             }
1146         }
1147         if (wrbuf_len(w))
1148             http_set_proxyaddr(wrbuf_cstr(w), ser);
1149         wrbuf_destroy(w);
1150     }
1151     return 0;
1152 }
1153
1154 /*
1155  * Local variables:
1156  * c-basic-offset: 4
1157  * c-file-style: "Stroustrup"
1158  * indent-tabs-mode: nil
1159  * End:
1160  * vim: shiftwidth=4 tabstop=8 expandtab
1161  */
1162