src/pazpar2_config.c

   1 /* This file is part of Pazpar2.
   2    Copyright (C) 2006-2012 Index Data
   3
   4 Pazpar2 is free software; you can redistribute it and/or modify it under
   5 the terms of the GNU General Public License as published by the Free
   6 Software Foundation; either version 2, or (at your option) any later
   7 version.
   8
   9 Pazpar2 is distributed in the hope that it will be useful, but WITHOUT ANY
  10 WARRANTY; without even the implied warranty of MERCHANTABILITY or
  11 FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
  12 for more details.
  13
  14 You should have received a copy of the GNU General Public License
  15 along with this program; if not, write to the Free Software
  16 Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
  17
  18 */
  19
  20 #if HAVE_CONFIG_H
  21 #include <config.h>
  22 #endif
  23
  24 #include <string.h>
  25 #include <assert.h>
  26
  27 #include <libxml/parser.h>
  28 #include <libxml/tree.h>
  29
  30 #include <yaz/yaz-util.h>
  31 #include <yaz/nmem.h>
  32 #include <yaz/snprintf.h>
  33 #include <yaz/tpath.h>
  34 #include <yaz/xml_include.h>
  35
  36 #include <sys/types.h>
  37 #include <sys/stat.h>
  38 #if HAVE_UNISTD_H
  39 #include <unistd.h>
  40 #endif
  41 #include "ppmutex.h"
  42 #include "incref.h"
  43 #include "pazpar2_config.h"
  44 #include "service_xslt.h"
  45 #include "settings.h"
  46 #include "eventl.h"
  47 #include "http.h"
  48
  49 struct conf_config
  50 {
  51     NMEM nmem; /* for conf_config and servers memory */
  52     struct conf_server *servers;
  53
  54     int no_threads;
  55     WRBUF confdir;
  56     iochan_man_t iochan_man;
  57     database_hosts_t database_hosts;
  58 };
  59
  60 struct service_xslt
  61 {
  62     char *id;
  63     xsltStylesheetPtr xsp;
  64     struct service_xslt *next;
  65 };
  66
  67 static void conf_metadata_assign(NMEM nmem,
  68                                  struct conf_metadata * metadata,
  69                                  const char *name,
  70                                  enum conf_metadata_type type,
  71                                  enum conf_metadata_merge merge,
  72                                  enum conf_setting_type setting,
  73                                  int brief,
  74                                  int termlist,
  75                                  const char *rank,
  76                                  int sortkey_offset,
  77                                  enum conf_metadata_mergekey mt,
  78                                  const char *facetrule,
  79                                  const char *limitmap)
  80 {
  81     assert(nmem && metadata && name);
  82
  83     metadata->name = nmem_strdup(nmem, name);
  84
  85     metadata->type = type;
  86
  87     // enforcing that type_year is always range_merge
  88     if (metadata->type == Metadata_type_year)
  89         metadata->merge = Metadata_merge_range;
  90     else
  91         metadata->merge = merge;
  92
  93     metadata->setting = setting;
  94     metadata->brief = brief;
  95     metadata->termlist = termlist;
  96     metadata->rank = nmem_strdup_null(nmem, rank);
  97     metadata->sortkey_offset = sortkey_offset;
  98     metadata->mergekey = mt;
  99     metadata->facetrule = nmem_strdup_null(nmem, facetrule);
 100     metadata->limitmap = nmem_strdup_null(nmem, limitmap);
 101 }
 102
 103
 104 static void conf_sortkey_assign(NMEM nmem,
 105                                 struct conf_sortkey * sortkey,
 106                                 const char *name,
 107                                 enum conf_sortkey_type type)
 108 {
 109     assert(nmem && sortkey && name);
 110
 111     sortkey->name = nmem_strdup(nmem, name);
 112     sortkey->type = type;
 113 }
 114
 115 struct conf_service *service_init(struct conf_server *server,
 116                                          int num_metadata, int num_sortkeys,
 117                                          const char *service_id)
 118 {
 119     struct conf_service * service = 0;
 120     NMEM nmem = nmem_create();
 121
 122
 123     service = nmem_malloc(nmem, sizeof(struct conf_service));
 124     service->mutex = 0;
 125     service->ref_count = 1;
 126     service->nmem = nmem;
 127     service->next = 0;
 128     service->databases = 0;
 129     service->xslt_list = 0;
 130     service->ccl_bibset = 0;
 131     service->server = server;
 132     service->session_timeout = 60; /* default session timeout */
 133     service->z3950_session_timeout = 180;
 134     service->z3950_operation_timeout = 30;
 135     service->rank_cluster = 1;
 136     service->rank_debug = 0;
 137
 138     service->charsets = 0;
 139
 140     service->id = service_id ? nmem_strdup(nmem, service_id) : 0;
 141
 142     // Setup a dictionary from server.
 143     service->dictionary = 0;
 144
 145     service->settings = nmem_malloc(nmem, sizeof(*service->settings));
 146     service->settings->num_settings = PZ_MAX_EOF;
 147     service->settings->settings = nmem_malloc(nmem, sizeof(struct setting*) * service->settings->num_settings);
 148     memset(service->settings->settings, 0, sizeof(struct setting*) * service->settings->num_settings);
 149     //  inherit_server_settings_values(service);
 150
 151     service->next = 0;
 152
 153     service->num_metadata = num_metadata;
 154
 155     service->metadata = 0;
 156     if (service->num_metadata)
 157         service->metadata
 158             = nmem_malloc(nmem,
 159                           sizeof(struct conf_metadata) * service->num_metadata);
 160     service->num_sortkeys = num_sortkeys;
 161
 162     service->default_sort = nmem_strdup(nmem, "relevance");
 163     service->sortkeys = 0;
 164     if (service->num_sortkeys)
 165         service->sortkeys
 166             = nmem_malloc(nmem,
 167                           sizeof(struct conf_sortkey) * service->num_sortkeys);
 168
 169
 170     return service;
 171 }
 172
 173 static struct conf_metadata* conf_service_add_metadata(
 174     struct conf_service *service,
 175     int field_id,
 176     const char *name,
 177     enum conf_metadata_type type,
 178     enum conf_metadata_merge merge,
 179     enum conf_setting_type setting,
 180     int brief,
 181     int termlist,
 182     const char *rank,
 183     int sortkey_offset,
 184     enum conf_metadata_mergekey mt,
 185     const char *facetrule,
 186     const char *limitmap
 187     )
 188 {
 189     struct conf_metadata * md = 0;
 190
 191     if (!service || !service->metadata || !service->num_metadata
 192         || field_id < 0  || !(field_id < service->num_metadata))
 193         return 0;
 194
 195     md = service->metadata + field_id;
 196     conf_metadata_assign(service->nmem, md, name, type, merge, setting,
 197                          brief, termlist, rank, sortkey_offset,
 198                          mt, facetrule, limitmap);
 199     return md;
 200 }
 201
 202 static struct conf_sortkey * conf_service_add_sortkey(
 203     struct conf_service *service,
 204     int field_id,
 205     const char *name,
 206     enum conf_sortkey_type type)
 207 {
 208     struct conf_sortkey * sk = 0;
 209
 210     if (!service || !service->sortkeys || !service->num_sortkeys
 211         || field_id < 0 || !(field_id < service->num_sortkeys))
 212         return 0;
 213
 214     //sk = &((service->sortkeys)[field_id]);
 215     sk = service->sortkeys + field_id;
 216     conf_sortkey_assign(service->nmem, sk, name, type);
 217
 218     return sk;
 219 }
 220
 221 int conf_service_metadata_field_id(struct conf_service *service,
 222                                    const char * name)
 223 {
 224     int i = 0;
 225
 226     if (!service || !service->metadata || !service->num_metadata)
 227         return -1;
 228
 229     for (i = 0; i < service->num_metadata; i++)
 230         if (!strcmp(name, (service->metadata[i]).name))
 231             return i;
 232     return -1;
 233 }
 234
 235 int conf_service_sortkey_field_id(struct conf_service *service,
 236                                   const char * name)
 237 {
 238     int i = 0;
 239
 240     if (!service || !service->sortkeys || !service->num_sortkeys)
 241         return -1;
 242
 243     for (i = 0; i < service->num_sortkeys; i++)
 244         if (!strcmp(name, (service->sortkeys[i]).name))
 245             return i;
 246     return -1;
 247 }
 248
 249 static void conf_dir_path(struct conf_config *config, WRBUF w, const char *src)
 250 {
 251     if (config->confdir && wrbuf_len(config->confdir) > 0 &&
 252         !yaz_is_abspath(src))
 253     {
 254         wrbuf_printf(w, "%s/%s", wrbuf_cstr(config->confdir), src);
 255     }
 256     else
 257         wrbuf_puts(w, src);
 258 }
 259
 260 void service_destroy(struct conf_service *service)
 261 {
 262     if (service)
 263     {
 264         if (!pazpar2_decref(&service->ref_count, service->mutex))
 265         {
 266             service_xslt_destroy(service);
 267             pp2_charset_fact_destroy(service->charsets);
 268             ccl_qual_rm(&service->ccl_bibset);
 269             yaz_mutex_destroy(&service->mutex);
 270             nmem_destroy(service->nmem);
 271         }
 272     }
 273 }
 274
 275 void service_incref(struct conf_service *service)
 276 {
 277     yaz_log(YLOG_LOG, "service_incref. p=%p cnt=%d", service,
 278             service->ref_count);
 279     pazpar2_incref(&service->ref_count, service->mutex);
 280 }
 281
 282 static int parse_metadata(struct conf_service *service, xmlNode *n,
 283                           int *md_node, int *sk_node)
 284 {
 285     enum conf_metadata_type type = Metadata_type_generic;
 286     enum conf_metadata_merge merge = Metadata_merge_no;
 287     enum conf_setting_type setting = Metadata_setting_no;
 288     enum conf_metadata_mergekey mergekey_type = Metadata_mergekey_no;
 289     int brief = 0;
 290     int termlist = 0;
 291     int sortkey_offset = 0;
 292     xmlChar *xml_name = 0;
 293     xmlChar *xml_brief = 0;
 294     xmlChar *xml_sortkey = 0;
 295     xmlChar *xml_merge = 0;
 296     xmlChar *xml_type = 0;
 297     xmlChar *xml_termlist = 0;
 298     xmlChar *xml_rank = 0;
 299     xmlChar *xml_setting = 0;
 300     xmlChar *xml_mergekey = 0;
 301     xmlChar *xml_limitmap = 0;
 302     xmlChar *xml_icu_chain = 0;
 303
 304     struct _xmlAttr *attr;
 305     for (attr = n->properties; attr; attr = attr->next)
 306     {
 307         if (!xmlStrcmp(attr->name, BAD_CAST "name") &&
 308             attr->children && attr->children->type == XML_TEXT_NODE)
 309             xml_name = attr->children->content;
 310         else if (!xmlStrcmp(attr->name, BAD_CAST "brief") &&
 311                  attr->children && attr->children->type == XML_TEXT_NODE)
 312             xml_brief = attr->children->content;
 313         else if (!xmlStrcmp(attr->name, BAD_CAST "sortkey") &&
 314                  attr->children && attr->children->type == XML_TEXT_NODE)
 315             xml_sortkey = attr->children->content;
 316         else if (!xmlStrcmp(attr->name, BAD_CAST "merge") &&
 317                  attr->children && attr->children->type == XML_TEXT_NODE)
 318             xml_merge = attr->children->content;
 319         else if (!xmlStrcmp(attr->name, BAD_CAST "type") &&
 320                  attr->children && attr->children->type == XML_TEXT_NODE)
 321             xml_type = attr->children->content;
 322         else if (!xmlStrcmp(attr->name, BAD_CAST "termlist") &&
 323                  attr->children && attr->children->type == XML_TEXT_NODE)
 324             xml_termlist = attr->children->content;
 325         else if (!xmlStrcmp(attr->name, BAD_CAST "rank") &&
 326                  attr->children && attr->children->type == XML_TEXT_NODE)
 327             xml_rank = attr->children->content;
 328         else if (!xmlStrcmp(attr->name, BAD_CAST "setting") &&
 329                  attr->children && attr->children->type == XML_TEXT_NODE)
 330             xml_setting = attr->children->content;
 331         else if (!xmlStrcmp(attr->name, BAD_CAST "mergekey") &&
 332                  attr->children && attr->children->type == XML_TEXT_NODE)
 333             xml_mergekey = attr->children->content;
 334         else if (!xmlStrcmp(attr->name, BAD_CAST "facetrule") &&
 335                  attr->children && attr->children->type == XML_TEXT_NODE)
 336             xml_icu_chain = attr->children->content;
 337         else if (!xmlStrcmp(attr->name, BAD_CAST "limitmap") &&
 338                  attr->children && attr->children->type == XML_TEXT_NODE)
 339             xml_limitmap = attr->children->content;
 340         else
 341         {
 342             yaz_log(YLOG_FATAL, "Unknown metadata attribute '%s'", attr->name);
 343             return -1;
 344         }
 345     }
 346
 347     // now do the parsing logic
 348     if (!xml_name)
 349     {
 350         yaz_log(YLOG_FATAL, "Must specify name in metadata element");
 351         return -1;
 352     }
 353     if (xml_brief)
 354     {
 355         if (!strcmp((const char *) xml_brief, "yes"))
 356             brief = 1;
 357         else if (strcmp((const char *) xml_brief, "no"))
 358         {
 359             yaz_log(YLOG_FATAL, "metadata/brief must be yes or no");
 360             return -1;
 361         }
 362     }
 363
 364     if (xml_termlist)
 365     {
 366         if (!strcmp((const char *) xml_termlist, "yes"))
 367             termlist = 1;
 368         else if (strcmp((const char *) xml_termlist, "no"))
 369         {
 370             yaz_log(YLOG_FATAL, "metadata/termlist must be yes or no");
 371             return -1;
 372         }
 373     }
 374
 375     if (xml_type)
 376     {
 377         if (!strcmp((const char *) xml_type, "generic"))
 378             type = Metadata_type_generic;
 379         else if (!strcmp((const char *) xml_type, "year"))
 380             type = Metadata_type_year;
 381         else if (!strcmp((const char *) xml_type, "date"))
 382             type = Metadata_type_date;
 383         else
 384         {
 385             yaz_log(YLOG_FATAL,
 386                     "Unknown value for metadata/type: %s", xml_type);
 387             return -1;
 388         }
 389     }
 390
 391     if (xml_merge)
 392     {
 393         if (!strcmp((const char *) xml_merge, "no"))
 394             merge = Metadata_merge_no;
 395         else if (!strcmp((const char *) xml_merge, "unique"))
 396             merge = Metadata_merge_unique;
 397         else if (!strcmp((const char *) xml_merge, "longest"))
 398             merge = Metadata_merge_longest;
 399         else if (!strcmp((const char *) xml_merge, "range"))
 400             merge = Metadata_merge_range;
 401         else if (!strcmp((const char *) xml_merge, "all"))
 402             merge = Metadata_merge_all;
 403         else
 404         {
 405             yaz_log(YLOG_FATAL,
 406                     "Unknown value for metadata/merge: %s", xml_merge);
 407             return -1;
 408         }
 409     }
 410
 411     if (xml_setting)
 412     {
 413         if (!strcmp((const char *) xml_setting, "no"))
 414             setting = Metadata_setting_no;
 415         else if (!strcmp((const char *) xml_setting, "postproc"))
 416             setting = Metadata_setting_postproc;
 417         else if (!strcmp((const char *) xml_setting, "parameter"))
 418             setting = Metadata_setting_parameter;
 419         else
 420         {
 421             yaz_log(YLOG_FATAL,
 422                     "Unknown value for medadata/setting: %s", xml_setting);
 423             return -1;
 424         }
 425     }
 426
 427     // add a sortkey if so specified
 428     if (xml_sortkey && strcmp((const char *) xml_sortkey, "no"))
 429     {
 430         enum conf_sortkey_type sk_type;
 431         if (merge == Metadata_merge_no)
 432         {
 433             yaz_log(YLOG_FATAL,
 434                     "Can't specify sortkey on a non-merged field");
 435             return -1;
 436         }
 437         if (!strcmp((const char *) xml_sortkey, "numeric"))
 438             sk_type = Metadata_sortkey_numeric;
 439         else if (!strcmp((const char *) xml_sortkey, "skiparticle"))
 440             sk_type = Metadata_sortkey_skiparticle;
 441         else
 442         {
 443             yaz_log(YLOG_FATAL,
 444                     "Unknown sortkey in metadata element: %s",
 445                     xml_sortkey);
 446             return -1;
 447         }
 448         sortkey_offset = *sk_node;
 449
 450         conf_service_add_sortkey(service, *sk_node,
 451                                  (const char *) xml_name, sk_type);
 452         (*sk_node)++;
 453     }
 454     else
 455         sortkey_offset = -1;
 456
 457     if (xml_mergekey)
 458     {
 459         if (!strcmp((const char *) xml_mergekey, "required"))
 460             mergekey_type = Metadata_mergekey_required;
 461         else if (!strcmp((const char *) xml_mergekey, "optional"))
 462             mergekey_type = Metadata_mergekey_optional;
 463         else if (!strcmp((const char *) xml_mergekey, "no"))
 464             mergekey_type = Metadata_mergekey_no;
 465         else
 466         {
 467             yaz_log(YLOG_FATAL, "Unknown value for mergekey: %s", xml_mergekey);
 468             return -1;
 469         }
 470     }
 471
 472     // metadata known, assign values
 473     conf_service_add_metadata(service, *md_node,
 474                               (const char *) xml_name,
 475                               type, merge, setting,
 476                               brief, termlist,
 477                               (const char *) xml_rank, sortkey_offset,
 478                               mergekey_type,
 479                               (const char *) xml_icu_chain,
 480                               (const char *) xml_limitmap);
 481     (*md_node)++;
 482     return 0;
 483 }
 484
 485 static struct conf_service *service_create_static(struct conf_server *server,
 486                                                   xmlNode *node,
 487                                                   const char *service_id)
 488 {
 489     xmlNode *n;
 490     int md_node = 0;
 491     int sk_node = 0;
 492
 493     struct conf_service *service = 0;
 494     int num_metadata = 0;
 495     int num_sortkeys = 0;
 496     int got_settings = 0;
 497
 498     // count num_metadata and num_sortkeys
 499     for (n = node->children; n; n = n->next)
 500         if (n->type == XML_ELEMENT_NODE && !strcmp((const char *)
 501                                                    n->name, "metadata"))
 502         {
 503             xmlChar *sortkey = xmlGetProp(n, (xmlChar *) "sortkey");
 504             num_metadata++;
 505             if (sortkey && strcmp((const char *) sortkey, "no"))
 506                 num_sortkeys++;
 507             xmlFree(sortkey);
 508         }
 509
 510     service = service_init(server, num_metadata, num_sortkeys, service_id);
 511
 512     for (n = node->children; n; n = n->next)
 513     {
 514         if (n->type != XML_ELEMENT_NODE)
 515             continue;
 516         if (!strcmp((const char *) n->name, "timeout"))
 517         {
 518             xmlChar *src = xmlGetProp(n, (xmlChar *) "session");
 519             if (src)
 520             {
 521                 service->session_timeout = atoi((const char *) src);
 522                 xmlFree(src);
 523                 if (service->session_timeout < 9)
 524                 {
 525                     yaz_log(YLOG_FATAL, "session timeout out of range");
 526                     return 0;
 527                 }
 528             }
 529             src = xmlGetProp(n, (xmlChar *) "z3950_operation");
 530             if (src)
 531             {
 532                 service->z3950_operation_timeout = atoi((const char *) src);
 533                 xmlFree(src);
 534                 if (service->z3950_session_timeout < 9)
 535                 {
 536                     yaz_log(YLOG_FATAL, "Z39.50 operation timeout out of range");
 537                     return 0;
 538                 }
 539             }
 540             src = xmlGetProp(n, (xmlChar *) "z3950_session");
 541             if (src)
 542             {
 543                 service->z3950_session_timeout = atoi((const char *) src);
 544                 xmlFree(src);
 545                 if (service->z3950_session_timeout < 9)
 546                 {
 547                     yaz_log(YLOG_FATAL, "Z39.50 session timeout out of range");
 548                     return 0;
 549                 }
 550             }
 551         }
 552         else if (!strcmp((const char *) n->name, "ccldirective"))
 553         {
 554             char *name;
 555             char *value;
 556             if (!service->ccl_bibset)
 557                 service->ccl_bibset = ccl_qual_mk();
 558             name = (char *) xmlGetProp(n, (xmlChar *) "name");
 559             if (!name)
 560             {
 561                 yaz_log(YLOG_FATAL, "ccldirective: missing @name");
 562                 return 0;
 563             }
 564             value = (char *) xmlGetProp(n, (xmlChar *) "value");
 565             if (!value)
 566             {
 567                 xmlFree(name);
 568                 yaz_log(YLOG_FATAL, "ccldirective: missing @value");
 569                 return 0;
 570             }
 571             ccl_qual_add_special(service->ccl_bibset, name, value);
 572             xmlFree(value);
 573             xmlFree(name);
 574         }
 575         else if (!strcmp((const char *) n->name, "settings"))
 576             got_settings++;
 577         else if (!strcmp((const char *) n->name, "icu_chain"))
 578         {
 579             if (!service->charsets)
 580                 service->charsets = pp2_charset_fact_create();
 581             if (pp2_charset_fact_define(service->charsets, n, 0))
 582             {
 583                 yaz_log(YLOG_FATAL, "ICU chain definition error");
 584                 return 0;
 585             }
 586         }
 587         else if (!strcmp((const char *) n->name, "relevance")
 588                  || !strcmp((const char *) n->name, "sort")
 589                  || !strcmp((const char *) n->name, "mergekey")
 590                  || !strcmp((const char *) n->name, "facet"))
 591
 592         {
 593             if (!service->charsets)
 594                 service->charsets = pp2_charset_fact_create();
 595             if (pp2_charset_fact_define(service->charsets,
 596                                         n->children, (const char *) n->name))
 597             {
 598                 yaz_log(YLOG_FATAL, "ICU chain definition error");
 599                 return 0;
 600             }
 601         }
 602         else if (!strcmp((const char *) n->name, (const char *) "metadata"))
 603         {
 604             if (parse_metadata(service, n, &md_node, &sk_node))
 605                 return 0;
 606         }
 607         else if (!strcmp((const char *) n->name, (const char *) "xslt"))
 608         {
 609             if (service_xslt_config(service, n))
 610                 return 0;
 611         }
 612         else if (!strcmp((const char *) n->name, (const char *) "set"))
 613         {
 614             xmlChar *name= xmlGetProp(n, (xmlChar *) "name");
 615             xmlChar *value = xmlGetProp(n, (xmlChar *) "value");
 616             if (service->dictionary && name && value) {
 617                 yaz_log(YLOG_DEBUG, "service set: %s=%s (Not implemented)", (char *) name, (char *) value);
 618                 //service_aply_setting(service, name, value);
 619             }
 620         }
 621         else if (!strcmp((const char *) n->name, "rank"))
 622         {
 623             char *rank_cluster = (char *) xmlGetProp(n, (xmlChar *) "cluster");
 624             char *rank_debug = (char *) xmlGetProp(n, (xmlChar *) "debug");
 625             if (rank_cluster)
 626             {
 627                 if (!strcmp(rank_cluster, "yes"))
 628                     service->rank_cluster = 1;
 629                 else if (!strcmp(rank_cluster, "no"))
 630                     service->rank_cluster = 0;
 631                 else
 632                 {
 633                     yaz_log(YLOG_FATAL, "service: rank@cluster boolean");
 634                     return 0;
 635                 }
 636             }
 637             if (rank_debug)
 638             {
 639                 if (!strcmp(rank_debug, "yes"))
 640                     service->rank_debug = 1;
 641                 else if (!strcmp(rank_debug, "no"))
 642                     service->rank_debug = 0;
 643                 else
 644                 {
 645                     yaz_log(YLOG_FATAL, "service: rank@debug boolean");
 646                     return 0;
 647                 }
 648             }
 649             xmlFree(rank_cluster);
 650             xmlFree(rank_debug);
 651         }
 652         else if (!strcmp((const char *) n->name, "sort-default"))
 653         {
 654             char *default_sort = (char *) xmlGetProp(n, (xmlChar *) "field");
 655
 656             if (default_sort && strcmp(default_sort, "")) {
 657                 service->default_sort = nmem_strdup(service->nmem, default_sort);
 658                 yaz_log(YLOG_LOG, "service %s: default sort order configured to: %s",
 659                         service_id, default_sort);
 660             }
 661             else
 662             {
 663                 yaz_log(YLOG_FATAL, "default sort order is invalid: %s", default_sort);
 664                 return 0;
 665             }
 666             xmlFree(default_sort);
 667         }
 668         else
 669         {
 670             yaz_log(YLOG_FATAL, "Bad element: %s", n->name);
 671             return 0;
 672         }
 673     }
 674     if (got_settings)
 675     {
 676         int pass;
 677         /* metadata has been read.. Consider now settings */
 678         init_settings(service);
 679         for (pass = 1; pass <= 2; pass++)
 680         {
 681             for (n = node->children; n; n = n->next)
 682             {
 683                 if (n->type != XML_ELEMENT_NODE)
 684                     continue;
 685                 if (!strcmp((const char *) n->name, "settings"))
 686                 {
 687                     int ret;
 688                     xmlChar *src = xmlGetProp(n, (xmlChar *) "src");
 689                     if (src)
 690                     {
 691                         WRBUF w = wrbuf_alloc();
 692                         conf_dir_path(server->config, w, (const char *) src);
 693                         ret = settings_read_file(service, wrbuf_cstr(w), pass);
 694                         wrbuf_destroy(w);
 695                         xmlFree(src);
 696                     }
 697                     else
 698                     {
 699                         ret = settings_read_node(service, n, pass);
 700                     }
 701                     if (ret)
 702                         return 0;
 703                 }
 704             }
 705         }
 706     }
 707     return service;
 708 }
 709
 710 static int inherit_server_settings(struct conf_service *s)
 711 {
 712     int ret = 0;
 713     struct conf_server *server = s->server;
 714     if (!s->dictionary) /* service has no config settings ? */
 715     {
 716         if (server->settings_fname)
 717         {
 718             /* inherit settings from server */
 719             init_settings(s);
 720             if (settings_read_file(s, server->settings_fname, 1))
 721                 ret = -1;
 722             if (settings_read_file(s, server->settings_fname, 2))
 723                 ret = -1;
 724         }
 725         else
 726         {
 727             yaz_log(YLOG_WARN, "server '%s' has no settings", s->id ? s->id : "unnamed");
 728             init_settings(s);
 729         }
 730     }
 731
 732     /* use relevance/sort/mergekey/facet from server if not defined
 733        for this service.. */
 734     if (!s->charsets)
 735     {
 736         if (server->charsets)
 737         {
 738             s->charsets = server->charsets;
 739             pp2_charset_fact_incref(s->charsets);
 740         }
 741         else
 742         {
 743             s->charsets = pp2_charset_fact_create();
 744         }
 745     }
 746     return ret;
 747 }
 748
 749 struct conf_service *service_create(struct conf_server *server,
 750                                     xmlNode *node)
 751 {
 752     struct conf_service *service = service_create_static(server, node, 0);
 753     if (service)
 754     {
 755         inherit_server_settings(service);
 756         assert(service->mutex == 0);
 757         pazpar2_mutex_create(&service->mutex, "conf");
 758     }
 759     return service;
 760 }
 761
 762 static struct conf_server *server_create(struct conf_config *config,
 763                                          NMEM nmem, xmlNode *node)
 764 {
 765     xmlNode *n;
 766     struct conf_server *server = nmem_malloc(nmem, sizeof(struct conf_server));
 767     xmlChar *server_id = xmlGetProp(node, (xmlChar *) "id");
 768
 769     server->host = 0;
 770     server->port = 0;
 771     server->proxy_host = 0;
 772     server->proxy_port = 0;
 773     server->myurl = 0;
 774     server->service = 0;
 775     server->config = config;
 776     server->next = 0;
 777     server->charsets = 0;
 778     server->http_server = 0;
 779     server->iochan_man = 0;
 780     server->database_hosts = config->database_hosts;
 781     server->settings_fname = 0;
 782
 783     if (server_id)
 784     {
 785         server->server_id = nmem_strdup(nmem, (const char *)server_id);
 786         xmlFree(server_id);
 787     }
 788     else
 789         server->server_id = 0;
 790     for (n = node->children; n; n = n->next)
 791     {
 792         if (n->type != XML_ELEMENT_NODE)
 793             continue;
 794         if (!strcmp((const char *) n->name, "listen"))
 795         {
 796             xmlChar *port = xmlGetProp(n, (xmlChar *) "port");
 797             xmlChar *host = xmlGetProp(n, (xmlChar *) "host");
 798             if (port)
 799                 server->port = atoi((const char *) port);
 800             if (host)
 801                 server->host = nmem_strdup(nmem, (const char *) host);
 802             xmlFree(port);
 803             xmlFree(host);
 804         }
 805         else if (!strcmp((const char *) n->name, "proxy"))
 806         {
 807             xmlChar *port = xmlGetProp(n, (xmlChar *) "port");
 808             xmlChar *host = xmlGetProp(n, (xmlChar *) "host");
 809             xmlChar *myurl = xmlGetProp(n, (xmlChar *) "myurl");
 810             if (port)
 811                 server->proxy_port = atoi((const char *) port);
 812             if (host)
 813                 server->proxy_host = nmem_strdup(nmem, (const char *) host);
 814             if (myurl)
 815                 server->myurl = nmem_strdup(nmem, (const char *) myurl);
 816             xmlFree(port);
 817             xmlFree(host);
 818             xmlFree(myurl);
 819         }
 820         else if (!strcmp((const char *) n->name, "settings"))
 821         {
 822             xmlChar *src = xmlGetProp(n, (xmlChar *) "src");
 823             WRBUF w;
 824             if (!src)
 825             {
 826                 yaz_log(YLOG_FATAL, "Missing src attribute for settings");
 827                 return 0;
 828             }
 829             if (server->settings_fname)
 830             {
 831                 xmlFree(src);
 832                 yaz_log(YLOG_FATAL, "Can't repeat 'settings'");
 833                 return 0;
 834             }
 835             w = wrbuf_alloc();
 836             conf_dir_path(config, w, (const char *) src);
 837             server->settings_fname = nmem_strdup(nmem, wrbuf_cstr(w));
 838             wrbuf_destroy(w);
 839             xmlFree(src);
 840         }
 841         else if (!strcmp((const char *) n->name, "icu_chain"))
 842         {
 843             if (!server->charsets)
 844                 server->charsets = pp2_charset_fact_create();
 845             if (pp2_charset_fact_define(server->charsets, n, 0))
 846             {
 847                 yaz_log(YLOG_FATAL, "ICU chain definition error");
 848                 return 0;
 849             }
 850         }
 851         else if (!strcmp((const char *) n->name, "relevance")
 852                  || !strcmp((const char *) n->name, "sort")
 853                  || !strcmp((const char *) n->name, "mergekey")
 854                  || !strcmp((const char *) n->name, "facet"))
 855         {
 856             if (!server->charsets)
 857                 server->charsets = pp2_charset_fact_create();
 858             if (pp2_charset_fact_define(server->charsets,
 859                                         n->children, (const char *) n->name))
 860             {
 861                 yaz_log(YLOG_FATAL, "ICU chain definition error");
 862                 return 0;
 863             }
 864         }
 865         else if (!strcmp((const char *) n->name, "service"))
 866         {
 867             char *service_id = (char *)
 868                 xmlGetProp(n, (xmlChar *) "id");
 869
 870             struct conf_service **sp = &server->service;
 871             for (; *sp; sp = &(*sp)->next)
 872                 if ((*sp)->id && service_id &&
 873                     0 == strcmp((*sp)->id, service_id))
 874                 {
 875                     yaz_log(YLOG_FATAL, "Duplicate service: %s", service_id);
 876                     break;
 877                 }
 878                 else if (!(*sp)->id && !service_id)
 879                 {
 880                     yaz_log(YLOG_FATAL, "Duplicate unnamed service");
 881                     break;
 882                 }
 883
 884             if (*sp)  /* service already exist */
 885             {
 886                 xmlFree(service_id);
 887                 return 0;
 888             }
 889             else
 890             {
 891                 struct conf_service *s = service_create_static(server, n,
 892                                                                service_id);
 893                 xmlFree(service_id);
 894                 if (!s)
 895                     return 0;
 896                 *sp = s;
 897             }
 898         }
 899         else
 900         {
 901             yaz_log(YLOG_FATAL, "Bad element: %s", n->name);
 902             return 0;
 903         }
 904     }
 905     if (server->service)
 906     {
 907         struct conf_service *s;
 908         for (s = server->service; s; s = s->next)
 909             inherit_server_settings(s);
 910     }
 911     return server;
 912 }
 913
 914 WRBUF conf_get_fname(struct conf_config *config, const char *fname)
 915 {
 916     WRBUF w = wrbuf_alloc();
 917
 918     conf_dir_path(config, w, fname);
 919     return w;
 920 }
 921
 922 struct conf_service *locate_service(struct conf_server *server,
 923                                     const char *service_id)
 924 {
 925     struct conf_service *s = server->service;
 926     for (; s; s = s->next)
 927         if (s->id && service_id && 0 == strcmp(s->id, service_id))
 928             break;
 929         else if (!s->id && !service_id)
 930             break;
 931     if (s)
 932         service_incref(s);
 933     return s;
 934 }
 935
 936 void info_services(struct conf_server *server, WRBUF w)
 937 {
 938     struct conf_service *s = server->service;
 939     wrbuf_puts(w, " <services>\n");
 940     for (; s; s = s->next)
 941     {
 942         wrbuf_puts(w, "  <service");
 943         if (s->id)
 944         {
 945             wrbuf_puts(w, " id=\"");
 946             wrbuf_xmlputs(w, s->id);
 947             wrbuf_puts(w, "\"");
 948         }
 949         wrbuf_puts(w, "/>");
 950
 951         wrbuf_puts(w, "\n");
 952     }
 953     wrbuf_puts(w, " </services>\n");
 954 }
 955
 956 static int parse_config(struct conf_config *config, xmlNode *root)
 957 {
 958     xmlNode *n;
 959
 960     for (n = root->children; n; n = n->next)
 961     {
 962         if (n->type != XML_ELEMENT_NODE)
 963             continue;
 964         if (!strcmp((const char *) n->name, "server"))
 965         {
 966             struct conf_server *tmp = server_create(config, config->nmem, n);
 967             if (!tmp)
 968                 return -1;
 969             tmp->next = config->servers;
 970             config->servers = tmp;
 971         }
 972         else if (!strcmp((const char *) n->name, "threads"))
 973         {
 974             xmlChar *number = xmlGetProp(n, (xmlChar *) "number");
 975             if (number)
 976             {
 977                 config->no_threads = atoi((const char *) number);
 978                 xmlFree(number);
 979             }
 980         }
 981         else if (!strcmp((const char *) n->name, "targetprofiles"))
 982         {
 983             yaz_log(YLOG_FATAL, "targetprofiles unsupported here. Must be part of service");
 984             return -1;
 985
 986         }
 987         else
 988         {
 989             yaz_log(YLOG_FATAL, "Bad element: %s", n->name);
 990             return -1;
 991         }
 992     }
 993     return 0;
 994 }
 995
 996 struct conf_config *config_create(const char *fname, int verbose)
 997 {
 998     xmlDoc *doc = xmlParseFile(fname);
 999     xmlNode *n;
1000     const char *p;
1001     int r;
1002     NMEM nmem = nmem_create();
1003     struct conf_config *config = nmem_malloc(nmem, sizeof(struct conf_config));
1004
1005     xmlSubstituteEntitiesDefault(1);
1006     xmlLoadExtDtdDefaultValue = 1;
1007     if (!doc)
1008     {
1009         yaz_log(YLOG_FATAL, "Failed to read %s", fname);
1010         nmem_destroy(nmem);
1011         return 0;
1012     }
1013
1014     config->nmem = nmem;
1015     config->servers = 0;
1016     config->no_threads = 0;
1017     config->iochan_man = 0;
1018     config->database_hosts = database_hosts_create();
1019
1020     config->confdir = wrbuf_alloc();
1021     if ((p = strrchr(fname,
1022 #ifdef WIN32
1023                      '\\'
1024 #else
1025                      '/'
1026 #endif
1027              )))
1028     {
1029         int len = p - fname;
1030         wrbuf_write(config->confdir, fname, len);
1031     }
1032     wrbuf_puts(config->confdir, "");
1033
1034     n = xmlDocGetRootElement(doc);
1035     r = yaz_xml_include_simple(n, wrbuf_cstr(config->confdir));
1036     if (r == 0) /* OK */
1037     {
1038         if (verbose)
1039         {
1040             yaz_log(YLOG_LOG, "Configuration %s after include processing",
1041                     fname);
1042 #if LIBXML_VERSION >= 20600
1043             xmlDocFormatDump(yaz_log_file(), doc, 0);
1044 #else
1045             xmlDocDump(yaz_log_file(), doc);
1046 #endif
1047         }
1048         r = parse_config(config, n);
1049     }
1050     xmlFreeDoc(doc);
1051
1052     if (r)
1053     {
1054         config_destroy(config);
1055         return 0;
1056     }
1057     return config;
1058 }
1059
1060 void server_destroy(struct conf_server *server)
1061 {
1062     struct conf_service *s = server->service;
1063     while (s)
1064     {
1065         struct conf_service *s_next = s->next;
1066         service_destroy(s);
1067         s = s_next;
1068     }
1069     pp2_charset_fact_destroy(server->charsets);
1070     yaz_log(YLOG_LOG, "server_destroy server=%p", server);
1071     http_server_destroy(server->http_server);
1072 }
1073
1074 void config_destroy(struct conf_config *config)
1075 {
1076     if (config)
1077     {
1078         struct conf_server *server = config->servers;
1079         iochan_man_destroy(&config->iochan_man);
1080         while (server)
1081         {
1082             struct conf_server *s_next = server->next;
1083             server_destroy(server);
1084             server = s_next;
1085             database_hosts_destroy(&config->database_hosts);
1086         }
1087         wrbuf_destroy(config->confdir);
1088         nmem_destroy(config->nmem);
1089     }
1090 }
1091
1092 void config_stop_listeners(struct conf_config *conf)
1093 {
1094     struct conf_server *ser;
1095     for (ser = conf->servers; ser; ser = ser->next)
1096         http_close_server(ser);
1097 }
1098
1099 void config_process_events(struct conf_config *conf)
1100 {
1101     struct conf_server *ser;
1102
1103     for (ser = conf->servers; ser; ser = ser->next)
1104     {
1105         struct conf_service *s = ser->service;
1106
1107         for (;s ; s = s->next)
1108         {
1109             assert(s->mutex == 0);
1110             pazpar2_mutex_create(&s->mutex, "service");
1111         }
1112         http_mutex_init(ser);
1113     }
1114     iochan_man_events(conf->iochan_man);
1115 }
1116
1117 int config_start_listeners(struct conf_config *conf,
1118                            const char *listener_override,
1119                            const char *record_fname)
1120 {
1121     struct conf_server *ser;
1122
1123     conf->iochan_man = iochan_man_create(conf->no_threads);
1124     for (ser = conf->servers; ser; ser = ser->next)
1125     {
1126         WRBUF w = wrbuf_alloc();
1127         int r;
1128
1129         ser->iochan_man = conf->iochan_man;
1130         if (listener_override)
1131         {
1132             wrbuf_puts(w, listener_override);
1133             listener_override = 0; /* only first server is overriden */
1134         }
1135         else
1136         {
1137             if (ser->host)
1138                 wrbuf_puts(w, ser->host);
1139             if (ser->port)
1140             {
1141                 if (wrbuf_len(w))
1142                     wrbuf_puts(w, ":");
1143                 wrbuf_printf(w, "%d", ser->port);
1144             }
1145         }
1146         r = http_init(wrbuf_cstr(w), ser, record_fname);
1147         wrbuf_destroy(w);
1148         if (r)
1149             return -1;
1150
1151         w = wrbuf_alloc();
1152         if (ser->proxy_host || ser->proxy_port)
1153         {
1154             if (ser->proxy_host)
1155                 wrbuf_puts(w, ser->proxy_host);
1156             if (ser->proxy_port)
1157             {
1158                 if (wrbuf_len(w))
1159                     wrbuf_puts(w, ":");
1160                 wrbuf_printf(w, "%d", ser->proxy_port);
1161             }
1162         }
1163         if (wrbuf_len(w))
1164             http_set_proxyaddr(wrbuf_cstr(w), ser);
1165         wrbuf_destroy(w);
1166     }
1167     return 0;
1168 }
1169
1170 /*
1171  * Local variables:
1172  * c-basic-offset: 4
1173  * c-file-style: "Stroustrup"
1174  * indent-tabs-mode: nil
1175  * End:
1176  * vim: shiftwidth=4 tabstop=8 expandtab
1177  */
1178