using yaz/log.h again
[idzebra-moved-to-github.git] / data1 / d1_marc.c
1 /* $Id: d1_marc.c,v 1.9 2004-12-13 20:51:28 adam Exp $
2    Copyright (C) 1995,1996,1997,1998,1999,2000,2001,2002,2003
3    Index Data Aps
4
5 This file is part of the Zebra server.
6
7 Zebra is free software; you can redistribute it and/or modify it under
8 the terms of the GNU General Public License as published by the Free
9 Software Foundation; either version 2, or (at your option) any later
10 version.
11
12 Zebra is distributed in the hope that it will be useful, but WITHOUT ANY
13 WARRANTY; without even the implied warranty of MERCHANTABILITY or
14 FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
15 for more details.
16
17 You should have received a copy of the GNU General Public License
18 along with Zebra; see the file LICENSE.zebra.  If not, write to the
19 Free Software Foundation, 59 Temple Place - Suite 330, Boston, MA
20 02111-1307, USA.
21 */
22
23 /* converts data1 tree to ISO2709/MARC record */
24
25 #include <assert.h>
26 #include <stdlib.h>
27 #include <string.h>
28
29 #include <yaz/log.h>
30 #include <yaz/oid.h>
31 #include <yaz/marcdisp.h>
32 #include <yaz/readconf.h>
33 #include <yaz/xmalloc.h>
34 #include <yaz/tpath.h>
35 #include <idzebra/data1.h>
36
37 data1_marctab *data1_read_marctab (data1_handle dh, const char *file)
38 {
39     FILE *f;
40     NMEM mem = data1_nmem_get (dh);
41     data1_marctab *res = (data1_marctab *)nmem_malloc(mem, sizeof(*res));
42     char line[512], *argv[50];
43     int lineno = 0;
44     int argc;
45     
46     if (!(f = data1_path_fopen(dh, file, "r")))
47     {
48         yaz_log(YLOG_WARN|YLOG_ERRNO, "%s", file);
49         return 0;
50     }
51
52     res->name = 0;
53     res->reference = VAL_NONE;
54     res->next = 0;
55     res->length_data_entry = 4;
56     res->length_starting = 5;
57     res->length_implementation = 0;
58     strcpy(res->future_use, "4");
59
60     strcpy(res->record_status, "n");
61     strcpy(res->implementation_codes, "    ");
62     res->indicator_length = 2;
63     res->identifier_length = 2;
64     res->force_indicator_length = -1;
65     res->force_identifier_length = -1;
66     strcpy(res->user_systems, "z  ");
67     
68     while ((argc = readconf_line(f, &lineno, line, 512, argv, 50)))
69         if (!strcmp(*argv, "name"))
70         {
71             if (argc != 2)
72             {
73                 yaz_log(YLOG_WARN, "%s:%d:Missing arg for %s", file, lineno,
74                         *argv);
75                 continue;
76             }
77             res->name = nmem_strdup(mem, argv[1]);
78         }
79         else if (!strcmp(*argv, "reference"))
80         {
81             if (argc != 2)
82             {
83                 yaz_log(YLOG_WARN, "%s:%d: Missing arg for %s", file, lineno,
84                         *argv);
85                 continue;
86             }
87             if ((res->reference = oid_getvalbyname(argv[1])) == VAL_NONE)
88             {
89                 yaz_log(YLOG_WARN, "%s:%d: Unknown tagset reference '%s'",
90                         file, lineno, argv[1]);
91                 continue;
92             }
93         }
94         else if (!strcmp(*argv, "length-data-entry"))
95         {
96             if (argc != 2)
97             {
98                 yaz_log(YLOG_WARN, "%s:%d: Missing arg for %s", file, lineno,
99                         *argv);
100                 continue;
101             }
102             res->length_data_entry = atoi(argv[1]);
103         }
104         else if (!strcmp(*argv, "length-starting"))
105         {
106             if (argc != 2)
107             {
108                 yaz_log(YLOG_WARN, "%s:%d: Missing arg for %s", file, lineno,
109                         *argv);
110                 continue;
111             }
112             res->length_starting = atoi(argv[1]);
113         }
114         else if (!strcmp(*argv, "length-implementation"))
115         {
116             if (argc != 2)
117             {
118                 yaz_log(YLOG_WARN, "%s:%d: Missing arg for %s", file, lineno,
119                         *argv);
120                 continue;
121             }
122             res->length_implementation = atoi(argv[1]);
123         }
124         else if (!strcmp(*argv, "future-use"))
125         {
126             if (argc != 2)
127             {
128                 yaz_log(YLOG_WARN, "%s:%d: Missing arg for %s", file, lineno,
129                         *argv);
130                 continue;
131             }
132             strncpy(res->future_use, argv[1], 2);
133         }
134         else if (!strcmp(*argv, "force-indicator-length"))
135         {
136             if (argc != 2)
137             {
138                 yaz_log(YLOG_WARN, "%s:%d: Missing arg for %s", file, lineno,
139                         *argv);
140                 continue;
141             }
142             res->force_indicator_length = atoi(argv[1]);
143         }
144         else if (!strcmp(*argv, "force-identifier-length"))
145         {
146             if (argc != 2)
147             {
148                 yaz_log(YLOG_WARN, "%s:%d: Missing arg for %s", file, lineno,
149                         *argv);
150                 continue;
151             }
152             res->force_identifier_length = atoi(argv[1]);
153         }
154         else
155             yaz_log(YLOG_WARN, "%s:%d: Unknown directive '%s'", file, lineno,
156                     *argv);
157
158     fclose(f);
159     return res;
160 }
161
162
163 /*
164  * Locate some data under this node. This routine should handle variants
165  * prettily.
166  */
167 static char *get_data(data1_node *n, int *len)
168 {
169     char *r;
170
171     while (n)
172     {
173         if (n->which == DATA1N_data)
174         {
175             int i;
176             *len = n->u.data.len;
177
178             for (i = 0; i<*len; i++)
179                 if (!d1_isspace(n->u.data.data[i]))
180                     break;
181             while (*len && d1_isspace(n->u.data.data[*len - 1]))
182                 (*len)--;
183             *len = *len - i;
184             if (*len > 0)
185                 return n->u.data.data + i;
186         }
187         if (n->which == DATA1N_tag)
188             n = n->child;
189         else if (n->which == DATA1N_data)
190             n = n->next;
191         else
192             break;      
193     }
194     r = "";
195     *len = strlen(r);
196     return r;
197 }
198
199 static void memint (char *p, int val, int len)
200 {
201     char buf[10];
202
203     if (len == 1)
204         *p = val + '0';
205     else
206     {
207         sprintf (buf, "%08d", val);
208         memcpy (p, buf+8-len, len);
209     }
210 }
211
212 /* check for indicator. non MARCXML only */
213 static int is_indicator (data1_marctab *p, data1_node *subf)
214 {
215     if (p->indicator_length != 2 ||
216         (subf && subf->which == DATA1N_tag && strlen(subf->u.tag.tag) == 2))
217         return 1;
218     return 0;
219 }
220
221 static int nodetomarc(data1_handle dh,
222                       data1_marctab *p, data1_node *n, int selected,
223                       char **buf, int *size)
224 {
225     char leader[24];
226
227     int len = 26;
228     int dlen;
229     int base_address = 25;
230     int entry_p, data_p;
231     char *op;
232     data1_node *field, *subf;
233
234 #if 0
235     data1_pr_tree(dh, n, stdout);
236 #endif
237     yaz_log (YLOG_DEBUG, "nodetomarc");
238
239     memcpy (leader+5, p->record_status, 1);
240     memcpy (leader+6, p->implementation_codes, 4);
241     memint (leader+10, p->indicator_length, 1);
242     memint (leader+11, p->identifier_length, 1);
243     memcpy (leader+17, p->user_systems, 3);
244     memint (leader+20, p->length_data_entry, 1);
245     memint (leader+21, p->length_starting, 1);
246     memint (leader+22, p->length_implementation, 1);
247     memcpy (leader+23, p->future_use, 1);
248
249     for (field = n->child; field; field = field->next)
250     {
251         int control_field = 0;  /* 00X fields - usually! */
252         int marc_xml = 0;
253
254         if (field->which != DATA1N_tag)
255             continue;
256         if (selected && !field->u.tag.node_selected)
257             continue;
258             
259         subf = field->child;
260         if (!subf)
261             continue;
262         
263         if (!yaz_matchstr(field->u.tag.tag, "mc?"))
264             continue;
265         else if (!strcmp(field->u.tag.tag, "leader"))
266         {
267             int dlen = 0;
268             char *dbuf = get_data(subf, &dlen);
269             if (dlen > 24)
270                 dlen = 24;
271             if (dbuf && dlen > 0)
272                 memcpy (leader, dbuf, dlen);
273             continue;
274         }
275         else if (!strcmp(field->u.tag.tag, "controlfield"))
276         {
277             control_field = 1;
278             marc_xml = 1;
279         }
280         else if (!strcmp(field->u.tag.tag, "datafield"))
281         {
282             control_field = 0;
283             marc_xml = 1;
284         }
285         else if (subf->which == DATA1N_data)
286         {
287             control_field = 1;
288             marc_xml = 0;
289         }
290         else
291         {
292             control_field = 0;
293             marc_xml = 0;
294         }
295
296         len += 4 + p->length_data_entry + p->length_starting
297             + p->length_implementation;
298         base_address += 3 + p->length_data_entry + p->length_starting
299             + p->length_implementation;
300
301         if (!control_field)
302             len += p->indicator_length;  
303
304         /* we'll allow no indicator if length is not 2 */
305         /* select when old XML format, since indicator is an element */
306         if (marc_xml == 0 && is_indicator (p, subf))
307             subf = subf->child;
308         
309         for (; subf; subf = subf->next)
310         {
311             if (!control_field)
312                 len += p->identifier_length;
313             get_data(subf, &dlen);
314             len += dlen;
315         }
316     }
317
318     if (!*buf)
319         *buf = (char *)xmalloc(*size = len);
320     else if (*size <= len)
321         *buf = (char *)xrealloc(*buf, *size = len);
322         
323     op = *buf;
324
325     /* we know the base address now */
326     memint (leader+12, base_address, 5);
327
328     /* copy temp leader to real output buf op */
329     memcpy (op, leader, 24);
330     memint (op, len, 5);
331     
332     entry_p = 24;
333     data_p = base_address;
334
335     for (field = n->child; field; field = field->next)
336     {
337         int control_field = 0;
338         int marc_xml = 0;
339         const char *tag = 0;
340
341         int data_0 = data_p;
342         char indicator_data[6];
343
344         memset (indicator_data, ' ', sizeof(indicator_data)-1);
345         indicator_data[sizeof(indicator_data)-1] = '\0';
346
347         if (field->which != DATA1N_tag)
348             continue;
349
350         if (selected && !field->u.tag.node_selected)
351             continue;
352
353         subf = field->child;
354         if (!subf)
355             continue;
356         
357         if (!yaz_matchstr(field->u.tag.tag, "mc?"))
358             continue;
359         else if (!strcmp(field->u.tag.tag, "leader"))
360             continue;
361         else if (!strcmp(field->u.tag.tag, "controlfield"))
362         {
363             control_field = 1;
364             marc_xml = 1;
365         }
366         else if (!strcmp(field->u.tag.tag, "datafield"))
367         {
368             control_field = 0;
369             marc_xml = 1;
370         }
371         else if (subf->which == DATA1N_data)
372         {
373             control_field = 1;
374             marc_xml = 0;
375         }
376         else
377         {
378             control_field = 0;
379             marc_xml = 0;
380         }
381         if (marc_xml == 0 && is_indicator (p, subf))
382         {
383             strncpy(indicator_data, subf->u.tag.tag, sizeof(indicator_data)-1);
384             subf = subf->child;
385         }
386         else if (marc_xml == 1 && !control_field)
387         {
388             data1_xattr *xa;
389             for (xa = field->u.tag.attributes; xa; xa = xa->next)
390             {
391                 if (!strcmp(xa->name, "ind1"))
392                     indicator_data[0] = xa->value[0];
393                 if (!strcmp(xa->name, "ind2"))
394                     indicator_data[1] = xa->value[1];
395                 if (!strcmp(xa->name, "ind3"))
396                     indicator_data[2] = xa->value[2];
397             }
398         }
399         if (!control_field)
400         {
401             memcpy (op + data_p, indicator_data, p->indicator_length);
402             data_p += p->indicator_length;
403         }
404         for (; subf; subf = subf->next)
405         {
406             char *data;
407
408             if (!control_field)
409             {
410                 const char *identifier = "a";
411                 if (marc_xml)
412                 {
413                     if (subf->which == DATA1N_tag &&
414                         !strcmp(subf->u.tag.tag, "subfield"))
415                     {
416                         data1_xattr *xa;
417                         for (xa = subf->u.tag.attributes; xa; xa = xa->next)
418                             if (!strcmp(xa->name, "code"))
419                                 identifier = xa->value;
420                     }
421                 }
422                 else if (subf->which != DATA1N_tag)
423                     yaz_log(YLOG_WARN, "Malformed fields for marc output.");
424                 else
425                     identifier = subf->u.tag.tag;
426                 op[data_p] = ISO2709_IDFS;
427                 memcpy (op + data_p+1, identifier, p->identifier_length-1);
428                 data_p += p->identifier_length;
429             }
430             data = get_data(subf, &dlen);
431             memcpy (op + data_p, data, dlen);
432             data_p += dlen;
433         }
434         op[data_p++] = ISO2709_FS;
435
436         if (marc_xml)
437         {
438             data1_xattr *xa;
439             for (xa = field->u.tag.attributes; xa; xa = xa->next)
440                 if (!strcmp(xa->name, "tag"))
441                     tag = xa->value;
442         }
443         else
444             tag = field->u.tag.tag;
445
446         if (!tag || strlen(tag) != 3)
447             tag = "000";
448         memcpy (op + entry_p, tag, 3);
449         
450         entry_p += 3;
451         memint (op + entry_p, data_p - data_0, p->length_data_entry);
452         entry_p += p->length_data_entry;
453         memint (op + entry_p, data_0 - base_address, p->length_starting);
454         entry_p += p->length_starting;
455         entry_p += p->length_implementation;
456     }
457     op[entry_p++] = ISO2709_FS;
458     assert (entry_p == base_address);
459     op[data_p++] = ISO2709_RS;
460     assert (data_p == len);
461     return len;
462 }
463
464 char *data1_nodetomarc(data1_handle dh, data1_marctab *p, data1_node *n,
465                        int selected, int *len)
466 {
467     int *size;
468     char **buf = data1_get_map_buf (dh, &size);
469
470     n = data1_get_root_tag (dh, n);
471     if (!n)
472         return 0;
473     *len = nodetomarc(dh, p, n, selected, buf, size);
474     return *buf;
475 }