d9e2a83f8312dc9e1c88e224664e66cdf0375c37
[idzebra-moved-to-github.git] / data1 / d1_marc.c
1 /* $Id: d1_marc.c,v 1.6.2.1 2004-11-30 16:39:42 oleg Exp $
2    Copyright (C) 1995,1996,1997,1998,1999,2000,2001,2002,2003
3    Index Data Aps
4
5 This file is part of the Zebra server.
6
7 Zebra is free software; you can redistribute it and/or modify it under
8 the terms of the GNU General Public License as published by the Free
9 Software Foundation; either version 2, or (at your option) any later
10 version.
11
12 Zebra is distributed in the hope that it will be useful, but WITHOUT ANY
13 WARRANTY; without even the implied warranty of MERCHANTABILITY or
14 FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
15 for more details.
16
17 You should have received a copy of the GNU General Public License
18 along with Zebra; see the file LICENSE.zebra.  If not, write to the
19 Free Software Foundation, 59 Temple Place - Suite 330, Boston, MA
20 02111-1307, USA.
21 */
22
23 /* converts data1 tree to ISO2709/MARC record */
24
25 #include <assert.h>
26 #include <stdlib.h>
27 #include <string.h>
28
29 #include <yaz/oid.h>
30 #include <yaz/log.h>
31 #include <yaz/marcdisp.h>
32 #include <yaz/readconf.h>
33 #include <yaz/xmalloc.h>
34 #include <yaz/tpath.h>
35 #include <data1.h>
36
37 data1_marctab *data1_read_marctab (data1_handle dh, const char *file)
38 {
39     FILE *f;
40     NMEM mem = data1_nmem_get (dh);
41     data1_marctab *res = (data1_marctab *)nmem_malloc(mem, sizeof(*res));
42     char line[512], *argv[50];
43     int lineno = 0;
44     int argc;
45     
46     if (!(f = data1_path_fopen(dh, file, "r")))
47     {
48         yaz_log(LOG_WARN|LOG_ERRNO, "%s", file);
49         return 0;
50     }
51
52     res->name = 0;
53     res->reference = VAL_NONE;
54     res->next = 0;
55     res->length_data_entry = 4;
56     res->length_starting = 5;
57     res->length_implementation = 0;
58     strcpy(res->future_use, "4");
59
60     strcpy(res->record_status, "n");
61     strcpy(res->implementation_codes, "    ");
62     res->indicator_length = 2;
63     res->identifier_length = 2;
64     res->force_indicator_length = -1;
65     res->force_identifier_length = -1;
66     strcpy(res->user_systems, "z  ");
67     
68     while ((argc = readconf_line(f, &lineno, line, 512, argv, 50)))
69         if (!strcmp(*argv, "name"))
70         {
71             if (argc != 2)
72             {
73                 yaz_log(LOG_WARN, "%s:%d:Missing arg for %s", file, lineno,
74                         *argv);
75                 continue;
76             }
77             res->name = nmem_strdup(mem, argv[1]);
78         }
79         else if (!strcmp(*argv, "reference"))
80         {
81             if (argc != 2)
82             {
83                 yaz_log(LOG_WARN, "%s:%d: Missing arg for %s", file, lineno,
84                         *argv);
85                 continue;
86             }
87             if ((res->reference = oid_getvalbyname(argv[1])) == VAL_NONE)
88             {
89                 yaz_log(LOG_WARN, "%s:%d: Unknown tagset reference '%s'",
90                         file, lineno, argv[1]);
91                 continue;
92             }
93         }
94         else if (!strcmp(*argv, "length-data-entry"))
95         {
96             if (argc != 2)
97             {
98                 yaz_log(LOG_WARN, "%s:%d: Missing arg for %s", file, lineno,
99                         *argv);
100                 continue;
101             }
102             res->length_data_entry = atoi(argv[1]);
103         }
104         else if (!strcmp(*argv, "length-starting"))
105         {
106             if (argc != 2)
107             {
108                 yaz_log(LOG_WARN, "%s:%d: Missing arg for %s", file, lineno,
109                         *argv);
110                 continue;
111             }
112             res->length_starting = atoi(argv[1]);
113         }
114         else if (!strcmp(*argv, "length-implementation"))
115         {
116             if (argc != 2)
117             {
118                 yaz_log(LOG_WARN, "%s:%d: Missing arg for %s", file, lineno,
119                         *argv);
120                 continue;
121             }
122             res->length_implementation = atoi(argv[1]);
123         }
124         else if (!strcmp(*argv, "future-use"))
125         {
126             if (argc != 2)
127             {
128                 yaz_log(LOG_WARN, "%s:%d: Missing arg for %s", file, lineno,
129                         *argv);
130                 continue;
131             }
132             strncpy(res->future_use, argv[1], 2);
133         }
134         else if (!strcmp(*argv, "force-indicator-length"))
135         {
136             if (argc != 2)
137             {
138                 yaz_log(LOG_WARN, "%s:%d: Missing arg for %s", file, lineno,
139                         *argv);
140                 continue;
141             }
142             res->force_indicator_length = atoi(argv[1]);
143         }
144         else if (!strcmp(*argv, "force-identifier-length"))
145         {
146             if (argc != 2)
147             {
148                 yaz_log(LOG_WARN, "%s:%d: Missing arg for %s", file, lineno,
149                         *argv);
150                 continue;
151             }
152             res->force_identifier_length = atoi(argv[1]);
153         }
154         else
155             yaz_log(LOG_WARN, "%s:%d: Unknown directive '%s'", file, lineno,
156                     *argv);
157
158     fclose(f);
159     return res;
160 }
161
162
163 /*
164  * Locate some data under this node. This routine should handle variants
165  * prettily.
166  */
167 static char *get_data(data1_node *n, int *len)
168 {
169     char *r;
170
171     while (n)
172     {
173         if (n->which == DATA1N_data)
174         {
175             int i;
176             *len = n->u.data.len;
177             
178             /* Fixme: don't delete leader/final whitespaces
179             for (i = 0; i<*len; i++)
180                 if (!d1_isspace(n->u.data.data[i]))
181                     break;
182             while (*len && d1_isspace(n->u.data.data[*len - 1]))
183                 (*len)--;
184             *len = *len - i;
185             if (*len > 0)
186                 return n->u.data.data + i;
187             */
188             if (*len > 0)
189                 return n->u.data.data;
190         }
191         if (n->which == DATA1N_tag)
192             n = n->child;
193         else if (n->which == DATA1N_data)
194             n = n->next;
195         else
196             break;      
197     }
198     r = "";
199     *len = strlen(r);
200     return r;
201 }
202
203 static void memint (char *p, int val, int len)
204 {
205     char buf[10];
206
207     if (len == 1)
208         *p = val + '0';
209     else
210     {
211         sprintf (buf, "%08d", val);
212         memcpy (p, buf+8-len, len);
213     }
214 }
215
216 /* check for indicator. non MARCXML only */
217 static int is_indicator (data1_marctab *p, data1_node *subf)
218 {
219     if (p->indicator_length != 2 ||
220         (subf && subf->which == DATA1N_tag && strlen(subf->u.tag.tag) == 2))
221         return 1;
222     return 0;
223 }
224
225 static int nodetomarc(data1_handle dh,
226                       data1_marctab *p, data1_node *n, int selected,
227                       char **buf, int *size)
228 {
229     char leader[24];
230
231     int len = 26;
232     int dlen;
233     int base_address = 25;
234     int entry_p, data_p;
235     char *op;
236     data1_node *field, *subf;
237
238 #if 0
239     data1_pr_tree(dh, n, stdout);
240 #endif
241     yaz_log (LOG_DEBUG, "nodetomarc");
242
243     memcpy (leader+5, p->record_status, 1);
244     memcpy (leader+6, p->implementation_codes, 4);
245     memint (leader+10, p->indicator_length, 1);
246     memint (leader+11, p->identifier_length, 1);
247     memcpy (leader+17, p->user_systems, 3);
248     memint (leader+20, p->length_data_entry, 1);
249     memint (leader+21, p->length_starting, 1);
250     memint (leader+22, p->length_implementation, 1);
251     memcpy (leader+23, p->future_use, 1);
252
253     for (field = n->child; field; field = field->next)
254     {
255         int control_field = 0;  /* 00X fields - usually! */
256         int marc_xml = 0;
257
258         if (field->which != DATA1N_tag)
259             continue;
260         if (selected && !field->u.tag.node_selected)
261             continue;
262             
263         subf = field->child;
264         if (!subf)
265             continue;
266         
267         if (!yaz_matchstr(field->u.tag.tag, "mc?"))
268             continue;
269         else if (!strcmp(field->u.tag.tag, "leader"))
270         {
271             int dlen = 0;
272             char *dbuf = get_data(subf, &dlen);
273             if (dlen > 24)
274                 dlen = 24;
275             if (dbuf && dlen > 0)
276                 memcpy (leader, dbuf, dlen);
277             continue;
278         }
279         else if (!strcmp(field->u.tag.tag, "controlfield"))
280         {
281             control_field = 1;
282             marc_xml = 1;
283         }
284         else if (!strcmp(field->u.tag.tag, "datafield"))
285         {
286             control_field = 0;
287             marc_xml = 1;
288         }
289         else if (subf->which == DATA1N_data)
290         {
291             control_field = 1;
292             marc_xml = 0;
293         }
294         else
295         {
296             control_field = 0;
297             marc_xml = 0;
298         }
299
300         len += 4 + p->length_data_entry + p->length_starting
301             + p->length_implementation;
302         base_address += 3 + p->length_data_entry + p->length_starting
303             + p->length_implementation;
304
305         if (!control_field)
306             len += p->indicator_length;  
307
308         /* we'll allow no indicator if length is not 2 */
309         /* select when old XML format, since indicator is an element */
310         if (marc_xml == 0 && is_indicator (p, subf))
311             subf = subf->child;
312         
313         for (; subf; subf = subf->next)
314         {
315             if (!control_field)
316                 len += p->identifier_length;
317             get_data(subf, &dlen);
318             len += dlen;
319         }
320     }
321
322     if (!*buf)
323         *buf = (char *)xmalloc(*size = len);
324     else if (*size <= len)
325         *buf = (char *)xrealloc(*buf, *size = len);
326         
327     op = *buf;
328
329     /* we know the base address now */
330     memint (leader+12, base_address, 5);
331
332     /* copy temp leader to real output buf op */
333     memcpy (op, leader, 24);
334     memint (op, len, 5);
335     
336     entry_p = 24;
337     data_p = base_address;
338
339     for (field = n->child; field; field = field->next)
340     {
341         int control_field = 0;
342         int marc_xml = 0;
343         const char *tag = 0;
344
345         int data_0 = data_p;
346         char indicator_data[6];
347
348         memset (indicator_data, ' ', sizeof(indicator_data)-1);
349         indicator_data[sizeof(indicator_data)-1] = '\0';
350
351         if (field->which != DATA1N_tag)
352             continue;
353
354         if (selected && !field->u.tag.node_selected)
355             continue;
356
357         subf = field->child;
358         if (!subf)
359             continue;
360         
361         if (!yaz_matchstr(field->u.tag.tag, "mc?"))
362             continue;
363         else if (!strcmp(field->u.tag.tag, "leader"))
364             continue;
365         else if (!strcmp(field->u.tag.tag, "controlfield"))
366         {
367             control_field = 1;
368             marc_xml = 1;
369         }
370         else if (!strcmp(field->u.tag.tag, "datafield"))
371         {
372             control_field = 0;
373             marc_xml = 1;
374         }
375         else if (subf->which == DATA1N_data)
376         {
377             control_field = 1;
378             marc_xml = 0;
379         }
380         else
381         {
382             control_field = 0;
383             marc_xml = 0;
384         }
385         if (marc_xml == 0 && is_indicator (p, subf))
386         {
387             strncpy(indicator_data, subf->u.tag.tag, sizeof(indicator_data)-1);
388             subf = subf->child;
389         }
390         else if (marc_xml == 1 && !control_field)
391         {
392             data1_xattr *xa;
393             for (xa = field->u.tag.attributes; xa; xa = xa->next)
394             {
395                 if (!strcmp(xa->name, "ind1"))
396                     indicator_data[0] = xa->value[0];
397                 if (!strcmp(xa->name, "ind2"))
398                     indicator_data[1] = xa->value[1];
399                 if (!strcmp(xa->name, "ind3"))
400                     indicator_data[2] = xa->value[2];
401             }
402         }
403         if (!control_field)
404         {
405             memcpy (op + data_p, indicator_data, p->indicator_length);
406             data_p += p->indicator_length;
407         }
408         for (; subf; subf = subf->next)
409         {
410             char *data;
411
412             if (!control_field)
413             {
414                 const char *identifier = "a";
415                 if (marc_xml)
416                 {
417                     if (subf->which == DATA1N_tag &&
418                         !strcmp(subf->u.tag.tag, "subfield"))
419                     {
420                         data1_xattr *xa;
421                         for (xa = subf->u.tag.attributes; xa; xa = xa->next)
422                             if (!strcmp(xa->name, "code"))
423                                 identifier = xa->value;
424                     }
425                 }
426                 else if (subf->which != DATA1N_tag)
427                     yaz_log(LOG_WARN, "Malformed fields for marc output.");
428                 else
429                     identifier = subf->u.tag.tag;
430                 op[data_p] = ISO2709_IDFS;
431                 memcpy (op + data_p+1, identifier, p->identifier_length-1);
432                 data_p += p->identifier_length;
433             }
434             data = get_data(subf, &dlen);
435             memcpy (op + data_p, data, dlen);
436             data_p += dlen;
437         }
438         op[data_p++] = ISO2709_FS;
439
440         if (marc_xml)
441         {
442             data1_xattr *xa;
443             for (xa = field->u.tag.attributes; xa; xa = xa->next)
444                 if (!strcmp(xa->name, "tag"))
445                     tag = xa->value;
446         }
447         else
448             tag = field->u.tag.tag;
449
450         if (!tag || strlen(tag) != 3)
451             tag = "000";
452         memcpy (op + entry_p, tag, 3);
453         
454         entry_p += 3;
455         memint (op + entry_p, data_p - data_0, p->length_data_entry);
456         entry_p += p->length_data_entry;
457         memint (op + entry_p, data_0 - base_address, p->length_starting);
458         entry_p += p->length_starting;
459         entry_p += p->length_implementation;
460     }
461     op[entry_p++] = ISO2709_FS;
462     assert (entry_p == base_address);
463     op[data_p++] = ISO2709_RS;
464     assert (data_p == len);
465     return len;
466 }
467
468 char *data1_nodetomarc(data1_handle dh, data1_marctab *p, data1_node *n,
469                        int selected, int *len)
470 {
471     int *size;
472     char **buf = data1_get_map_buf (dh, &size);
473
474     n = data1_get_root_tag (dh, n);
475     if (!n)
476         return 0;
477     *len = nodetomarc(dh, p, n, selected, buf, size);
478     return *buf;
479 }