main() in pazpar2.c . Rest of high-level logic moved to logic.c. Some
[pazpar2-moved-to-github.git] / src / http.c
1 /* $Id: http.c,v 1.27 2007-04-16 09:03:25 adam Exp $
2    Copyright (c) 2006-2007, Index Data.
3
4 This file is part of Pazpar2.
5
6 Pazpar2 is free software; you can redistribute it and/or modify it under
7 the terms of the GNU General Public License as published by the Free
8 Software Foundation; either version 2, or (at your option) any later
9 version.
10
11 Pazpar2 is distributed in the hope that it will be useful, but WITHOUT ANY
12 WARRANTY; without even the implied warranty of MERCHANTABILITY or
13 FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
14 for more details.
15
16 You should have received a copy of the GNU General Public License
17 along with Pazpar2; see the file LICENSE.  If not, write to the
18 Free Software Foundation, 59 Temple Place - Suite 330, Boston, MA
19 02111-1307, USA.
20  */
21
22 #include <stdio.h>
23 #include <sys/socket.h>
24 #include <sys/types.h>
25 #include <sys/uio.h>
26 #include <unistd.h>
27 #include <stdlib.h>
28 #include <strings.h>
29 #include <ctype.h>
30 #include <fcntl.h>
31 #include <netdb.h>
32 #include <errno.h>
33 #include <assert.h>
34 #include <string.h>
35
36 #if HAVE_CONFIG_H
37 #include <cconfig.h>
38 #endif
39
40 #include <netinet/in.h>
41 #include <arpa/inet.h>
42 #include <netdb.h>
43
44 #include <yaz/yaz-util.h>
45 #include <yaz/comstack.h>
46 #include <yaz/nmem.h>
47
48 #include "cconfig.h"
49 #include "util.h"
50 #include "eventl.h"
51 #include "pazpar2.h"
52 #include "http.h"
53 #include "http_command.h"
54
55 static void proxy_io(IOCHAN i, int event);
56 static struct http_channel *http_create(const char *addr);
57 static void http_destroy(IOCHAN i);
58
59 // If this is set, we proxy normal HTTP requests
60 static struct sockaddr_in *proxy_addr = 0; 
61 static char proxy_url[256] = "";
62 static char myurl[256] = "";
63 static struct http_buf *http_buf_freelist = 0;
64 static struct http_channel *http_channel_freelist = 0;
65
66 static struct http_buf *http_buf_create()
67 {
68     struct http_buf *r;
69
70     if (http_buf_freelist)
71     {
72         r = http_buf_freelist;
73         http_buf_freelist = http_buf_freelist->next;
74     }
75     else
76         r = xmalloc(sizeof(struct http_buf));
77     r->offset = 0;
78     r->len = 0;
79     r->next = 0;
80     return r;
81 }
82
83 static void http_buf_destroy(struct http_buf *b)
84 {
85     b->next = http_buf_freelist;
86     http_buf_freelist = b;
87 }
88
89 static void http_buf_destroy_queue(struct http_buf *b)
90 {
91     struct http_buf *p;
92     while (b)
93     {
94         p = b->next;
95         http_buf_destroy(b);
96         b = p;
97     }
98 }
99
100 #ifdef GAGA
101 // Calculate length of chain
102 static int http_buf_len(struct http_buf *b)
103 {
104     int sum = 0;
105     for (; b; b = b->next)
106         sum += b->len;
107     return sum;
108 }
109 #endif
110
111 static struct http_buf *http_buf_bybuf(char *b, int len)
112 {
113     struct http_buf *res = 0;
114     struct http_buf **p = &res;
115
116     while (len)
117     {
118         int tocopy = len;
119         if (tocopy > HTTP_BUF_SIZE)
120             tocopy = HTTP_BUF_SIZE;
121         *p = http_buf_create();
122         memcpy((*p)->buf, b, tocopy);
123         (*p)->len = tocopy;
124         len -= tocopy;
125         b += tocopy;
126         p = &(*p)->next;
127     }
128     return res;
129 }
130
131 // Add a (chain of) buffers to the end of an existing queue.
132 static void http_buf_enqueue(struct http_buf **queue, struct http_buf *b)
133 {
134     while (*queue)
135         queue = &(*queue)->next;
136     *queue = b;
137 }
138
139 static struct http_buf *http_buf_bywrbuf(WRBUF wrbuf)
140 {
141     // Heavens to Betsy (buf)!
142     return http_buf_bybuf(wrbuf_buf(wrbuf), wrbuf_len(wrbuf));
143 }
144
145 // Non-destructively collapse chain of buffers into a string (max *len)
146 // Return
147 static int http_buf_peek(struct http_buf *b, char *buf, int len)
148 {
149     int rd = 0;
150     while (b && rd < len)
151     {
152         int toread = len - rd;
153         if (toread > b->len)
154             toread = b->len;
155         memcpy(buf + rd, b->buf + b->offset, toread);
156         rd += toread;
157         b = b->next;
158     }
159     buf[rd] = '\0';
160     return rd;
161 }
162
163 // Ddestructively munch up to len  from head of queue.
164 static int http_buf_read(struct http_buf **b, char *buf, int len)
165 {
166     int rd = 0;
167     while ((*b) && rd < len)
168     {
169         int toread = len - rd;
170         if (toread > (*b)->len)
171             toread = (*b)->len;
172         memcpy(buf + rd, (*b)->buf + (*b)->offset, toread);
173         rd += toread;
174         if (toread < (*b)->len)
175         {
176             (*b)->len -= toread;
177             (*b)->offset += toread;
178             break;
179         }
180         else
181         {
182             struct http_buf *n = (*b)->next;
183             http_buf_destroy(*b);
184             *b = n;
185         }
186     }
187     buf[rd] = '\0';
188     return rd;
189 }
190
191 // Buffers may overlap.
192 static void urldecode(char *i, char *o)
193 {
194     while (*i)
195     {
196         if (*i == '+')
197         {
198             *(o++) = ' ';
199             i++;
200         }
201         else if (*i == '%')
202         {
203             i++;
204             sscanf(i, "%2hhx", o);
205             i += 2;
206             o++;
207         }
208         else
209             *(o++) = *(i++);
210     }
211     *o = '\0';
212 }
213
214 // Warning: Buffers may not overlap
215 void urlencode(const char *i, char *o)
216 {
217     while (*i)
218     {
219         if (strchr(" /:", *i))
220         {
221             sprintf(o, "%%%.2X", (int) *i);
222             o += 3;
223         }
224         else
225             *(o++) = *i;
226         i++;
227     }
228     *o = '\0';
229 }
230
231 void http_addheader(struct http_response *r, const char *name, const char *value)
232 {
233     struct http_channel *c = r->channel;
234     struct http_header *h = nmem_malloc(c->nmem, sizeof *h);
235     h->name = nmem_strdup(c->nmem, name);
236     h->value = nmem_strdup(c->nmem, value);
237     h->next = r->headers;
238     r->headers = h;
239 }
240
241 char *http_argbyname(struct http_request *r, char *name)
242 {
243     struct http_argument *p;
244     if (!name)
245         return 0;
246     for (p = r->arguments; p; p = p->next)
247         if (!strcmp(p->name, name))
248             return p->value;
249     return 0;
250 }
251
252 char *http_headerbyname(struct http_header *h, char *name)
253 {
254     for (; h; h = h->next)
255         if (!strcmp(h->name, name))
256             return h->value;
257     return 0;
258 }
259
260 struct http_response *http_create_response(struct http_channel *c)
261 {
262     struct http_response *r = nmem_malloc(c->nmem, sizeof(*r));
263     strcpy(r->code, "200");
264     r->msg = "OK";
265     r->channel = c;
266     r->headers = 0;
267     r->payload = 0;
268     return r;
269 }
270
271 // Check if buf contains a package (minus payload)
272 static int package_check(const char *buf)
273 {
274     int len = 0;
275     while (*buf) // Check if we have a sequence of lines terminated by an empty line
276     {
277         char *b = strstr(buf, "\r\n");
278
279         if (!b)
280             return 0;
281
282         len += (b - buf) + 2;
283         if (b == buf)
284             return len;
285         buf = b + 2;
286     }
287     return 0;
288 }
289
290 // Check if we have a request. Return 0 or length
291 // (including trailing CRNL) FIXME: Does not deal gracefully with requests
292 // carrying payload but this is kind of OK since we will reject anything
293 // other than an empty GET
294 static int request_check(struct http_buf *queue)
295 {
296     char tmp[4096];
297
298     http_buf_peek(queue, tmp, 4096);
299     return package_check(tmp);
300 }
301
302 struct http_response *http_parse_response_buf(struct http_channel *c, const char *buf, int len)
303 {
304     char tmp[4096];
305     struct http_response *r = http_create_response(c);
306     char *p, *p2;
307     struct http_header **hp = &r->headers;
308
309     if (len >= 4096)
310         return 0;
311     memcpy(tmp, buf, len);
312     for (p = tmp; *p && *p != ' '; p++) // Skip HTTP version
313         ;
314     p++;
315     // Response code
316     for (p2 = p; *p2 && *p2 != ' ' && p2 - p < 3; p2++)
317         r->code[p2 - p] = *p2;
318     if (!(p = strstr(tmp, "\r\n")))
319         return 0;
320     p += 2;
321     while (*p)
322     {
323         if (!(p2 = strstr(p, "\r\n")))
324             return 0;
325         if (p == p2) // End of headers
326             break;
327         else
328         {
329             struct http_header *h = *hp = nmem_malloc(c->nmem, sizeof(*h));
330             char *value = strchr(p, ':');
331             if (!value)
332                 return 0;
333             *(value++) = '\0';
334             h->name = nmem_strdup(c->nmem, p);
335             while (isspace(*value))
336                 value++;
337             if (value >= p2)  // Empty header;
338             {
339                 h->value = "";
340                 p = p2 + 2;
341                 continue;
342             }
343             *p2 = '\0';
344             h->value = nmem_strdup(c->nmem, value);
345             h->next = 0;
346             hp = &h->next;
347             p = p2 + 2;
348         }
349     }
350     return r;
351 }
352
353 struct http_request *http_parse_request(struct http_channel *c, struct http_buf **queue,
354         int len)
355 {
356     struct http_request *r = nmem_malloc(c->nmem, sizeof(*r));
357     char *p, *p2;
358     char tmp[4096];
359     char *buf = tmp;
360
361     if (len > 4096)
362         return 0;
363     if (http_buf_read(queue, buf, len) < len)
364         return 0;
365
366     r->search = "";
367     r->channel = c;
368     r->arguments = 0;
369     r->headers = 0;
370     // Parse first line
371     for (p = buf, p2 = r->method; *p && *p != ' ' && p - buf < 19; p++)
372         *(p2++) = *p;
373     if (*p != ' ')
374     {
375         yaz_log(YLOG_WARN, "Unexpected HTTP method in request");
376         return 0;
377     }
378     *p2 = '\0';
379
380     if (!(buf = strchr(buf, ' ')))
381     {
382         yaz_log(YLOG_WARN, "Syntax error in request (1)");
383         return 0;
384     }
385     buf++;
386     if (!(p = strchr(buf, ' ')))
387     {
388         yaz_log(YLOG_WARN, "Syntax error in request (2)");
389         return 0;
390     }
391     *(p++) = '\0';
392     if ((p2 = strchr(buf, '?'))) // Do we have arguments?
393         *(p2++) = '\0';
394     r->path = nmem_strdup(c->nmem, buf);
395     if (p2)
396     {
397         r->search = nmem_strdup(c->nmem, p2);
398         // Parse Arguments
399         while (*p2)
400         {
401             struct http_argument *a;
402             char *equal = strchr(p2, '=');
403             char *eoa = strchr(p2, '&');
404             if (!equal)
405             {
406                 yaz_log(YLOG_WARN, "Expected '=' in argument");
407                 return 0;
408             }
409             if (!eoa)
410                 eoa = equal + strlen(equal); // last argument
411             else
412                 *(eoa++) = '\0';
413             a = nmem_malloc(c->nmem, sizeof(struct http_argument));
414             *(equal++) = '\0';
415             a->name = nmem_strdup(c->nmem, p2);
416             urldecode(equal, equal);
417             a->value = nmem_strdup(c->nmem, equal);
418             a->next = r->arguments;
419             r->arguments = a;
420             p2 = eoa;
421         }
422     }
423     buf = p;
424
425     if (strncmp(buf, "HTTP/", 5))
426         strcpy(r->http_version, "1.0");
427     else
428     {
429         buf += 5;
430         if (!(p = strstr(buf, "\r\n")))
431             return 0;
432         *(p++) = '\0';
433         p++;
434         strcpy(r->http_version, buf);
435         buf = p;
436     }
437     strcpy(c->version, r->http_version);
438
439     r->headers = 0;
440     while (*buf)
441     {
442         if (!(p = strstr(buf, "\r\n")))
443             return 0;
444         if (p == buf)
445             break;
446         else
447         {
448             struct http_header *h = nmem_malloc(c->nmem, sizeof(*h));
449             if (!(p2 = strchr(buf, ':')))
450                 return 0;
451             *(p2++) = '\0';
452             h->name = nmem_strdup(c->nmem, buf);
453             while (isspace(*p2))
454                 p2++;
455             if (p2 >= p) // Empty header?
456             {
457                 buf = p + 2;
458                 continue;
459             }
460             *p = '\0';
461             h->value = nmem_strdup(c->nmem, p2);
462             h->next = r->headers;
463             r->headers = h;
464             buf = p + 2;
465         }
466     }
467
468     return r;
469 }
470
471 static struct http_buf *http_serialize_response(struct http_channel *c,
472         struct http_response *r)
473 {
474     struct http_header *h;
475
476     wrbuf_rewind(c->wrbuf);
477     wrbuf_printf(c->wrbuf, "HTTP/1.1 %s %s\r\n", r->code, r->msg);
478     for (h = r->headers; h; h = h->next)
479         wrbuf_printf(c->wrbuf, "%s: %s\r\n", h->name, h->value);
480     if (r->payload)
481     {
482         wrbuf_printf(c->wrbuf, "Content-length: %d\r\n", r->payload ?
483                 (int) strlen(r->payload) : 0);
484         wrbuf_printf(c->wrbuf, "Content-type: text/xml\r\n");
485     }
486     wrbuf_puts(c->wrbuf, "\r\n");
487
488     if (r->payload)
489         wrbuf_puts(c->wrbuf, r->payload);
490
491     return http_buf_bywrbuf(c->wrbuf);
492 }
493
494 // Serialize a HTTP request
495 static struct http_buf *http_serialize_request(struct http_request *r)
496 {
497     struct http_channel *c = r->channel;
498     struct http_header *h;
499     struct http_argument *a;
500
501     wrbuf_rewind(c->wrbuf);
502     wrbuf_printf(c->wrbuf, "%s %s", r->method, r->path);
503
504     if (r->arguments)
505     {
506         wrbuf_putc(c->wrbuf, '?');
507         for (a = r->arguments; a; a = a->next) {
508             if (a != r->arguments)
509                 wrbuf_putc(c->wrbuf, '&');
510             wrbuf_printf(c->wrbuf, "%s=%s", a->name, a->value);
511         }
512     }
513
514     wrbuf_printf(c->wrbuf, " HTTP/%s\r\n", r->http_version);
515
516     for (h = r->headers; h; h = h->next)
517         wrbuf_printf(c->wrbuf, "%s: %s\r\n", h->name, h->value);
518
519     wrbuf_puts(c->wrbuf, "\r\n");
520     
521     return http_buf_bywrbuf(c->wrbuf);
522 }
523
524
525 static int http_weshouldproxy(struct http_request *rq)
526 {
527     if (proxy_addr && !strstr(rq->path, "search.pz2"))
528         return 1;
529     return 0;
530 }
531
532
533 struct http_header * http_header_append(struct http_channel *ch, 
534                                         struct http_header * hp, 
535                                         const char *name, 
536                                         const char *value)
537 {
538     struct http_header *hpnew = 0; 
539
540     if (!hp | !ch)
541         return 0;
542
543     while (hp && hp->next)
544         hp = hp->next;
545
546     if(name && strlen(name)&& value && strlen(value)){
547         hpnew = nmem_malloc(ch->nmem, sizeof *hpnew);
548         hpnew->name = nmem_strdup(ch->nmem, name);
549         hpnew->value = nmem_strdup(ch->nmem, value);
550         
551         hpnew->next = 0;
552         hp->next = hpnew;
553         hp = hp->next;
554         
555         return hpnew;
556     }
557
558     return hp;
559 }
560
561     
562
563 static int http_proxy(struct http_request *rq)
564 {
565     struct http_channel *c = rq->channel;
566     struct http_proxy *p = c->proxy;
567     struct http_header *hp;
568     struct http_buf *requestbuf;
569     char server_via[128] = "";
570     char server_port[16] = "";
571     struct conf_server *ser = global_parameters.server;
572
573     if (!p) // This is a new connection. Create a proxy channel
574     {
575         int sock;
576         struct protoent *pe;
577         int one = 1;
578         int flags;
579
580         if (!(pe = getprotobyname("tcp"))) {
581             abort();
582         }
583         if ((sock = socket(PF_INET, SOCK_STREAM, pe->p_proto)) < 0)
584         {
585             yaz_log(YLOG_WARN|YLOG_ERRNO, "socket");
586             return -1;
587         }
588         if (setsockopt(sock, SOL_SOCKET, SO_REUSEADDR, (char*)
589                         &one, sizeof(one)) < 0)
590             abort();
591         if ((flags = fcntl(sock, F_GETFL, 0)) < 0) 
592             yaz_log(YLOG_FATAL|YLOG_ERRNO, "fcntl");
593         if (fcntl(sock, F_SETFL, flags | O_NONBLOCK) < 0)
594             yaz_log(YLOG_FATAL|YLOG_ERRNO, "fcntl2");
595         if (connect(sock, (struct sockaddr *) proxy_addr, 
596                     sizeof(*proxy_addr)) < 0)
597             if (errno != EINPROGRESS)
598             {
599                 yaz_log(YLOG_WARN|YLOG_ERRNO, "Proxy connect");
600                 return -1;
601             }
602
603         p = xmalloc(sizeof(struct http_proxy));
604         p->oqueue = 0;
605         p->channel = c;
606         p->first_response = 1;
607         c->proxy = p;
608         // We will add EVENT_OUTPUT below
609         p->iochan = iochan_create(sock, proxy_io, EVENT_INPUT);
610         iochan_setdata(p->iochan, p);
611         p->iochan->next = channel_list;
612         channel_list = p->iochan;
613     }
614
615     // Do _not_ modify Host: header, just checking it's existence
616     for (hp = rq->headers; hp; hp = hp->next)
617         if (!strcmp(hp->name, "Host"))
618             break;
619     if (!hp)
620     {
621         yaz_log(YLOG_WARN, "Failed to find Host header in proxy");
622         return -1;
623     }
624     
625     // Add new header about paraz2 version, host, remote client address, etc.
626     {
627         hp = rq->headers;
628         hp = http_header_append(c, hp, 
629                                 "X-Pazpar2-Version", PACKAGE_VERSION);
630         hp = http_header_append(c, hp, 
631                                 "X-Pazpar2-Server-Host", ser->host);
632         sprintf(server_port, "%d",  ser->port);
633         hp = http_header_append(c, hp, 
634                                 "X-Pazpar2-Server-Port", server_port);
635         sprintf(server_via,  "1.1 %s:%s (%s/%s)",  
636                 ser->host, server_port, PACKAGE_NAME, PACKAGE_VERSION);
637         hp = http_header_append(c, hp, "Via" , server_via);
638         hp = http_header_append(c, hp, "X-Forwarded-For", c->addr);
639     }
640     
641     requestbuf = http_serialize_request(rq);
642     http_buf_enqueue(&p->oqueue, requestbuf);
643     iochan_setflag(p->iochan, EVENT_OUTPUT);
644     return 0;
645 }
646
647 void http_send_response(struct http_channel *ch)
648 {
649     struct http_response *rs = ch->response;
650     struct http_buf *hb;
651
652     assert(rs);
653     hb = http_serialize_response(ch, rs);
654     if (!hb)
655     {
656         yaz_log(YLOG_WARN, "Failed to serialize HTTP response");
657         http_destroy(ch->iochan);
658     }
659     else
660     {
661         http_buf_enqueue(&ch->oqueue, hb);
662         iochan_setflag(ch->iochan, EVENT_OUTPUT);
663         ch->state = Http_Idle;
664     }
665 }
666
667 static void http_io(IOCHAN i, int event)
668 {
669     struct http_channel *hc = iochan_getdata(i);
670
671     switch (event)
672     {
673         int res, reqlen;
674         struct http_buf *htbuf;
675
676         case EVENT_INPUT:
677             htbuf = http_buf_create();
678             res = read(iochan_getfd(i), htbuf->buf, HTTP_BUF_SIZE -1);
679             if (res == -1 && errno == EAGAIN)
680             {
681                 http_buf_destroy(htbuf);
682                 return;
683             }
684             if (res <= 0)
685             {
686                 http_buf_destroy(htbuf);
687                 http_destroy(i);
688                 return;
689             }
690             if (res > 0)
691             {
692                 htbuf->buf[res] = '\0';
693                 htbuf->len = res;
694                 http_buf_enqueue(&hc->iqueue, htbuf);
695             }
696
697             if (hc->state == Http_Busy)
698                 return;
699             if ((reqlen = request_check(hc->iqueue)) <= 2)
700                 return;
701
702             nmem_reset(hc->nmem);
703             if (!(hc->request = http_parse_request(hc, &hc->iqueue, reqlen)))
704             {
705                 yaz_log(YLOG_WARN, "Failed to parse request");
706                 http_destroy(i);
707                 return;
708             }
709             hc->response = 0;
710             yaz_log(YLOG_LOG, "Request: %s %s%s%s", hc->request->method,
711                     hc->request->path,
712                     *hc->request->search ? "?" : "",
713                     hc->request->search);
714             if (http_weshouldproxy(hc->request))
715                 http_proxy(hc->request);
716             else
717             {
718                 // Execute our business logic!
719                 hc->state = Http_Busy;
720                 http_command(hc);
721             }
722             if (hc->iqueue)
723             {
724                 yaz_log(YLOG_DEBUG, "We think we have more input to read. Forcing event");
725                 iochan_setevent(i, EVENT_INPUT);
726             }
727
728             break;
729
730         case EVENT_OUTPUT:
731             if (hc->oqueue)
732             {
733                 struct http_buf *wb = hc->oqueue;
734                 res = write(iochan_getfd(hc->iochan), wb->buf + wb->offset, wb->len);
735                 if (res <= 0)
736                 {
737                     yaz_log(YLOG_WARN|YLOG_ERRNO, "write");
738                     http_destroy(i);
739                     return;
740                 }
741                 if (res == wb->len)
742                 {
743                     hc->oqueue = hc->oqueue->next;
744                     http_buf_destroy(wb);
745                 }
746                 else
747                 {
748                     wb->len -= res;
749                     wb->offset += res;
750                 }
751                 if (!hc->oqueue) {
752                     if (!strcmp(hc->version, "1.0"))
753                     {
754                         http_destroy(i);
755                         return;
756                     }
757                     else
758                     {
759                         iochan_clearflag(i, EVENT_OUTPUT);
760                         if (hc->iqueue)
761                             iochan_setevent(hc->iochan, EVENT_INPUT);
762                     }
763                 }
764             }
765
766             if (!hc->oqueue && hc->proxy && !hc->proxy->iochan) 
767                 http_destroy(i); // Server closed; we're done
768             break;
769         default:
770             yaz_log(YLOG_WARN, "Unexpected event on connection");
771             http_destroy(i);
772     }
773 }
774
775 #ifdef GAGA
776 // If this hostname contains our proxy host as a prefix, replace with myurl
777 static char *sub_hostname(struct http_channel *c, char *buf)
778 {
779     char tmp[1024];
780     if (strlen(buf) > 1023)
781         return buf;
782     if (strncmp(buf, "http://", 7))
783         return buf;
784     if (!strncmp(buf + 7, proxy_url, strlen(proxy_url)))
785     {
786         strcpy(tmp, myurl);
787         strcat(tmp, buf + strlen(proxy_url) + 7);
788         return nmem_strdup(c->nmem, tmp);
789     }
790     return buf;
791 }
792 #endif
793
794 // Handles I/O on a client connection to a backend web server (proxy mode)
795 static void proxy_io(IOCHAN pi, int event)
796 {
797     struct http_proxy *pc = iochan_getdata(pi);
798     struct http_channel *hc = pc->channel;
799
800     switch (event)
801     {
802         int res;
803         struct http_buf *htbuf;
804
805         case EVENT_INPUT:
806             htbuf = http_buf_create();
807             res = read(iochan_getfd(pi), htbuf->buf, HTTP_BUF_SIZE -1);
808             if (res == 0 || (res < 0 && errno != EINPROGRESS))
809             {
810                 if (hc->oqueue)
811                 {
812                     yaz_log(YLOG_WARN, "Proxy read came up short");
813                     // Close channel and alert client HTTP channel that we're gone
814                     http_buf_destroy(htbuf);
815                     close(iochan_getfd(pi));
816                     iochan_destroy(pi);
817                     pc->iochan = 0;
818                 }
819                 else
820                 {
821                     http_destroy(hc->iochan);
822                     return;
823                 }
824             }
825             else
826             {
827                 htbuf->buf[res] = '\0';
828                 htbuf->offset = 0;
829                 htbuf->len = res;
830 #ifdef GAGA
831                 if (pc->first_response) // Check if this is a redirect
832                 {
833                     int len;
834                     if ((len = package_check(htbuf->buf)))
835                     {
836                         struct http_response *res = http_parse_response_buf(hc, htbuf->buf, len);
837                         if (res)
838                         {
839                             struct http_header *h;
840                             for (h = res->headers; h; h = h->next)
841                                 if (!strcmp(h->name, "Location"))
842                                 {
843                                     // We found a location header. Rewrite it.
844                                     struct http_buf *buf;
845                                     h->value = sub_hostname(hc, h->value);
846                                     buf = http_serialize_response(hc, res);
847                                     yaz_log(YLOG_LOG, "Proxy rewrite");
848                                     http_buf_enqueue(&hc->oqueue, buf);
849                                     htbuf->offset = len;
850                                     break;
851                                 }
852                         }
853                     }
854                     pc->first_response = 0;
855                 }
856 #endif
857                 // Write any remaining payload
858                 if (htbuf->len - htbuf->offset > 0)
859                     http_buf_enqueue(&hc->oqueue, htbuf);
860             }
861             iochan_setflag(hc->iochan, EVENT_OUTPUT);
862             break;
863         case EVENT_OUTPUT:
864             if (!(htbuf = pc->oqueue))
865             {
866                 iochan_clearflag(pi, EVENT_OUTPUT);
867                 return;
868             }
869             res = write(iochan_getfd(pi), htbuf->buf + htbuf->offset, htbuf->len);
870             if (res <= 0)
871             {
872                 yaz_log(YLOG_WARN|YLOG_ERRNO, "write");
873                 http_destroy(hc->iochan);
874                 return;
875             }
876             if (res == htbuf->len)
877             {
878                 struct http_buf *np = htbuf->next;
879                 http_buf_destroy(htbuf);
880                 pc->oqueue = np;
881             }
882             else
883             {
884                 htbuf->len -= res;
885                 htbuf->offset += res;
886             }
887
888             if (!pc->oqueue) {
889                 iochan_setflags(pi, EVENT_INPUT); // Turns off output flag
890             }
891             break;
892         default:
893             yaz_log(YLOG_WARN, "Unexpected event on connection");
894             http_destroy(hc->iochan);
895     }
896 }
897
898 // Cleanup channel
899 static void http_destroy(IOCHAN i)
900 {
901     struct http_channel *s = iochan_getdata(i);
902
903     if (s->proxy)
904     {
905         if (s->proxy->iochan)
906         {
907             close(iochan_getfd(s->proxy->iochan));
908             iochan_destroy(s->proxy->iochan);
909         }
910         http_buf_destroy_queue(s->proxy->oqueue);
911         xfree(s->proxy);
912     }
913     s->next = http_channel_freelist;
914     http_channel_freelist = s;
915     close(iochan_getfd(i));
916     iochan_destroy(i);
917 }
918
919 static struct http_channel *http_create(const char *addr)
920 {
921     struct http_channel *r = http_channel_freelist;
922
923     if (r)
924     {
925         http_channel_freelist = r->next;
926         nmem_reset(r->nmem);
927         wrbuf_rewind(r->wrbuf);
928     }
929     else
930     {
931         r = xmalloc(sizeof(struct http_channel));
932         r->nmem = nmem_create();
933         r->wrbuf = wrbuf_alloc();
934     }
935     r->proxy = 0;
936     r->iochan = 0;
937     r->iqueue = r->oqueue = 0;
938     r->state = Http_Idle;
939     r->request = 0;
940     r->response = 0;
941     if (!addr)
942     {
943         yaz_log(YLOG_WARN, "Invalid HTTP forward address");
944         exit(1);
945     }
946     strcpy(r->addr, addr);
947     return r;
948 }
949
950
951 /* Accept a new command connection */
952 static void http_accept(IOCHAN i, int event)
953 {
954     struct sockaddr_in addr;
955     int fd = iochan_getfd(i);
956     socklen_t len;
957     int s;
958     IOCHAN c;
959     int flags;
960     struct http_channel *ch;
961
962     len = sizeof addr;
963     if ((s = accept(fd, (struct sockaddr *) &addr, &len)) < 0)
964     {
965         yaz_log(YLOG_WARN|YLOG_ERRNO, "accept");
966         return;
967     }
968     if ((flags = fcntl(s, F_GETFL, 0)) < 0) 
969         yaz_log(YLOG_FATAL|YLOG_ERRNO, "fcntl");
970     if (fcntl(s, F_SETFL, flags | O_NONBLOCK) < 0)
971         yaz_log(YLOG_FATAL|YLOG_ERRNO, "fcntl2");
972
973     yaz_log(YLOG_DEBUG, "New command connection");
974     c = iochan_create(s, http_io, EVENT_INPUT | EVENT_EXCEPT);
975     
976     ch = http_create(inet_ntoa(addr.sin_addr));
977     ch->iochan = c;
978     iochan_setdata(c, ch);
979
980     c->next = channel_list;
981     channel_list = c;
982 }
983
984 /* Create a http-channel listener, syntax [host:]port */
985 void http_init(const char *addr)
986 {
987     IOCHAN c;
988     int l;
989     struct protoent *p;
990     struct sockaddr_in myaddr;
991     int one = 1;
992     const char *pp;
993     int port;
994
995     yaz_log(YLOG_LOG, "HTTP listener %s", addr);
996
997     memset(&myaddr, 0, sizeof myaddr);
998     myaddr.sin_family = AF_INET;
999     pp = strchr(addr, ':');
1000     if (pp)
1001     {
1002         int len = pp - addr;
1003         char hostname[128];
1004         struct hostent *he;
1005
1006         strncpy(hostname, addr, len);
1007         hostname[len] = '\0';
1008         if (!(he = gethostbyname(hostname)))
1009         {
1010             yaz_log(YLOG_FATAL, "Unable to resolve '%s'", hostname);
1011             exit(1);
1012         }
1013         
1014         memcpy(&myaddr.sin_addr.s_addr, he->h_addr_list[0], he->h_length);
1015         port = atoi(pp + 1);
1016
1017         yaz_log(YLOG_LOG, "HTTP address  %s:%d", 
1018                 "" == he->h_addr_list[0] ? he->h_addr_list[0] : "127.0.0.1" , 
1019                     port);
1020
1021     }
1022     else
1023     {
1024         port = atoi(addr);
1025         myaddr.sin_addr.s_addr = INADDR_ANY;
1026     }
1027
1028     myaddr.sin_port = htons(port);
1029
1030     if (!(p = getprotobyname("tcp"))) {
1031         abort();
1032     }
1033     if ((l = socket(PF_INET, SOCK_STREAM, p->p_proto)) < 0)
1034         yaz_log(YLOG_FATAL|YLOG_ERRNO, "socket");
1035     if (setsockopt(l, SOL_SOCKET, SO_REUSEADDR, (char*)
1036                     &one, sizeof(one)) < 0)
1037         abort();
1038
1039     if (bind(l, (struct sockaddr *) &myaddr, sizeof myaddr) < 0) 
1040         yaz_log(YLOG_FATAL|YLOG_ERRNO, "bind");
1041     if (listen(l, SOMAXCONN) < 0) 
1042         yaz_log(YLOG_FATAL|YLOG_ERRNO, "listen");
1043
1044     c = iochan_create(l, http_accept, EVENT_INPUT | EVENT_EXCEPT);
1045     c->next = channel_list;
1046     channel_list = c;
1047 }
1048
1049 void http_set_proxyaddr(char *host, char *base_url)
1050 {
1051     char *p;
1052     int port;
1053     struct hostent *he;
1054
1055     strcpy(myurl, base_url);
1056     strcpy(proxy_url, host);
1057     p = strchr(host, ':');
1058     yaz_log(YLOG_DEBUG, "Proxying for %s", host);
1059     yaz_log(YLOG_LOG, "HTTP backend  %s", proxy_url);
1060     if (p) {
1061         port = atoi(p + 1);
1062         *p = '\0';
1063     }
1064     else
1065         port = 80;
1066     if (!(he = gethostbyname(host))) 
1067     {
1068         fprintf(stderr, "Failed to lookup '%s'\n", host);
1069         exit(1);
1070     }
1071     proxy_addr = xmalloc(sizeof(struct sockaddr_in));
1072     proxy_addr->sin_family = he->h_addrtype;
1073     memcpy(&proxy_addr->sin_addr.s_addr, he->h_addr_list[0], he->h_length);
1074     proxy_addr->sin_port = htons(port);
1075 }
1076
1077 /*
1078  * Local variables:
1079  * c-basic-offset: 4
1080  * indent-tabs-mode: nil
1081  * End:
1082  * vim: shiftwidth=4 tabstop=8 expandtab
1083  */