]> Pileus Git - ~andy/fetchmail/blob - transact.c
857d7a3555ea370677df698fa8c1cd0b182d5ab9
[~andy/fetchmail] / transact.c
1 /*
2  * transact.c -- transaction primitives for the fetchmail driver loop
3  *
4  * Copyright 2001 by Eric S. Raymond
5  * For license terms, see the file COPYING in this directory.
6  */
7
8 #include  "config.h"
9 #include  <stdio.h>
10 #include  <string.h>
11 #include  <ctype.h>
12 #ifdef HAVE_MEMORY_H
13 #include  <memory.h>
14 #endif /* HAVE_MEMORY_H */
15 #if defined(STDC_HEADERS)
16 #include  <stdlib.h>
17 #endif
18 #if defined(HAVE_UNISTD_H)
19 #include <unistd.h>
20 #endif
21 #if defined(HAVE_STDARG_H)
22 #include  <stdarg.h>
23 #else
24 #include  <varargs.h>
25 #endif
26
27 #ifdef HAVE_NET_SOCKET_H
28 #include <net/socket.h>
29 #endif
30 #include <sys/socket.h>
31 #include <netdb.h>
32 #include "md5.h"
33
34 #include "i18n.h"
35 #include "socket.h"
36 #include "fetchmail.h"
37
38 /* global variables: please reinitialize them explicitly for proper
39  * working in daemon mode */
40
41 /* session variables initialized in init_transact() */
42 int suppress_tags = FALSE;      /* emit tags? */
43 char tag[TAGLEN];
44 static int tagnum;
45 #define GENSYM  (sprintf(tag, "A%04d", ++tagnum % TAGMOD), tag)
46 static struct method *protocol;
47 char shroud[PASSWORDLEN*2+3];   /* string to shroud in debug output */
48
49 /* session variables initialized in do_session() */
50 int mytimeout;          /* value of nonreponse timeout */
51
52 /* mail variables initialized in readheaders() */
53 struct msgblk msgblk;
54 static int accept_count, reject_count;
55
56 /** add given address to xmit_names if it exactly matches a full address
57  * \returns nonzero if matched */
58 static int map_address(const char *addr, struct query *ctl, struct idlist **xmit_names)
59 {
60     const char  *lname;
61
62     lname = idpair_find(&ctl->localnames, addr);
63     if (lname) {
64         if (outlevel >= O_DEBUG)
65             report(stdout, GT_("mapped address %s to local %s\n"), addr, lname);
66         save_str(xmit_names, lname, XMIT_ACCEPT);
67         accept_count++;
68     }
69     return lname != NULL;
70 }
71
72 /** add given name to xmit_names if it matches declared localnames */
73 static void map_name(const char *name, struct query *ctl, struct idlist **xmit_names)
74 /*   name:       name to map */
75 /*   ctl:        list of permissible aliases */
76 /*   xmit_names: list of recipient names parsed out */
77 {
78     const char  *lname;
79
80     lname = idpair_find(&ctl->localnames, name);
81     if (!lname && ctl->wildcard)
82         lname = name;
83
84     if (lname != (char *)NULL)
85     {
86         if (outlevel >= O_DEBUG)
87             report(stdout, GT_("mapped %s to local %s\n"), name, lname);
88         save_str(xmit_names, lname, XMIT_ACCEPT);
89         accept_count++;
90     }
91 }
92
93 static void find_server_names(const char *hdr,
94                               struct query *ctl,
95                               struct idlist **xmit_names)
96 /* parse names out of a RFC822 header into an ID list */
97 /*   hdr:               RFC822 header in question */
98 /*   ctl:               list of permissible aliases */
99 /*   xmit_names:        list of recipient names parsed out */
100 {
101     if (hdr == (char *)NULL)
102         return;
103     else
104     {
105         char    *cp;
106
107         for (cp = nxtaddr(hdr); cp != NULL; cp = nxtaddr(NULL))
108         {
109             char        *atsign;
110
111             /* 
112              * Handle empty address from a To: header containing only 
113              * a comment.
114              */
115             if (!*cp)
116                 continue;
117
118             /*
119              * If the name of the user begins with a qmail virtual
120              * domain prefix, ignore the prefix.  Doing this here
121              * means qvirtual will work either with ordinary name
122              * mapping or with a localdomains option.
123              */
124             if (ctl->server.qvirtual)
125             {
126                 int sl = strlen(ctl->server.qvirtual);
127  
128                 if (!strncasecmp((char *)cp, ctl->server.qvirtual, sl))
129                     cp += sl;
130             }
131
132             if ((atsign = strchr((char *)cp, '@'))) {
133                 struct idlist   *idp;
134
135                 /* try to match full address first, this takes
136                  * precedence over localdomains and alias mappings */
137                 if (map_address(cp, ctl, xmit_names))
138                     goto nomap;
139
140                 /*
141                  * Does a trailing segment of the hostname match something
142                  * on the localdomains list?  If so, save the whole name
143                  * and keep going.
144                  */
145                 for (idp = ctl->server.localdomains; idp; idp = idp->next) {
146                     char        *rhs;
147
148                     rhs = atsign + (strlen(atsign) - strlen(idp->id));
149                     if (rhs > atsign &&
150                         (rhs[-1] == '.' || rhs[-1] == '@') &&
151                         strcasecmp(rhs, idp->id) == 0)
152                     {
153                         if (outlevel >= O_DEBUG)
154                             report(stdout, GT_("passed through %s matching %s\n"), 
155                                   cp, idp->id);
156                         save_str(xmit_names, (const char *)cp, XMIT_ACCEPT);
157                         accept_count++;
158                         goto nomap;
159                     }
160                 }
161
162                 /* if we matched a local domain, idp != NULL */
163                 if (!idp)
164                 {
165                     /*
166                      * Check to see if the right-hand part is an alias
167                      * or MX equivalent of the mailserver.  If it's
168                      * not, skip this name.  If it is, we'll keep
169                      * going and try to find a mapping to a client name.
170                      */
171                     if (!is_host_alias(atsign+1, ctl, &ai0))
172                     {
173                         save_str(xmit_names, cp, XMIT_REJECT);
174                         reject_count++;
175                         continue;
176                     }
177                 }
178                 atsign[0] = '\0';
179                 map_name(cp, ctl, xmit_names);
180             nomap:;
181             }
182         }
183     }
184 }
185
186 /*
187  * Return zero on a syntactically invalid address, nz on a valid one.
188  *
189  * This used to be strchr(a, '.'), but it turns out that lines like this
190  *
191  * Received: from punt-1.mail.demon.net by mailstore for markb@ordern.com
192  *          id 938765929:10:27223:2; Fri, 01 Oct 99 08:18:49 GMT
193  *
194  * are not uncommon.  So now we just check that the following token is
195  * not itself an email address.
196  */
197 #define VALID_ADDRESS(a)        !strchr(a, '@')
198
199 static char *parse_received(struct query *ctl, char *bufp)
200 /* try to extract real address from the Received line */
201 /* If a valid Received: line is found, we return the full address in
202  * a buffer which can be parsed from nxtaddr().  This is to ansure that
203  * the local domain part of the address can be passed along in 
204  * find_server_names() if it contains one.
205  * Note: We should return a dummy header containing the address 
206  * which makes nxtaddr() behave correctly. 
207  */
208 {
209     char *base, *ok = (char *)NULL;
210     static char rbuf[HOSTLEN + USERNAMELEN + 4]; 
211     struct addrinfo *ai0;
212
213 #define RBUF_WRITE(value) if (tp < rbuf+sizeof(rbuf)-1) *tp++=value
214
215     /*
216      * Try to extract the real envelope addressee.  We look here
217      * specifically for the mailserver's Received line.
218      * Note: this will only work for sendmail, or an MTA that
219      * shares sendmail's convention for embedding the envelope
220      * address in the Received line.  Sendmail itself only
221      * does this when the mail has a single recipient.
222      */
223     if (outlevel >= O_DEBUG)
224         report(stdout, GT_("analyzing Received line:\n%s"), bufp);
225
226     /* search for whitepace-surrounded "by" followed by valid address */
227     for (base = bufp;  ; base = ok + 2)
228     {
229         if (!(ok = strstr(base, "by")))
230             break;
231         else if (!isspace((unsigned char)ok[-1]) || !isspace((unsigned char)ok[2]))
232             continue;
233         else
234         {
235             char        *sp, *tp;
236
237             /* extract space-delimited token after "by" */
238             for (sp = ok + 2; isspace((unsigned char)*sp); sp++)
239                 continue;
240             tp = rbuf;
241             for (; *sp && !isspace((unsigned char)*sp); sp++)
242                 RBUF_WRITE(*sp);
243             *tp = '\0';
244
245             /* look for valid address */
246             if (VALID_ADDRESS(rbuf))
247                 break;
248             else
249                 ok = sp - 1;    /* arrange to skip this token */
250         }
251     }
252     if (ok)
253     {
254         /*
255          * If it's a DNS name of the mail server, look for the
256          * recipient name after a following "for".  Otherwise
257          * punt.
258          */
259         if (is_host_alias(rbuf, ctl, &ai0))
260         {
261             if (outlevel >= O_DEBUG)
262                 report(stdout, 
263                       GT_("line accepted, %s is an alias of the mailserver\n"), rbuf);
264         }
265         else
266         {
267             if (outlevel >= O_DEBUG)
268                 report(stdout, 
269                       GT_("line rejected, %s is not an alias of the mailserver\n"), 
270                       rbuf);
271             return(NULL);
272         }
273
274         /* search for whitepace-surrounded "for" followed by xxxx@yyyy */
275         for (base = ok + 4 + strlen(rbuf);  ; base = ok + 2)
276         {
277             if (!(ok = strstr(base, "for")))
278                 break;
279             else if (!isspace((unsigned char)ok[-1]) || !isspace((unsigned char)ok[3]))
280                 continue;
281             else
282             {
283                 char    *sp, *tp;
284
285                 /* extract space-delimited token after "for" */
286                 for (sp = ok + 3; isspace((unsigned char)*sp); sp++)
287                     continue;
288                 tp = rbuf;
289                 for (; !isspace((unsigned char)*sp); sp++)
290                     RBUF_WRITE(*sp);
291                 *tp = '\0';
292
293                 if (strchr(rbuf, '@'))
294                     break;
295                 else
296                     ok = sp - 1;        /* arrange to skip this token */
297             }
298         }
299         if (ok)
300         {
301             flag        want_gt = FALSE;
302             char        *sp, *tp;
303
304             /* char after "for" could be space or a continuation newline */
305             for (sp = ok + 4; isspace((unsigned char)*sp); sp++)
306                 continue;
307             tp = rbuf;
308             RBUF_WRITE(':');    /* Here is the hack.  This is to be friends */
309             RBUF_WRITE(' ');    /* with nxtaddr()... */
310             if (*sp == '<')
311             {
312                 want_gt = TRUE;
313                 sp++;
314             }
315             while (*sp == '@')          /* skip routes */
316                 while (*sp && *sp++ != ':')
317                     continue;
318             while (*sp
319                    && (want_gt ? (*sp != '>') : !isspace((unsigned char)*sp))
320                    && *sp != ';')
321                 if (!isspace((unsigned char)*sp))
322                 {
323                     RBUF_WRITE(*sp);
324                     sp++;
325                 }    
326                 else
327                 {
328                     /* uh oh -- whitespace here can't be right! */
329                     ok = (char *)NULL;
330                     break;
331                 }
332             RBUF_WRITE('\n');
333             *tp = '\0';
334             if (strlen(rbuf) <= 3)      /* apparently nothing has been found */
335                 ok = NULL;
336         } else
337             ok = (char *)NULL;
338     }
339
340     if (!ok)
341     {
342         if (outlevel >= O_DEBUG)
343             report(stdout, GT_("no Received address found\n"));
344         return(NULL);
345     }
346     else
347     {
348         if (outlevel >= O_DEBUG) {
349             char *lf = rbuf + strlen(rbuf)-1;
350             *lf = '\0';
351             if (outlevel >= O_DEBUG)
352                 report(stdout, GT_("found Received address `%s'\n"), rbuf+2);
353             *lf = '\n';
354         }
355         return(rbuf);
356     }
357 }
358
359 /* shared by readheaders and readbody */
360 static int sizeticker;
361
362 /** Print ticker based on a amount of data transferred of \a bytes.
363  * Increments \a *tickervar by \a bytes, and if it exceeds
364  * \a SIZETICKER, print a dot and reduce *tickervar by \a SIZETICKER. */
365 static void print_ticker(int *tickervar, int bytes)
366 {
367     *tickervar += bytes;
368     while (*tickervar >= SIZETICKER)
369     {
370         if (want_progress())
371         {
372             fputc('.', stdout);
373             fflush(stdout);
374         }
375         *tickervar -= SIZETICKER;
376     }
377 }
378
379 #define EMPTYLINE(s)   (((s)[0] == '\r' && (s)[1] == '\n' && (s)[2] == '\0') \
380                        || ((s)[0] == '\n' && (s)[1] == '\0'))
381
382 static int end_of_header (const char *s)
383 /* accept "\r*\n" as EOH in order to be bulletproof against broken survers */
384 {
385     while (s[0] == '\r')
386         s++;
387     return (s[0] == '\n' && s[1] == '\0');
388 }
389
390 int readheaders(int sock,
391                        long fetchlen,
392                        long reallen,
393                        struct query *ctl,
394                        int num,
395                        flag *suppress_readbody)
396 /* read message headers and ship to SMTP or MDA */
397 /*   sock:              to which the server is connected */
398 /*   fetchlen:          length of message according to fetch response */
399 /*   reallen:           length of message according to getsizes */
400 /*   ctl:               query control record */
401 /*   num:               index of message */
402 /*   suppress_readbody: whether call to readbody() should be supressed */
403 {
404     struct addrblk
405     {
406         int             offset;
407         struct addrblk  *next;
408     };
409     struct addrblk      *to_addrchain = NULL;
410     struct addrblk      **to_chainptr = &to_addrchain;
411     struct addrblk      *resent_to_addrchain = NULL;
412     struct addrblk      **resent_to_chainptr = &resent_to_addrchain;
413
414     char                buf[MSGBUFSIZE+1];
415     int                 from_offs, reply_to_offs, resent_from_offs;
416     int                 app_from_offs, sender_offs, resent_sender_offs;
417     int                 env_offs;
418     char                *received_for, *rcv, *cp;
419     static char         *delivered_to = NULL;
420     int                 n, oldlen, ch, remaining, skipcount;
421     size_t              linelen;
422     int                 delivered_to_count;
423     struct idlist       *idp;
424     flag                no_local_matches = FALSE;
425     flag                has_nuls;
426     int                 olderrs, good_addresses, bad_addresses;
427     int                 retain_mail = 0, refuse_mail = 0;
428     flag                already_has_return_path = FALSE;
429
430     sizeticker = 0;
431     has_nuls = FALSE;
432     msgblk.return_path[0] = '\0';
433     olderrs = ctl->errcount;
434
435     /* read message headers */
436     msgblk.reallen = reallen;
437
438     /*
439      * We used to free the header block unconditionally at the end of 
440      * readheaders, but it turns out that if close_sink() hits an error
441      * condition the code for sending bouncemail will actually look
442      * at the freed storage and coredump...
443      */
444     xfree(msgblk.headers);
445     free_str_list(&msgblk.recipients);
446     xfree(delivered_to);
447
448     /* initially, no message digest */
449     memset(ctl->digest, '\0', sizeof(ctl->digest));
450
451     received_for = NULL;
452     from_offs = reply_to_offs = resent_from_offs = app_from_offs = 
453         sender_offs = resent_sender_offs = env_offs = -1;
454     oldlen = 0;
455     msgblk.msglen = 0;
456     skipcount = 0;
457     delivered_to_count = 0;
458     ctl->mimemsg = 0;
459
460     for (remaining = fetchlen; remaining > 0 || protocol->delimited; )
461     {
462         char *line, *rline;
463
464         line = (char *)xmalloc(sizeof(buf));
465         linelen = 0;
466         line[0] = '\0';
467         do {
468             do {
469                 char    *sp, *tp;
470
471                 set_timeout(mytimeout);
472                 if ((n = SockRead(sock, buf, sizeof(buf)-1)) == -1) {
473                     set_timeout(0);
474                     free(line);
475                     return(PS_SOCKET);
476                 }
477                 set_timeout(0);
478
479                 /*
480                  * Smash out any NULs, they could wreak havoc later on.
481                  * Some network stacks seem to generate these at random,
482                  * especially (according to reports) at the beginning of the
483                  * first read.  NULs are illegal in RFC822 format.
484                  */
485                 for (sp = tp = buf; sp < buf + n; sp++)
486                     if (*sp)
487                         *tp++ = *sp;
488                 *tp = '\0';
489                 n = tp - buf;
490             } while
491                   (n == 0);
492
493             remaining -= n;
494             linelen += n;
495             msgblk.msglen += n;
496
497             /*
498              * Try to gracefully handle the case where the length of a
499              * line exceeds MSGBUFSIZE.
500              */
501             if (n && buf[n-1] != '\n') 
502             {
503                 rline = (char *) realloc(line, linelen + 1);
504                 if (rline == NULL)
505                 {
506                     free (line);
507                     return(PS_IOERR);
508                 }
509                 line = rline;
510                 memcpy(line + linelen - n, buf, n);
511                 line[linelen] = '\0';
512                 ch = ' '; /* So the next iteration starts */
513                 continue;
514             }
515
516             /* lines may not be properly CRLF terminated; fix this for qmail */
517             /* we don't want to overflow the buffer here */
518             if (ctl->forcecr && buf[n-1]=='\n' && (n==1 || buf[n-2]!='\r'))
519             {
520                 char * tcp;
521                 rline = (char *) realloc(line, linelen + 2);
522                 if (rline == NULL)
523                 {
524                     free (line);
525                     return(PS_IOERR);
526                 }
527                 line = rline;
528                 memcpy(line + linelen - n, buf, n - 1);
529                 tcp = line + linelen - 1;
530                 *tcp++ = '\r';
531                 *tcp++ = '\n';
532                 *tcp++ = '\0';
533                 n++;
534                 linelen++;
535             }
536             else
537             {
538                 rline = (char *) realloc(line, linelen + 1);
539                 if (rline == NULL)
540                 {
541                     free (line);
542                     return(PS_IOERR);
543                 }
544                 line = rline;
545                 memcpy(line + linelen - n, buf, n + 1);
546             }
547
548             /* check for end of headers */
549             if (end_of_header(line))
550             {
551 eoh:
552                 if (linelen != strlen (line))
553                     has_nuls = TRUE;
554                 free(line);
555                 goto process_headers;
556             }
557
558             /*
559              * Check for end of message immediately.  If one of your folders
560              * has been mangled, the delimiter may occur directly after the
561              * header.
562              */
563             if (protocol->delimited && line[0] == '.' && EMPTYLINE(line+1))
564             {
565                 if (suppress_readbody)
566                     *suppress_readbody = TRUE;
567                 goto eoh; /* above */
568             }
569
570             /*
571              * At least one brain-dead website (netmind.com) is known to
572              * send out robotmail that's missing the RFC822 delimiter blank
573              * line before the body! Without this check fetchmail segfaults.
574              * With it, we treat such messages as spam and refuse them.
575              *
576              * Frederic Marchal reported in February 2006 that hotmail
577              * or something improperly wrapped a very long TO header
578              * (wrapped without inserting whitespace in the continuation
579              * line) and found that this code thus refused a message
580              * that should have been delivered.
581              *
582              * XXX FIXME: we should probably wrap the message up as
583              * message/rfc822 attachment and forward to postmaster (Rob
584              * MacGregor)
585              */
586             if (!refuse_mail
587                 && !ctl->server.badheader == BHACCEPT
588                 && !isspace((unsigned char)line[0])
589                 && !strchr(line, ':'))
590             {
591                 if (linelen != strlen (line))
592                     has_nuls = TRUE;
593                 if (outlevel > O_SILENT)
594                     report(stdout,
595                            GT_("incorrect header line found while scanning headers\n"));
596                 if (outlevel >= O_VERBOSE)
597                     report (stdout, GT_("line: %s"), line);
598                 refuse_mail = 1;
599             }
600
601             /* check for RFC822 continuations */
602             set_timeout(mytimeout);
603             ch = SockPeek(sock);
604             set_timeout(0);
605         } while
606             (ch == ' ' || ch == '\t');  /* continuation to next line? */
607
608         /* write the message size dots */
609         if ((outlevel > O_SILENT && outlevel < O_VERBOSE) && linelen > 0)
610         {
611             print_ticker(&sizeticker, linelen);
612         }
613
614         /*
615          * Decode MIME encoded headers. We MUST do this before
616          * looking at the Content-Type / Content-Transfer-Encoding
617          * headers (RFC 2046).
618          */
619         if ( ctl->mimedecode )
620         {
621             char *tcp;
622             UnMimeHeader(line);
623             /* the line is now shorter. So we retrace back till we find
624              * our terminating combination \n\0, we move backwards to
625              * make sure that we don't catch some \n\0 stored in the
626              * decoded part of the message */
627             for (tcp = line + linelen - 1; tcp > line && (*tcp != 0 || tcp[-1] != '\n'); tcp--);
628             if  (tcp > line) linelen = tcp - line;
629         }
630
631
632         /* skip processing if we are going to retain or refuse this mail */
633         if (retain_mail || refuse_mail)
634         {
635             free(line);
636             continue;
637         }
638
639         /* we see an ordinary (non-header, non-message-delimiter) line */
640         if (linelen != strlen (line))
641             has_nuls = TRUE;
642
643         /*
644          * The University of Washington IMAP server (the reference
645          * implementation of IMAP4 written by Mark Crispin) relies
646          * on being able to keep base-UID information in a special
647          * message at the head of the mailbox.  This message should
648          * neither be deleted nor forwarded.
649          *
650          * An example for such a message is (keep this in so people
651          * find it when looking where the special code is to handle the
652          * data):
653          *
654          *   From MAILER-DAEMON Wed Nov 23 11:38:42 2005
655          *   Date: 23 Nov 2005 11:38:42 +0100
656          *   From: Mail System Internal Data <MAILER-DAEMON@mail.example.org>
657          *   Subject: DON'T DELETE THIS MESSAGE -- FOLDER INTERNAL DATA
658          *   Message-ID: <1132742322@mail.example.org>
659          *   X-IMAP: 1132742306 0000000001
660          *   Status: RO
661          *
662          *   This text is part of the internal format of your mail folder, and is not
663          *   a real message.  It is created automatically by the mail system software.
664          *   If deleted, important folder data will be lost, and it will be re-created
665          *   with the data reset to initial values.
666          *
667          * This message is only visible if a POP3 server that is unaware
668          * of these UWIMAP messages is used besides UWIMAP or PINE.
669          *
670          * We will just check if the first message in the mailbox has an
671          * X-IMAP: header.
672          */
673 #ifdef POP2_ENABLE
674         /*
675          * We disable this check under POP2 because there's no way to
676          * prevent deletion of the message.  So at least we ought to
677          * forward it to the user so he or she will have some clue
678          * that things have gone awry.
679          */
680         if (servport("pop2") != servport(protocol->service))
681 #endif /* POP2_ENABLE */
682             if (num == 1 && !strncasecmp(line, "X-IMAP:", 7)) {
683                 free(line);
684                 retain_mail = 1;
685                 continue;
686             }
687
688         /*
689          * This code prevents fetchmail from becoming an accessory after
690          * the fact to upstream sendmails with the `E' option on.  It also
691          * copes with certain brain-dead POP servers (like NT's) that pass
692          * through Unix from_ lines.
693          *
694          * Either of these bugs can result in a non-RFC822 line at the
695          * beginning of the headers.  If fetchmail just passes it
696          * through, the client listener may think the message has *no*
697          * headers (since the first) line it sees doesn't look
698          * RFC822-conformant) and fake up a set.
699          *
700          * What the user would see in this case is bogus (synthesized)
701          * headers, followed by a blank line, followed by the >From, 
702          * followed by the real headers, followed by a blank line,
703          * followed by text.
704          *
705          * We forestall this lossage by tossing anything that looks
706          * like an escaped or passed-through From_ line in headers.
707          * These aren't RFC822 so our conscience is clear...
708          */
709         if (!strncasecmp(line, ">From ", 6) || !strncasecmp(line, "From ", 5))
710         {
711             free(line);
712             continue;
713         }
714
715         /*
716          * We remove all Delivered-To: headers if dropdelivered is set
717          * - special care must be taken if Delivered-To: is also used
718          * as envelope at the same time.
719          *
720          * This is to avoid false mail loops errors when delivering
721          * local messages to and from a Postfix or qmail mailserver.
722          */
723         if (ctl->dropdelivered && !strncasecmp(line, "Delivered-To:", 13)) 
724         {
725             if (delivered_to ||
726                 ctl->server.envelope == STRING_DISABLED ||
727                 !ctl->server.envelope ||
728                 strcasecmp(ctl->server.envelope, "Delivered-To") ||
729                 delivered_to_count != ctl->server.envskip)
730                 free(line);
731             else 
732                 delivered_to = line;
733             delivered_to_count++;
734             continue;
735         }
736
737         /*
738          * If we see a Status line, it may have been inserted by an MUA
739          * on the mail host, or it may have been inserted by the server
740          * program after the headers in the transaction stream.  This
741          * can actually hose some new-mail notifiers such as xbuffy,
742          * which assumes any Status line came from a *local* MDA and
743          * therefore indicates that the message has been seen.
744          *
745          * Some buggy POP servers (including at least the 3.3(20)
746          * version of the one distributed with IMAP) insert empty
747          * Status lines in the transaction stream; we'll chuck those
748          * unconditionally.  Nonempty ones get chucked if the user
749          * turns on the dropstatus flag.
750          */
751         {
752             char        *cp;
753
754             if (!strncasecmp(line, "Status:", 7))
755                 cp = line + 7;
756             else if (!strncasecmp(line, "X-Mozilla-Status:", 17))
757                 cp = line + 17;
758             else
759                 cp = NULL;
760             if (cp) {
761                 while (*cp && isspace((unsigned char)*cp)) cp++;
762                 if (!*cp || ctl->dropstatus)
763                 {
764                     free(line);
765                     continue;
766                 }
767             }
768         }
769
770         if (ctl->rewrite)
771             line = reply_hack(line, ctl->server.truename, &linelen);
772
773         /*
774          * OK, this is messy.  If we're forwarding by SMTP, it's the
775          * SMTP-receiver's job (according to RFC821, page 22, section
776          * 4.1.1) to generate a Return-Path line on final delivery.
777          * The trouble is, we've already got one because the
778          * mailserver's SMTP thought *it* was responsible for final
779          * delivery.
780          *
781          * Stash away the contents of Return-Path (as modified by reply_hack)
782          * for use in generating MAIL FROM later on, then prevent the header
783          * from being saved with the others.  In effect, we strip it off here.
784          *
785          * If the SMTP server conforms to the standards, and fetchmail gets the
786          * envelope sender from the Return-Path, the new Return-Path should be
787          * exactly the same as the original one.
788          *
789          * We do *not* want to ignore empty Return-Path headers.  These should
790          * be passed through as a way of indicating that a message should
791          * not trigger bounces if delivery fails.  What we *do* need to do is
792          * make sure we never try to rewrite such a blank Return-Path.  We
793          * handle this with a check for <> in the rewrite logic above.
794          *
795          * Also, if an email has multiple Return-Path: headers, we only
796          * read the first occurance, as some spam email has more than one
797          * Return-Path.
798          *
799          */
800         if ((already_has_return_path==FALSE) && !strncasecmp("Return-Path:", line, 12) && (cp = nxtaddr(line)))
801         {
802             already_has_return_path = TRUE;
803             if (cp[0]=='\0')    /* nxtaddr() strips the brackets... */
804                 cp="<>";
805             strncpy(msgblk.return_path, cp, sizeof(msgblk.return_path));
806             msgblk.return_path[sizeof(msgblk.return_path)-1] = '\0';
807             if (!ctl->mda) {
808                 free(line);
809                 continue;
810             }
811         }
812
813         if (!msgblk.headers)
814         {
815             oldlen = linelen;
816             msgblk.headers = (char *)xmalloc(oldlen + 1);
817             (void) memcpy(msgblk.headers, line, linelen);
818             msgblk.headers[oldlen] = '\0';
819             free(line);
820             line = msgblk.headers;
821         }
822         else
823         {
824             char *newhdrs;
825             int newlen;
826
827             newlen = oldlen + linelen;
828             newhdrs = (char *) realloc(msgblk.headers, newlen + 1);
829             if (newhdrs == NULL) {
830                 free(line);
831                 return(PS_IOERR);
832             }
833             msgblk.headers = newhdrs;
834             memcpy(msgblk.headers + oldlen, line, linelen);
835             msgblk.headers[newlen] = '\0';
836             free(line);
837             line = msgblk.headers + oldlen;
838             oldlen = newlen;
839         }
840
841         /* find offsets of various special headers */
842         if (!strncasecmp("From:", line, 5))
843             from_offs = (line - msgblk.headers);
844         else if (!strncasecmp("Reply-To:", line, 9))
845             reply_to_offs = (line - msgblk.headers);
846         else if (!strncasecmp("Resent-From:", line, 12))
847             resent_from_offs = (line - msgblk.headers);
848         else if (!strncasecmp("Apparently-From:", line, 16))
849             app_from_offs = (line - msgblk.headers);
850         /*
851          * Netscape 4.7 puts "Sender: zap" in mail headers.  Perverse...
852          *
853          * But a literal reading of RFC822 sec. 4.4.2 supports the idea
854          * that Sender: *doesn't* have to be a working email address.
855          *
856          * The definition of the Sender header in RFC822 says, in
857          * part, "The Sender mailbox specification includes a word
858          * sequence which must correspond to a specific agent (i.e., a
859          * human user or a computer program) rather than a standard
860          * address."  That implies that the contents of the Sender
861          * field don't need to be a legal email address at all So
862          * ignore any Sender or Resent-Sender lines unless they
863          * contain @.
864          *
865          * (RFC2822 says the contents of Sender must be a valid mailbox
866          * address, which is also what RFC822 4.4.4 implies.)
867          */
868         else if (!strncasecmp("Sender:", line, 7) && (strchr(line, '@') || strchr(line, '!')))
869             sender_offs = (line - msgblk.headers);
870         else if (!strncasecmp("Resent-Sender:", line, 14) && (strchr(line, '@') || strchr(line, '!')))
871             resent_sender_offs = (line - msgblk.headers);
872
873 #ifdef __UNUSED__
874         else if (!strncasecmp("Message-Id:", line, 11))
875         {
876             if (ctl->server.uidl)
877             {
878                 char id[IDLEN+1];
879
880                 line[IDLEN+12] = 0;             /* prevent stack overflow */
881                 sscanf(line+12, "%s", id);
882                 if (!str_find( &ctl->newsaved, num))
883                 {
884                     struct idlist *newl = save_str(&ctl->newsaved,id,UID_SEEN);
885                     newl->val.status.num = num;
886                 }
887             }
888         }
889 #endif /* __UNUSED__ */
890
891         /* if multidrop is on, gather addressee headers */
892         if (MULTIDROP(ctl))
893         {
894             if (!strncasecmp("To:", line, 3)
895                 || !strncasecmp("Cc:", line, 3)
896                 || !strncasecmp("Bcc:", line, 4)
897                 || !strncasecmp("Apparently-To:", line, 14))
898             {
899                 *to_chainptr = (struct addrblk *)xmalloc(sizeof(struct addrblk));
900                 (*to_chainptr)->offset = (line - msgblk.headers);
901                 to_chainptr = &(*to_chainptr)->next; 
902                 *to_chainptr = NULL;
903             }
904
905             else if (!strncasecmp("Resent-To:", line, 10)
906                      || !strncasecmp("Resent-Cc:", line, 10)
907                      || !strncasecmp("Resent-Bcc:", line, 11))
908             {
909                 *resent_to_chainptr = (struct addrblk *)xmalloc(sizeof(struct addrblk));
910                 (*resent_to_chainptr)->offset = (line - msgblk.headers);
911                 resent_to_chainptr = &(*resent_to_chainptr)->next; 
912                 *resent_to_chainptr = NULL;
913             }
914
915             else if (ctl->server.envelope != STRING_DISABLED)
916             {
917                 if (ctl->server.envelope 
918                     && strcasecmp(ctl->server.envelope, "Received"))
919                 {
920                     if (env_offs == -1 && !strncasecmp(ctl->server.envelope,
921                                                        line,
922                                                        strlen(ctl->server.envelope)))
923                     {                           
924                         if (skipcount++ < ctl->server.envskip)
925                             continue;
926                         env_offs = (line - msgblk.headers);
927                     }    
928                 }
929                 else if (!received_for && !strncasecmp("Received:", line, 9))
930                 {
931                     if (skipcount++ < ctl->server.envskip)
932                         continue;
933                     received_for = parse_received(ctl, line);
934                 }
935             }
936         }
937     }
938
939 process_headers:
940
941     if (retain_mail) {
942         return(PS_RETAINED);
943     }
944
945     if (refuse_mail)
946         return(PS_REFUSED);
947     /*
948      * This is the duplicate-message killer code.
949      *
950      * When mail delivered to a multidrop mailbox on the server is
951      * addressed to multiple people on the client machine, there will
952      * be one copy left in the box for each recipient.  This is not a
953      * problem if we have the actual recipient address to dispatch on
954      * (e.g. because we've mined it out of sendmail trace headers, or
955      * a qmail Delivered-To line, or a declared sender envelope line).
956      *
957      * But if we're mining addressees out of the To/Cc/Bcc fields, and
958      * if the mail is addressed to N people, each recipient will
959      * get N copies.  This is bad when N > 1.
960      *
961      * Foil this by suppressing all but one copy of a message with a
962      * given set of headers.
963      *
964      * Note: This implementation only catches runs of successive
965      * messages with the same ID, but that should be good
966      * enough. A more general implementation would have to store
967      * ever-growing lists of seen message-IDs; in a long-running
968      * daemon this would turn into a memory leak even if the 
969      * implementation were perfect.
970      * 
971      * Don't mess with this code casually.  It would be way too easy
972      * to break it in a way that blackholed mail.  Better to pass
973      * the occasional duplicate than to do that...
974      *
975      * Matthias Andree:
976      * The real fix however is to insist on Delivered-To: or similar
977      * headers and require that one copy per recipient be dropped.
978      * Everything else breaks sooner or later.
979      */
980     if (MULTIDROP(ctl) && msgblk.headers)
981     {
982         MD5_CTX context;
983
984         MD5Init(&context);
985         MD5Update(&context, msgblk.headers, strlen(msgblk.headers));
986         MD5Final(ctl->digest, &context);
987
988         if (!received_for && env_offs == -1 && !delivered_to)
989         {
990             /*
991              * Hmmm...can MD5 ever yield all zeroes as a hash value?
992              * If so there is a one in 18-quadrillion chance this 
993              * code will incorrectly nuke the first message.
994              */
995             if (!memcmp(ctl->lastdigest, ctl->digest, DIGESTLEN))
996                 return(PS_REFUSED);
997         }
998         memcpy(ctl->lastdigest, ctl->digest, DIGESTLEN);
999     }
1000
1001     /*
1002      * Hack time.  If the first line of the message was blank, with no headers
1003      * (this happens occasionally due to bad gatewaying software) cons up
1004      * a set of fake headers.  
1005      *
1006      * If you modify the fake header template below, be sure you don't
1007      * make either From or To address @-less, otherwise the reply_hack
1008      * logic will do bad things.
1009      */
1010     if (msgblk.headers == (char *)NULL)
1011     {
1012         snprintf(buf, sizeof(buf),
1013                 "From: FETCHMAIL-DAEMON\r\n"
1014                 "To: %s@%s\r\n"
1015                 "Subject: Headerless mail from %s's mailbox on %s\r\n",
1016                 user, fetchmailhost, ctl->remotename, ctl->server.truename);
1017         msgblk.headers = xstrdup(buf);
1018     }
1019
1020     /*
1021      * We can now process message headers before reading the text.
1022      * In fact we have to, as this will tell us where to forward to.
1023      */
1024
1025     /* Check for MIME headers indicating possible 8-bit data */
1026     ctl->mimemsg = MimeBodyType(msgblk.headers, ctl->mimedecode);
1027
1028 #ifdef SDPS_ENABLE
1029     if (ctl->server.sdps && sdps_envfrom)
1030     {
1031         /* We have the real envelope return-path, stored out of band by
1032          * SDPS - that's more accurate than any header is going to be.
1033          */
1034         strlcpy(msgblk.return_path, sdps_envfrom, sizeof(msgblk.return_path));
1035         free(sdps_envfrom);
1036     } else
1037 #endif /* SDPS_ENABLE */
1038     /*
1039      * If there is a Return-Path address on the message, this was
1040      * almost certainly the MAIL FROM address given the originating
1041      * sendmail.  This is the best thing to use for logging the
1042      * message origin (it sets up the right behavior for bounces and
1043      * mailing lists).  Otherwise, fall down to the next available 
1044      * envelope address (which is the most probable real sender).
1045      * *** The order is important! ***
1046      * This is especially useful when receiving mailing list
1047      * messages in multidrop mode.  if a local address doesn't
1048      * exist, the bounce message won't be returned blindly to the 
1049      * author or to the list itself but rather to the list manager
1050      * (ex: specified by "Sender:") which is much less annoying.  This 
1051      * is true for most mailing list packages.
1052      */
1053     if( !msgblk.return_path[0] ){
1054         char *ap = NULL;
1055         if (resent_sender_offs >= 0 && (ap = nxtaddr(msgblk.headers + resent_sender_offs)));
1056         else if (sender_offs >= 0 && (ap = nxtaddr(msgblk.headers + sender_offs)));
1057         else if (resent_from_offs >= 0 && (ap = nxtaddr(msgblk.headers + resent_from_offs)));
1058         else if (from_offs >= 0 && (ap = nxtaddr(msgblk.headers + from_offs)));
1059         else if (reply_to_offs >= 0 && (ap = nxtaddr(msgblk.headers + reply_to_offs)));
1060         else if (app_from_offs >= 0 && (ap = nxtaddr(msgblk.headers + app_from_offs))) {}
1061         /* multi-line MAIL FROM addresses confuse SMTP terribly */
1062         if (ap && !strchr(ap, '\n')) {
1063             strncpy(msgblk.return_path, ap, sizeof(msgblk.return_path));
1064             msgblk.return_path[sizeof(msgblk.return_path)-1] = '\0';
1065         }
1066     }
1067
1068     /* cons up a list of local recipients */
1069     msgblk.recipients = (struct idlist *)NULL;
1070     accept_count = reject_count = 0;
1071     /* is this a multidrop box? */
1072     if (MULTIDROP(ctl))
1073     {
1074 #ifdef SDPS_ENABLE
1075         if (ctl->server.sdps && sdps_envto)
1076         {
1077             /* We have the real envelope recipient, stored out of band by
1078              * SDPS - that's more accurate than any header is going to be.
1079              */
1080             find_server_names(sdps_envto, ctl, &msgblk.recipients);
1081             free(sdps_envto);
1082         } else
1083 #endif /* SDPS_ENABLE */ 
1084         if (env_offs > -1)          /* We have the actual envelope addressee */
1085             find_server_names(msgblk.headers + env_offs, ctl, &msgblk.recipients);
1086         else if (delivered_to && ctl->server.envelope != STRING_DISABLED &&
1087       ctl->server.envelope && !strcasecmp(ctl->server.envelope, "Delivered-To"))
1088    {
1089             find_server_names(delivered_to, ctl, &msgblk.recipients);
1090             xfree(delivered_to);
1091    }
1092         else if (received_for)
1093             /*
1094              * We have the Received for addressee.  
1095              * It has to be a mailserver address, or we
1096              * wouldn't have got here.
1097              * We use find_server_names() to let local 
1098              * hostnames go through.
1099              */
1100             find_server_names(received_for, ctl, &msgblk.recipients);
1101         else
1102         {
1103             /*
1104              * We haven't extracted the envelope address.
1105              * So check all the "Resent-To" header addresses if 
1106              * they exist.  If and only if they don't, consider
1107              * the "To" addresses.
1108              */
1109             register struct addrblk *nextptr;
1110             if (resent_to_addrchain) {
1111                 /* delete the "To" chain and substitute it 
1112                  * with the "Resent-To" list 
1113                  */
1114                 while (to_addrchain) {
1115                     nextptr = to_addrchain->next;
1116                     free(to_addrchain);
1117                     to_addrchain = nextptr;
1118                 }
1119                 to_addrchain = resent_to_addrchain;
1120                 resent_to_addrchain = NULL;
1121             }
1122             /* now look for remaining adresses */
1123             while (to_addrchain) {
1124                 find_server_names(msgblk.headers+to_addrchain->offset, ctl, &msgblk.recipients);
1125                 nextptr = to_addrchain->next;
1126                 free(to_addrchain);
1127                 to_addrchain = nextptr;
1128             }
1129         }
1130         if (!accept_count)
1131         {
1132             no_local_matches = TRUE;
1133             save_str(&msgblk.recipients, run.postmaster, XMIT_ACCEPT);
1134             if (outlevel >= O_DEBUG)
1135                 report(stdout,
1136                       GT_("no local matches, forwarding to %s\n"),
1137                       run.postmaster);
1138         }
1139     }
1140     else        /* it's a single-drop box, use first localname */
1141         save_str(&msgblk.recipients, ctl->localnames->id, XMIT_ACCEPT);
1142
1143
1144     /*
1145      * Time to either address the message or decide we can't deliver it yet.
1146      */
1147     if (ctl->errcount > olderrs)        /* there were DNS errors above */
1148     {
1149         if (outlevel >= O_DEBUG)
1150             report(stdout,
1151                    GT_("forwarding and deletion suppressed due to DNS errors\n"));
1152         return(PS_TRANSIENT);
1153     }
1154     else
1155     {
1156         /* set up stuffline() so we can deliver the message body through it */ 
1157         if ((n = open_sink(ctl, &msgblk,
1158                            &good_addresses, &bad_addresses)) != PS_SUCCESS)
1159         {
1160             return(n);
1161         }
1162     }
1163
1164     n = 0;
1165     /*
1166      * Some server/sendmail combinations cause problems when our
1167      * synthetic Received line is before the From header.  Cope
1168      * with this...
1169      */
1170     if ((rcv = strstr(msgblk.headers, "Received:")) == (char *)NULL)
1171         rcv = msgblk.headers;
1172     /* handle ">Received:" lines too */
1173     while (rcv > msgblk.headers && rcv[-1] != '\n')
1174         rcv--;
1175     if (rcv > msgblk.headers)
1176     {
1177         char    c = *rcv;
1178
1179         *rcv = '\0';
1180         n = stuffline(ctl, msgblk.headers);
1181         *rcv = c;
1182     }
1183     if (!run.invisible && n != -1)
1184     {
1185         /* utter any per-message Received information we need here */
1186         if (ctl->server.trueaddr) {
1187             char saddr[50];
1188             int e;
1189
1190             e = getnameinfo(ctl->server.trueaddr, ctl->server.trueaddr_len,
1191                     saddr, sizeof(saddr), NULL, 0,
1192                     NI_NUMERICHOST);
1193             if (e)
1194                 snprintf(saddr, sizeof(saddr), "(%-.*s)", (int)(sizeof(saddr) - 3), gai_strerror(e));
1195             snprintf(buf, sizeof(buf),
1196                     "Received: from %s [%s]\r\n", 
1197                     ctl->server.truename, saddr);
1198         } else {
1199             snprintf(buf, sizeof(buf),
1200                   "Received: from %s\r\n", ctl->server.truename);
1201         }
1202         n = stuffline(ctl, buf);
1203         if (n != -1)
1204         {
1205             /*
1206              * We SHOULD (RFC-2821 sec. 4.4/p. 53) make sure to only use
1207              * IANA registered protocol names here.
1208              */
1209             snprintf(buf, sizeof(buf),
1210                     "\tby %s with %s (fetchmail-%s",
1211                     fetchmailhost,
1212                     protocol->name,
1213                     VERSION);
1214             if (ctl->server.tracepolls)
1215             {
1216                 snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf),
1217                         " polling %s account %s",
1218                         ctl->server.pollname,
1219                         ctl->remotename);
1220                 if (ctl->folder)
1221                     snprintf(buf + strlen(buf), sizeof(buf) - strlen(buf),
1222                             " folder %s",
1223                             ctl->folder);
1224             }
1225             snprintf(buf+strlen(buf), sizeof(buf)-strlen(buf), ")\r\n");
1226             n = stuffline(ctl, buf);
1227             if (n != -1)
1228             {
1229                 buf[0] = '\t';
1230                 if (good_addresses == 0)
1231                 {
1232                     snprintf(buf+1, sizeof(buf)-1, "for <%s> (by default); ",
1233                             rcpt_address (ctl, run.postmaster, 0));
1234                 }
1235                 else if (good_addresses == 1)
1236                 {
1237                     for (idp = msgblk.recipients; idp; idp = idp->next)
1238                         if (idp->val.status.mark == XMIT_ACCEPT)
1239                             break;      /* only report first address */
1240                     snprintf(buf+1, sizeof(buf)-1,
1241                             "for <%s>", rcpt_address (ctl, idp->id, 1));
1242                     snprintf(buf+strlen(buf), sizeof(buf)-strlen(buf)-1,
1243                             " (%s); ",
1244                             MULTIDROP(ctl) ? "multi-drop" : "single-drop");
1245                 }
1246                 else
1247                     buf[1] = '\0';
1248
1249                 snprintf(buf+strlen(buf), sizeof(buf)-strlen(buf), "%s\r\n",
1250                         rfc822timestamp());
1251                 n = stuffline(ctl, buf);
1252             }
1253         }
1254     }
1255
1256     if (n != -1)
1257         n = stuffline(ctl, rcv);        /* ship out rest of msgblk.headers */
1258
1259     if (n == -1)
1260     {
1261         report(stdout, GT_("writing RFC822 msgblk.headers\n"));
1262         release_sink(ctl);
1263         return(PS_IOERR);
1264     }
1265     
1266     if (want_progress())
1267         fputc('#', stdout);
1268
1269     /* write error notifications */
1270     if (no_local_matches || has_nuls || bad_addresses)
1271     {
1272         int     errlen = 0;
1273         char    errhd[USERNAMELEN + POPBUFSIZE], *errmsg;
1274
1275         errmsg = errhd;
1276         strlcpy(errhd, "X-Fetchmail-Warning: ", sizeof(errhd));
1277         if (no_local_matches)
1278         {
1279             if (reject_count != 1)
1280                 strlcat(errhd, GT_("no recipient addresses matched declared local names"), sizeof(errhd));
1281             else
1282             {
1283                 for (idp = msgblk.recipients; idp; idp = idp->next)
1284                     if (idp->val.status.mark == XMIT_REJECT)
1285                         break;
1286                 snprintf(errhd+strlen(errhd), sizeof(errhd)-strlen(errhd),
1287                         GT_("recipient address %s didn't match any local name"), idp->id);
1288             }
1289         }
1290
1291         if (has_nuls)
1292         {
1293             if (errhd[sizeof("X-Fetchmail-Warning: ")])
1294                 snprintf(errhd+strlen(errhd), sizeof(errhd)-strlen(errhd), "; ");
1295             snprintf(errhd+strlen(errhd), sizeof(errhd)-strlen(errhd),
1296                         GT_("message has embedded NULs"));
1297         }
1298
1299         if (bad_addresses)
1300         {
1301             if (errhd[sizeof("X-Fetchmail-Warning: ")])
1302                 snprintf(errhd+strlen(errhd), sizeof(errhd)-strlen(errhd), "; ");
1303             snprintf(errhd+strlen(errhd), sizeof(errhd)-strlen(errhd),
1304                         GT_("SMTP listener rejected local recipient addresses: "));
1305             errlen = strlen(errhd);
1306             for (idp = msgblk.recipients; idp; idp = idp->next)
1307                 if (idp->val.status.mark == XMIT_RCPTBAD)
1308                     errlen += strlen(idp->id) + 2;
1309
1310             errmsg = (char *)xmalloc(errlen + 3);
1311             strcpy(errmsg, errhd);
1312             for (idp = msgblk.recipients; idp; idp = idp->next)
1313                 if (idp->val.status.mark == XMIT_RCPTBAD)
1314                 {
1315                     strcat(errmsg, idp->id);
1316                     if (idp->next)
1317                         strcat(errmsg, ", ");
1318                 }
1319
1320         }
1321
1322         strcat(errmsg, "\r\n");
1323
1324         /* ship out the error line */
1325         stuffline(ctl, errmsg);
1326
1327         if (errmsg != errhd)
1328             free(errmsg);
1329     }
1330
1331     /* issue the delimiter line */
1332     cp = buf;
1333     *cp++ = '\r';
1334     *cp++ = '\n';
1335     *cp++ = '\0';
1336     n = stuffline(ctl, buf);
1337
1338     if ((size_t)n == strlen(buf))
1339         return PS_SUCCESS;
1340     else
1341         return PS_SOCKET;
1342 }
1343
1344 int readbody(int sock, struct query *ctl, flag forward, int len)
1345 /* read and dispose of a message body presented on sock */
1346 /*   ctl:               query control record */
1347 /*   sock:              to which the server is connected */
1348 /*   len:               length of message */
1349 /*   forward:           TRUE to forward */
1350 {
1351     int linelen;
1352     char buf[MSGBUFSIZE+4];
1353     char *inbufp = buf;
1354     flag issoftline = FALSE;
1355
1356     /*
1357      * Pass through the text lines in the body.
1358      *
1359      * Yes, this wants to be ||, not &&.  The problem is that in the most
1360      * important delimited protocol, POP3, the length is not reliable.
1361      * As usual, the problem is Microsoft brain damage; see FAQ item S2.
1362      * So, for delimited protocols we need to ignore the length here and
1363      * instead drop out of the loop with a break statement when we see
1364      * the message delimiter.
1365      */
1366     while (protocol->delimited || len > 0)
1367     {
1368         set_timeout(mytimeout);
1369         /* XXX FIXME: for undelimited protocols that ship the size, such
1370          * as IMAP, we might want to use the count of remaining characters
1371          * instead of the buffer size -- not for fetchmail 6.3.X though */
1372         if ((linelen = SockRead(sock, inbufp, sizeof(buf)-4-(inbufp-buf)))==-1)
1373         {
1374             set_timeout(0);
1375             release_sink(ctl);
1376             return(PS_SOCKET);
1377         }
1378         set_timeout(0);
1379
1380         /* write the message size dots */
1381         if (linelen > 0)
1382         {
1383             print_ticker(&sizeticker, linelen);
1384         }
1385
1386         /* Mike Jones, Manchester University, 2006:
1387          * "To fix IMAP MIME Messages in which fetchmail adds the remainder of
1388          * the IMAP packet including the ')' character (part of the IMAP)
1389          * Protocol causing the addition of an extra MIME boundary locally."
1390          *
1391          * However, we shouldn't do this for delimited protocols:
1392          * many POP3 servers (Microsoft, qmail) goof up message sizes
1393          * so we might end truncating messages prematurely.
1394          */
1395         if (!protocol->delimited && linelen > len) {
1396             inbufp[len] = '\0';
1397         }
1398
1399         len -= linelen;
1400
1401         /* check for end of message */
1402         if (protocol->delimited && *inbufp == '.')
1403         {
1404             if (EMPTYLINE(inbufp+1))
1405                 break;
1406             else
1407                 msgblk.msglen--;        /* subtract the size of the dot escape */
1408         }
1409
1410         msgblk.msglen += linelen;
1411
1412         if (ctl->mimedecode && (ctl->mimemsg & MSG_NEEDS_DECODE)) {
1413             issoftline = UnMimeBodyline(&inbufp, protocol->delimited, issoftline);
1414             if (issoftline && (sizeof(buf)-1-(inbufp-buf) < 200))
1415             {
1416                 /*
1417                  * Soft linebreak, but less than 200 bytes left in
1418                  * input buffer. Rather than doing a buffer overrun,
1419                  * ignore the soft linebreak, NL-terminate data and
1420                  * deliver what we have now.
1421                  * (Who writes lines longer than 2K anyway?)
1422                  */
1423                 *inbufp = '\n'; *(inbufp+1) = '\0';
1424                 issoftline = 0;
1425             }
1426         }
1427
1428         /* ship out the text line */
1429         if (forward && (!issoftline))
1430         {
1431             int n;
1432             inbufp = buf;
1433
1434             /* guard against very long lines */
1435             buf[MSGBUFSIZE+1] = '\r';
1436             buf[MSGBUFSIZE+2] = '\n';
1437             buf[MSGBUFSIZE+3] = '\0';
1438
1439             n = stuffline(ctl, buf);
1440
1441             if (n < 0)
1442             {
1443                 report(stdout, GT_("error writing message text\n"));
1444                 release_sink(ctl);
1445                 return(PS_IOERR);
1446             }
1447             else if (want_progress())
1448             {
1449                 fputc('*', stdout);
1450                 fflush(stdout);
1451             }
1452         }
1453     }
1454
1455     return(PS_SUCCESS);
1456 }
1457
1458 void init_transact(const struct method *proto)
1459 /* initialize state for the send and receive functions */
1460 {
1461     suppress_tags = FALSE;
1462     tagnum = 0;
1463     tag[0] = '\0';      /* nuke any tag hanging out from previous query */
1464     protocol = (struct method *)proto;
1465     shroud[0] = '\0';
1466 }
1467
1468 static void enshroud(char *buf)
1469 /* shroud a password in the given buffer */
1470 {
1471     char *cp;
1472
1473     if (shroud[0] && (cp = strstr(buf, shroud)))
1474     {
1475        char    *sp;
1476
1477        sp = cp + strlen(shroud);
1478        *cp++ = '*';
1479        while (*sp)
1480            *cp++ = *sp++;
1481        *cp = '\0';
1482     }
1483 }
1484
1485 #if defined(HAVE_STDARG_H)
1486 void gen_send(int sock, const char *fmt, ... )
1487 #else
1488 void gen_send(sock, fmt, va_alist)
1489 int sock;               /* socket to which server is connected */
1490 const char *fmt;        /* printf-style format */
1491 va_dcl
1492 #endif
1493 /* assemble command in printf(3) style and send to the server */
1494 {
1495     char buf [MSGBUFSIZE+1];
1496     va_list ap;
1497
1498     if (protocol->tagged && !suppress_tags)
1499         snprintf(buf, sizeof(buf) - 2, "%s ", GENSYM);
1500     else
1501         buf[0] = '\0';
1502
1503 #if defined(HAVE_STDARG_H)
1504     va_start(ap, fmt);
1505 #else
1506     va_start(ap);
1507 #endif
1508     vsnprintf(buf + strlen(buf), sizeof(buf)-2-strlen(buf), fmt, ap);
1509     va_end(ap);
1510
1511     snprintf(buf+strlen(buf), sizeof(buf)-strlen(buf), "\r\n");
1512     SockWrite(sock, buf, strlen(buf));
1513
1514     if (outlevel >= O_MONITOR)
1515     {
1516         enshroud(buf);
1517         buf[strlen(buf)-2] = '\0';
1518         report(stdout, "%s> %s\n", protocol->name, buf);
1519     }
1520 }
1521
1522 /** get one line of input from the server */
1523 int gen_recv(int sock  /** socket to which server is connected */,
1524              char *buf /* buffer to receive input */,
1525              int size  /* length of buffer */)
1526 {
1527     int oldphase = phase;       /* we don't have to be re-entrant */
1528
1529     phase = SERVER_WAIT;
1530     set_timeout(mytimeout);
1531     if (SockRead(sock, buf, size) == -1)
1532     {
1533         set_timeout(0);
1534         phase = oldphase;
1535         if(is_idletimeout())
1536         {
1537           resetidletimeout();
1538           return(PS_IDLETIMEOUT);
1539         }
1540         else
1541           return(PS_SOCKET);
1542     }
1543     else
1544     {
1545         set_timeout(0);
1546         if (buf[strlen(buf)-1] == '\n')
1547             buf[strlen(buf)-1] = '\0';
1548         if (buf[strlen(buf)-1] == '\r')
1549             buf[strlen(buf)-1] = '\0';
1550         if (outlevel >= O_MONITOR)
1551             report(stdout, "%s< %s\n", protocol->name, buf);
1552         phase = oldphase;
1553         return(PS_SUCCESS);
1554     }
1555 }
1556
1557 #if defined(HAVE_STDARG_H)
1558 int gen_transact(int sock, const char *fmt, ... )
1559 #else
1560 int gen_transact(int sock, fmt, va_alist)
1561 int sock;               /* socket to which server is connected */
1562 const char *fmt;        /* printf-style format */
1563 va_dcl
1564 #endif
1565 /* assemble command in printf(3) style, send to server, accept a response */
1566 {
1567     int ok;
1568     char buf [MSGBUFSIZE+1];
1569     va_list ap;
1570     int oldphase = phase;       /* we don't have to be re-entrant */
1571
1572     phase = SERVER_WAIT;
1573
1574     if (protocol->tagged && !suppress_tags)
1575         snprintf(buf, sizeof(buf) - 2, "%s ", GENSYM);
1576     else
1577         buf[0] = '\0';
1578
1579 #if defined(HAVE_STDARG_H)
1580     va_start(ap, fmt) ;
1581 #else
1582     va_start(ap);
1583 #endif
1584     vsnprintf(buf + strlen(buf), sizeof(buf)-2-strlen(buf), fmt, ap);
1585     va_end(ap);
1586
1587     snprintf(buf+strlen(buf), sizeof(buf)-strlen(buf), "\r\n");
1588     ok = SockWrite(sock, buf, strlen(buf));
1589     if (ok == -1 || (size_t)ok != strlen(buf)) {
1590         /* short write, bail out */
1591         return PS_SOCKET;
1592     }
1593
1594     if (outlevel >= O_MONITOR)
1595     {
1596         enshroud(buf);
1597         buf[strlen(buf)-2] = '\0';
1598         report(stdout, "%s> %s\n", protocol->name, buf);
1599     }
1600
1601     /* we presume this does its own response echoing */
1602     ok = (protocol->parse_response)(sock, buf);
1603
1604     phase = oldphase;
1605     return(ok);
1606 }
1607
1608 /* transact.c ends here */