]> Pileus Git - ~andy/fetchmail/blob - driver.c
Enable -L to work in foreground.
[~andy/fetchmail] / driver.c
1 /*
2  * driver.c -- generic driver for mail fetch method protocols
3  *
4  * Copyright 1997 by Eric S. Raymond
5  * For license terms, see the file COPYING in this directory.
6  */
7
8 #include  "config.h"
9 #include  <stdio.h>
10 #include  <setjmp.h>
11 #include  <errno.h>
12 #include  <ctype.h>
13 #include  <string.h>
14 #ifdef HAVE_MEMORY_H
15 #include  <memory.h>
16 #endif /* HAVE_MEMORY_H */
17 #if defined(STDC_HEADERS)
18 #include  <stdlib.h>
19 #endif
20 #if defined(HAVE_UNISTD_H)
21 #include <unistd.h>
22 #endif
23 #if defined(HAVE_STDARG_H)
24 #include  <stdarg.h>
25 #else
26 #include  <varargs.h>
27 #endif
28 #if defined(HAVE_SYS_ITIMER_H)
29 #include <sys/itimer.h>
30 #endif
31 #include  <sys/time.h>
32 #include  <signal.h>
33
34 #ifdef HAVE_RES_SEARCH
35 #include <netdb.h>
36 #include "mx.h"
37 #endif /* HAVE_RES_SEARCH */
38
39 #ifdef KERBEROS_V4
40 #ifdef KERBEROS_V5
41 #include <kerberosIV/des.h>
42 #include <kerberosIV/krb.h>
43 #else
44 #if defined (__bsdi__)
45 #include <des.h> /* order of includes matters */
46 #include <krb.h>
47 #define krb_get_err_text(e) (krb_err_txt[e])
48 #else
49 #if defined(__NetBSD__) || defined(__FreeBSD__) || defined(__linux__)
50 #define krb_get_err_text(e) (krb_err_txt[e])
51 #include <krb.h>
52 #include <des.h>
53 #else
54 #include <krb.h>
55 #include <des.h>
56 #endif /* ! defined (__FreeBSD__) */
57 #endif /* ! defined (__bsdi__) */
58 #endif /* KERBEROS_V5 */
59 #include <netinet/in.h>
60 #include <netdb.h>
61 #endif /* KERBEROS_V4 */
62 #ifdef KERBEROS_V5
63 #include <krb5.h>
64 #include <com_err.h>
65 #endif /* KERBEROS_V5 */
66 #include "i18n.h"
67
68 #include "socket.h"
69 #include "fetchmail.h"
70 #include "tunable.h"
71
72 /* throw types for runtime errors */
73 #define THROW_TIMEOUT   1               /* server timed out */
74 #define THROW_SIGPIPE   2               /* SIGPIPE on stream socket */
75
76 #ifndef strstr          /* glibc-2.1 declares this as a macro */
77 extern char *strstr();  /* needed on sysV68 R3V7.1. */
78 #endif /* strstr */
79
80 int batchcount;         /* count of messages sent in current batch */
81 flag peek_capable;      /* can we peek for better error recovery? */
82 int pass;               /* how many times have we re-polled? */
83 int stage;              /* where are we? */
84 int phase;              /* where are we, for error-logging purposes? */
85
86 static const struct method *protocol;
87 static jmp_buf  restart;
88
89 char tag[TAGLEN];
90 static int tagnum;
91 #define GENSYM  (sprintf(tag, "A%04d", ++tagnum % TAGMOD), tag)
92
93 static char shroud[PASSWORDLEN];        /* string to shroud in debug output */
94 static int mytimeout;                   /* value of nonreponse timeout */
95 static int timeoutcount;                /* count consecutive timeouts */
96 static int msglen;                      /* actual message length */
97
98 void set_timeout(int timeleft)
99 /* reset the nonresponse-timeout */
100 {
101 #ifndef __EMX__
102     struct itimerval ntimeout;
103
104     if (timeleft == 0)
105         timeoutcount = 0;
106
107     ntimeout.it_interval.tv_sec = ntimeout.it_interval.tv_usec = 0;
108     ntimeout.it_value.tv_sec  = timeleft;
109     ntimeout.it_value.tv_usec = 0;
110     setitimer(ITIMER_REAL, &ntimeout, (struct itimerval *)NULL);
111 #endif
112 }
113
114 static void timeout_handler (int signal)
115 /* handle SIGALRM signal indicating a server timeout */
116 {
117     timeoutcount++;
118     longjmp(restart, THROW_TIMEOUT);
119 }
120
121 static void sigpipe_handler (int signal)
122 /* handle SIGPIPE signal indicating a broken stream socket */
123 {
124     longjmp(restart, THROW_SIGPIPE);
125 }
126
127 static int accept_count, reject_count;
128
129 static void map_name(const char *name, struct query *ctl, struct idlist **xmit_names)
130 /* add given name to xmit_names if it matches declared localnames */
131 /*   name:       name to map */
132 /*   ctl:        list of permissible aliases */
133 /*   xmit_names: list of recipient names parsed out */
134 {
135     const char  *lname;
136     int off = 0;
137     
138     lname = idpair_find(&ctl->localnames, name+off);
139     if (!lname && ctl->wildcard)
140         lname = name+off;
141
142     if (lname != (char *)NULL)
143     {
144         if (outlevel >= O_DEBUG)
145             report(stdout, _("mapped %s to local %s\n"), name, lname);
146         save_str(xmit_names, lname, XMIT_ACCEPT);
147         accept_count++;
148     }
149 }
150
151 static void find_server_names(const char *hdr,
152                               struct query *ctl,
153                               struct idlist **xmit_names)
154 /* parse names out of a RFC822 header into an ID list */
155 /*   hdr:               RFC822 header in question */
156 /*   ctl:               list of permissible aliases */
157 /*   xmit_names:        list of recipient names parsed out */
158 {
159     if (hdr == (char *)NULL)
160         return;
161     else
162     {
163         char    *cp;
164
165         for (cp = nxtaddr(hdr);
166              cp != NULL;
167              cp = nxtaddr(NULL))
168         {
169             char        *atsign;
170
171             /*
172              * If the name of the user begins with a qmail virtual
173              * domain prefix, ignore the prefix.  Doing this here
174              * means qvirtual will work either with ordinary name
175              * mapping or with a localdomains option.
176              */
177             if (ctl->server.qvirtual)
178             {
179                 int sl = strlen(ctl->server.qvirtual);
180  
181                 if (!strncasecmp(cp, ctl->server.qvirtual, sl))
182                     cp += sl;
183             }
184
185             if ((atsign = strchr(cp, '@'))) {
186                 struct idlist   *idp;
187
188                 /*
189                  * Does a trailing segment of the hostname match something
190                  * on the localdomains list?  If so, save the whole name
191                  * and keep going.
192                  */
193                 for (idp = ctl->server.localdomains; idp; idp = idp->next) {
194                     char        *rhs;
195
196                     rhs = atsign + (strlen(atsign) - strlen(idp->id));
197                     if (rhs > atsign &&
198                         (rhs[-1] == '.' || rhs[-1] == '@') &&
199                         strcasecmp(rhs, idp->id) == 0)
200                     {
201                         if (outlevel >= O_DEBUG)
202                             report(stdout, _("passed through %s matching %s\n"), 
203                                   cp, idp->id);
204                         save_str(xmit_names, cp, XMIT_ACCEPT);
205                         accept_count++;
206                         goto nomap;
207                     }
208                 }
209
210                 /* if we matched a local domain, idp != NULL */
211                 if (!idp)
212                 {
213                     /*
214                      * Check to see if the right-hand part is an alias
215                      * or MX equivalent of the mailserver.  If it's
216                      * not, skip this name.  If it is, we'll keep
217                      * going and try to find a mapping to a client name.
218                      */
219                     if (!is_host_alias(atsign+1, ctl))
220                     {
221                         save_str(xmit_names, cp, XMIT_REJECT);
222                         reject_count++;
223                         continue;
224                     }
225                 }
226                 atsign[0] = '\0';
227                 map_name(cp, ctl, xmit_names);
228             nomap:;
229             }
230         }
231     }
232 }
233
234 /*
235  * Return zero on a syntactically invalid address, nz on a valid one.
236  *
237  * This used to be strchr(a, '.'), but it turns out that lines like this
238  *
239  * Received: from punt-1.mail.demon.net by mailstore for markb@ordern.com
240  *          id 938765929:10:27223:2; Fri, 01 Oct 99 08:18:49 GMT
241  *
242  * are not uncommon.  So now we just check that the following token is
243  * not itself an email address.
244  */
245 #define VALID_ADDRESS(a)        !strchr(a, '@')
246
247 static char *parse_received(struct query *ctl, char *bufp)
248 /* try to extract real address from the Received line */
249 /* If a valid Received: line is found, we return the full address in
250  * a buffer which can be parsed from nxtaddr().  This is to ansure that
251  * the local domain part of the address can be passed along in 
252  * find_server_names() if it contains one.
253  * Note: We should return a dummy header containing the address 
254  * which makes nxtaddr() behave correctly. 
255  */
256 {
257     char *base, *ok = (char *)NULL;
258     static char rbuf[HOSTLEN + USERNAMELEN + 4]; 
259
260     /*
261      * Try to extract the real envelope addressee.  We look here
262      * specifically for the mailserver's Received line.
263      * Note: this will only work for sendmail, or an MTA that
264      * shares sendmail's convention for embedding the envelope
265      * address in the Received line.  Sendmail itself only
266      * does this when the mail has a single recipient.
267      */
268     if (outlevel >= O_DEBUG)
269         report(stdout, _("analyzing Received line:\n%s"), bufp);
270
271     /* search for whitepace-surrounded "by" followed by valid address */
272     for (base = bufp;  ; base = ok + 2)
273     {
274         if (!(ok = strstr(base, "by")))
275             break;
276         else if (!isspace(ok[-1]) || !isspace(ok[2]))
277             continue;
278         else
279         {
280             char        *sp, *tp;
281
282             /* extract space-delimited token after "by" */
283             for (sp = ok + 2; isspace(*sp); sp++)
284                 continue;
285             tp = rbuf;
286             for (; !isspace(*sp); sp++)
287                 *tp++ = *sp;
288             *tp = '\0';
289
290             /* look for valid address */
291             if (VALID_ADDRESS(rbuf))
292                 break;
293             else
294                 ok = sp - 1;    /* arrange to skip this token */
295         }
296     }
297     if (ok)
298     {
299         /*
300          * If it's a DNS name of the mail server, look for the
301          * recipient name after a following "for".  Otherwise
302          * punt.
303          */
304         if (is_host_alias(rbuf, ctl))
305         {
306             if (outlevel >= O_DEBUG)
307                 report(stdout, 
308                       _("line accepted, %s is an alias of the mailserver\n"), rbuf);
309         }
310         else
311         {
312             if (outlevel >= O_DEBUG)
313                 report(stdout, 
314                       _("line rejected, %s is not an alias of the mailserver\n"), 
315                       rbuf);
316             return(NULL);
317         }
318
319         /* search for whitepace-surrounded "for" followed by xxxx@yyyy */
320         for (base = ok + 4 + strlen(rbuf);  ; base = ok + 2)
321         {
322             if (!(ok = strstr(base, "for")))
323                 break;
324             else if (!isspace(ok[-1]) || !isspace(ok[3]))
325                 continue;
326             else
327             {
328                 char    *sp, *tp;
329
330                 /* extract space-delimited token after "for" */
331                 for (sp = ok + 3; isspace(*sp); sp++)
332                     continue;
333                 tp = rbuf;
334                 for (; !isspace(*sp); sp++)
335                     *tp++ = *sp;
336                 *tp = '\0';
337
338                 if (strchr(rbuf, '@'))
339                     break;
340                 else
341                     ok = sp - 1;        /* arrange to skip this token */
342             }
343         }
344         if (ok)
345         {
346             flag        want_gt = FALSE;
347             char        *sp, *tp;
348
349             /* char after "for" could be space or a continuation newline */
350             for (sp = ok + 4; isspace(*sp); sp++)
351                 continue;
352             tp = rbuf;
353             *tp++ = ':';        /* Here is the hack.  This is to be friends */
354             *tp++ = ' ';        /* with nxtaddr()... */
355             if (*sp == '<')
356             {
357                 want_gt = TRUE;
358                 sp++;
359             }
360             while (*sp == '@')          /* skip routes */
361                 while (*sp && *sp++ != ':')
362                     continue;
363             while (*sp
364                    && (want_gt ? (*sp != '>') : !isspace(*sp))
365                    && *sp != ';')
366                 if (!isspace(*sp))
367                     *tp++ = *sp++;
368                 else
369                 {
370                     /* uh oh -- whitespace here can't be right! */
371                     ok = (char *)NULL;
372                     break;
373                 }
374             *tp++ = '\n';
375             *tp = '\0';
376             if (strlen(rbuf) <= 3)      /* apparently nothing has been found */
377                 ok = NULL;
378         } else
379             ok = (char *)NULL;
380     }
381
382     if (!ok)
383     {
384         if (outlevel >= O_DEBUG)
385             report(stdout, _("no Received address found\n"));
386         return(NULL);
387     }
388     else
389     {
390         if (outlevel >= O_DEBUG) {
391             char *lf = rbuf + strlen(rbuf)-1;
392             *lf = '\0';
393             if (outlevel >= O_DEBUG)
394                 report(stdout, _("found Received address `%s'\n"), rbuf+2);
395             *lf = '\n';
396         }
397         return(rbuf);
398     }
399 }
400
401 /* shared by readheaders and readbody */
402 static int sizeticker;
403 static struct msgblk msgblk;
404
405 #define EMPTYLINE(s)    ((s)[0] == '\r' && (s)[1] == '\n' && (s)[2] == '\0')
406
407 static int readheaders(int sock,
408                        long fetchlen,
409                        long reallen,
410                        struct query *ctl,
411                        int num)
412 /* read message headers and ship to SMTP or MDA */
413 /*   sock:              to which the server is connected */
414 /*   fetchlen:          length of message according to fetch response */
415 /*   reallen:           length of message according to getsizes */
416 /*   ctl:               query control record */
417 /*   num:               index of message */
418 {
419     struct addrblk
420     {
421         int             offset;
422         struct addrblk  *next;
423     };
424     struct addrblk      *to_addrchain = NULL;
425     struct addrblk      **to_chainptr = &to_addrchain;
426     struct addrblk      *resent_to_addrchain = NULL;
427     struct addrblk      **resent_to_chainptr = &resent_to_addrchain;
428
429     char                buf[MSGBUFSIZE+1];
430     int                 from_offs, reply_to_offs, resent_from_offs;
431     int                 app_from_offs, sender_offs, resent_sender_offs;
432     int                 env_offs;
433     char                *received_for, *rcv, *cp;
434     int                 n, linelen, oldlen, ch, remaining, skipcount;
435     struct idlist       *idp;
436     flag                no_local_matches = FALSE;
437     flag                headers_ok, has_nuls;
438     int                 olderrs, good_addresses, bad_addresses;
439
440     sizeticker = 0;
441     has_nuls = headers_ok = FALSE;
442     msgblk.return_path[0] = '\0';
443     olderrs = ctl->errcount;
444
445     /* read message headers */
446     msgblk.reallen = reallen;
447     msgblk.headers = received_for = NULL;
448     from_offs = reply_to_offs = resent_from_offs = app_from_offs = 
449         sender_offs = resent_sender_offs = env_offs = -1;
450     oldlen = 0;
451     msglen = 0;
452     skipcount = 0;
453     ctl->mimemsg = 0;
454
455     for (remaining = fetchlen; remaining > 0 || protocol->delimited; remaining -= linelen)
456     {
457         char *line;
458
459         line = xmalloc(sizeof(buf));
460         linelen = 0;
461         line[0] = '\0';
462         do {
463             set_timeout(mytimeout);
464             if ((n = SockRead(sock, buf, sizeof(buf)-1)) == -1) {
465                 set_timeout(0);
466                 free(line);
467                 free(msgblk.headers);
468                 return(PS_SOCKET);
469             }
470             set_timeout(0);
471             linelen += n;
472             msglen += n;
473
474             /* lines may not be properly CRLF terminated; fix this for qmail */
475             if (ctl->forcecr)
476             {
477                 cp = buf + strlen(buf) - 1;
478                 if (*cp == '\n' && (cp == buf || cp[-1] != '\r'))
479                 {
480                     *cp++ = '\r';
481                     *cp++ = '\n';
482                     *cp++ = '\0';
483                 }
484             }
485
486             /*
487              * Decode MIME encoded headers. We MUST do this before
488              * looking at the Content-Type / Content-Transfer-Encoding
489              * headers (RFC 2046).
490              */
491             if (ctl->mimedecode)
492                 UnMimeHeader(buf);
493
494             line = (char *) realloc(line, strlen(line) + strlen(buf) +1);
495
496             strcat(line, buf);
497
498             /* check for end of headers */
499             if (EMPTYLINE(line))
500             {
501                 headers_ok = TRUE;
502                 has_nuls = (linelen != strlen(line));
503                 free(line);
504                 goto process_headers;
505             }
506
507             /*
508              * Check for end of message immediately.  If one of your folders
509              * has been mangled, the delimiter may occur directly after the
510              * header.
511              */
512             if (protocol->delimited && line[0] == '.' && EMPTYLINE(line+1))
513             {
514                 free(line);
515                 has_nuls = (linelen != strlen(line));
516                 goto process_headers;
517             }
518
519             /* check for RFC822 continuations */
520             set_timeout(mytimeout);
521             ch = SockPeek(sock);
522             set_timeout(0);
523         } while
524             (ch == ' ' || ch == '\t');  /* continuation to next line? */
525
526         /* write the message size dots */
527         if ((outlevel > O_SILENT && outlevel < O_VERBOSE) && linelen > 0)
528         {
529             sizeticker += linelen;
530             while (sizeticker >= SIZETICKER)
531             {
532                 if (!run.use_syslog)
533                 {
534                     fputc('.', stdout);
535                     fflush(stdout);
536                 }
537                 sizeticker -= SIZETICKER;
538             }
539         }
540
541         /* we see an ordinary (non-header, non-message-delimiter line */
542         has_nuls = (linelen != strlen(line));
543
544         /*
545          * When mail delivered to a multidrop mailbox on the server is
546          * addressed to multiple people on the client machine, there
547          * will be one copy left in the box for each recipient.  Thus,
548          * if the mail is addressed to N people, each recipient will
549          * get N copies.
550          *
551          * Foil this by suppressing all but one copy of a message with
552          * a given Message-ID.  Note: This implementation only catches
553          * runs of successive identical messages, but that should be
554          * good enough. 
555          * 
556          * The accept_count test ensures that multiple pieces of identical 
557          * email, each with a *single* addressee, won't be suppressed.
558          */
559         if (MULTIDROP(ctl) && accept_count > 1 && !strncasecmp(line, "Message-ID:", 11))
560         {
561             if (ctl->lastid && !strcasecmp(ctl->lastid, line))
562                 return(PS_REFUSED);
563             else
564             {
565                 if (ctl->lastid)
566                     free(ctl->lastid);
567                 ctl->lastid = strdup(line);
568             }
569         }
570
571         /*
572          * The University of Washington IMAP server (the reference
573          * implementation of IMAP4 written by Mark Crispin) relies
574          * on being able to keep base-UID information in a special
575          * message at the head of the mailbox.  This message should
576          * neither be deleted nor forwarded.
577          */
578 #ifdef POP2_ENABLE
579         /*
580          * We disable this check under POP2 because there's no way to
581          * prevent deletion of the message.  So at least we ought to 
582          * forward it to the user so he or she will have some clue
583          * that things have gone awry.
584          */
585 #if INET6_ENABLE
586         if (strncmp(protocol->service, "pop2", 4))
587 #else /* INET6_ENABLE */
588         if (protocol->port != 109)
589 #endif /* INET6_ENABLE */
590 #endif /* POP2_ENABLE */
591             if (num == 1 && !strncasecmp(line, "X-IMAP:", 7)) {
592                 free(line);
593                 free(msgblk.headers);
594                 return(PS_RETAINED);
595             }
596
597         /*
598          * This code prevents fetchmail from becoming an accessory after
599          * the fact to upstream sendmails with the `E' option on.  It also
600          * copes with certain brain-dead POP servers (like NT's) that pass
601          * through Unix from_ lines.
602          *
603          * Either of these bugs can result in a non-RFC822 line at the
604          * beginning of the headers.  If fetchmail just passes it
605          * through, the client listener may think the message has *no*
606          * headers (since the first) line it sees doesn't look
607          * RFC822-conformant) and fake up a set.
608          *
609          * What the user would see in this case is bogus (synthesized)
610          * headers, followed by a blank line, followed by the >From, 
611          * followed by the real headers, followed by a blank line,
612          * followed by text.
613          *
614          * We forestall this lossage by tossing anything that looks
615          * like an escaped or passed-through From_ line in headers.
616          * These aren't RFC822 so our conscience is clear...
617          */
618         if (!strncasecmp(line, ">From ", 6) || !strncasecmp(line, "From ", 5))
619         {
620             free(line);
621             continue;
622         }
623
624         /*
625          * If we see a Status line, it may have been inserted by an MUA
626          * on the mail host, or it may have been inserted by the server
627          * program after the headers in the transaction stream.  This
628          * can actually hose some new-mail notifiers such as xbuffy,
629          * which assumes any Status line came from a *local* MDA and
630          * therefore indicates that the message has been seen.
631          *
632          * Some buggy POP servers (including at least the 3.3(20)
633          * version of the one distributed with IMAP) insert empty
634          * Status lines in the transaction stream; we'll chuck those
635          * unconditionally.  Nonempty ones get chucked if the user
636          * turns on the dropstatus flag.
637          */
638         {
639             char        *cp;
640
641             if (!strncasecmp(line, "Status:", 7))
642                 cp = line + 7;
643             else if (!strncasecmp(line, "X-Mozilla-Status:", 17))
644                 cp = line + 17;
645             else
646                 cp = NULL;
647             if (cp) {
648                 while (*cp && isspace(*cp)) cp++;
649                 if (!*cp || ctl->dropstatus)
650                 {
651                     free(line);
652                     continue;
653                 }
654             }
655         }
656
657         if (ctl->rewrite)
658             line = reply_hack(line, ctl->server.truename);
659
660         /*
661          * OK, this is messy.  If we're forwarding by SMTP, it's the
662          * SMTP-receiver's job (according to RFC821, page 22, section
663          * 4.1.1) to generate a Return-Path line on final delivery.
664          * The trouble is, we've already got one because the
665          * mailserver's SMTP thought *it* was responsible for final
666          * delivery.
667          *
668          * Stash away the contents of Return-Path (as modified by reply_hack)
669          * for use in generating MAIL FROM later on, then prevent the header
670          * from being saved with the others.  In effect, we strip it off here.
671          *
672          * If the SMTP server conforms to the standards, and fetchmail gets the
673          * envelope sender from the Return-Path, the new Return-Path should be
674          * exactly the same as the original one.
675          *
676          * We do *not* want to ignore empty Return-Path headers.  These should
677          * be passed through as a way of indicating that a message should
678          * not trigger bounces if delivery fails.  What we *do* need to do is
679          * make sure we never try to rewrite such a blank Return-Path.  We
680          * handle this with a check for <> in the rewrite logic above.
681          */
682         if (!strncasecmp("Return-Path:", line, 12) && (cp = nxtaddr(line)))
683         {
684             strcpy(msgblk.return_path, cp);
685             if (!ctl->mda) {
686                 free(line);
687                 continue;
688             }
689         }
690
691         if (!msgblk.headers)
692         {
693             oldlen = strlen(line);
694             msgblk.headers = xmalloc(oldlen + 1);
695             (void) strcpy(msgblk.headers, line);
696             free(line);
697             line = msgblk.headers;
698         }
699         else
700         {
701             int newlen;
702
703             newlen = oldlen + strlen(line);
704             msgblk.headers = (char *) realloc(msgblk.headers, newlen + 1);
705             if (msgblk.headers == NULL) {
706                 free(line);
707                 return(PS_IOERR);
708             }
709             strcpy(msgblk.headers + oldlen, line);
710             free(line);
711             line = msgblk.headers + oldlen;
712             oldlen = newlen;
713         }
714
715         if (!strncasecmp("From:", line, 5))
716             from_offs = (line - msgblk.headers);
717         else if (!strncasecmp("Reply-To:", line, 9))
718             reply_to_offs = (line - msgblk.headers);
719         else if (!strncasecmp("Resent-From:", line, 12))
720             resent_from_offs = (line - msgblk.headers);
721         else if (!strncasecmp("Apparently-From:", line, 16))
722             app_from_offs = (line - msgblk.headers);
723         else if (!strncasecmp("Sender:", line, 7))
724             sender_offs = (line - msgblk.headers);
725         else if (!strncasecmp("Resent-Sender:", line, 14))
726             resent_sender_offs = (line - msgblk.headers);
727
728         else if (!strncasecmp("Message-Id:", buf, 11))
729         {
730             if (ctl->server.uidl)
731             {
732                 char id[IDLEN+1];
733
734                 buf[IDLEN+12] = 0;              /* prevent stack overflow */
735                 sscanf(buf+12, "%s", id);
736                 if (!str_find( &ctl->newsaved, num))
737                 {
738                     struct idlist *new = save_str(&ctl->newsaved,id,UID_SEEN);
739                     new->val.status.num = num;
740                 }
741             }
742         }
743
744         else if (!MULTIDROP(ctl))
745             continue;
746
747         else if (!strncasecmp("To:", line, 3)
748                         || !strncasecmp("Cc:", line, 3)
749                         || !strncasecmp("Bcc:", line, 4)
750                         || !strncasecmp("Apparently-To:", line, 14))
751         {
752             *to_chainptr = xmalloc(sizeof(struct addrblk));
753             (*to_chainptr)->offset = (line - msgblk.headers);
754             to_chainptr = &(*to_chainptr)->next; 
755             *to_chainptr = NULL;
756         }
757
758         else if (!strncasecmp("Resent-To:", line, 10)
759                         || !strncasecmp("Resent-Cc:", line, 10)
760                         || !strncasecmp("Resent-Bcc:", line, 11))
761         {
762             *resent_to_chainptr = xmalloc(sizeof(struct addrblk));
763             (*resent_to_chainptr)->offset = (line - msgblk.headers);
764             resent_to_chainptr = &(*resent_to_chainptr)->next; 
765             *resent_to_chainptr = NULL;
766         }
767
768         else if (ctl->server.envelope != STRING_DISABLED)
769         {
770             if (ctl->server.envelope 
771                         && strcasecmp(ctl->server.envelope, "Received"))
772             {
773                 if (env_offs == -1 && !strncasecmp(ctl->server.envelope,
774                                                 line,
775                                                 strlen(ctl->server.envelope)))
776                 {                               
777                     if (skipcount++ != ctl->server.envskip)
778                         continue;
779                     env_offs = (line - msgblk.headers);
780                 }    
781             }
782             else if (!received_for && !strncasecmp("Received:", line, 9))
783             {
784                 if (skipcount++ != ctl->server.envskip)
785                     continue;
786                 received_for = parse_received(ctl, line);
787             }
788         }
789     }
790
791  process_headers:
792     /*
793      * We want to detect this early in case there are so few headers that the
794      * dispatch logic barfs.
795      */
796     if (!headers_ok)
797     {
798         if (outlevel > O_SILENT)
799             report(stdout,
800                    _("message delimiter found while scanning headers\n"));
801     }
802
803     /*
804      * Hack time.  If the first line of the message was blank, with no headers
805      * (this happens occasionally due to bad gatewaying software) cons up
806      * a set of fake headers.  
807      *
808      * If you modify the fake header template below, be sure you don't
809      * make either From or To address @-less, otherwise the reply_hack
810      * logic will do bad things.
811      */
812     if (msgblk.headers == (char *)NULL)
813     {
814 #ifdef HAVE_SNPRINTF
815         snprintf(buf, sizeof(buf),
816 #else
817         sprintf(buf, 
818 #endif /* HAVE_SNPRINTF */
819         "From: FETCHMAIL-DAEMON\r\nTo: %s@%s\r\nSubject: Headerless mail from %s's mailbox on %s\r\n",
820                 user, fetchmailhost, ctl->remotename, ctl->server.truename);
821         msgblk.headers = xstrdup(buf);
822     }
823
824     /*
825      * We can now process message headers before reading the text.
826      * In fact we have to, as this will tell us where to forward to.
827      */
828
829     /* Check for MIME headers indicating possible 8-bit data */
830     ctl->mimemsg = MimeBodyType(msgblk.headers, ctl->mimedecode);
831
832 #ifdef SDPS_ENABLE
833     if (ctl->server.sdps && sdps_envfrom)
834     {
835         /* We have the real envelope return-path, stored out of band by
836          * SDPS - that's more accurate than any header is going to be.
837          */
838         strcpy(msgblk.return_path, sdps_envfrom);
839         free(sdps_envfrom);
840     } else
841 #endif /* SDPS_ENABLE */
842     /*
843      * If there is a Return-Path address on the message, this was
844      * almost certainly the MAIL FROM address given the originating
845      * sendmail.  This is the best thing to use for logging the
846      * message origin (it sets up the right behavior for bounces and
847      * mailing lists).  Otherwise, fall down to the next available 
848      * envelope address (which is the most probable real sender).
849      * *** The order is important! ***
850      * This is especially useful when receiving mailing list
851      * messages in multidrop mode.  if a local address doesn't
852      * exist, the bounce message won't be returned blindly to the 
853      * author or to the list itself but rather to the list manager
854      * (ex: specified by "Sender:") which is much less annoying.  This 
855      * is true for most mailing list packages.
856      */
857     if( !msgblk.return_path[0] ){
858         char *ap = NULL;
859         if (resent_sender_offs >= 0 && (ap = nxtaddr(msgblk.headers + resent_sender_offs)));
860         else if (sender_offs >= 0 && (ap = nxtaddr(msgblk.headers + sender_offs)));
861         else if (resent_from_offs >= 0 && (ap = nxtaddr(msgblk.headers + resent_from_offs)));
862         else if (from_offs >= 0 && (ap = nxtaddr(msgblk.headers + from_offs)));
863         else if (reply_to_offs >= 0 && (ap = nxtaddr(msgblk.headers + reply_to_offs)));
864         else if (app_from_offs >= 0 && (ap = nxtaddr(msgblk.headers + app_from_offs)));
865         if (ap) strcpy( msgblk.return_path, ap );
866     }
867
868     /* cons up a list of local recipients */
869     msgblk.recipients = (struct idlist *)NULL;
870     accept_count = reject_count = 0;
871     /* is this a multidrop box? */
872     if (MULTIDROP(ctl))
873     {
874 #ifdef SDPS_ENABLE
875         if (ctl->server.sdps && sdps_envto)
876         {
877             /* We have the real envelope recipient, stored out of band by
878              * SDPS - that's more accurate than any header is going to be.
879              */
880             find_server_names(sdps_envto, ctl, &msgblk.recipients);
881             free(sdps_envto);
882         } else
883 #endif /* SDPS_ENABLE */ 
884         if (env_offs > -1)          /* We have the actual envelope addressee */
885             find_server_names(msgblk.headers + env_offs, ctl, &msgblk.recipients);
886         else if (received_for)
887             /*
888              * We have the Received for addressee.  
889              * It has to be a mailserver address, or we
890              * wouldn't have got here.
891              * We use find_server_names() to let local 
892              * hostnames go through.
893              */
894             find_server_names(received_for, ctl, &msgblk.recipients);
895         else
896         {
897             /*
898              * We haven't extracted the envelope address.
899              * So check all the "Resent-To" header addresses if 
900              * they exist.  If and only if they don't, consider
901              * the "To" addresses.
902              */
903             register struct addrblk *nextptr;
904             if (resent_to_addrchain) {
905                 /* delete the "To" chain and substitute it 
906                  * with the "Resent-To" list 
907                  */
908                 while (to_addrchain) {
909                     nextptr = to_addrchain->next;
910                     free(to_addrchain);
911                     to_addrchain = nextptr;
912                 }
913                 to_addrchain = resent_to_addrchain;
914                 resent_to_addrchain = NULL;
915             }
916             /* now look for remaining adresses */
917             while (to_addrchain) {
918                 find_server_names(msgblk.headers+to_addrchain->offset, ctl, &msgblk.recipients);
919                 nextptr = to_addrchain->next;
920                 free(to_addrchain);
921                 to_addrchain = nextptr;
922             }
923         }
924         if (!accept_count)
925         {
926             no_local_matches = TRUE;
927             save_str(&msgblk.recipients, run.postmaster, XMIT_ACCEPT);
928             if (outlevel >= O_DEBUG)
929                 report(stdout,
930                       _("no local matches, forwarding to %s\n"),
931                       run.postmaster);
932         }
933     }
934     else        /* it's a single-drop box, use first localname */
935         save_str(&msgblk.recipients, ctl->localnames->id, XMIT_ACCEPT);
936
937
938     /*
939      * Time to either address the message or decide we can't deliver it yet.
940      */
941     if (ctl->errcount > olderrs)        /* there were DNS errors above */
942     {
943         if (outlevel >= O_DEBUG)
944             report(stdout,
945                    _("forwarding and deletion suppressed due to DNS errors\n"));
946         free(msgblk.headers);
947         free_str_list(&msgblk.recipients);
948         return(PS_TRANSIENT);
949     }
950     else
951     {
952         /* set up stuffline() so we can deliver the message body through it */ 
953         if ((n = open_sink(ctl, &msgblk,
954                            &good_addresses, &bad_addresses)) != PS_SUCCESS)
955         {
956             free(msgblk.headers);
957             free_str_list(&msgblk.recipients);
958             return(n);
959         }
960     }
961
962     n = 0;
963     /*
964      * Some server/sendmail combinations cause problems when our
965      * synthetic Received line is before the From header.  Cope
966      * with this...
967      */
968     if ((rcv = strstr(msgblk.headers, "Received:")) == (char *)NULL)
969         rcv = msgblk.headers;
970     /* handle ">Received:" lines too */
971     while (rcv > msgblk.headers && rcv[-1] != '\n')
972         rcv--;
973     if (rcv > msgblk.headers)
974     {
975         char    c = *rcv;
976
977         *rcv = '\0';
978         n = stuffline(ctl, msgblk.headers);
979         *rcv = c;
980     }
981     if (!run.invisible && n != -1)
982     {
983         /* utter any per-message Received information we need here */
984         sprintf(buf, "Received: from %s\r\n", ctl->server.truename);
985         n = stuffline(ctl, buf);
986         if (n != -1)
987         {
988             /*
989              * This header is technically invalid under RFC822.
990              * POP3, IMAP, etc. are not legal mail-parameter values.
991              *
992              * We used to include ctl->remotename in this log line,
993              * but this can be secure information that would be bad
994              * to reveal.
995              */
996             sprintf(buf, "\tby %s with %s (fetchmail-%s)\r\n",
997                     fetchmailhost,
998                     protocol->name,
999                     VERSION);
1000             n = stuffline(ctl, buf);
1001             if (n != -1)
1002             {
1003                 buf[0] = '\t';
1004                 if (good_addresses == 0)
1005                 {
1006                     sprintf(buf+1, 
1007                             "for %s@%s (by default); ",
1008                             user, ctl->destaddr);
1009                 }
1010                 else if (good_addresses == 1)
1011                 {
1012                     for (idp = msgblk.recipients; idp; idp = idp->next)
1013                         if (idp->val.status.mark == XMIT_ACCEPT)
1014                             break;      /* only report first address */
1015                     if (strchr(idp->id, '@'))
1016                         sprintf(buf+1, "for %s", idp->id);
1017                     else
1018                         /*
1019                          * This could be a bit misleading, as destaddr is
1020                          * the forwarding host rather than the actual 
1021                          * destination.  Most of the time they coincide.
1022                          */
1023                         sprintf(buf+1, "for %s@%s", idp->id, ctl->destaddr);
1024                     sprintf(buf+strlen(buf), " (%s); ",
1025                             MULTIDROP(ctl) ? "multi-drop" : "single-drop");
1026                 }
1027                 else
1028                     buf[1] = '\0';
1029
1030                 strcat(buf, rfc822timestamp());
1031                 strcat(buf, "\r\n");
1032                 n = stuffline(ctl, buf);
1033             }
1034         }
1035     }
1036
1037     if (n != -1)
1038         n = stuffline(ctl, rcv);        /* ship out rest of msgblk.headers */
1039
1040     if (n == -1)
1041     {
1042         report(stdout, _("writing RFC822 msgblk.headers\n"));
1043         release_sink(ctl);
1044         free(msgblk.headers);
1045         free_str_list(&msgblk.recipients);
1046         return(PS_IOERR);
1047     }
1048     else if (!run.use_syslog && outlevel >= O_VERBOSE)
1049         fputs("#", stderr);
1050
1051     /* write error notifications */
1052     if (no_local_matches || has_nuls || bad_addresses)
1053     {
1054         int     errlen = 0;
1055         char    errhd[USERNAMELEN + POPBUFSIZE], *errmsg;
1056
1057         errmsg = errhd;
1058         (void) strcpy(errhd, "X-Fetchmail-Warning: ");
1059         if (no_local_matches)
1060         {
1061             if (reject_count != 1)
1062                 strcat(errhd, _("no recipient addresses matched declared local names"));
1063             else
1064             {
1065                 for (idp = msgblk.recipients; idp; idp = idp->next)
1066                     if (idp->val.status.mark == XMIT_REJECT)
1067                         break;
1068                 sprintf(errhd+strlen(errhd), _("recipient address %s didn't match any local name"), idp->id);
1069             }
1070         }
1071
1072         if (has_nuls)
1073         {
1074             if (errhd[sizeof("X-Fetchmail-Warning: ")])
1075                 strcat(errhd, "; ");
1076             strcat(errhd, _("message has embedded NULs"));
1077         }
1078
1079         if (bad_addresses)
1080         {
1081             if (errhd[sizeof("X-Fetchmail-Warning: ")])
1082                 strcat(errhd, "; ");
1083             strcat(errhd, _("SMTP listener rejected local recipient addresses: "));
1084             errlen = strlen(errhd);
1085             for (idp = msgblk.recipients; idp; idp = idp->next)
1086                 if (idp->val.status.mark == XMIT_RCPTBAD)
1087                     errlen += strlen(idp->id) + 2;
1088
1089             xalloca(errmsg, char *, errlen+3);
1090             (void) strcpy(errmsg, errhd);
1091             for (idp = msgblk.recipients; idp; idp = idp->next)
1092                 if (idp->val.status.mark == XMIT_RCPTBAD)
1093                 {
1094                     strcat(errmsg, idp->id);
1095                     if (idp->next)
1096                         strcat(errmsg, ", ");
1097                 }
1098
1099         }
1100
1101         strcat(errmsg, "\r\n");
1102
1103         /* ship out the error line */
1104         stuffline(ctl, errmsg);
1105     }
1106
1107     /* issue the delimiter line */
1108     cp = buf;
1109     *cp++ = '\r';
1110     *cp++ = '\n';
1111     *cp++ = '\0';
1112     stuffline(ctl, buf);
1113
1114     free(msgblk.headers);
1115     free_str_list(&msgblk.recipients);
1116     return(headers_ok ? PS_SUCCESS : PS_TRUNCATED);
1117 }
1118
1119 static int readbody(int sock, struct query *ctl, flag forward, int len)
1120 /* read and dispose of a message body presented on sock */
1121 /*   ctl:               query control record */
1122 /*   sock:              to which the server is connected */
1123 /*   len:               length of message */
1124 /*   forward:           TRUE to forward */
1125 {
1126     int linelen;
1127     unsigned char buf[MSGBUFSIZE+4];
1128     unsigned char *inbufp = buf;
1129     flag issoftline = FALSE;
1130
1131     /*
1132      * Pass through the text lines in the body.
1133      *
1134      * Yes, this wants to be ||, not &&.  The problem is that in the most
1135      * important delimited protocol, POP3, the length is not reliable.
1136      * As usual, the problem is Microsoft brain damage; see FAQ item S2.
1137      * So, for delimited protocols we need to ignore the length here and
1138      * instead drop out of the loop with a break statement when we see
1139      * the message delimiter.
1140      */
1141     while (protocol->delimited || len > 0)
1142     {
1143         set_timeout(mytimeout);
1144         if ((linelen = SockRead(sock, inbufp, sizeof(buf)-4-(inbufp-buf)))==-1)
1145         {
1146             set_timeout(0);
1147             release_sink(ctl);
1148             return(PS_SOCKET);
1149         }
1150         set_timeout(0);
1151
1152         /* write the message size dots */
1153         if (linelen > 0)
1154         {
1155             sizeticker += linelen;
1156             while (sizeticker >= SIZETICKER)
1157             {
1158                 if (!run.use_syslog && outlevel > O_SILENT)
1159                 {
1160                     fputc('.', stdout);
1161                     fflush(stdout);
1162                 }
1163                 sizeticker -= SIZETICKER;
1164             }
1165         }
1166         len -= linelen;
1167
1168         /* check for end of message */
1169         if (protocol->delimited && *inbufp == '.')
1170         {
1171             if (inbufp[1] == '\r' && inbufp[2] == '\n' && inbufp[3] == '\0')
1172                 break;
1173             else if (inbufp[1] == '\n' && inbufp[2] == '\0')
1174                 break;
1175             else
1176                 msglen--;       /* subtract the size of the dot escape */
1177         }
1178
1179         msglen += linelen;
1180
1181         if (ctl->mimedecode && (ctl->mimemsg & MSG_NEEDS_DECODE)) {
1182             issoftline = UnMimeBodyline(&inbufp, protocol->delimited, issoftline);
1183             if (issoftline && (sizeof(buf)-1-(inbufp-buf) < 200))
1184             {
1185                 /*
1186                  * Soft linebreak, but less than 200 bytes left in
1187                  * input buffer. Rather than doing a buffer overrun,
1188                  * ignore the soft linebreak, NL-terminate data and
1189                  * deliver what we have now.
1190                  * (Who writes lines longer than 2K anyway?)
1191                  */
1192                 *inbufp = '\n'; *(inbufp+1) = '\0';
1193                 issoftline = 0;
1194             }
1195         }
1196
1197         /* ship out the text line */
1198         if (forward && (!issoftline))
1199         {
1200             int n;
1201             inbufp = buf;
1202
1203             /* guard against very long lines */
1204             buf[MSGBUFSIZE+1] = '\r';
1205             buf[MSGBUFSIZE+2] = '\n';
1206             buf[MSGBUFSIZE+3] = '\0';
1207
1208             n = stuffline(ctl, buf);
1209
1210             if (n < 0)
1211             {
1212                 report(stdout, _("writing message text\n"));
1213                 release_sink(ctl);
1214                 return(PS_IOERR);
1215             }
1216             else if (outlevel >= O_VERBOSE)
1217             {
1218                 fputc('*', stdout);
1219                 fflush(stdout);
1220             }
1221         }
1222     }
1223
1224     return(PS_SUCCESS);
1225 }
1226
1227 #ifdef KERBEROS_V4
1228 int
1229 kerberos_auth (socket, canonical) 
1230 /* authenticate to the server host using Kerberos V4 */
1231 int socket;             /* socket to server host */
1232 #if defined(__FreeBSD__) || defined(__OpenBSD__)
1233 char *canonical;        /* server name */
1234 #else
1235 const char *canonical;  /* server name */
1236 #endif
1237 {
1238     char * host_primary;
1239     KTEXT ticket;
1240     MSG_DAT msg_data;
1241     CREDENTIALS cred;
1242     Key_schedule schedule;
1243     int rem;
1244   
1245     xalloca(ticket, KTEXT, sizeof (KTEXT_ST));
1246     rem = (krb_sendauth (0L, socket, ticket, "pop",
1247                          canonical,
1248                          ((char *) (krb_realmofhost (canonical))),
1249                          ((unsigned long) 0),
1250                          (&msg_data),
1251                          (&cred),
1252                          (schedule),
1253                          ((struct sockaddr_in *) 0),
1254                          ((struct sockaddr_in *) 0),
1255                          "KPOPV0.1"));
1256     if (rem != KSUCCESS)
1257     {
1258         report(stderr, _("kerberos error %s\n"), (krb_get_err_text (rem)));
1259         return (PS_AUTHFAIL);
1260     }
1261     return (0);
1262 }
1263 #endif /* KERBEROS_V4 */
1264
1265 #ifdef KERBEROS_V5
1266 static int kerberos5_auth(socket, canonical)
1267 /* authenticate to the server host using Kerberos V5 */
1268 int socket;             /* socket to server host */
1269 const char *canonical;  /* server name */
1270 {
1271     krb5_error_code retval;
1272     krb5_context context;
1273     krb5_ccache ccdef;
1274     krb5_principal client = NULL, server = NULL;
1275     krb5_error *err_ret = NULL;
1276
1277     krb5_auth_context auth_context = NULL;
1278
1279     krb5_init_context(&context);
1280     krb5_init_ets(context);
1281     krb5_auth_con_init(context, &auth_context);
1282
1283     if (retval = krb5_cc_default(context, &ccdef)) {
1284         report(stderr, "krb5_cc_default: %s\n", error_message(retval));
1285         return(PS_ERROR);
1286     }
1287
1288     if (retval = krb5_cc_get_principal(context, ccdef, &client)) {
1289         report(stderr, "krb5_cc_get_principal: %s\n", error_message(retval));
1290         return(PS_ERROR);
1291     }
1292
1293     if (retval = krb5_sname_to_principal(context, canonical, "pop",
1294            KRB5_NT_UNKNOWN,
1295            &server)) {
1296         report(stderr, "krb5_sname_to_principal: %s\n", error_message(retval));
1297         return(PS_ERROR);
1298     }
1299
1300     retval = krb5_sendauth(context, &auth_context, (krb5_pointer) &socket,
1301          "KPOPV1.0", client, server,
1302          AP_OPTS_MUTUAL_REQUIRED,
1303          NULL,  /* no data to checksum */
1304          0,   /* no creds, use ccache instead */
1305          ccdef,
1306          &err_ret, 0,
1307
1308          NULL); /* don't need reply */
1309
1310     krb5_free_principal(context, server);
1311     krb5_free_principal(context, client);
1312     krb5_auth_con_free(context, auth_context);
1313
1314     if (retval) {
1315 #ifdef HEIMDAL
1316       if (err_ret && err_ret->e_text) {
1317           report(stderr, _("krb5_sendauth: %s [server says '%*s'] \n"),
1318                  error_message(retval),
1319                  err_ret->e_text);
1320 #else
1321       if (err_ret && err_ret->text.length) {
1322           report(stderr, _("krb5_sendauth: %s [server says '%*s'] \n"),
1323                  error_message(retval),
1324                  err_ret->text.length,
1325                  err_ret->text.data);
1326 #endif
1327           krb5_free_error(context, err_ret);
1328       } else
1329           report(stderr, "krb5_sendauth: %s\n", error_message(retval));
1330       return(PS_ERROR);
1331     }
1332
1333     return 0;
1334 }
1335 #endif /* KERBEROS_V5 */
1336
1337 static void clean_skipped_list(struct idlist **skipped_list)
1338 /* struct "idlist" contains no "prev" ptr; we must remove unused items first */
1339 {
1340     struct idlist *current=NULL, *prev=NULL, *tmp=NULL, *head=NULL;
1341     prev = current = head = *skipped_list;
1342
1343     if (!head)
1344         return;
1345     do
1346     {
1347         /* if item has no reference, remove it */
1348         if (current && current->val.status.mark == 0)
1349         {
1350             if (current == head) /* remove first item (head) */
1351             {
1352                 head = current->next;
1353                 if (current->id) free(current->id);
1354                 free(current);
1355                 prev = current = head;
1356             }
1357             else /* remove middle/last item */
1358             {
1359                 tmp = current->next;
1360                 prev->next = tmp;
1361                 if (current->id) free(current->id);
1362                 free(current);
1363                 current = tmp;
1364             }
1365         }
1366         else /* skip this item */
1367         {
1368             prev = current;
1369             current = current->next;
1370         }
1371     } while(current);
1372
1373     *skipped_list = head;
1374 }
1375
1376 static void send_size_warnings(struct query *ctl)
1377 /* send warning mail with skipped msg; reset msg count when user notified */
1378 {
1379     int size, nbr;
1380     int msg_to_send = FALSE;
1381     struct idlist *head=NULL, *current=NULL;
1382     int max_warning_poll_count;
1383 #define OVERHD  "Subject: Fetchmail oversized-messages warning.\r\n\r\nThe following oversized messages remain on the mail server %s:"
1384
1385     head = ctl->skipped;
1386     if (!head)
1387         return;
1388
1389     /* don't start a notification message unless we need to */
1390     for (current = head; current; current = current->next)
1391         if (current->val.status.num == 0 && current->val.status.mark)
1392             msg_to_send = TRUE;
1393     if (!msg_to_send)
1394         return;
1395
1396     /*
1397      * There's no good way to recover if we can't send notification mail, 
1398      * but it's not a disaster, either, since the skipped mail will not
1399      * be deleted.
1400      */
1401     if (open_warning_by_mail(ctl, (struct msgblk *)NULL))
1402         return;
1403     stuff_warning(ctl, OVERHD, ctl->server.pollname);
1404  
1405     if (run.poll_interval == 0)
1406         max_warning_poll_count = 0;
1407     else
1408         max_warning_poll_count = ctl->warnings/run.poll_interval;
1409
1410     /* parse list of skipped msg, adding items to the mail */
1411     for (current = head; current; current = current->next)
1412     {
1413         if (current->val.status.num == 0 && current->val.status.mark)
1414         {
1415             nbr = current->val.status.mark;
1416             size = atoi(current->id);
1417             stuff_warning(ctl, 
1418                     _("\t%d msg %d octets long skipped by fetchmail.\n"),
1419                     nbr, size);
1420         }
1421         current->val.status.num++;
1422         current->val.status.mark = 0;
1423
1424         if (current->val.status.num >= max_warning_poll_count)
1425             current->val.status.num = 0;
1426     }
1427
1428     close_warning_by_mail(ctl, (struct msgblk *)NULL);
1429 #undef OVERHD
1430 }
1431
1432 static int do_session(ctl, proto, maxfetch)
1433 /* retrieve messages from server using given protocol method table */
1434 struct query *ctl;              /* parsed options with merged-in defaults */
1435 const struct method *proto;     /* protocol method table */
1436 const int maxfetch;             /* maximum number of messages to fetch */
1437 {
1438     int js;
1439 #ifdef HAVE_VOLATILE
1440     volatile int ok, mailserver_socket = -1;    /* pacifies -Wall */
1441 #else
1442     int ok, mailserver_socket = -1;
1443 #endif /* HAVE_VOLATILE */
1444     const char *msg;
1445     void (*pipesave)(int);
1446     void (*alrmsave)(int);
1447     struct idlist *current=NULL, *tmp=NULL;
1448
1449     protocol = proto;
1450     ctl->server.base_protocol = protocol;
1451
1452     pass = 0;
1453     tagnum = 0;
1454     tag[0] = '\0';      /* nuke any tag hanging out from previous query */
1455     ok = 0;
1456
1457     /* set up the server-nonresponse timeout */
1458     alrmsave = signal(SIGALRM, timeout_handler);
1459     mytimeout = ctl->server.timeout;
1460
1461     /* set up the broken-pipe timeout */
1462     pipesave = signal(SIGPIPE, sigpipe_handler);
1463
1464     if ((js = setjmp(restart)))
1465     {
1466 #ifdef HAVE_SIGPROCMASK
1467         /*
1468          * Don't rely on setjmp() to restore the blocked-signal mask.
1469          * It does this under BSD but is required not to under POSIX.
1470          *
1471          * If your Unix doesn't have sigprocmask, better hope it has
1472          * BSD-like behavior.  Otherwise you may see fetchmail get
1473          * permanently wedged after a second timeout on a bad read,
1474          * because alarm signals were blocked after the first.
1475          */
1476         sigset_t        allsigs;
1477
1478         sigfillset(&allsigs);
1479         sigprocmask(SIG_UNBLOCK, &allsigs, NULL);
1480 #endif /* HAVE_SIGPROCMASK */
1481
1482         if (js == THROW_SIGPIPE)
1483         {
1484             report(stdout,
1485                    _("SIGPIPE thrown from an MDA or a stream socket error"));
1486             ok = PS_SOCKET;
1487         }
1488         else if (js == THROW_TIMEOUT)
1489         {
1490             if (phase == OPEN_WAIT)
1491                 report(stdout,
1492                        _("timeout after %d seconds waiting to connect to server %s.\n"),
1493                        ctl->server.timeout, ctl->server.pollname);
1494             else if (phase == SERVER_WAIT)
1495                 report(stdout,
1496                        _("timeout after %d seconds waiting for server %s.\n"),
1497                        ctl->server.timeout, ctl->server.pollname);
1498             else if (phase == FORWARDING_WAIT)
1499                 report(stdout,
1500                        _("timeout after %d seconds waiting for %s.\n"),
1501                        ctl->server.timeout,
1502                        ctl->mda ? "MDA" : "SMTP");
1503             else if (phase == LISTENER_WAIT)
1504                 report(stdout,
1505                        _("timeout after %d seconds waiting for listener to respond.\n"));
1506             else
1507                 report(stdout, 
1508                        _("timeout after %d seconds.\n"), ctl->server.timeout);
1509
1510             /*
1511              * If we've exceeded our threshold for consecutive timeouts, 
1512              * try to notify the user, then mark the connection wedged.
1513              */
1514             if (timeoutcount > MAX_TIMEOUTS 
1515                 && !open_warning_by_mail(ctl, (struct msgblk *)NULL))
1516             {
1517                 stuff_warning(ctl,
1518                               _("Subject: fetchmail sees repeated timeouts\r\n"));
1519                 stuff_warning(ctl,
1520                               _("Fetchmail saw more than %d timeouts while attempting to get mail from %s@%s.\r\n"), 
1521                               MAX_TIMEOUTS,
1522                               ctl->remotename,
1523                               ctl->server.truename);
1524                 stuff_warning(ctl, 
1525     _("This could mean that your mailserver is stuck, or that your SMTP\r\n" \
1526     "server is wedged, or that your mailbox file on the server has been\r\n" \
1527     "corrupted by a server error.  You can run `fetchmail -v -v' to\r\n" \
1528     "diagnose the problem.\r\n\r\n" \
1529     "Fetchmail won't poll this mailbox again until you restart it.\r\n"));
1530                 close_warning_by_mail(ctl, (struct msgblk *)NULL);
1531                 ctl->wedged = TRUE;
1532             }
1533
1534             ok = PS_ERROR;
1535         }
1536
1537         /* try to clean up all streams */
1538         release_sink(ctl);
1539         if (ctl->smtp_socket != -1)
1540             close(ctl->smtp_socket);
1541         if (mailserver_socket != -1)
1542             SockClose(mailserver_socket);
1543     }
1544     else
1545     {
1546         char buf[POPBUFSIZE+1], *realhost;
1547         int len, num, count, new, bytes, deletions = 0, *msgsizes = NULL;
1548 #if INET6_ENABLE
1549         int fetches, dispatches, oldphase;
1550 #else /* INET6_ENABLE */
1551         int port, fetches, dispatches, oldphase;
1552 #endif /* INET6_ENABLE */
1553         struct idlist *idp;
1554
1555         /* execute pre-initialization command, if any */
1556         if (ctl->preconnect && (ok = system(ctl->preconnect)))
1557         {
1558             report(stderr, 
1559                    _("pre-connection command failed with status %d\n"), ok);
1560             ok = PS_SYNTAX;
1561             goto closeUp;
1562         }
1563
1564         /* open a socket to the mail server */
1565         oldphase = phase;
1566         phase = OPEN_WAIT;
1567         set_timeout(mytimeout);
1568 #if !INET6_ENABLE
1569 #ifdef SSL_ENABLE
1570         port = ctl->server.port ? ctl->server.port : ( ctl->use_ssl ? protocol->sslport : protocol->port );
1571 #else
1572         port = ctl->server.port ? ctl->server.port : protocol->port;
1573 #endif
1574 #endif /* !INET6_ENABLE */
1575         realhost = ctl->server.via ? ctl->server.via : ctl->server.pollname;
1576
1577         /* allow time for the port to be set up if we have a plugin */
1578         if (ctl->server.plugin)
1579             (void)sleep(1);
1580 #if INET6_ENABLE
1581         if ((mailserver_socket = SockOpen(realhost, 
1582                              ctl->server.service ? ctl->server.service : protocol->service,
1583                              ctl->server.netsec, ctl->server.plugin)) == -1)
1584 #else /* INET6_ENABLE */
1585         if ((mailserver_socket = SockOpen(realhost, port, NULL, ctl->server.plugin)) == -1)
1586 #endif /* INET6_ENABLE */
1587         {
1588 #if !INET6_ENABLE
1589             int err_no = errno;
1590 #ifdef HAVE_RES_SEARCH
1591             if (err_no != 0 && h_errno != 0)
1592                 report(stderr, _("fetchmail: internal inconsistency\n"));
1593 #endif
1594             /*
1595              * Avoid generating a bogus error every poll cycle when we're
1596              * in daemon mode but the connection to the outside world
1597              * is down.
1598              */
1599             if (err_no == EHOSTUNREACH && run.poll_interval)
1600                 goto ehostunreach;
1601
1602             report_build(stderr, _("fetchmail: %s connection to %s failed"), 
1603                          protocol->name, ctl->server.pollname);
1604 #ifdef HAVE_RES_SEARCH
1605             if (h_errno != 0)
1606             {
1607                 if (h_errno == HOST_NOT_FOUND)
1608                     report_complete(stderr, _(": host is unknown\n"));
1609                 else if (h_errno == NO_ADDRESS)
1610                     report_complete(stderr, _(": name is valid but has no IP address\n"));
1611                 else if (h_errno == NO_RECOVERY)
1612                     report_complete(stderr, _(": unrecoverable name server error\n"));
1613                 else if (h_errno == TRY_AGAIN)
1614                     report_complete(stderr, _(": temporary name server error\n"));
1615                 else
1616                     report_complete(stderr, _(": unknown DNS error %d\n"), h_errno);
1617             }
1618             else
1619 #endif /* HAVE_RES_SEARCH */
1620                 report_complete(stderr, ": %s\n", strerror(err_no));
1621
1622         ehostunreach:
1623 #endif /* INET6_ENABLE */
1624             ok = PS_SOCKET;
1625             set_timeout(0);
1626             phase = oldphase;
1627             goto closeUp;
1628         }
1629         set_timeout(0);
1630         phase = oldphase;
1631
1632 #ifdef SSL_ENABLE
1633         /* perform initial SSL handshake on open connection */
1634         /* Note:  We pass the realhost name over for certificate
1635                 verification.  We may want to make this configurable */
1636         if (ctl->use_ssl && SSLOpen(mailserver_socket,ctl->sslkey,ctl->sslcert,realhost) == -1) 
1637         {
1638             report(stderr, "SSL connection failed.");
1639             goto closeUp;
1640         }
1641 #endif
1642
1643 #ifdef KERBEROS_V4
1644         if (ctl->server.preauthenticate == A_KERBEROS_V4)
1645         {
1646             set_timeout(mytimeout);
1647             ok = kerberos_auth(mailserver_socket, ctl->server.truename);
1648             set_timeout(0);
1649             if (ok != 0)
1650                 goto cleanUp;
1651         }
1652 #endif /* KERBEROS_V4 */
1653
1654 #ifdef KERBEROS_V5
1655         if (ctl->server.preauthenticate == A_KERBEROS_V5)
1656         {
1657             set_timeout(mytimeout);
1658             ok = kerberos5_auth(mailserver_socket, ctl->server.truename);
1659             set_timeout(0);
1660             if (ok != 0)
1661                 goto cleanUp;
1662         }
1663 #endif /* KERBEROS_V5 */
1664
1665         /* accept greeting message from mail server */
1666         ok = (protocol->parse_response)(mailserver_socket, buf);
1667         if (ok != 0)
1668             goto cleanUp;
1669
1670         /* try to get authorized to fetch mail */
1671         stage = STAGE_GETAUTH;
1672         if (protocol->getauth)
1673         {
1674             if (protocol->password_canonify)
1675                 (protocol->password_canonify)(shroud, ctl->password, PASSWORDLEN);
1676             else
1677                 strcpy(shroud, ctl->password);
1678
1679             ok = (protocol->getauth)(mailserver_socket, ctl, buf);
1680             if (ok != 0)
1681             {
1682                 if (ok == PS_LOCKBUSY)
1683                     report(stderr, _("Lock-busy error on %s@%s\n"),
1684                           ctl->remotename,
1685                           ctl->server.truename);
1686                 else if (ok == PS_AUTHFAIL)
1687                 {
1688                     report(stderr, _("Authorization failure on %s@%s\n"), 
1689                           ctl->remotename,
1690                           ctl->server.truename);
1691
1692                     /*
1693                      * If we're running in background, try to mail the
1694                      * calling user a heads-up about the authentication 
1695                      * failure once it looks like this isn't a fluke 
1696                      * due to the server being temporarily inaccessible.
1697                      */
1698                     if (run.poll_interval
1699                         && ctl->authfailcount++ > MAX_AUTHFAILS 
1700                         && !open_warning_by_mail(ctl, (struct msgblk *)NULL))
1701                     {
1702                         stuff_warning(ctl,
1703                             _("Subject: fetchmail authentication failed\r\n"));
1704                         stuff_warning(ctl,
1705                             _("Fetchmail could not get mail from %s@%s.\r\n"), 
1706                             ctl->remotename,
1707                             ctl->server.truename);
1708                         stuff_warning(ctl, 
1709     _("The attempt to get authorization failed.\r\n" \
1710     "This probably means your password is invalid, but POP3 servers have\r\n" \
1711     "other failure modes that fetchmail cannot distinguish from this\r\n" \
1712     "because they don't send useful error messages on login failure.\r\n"));
1713                         close_warning_by_mail(ctl, (struct msgblk *)NULL);
1714                         ctl->wedged = TRUE;
1715                     }
1716                 }
1717                 else
1718                     report(stderr, _("Unknown login or authentication error on %s@%s\n"),
1719                           ctl->remotename,
1720                           ctl->server.truename);
1721                     
1722                 goto cleanUp;
1723             }
1724         }
1725
1726         ctl->errcount = fetches = 0;
1727
1728         /* now iterate over each folder selected */
1729         for (idp = ctl->mailboxes; idp; idp = idp->next)
1730         {
1731             pass = 0;
1732             do {
1733                 dispatches = 0;
1734                 ++pass;
1735
1736                 if (outlevel >= O_DEBUG)
1737                 {
1738                     if (idp->id)
1739                         report(stdout, _("selecting or re-polling folder %s\n"), idp->id);
1740                     else
1741                         report(stdout, _("selecting or re-polling default folder\n"));
1742                 }
1743
1744                 /* compute # of messages and number of new messages waiting */
1745                 stage = STAGE_GETRANGE;
1746                 ok = (protocol->getrange)(mailserver_socket, ctl, idp->id, &count, &new, &bytes);
1747                 if (ok != 0)
1748                     goto cleanUp;
1749
1750                 /* show user how many messages we downloaded */
1751                 if (idp->id)
1752                     (void) sprintf(buf, _("%s at %s (folder %s)"),
1753                                    ctl->remotename, ctl->server.truename, idp->id);
1754                 else
1755                     (void) sprintf(buf, _("%s at %s"),
1756                                    ctl->remotename, ctl->server.truename);
1757                 if (outlevel > O_SILENT)
1758                 {
1759                     if (count == -1)            /* only used for ETRN */
1760                         report(stdout, _("Polling %s\n"), ctl->server.truename);
1761                     else if (count != 0)
1762                     {
1763                         if (new != -1 && (count - new) > 0)
1764                             report_build(stdout, _("%d %s (%d seen) for %s"),
1765                                   count, count > 1 ? _("messages") :
1766                                                      _("message"),
1767                                   count-new, buf);
1768                         else
1769                             report_build(stdout, _("%d %s for %s"), 
1770                                   count, count > 1 ? _("messages") :
1771                                                      _("message"), buf);
1772                         if (bytes == -1)
1773                             report_complete(stdout, ".\n");
1774                         else
1775                             report_complete(stdout, _(" (%d octets).\n"), bytes);
1776                     }
1777                     else
1778                     {
1779                         /* these are pointless in normal daemon mode */
1780                         if (pass == 1 && (run.poll_interval == 0 || outlevel >= O_VERBOSE))
1781                             report(stdout, _("No mail for %s\n"), buf); 
1782                     }
1783                 }
1784
1785                 /* very important, this is where we leave the do loop */ 
1786                 if (count == 0)
1787                     break;
1788
1789                 if (check_only)
1790                 {
1791                     if (new == -1 || ctl->fetchall)
1792                         new = count;
1793                     fetches = new;      /* set error status ccorrectly */
1794                     goto no_error;
1795                 }
1796                 else if (count > 0)
1797                 {    
1798                     flag        force_retrieval;
1799
1800                     /*
1801                      * What forces this code is that in POP2 and
1802                      * IMAP2bis you can't fetch a message without
1803                      * having it marked `seen'.  In POP3 and IMAP4, on the
1804                      * other hand, you can (peek_capable is set by 
1805                      * each driver module to convey this; it's not a
1806                      * method constant because of the difference between
1807                      * IMAP2bis and IMAP4, and because POP3 doesn't  peek
1808                      * if fetchall is on).
1809                      *
1810                      * The result of being unable to peek is that if there's
1811                      * any kind of transient error (DNS lookup failure, or
1812                      * sendmail refusing delivery due to process-table limits)
1813                      * the message will be marked "seen" on the server without
1814                      * having been delivered.  This is not a big problem if
1815                      * fetchmail is running in foreground, because the user
1816                      * will see a "skipped" message when it next runs and get
1817                      * clued in.
1818                      *
1819                      * But in daemon mode this leads to the message
1820                      * being silently ignored forever.  This is not
1821                      * acceptable.
1822                      *
1823                      * We compensate for this by checking the error
1824                      * count from the previous pass and forcing all
1825                      * messages to be considered new if it's nonzero.
1826                      */
1827                     force_retrieval = !peek_capable && (ctl->errcount > 0);
1828
1829                     /* 
1830                      * We need the size of each message before it's
1831                      * loaded in order to pass it to the ESMTP SIZE
1832                      * option.  If the protocol has a getsizes method,
1833                      * we presume this means it doesn't get reliable
1834                      * sizes from message fetch responses.
1835                      */
1836                     if (proto->getsizes)
1837                     {
1838                         int     i;
1839
1840                         xalloca(msgsizes, int *, sizeof(int) * count);
1841                         for (i = 0; i < count; i++)
1842                             msgsizes[i] = -1;
1843
1844                         stage = STAGE_GETSIZES;
1845                         ok = (proto->getsizes)(mailserver_socket, count, msgsizes);
1846                         if (ok != 0)
1847                             goto cleanUp;
1848
1849                         if (bytes == -1)
1850                         {
1851                             bytes = 0;
1852                             for (i = 0; i < count; i++)
1853                                 bytes += msgsizes[i];
1854                         }
1855                     }
1856
1857                     /* read, forward, and delete messages */
1858                     stage = STAGE_FETCH;
1859                     for (num = 1; num <= count; num++)
1860                     {
1861                         flag toolarge = NUM_NONZERO(ctl->limit)
1862                             && msgsizes && (msgsizes[num-1] > ctl->limit);
1863                         flag oldmsg = (!new) || (protocol->is_old && (protocol->is_old)(mailserver_socket,ctl,num));
1864                         flag fetch_it = !toolarge 
1865                             && (ctl->fetchall || force_retrieval || !oldmsg);
1866                         flag suppress_delete = FALSE;
1867                         flag suppress_forward = FALSE;
1868                         flag suppress_readbody = FALSE;
1869                         flag retained = FALSE;
1870
1871                         /*
1872                          * This check copes with Post Office/NT's
1873                          * annoying habit of randomly prepending bogus
1874                          * LIST items of length -1.  Patrick Audley
1875                          * <paudley@pobox.com> tells us: LIST shows a
1876                          * size of -1, RETR and TOP return "-ERR
1877                          * System error - couldn't open message", and
1878                          * DELE succeeds but doesn't actually delete
1879                          * the message.
1880                          */
1881                         if (msgsizes && msgsizes[num-1] == -1)
1882                         {
1883                             if (outlevel >= O_VERBOSE)
1884                                 report(stdout, 
1885                                       _("Skipping message %d, length -1\n"),
1886                                       num);
1887                             continue;
1888                         }
1889
1890                         /*
1891                          * We may want to reject this message if it's old
1892                          * or oversized, and we're not forcing retrieval.
1893                          */
1894                         if (!fetch_it)
1895                         {
1896                             if (outlevel > O_SILENT)
1897                             {
1898                                 report_build(stdout, _("skipping message %d"), num);
1899                                 if (toolarge && !check_only) 
1900                                 {
1901                                     char size[32];
1902                                     int cnt;
1903
1904                                     /* convert sz to string */
1905                                     sprintf(size, "%d", msgsizes[num-1]);
1906
1907                                     /* build a list of skipped messages
1908                                      * val.id = size of msg (string cnvt)
1909                                      * val.status.num = warning_poll_count
1910                                      * val.status.mask = nbr of msg this size
1911                                      */
1912
1913                                     current = ctl->skipped;
1914
1915                                     /* initialise warning_poll_count to the
1916                                      * current value so that all new msg will
1917                                      * be included in the next mail
1918                                      */
1919                                     cnt = current? current->val.status.num : 0;
1920
1921                                     /* if entry exists, increment the count */
1922                                     if (current && 
1923                                         str_in_list(&current, size, FALSE))
1924                                     {
1925                                         for ( ; current; 
1926                                                 current = current->next)
1927                                         {
1928                                             if (strcmp(current->id, size) == 0)
1929                                             {
1930                                                 current->val.status.mark++;
1931                                                 break;
1932                                             }
1933                                         }
1934                                     }
1935                                     /* otherwise, create a new entry */
1936                                     /* initialise with current poll count */
1937                                     else
1938                                     {
1939                                         tmp = save_str(&ctl->skipped, size, 1);
1940                                         tmp->val.status.num = cnt;
1941                                     }
1942
1943                                     report_build(stdout, _(" (oversized, %d octets)"),
1944                                                 msgsizes[num-1]);
1945                                 }
1946                             }
1947                         }
1948                         else
1949                         {
1950                             flag wholesize = !protocol->fetch_body;
1951
1952                             /* request a message */
1953                             ok = (protocol->fetch_headers)(mailserver_socket,ctl,num, &len);
1954                             if (ok != 0)
1955                                 goto cleanUp;
1956
1957                             /* -1 means we didn't see a size in the response */
1958                             if (len == -1 && msgsizes)
1959                             {
1960                                 len = msgsizes[num - 1];
1961                                 wholesize = TRUE;
1962                             }
1963
1964                             if (outlevel > O_SILENT)
1965                             {
1966                                 report_build(stdout, _("reading message %d of %d"),
1967                                             num,count);
1968
1969                                 if (len > 0)
1970                                     report_build(stdout, _(" (%d %soctets)"),
1971                                         len, wholesize ? "" : _("header "));
1972                                 if (outlevel >= O_VERBOSE)
1973                                     report_complete(stdout, "\n");
1974                                 else
1975                                     report_complete(stdout, " ");
1976                             }
1977
1978                             /* 
1979                              * Read the message headers and ship them to the
1980                              * output sink.  
1981                              */
1982                             ok = readheaders(mailserver_socket, len, msgsizes[num-1],
1983                                              ctl, num);
1984                             if (ok == PS_RETAINED)
1985                                 suppress_forward = retained = TRUE;
1986                             else if (ok == PS_TRANSIENT)
1987                                 suppress_delete = suppress_forward = TRUE;
1988                             else if (ok == PS_REFUSED)
1989                                 suppress_forward = TRUE;
1990                             else if (ok == PS_TRUNCATED)
1991                                 suppress_readbody = TRUE;
1992                             else if (ok)
1993                                 goto cleanUp;
1994
1995                             /* 
1996                              * If we're using IMAP4 or something else that
1997                              * can fetch headers separately from bodies,
1998                              * it's time to request the body now.  This
1999                              * fetch may be skipped if we got an anti-spam
2000                              * or other PS_REFUSED error response during
2001                              * readheaders.
2002                              */
2003                             if (protocol->fetch_body && !suppress_readbody) 
2004                             {
2005                                 if (outlevel >= O_VERBOSE)
2006                                 {
2007                                     fputc('\n', stdout);
2008                                     fflush(stdout);
2009                                 }
2010
2011                                 if ((ok = (protocol->trail)(mailserver_socket, ctl, num)))
2012                                     goto cleanUp;
2013                                 len = 0;
2014                                 if (!suppress_forward)
2015                                 {
2016                                     if ((ok=(protocol->fetch_body)(mailserver_socket,ctl,num,&len)))
2017                                         goto cleanUp;
2018                                     /*
2019                                      * Work around a bug in Novell's
2020                                      * broken GroupWise IMAP server;
2021                                      * its body FETCH response is missing
2022                                      * the required length for the data
2023                                      * string.  This violates RFC2060.
2024                                      */
2025                                     if (len == -1)
2026                                        len = msgsizes[num-1] - msglen;
2027                                     if (outlevel > O_SILENT && !wholesize)
2028                                         report_complete(stdout,
2029                                                _(" (%d body octets) "), len);
2030                                 }
2031                             }
2032
2033                             /* process the body now */
2034                             if (len > 0)
2035                             {
2036                                 if (suppress_readbody)
2037                                 {
2038                                   /* When readheaders returns PS_TRUNCATED,
2039                                      the body (which has no content
2040                                      has already been read by readheaders,
2041                                      so we say readbody returned PS_SUCCESS */
2042                                   ok = PS_SUCCESS;
2043                                 }
2044                                 else
2045                                 {
2046                                   ok = readbody(mailserver_socket,
2047                                                 ctl,
2048                                                 !suppress_forward,
2049                                                 len);
2050                                 }
2051                                 if (ok == PS_TRANSIENT)
2052                                     suppress_delete = suppress_forward = TRUE;
2053                                 else if (ok)
2054                                     goto cleanUp;
2055
2056                                 /* tell server we got it OK and resynchronize */
2057                                 if (protocol->trail)
2058                                 {
2059                                     if (outlevel >= O_VERBOSE)
2060                                     {
2061                                         fputc('\n', stdout);
2062                                         fflush(stdout);
2063                                     }
2064
2065                                     ok = (protocol->trail)(mailserver_socket, ctl, num);
2066                                     if (ok != 0)
2067                                         goto cleanUp;
2068                                 }
2069                             }
2070
2071                             /* count # messages forwarded on this pass */
2072                             if (!suppress_forward)
2073                                 dispatches++;
2074
2075                             /*
2076                              * Check to see if the numbers matched?
2077                              *
2078                              * Yes, some servers foo this up horribly.
2079                              * All IMAP servers seem to get it right, and
2080                              * so does Eudora QPOP at least in 2.xx
2081                              * versions.
2082                              *
2083                              * Microsoft Exchange gets it completely
2084                              * wrong, reporting compressed rather than
2085                              * actual sizes (so the actual length of
2086                              * message is longer than the reported size).
2087                              * Another fine example of Microsoft brain death!
2088                              *
2089                              * Some older POP servers, like the old UCB
2090                              * POP server and the pre-QPOP QUALCOMM
2091                              * versions, report a longer size in the LIST
2092                              * response than actually gets shipped up.
2093                              * It's unclear what is going on here, as the
2094                              * QUALCOMM server (at least) seems to be
2095                              * reporting the on-disk size correctly.
2096                              */
2097                             if (msgsizes && msglen != msgsizes[num-1])
2098                             {
2099                                 if (outlevel >= O_DEBUG)
2100                                     report(stdout,
2101                                           _("message %d was not the expected length (%d actual != %d expected)\n"),
2102                                           num, msglen, msgsizes[num-1]);
2103                             }
2104
2105                             /* end-of-message processing starts here */
2106                             if (!close_sink(ctl, &msgblk, !suppress_forward))
2107                             {
2108                                 ctl->errcount++;
2109                                 suppress_delete = TRUE;
2110                             }
2111                             fetches++;
2112                         }
2113
2114                         /*
2115                          * At this point in flow of control, either
2116                          * we've bombed on a protocol error or had
2117                          * delivery refused by the SMTP server
2118                          * (unlikely -- I've never seen it) or we've
2119                          * seen `accepted for delivery' and the
2120                          * message is shipped.  It's safe to mark the
2121                          * message seen and delete it on the server
2122                          * now.
2123                          */
2124
2125                         /* tell the UID code we've seen this */
2126                         if (ctl->newsaved)
2127                         {
2128                             struct idlist       *sdp;
2129
2130                             for (sdp = ctl->newsaved; sdp; sdp = sdp->next)
2131                                 if (sdp->val.status.num == num)
2132                                     sdp->val.status.mark = UID_SEEN;
2133                         }
2134
2135                         /* maybe we delete this message now? */
2136                         if (retained)
2137                         {
2138                             if (outlevel > O_SILENT) 
2139                                 report(stdout, _(" retained\n"));
2140                         }
2141                         else if (protocol->delete
2142                                  && !suppress_delete
2143                                  && (fetch_it ? !ctl->keep : ctl->flush))
2144                         {
2145                             deletions++;
2146                             if (outlevel > O_SILENT) 
2147                                 report_complete(stdout, _(" flushed\n"));
2148                             ok = (protocol->delete)(mailserver_socket, ctl, num);
2149                             if (ok != 0)
2150                                 goto cleanUp;
2151 #ifdef POP3_ENABLE
2152                             delete_str(&ctl->newsaved, num);
2153 #endif /* POP3_ENABLE */
2154                         }
2155                         else if (outlevel > O_SILENT) 
2156                             report_complete(stdout, _(" not flushed\n"));
2157
2158                         /* perhaps this as many as we're ready to handle */
2159                         if (maxfetch && maxfetch <= fetches && fetches < count)
2160                         {
2161                             report(stdout, _("fetchlimit %d reached; %d messages left on server\n"),
2162                                   maxfetch, count - fetches);
2163                             ok = PS_MAXFETCH;
2164                             goto cleanUp;
2165                         }
2166                     }
2167
2168                     if (!check_only && ctl->skipped
2169                         && run.poll_interval > 0 && !nodetach)
2170                     {
2171                         clean_skipped_list(&ctl->skipped);
2172                         send_size_warnings(ctl);
2173                     }
2174                 }
2175             } while
2176                   /*
2177                    * Only re-poll if we had some actual forwards, allowed
2178                    * deletions and had no errors.
2179                    * Otherwise it is far too easy to get into infinite loops.
2180                    */
2181                   (dispatches && protocol->retry && !ctl->keep && !ctl->errcount);
2182         }
2183
2184    no_error:
2185         /* ordinary termination with no errors -- officially log out */
2186         ok = (protocol->logout_cmd)(mailserver_socket, ctl);
2187         /*
2188          * Hmmmm...arguably this would be incorrect if we had fetches but
2189          * no dispatches (due to oversized messages, etc.)
2190          */
2191         if (ok == 0)
2192             ok = (fetches > 0) ? PS_SUCCESS : PS_NOMAIL;
2193         SockClose(mailserver_socket);
2194         goto closeUp;
2195
2196     cleanUp:
2197         /* we only get here on error */
2198         if (ok != 0 && ok != PS_SOCKET)
2199         {
2200             stage = STAGE_LOGOUT;
2201             (protocol->logout_cmd)(mailserver_socket, ctl);
2202         }
2203         SockClose(mailserver_socket);
2204     }
2205
2206     msg = (const char *)NULL;   /* sacrifice to -Wall */
2207     switch (ok)
2208     {
2209     case PS_SOCKET:
2210         msg = _("socket");
2211         break;
2212     case PS_AUTHFAIL:
2213         msg = _("authorization");
2214         break;
2215     case PS_SYNTAX:
2216         msg = _("missing or bad RFC822 header");
2217         break;
2218     case PS_IOERR:
2219         msg = _("MDA");
2220         break;
2221     case PS_ERROR:
2222         msg = _("client/server synchronization");
2223         break;
2224     case PS_PROTOCOL:
2225         msg = _("client/server protocol");
2226         break;
2227     case PS_LOCKBUSY:
2228         msg = _("lock busy on server");
2229         break;
2230     case PS_SMTP:
2231         msg = _("SMTP transaction");
2232         break;
2233     case PS_DNS:
2234         msg = _("DNS lookup");
2235         break;
2236     case PS_UNDEFINED:
2237         report(stderr, _("undefined error\n"));
2238         break;
2239     }
2240     /* no report on PS_MAXFETCH or PS_UNDEFINED */
2241     if (ok==PS_SOCKET || ok==PS_AUTHFAIL || ok==PS_SYNTAX 
2242                 || ok==PS_IOERR || ok==PS_ERROR || ok==PS_PROTOCOL 
2243                 || ok==PS_LOCKBUSY || ok==PS_SMTP || ok==PS_DNS)
2244         report(stderr, _("%s error while fetching from %s\n"), msg, ctl->server.pollname);
2245
2246 closeUp:
2247     /* execute post-initialization command, if any */
2248     if (ctl->postconnect && (ok = system(ctl->postconnect)))
2249     {
2250         report(stderr, _("post-connection command failed with status %d\n"), ok);
2251         if (ok == PS_SUCCESS)
2252             ok = PS_SYNTAX;
2253     }
2254
2255     signal(SIGALRM, alrmsave);
2256     signal(SIGPIPE, pipesave);
2257     return(ok);
2258 }
2259
2260 int do_protocol(ctl, proto)
2261 /* retrieve messages from server using given protocol method table */
2262 struct query *ctl;              /* parsed options with merged-in defaults */
2263 const struct method *proto;     /* protocol method table */
2264 {
2265     int ok;
2266
2267 #ifndef KERBEROS_V4
2268     if (ctl->server.preauthenticate == A_KERBEROS_V4)
2269     {
2270         report(stderr, _("Kerberos V4 support not linked.\n"));
2271         return(PS_ERROR);
2272     }
2273 #endif /* KERBEROS_V4 */
2274
2275 #ifndef KERBEROS_V5
2276     if (ctl->server.preauthenticate == A_KERBEROS_V5)
2277     {
2278         report(stderr, _("Kerberos V5 support not linked.\n"));
2279         return(PS_ERROR);
2280     }
2281 #endif /* KERBEROS_V5 */
2282
2283     /* lacking methods, there are some options that may fail */
2284     if (!proto->is_old)
2285     {
2286         /* check for unsupported options */
2287         if (ctl->flush) {
2288             report(stderr,
2289                     _("Option --flush is not supported with %s\n"),
2290                     proto->name);
2291             return(PS_SYNTAX);
2292         }
2293         else if (ctl->fetchall) {
2294             report(stderr,
2295                     _("Option --all is not supported with %s\n"),
2296                     proto->name);
2297             return(PS_SYNTAX);
2298         }
2299     }
2300     if (!proto->getsizes && NUM_SPECIFIED(ctl->limit))
2301     {
2302         report(stderr,
2303                 _("Option --limit is not supported with %s\n"),
2304                 proto->name);
2305         return(PS_SYNTAX);
2306     }
2307
2308     /*
2309      * If no expunge limit or we do expunges within the driver,
2310      * then just do one session, passing in any fetchlimit.
2311      */
2312     if (proto->retry || !NUM_SPECIFIED(ctl->expunge))
2313         return(do_session(ctl, proto, NUM_VALUE_OUT(ctl->fetchlimit)));
2314     /*
2315      * There's an expunge limit, and it isn't handled in the driver itself.
2316      * OK; do multiple sessions, each fetching a limited # of messages.
2317      * Stop if the total count of retrieved messages exceeds ctl->fetchlimit
2318      * (if it was nonzero).
2319      */
2320     else
2321     {
2322         int totalcount = 0; 
2323         int lockouts   = 0;
2324         int expunge    = NUM_VALUE_OUT(ctl->expunge);
2325         int fetchlimit = NUM_VALUE_OUT(ctl->fetchlimit);
2326
2327         do {
2328             ok = do_session(ctl, proto, expunge);
2329             totalcount += expunge;
2330             if (NUM_SPECIFIED(ctl->fetchlimit) && totalcount >= fetchlimit)
2331                 break;
2332             if (ok != PS_LOCKBUSY)
2333                 lockouts = 0;
2334             else if (lockouts >= MAX_LOCKOUTS)
2335                 break;
2336             else /* ok == PS_LOCKBUSY */
2337             {
2338                 /*
2339                  * Allow time for the server lock to release.  if we
2340                  * don't do this, we'll often hit a locked-mailbox
2341                  * condition and fail.
2342                  */
2343                 lockouts++;
2344                 sleep(3);
2345             }
2346         } while
2347             (ok == PS_MAXFETCH || ok == PS_LOCKBUSY);
2348
2349         return(ok);
2350     }
2351 }
2352
2353 #if defined(HAVE_STDARG_H)
2354 void gen_send(int sock, const char *fmt, ... )
2355 #else
2356 void gen_send(sock, fmt, va_alist)
2357 int sock;               /* socket to which server is connected */
2358 const char *fmt;        /* printf-style format */
2359 va_dcl
2360 #endif
2361 /* assemble command in printf(3) style and send to the server */
2362 {
2363     char buf [MSGBUFSIZE+1];
2364     va_list ap;
2365
2366     if (protocol->tagged)
2367         (void) sprintf(buf, "%s ", GENSYM);
2368     else
2369         buf[0] = '\0';
2370
2371 #if defined(HAVE_STDARG_H)
2372     va_start(ap, fmt) ;
2373 #else
2374     va_start(ap);
2375 #endif
2376 #ifdef HAVE_VSNPRINTF
2377     vsnprintf(buf + strlen(buf), sizeof(buf), fmt, ap);
2378 #else
2379     vsprintf(buf + strlen(buf), fmt, ap);
2380 #endif
2381     va_end(ap);
2382
2383     strcat(buf, "\r\n");
2384     SockWrite(sock, buf, strlen(buf));
2385
2386     if (outlevel >= O_MONITOR)
2387     {
2388         char *cp;
2389
2390         if (shroud && shroud[0] && (cp = strstr(buf, shroud)))
2391         {
2392             char        *sp;
2393
2394             sp = cp + strlen(shroud);
2395             *cp++ = '*';
2396             while (*sp)
2397                 *cp++ = *sp++;
2398             *cp = '\0';
2399         }
2400         buf[strlen(buf)-2] = '\0';
2401         report(stdout, "%s> %s\n", protocol->name, buf);
2402     }
2403 }
2404
2405 int gen_recv(sock, buf, size)
2406 /* get one line of input from the server */
2407 int sock;       /* socket to which server is connected */
2408 char *buf;      /* buffer to receive input */
2409 int size;       /* length of buffer */
2410 {
2411     int oldphase = phase;       /* we don't have to be re-entrant */
2412
2413     phase = SERVER_WAIT;
2414     set_timeout(mytimeout);
2415     if (SockRead(sock, buf, size) == -1)
2416     {
2417         set_timeout(0);
2418         phase = oldphase;
2419         return(PS_SOCKET);
2420     }
2421     else
2422     {
2423         set_timeout(0);
2424         if (buf[strlen(buf)-1] == '\n')
2425             buf[strlen(buf)-1] = '\0';
2426         if (buf[strlen(buf)-1] == '\r')
2427             buf[strlen(buf)-1] = '\0';
2428         if (outlevel >= O_MONITOR)
2429             report(stdout, "%s< %s\n", protocol->name, buf);
2430         phase = oldphase;
2431         return(PS_SUCCESS);
2432     }
2433 }
2434
2435 #if defined(HAVE_STDARG_H)
2436 int gen_transact(int sock, const char *fmt, ... )
2437 #else
2438 int gen_transact(int sock, fmt, va_alist)
2439 int sock;               /* socket to which server is connected */
2440 const char *fmt;        /* printf-style format */
2441 va_dcl
2442 #endif
2443 /* assemble command in printf(3) style, send to server, accept a response */
2444 {
2445     int ok;
2446     char buf [MSGBUFSIZE+1];
2447     va_list ap;
2448     int oldphase = phase;       /* we don't have to be re-entrant */
2449
2450     phase = SERVER_WAIT;
2451
2452     if (protocol->tagged)
2453         (void) sprintf(buf, "%s ", GENSYM);
2454     else
2455         buf[0] = '\0';
2456
2457 #if defined(HAVE_STDARG_H)
2458     va_start(ap, fmt) ;
2459 #else
2460     va_start(ap);
2461 #endif
2462 #ifdef HAVE_VSNPRINTF
2463     vsnprintf(buf + strlen(buf), sizeof(buf), fmt, ap);
2464 #else
2465     vsprintf(buf + strlen(buf), fmt, ap);
2466 #endif
2467     va_end(ap);
2468
2469     strcat(buf, "\r\n");
2470     SockWrite(sock, buf, strlen(buf));
2471
2472     if (outlevel >= O_MONITOR)
2473     {
2474         char *cp;
2475
2476         if (shroud && shroud[0] && (cp = strstr(buf, shroud)))
2477         {
2478             char        *sp;
2479
2480             sp = cp + strlen(shroud);
2481             *cp++ = '*';
2482             while (*sp)
2483                 *cp++ = *sp++;
2484             *cp = '\0';
2485         }
2486         buf[strlen(buf)-1] = '\0';
2487         report(stdout, "%s> %s\n", protocol->name, buf);
2488     }
2489
2490     /* we presume this does its own response echoing */
2491     ok = (protocol->parse_response)(sock, buf);
2492
2493     phase = oldphase;
2494     return(ok);
2495 }
2496
2497 /* driver.c ends here */