Pileus Git - ~andy/fetchmail/blob - fetchmail-FAQ.html

   1 <!doctype HTML public "-//W3O//DTD W3 HTML 3.2//EN">
   2 <HTML>
   3 <HEAD>
   4 <TITLE>The Fetchmail FAQ</TITLE>
   5 <link rev=made href="mailto:esr@snark.thyrsus.com">
   6 <meta name="description" content="Frequently asked questions about fetchmail.">
   7 <meta name="keywords" content="fetchmail, POP, POP2, POP3, IMAP, remote mail">
   8 </HEAD>
   9 <BODY>
  10 <table width="100%" cellpadding=0><tr>
  11 <td width="30%">Back to <a href="index.html">Fetchmail Home Page</a>
  12 <td width="30%" align=center>To <a href="/~esr/sitemap.html">Site Map</a>
  13 <td width="30%" align=right>$Date: 2001/02/10 21:20:33 $
  14 </table>
  15 <HR>
  16 <H1>Frequently Asked Questions About Fetchmail</H1>
  17
  18 Before reporting any bug, please read <a href="#G3">G3</a> for advice
  19 on how to include diagnostic information that will get your bug fixed
  20 as quickly as possible. <p>
  21
  22 If you have a question or answer you think ought to be added to this FAQ list,
  23 mail it to fetchmail's maintainer, Eric S. Raymond, at
  24 <A HREF="mailto:esr@thyrsus.com">esr@snark.thyrsus.com</A>.<p>
  25
  26 <h1>General questions:</h1>
  27
  28 <a href="#G1">G1. What is fetchmail and why should I bother?</a><br>
  29 <a href="#G2">G2. Where do I find the latest FAQ and fetchmail sources?</a><br>
  30 <a href="#G3">G3. I think I've found a bug.  Will you fix it?</a><br>
  31 <a href="#G4">G4. I have this idea for a neat feature. Will you add it?</a><br>
  32 <a href="#G5">G5. Is there a mailing list for exchanging tips?</a><br>
  33 <a href="#G6">G6. So, what's this I hear about a fetchmail paper?</a><br>
  34 <a href="#G7">G7. What is the best server to use with fetchmail?</a><br>
  35 <a href="#G8">G8. What is the best mail program to use with fetchmail?</a><br>
  36 <a href="#G9">G9. How can I avoid sending my password en clair?</a><br>
  37 <a href="#G10">G10. Is any special configuration needed to use a dynamic
  38 IP address?</a><br>
  39 <a href="#G11">G11. Is any special configuration needed to use firewalls?</a><br>
  40 <a href="#G12">G12. Is any special configuration needed to <em>send</em> mail?</a><br>
  41 <a href="#G13">G13. Is fetchmail Y2K-compliant?</a><br>
  42 <a href="#G14">G14. Is there a way in fetchmail to support disconnected IMAP mode?</a><br>
  43 <a href="#G15">G15. How will fetchmail perform under heavy loads?</a><br>
  44
  45 <h1>Build-time problems:</h1>
  46
  47 <a href="#B1">B1. Lex bombs out while building the fetchmail lexer.</a><br>
  48 <a href="#B2">B2. I get link failures when I try to build fetchmail.</a><br>
  49
  50 <h1>Fetchmail configuration file grammar questions:</h1>
  51
  52 <a href="#F1">F1. Why does my old .fetchmailrc no longer work?</a><br>
  53 <a href="#F2">F2. The .fetchmailrc parser won't accept my all-numeric user name.</a><br>
  54 <a href="#F3">F3. The .fetchmailrc parser won't accept my host or username beginning with `no'.</a><br>
  55 <a href="#F4">F4. I'm getting a `parse error' message I don't understand.</a><br>
  56
  57 <h1>Configuration questions:</h1>
  58
  59 <a href="#C1">C1. Why do I need a .fetchmailrc when running as root on my own machine?</a><br>
  60 <a href="#C2">C2. How can I arrange for a fetchmail daemon to get killed when I log out?</a><br>
  61 <a href="#C3">C3. How do I know what interface and address to use with --interface?</a><br>
  62 <a href="#C4">C4. How can I set up support for sendmail's anti-spam features?</a><br>
  63 <a href="#C5">C5. How can I poll some of my mailboxes more/less often than others?</a><br>
  64 <a href="#C6">C6. Fetchmail works OK started up manually, but not from an init script.</a><br>
  65 <a href="#C7">C7. How can I forward mail to another host?.</a><br>
  66
  67 <h1>How to make fetchmail play nice with various MTAs:</h1>
  68
  69 <a href="#T1">T1. How can I use fetchmail with sendmail?</a><br>
  70 <a href="#T2">T2. How can I use fetchmail with qmail?</a><br>
  71 <a href="#T3">T3. How can I use fetchmail with exim?</a><br>
  72 <a href="#T4">T4. How can I use fetchmail with smail?</a><br>
  73 <a href="#T5">T5. How can I use fetchmail with SCO's MMDF?</a><br>
  74 <a href="#T6">T6. How can I use fetchmail with Lotus Notes?</a><br>
  75
  76 <h1>How to make fetchmail work with various servers:</h1>
  77
  78 <a href="#S1">S1. How can I use fetchmail with qpopper?</a><br>
  79 <a href="#S2">S2. How can I use fetchmail with Microsoft Exchange?</a><br>
  80 <a href="#S3">S3. How can I use fetchmail with Compuserve RPA?</a><br>
  81 <a href="#S4">S4. How can I use fetchmail with Demon Internet's SDPS?</a><br>
  82 <a href="#S5">S5. How can I use fetchmail with usa.net's servers?</a><br>
  83 <a href="#S6">S6. How can I use fetchmail with HP OpenMail?</a><br>
  84 <a href="#S7">S7. How can I use fetchmail with geocities POP3 servers?</a><br>
  85 <a href="#S8">S8. How can I use fetchmail with Hotmail?</a><br>
  86 <a href="#S9">S9. How can I use fetchmail with MSN?</a><br>
  87 <a href="#S10">S10. How can I use fetchmail with SpryNet?</a><br>
  88 <a href="#S11">S11. How can I use fetchmail with FTGate?</a><br>
  89 <a href="#S12">S12. How can I use fetchmail with MailMax?</a><br>
  90 <a href="#S13">S13. How can I use fetchmail with Novell GroupWise?</a><br>
  91 <a href="#S14">S14. How can I use fetchmail with InterChange?</a><br>
  92
  93 <h1>How to set up well-known security and authentication methods:</h1>
  94
  95 <a href="#K1">K1. How can I use fetchmail with SOCKS?</a><br>
  96 <a href="#K2">K2. How can I use fetchmail with IPv6 and IPsec?</a><br>
  97 <a href="#K3">K3. How can I get fetchmail to work with ssh?</a><br>
  98 <a href="#K4">K4. What do I have to do to use the IMAP-GSS protocol?</a><br>
  99 <a href="#K5">K5. How can I use fetchmail with SSL?</a><br>
 100
 101 <h1>Runtime fatal errors:</h1>
 102
 103 <a href="#R1">R1. Fetchmail isn't working, and -v shows `SMTP connect failed' messages.</a><br>
 104 <a href="#R2">R2. When I try to configure an MDA, fetchmail doesn't work.</a><br>
 105 <a href="#R3">R3. Fetchmail dumps core when given an invalid rc file.</a><br>
 106 <a href="#R4">R4. Fetchmail dumps core in -V mode, but operates normally otherwise.</a><br>
 107 <a href="#R5">R5. Running fetchmail in daemon mode doesn't work.</a><br>
 108 <a href="#R6">R6. Fetchmail hangs when used with pppd.</a><br>
 109 <a href="#R7">R7. Fetchmail randomly dies with socket errors.</a><br>
 110 <a href="#R8">R8. Fetchmail running as root stopped working after an OS upgrade</a><br>
 111 <a href="#R9">R9. Fetchmail is timing out after fetching certain
 112 messages but before deleting them</a><br>
 113 <a href="#R10">R10. Fetchmail is timing out during message fetches</a><br>
 114 <a href="#R11">R11. Fetchmail is dying with SIGPIPE.</a><br>
 115
 116 <h1>Disappearing mail</h1>
 117
 118 <a href="#D1">D1. I think I've set up fetchmail correctly, but I'm not getting any mail.</a><br>
 119 <a href="#D2">D2. All my mail seems to disappear after a dropped connection.</a><br>
 120 <a href="#D3">D3. Mail that was being fetched when I interrupted my fetchmail seems to have been vanished.</a><br>
 121
 122 <h1>Multidrop-mode problems:</h1>
 123
 124 <a href="#M1">M1. I've declared local names, but all my multidrop mail is going to root anyway.</a><br>
 125 <a href="#M2">M2. I can't seem to get fetchmail to route to a local domain properly.</a><br>
 126 <a href="#M3">M3. I tried to run a mailing list using multidrop, and I have a mail loop!</a><br>
 127 <a href="#M4">M4. My multidrop fetchmail seems to be having DNS problems.</a><br>
 128 <a href="#M5">M5. I'm seeing long DNS delays before each message is processed.</a><br>
 129 <a href="#M6">M6. How do I get multidrop mode to work with majordomo?</a><br>
 130 <a href="#M7">M7. Multidrop mode isn't parsing envelope addresses from
 131 my Received headers as it should.</a><br>
 132 <a href="#M8">M8. Users are getting multiple copies of messages.</a><br>
 133
 134 <h1>Mangled mail:</h1>
 135
 136 <a href="#X1">X1. Spurious blank lines are appearing in the headers of fetched mail.</a><br>
 137 <a href="#X2">X2. My mail client can't see a Subject line.</a><br>
 138 <a href="#X3">X3. Messages containing "From" at start of line are being split.</a><br>
 139 <a href="#X4">X4. My mail is being mangled in a new and different way.</a><br>
 140 <a href="#X5">X5. Using POP3, retrievals seems to be fetching too much!</a><br>
 141 <a href="#X6">X6. My mail attachments are being dropped or mangled.</a><br>
 142 <a href="#X7">X7. Some mail attachments are hanging fetchmail.</a><br>
 143
 144 <h1>Other problems:</h1>
 145
 146 <a href="#O1">O1. The --logfile option doesn't work if the logfile doesn't exist.</a><br>
 147 <a href="#O2">O2. Every time I get a POP or IMAP message the header is
 148 dumped to all my terminal sessions.</a><br>
 149 <a href="#O3">O3. Does fetchmail reread its rc file every poll cycle?</a><br>
 150 <a href="#O4">O4. Why do deleted messages show up again when I take
 151 a line hit while downloading?</a><br>
 152 <a href="#O5">O5. Why is fetched mail being logged with my name, not the real From address?</a><br>
 153 <a href="#O6">O6. I'm seeing long sendmail delays or hangs near the start of each poll cycle.</a><br>
 154 <a href="#O7">O7. Why doesn't fetchmail deliver mail in date-sorted order?</a><br>
 155 <a href="#O8">O8. I'm using pppd.  Why isn't my monitor option working?</a><br>
 156 <a href="#O9">O9. Why does fetchmail keep retrieving the same messages
 157 over and over?</a><br>
 158
 159 <h1>Answers:</h1>
 160 <hr>
 161 <h2><a name="G1">G1. What is fetchmail and why should I bother?</a></h2>
 162
 163 Fetchmail is a one-stop solution to the remote mail retrieval problem
 164 for Unix machines, quite useful to anyone with an intermittent PPP or
 165 SLIP connection to a remote mailserver.  It can collect mail using any
 166 variant of POP or IMAP and forwards via port 25 to the local SMTP
 167 listener, enabling all the normal forwarding/filtering/aliasing
 168 mechanisms that would apply to local mail or mail arriving via a
 169 full-time TCP/IP connection.<p>
 170
 171 Fetchmail is not a toy or a coder's learning exercise, but an
 172 industrial-strength tool capable of transparently handling every
 173 retrieval demand from those of a simple single-user ISP connection up
 174 to mail retrieval and rerouting for an entire client domain.
 175 Fetchmail is easy to configure, unobtrusive in operation, powerful,
 176 feature-rich, and well documented. <P>
 177
 178 Fetchmail is <a href="http://www.opensource.org">open-source</a>
 179 software.  The openness of the sources is the strongest assurance of
 180 quality you can have.  Extensive peer review by a large,
 181 multi-platform user community has shown that fetchmail is as near
 182 bulletproof as the underlying protocols permit.<p>
 183
 184 Fetchmail is licensed under the <a
 185 href="http://gnu.org//copyleft/gpl.html">GNU General Public
 186 License</a>.<p>
 187
 188 If you found this FAQ in the distribution, see the README for fetchmail's
 189 full feature list.<p>
 190
 191 <hr>
 192 <h2><a name="G2">G2. Where do I find the latest FAQ and fetchmail
 193 sources?</a></h2>
 194
 195 The latest HTML FAQ is available alongside the latest fetchmail
 196 sources at the fetchmail home page:
 197 <a href="http://www.tuxedo.org/~esr/fetchmail">
 198 http://www.tuxedo.org/~esr/fetchmail</a>.  You can also usually find
 199 both in the <a
 200 href="http://sunsite.unc.edu/pub/Linux/system/mail/pop/!INDEX.html">POP
 201 mail tools directory on Sunsite</a>.<p>
 202
 203 A text dump of this FAQ is included in the fetchmail
 204 distribution. Because it freezes at distribution release time, it may
 205 not be completely current.<p>
 206
 207 <hr>
 208 <h2><a name="G3">G3.  I think I've found a bug.  Will you fix it?</a></h2>
 209
 210 Yes I will, provided you include enough diagnostic information for me
 211 to go on.  Send bugs to <a
 212 href="mailto:fetchmail-friends@ccil.org">fetchmail-friends</a>.  When reporting
 213 bugs, please include the following:
 214
 215 <ol>
 216 <li>Your operating system.
 217 <li>Your compiler version, if you built from source; otherwise, the
 218     name and origin ogf the RPM or other binary package you installed.
 219 <li>A copy of your POP or IMAP server's greeting line.
 220 <li>The name and version of the SMTP listener or MDA you are forwarding to.
 221 <li>Any command-line options you used.
 222 <li>The output of fetchmail -V called with whatever other
 223     command-line options you used.
 224 </ol>
 225
 226 If you have FTP access to your remote mail account, and you have any
 227 suspicion that the bug was triggered by a particular message, please
 228 include a copy of the message that triggered the bug.<p>
 229
 230 Often, the first thing I will do when you report a bug is tell you to
 231 upgrade to the newest version of fetchmail, and then see if the
 232 problem reproduces.  So you'll probably save us both time if you
 233 upgrade and test with the latest version <em>before</em> sending in a
 234 bug report.<P>
 235
 236 Another useful thing you can do, if you're using POP3, is to test for
 237 IMAP4 support on your mailserver using the autoprobe function of
 238 fetchmailconf.  If you have IMAP4, and fetchmailconf doesn't tell you
 239 it's broken, switch immediately.  POP3 is a weak, poorly-designed
 240 protocol with chronic problems, and the later versions after RFC1725
 241 actually get worse rather than better.  Changing over to IMAP4 may well
 242 make your problem go away -- and if your ISP doesn't have IMAP4
 243 support, bug them to supply it.<p>
 244
 245 It is helpful if you include your .fetchmailrc file, but not necessary
 246 unless your symptom seems to involve an error in configuration
 247 parsing.  If you do send in your .fetchmailrc, mask the passwords
 248 first! <p>
 249
 250 If fetchmail seems to run and fetch mail, but the headers look mangled
 251 (that is, headers are missing or blank lines are inserted in the
 252 headers) then read the FAQ items in section <a href="#X1">X</a>
 253 before submitting a bug report.  Pay special attention to the item on
 254 <a href="#generic_mangling">diagnosing mail mangling</a>.  There are
 255 lots of ways for other programs in the mail chain to screw up that
 256 look like fetchmail's fault, but you may be able to fix these by
 257 tweaking your configuration.<P>
 258
 259 A transcript of the failed session with -v -v (yes, that's
 260 <em>two</em> -v options, enabling debug mode) will almost always be useful.
 261 It is very important that the transcript include your POP/IMAP server's
 262 greeting line, so I can identify it in case of server problems.  This
 263 transcript will not reveal your passwords, which are specially masked
 264 out precisely so the transcript can be passed around.<P>
 265
 266 If the bug involves a core dump or hang, a gdb stack trace is good to have.
 267 (Bear in mind that you can attach gdb to a running but hung process by
 268 giving the process ID as a second argument.)  You will need to
 269 reconfigure with <p>
 270
 271 <PRE>
 272 CFLAGS=-g LDFLAGS=" " ./configure
 273 </PRE>
 274
 275 and then rebuild in order to generate a version that can be gdb-traced.<p>
 276
 277 Best of all is a mail file which, when fetched, will reproduce the
 278 bug under the latest (current) version.<p>
 279
 280 Any bug I can reproduce will usually get fixed very quickly, often
 281 within 48 hours.  Bugs I can't reproduce are a crapshoot.  If the
 282 solution isn't obvious when I first look, it may evade me for a long
 283 time (or to put it another way, fetchmail is well enough tested that the
 284 easy bugs have long since been found).  So if you want your bug fixed
 285 rapidly, it is not just sufficient but nearly <em>necessary</em> that
 286 you give me a way to reproduce it.<p>
 287
 288 <hr>
 289 <h2><a name="G4">G4.  I have this idea for a neat feature.  Will you add it?</a></h2>
 290
 291 Probably not.  Most of the feature suggestions I get are for ways to
 292 set various kinds of administrative policy or add more spam filtering
 293 (the most common one, which I used to get about four million times a week
 294 and got <em>really</em> tired of, is for tin-like kill files).<p>
 295
 296 You can do spam filtering better with procmail or maildrop on the
 297 server side and (if you're the server sysadmin) sendmail.cf domain
 298 exclusions.  You can do other policy things better with the
 299 <CODE>mda</CODE> option and script wrappers around fetchmail.  If
 300 it's a prime-time-vs.-non-prime-time issue, ask yourself whether a
 301 wrapper script called from crontab would do the job.<p>
 302
 303 I'm not going to do these; fetchmail's job is transport, not policy, and I
 304 refuse to change it from doing one thing well to attempting many things badly.
 305 One of my objectives is to keep fetchmail simple so it stays reliable.<p>
 306
 307 For reasons fetchmail doesn't have other commonly-requested features
 308 (such as password encryption, or multiple concurrent polls from the
 309 same instance of fetchmail) see the <a
 310 href="http://www.tuxedo.org/~esr/fetchmail/design-notes.html">design notes</a>.<p>
 311
 312 Fetchmail is a mature project, no longer in constant active
 313 development.  It is no longer my top project, and I am going to be
 314 quite reluctant to add features that might either jeopardize its
 315 stability or involve me in large amounts of coding.<p>
 316
 317 All that said, if you have a feature idea that really is about a transport
 318 problem that can't be handled anywhere but fetchmail, lay it on me.  I'm
 319 very accommodating about good ideas.<p>
 320
 321 <hr>
 322 <h2><a name="G5">G5. Is there a mailing list for exchanging tips?</a></h2>
 323
 324 There is a fetchmail-friends list for people who want to discuss fixes
 325 and improvements in fetchmail and help co-develop it.  It's a MailMan
 326 list, which you can sign up for at <a
 327 <a href="http://lists.ccil.org/mailman/listinfo/fetchmail-friends">fetchmail-friends@lists.ccil.org</a>.
 328 There is also an announcements-only list, <a href="http://lists.ccil.org/mailman/listinfo/fetchmail-announce">fetchmail-announce@lists.ccil.org</em>.<P>
 329
 330
 331 <hr>
 332 <h2><a name="G6">G6. So, what's this I hear about a fetchmail paper?</a></h2>
 333
 334 The fetchmail development was also a sociological experiment, an
 335 extended test to see if my theory about the critical features of the
 336 Linux development model is correct.<p>
 337
 338 The experiment was a success.  I wrote a paper about it titled <a
 339 href="http://www.tuxedo.org/~esr/writings/cathedral.html">The
 340 Cathedral and the Bazaar</a> which was first presented at Linux
 341 Kongress '97 in Bavaria and very well received there. It was also
 342 given at Atlanta Linux Expo, Linux Pro '97 in Warsaw, and the first
 343 Perl Conference, at UniForum '98, and was the basis of an invited
 344 presentation at Usenix '98.  The folks at Netscape tell me it helped
 345 them decide to <a
 346 href="http://www.netscape.com/newsref/pr/newsrelease558.html"> give
 347 away the source for Netscape Communicator</a>.<p>
 348
 349 If you're reading a non-HTML dump of this FAQ, you can find the paper
 350 on the Web with a search for that title.<p>
 351
 352 <hr>
 353 <h2><a name="G7">G7. What is the best server to use with fetchmail?</a></h2>
 354
 355 The short answer: IMAP4rev1 running over Unix.<P>
 356
 357 Here's a longer answer: <P>
 358
 359 Fetchmail will work with any POP, IMAP, ETRN, or ODMR server that
 360 conforms to the relevant RFCs (and even some outright broken ones like
 361 <a href="#S2">Microsoft Exchange</a> and <a href="#S12">Novell
 362 GroupWise</a>).  This doesn't mean it works equally well with all,
 363 however.  POP2 servers, and POP3 servers without LAST, limit
 364 fetchmail's capabilities in various ways described on the manual
 365 page.<P>
 366
 367 Most modern Unixes (and effectively all Linux/*BSD systems) come with
 368 POP3 support preconfigured (but beware of the horribly broken POP3
 369 server mentioned in <a href="#D2">D2</a>).  An increasing minority
 370 also feature IMAP (you can detect IMAP support by running fetchmail in
 371 AUTO mode, or by using the `Probe for supported protocols' function in
 372 the fetchmailconf utility).<P>
 373
 374 If you have the option, we recommend using or installing an IMAP4rev1
 375 server; it has the best facilities for tracking message `seen' states.
 376 It also recovers from interrupted connections more gracefully than
 377 POP3, and enables some significant performance optimizations.<P>
 378
 379 Don't be fooled by NT/Exchange propaganda.  M$ Exchange is just plain
 380 broken (see item <a href="#S2">S2</a>) and NT cannot handle the
 381 sustained load of a high-volume remote mail server.  Even Microsoft
 382 itself knows better than to try this; their own Hotmail service runs
 383 over Solaris!  For extended discussion, see John Kirch's excellent <a
 384 href="http://unix-vs-nt.org/kirch/">white paper</a> on Unix
 385 vs. NT performance.<P>
 386
 387 You can find sources for IMAP software at <a
 388 href="http://www.imap.org">The IMAP Connection</a>; we like the
 389 open-source <a href="ftp://ftp.cac.washington.edu/imap/">UW IMAP</a>
 390 server, which is the reference implementation of IMAP.  UW IMAP's
 391 support for GSSAPI gives you a good way to authenticate without
 392 sending a password en clair.<P>
 393
 394 Source for a high-quality supported implementation of POP is available
 395 from the <a href="ftp://ftp.qualcomm.com/eudora/servers/unix/popper/">Eudora
 396 FTP site</a>.  Don't use 2.5, which has a rather restrictive license.
 397 The 2.5.2 version appears to restore the open-source license of
 398 previous versions.<P>
 399
 400 <hr>
 401 <h2><a name="G8">G8. What is the best mail program to use with fetchmail?</a></h2>
 402
 403 Fetchmail will work with all popular <a href="#T1">mail transport programs</a>.
 404 It also doesn't care which user agent you use, and user agents are as a
 405 rule almost equally indifferent to how mail is delivered into your system
 406 mailbox.  So any of the popular Unix mail agents --
 407 <a href="http://www.myxa.com/old/elm.html">elm</a>,
 408 <a href="http://www.washington.edu/pine/">pine</a>
 409 <a href="http://www.cs.indiana.edu/docproject/mail/mh.html">mh</a>,
 410 or <a href="http://www.mutt.org">mutt</a>
 411 -- will work fine with fetchmail.<p>
 412
 413 All this having been said, I can't resist putting in a discreet plug
 414 for <a href="http://www.mutt.org">mutt</a>.  My own personal mail
 415 setup is sendmail plus fetchmail plus mutt.  Mutt's interface is only
 416 a little different from that of its now-moribund ancestor elm, but its
 417 excellent handling of MIME and PGP put it in a class by itself.  You
 418 won't need its built-in POP3 support, though; most of the mutt
 419 developers will cheerfully admit that fetchmail's is better :-).<p>
 420
 421 <hr>
 422 <h2><a name="G9">G9. How can I avoid sending my password en clair?</a></h2>
 423
 424 Depending on what your mail server you are talking to, this ranges
 425 from trivial to impossible.  It may even be next to useless.<P>
 426
 427 Most people use fetchmail over phone wires, which are hard to tap.
 428 Anybody with the skill and resources to do this could get into your
 429 server mailbox with much less effort by subverting the server host.
 430 So if your provider setup is modem wires going straight into a service
 431 box, you probably don't need to worry.<P>
 432
 433 In general there is little point in trying to secure your fetchmail
 434 transaction unless you trust the security of the server host you are
 435 retrieving mail from.  Your vulnerability is more likely to be an
 436 insecure local network on the server end (e.g. to somebody with a TCP/IP
 437 packet sniffer intercepting Ethernet traffic between the modem
 438 concentrator you dial in to and the mailserver host).<P>
 439
 440 Having realized this, you need to ask whether password encryption
 441 alone will really address your security exposure.  If you think you
 442 might be snooped between server and client, it's better to use
 443 end-to-end encryption on your whole mail stream so none of it can be
 444 read.  One of the advantages of fetchmail over conventional SMTP-push
 445 delivery is that you may be able to arrange this by using ssh(1); see
 446 <a href="#K3">K3</a>.<P>
 447
 448 Note that ssh is not a complete privacy solution either, as your mail
 449 could have been snooped in transit to your POP server from wherever it
 450 originated.  For best security, agree with your correspondents to use
 451 a tool such as <a href="http://www.gnupg.org/">GPG</a> (Gnu Privacy
 452 Guard) or PGP (Pretty Good Privacy).<P>
 453
 454 If ssh/sshd isn't available, or you find it too complicated for you to
 455 set up, password encryption will at least keep a malicious cracker
 456 from deleting your mail, and require him to either tap your connection
 457 continuously or crack root on the server in order to read it.<P>
 458
 459 You can deduce what encryptions your mail server has available
 460 by looking at the server greeting line (and, for IMAP, the
 461 response to a CAPABILITY query).  Do a <code>fetchmail -v</code>
 462 to see these, or telnet direct to the server port (110 for POP3, 143 for
 463 IMAP).<P>
 464
 465 The facility you are most likely to have available is APOP.  This is a
 466 POP3 feature supported by many servers (fetchmailconf's autoprobe
 467 facility will detect it and tell you if you have it).  If you see
 468 something in the greeting line that looks like an
 469 angle-bracket-enclosed Internet address with a numeric left-hand part,
 470 that's an APOP challenge (it will vary each time you log in).  You can
 471 register a secret on the host (using <code>popauth(8)</code> or some
 472 program like it).  Specify the secret as your password in your
 473 .fetchmailrc; it will be used to encrypt the current challenge, and
 474 the encrypted form will be sent back the the server for
 475 verification.<P>
 476
 477 Alternatively, you may have Kerberos available. This may require you
 478 to set up some magic files in your home directory on your client
 479 machine, but means you can omit specifying any password at all.<P>
 480
 481 Fetchmail supports two different Kerberos schemes.  One is a
 482 POP3 variant called KPOP; consult the documentation of your mail
 483 server to see if you have it (one clue is the string "krb-IV" in the
 484 greeting line on port 110).  The other is an IMAP facility described
 485 by RFC1731. You can tell if this one is present by looking for
 486 AUTH=KERBEROS_V4 in the CAPABILITY response.<P>
 487
 488 If you are fetching mail from a CompuServe POP3 account, you can use
 489 their RPA authentication (which works much like APOP).  See <a
 490 href="#S3">S3</a> for details.  If you are fetching mail from
 491 Microsoft Exchange, you will be able to use NTLM.<P>
 492
 493 Your POP3 server may have the RFC1938 OTP capability to use one-time
 494 passwords (if it doesn't, you can get OTP patches for the 2.2 version
 495 of the Qualcomm popper from <a href="#cmetz">Craig Metz</a>). To check
 496 this, look for the string "otp-" in the greeting line.  If you see it,
 497 and your fetchmail was built with OPIE support compiled in (see the
 498 distribution INSTALL file), fetchmail will detect it also.  When using
 499 OTP, you will specify a password but it will not be sent en clair.<P>
 500
 501 Sadly, there is at present (September 1999) no OTP or APOP-like
 502 facility generally available on IMAP servers.  However, there do exist
 503 patches which will OTP-enable the University of Washington IMAP
 504 daemon, version 4.2-FINAL.  We have a report that the GSSAPI support
 505 in fetchmail works with the GSSAPI support in the most recent version
 506 of UW IMAP.  Or you can use <a href="#K5">SSL</a> for complete
 507 end-to-end encryption if you have an SSL-enabled mailserver.<P>
 508
 509 You can get both POP3 and IMAP OTP patches from <a name="cmetz">Craig
 510 Metz</A> at <a
 511 href="http://www.inner.net/pub/">http://www.inner.net/pub/</a>.<P>
 512 These patches use a SASL authentication method named "X-OTP" because
 513 there is not currently a standard way to do this; fetchmail also uses
 514 this method, so the two will interoperate happily.  They better,
 515 because this is how Craig gets his mail ;-)<P>
 516
 517 <hr>
 518 <h2><a name="G10">G10. Is any special configuration needed to use a dynamic IP address?</a></h2>
 519
 520 Yes. In order to avoid giving indigestion to certain picky MTAs
 521 (notably <a href="#T3">exim</a>), fetchmail always makes the RCPT TO
 522 address it feeds the MTA a fully qualified one with a hostname part.
 523 Normally it does this by appending @ and "localhost", but when you are
 524 using Kerberos or ETRN mode it will append @ and your machine's
 525 fully-qualified domain name (FQDN).<P>
 526
 527 Appending the FQDN can create problems when fetchmail is running in daemon
 528 mode and outlasts the dynamic IP address assignment your client
 529 machine had when it started up.<P>
 530
 531 Since the new IP address (looked up at RCPT TO interpretation time)
 532 doesn't match the original, the most benign possible result is that
 533 your MTA thinks it's seeing a relaying attempt and refuses.  More
 534 frequently, fetchmail will try to connect to a nonexistent host
 535 address and time out.  Worst case, you could up forwarding your mail
 536 to the wrong machine!<P>
 537
 538 Use the <code>smtpaddress</code> option to force the appended hostname
 539 to one with a (fixed) IP address of 127.0.0.1 in your
 540 <code>/etc/hosts</code>.  (The name `localhost' will usually work; or
 541 you can use the IP address itself).<P>
 542
 543 Only one fetchmail option interacts directly with your IP address,
 544 `<code>interface</code>'.  This option can be used to set the gateway
 545 device and restrict the IP address range fetchmail will use. Such a
 546 restriction is sometimes useful for security reasons, especially on
 547 multihomed sites.  See <a href="#C3">C3</a>.<P>
 548
 549 I recommend against trying to set up the <code>interface</code> option
 550 when initially developing your poll configuration -- it's never
 551 necessary to do this just to get a link working.  Get the link working
 552 first, observe the actual address range you see on connections, and
 553 add an <code>interface</code> option (if you need one) later.<P>
 554
 555 You can't use ETRN if you have a dynamic IP address (your ISP changes
 556 your IP address occasionally, possibly with every connect).  You need
 557 to have your own registered domain and a definite IP address
 558 registered for that domain.  The server needs to be configured to
 559 accept mail for your domain but then queue it to forward to your
 560 machine.  ETRN just tells to server to flush its queue for your
 561 domain.  Fetchmail doesn't actually get the mail in that case.<p>
 562
 563 You can use On-Demand Mail Relay (ODMR) with a dynamic IP address;
 564 that's what it was designed for, and it provides capabilities very
 565 similar to ETRN.  Unfortunately ODMR servers are not yet widely
 566 deployed, as of early 2001.<p>
 567
 568 If you're using a dynamic-IP configuration, one other (non-fetchmail)
 569 problem you may run into with outgoing mail is that some sites will
 570 bounce your email because the hostname your giving them isn't real
 571 (and doesn't match what they get doing a reverse DNS on your
 572 dynamically-assigned IP address).  If this happens, you need to hack
 573 your sendmail so it masquerades as your host.  Setting<P>
 574
 575 <pre>
 576 DMsmarthost.here
 577 </pre>
 578
 579 in your <code>sendmail.cf</code> will work, or you can set<P>
 580
 581 <pre>
 582 MASQUERADE_AS(smarthost.here)
 583 </pre>
 584
 585 in the m4 configuration and do a reconfigure.  (In both cases, replace
 586 <code>smarthost.here</code> with the actual name of your mailhost.)
 587 See the <a href="http://www.lege.com/sendmail-FAQ.txt">sendmail
 588 FAQ</a> for more details.<P>
 589
 590 <hr>
 591 <h2><a name="G11">G11. Is any special configuration needed to use firewalls?</a></h2>
 592
 593 No.  You can use fetchmail with SOCKS, the standard tool for
 594 indirecting TCP/IP through a firewall.  You can find out about SOCKS,
 595 and download the SOCKS software including server and client code, at
 596 the <a href="http://www.socks.nec.com/">SOCKS distribution
 597 site</a>.<P>
 598
 599 The specific recipe for using fetchmail with a firewall is at <a
 600 href="#K1">K1</a><P>
 601
 602 <hr>
 603 <h2><a name="G12">G12. Is any special configuration needed to <em>send</em> mail?</a></h2>
 604
 605 A user asks: but how do we send mail out to the POP3 server? Do I need
 606 to implement another tool or will fetchmail do this too?<p>
 607
 608 Fetchmail only handles the receiving side.  The sendmail or other
 609 preinstalled MTA on your client machine will handle sending mail
 610 automatically; it will ship mail that is submitted while the
 611 connection is active, and put mail that is submitted while
 612 the connection is inactive into the outgoing queue.<P>
 613
 614 Normally, sendmail is also run periodically (every 15 minutes on most
 615 Linux systems) in a mode that tries to ship all the mail in the
 616 outgoing queue.  If you have set up something like pppd to
 617 automatically dial out when your kernel is called to open a TCP/IP
 618 connection, this will ensure that the mail gets out.<P>
 619
 620 <hr>
 621 <h2><a name="G13">G13. Is fetchmail Y2K-compliant?</a></h2>
 622
 623 Fetchmail is fully Y2K-compliant.<P>
 624
 625 Fetchmail could theoretically have problems when the 32-bit time_t
 626 counters roll over in 2038, but I doubt it.  Timestamps aren't used
 627 for anything but log entry generation.  Anyway, if you aren't running
 628 on a 64-bit machine by then, you'll deserve to lose.<P>
 629
 630 <hr>
 631 <h2><a name="G14">G14. Is there a way in fetchmail to support disconnected IMAP mode?</a></H2>
 632
 633 No. Fetchmail is a mail transport agent, best understood as a protocol
 634 gateway between POP3/IMAP servers and SMTP.  Disconnected operation
 635 requires an elaborate interactive client.  It's a very different problem.<p>
 636
 637 <hr>
 638 <h2><a name="G15">G15. How will fetchmail perform under heavy loads?</a></h2>
 639
 640 Fetchmail streams message bodies line-by-line; the most core it
 641 ever requires per message is enough memory to hold the RFC822 header, and
 642 that storage is freed when body processing begins. It is, accordingly,
 643 quite economical in its use of memory.<p>
 644
 645 After startup time, a fetchmail running in daemon mode stats its
 646 configuration file once per poll cycle to see whether it has changed
 647 and should be rescanned.  Other than that, a fetchmail in normal
 648 operation doesn't touch the disk at all; that job is left up to the
 649 MTA or MDA the fetchmail talks to.<p>
 650
 651 Fetchmail's performance is usually bottlenecked by latency on the POP
 652 server or (less often) on the TCP/IP link to the server.  This is not
 653 a problem readily solved by tuning fetchmail, or even by buying more
 654 TCP/IP capacity (which tends to improve bandwidth but not necessarily
 655 latency).<p>
 656
 657 <hr>
 658 <h2><a name="B1">B1. Lex bombs out while building the fetchmail lexer.</a></h2>
 659
 660 In the immortal words of Alan Cox the last time this came up: ``Take
 661 the Solaris lex and stick it up the backside of a passing Sun
 662 salesman, then install <a
 663 href="ftp://ftp.gnu.org/pub/non-gnu/flex/">flex</a> and use that.  All
 664 will be happier.''<P>
 665
 666 I couldn't have put it better myself, and ain't going to try now.<P>
 667
 668 (The same problem has been reported under HP-UX v10.20 and IRIX)<P>
 669
 670 <hr>
 671 <h2><a name="B2">B2. I get link failures when I try to build fetchmail.</a></h2>
 672
 673 If you get errors resembling these<P>
 674
 675 <pre>
 676 mxget.o(.text+0x35): undefined referenceto `__res_search'
 677 mxget.o(.text+0x99): undefined reference to`__dn_skipname'
 678 mxget.o(.text+0x11c): undefined reference to`__dn_expand'
 679 mxget.o(.text+0x187): undefined reference to`__dn_expand'
 680 make: *** [fetchmail] Error 1
 681 </pre>
 682
 683 then you must add "-lresolv" to the LOADLIBS line in your Makefile
 684 once you have installed the `bind' package.<P>
 685
 686 <hr>
 687 <h2><a name="F1">F1. Why does my old .fetchmailrc file no longer work?</a></h2>
 688
 689 <h3>If your file predates 5.1.0</h3>
 690
 691 In 5.1.0, the <tt>auth</tt> keyword and option were changed to
 692 <tt>preauth</tt>.<p>
 693
 694 <h3>If your file predates 4.5.5</h3>
 695
 696 If the <code>dns</code> option is on (the default), you may need to
 697 make sure that any hostname you specify (for mail hosts or for an SMTP
 698 target) is a canonical fully-qualified hostname).  In order to avoid
 699 DNS overhead and complications, fetchmail no longer tries to derive
 700 the fetchmail client machine's canonical DNS name at startup.<P>
 701
 702 <h3>If your file predates 4.0.6:</h3>
 703
 704 Just after the `<CODE>via</CODE>' option was introduced, I realized
 705 that the interactions between the `<CODE>via</CODE>',
 706 `<CODE>aka</CODE>', and `<CODE>localdomains</CODE>' options were out
 707 of control.  Their behavior had become complex and confusing, so much so
 708 that I was no longer sure I understood it myself.  Users were being
 709 unpleasantly surprised.<P>
 710
 711 Rather than add more options or crock the code, I re-thought it.  The
 712 redesign simplified the code and made the options more orthogonal, but
 713 may have broken some complex multidrop configurations.
 714
 715 Any multidrop configurations that depended on the name just after the
 716 `<CODE>poll</CODE>' or `<CODE>skip</CODE>' keyword being still
 717 interpreted as a DNS name for address-matching purposes, even in the
 718 presence of a `<CODE>via</CODE>' option, will break.<P>
 719
 720 It is theoretically possible that other unusual configurations (such
 721 as those using a non-FQDN poll name to generate Kerberos IV tickets) might
 722 also break; the old behavior was sufficiently murky that we can't be
 723 sure.  If you think this has happened to you, contact the maintainer.<P>
 724
 725 <h3>If your file predates 3.9.5:</h3>
 726
 727 The `<code>remote</code>' keyword has been changed to `<code>folder</code>'.
 728 If you try to use the old keyword, the parser will utter a warning.<P>
 729
 730 <h3>If your file predates 3.9:</h3>
 731
 732 It could be because you're using a .fetchmailrc that's written in the
 733 old popclient syntax without an explicit `<CODE>username</CODE>'
 734 keyword leading the first user entry attached to a server entry.
 735
 736 This error can be triggered by having a user option such as `<CODE>keep</CODE>'
 737 or `<CODE>fetchall</CODE>' before the first explicit username.  For
 738 example, if you write<p>
 739
 740 <pre>
 741 poll openmail protocol pop3
 742         keep user "Hal DeVore" there is hdevore here
 743 </pre>
 744
 745 the `<CODE>keep</CODE>' option will generate an entire user entry with
 746 the default username (the name of fetchmail's invoking user).<p>
 747
 748 The popclient compatibility syntax was removed in 4.0.  It complicated
 749 the configuration file grammar and confused users.<p>
 750
 751 <h3>If your file predates 2.8:</h3>
 752
 753 The `<CODE>interface</CODE>', `<CODE>monitor</CODE>' and
 754 `<CODE>batchlimit</CODE>' options changed after 2.8.<p>
 755
 756 They used to be global options with `<CODE>set</CODE>' syntax like the
 757 batchlimit and logfile options.  Now they're per-server options, like
 758 `<CODE>protocol</CODE>'.<p>
 759
 760 If you had something like<p>
 761
 762 <pre>
 763         set interface = "sl0/10.0.2.15"
 764 </pre>
 765
 766 in your .fetchmailrc file, simply delete that line and insert
 767 `interface sl0/10.0.2.15' in the server options part of your `defaults'
 768 declaration.<p>
 769
 770 Do similarly for any `<CODE>monitor</CODE>' or `<CODE>batchlimit</CODE>' options.<p>
 771
 772 <hr>
 773 <h2><a name="F2">F2. The .fetchmailrc parser won't accept my all-numeric user name.</a></h2>
 774
 775 Either upgrade to a post-5.0.5 fetchmail or put string quotes around it. :-)<p>
 776
 777 The configuration file parser in older fetchmail versions treated any
 778 all-numeric token as a number, which confused it when it was
 779 expecting a name.  String quoting forces the token's class.<p>
 780
 781 The lexical analyzer in 5.0.6 and beyond is smarter and assumes
 782 any token following "username" or "password" is a string.
 783
 784 <hr>
 785 <h2><a name="F3">F3. The .fetchmailrc parser won't accept my host or username beginning with `no'.</a></h2>
 786
 787 See <a href="#F2">F2</a> You're caught in an unfortunate crack between
 788 the newer-style syntax for negated options (`no keep', `no rewrite'
 789 etc.) and the older style run-on syntax (`nokeep', `norewrite'
 790 etc.).<p>
 791
 792 Upgrade to a 5.0.6 or later fetchmail, or put string quotes around your
 793 token.<p>
 794
 795 <hr>
 796 <h2><a name="F4">F4. I'm getting a `parse error' message I don't understand.</a></h2>
 797
 798 The most common cause of mysterious parse errors is putting a server
 799 option after a user option.  Check the manual page; you'll probably
 800 find that by moving one or more options closer to the `poll' keyword
 801 you can eliminate the problem.<p>
 802
 803 Yes, I know these ordering restrictions are hard to understand.
 804 Unfortunately, they're necessary in order to allow the `defaults'
 805 feature to work.<P>
 806
 807 <hr>
 808 <h2><a name="C1">C1. Why do I need a .fetchmailrc when running as root on my own machine?</a></h2>
 809
 810 Ian T. Zimmerman &lt;itz@rahul.net&gt; asked:<p>
 811
 812 On the machine where I'm the only real user, I run fetchmail as root
 813 from a cron job, like this:<p>
 814
 815 <pre>
 816     fetchmail -u "itz" -p POP3 -s bolero.rahul.net
 817 </pre>
 818
 819 This used to work as is (with no .fetchmailrc file in root's home
 820 directory) with the last version I had (1.7 or 1.8, I don't
 821 remember).  But with 2.0, it RECPs all mail to the local root user,
 822 unless I create a .fetchmailrc in root's home directory containing:<p>
 823
 824 <pre>
 825      skip bolero.rahul.net proto POP3
 826           user itz is itz
 827 </pre>
 828
 829 It won't work if the second line is just "<CODE>user itz</CODE>".  This is silly.<p>
 830
 831 It seems fetchmail decides to RECP the `default local user' (i.e. the
 832 uid running fetchmail) unless there are local aliases, and the
 833 `default' aliases (itz-&gt;itz) don't count.  They should.<p>
 834
 835 Answer:<p>
 836
 837 No they shouldn't.   I thought about this for a while, and I don't much
 838 like the conclusion I reached, but it's unavoidable.  The problem is
 839 that fetchmail has no way to know, in general, that a local user `itz'
 840 actually exists.<p>
 841
 842 "Ah!" you say, "Why doesn't it check the password file to see if the remote
 843 name matches a local one?"  Well, there are two reasons.<p>
 844
 845 One: it's not always possible.  Suppose you have an SMTP host declared
 846 that's not the machine fetchmail is running on?  You lose.<p>
 847
 848 Two: How do you know server itz and SMTP-host itz are the same person?
 849 They might not be, and fetchmail shouldn't assume they are unless
 850 local-itz can explicitly produce credentials to prove it (that is, the
 851 server-itz password in local-itz's .fetchmailrc file.).<p>
 852
 853 Once you start running down possible failure modes and thinking about
 854 ways to tinker with the mapping rules, you'll quickly find that all the
 855 alternatives to the present default are worse or unacceptably
 856 more complicated or both.<p>
 857
 858 <hr>
 859 <h2><a name="C2">C2. How can I arrange for a fetchmail daemon to get killed when I log out?</a></h2>
 860
 861 The easiest way to dispatch fetchmail on logout (which will work
 862 reliably only if you have just one login going at any time) is to
 863 arrange for the command `fetchmail -q' to be called on logout.  Under
 864 bash, you can arrange this by putting `fetchmail -q' in the file
 865 `~/.bash_logout'.  Most csh variants execute `~/.logout' on logout.
 866 For other shells, consult your shell manual page.<p>
 867
 868 Automatic startup/shutdown of fetchmail is a little harder to arrange
 869 if you may have multiple login sessions going.  In the contrib
 870 subdirectory of the fetchmail distribution there is some shell code
 871 you can add to your .bash_login and .bash_logout profiles that will
 872 accomplish this.  Thank James Laferriere &lt;babydr@nwrain.net&gt; for
 873 it.<p>
 874
 875 Some people start up and shut down fetchmail using the ppp-up and
 876 ppp-down scripts of pppd.<p>
 877
 878 <hr>
 879 <h2><a name="C3">C3. How do I know what interface and address to use with --interface?</a></h2>
 880
 881 This depends a lot on your local networking configuration (and right
 882 now you can't use it at all except under Linux and the newer BSDs).  However,
 883 here are some important rules of thumb that can help.  If they don't
 884 work, ask your local sysop or your Internet provider.<p>
 885
 886 First, you may not need to use --interface at all.  If your machine
 887 only ever does SLIP or PPP to one provider, it's almost certainly by a
 888 point to point modem connection to your provider's local subnet that's
 889 pretty secure against snooping (unless someone can tap your phone or
 890 the provider's local subnet!).  Under these circumstances, specifying
 891 an interface address is fairly pointless.<p>
 892
 893 What the option is really for is sites that use more than one
 894 provider.  Under these circumstances, typically one of your provider
 895 IP addresses is your mailserver (reachable fairly securely via the
 896 modem and provider's subnet) but the others might ship your packets
 897 (including your password) over unknown portions of the general
 898 Internet that could be vulnerable to snooping.  What you'll use
 899 --interface for is to make sure your password only goes over the
 900 one secure link.<p>
 901
 902 To determine the device:<p>
 903
 904 <ol>
 905 <li> If you're using a SLIP link, the correct device is probably sl0.
 906 <li> If you're using a PPP link, the correct device is probably ppp0.
 907 <li> If you're using a direct connection over a local network such as
 908      an ethernet, use the command `netstat -r' to look at your routing table.
 909      Try to match your mailserver name to a destination entry; if you don't
 910      see it in the first column, use the `default' entry.  The device name
 911      will be in the rightmost column.
 912 </ol>
 913
 914 To determine the address and netmask:<p>
 915
 916 <ol>
 917 <li> If you're talking to slirp, the correct address is probably 10.0.2.15,
 918      with no netmask specified.  (It's possible to configure slirp to present
 919      other addresses, but that's the default.)
 920
 921 <li> If you have a static IP address, run `ifconfig &lt;device&gt;', where &lt;device&gt;
 922      is whichever one you've determined.  Use the IP address given after
 923      "inet addr:".  That is the IP address for your end of the link, and is
 924      what you need.  You won't need to specify a netmask.
 925
 926 <li> If you have a dynamic IP address, your connection IP will vary randomly
 927      over some given range (that is, some number of the least significant bits
 928      change from connection to connection).  You need to declare an address
 929      with the variable bits zero and a complementary netmask that sets
 930      the range.
 931 </ol>
 932
 933 To illustrate the rule for dynamic IP addresses, let's suppose you're
 934 hooked up via SLIP and your IP provider tells you that the dynamic
 935 address pool is 255 addresses ranging from 205.164.136.1 to
 936 205.164.136.255.  Then<p>
 937
 938 <pre>
 939         interface "sl0/205.164.136.0/255.255.255.0"
 940 </pre>
 941
 942 would work.  To range over any value of the last two octets
 943 (65536 addresses) you would use<p>
 944
 945 <pre>
 946         interface "sl0/205.164.0.0/255.255.0.0"
 947 </pre>
 948
 949 <hr>
 950 <h2><a name="C4">C4. How can I set up support for sendmail's anti-spam features?</a></h2>
 951
 952 This answer covers versions of sendmail from 8.8.7 (the version
 953 installed in Red Hat 5.1) upwards.  If you have an older version,
 954 upgrade to sendmail 8.9.<P>
 955
 956 Stock sendmails can now do anti-spam exclusions based on a database of
 957 filter rules.  The human-readable form of the database is at
 958 <tt>/etc/mail/deny</tt>. The database itself is at
 959 <tt>/etc/mail/deny.db</tt>.<P>
 960
 961 The table itself uses email addresses, domain names, and network
 962 numbers as keys.  For example,</P>
 963 <PRE>
 964 spammer@aol.com         REJECT
 965 cyberspammer.com        REJECT
 966 192.168.212             REJECT
 967 </PRE>
 968 <P>would refuse mail from spammer@aol.com, any user from
 969 cyberspammer.com (or any host within the cyberspammer.com domain), and
 970 any host on the 192.168.212.* network.  (This feature can be used to
 971 do other things as well; see the <a
 972 href="http://www.sendmail.org/m4/anti-spam.html">sendmail
 973 documentation</a> for details)</P>
 974
 975 To actually set up the database, run
 976
 977 <pre>
 978 makemap hash deny &lt;deny
 979 </pre>
 980 in /etc/mail.<P>
 981
 982 To test, send a message to your mailing address from that host and
 983 then pop off the message with fetchmail, using the -v argument.  You
 984 can monitor the SMTP transaction, and when the FROM address is parsed,
 985 if sendmail sees that it is an address in spamlist, fetchmail will
 986 flush and delete it.<p>
 987
 988 Under no circumstances put your <strong>mailhost</strong> or <strong>any host
 989 you accept mail from</strong> using fetchmail into your reject file.  You
 990 <strong>will</strong> lose mail if you do this!!!<p>
 991
 992 <hr>
 993 <h2><a name="C5">C5. How can I poll some of my mailboxes more/less
 994 often than others?</a></h2>
 995
 996 Use the <cite>interval</cite> keyword on the ones that should be
 997 checked less often.  For example, if you do a poll every 5 minutes,
 998 and want to poll some mailboxes every 5 minutes and some every 30
 999 minutes, use something like this:<p>
1000
1001 <pre>
1002 poll mainsite.example.com  proto pop3 user ....
1003 poll secondary.example.com proto pop3 interval 6 user ...
1004 </pre>
1005
1006 Then secondary.example.com will be polled every 6th time that
1007 mainsite.example.com is polled, which with a polling interval of every
1008 5 minutes means that secondary.example.com will be polled every 30
1009 minutes.<p>
1010
1011 <hr>
1012 <h2><a name="C6">Fetchmail works OK started up manually, but not from an init script.</a></h2>
1013
1014 Often, startup scripts have a different environment than an interactive
1015 login shell.  For instance, $HOME might point to "/root" when you are
1016 logged in as root, but it might be either unset, or set to "/" when the
1017 startup scripts are running.  That means fetchmail at startup can't find
1018 the .fetchmailrc.<p>
1019
1020 Pick a location (such as /etc/fetchmailrc) and use fetchmail's -f
1021 option to point fetchmail at it.  That should solve the problem.<p>
1022
1023 <hr>
1024 <h2><a name="C7">C7. How can I forward mail to another host?</a></h2>
1025
1026 To forward mail to a host other than the one you are running fetchmail
1027 on, use the <code>smtphost</code> or <code>smtpname</code> option.
1028 See the manual page for details.<p>
1029
1030 <hr>
1031 <h2><a name="T1">T1. How can I use fetchmail with sendmail?</a></h2>
1032
1033 For most sendmails, no special configuration is required.  Eric Allman
1034 tells me that if <code>FEATURE(always_add_domain)</code> is included
1035 in sendmail's configuration, you can leave the <code>rewrite</code>
1036 option off.<P>
1037
1038 If your sendmail complains ``sendmail does not relay'',  make sure
1039 your sendmail.cf file says <code>Cwlocalhost</code>
1040 so that sendmail recognizes `localhost' as a name of its host.<p>
1041
1042 If you're mailing from another machine on your local network, also
1043 ensure that its IP address is listed in ip_allow or name in name_allow
1044 (usually in /etc/mail/)<p>
1045
1046 If you find that your sendmail doesn't like the address
1047 `FETCHMAIL-DAEMON@localhost' (which is used in the bouncemail
1048 that fetchmail generates), you may have to set
1049 <code>FEATURE(accept_unqualified_senders)</code>.<P>
1050
1051 G&uuml;nther Leber reports that Digital Unix sendmails won't work with
1052 fetchmail.  The symptom is an error message "<code>553 Local configuration
1053 error, hostname not recognized as local</code>". The problem is that
1054 fetchmail normally feeds sendmail with the client machine's host
1055 address in the MAIL FROM line.  These sendmails think this means
1056 they're seeing the result of a mail loop and suppress the mail.  You
1057 may be able to work around this by running in <code>--invisible</code> mode.<P>
1058
1059 If you want to support multidrop mode, and you can get access to your
1060 mailserver's sendmail.cf file, it's a good idea to add this rule:<P>
1061
1062 <pre>
1063 H?l?Delivered-To: $h
1064 </pre>
1065
1066 This will cause the mailserver's sendmail to reliably write the
1067 appropriate envelope address into each message before fetchmail sees
1068 it, and tell fetchmail which header it is.&nbsp; With this change,
1069 multidrop mode should work reliably even when the Received header
1070 omits the envelope address (which will typically be the case when
1071 the message has multiple recipients).&nbsp; However it will still not
1072 distinguish the recipients, your only advantage is that no bounce
1073 will be sent if a message is BCC addressed to multiple users at
1074 your site.&nbsp; To fix even that problem, you might want to try the
1075 following hack, which is however untested and quite experimental:<P>
1076
1077 <PRE>
1078 H?J?Delivered-To: $u
1079
1080 Mmdrop, P=/usr/bin/procmail, F=lsDFMqSPfhnu9J,
1081         S=EnvFromSMTP/HdrFromSMTP, R=EnvToSMTP/HdrToSMTP,
1082         T=DNS/RFC822/X-Unix,
1083         A=procmail -Y -a $u -d $h
1084 </PRE>
1085
1086 For both hacks, you have to declare `<CODE>envelope "Delivered-To:"</CODE>' on
1087 the fetchmail side, to put the virtual domain (e.g. `domain.com')
1088 with RELAY permission into your access file and to add a line
1089 reading `<CODE>domain.com local:local-pop-user</CODE>' for the first and
1090 `<CODE>domain.com mdrop:local-pop-user</CODE>' for the second hack to your
1091 mailertable.<P>
1092
1093 You will notice that if the mail already has a Delivered-To header,
1094 sendmail will not add another.&nbsp; Further, editing sendmail.cf
1095 directly is not very comfortable.&nbsp; Solutions for both problems
1096 can be found in Peter `Rattacresh' Backes' `hybrid' patch against
1097 sendmail.&nbsp; Have a look at it, you can find it in the contrib
1098 subdirectory.<P>
1099
1100 Feel free to try Martijn Lievaart's detailed recipe in the contrib
1101 subdirectory of the fetchmail source distribution, it attempts
1102 to realize multidrop mailboxes with an external script.<P>
1103
1104 <hr>
1105 <h2><a name="T2">T2. How can I use fetchmail with qmail?</a></h2>
1106
1107 Turn on the <CODE>forcecr</CODE> option; qmail's listener mode doesn't like
1108 header or message lines terminated with bare linefeeds.<p>
1109
1110 (This information is thanks to Robert de Bath
1111 &lt;robert@mayday.cix.co.uk&gt;.)<p>
1112
1113 If a mailhost is using the qmail package (see <a
1114 href="http://pobox.com/~djb/qmail.html">http://pobox.com/~djb/qmail.html</a>)
1115 then, providing the local hosts are also using qmail, it is possible
1116 to set up one fetchmail link to be reliably collect the mail for an
1117 entire domain.<p>
1118
1119 One of the basic features of qmail is the `Delivered-To:' message
1120 header.  Whenever qmail delivers a message to a local mailbox it puts
1121 the username and hostname of the envelope recipient on this line.  The
1122 major reason for this is to prevent mail loops. <p>
1123
1124 To set up qmail to batch mail for a disconnected site the ISP-mailhost
1125 will have normally put that site in its `virtualhosts' control file so
1126 it will add a prefix to all mail addresses for this site. This results
1127 in mail sent to 'username@userhost.userdom.dom.com' having a
1128 'Delivered-To:' line of the form:<p>
1129
1130 <pre>
1131        Delivered-To: mbox-userstr-username@userhost.userdom.dom.com
1132 </pre>
1133
1134 A single host maildrop will be slightly simpler:
1135
1136 <pre>
1137        Delivered-To: mbox-userstr-username@userhost.dom.com
1138 </pre>
1139
1140 The ISP can make the 'mbox-userstr-' prefix anything they choose
1141 but a string matching the user host name is likely.<p>
1142
1143 To use this line you must:<p>
1144
1145 <ol>
1146 <li>Ensure the option `envelope Delivered-To:' is in the fetchmail
1147     config file.
1148
1149 <li>Ensure you have a localdomains containing 'userdom.dom.com' or
1150     `userhost.dom.com' respectively.
1151 </ol>
1152
1153 So far this reliably delivers messages to the correct machine of the
1154 local network, to deliver to the correct user the 'mbox-userstr-'
1155 prefix must be stripped off of the user name. This can be done by
1156 setting up an alias within the qmail MTA on each local machine.
1157 Simply create a dot-qmail file called '.qmail-mbox-userstr-default'
1158 in the alias directory (normally /var/qmail/alias) with the contents:<p>
1159
1160 <pre>
1161       | ../bin/qmail-inject -a -f"$SENDER" "${LOCAL#mbox-userstr-}@$HOST"
1162 </pre>
1163
1164 Note this <em>does</em> require a modern /bin/sh.<p>
1165
1166 Peter Wilson adds: <P>
1167
1168 ``My ISP uses "alias-unzzippedcom-" as the prefix, which means that I
1169 need to name my file ".qmail-unzzippedcom-default". This is due to
1170 qmail's assumption that a message sent to user-xyz is handled by the
1171 file ~user/.qmail-xyz (or ~user/.qmail-default).''<p>
1172
1173 Luca Olivetti adds:<P>
1174
1175 If you aren't using qmail locally, or you don't want to set up the
1176 alias mechanism described above, you can use the option `<code>qvirtual
1177 "mbox-userstr-"</code>' in your fetchmail config file to strip the prefix
1178 from the local user name.<p>
1179
1180 <hr>
1181 <h2><a name="T3">T3. How can I use fetchmail with exim?</a></h2><p>
1182
1183 If you have <CODE>rewrite</CODE> on: <P>
1184
1185 There is an RFC1123 requirement that MAIL FROM and RCPT TO addresses
1186 you pass to it have to be canonical (e.g. with a fully qualified
1187 hostname part).  Therefore fetchmail tries to pass fully qualified
1188 RCPT TO addresses.  But exim does not by default accept `localhost' as
1189 a fully qualified domain.  This can be fixed.<P>
1190
1191 In exim.conf, add `localhost' to your local_domains declaration if it's not
1192 already present.  For example, the author's site at thyrsus.com would
1193 have a line reading:<P>
1194
1195 <pre>
1196        local_domains = thyrsus.com:localhost
1197 </pre>
1198
1199 If you have <CODE>rewrite</CODE> off:<P>
1200
1201 MAIL FROM is a potential problem if the MTAs upstream from your fetchmail
1202 don't necessarily pass canonicalized From and Return-Path addresses,
1203 and fetchmail's <CODE>rewrite</CODE> option is off.  The specific case
1204 where this has come up involves bounce messages generated by sendmail
1205 on your mailer host, which have the (un-canonicalized) origin address
1206 MAILER-DAEMON.<p>
1207
1208 The right way to fix this is to enable the <CODE>rewrite</CODE> option and
1209 have fetchmail canonicalize From and Return-Path addresses with the
1210 mailserver hostname before exim sees them.  This option is enabled by
1211 default, so it won't be off unless you turned it off.<p>
1212
1213 If you must run with <CODE>rewrite</CODE> off, there is a switch in exim's
1214 configuration files that allows it to accept domainless MAIL FROM
1215 addresses; you will have to flip it by putting the line <p>
1216
1217 <pre>
1218         sender_unqualified_hosts = localhost
1219 </pre>
1220
1221 in the main section of the exim configuration file.  Note that this
1222 will result in such messages having an incorrect domain name attached
1223 to their return address (your SMTP listener's hostname rather than
1224 that of the remote mail server). <p>
1225
1226 <hr>
1227 <h2><a name="T4">T4. How can I use fetchmail with smail?</a></h2><p>
1228
1229 Smail 3.2 is very nearly plug-compatible with sendmail, and may work
1230 fine out of the box.<P>
1231
1232 We have one report that when processing multiple messages from a
1233 single fetchmail session, smail sometimes delivers them in an
1234 order other than received-date order.  This can be annoying because it
1235 scrambles conversational threads.  This is not fetchmail's problem,
1236 it is an smail `feature' and has been reported to the maintainers
1237 as a bug.<P>
1238
1239 Very recent smail versions require an <code>-smtp_hello_verify</code>
1240 option in the smail config file.  This overrides smail's check to see
1241 that the HELO address is actually that of the client machine, which
1242 is never going to be the case when fetchmail is in the picture.
1243 According to RFC1123 an SMTP listener <em>must</em> allow this
1244 mismatch, so smail's new behavior (introduced sometime between
1245 3.2.0.90 and 3.2.0.95) is a bug.<P>
1246
1247 <hr>
1248 <h2><a name="T5">T5. How can I use fetchmail with SCO's MMDF?</a></h2><p>
1249
1250 MMDF itself is difficult to configure, but it turns out that
1251 connecting fetchmail to MMDF's SMTP channel isn't that hard.
1252 You can read an <a
1253 href="http://www.aplawrence.com/Unixart/uucptofetch.html">
1254 MMDF recipe</a> that describes replacing a UUCP link with
1255 fetchmail feeding MMDF.<P>
1256
1257 <hr>
1258 <h2><a name="T6">T6. How can I use fetchmail with Lotus Notes?</a></h2><p>
1259
1260 The Lotus Notes SMTP gateway tries to deduce when it should convert \n
1261 to \r\n, but its rules are not the intuitive and correct-for-RFC822
1262 ones.  Use `forcecr'.<P>
1263
1264 <hr>
1265 <h2><a name="S1">S1. How can I use fetchmail with qpopper?</a></h2>
1266
1267 Qualcomm's qpopper is probably the best-of-breed among POP3 servers, and
1268 is very widely deployed.  Nevertheless, it has some problems which
1269 fetchmail exposes.  We recommend using <a href="#G7">IMAP</a> instead if at
1270 all possible.  If you must talk to qpopper, here are some problems to
1271 be aware of:<p>
1272
1273 <h3>Problems with retrieving large messages from qpopper 2.53</h3>
1274
1275 Tony Tang <a href="mailto:tony@atn.com.hk">&lt;tony@atn.com.hk&gt;</a>
1276 reports that there is a bad intercation between fetchmail and qpopper
1277 2.5.3 under Red Hat Linux versions 5.0 to 5.2, kernels 2.0.34 to
1278 2.0.35.  When fetching very large messages (over 700K) from 2.5.3,
1279 fetchmail will hang with a socket error.<p>
1280
1281 This is probably not a fetchmail bug, but rather a symptom of some
1282 problem in the networking stack that qpopper's transmission pattern is
1283 tickling, as fetchpop (another Linux POP client) also displays the hang
1284 but Netscape running under Win95 does not.  The problem can also be
1285 banished by <a
1286 href="http://www.eudora.com/freeware/qpop.html">upgrading to qpopper
1287 3.0b1</a>.<p>
1288
1289 <h3>Bad interaction with fetchmail 4.4.2 to 4.4.7</h3>
1290
1291 Versions of fetchmail from 4.4.2 through 4.4.7 had a bad interaction
1292 with Eudora qpopper versions 2.3 and later.  See <a href="#X5">X5</a>
1293 for details.  The solution is to upgrade your fetchmail.<p>
1294
1295 <hr>
1296 <h2><a name="S2">S2. How can I use fetchmail with Microsoft Exchange?</a></h2>
1297
1298 Fetchmail now supports the proprietary NTLM mode used with M$ Exchange
1299 servers. To enable this, configure fetchmail with the --enable-NTLM
1300 option and recompile it.  Note: if you specify a user option value
1301 that looks like `user@domain', the part to the left of the @ will
1302 be passed as the username and the part to the right as the NTLM domain.<P>
1303
1304 M$ Exchange violates the POP3 RFCs.  Its LIST command does not reveal
1305 the real sizes of mail in the pop mailbox, but the sizes of the
1306 compressed versions in the exchange mail database (thanks to Arjan De
1307 Vet and Guido Van Rooij for alerting us to this problem).<P>
1308
1309 Fetchmail works with M$ Exchange, despite this brain damage.  Two
1310 features are compromised.  One is that the --limit option will not
1311 work right (it will check against compressed and not actual sizes).
1312 The other is that a too-small SIZE argument may be passed to your
1313 ESMTP listener, assuming you're using one (this should not be a
1314 problem unless the actual size of the message is above the listener's
1315 configured length limit).<P>
1316
1317 Somewhat belatedly, I've learned that there's supposed to be a
1318 registry bit that can fix this breakage:<P>
1319
1320 <pre>
1321 HKEY_LOCAL_MACHINE\System\CurrentControlSet\Services\MsExchangeIs\Parameters
1322 System\Pop3 Compatibility
1323 </pre>
1324
1325 This is a bitmask that controls the variations from the standard protocol.
1326 The bits defined are:<P>
1327
1328 <DL>
1329 <DT>0x00000001:
1330 <DD>Report exact message sizes for the LIST command
1331 <DT>0x00000002:
1332 <DD>Allow arbitrary linear whitespace between commands and arguments
1333 <DT>0x00000004:
1334 <DD>Enable the LAST command
1335 <DT>0x00000008:
1336 <DD>Allow an empty PASS command (needed for users with blank
1337 passwords, but illegal in the protocol)
1338 <DT>0x00000010:
1339 <DD>Relax the length restrictions for arguments to commands (protocol
1340 requires 40, but some user names may be longer than that).
1341 <DT>0x00000020:
1342 <DD>Allow spaces in the argument to the USER command.
1343 </DL>
1344
1345 There's another one that may be useful to know about:<P>
1346
1347 <pre>
1348 KEY_LOCAL_MACHINE\System\CurrentControlSet\Services\MsExchangeIs\Parameters
1349 System\Pop3 Performance
1350 </pre>
1351
1352 <DL>
1353 <DT>0x00000001:
1354 <DD>Render messages to a temporary stream instead of sending directly
1355 from the database (should always be on)
1356 <DT>0x00000002:
1357 Flag unrenderable messages (instead of just failing commands)
1358 (should only be on if you are seeing the problems reported
1359 in KB Q168109)
1360 <DT>0x00000004:
1361 <DD>Return from the QUIT command before all messages have been deleted.
1362 </DL>
1363
1364 The Microsoft pod-person who revealed this information to me admitted
1365 that he couldn't find it anywhere in their public knowledge base.<P>
1366
1367 Another specific problem we have seen with Exchange servers has as its
1368 symptom a response to LOGIN that says "NO Ambiguous Alias".  Grant
1369 Edwards writes:
1370
1371 This means that Exchange Server is too f*&#ing stupid to figure
1372 out which mailbox belongs to you.  Instead of actually keeping
1373 track of which inbox belongs to which user, it uses some
1374 half-witted, guess-o-matic heuristic to try to guess your
1375 mailbox name from your username.<p>
1376
1377 In your case it doesn't work because your username maps to more
1378 than one mailbox.  For some people it doesn't work because
1379 their username maps to zero mailboxes.  This is yet another
1380 inept, lame, almost criminally negligent design decision from
1381 our friends in Redmond.<p>
1382
1383 You've got several options:
1384
1385 <ul>
1386 <li>
1387 Try giving fetchmail a username of "/NTDomain/NTUsername/MailboxName".
1388 <li>
1389 Get your administrator to configure the server so that
1390 usernames and mailbox names are the same.
1391 <li>
1392 Get your administrator to add an alias that maps your
1393 username explicitly to your mailbox name.
1394 </ul>
1395
1396 But, the best option involves a tactical nuclear weapon (an old
1397 ASROC will do), pissing off a lot people who live downwind from
1398 Redmond, and your choice of any Linux, NetBSD, FreeBSD, or
1399 Solaris CD.<p>
1400
1401 I'll provide the CD.
1402
1403 <hr>
1404 <h2><a name="S3">S3. How can I use fetchmail with CompuServe RPA?</a></h2>
1405
1406 First, make sure your fetchmail has the RPA support compiled in.
1407 Stock fetchmail binaries (such as you might get from an RPM) don't.
1408 You can check this by looking at the output of <code>fetchmail -V</code>;
1409 if you see the string "+RPA" after the version ID you're good to go,
1410 otherwise you'll have to build your own from sources (see the INSTALL
1411 file in the source distribution for directions).<P>
1412
1413 Give your CompuServe pass-phrase in lower case as your password.  Add
1414 `@compuserve.com' to your user ID so that it looks like `user
1415 &lt;UserID&gt;@compuserve.com', where &lt;UserID&gt; can be either
1416 your numerical userID or your E-mail nickname. An RPA-enabled
1417 fetchmail will automatically check for csi.com in the POP server's
1418 greeting line.  If that's found, and your user ID ends with
1419 `@compuserve.com', it will query the server to see if it
1420 is RPA-capable, and if so do an RPA transaction rather than a
1421 plain-text password handshake.<P>
1422
1423 <strong>Warning:</strong> the debug (-v -v) output of fetchmail will show
1424 your pass-phrase in Unicode!<P>
1425
1426 These two .fetchmailrc entries show the difference between an RPA and
1427 non-RPA configuration:
1428
1429 <pre>
1430 # This version will use RPA
1431 poll csi.com via "pop.site1.csi.com" with proto POP3 and options no dns
1432     user "CSERVE_USER@compuserve.com" there with password "CSERVE_PASSWORD"
1433         is LOCAL_USER here options fetchall stripcr
1434
1435 # This version will not use RPA
1436 poll non-rpa.csi.com via "pop.site1.csi.com" with proto POP3 and options no dns
1437     user "CSERVE_USER" there with password "CSERVE_POP3_PASSWORD"
1438        is LOCAL_USER here options fetchall stripcr
1439 </pre>
1440
1441 <hr>
1442 <h2><a name="S4">S4. How can I use fetchmail with Demon Internet's SDPS?</a></h2>
1443
1444 <h3>Single-drop mode</h3>
1445
1446 You can get fetchmail to download the email for just one user from
1447 Demon Internet's POP3 server by giving it a username consisting of your
1448 Demon user name followed by your account name, with an at-sign between
1449 them.<P>
1450
1451 For example, to download email for the user &lt;philh@vision25.demon.co.uk&gt;,
1452 you could use the following .fetchmailrc file:<P>
1453
1454 <pre>
1455 set postmaster "philh"
1456 poll pop3.demon.co.uk with protocol POP3:
1457     user "philh@vision25" is philh
1458 </pre>
1459
1460 <h3>Multi-drop mode</h3>
1461
1462 Demon Internet's SDPS service is an implementation of POP3. All messages
1463 have a Received: header added when they enter the maildrop, like this:
1464
1465 <pre>
1466    Received: from punt-1.mail.demon.net by mailstore.com for fred@xyz.demon.co.uk
1467              id 899963657:10:27896:0; Thu, 09 Jul 98 05:54:17 GMT
1468 </pre>
1469
1470 To enable multi-drop mode you need to tell fetchmail that 'mailstore.com' is
1471 the name of the host which accepted the mail, and let it know the
1472 hostname part(s) of your E-mail address. The following example assumes
1473 that your hostname is xyz.demon.co.uk, and that you have also bought
1474 "mail forwarding" for the domain my-company.co.uk (in which case your
1475 MTA must also be configured to accept mail sent to user@my-company.co.uk)
1476
1477 <pre>
1478      poll pop3.demon.co.uk proto pop3 aka mailstore.com no dns:
1479        localdomains xyz.demon.co.uk my-company.co.uk
1480        user xyz is * fetchall
1481 </pre>
1482
1483 The `fetchall' command ensures that all mail is downloaded. If you
1484 want to leave mail on the server use `uidl' and `keep'; Demon does not
1485 implement the obsolete `top' command, because SDPS combines messages
1486 residing on two separate punt clusters into a single POP3 maildrop.
1487 If you do use UIDL, be aware that the "user@host" form for fetching
1488 mail from a particular Demon host will confuse fetchmail's UIDL code;
1489 use user+host.<P>
1490
1491 Note that Demon may delete mail on the server which is more than 30
1492 days old; see their <a
1493 href="http://www.demon.net/info/helpdesk/demon_products/mail/sdps-tech.shtml">
1494 POP3 page</a> for details.<P>
1495
1496 <h3>The SDPS extension</h3>
1497
1498 There's a different way to do multidrop.  It's not necessary on Demon
1499 Internet, since fetchmail can parse Received addresses, but the person
1500 who implemented this didn't know that. It may be useful if Demon
1501 Internet ever changes mail transports.<P>
1502
1503 SDPS includes a non-standard extension for retrieving the envelope of a
1504 message (*ENV), which fetchmail optionally supports if compiled with the
1505 --enable-SDPS option. If you have it, the first line of the fetchmail -V
1506 response will include the string "+SDPS".<P>
1507
1508 Once you have SDPS compiled in, fetchmail in POP3 mode will
1509 automatically detect when it's talking to a Demon Internet host in
1510 multidrop mode, and use the *ENV extension to get an envelope To address.<P>
1511
1512 The autodetection works by looking at the hostname in the POP3
1513 greeting line; if you're accessing Demon Internet through a proxy it
1514 may fail. To force SDPS mode, pick "sdps" as your protocol.<P>
1515
1516 <hr>
1517 <h2><a name="S5">S5. How can I use fetchmail with usa.net's servers?</a></h2>
1518
1519 Enable `<CODE>fetchall</CODE>'.  A user reports that the 2.2 version
1520 of USA.NET's POP server reports that you must use the
1521 `<CODE>fetchall</CODE>' option to make sure that all of the mail is
1522 retrieved, otherwise some may be left on the server.  This is almost
1523 certainly a server bug.<P>
1524
1525 The usa.net servers (at least in their 2.2 version, June 1998) don't
1526 handle the TOP command properly, either.  Regardless of the argument
1527 you give it, they retrieve only about 10 lines of the message.
1528 Fetchmail normally uses TOP for message retrieval in order to avoid
1529 marking messages seen, but `<CODE>fetchall</CODE>' forces it to use
1530 RETR instead.<P>
1531
1532 (Note: Other failure modes have been reported on usa.net's servers.
1533 They seem to be chronically flaky.  We recommend finding another
1534 provider.)<P>
1535
1536 <hr>
1537 <h2><a name="S6">S6. How can I use fetchmail with HP OpenMail?</a></h2>
1538
1539 No special configuration is required, but OpenMail versions prior to
1540 6.0 have an annoying bug similar to the big one in <a
1541 href="#S2">Microsoft Exchange</a>.  The message sizes it gives in the
1542 LIST are rounded to the nearest 1024 bytes.  It also has a nasty habit
1543 of discarding headers it doesn't recognize, such as X- and Resent-
1544 headers.<P>
1545
1546 As with M$ Exchange, the only real fix for these problems is to get a
1547 POP (or preferably IMAP) server that isn't brain-dead. OpenMail's
1548 project manager claims these bugs have been fixed in 6.0.<P>
1549
1550 <hr>
1551 <h2><a name="S8">S8. How can I use fetchmail with Hotmail?</a></h2>
1552
1553 You can't, yet.  But <a
1554 href="http://hawkins.emu.id.au/gotmail/">gotmail</a>
1555 might be what you need.<P>
1556
1557 <hr>
1558 <h2><a name="S9">S9. How can I use fetchmail with MSN?</a></h2>
1559
1560 You can't.  MSN uses something that looks like POP3, except the
1561 authentication part is nonstandard.  And of course they don't
1562 document it, so nobody but their Windows clients can speak it.<p>
1563
1564 This is a customer lock-in tactic; we recommend boycotting MSN as the
1565 only appropriate response.<p>
1566
1567 As of 5.0.8, we have support for the client side of NTLM
1568 authentication.  It's possible this may enable fetchmail to talk to
1569 MSN; if so, somebody should report it so this FAQ can be corrected.<p>
1570
1571 <hr>
1572 <h2><a name="S10">S10. How can I use fetchmail with SpryNet?</a></h2>
1573
1574 The SpryNet POP3 servers mark a message queried with TOP as seen.
1575 This means that if your connection drops in mid-message, it may end
1576 up invisibly stuck on your mail spool.  Use the <code>fetchall</code>
1577 flag to ensure that it's recovered on the next cycle.<p>
1578
1579 <hr>
1580 <h2><a name="S11">S11. How can I use fetchmail with FTGate?</a></h2>
1581
1582 The FTGate V2 server (and possibly older versions as well) has a weird
1583 bug.  It answers OK twice to a TOP request!  Use the
1584 <code>fetchall</code> option to force use of RETR and work around this
1585 bug.<p>
1586
1587 <hr>
1588 <h2><a name="S12">S12. How can I use fetchmail with MailMax?</a></h2>
1589
1590 You can't.  At least not if you want to be able to see attachments.
1591 MailMax has a bug; it reports the message length with attachments
1592 but doesn't download them on TOP or RETR.<P>
1593
1594 Also, we're told that TOP sometimes fails to retrieve the entire
1595 message even when enough lines have been specified. The MailMax
1596 developers have acknowledged this bug as of 4 May 2000, but there is
1597 no fix yet.  If you must use this server, force RETR with the
1598 <tt>fetchall</tt> option.<p>
1599
1600 <hr>
1601 <h2><a name="S13">S13. How can I use fetchmail with Novell GroupWise?</a></h2>
1602
1603 The Novell GroupWise IMAP server would be better named GroupFoolish;
1604 it is (according to the designer of IMAP) unusably broken.  Among
1605 other things, it doesn't include a required content length in its
1606 BODY[TEXT] response.<p>
1607
1608 Fetchmail works around this problem, but we strongly recommend voting
1609 with your dollars for a server that isn't brain-dead.  If you stick
1610 with code as shoddy as GroupWise seems to be, you will probably pay
1611 for it with other problems.<p>
1612
1613 <hr>
1614 <h2><a name="S14">S14. How can I use fetchmail with InterChange?</a></h2>
1615
1616 You can't.  At least not if you want to be able to see attachments.
1617 InterChange has a bug similar to the MailMax server; it reports the
1618 message length with attachments but doesn't download them on TOP or
1619 RETR. <p>
1620
1621 On Jan 9 2001, the people at InfiniteMail sent me mail informing me that
1622 their new 3.61.08 release of InterChange fixes this problem.  I don't
1623 have any reports one way or the other yet.<p>
1624
1625 <hr>
1626 <h2><a name="K1">K1. How can I use fetchmail with SOCKS?</a></h2>
1627
1628 Giuseppe Guerini added a --with-socks option that supports linking
1629 with socks library.  If you specify the value of this option as
1630 ``yes'', the configure script will try to find the Rconnect library
1631 and set the makefile up to link it.  You can also specify a directory
1632 containing the Rconnect library.<p>
1633
1634 Alan Schmitt has added a similar --with-socks5 option that may work
1635 better if you have a recent version of the SOCKS library.
1636
1637 <hr>
1638 <h2><a name="S7">S7. How can I use fetchmail with geocities POP3 servers?</a></h2>
1639
1640 Nathan Cutler reports that the the mail.geocities.com POP3 servers
1641 fail to include the first Received line of the message in the send to
1642 fetchmail.  This can solve problems if your MUA interprets Received
1643 continuations as body lines and doesn't parse any of the following
1644 headers.<P>
1645
1646 Workaround is to use "mda" keyword or "-mda" switch:
1647 <pre>
1648 mda "sed -e '1s/^\t/Received: /' | formail | /usr/bin/procmail -d &lt;user&gt;"
1649 </pre>
1650 Replace \t with exactly one tabulation character.
1651
1652 You should also consider using "fetchall" option because Geocities' servers
1653 sometimes think that the first 45 messages have already been read.<P>
1654
1655 Fix: Get an email provider that doesn't suck. The pop-up ads on
1656 Geocities are lame, you should boycott them anyway.<P>
1657
1658 <hr>
1659 <h2><a name="K2">K2. How can I use fetchmail with IPv6 and IPsec?</a></h2>
1660
1661 To use fetchmail with IPv6, you need a system that supports IPv6, the "Basic
1662 Socket Interface Extensions for IPv6" (RFC 2133).
1663 This currently means that you need to have a BSD/OS or NetBSD system with
1664 the NRL IPv6+IPsec software distribution or a Linux system with a 2.2 or
1665 later kernel and net-tools. It should not be hard to build fetchmail on
1666 other IPv6 implementations if you can port the inet6-apps kit.<P>
1667
1668 To use fetchmail with networking security (read: IPsec), you need a system that
1669 supports IPsec, the API described in the "Network Security API for Sockets"
1670 (draft-metz-net-security-api-01.txt), and the inet6-apps kit. This currently
1671 means that you need to have a BSD/OS or NetBSD system with the NRL IPv6+IPsec
1672 software distribution. A Linux IPsec implementation supporting this API will
1673 probably appear in the coming months.<P>
1674
1675 The NRL IPv6+IPsec software distribution can be obtained from: <a
1676 href="http://web.mit.edu/network/isakmp">http://web.mit.edu/network/isakmp</a>
1677 <P>
1678
1679 The inet6-apps kit can be obtained from <a href="http://ftp.ps.pl/pub/linux/IPv6/inet6-apps/">http://ftp.ps.pl/pub/linux/IPv6/inet6-apps/</a>.<P>
1680
1681 More information on using IPv6 with Linux can be obtained from:
1682 <UL>
1683 <LI>
1684 <a href="http://www.bieringer.de/linux/IPv6/IPv6-HOWTO/IPv6-HOWTO.html">
1685 http://www.bieringer.de/linux/IPv6/IPv6-HOWTO/IPv6-HOWTO.html</a>
1686 <LI>
1687 <a href="http://www.ipv6.inner.net/ipv6">http://www.ipv6.inner.net/ipv6</a>
1688 (via IPv6)
1689 <LI>
1690 <a href="http://www.inner.net/ipv6">http://www.inner.net/ipv6</a> (via IPv4)
1691 </UL>
1692
1693 <hr>
1694 <h2><a name="K3">K3. How can I get fetchmail to work with ssh?</a></h2>
1695
1696 We have five recipes for this.<P>
1697
1698 <h3>Single-User POP3</h3>
1699
1700 First, a lightly edited version of a recipe from Masafumi NAKANE.
1701 This one is easy to set up, but only supports one user at a time.<p>
1702
1703 1. You must have ssh (the ssh client) on the local host and sshd (ssh
1704 server) on the remote mail server.  And you have to configure ssh so
1705 you can login to the sshd server host without a password.  (Refer to ssh
1706 man page for several authentication methods.)<p>
1707
1708 2. Add something like following to your .fetchmailrc file: <p>
1709
1710 <pre>
1711 poll mailhost port 1234 via localhost with proto pop3:
1712         preconnect "ssh -l username -f mailhost -L 1234:mailhost:110 sleep 5"
1713 </pre>
1714
1715 This is an SSH 1.x recipe.  According to Mick Papadonis, the
1716 equivalent SSH 2.x recipe is this:<p>
1717
1718 <pre>
1719 poll localhost port 1234 with proto pop3:
1720         preconnect "ssh -n -S -x -l username -fo mailhost -L 1234:mailhost:110; sleep 5"
1721 </pre>
1722
1723 The sleep is needed on slower machines to prevent fetchmail from
1724 trying to open the socket before ssh actually makes it ready.  Faster
1725 machines may not need it.<p>
1726
1727 (Note that 1234 can be an arbitrary port number.  Privileged ports can
1728 be specified only by root.)  The effect of this ssh command is to
1729 forward connections made to localhost port 1234 (in above example) to
1730 mailhost's 110. <p>
1731
1732 This configuration will enable secure mail transfer.  All the
1733 conversation between fetchmail and remote pop server will be
1734 encrypted.<p>
1735
1736 If sshd is not running on the remote mail server, you can specify an
1737 intermediate host running it.  If you do this, however, communication
1738 between the machine running sshd and the POP server will not be encrypted.
1739 And the preconnect line would be like this:<p>
1740
1741 <pre>
1742 preconnect "ssh -f -L 1234:mailhost:110 sshdhost sleep 20 &lt;/dev/null &gt;/dev/null"
1743 </pre>
1744
1745 You can work this trick with IMAP too, but the port number 110 in the
1746 above would need to become 143.  In either case you'll have to specify
1747 a password but the password will not be sent in clear.<p>
1748
1749 There is an explanation of a similar recipe at <a
1750 href="http://sunsite.unc.edu/LDP/HOWTO/mini/Secure-POP+SSH.html">Secure
1751 POP via SSH mini-HOWTO</a>.<P>
1752
1753 <h3>Multi-User POP3</h3>
1754
1755 Second, a recipe from Charlie Brady &lt;cbrady@ind.tansu.com.au&gt;:<p>
1756
1757 Charlie says: "The recipe [from Masafume NAKANE] certainly works, but
1758 the solution I post here is better in a few respects":
1759
1760 <UL>
1761 <LI>this method will not fail if two or more users attempt to use fetchmail
1762     simultaneously.
1763 <LI>you are able to use the full facilities of tcpd to control access
1764 <LI>this method does not depend on the preconnect feature of fetchmail, so
1765     can be used for tunneling of other services as well.
1766 </UL>
1767
1768 Here are the steps:
1769
1770 <OL>
1771 <LI>
1772 Make sure that the "socket" program is installed on the server
1773 machine. Presently it lives at <a
1774 href="ftp://sunsite.unc.edu/pub/linux/system/network/misc/socket-1.1.tar.gz">
1775 ftp://sunsite.unc.edu/pub/linux/system/network/misc/socket-1.1.tar.gz</a>,
1776 but watch out for a change in version number.<P>
1777 <LI>
1778 Set up an unprivileged account on your system with a .ssh directory
1779 containing an SSH identity file "identity" with no pass phrase,
1780 "identity.pub" and "known_hosts" containing the host key of your
1781 mailhost. Let's call this account "noddy".
1782 <LI>
1783 On mailhost, set up no-password access for noddy@yourhost. Add to your
1784 SSH authorized_keys file:
1785
1786 <PRE>
1787 command="socket localhost 110",no-port-forwarding 1024 ......
1788 </PRE>
1789
1790 where "<code>1024 ......</code>" is the content of noddy's identity.pub file.
1791 <LI>
1792 Create a script /usr/local/bin/ssh.fm and make it executable:
1793
1794 <PRE>
1795 #! /bin/sh
1796 exec ssh -q -C -l your.login.id -e none mailhost socket localhost 110
1797 </PRE>
1798 <LI>
1799 Add an entry in inetd.conf for whatever port you choose to use - say:
1800
1801 <PRE>
1802 1234 stream tcp nowait noddy /usr/sbin/tcpd /usr/local/bin/ssh.fm
1803 </PRE>
1804 <LI>
1805 Send a HUP signal to your inetd.
1806 </OL>
1807
1808 Now just use localhost:1234 to access your POP server.<P>
1809
1810 <h3>Multi-User IMAP</h3>
1811
1812 This one comes comes to us from Joerg Dorchain.
1813 The basic idea is to set up a bidirectional encrypted socket connection:<p>
1814
1815 <pre>
1816 fetchmail &lt;--&gt; ssh &lt;---&gt; sshd &lt;--&gt; imapd
1817  \---local side--/       \-remote side-/
1818 </pre>
1819
1820 Use ssh-keygen(1) to set up a special ssh identity with no password
1821 and RSA-only authentication, which executes /usr/sbin/imapd when
1822 authenticated.  For security reasons all other commands should be
1823 disabled. (There is some security exposure in using an identity
1824 without a passphrase; it means anyone who can get access to your
1825 account could use it to read your mail).<p>
1826
1827 Running ssh-keygen will generate two files.  Have it create the
1828 private key to ~/.ssh/identity-imap. Once you have generated the
1829 corresponding public key, prepend this to the line of key data in it:
1830
1831 <pre>
1832 command="/usr/sbin/imapd",no-port-forwarding,no-agent-forwarding
1833 </pre>
1834
1835 This identity data has to be appended to ~/.ssh/authorized_keys on the
1836 remote machine, as usual for RSA authentication.  Whenever your ssh
1837 uses this identity, the remote side will run imapd.  The imapd will
1838 see that it is not running as root and go into preauthenticated
1839 mode.<p>
1840
1841 On the client side, use the <code>plugin</code> keyword to make
1842 fetchmail talk to the stdin of the remote ssh.  Here's an examople:
1843
1844 <pre>
1845 poll mail.dorchain.net
1846         with options proto imap, preauth ssh, plugin fetchmail-imap-wrapper
1847 </pre>
1848
1849 The wrapper script should look like this:<p>
1850
1851 <pre>
1852 #!/bin/sh
1853 exec ssh -i $HOME/.ssh/identity-imap $1 /usr/sbin/imapd
1854 </pre>
1855
1856 <h3>Netcat-based POP or IMAP tunnelling</h3>
1857
1858 Oren Tirosh &lt;oren@mimique.com&gt; sends us a method of using
1859 fetchmail over ssh without port forwarding, using the plugin keyword.<P>
1860
1861 First, set up a poll entry resembling thius one:
1862
1863 <TT>
1864 poll target.host plugin sshtunnel proto pop3 user foo password *
1865 </TT>
1866
1867 The important part is the "plugin sshtunnel".  Now set up sshtunnel
1868 as follows:<P>
1869
1870 <TT>
1871 This is the sshtunnel script:
1872 #!/bin/sh
1873 ssh $1 "nc localhost $2"
1874 </TT>
1875
1876 Thia method uses netcat to connect to the pop3 port locally on the
1877 target host and create a two-way channel over the ssh connection.<P>
1878
1879 Oren says: "In my experience it is much more reliable than the methods
1880 described in your FAQ.  ssh port forwarding often keeps the local port
1881 bound for along timeout and has timing issues requiring tricks like
1882 sleep, etc.  I use this method for fetching all the mail for
1883 mimique.com"<P>
1884
1885 <h3>Using plugin</h3>
1886
1887 Since 5.4.5, there's been a very simple recipe.  Use the following option:
1888
1889 <TT>
1890         plugin "ssh %h /usr/sbin/rimapd"
1891 </TT>
1892
1893 You may have to use a different absolute pathname. This option tells
1894 fetchmail that instead of opening a connection on the server's port
1895 143 and doing standard IMAP authentication, fetchmail should ssh to
1896 the server and run rimapd, using the more secure ssh authentication
1897 (as well as getting ssh's encryption).<p>
1898
1899 <hr>
1900 <h2><a name="K4">K4. What do I have to do to use the IMAP-GSS protocol?</a></h2>
1901
1902 Fetchmail can use RFC1731 GSSAPI authorization to safely identify you
1903 to your IMAP server, as long as you can share Kerberos V credentials
1904 with your mail host and you have a GSSAPI-capable IMAP server.
1905 UW-IMAP (available via FTP at <a
1906 href="ftp://ftp.cac.washington.edu/mail/">ftp.cac.washington.edu</a>)
1907 is the only one I'm aware of and the one I recommend anyway for other
1908 reasons. You'll need version 4.1-FINAL or greater though, and it has
1909 to have GSS support compiled in.<p>
1910
1911 Neither UW-IMAP nor fetchmail compile in support for GSS by default,
1912 since it requires libraries from the Kerberos V distribution
1913 (available via FTP at <a
1914 href="ftp://athena-dist.mit.edu/pub/ATHENA/kerberos">athena-dist.mit.edu</a>).
1915 If you have these, compiling in GSS support is simple: add a
1916 <pre>--with-gssapi=[/path/to/krb5/root]</pre> option to configure. For
1917 instance, I have all of my Kerberos V libraries installed under
1918 /usr/krb5 so I run <pre>configure --with-gssapi=/usr/krb5</pre><p>
1919
1920 Setting up Kerberos V authentication is beyond the scope of this FAQ
1921 (you may find Jim Rome's paper <a
1922 href="http://www.ornl.gov/~jar/HowToKerb.html"> How to Kerberize your
1923 site</a> helpful), but you'll at least need to add a credential for
1924 imap/[mailhost] to the keytab of the mail server (IMAP doesn't just
1925 use the host key). Then you'll need to have your credentials ready on
1926 your machine (cf. kinit).<p>
1927
1928 After that things are very simple. Set your protocol to imap-gss in your
1929 .fetchmailrc, and omit the password, since imap-gss doesn't need one. You
1930 can specify a username if you want, but this is only useful if your mailbox
1931 belongs to a username different from your Kerberos principal. <p>
1932
1933 Now you don't have to worry about your password appearing in cleartext in
1934 your .fetchmailrc, or across the network.<p>
1935
1936 <hr>
1937 <h2><a name="K5">K5. How can I use fetchmail with SSL?</a></h2>
1938
1939 You'll need to have the <a href="http://www.openssl.org/">OpenSSL</a>
1940 libraries installed.  Configure with --with-ssl.  If you have the
1941 OpenSSL libraries installed in the default location (/usr/local/ssl)
1942 this will suffice.  If you have them installed in a non-default
1943 location, you'll need to specify it as an argument to --with-ssl after
1944 an equal sign.<p>
1945
1946 Fetchmail binaries built this way support <code>ssl</code>,
1947 <code>sslkey</code>, and <code>sslcert</code> options that control
1948 SSL encryption.  You will need to have an SSL-enabled mailserver
1949 to use these options.  See the manual page for detals.<p>
1950
1951 If your open OpenSSL session dies with a message that complains "PRNG
1952 not seeded", update or improve your operating system.  This means that
1953 the OpenSSL library on your machine has been unable to locate a source
1954 of random bits from which to seed its random-number generator;
1955 normally these come from the <tt>/dev/urandom</tt>, and this message
1956 probably means your OS doesn't have that device.<P>.
1957
1958 An interactive program could seed the random number generator from
1959 keystroke timings or some other form of user input.  Because fetchmail
1960 is primarily designed to run forever as a background daemon, that option
1961 option is not available in this case.<P>
1962
1963 <hr>
1964 <h2><a name="R1">R1. Fetchmail isn't working, and -v shows `SMTP connect failed' messages.</a></h2>
1965
1966 Fetchmail itself is probably working, but your SMTP port 25 listener
1967 is down or inaccessible.<p>
1968
1969 The first thing to check is if you can telnet to port 25 on your smtp
1970 host (which is normally `localhost' unless you've specified an smtp
1971 option in your .fetchmailrc or on the command line) and get a greeting
1972 line from the listener.  If the SMTP host is inaccessible or the listener
1973 is down, fix that first.<p>
1974
1975 In Red Hat Linux 6.9, SMTP is disabled by default.  To fix this,
1976 set "DAEMON=yes" in your /etc/sysconfig/sendmail file, then restart
1977 sendmail by running "/sbin/service sendmail restart".<p>
1978
1979 If the listener seems to be up when you test with telnet, the most
1980 benign and typical problem is that the listener had a momentary seizure
1981 due to resource exhaustion while fetchmail was polling it -- process
1982 table full or some other problem that stopped the listener process
1983 from forking.  If your SMTP host is not `localhost' or something else
1984 in /etc/hosts, the fetchmail glitch could also have been caused by
1985 transient nameserver failure. <p>
1986
1987 Try running fetchmail -v again; if it succeeds, you had one of these
1988 kinds of transient glitch.  You can ignore these hiccups, because a
1989 future fetchmail run will get the mail through. <p>
1990
1991 If the listener tests up, but you have chronic failures trying to
1992 connect to it anyway, your problem is more serious.  One way to work
1993 around chronic SMTP connect problems is to use --mda.  But this only
1994 attacks the symptom; you may have a DNS or TCP routing problem.  You
1995 should really try to figure out what's going on underneath before it
1996 bites you some other way. <p>
1997
1998 We have one report (from toby@eskimo.com) that you can sometimes solve
1999 such problems by doing an <CODE>smtp</CODE> declaration with an IP
2000 address that your routing table maps to something other than the
2001 loopback device (he used ppp0).<p>
2002
2003 We also have a report that this error can be caused by having an
2004 /etc/hosts file that associates your client host name with more than
2005 one IP address.<P>
2006
2007 It's also possible that your DNS configuration isn't
2008 looking at <code>/etc/hosts</code> at all.  If you're using libc5,
2009 look at <code>/etc/resolv.conf</code>; it should say something like
2010
2011 <pre>
2012         order hosts,bind
2013 </pre>
2014
2015 so your <code>/etc/hosts</code> file is checked first.  If you're
2016 running GNU libc6, check your <code>/etc/nsswitch.conf</code> file.  Make
2017 sure it says something like
2018
2019 <pre>
2020         hosts:  files dns
2021 </pre>
2022
2023 again, in order to make sure <code>/etc/hosts</code> is seen first.<P>
2024
2025 If you have a hostname set for your machine, and this hostname does
2026 not appear in /etc/hosts, you will be able to telnet to port 25 and
2027 even send a mail with rcpt to: user@host-not-in-/etc/hosts, but
2028 fetchmail can't seem to get in touch with sendmail, no matter what you
2029 set smtpaddress to.<p>
2030
2031 We had another report from a Linux user of fetchmail 2.1 who solved his SMTP
2032 connection problem by removing the reference to -lresolv from his link
2033 line and relinking.  Apparently in some older Linux distributions the
2034 libc bind library version works better.<p>
2035
2036 As of 2.2, the configure script has been hacked so the bind library is
2037 linked only if it is actually needed.  So under Linux it won't be, and
2038 this particular cause should go away.<p>
2039
2040 <hr>
2041 <h2><a name="R2">R2. When I try to configure an MDA, fetchmail doesn't work.</a></h2>
2042
2043 (I hear this one from people who have run into the blank-line problem in <a href="#X1">X1</a>.)<p>
2044
2045 Try sending yourself test mail and retrieving it using the
2046 command-line options `<CODE>-k -m cat</CODE>'.  This will dump exactly what
2047 fetchmail retrieves to standard output (plus the Received line
2048 fetchmail itself adds to the headers). <p>
2049
2050 If the dump doesn't match what shows up in your mailbox when you
2051 configure an MDA, your MDA is mangling the message.  If it doesn't
2052 match what you sent, then fetchmail or something on the server is
2053 broken.<p>
2054
2055 <hr>
2056 <h2><a name="R3">R3. Fetchmail dumps core when given an invalid rc file.</a></h2>
2057
2058 This is usually reported from AIX or Ultrix, but has even been known
2059 to happen on Linuxes without a recent version of <code>flex</code>
2060 installed.  The problem appears to be a result of building with an
2061 archaic version of lex.<P>
2062
2063 Workaround: fix the syntax of your .fetchmailrc file.<P>
2064
2065 Fix: build and install the latest version of <a
2066 href="ftp://prep.ai.mit.edu/~ftp/pub/gnu">flex</a> from the Free
2067 Software Foundation.  An FSF <a
2068 href="http://www.gnu.ai.mit.edu/order/ftp.html">mirror site</a>
2069 will help you get it faster.<P>
2070
2071 <hr>
2072 <h2><a name="R4">R4. Fetchmail dumps core in -V mode, but operates normally otherwise.</a></h2>
2073
2074 We've had this reported to us under Linux using libc-5.4.17 and gcc-2.7.2.
2075 It does not occur with libc-5.3.12 or earlier versions.<p>
2076
2077 Workaround: link with GNU malloc rather than the stock C library malloc.<p>
2078
2079 We're told there is some problem with the malloc() code in that
2080 version which makes it fragile in the presence of multiple free()
2081 calls on the same pointer (the malloc arena gets corrupted).
2082 Unfortunately it appears from doing gdb traces that whatever free()
2083 calls producing the problem are being made by the C library itself, not the
2084 fetchmail code (they're all from within fclose, and not an fclose called
2085 directly by fetchmail, either).<p>
2086
2087 <hr>
2088 <h2><a name="R5">R5. Running fetchmail in daemon mode doesn't work.</a><br></h2>
2089
2090 We have one report from a SunOS 4.1.4 user that trying to run
2091 fetchmail in detached daemon mode doesn't work, but that using the
2092 same options with -N (nodetach) is OK.<P>
2093
2094 If this happens, you have a specific portability problem with the code
2095 in daemon.c that detaches and backgrounds the daemon fetchmail. Tell
2096 me about it so I can try to fix it.  As a workaround, you can start
2097 fetchmail with -N and an ampersand to background it.  A Sun user
2098 recommends
2099 this:<P>
2100
2101 <PRE>
2102 (fetchmail --nodetach &lt;other params&gt; &amp;)
2103 </PRE>
2104
2105 The extra pair of parens is significant --- it makes sure that the process
2106 detaches from the initial shell (one more shell is started and dies
2107 immediately, detaching fetchmail and making it child of PID 1).  This is
2108 important when you start fetchmail interactively and than quit
2109 interactive shell.  The line above makes sure fetchmail lives after
2110 that!<p>
2111
2112 This should not happen under Linux or any truly POSIX-conformant Unix.<P>
2113
2114 <hr>
2115 <h2><a name="R6">R6. Fetchmail hangs when used with pppd.</a></h2>
2116
2117 Your problem may be with pppd's `demand' option.  We have a report that
2118 fetchmail doesn't play well with it, but works with pppd if `demand'
2119 is turned off.  We have no idea why this is.<p>
2120
2121 <hr>
2122 <h2><a name="R7">R7. Fetchmail randomly dies with socket errors.</a></h2>
2123
2124 Check the MTU value in your PPP interface reported by
2125 <code>/sbin/ifconfig</code>.  If it's over 600, change it in your PPP
2126 options file.  (<code>/etc/ppp/options</code> on my box).  Here are
2127 option values that work:<P>
2128
2129 <pre>
2130   mtu 552
2131   mru 552
2132 </pre>
2133
2134 <hr>
2135 <h2><a name="R8">R8. Fetchmail running as root stopped working after an OS upgrade</a></h2>
2136
2137 In RH 6.0, the HOME value in the boot-time root environment changed
2138 from /root to / as the result of a change in init.  Move your
2139 .fetchmailrc or use a -f option to explicitly point at the file.
2140 (Oddly, a similar problem has been reported from Debian systems.)<P>
2141
2142 <hr>
2143 <h2><a name="R9">R9. Fetchmail is timing out after fetching certain
2144 messages but before deleting them</a></h2>
2145
2146 There's a TCP/IP stalling problem under Redhat 6.0 (and possibly other
2147 recent Linuxes) that can cause this symptom.  Brian Boutel writes:<p>
2148
2149 <blockquote>
2150 TCP timestamps are turned on on my Linux boxes (I assume it's now the
2151 default). This uses 12 extra bytes per segment.
2152 When the tcp  connection starts, the other end agrees a MSS of 1460,
2153 and then fragments 1460 byte chunks into 1448 and 12, because
2154 is is not allowing for the timestamp.<p>
2155
2156 Then, for reasons I can't explain, it waits a long time (typically 2
2157 minutes) after the ack is sent before sending the next (fragmented)
2158 packet.  Turning off tcp timestamps avoids the fragmentation and
2159 restores normal behaviour.  To do this, [execute]<p>
2160
2161 echo 0 &gt; /proc/sys/net/ipv4/tcp_timestamps<p>
2162
2163 I'm still unclear about the details of why this is happening. At least
2164 [now] I am now getting good performance and no queue blocking.
2165 </blockquote>
2166
2167 <hr>
2168 <h2><a name="R10">R10. Fetchmail is timing out during message fetches</a></h2>
2169
2170 This is probably a general networking issue.  Sending a "RETR" command will
2171 cause the server to start sending large amounts of data, which means
2172 large packets.  If your networking layer has a packet-fragmentation
2173 problem, that's where you'll see it.<p>
2174
2175 <hr>
2176 <h2><a name="D1">D1. I think I've set up fetchmail correctly, but I'm not getting any mail.</a></h2>
2177
2178 Maybe you have a .forward or alias set up that you've forgotten about.  You
2179 should probably remove it.<p>
2180
2181 Or maybe you're trying to run fetchmail in multidrop mode as root
2182 without a .fetchmailrc file.  This doesn't do what you think it
2183 should; see question <a href="#C1">C1</a>.<p>
2184
2185 Or you may not be connecting to the SMTP listener.   Run fetchmail -v
2186 and see <a href="#R1">R1</a>.<p>
2187
2188 <hr>
2189 <h2><a name="R11">R11. Fetchmail is dying with SIGPIPE.</a></h2>
2190
2191 This probably means you have an <code>mda</code> option.  Your MDA is
2192 croaking while being passed a message.  Best fix is to remove the
2193 <code>mda</code> option and pass mail to your port 25 SMTP listener.<p>
2194
2195 <hr>
2196 <h2><a name="D2">D2. All my mail seems to disappear after a dropped connection.</a></h2>
2197
2198 One POP3 daemon used in the Berkeley Unix world that reports itself as
2199 POP3 version 1.004 actually throws the queue away. 1.005 fixed that.
2200 If you're running this one, upgrade immediately.  (It also truncates
2201 long lines at column 1024)<P>
2202
2203 Many POP servers, if an interruption occurs, will restore the whole
2204 mail queue after about 10 minutes.  Others will restore it right
2205 away. If you have an interruption and don't see it right away, cross
2206 your fingers and wait ten minutes before retrying.<P>
2207
2208 Some servers (such as Microsoft's NTMail) are mis-designed to restore
2209 the entire queue, including messages you have deleted.  If you have
2210 one of these and it flakes out on you a lot, try setting a small
2211 <code>--fetchlimit</code> value.  This will result in more IP connects
2212 to the server, but will mean it actually executes changes to the queue
2213 more often.<P>
2214
2215 Qualcomm's qpopper, used at many BSD Unix sites, is better behaved.
2216 If its connection is dropped, it will first execute all DELE commands as
2217 though you had issued a QUIT (this is a technical violation of
2218 the POP3 RFCs, but a good idea in a world of flaky phone lines). Then it
2219 will re-queue any message that was being downloaded at hangup time.
2220 Still, qpopper may require a noticeable amount of time to do deletions
2221 and clean up its queue.  (Fetchmail waits a bit before retrying in
2222 order to avoid a `lock busy' error.)<P>
2223
2224 <hr>
2225 <h2><a name="D3">D3. Mail that was being fetched when I interrupted my fetchmail seems to have been vanished.</a></h2>
2226
2227 Fetchmail only sends a delete mail request to the server when either
2228 (a) it gets a positive delivery acknowledgment from the SMTP
2229 listener, or (b) it gets an error 571 (the spam-filter error) from the
2230 listener.  No interrupt can cause it to lose mail.<p>
2231
2232 However, IMAP2bis has a design problem in that its normal fetch
2233 command marks a message `seen' as soon as the fetch command to get it
2234 is sent down.  If for some reason the message isn't actually delivered
2235 (you take a line hit during the download, or your port 25 listener
2236 can't find enough free disk space, or you interrupt the delivery in
2237 mid-message) that `seen' message can lurk invisibly in your server
2238 mailbox forever.<p>
2239
2240 Workaround: add the `<CODE>fetchall</CODE>' keyword to your fetch options.<p>
2241
2242 Solution: switch to an <a href="http://www.imap.org">IMAP4</a> server.<p>
2243
2244 <hr>
2245 <h2><a name="M1">M1. I've declared local names, but all my multidrop
2246 mail is going to root anyway.</a></h2>
2247
2248 Somehow your fetchmail is never recognizing the hostname part of
2249 recipient names it parses out of To/Cc/envelope-header lines as
2250 matching the name of the mailserver machine. To check this, run
2251 fetchmail in foreground with -v -v on.  You will probably see a lot of
2252 messages with the format ``line rejected, %s is not an alias of the
2253 mailserver'' or ``no address matches; forwarding to %s.'' <p>
2254
2255 These errors usually indicate some kind of DNS configuration problem
2256 either on the server or your client machine. <p>
2257
2258 The easiest workaround is to add a `<CODE>via</CODE>' option (if
2259 necessary) and add enough aka declarations to cover all of your
2260 mailserver's aliases, then say `<CODE>no dns</CODE>'.  This will take
2261 DNS out of the picture (though it means mail may be uncollected if
2262 it's sent to an alias of the mailserver that you don't have
2263 listed). <p>
2264
2265 It would be better to fix your DNS, however.  DNS problems can hurt
2266 you in lots of ways, for example by making your machines
2267 intermittently or permanently unreachable to the rest of the net.<P>
2268
2269 Occasionally these errors indicate the sort of header-parsing problem
2270 described in <a href="#M7">M7</a>.<P>
2271
2272 <hr>
2273 <h2><a name="M2">M2. I can't seem to get fetchmail to route to a local domain properly.</a></h2>
2274
2275 A lot of people want to use fetchmail as a poor man's internetwork
2276 mail gateway, picking up mail accumulated for a whole domain in a single
2277 server mailbox and then routing based on what's in the To/Cc/Bcc lines.<p>
2278
2279 In general, this is not really a good idea.  It would be smarter to
2280 just let the mail sit in the mailserver's queue and use fetchmail's
2281 ETRN or ODMR modes to trigger SMTP sends periodically (of course, this means
2282 you have to poll more frequently than the mailserver's expiration period).
2283 If you can't arrange this, try setting up a UUCP feed.<P>
2284
2285 If neither of these alternatives is available, multidrop mode may do
2286 (though you <em>are</em> going to get hurt by some mailing list
2287 software; see the caveats under THE USE AND ABUSE OF MULTIDROP
2288 MAILBOXES on the man page).  If you want to try it, the way to do it
2289 is with the `<CODE>localdomains</CODE>' option.<p>
2290
2291 In general, if you use localdomains you need to make sure of two other
2292 things: <p>
2293
2294 <strong>1. You've actually set up your .fetchmailrc entry to invoke multidrop mode.</strong><p>
2295
2296 Many people set a `<CODE>localdomains</CODE>' list and then forget
2297 that fetchmail wants to see more than one name (or the wildcard `*')
2298 in a `<CODE>here</CODE>' list before it will do multidrop routing.<p>
2299
2300 <strong>2. You may have to set `no envelope'.</strong><p>
2301
2302 Normally, multidrop mode tries to deduce an envelope address from a message
2303 before parsing the To/Cc/Bcc lines (this enables it to avoid losing to mailing
2304 list software that doesn't put a recipient address in the To lines).<p>
2305
2306 Some ways of accumulating a whole domain's messages in a single server
2307 mailbox mean it all ends up with a single envelope address that is
2308 useless for rerouting purposes.  You may have to set `<CODE>no
2309 envelope</CODE>' to prevent fetchmail from being bamboozled by this.<p>
2310
2311 Check also answer <a href="#T1">T1</a> on a reliable way to do multidrop
2312 delivery if your ISP (or your mail redirection provider) is using qmail.<p>
2313
2314 <hr>
2315 <h2><a name="M3">M3. I tried to run a mailing list using multidrop, and I have a mail loop!</a></h2>
2316
2317 This isn't fetchmail's fault.  Check your mailing list.  If the list
2318 expansion includes yourself or anybody else at your mailserver (that is, not on
2319 the client side) you've created a mail loop.  Just chop the host part off any
2320 local addresses in the list.<p>
2321
2322 If you use sendmail, you can check the list expansion with
2323 <CODE>sendmail -bv</CODE>.<p>
2324
2325 <hr>
2326 <h2><a name="M4">M4. My multidrop fetchmail seems to be having DNS problems.</a></h2>
2327
2328 We have one report from a Linux user (not the same one as in <a
2329 href="#R1">R1</a>!) who solved this problem by removing the reference
2330 to -lresolv from his link line and relinking.  Apparently in some
2331 older Linux distributions the libc5 bind library version works
2332 better.<p>
2333
2334 As of 2.2, the configure script has been hacked so the bind library is linked
2335 only if it is actually needed.  So under Linux it won't be, and this problem
2336 should go away.<p>
2337
2338 <hr>
2339 <h2><a name="M5">M5. I'm seeing long DNS delays before each message is processed.</a></h2>
2340
2341 Use the `<CODE>aka</CODE>' option to pre-declare as many of your
2342 mailserver's DNS names as you can.  When an address's host part
2343 matches an aka name, no DNS lookup needs to be done to check it.<p>
2344
2345 If you're sure you've pre-declared all of your mailserver's DNS names,
2346 you can use the `<CODE>no dns</CODE>' option to prevent other hostname
2347 parts from being looked up at all.<p>
2348
2349 Sometimes delays are unavoidable.  Some SMTP listeners try to call DNS
2350 on the From-address hostname as a way of checking that the address is valid.<p>
2351
2352 <hr>
2353 <h2><a name="M6">M6. How do I get multidrop mode to work with majordomo?</a></h2>
2354
2355 In order for sendmail to execute the command strings in the majordomo
2356 alias file, it is necessary for sendmail to think that the mail it
2357 receives via SMTP really is destined for a local user name.  A normal
2358 virtual-domain setup results in delivery to the default mailbox,
2359 rather than expansion through majordomo.<P>
2360
2361 Michael &lt;michael@bizsystems.com&gt; gave us a recipe for dealing
2362 with this case that pairs a run control file like this:<P>
2363
2364 <pre>
2365 poll your.pop3.server proto pop3:
2366     no envelope no dns
2367     localdomains virtual.localdomain1.com virtual.localdomain2.com ...
2368     user yourISPusername is root * here,
2369     password yourISPpassword fetchall
2370 </pre>
2371
2372 with a hack on your local sendmail.cf like this:<P>
2373
2374 <pre>
2375 #############################################
2376 #  virtual info, local hack for ruleset 98  #
2377 #############################################
2378
2379 # domains to treat as direct mapped local domain
2380
2381 CVvirtual.localdomain1.com virtual.localdomain2.com ...
2382 ---------------------------
2383 in ruleset 98 add
2384 -------------------------
2385 # handle virtual users
2386
2387 R$+ &lt;@ $=V . &gt;          $: $1 &lt; @ $j . &gt;
2388 R&lt; @ &gt; $+ &lt; @ $=V . &gt;   $: $1 &lt; @ $j . &gt;
2389 R&lt; @ &gt; $+               $: $1
2390 R&lt; error : $- $+ &gt; $*   $#error $@ $1 $: $2
2391 R&lt; $+ &gt; $+ &lt; @ $+ &gt;     $: $&gt;97 $1
2392 </pre>
2393
2394 This ruleset just strips virtual domain names off the addresses of incoming
2395 mail.  Your sendmail must be 8.8 or newer for this to work.  Michael
2396 says:<P>
2397
2398 <BLOCKQUOTE>
2399 I use this scheme with 2 virtual domains and the default ISP
2400 user+domain and service about 30 mail accounts + majordomo on my
2401 inside pop3 server with fetchmail and sendmail 8.83
2402 </BLOCKQUOTE>
2403
2404 <hr>
2405 <h2><a name="M7">M7. Multidrop mode isn't parsing envelope addresses from
2406 my Received headers as it should.</a></h2>
2407
2408 It may happen that you're getting what appear to be well-formed
2409 sendmail Received headers, but fetchmail can't seem to extract an
2410 envelope address from them.  There can be a couple of reasons for
2411 this.<P>
2412
2413 <h3>Spurious Received lines need to be skipped:</h3>
2414
2415 First, fetchmail might be looking at the wrong Received header.
2416 Normally it looks only on the first one it sees, on the theory that
2417 that one was last added and is going to be the one containing your
2418 mailserver's theory of who the message was addressed to.<P>
2419
2420 Some (unusual) mailserver configurations will generate extra Received
2421 lines which you need to skip.  To arrange this, use the optional
2422 skip prefix argument of the `envelope' option; you may need to say
2423 something like `<code>envelope 1 Received</code>' or `<code>envelope 2
2424 Received</code>'.
2425
2426 <h3>The `by' clause doesn't contain a mailserver alias:</h3>
2427
2428 When fetchmail parses a Received line that looks like
2429
2430 <pre>
2431 Received: from send103.yahoomail.com (send103.yahoomail.com [205.180.60.92])
2432     by iserv.ttns.net (8.8.5/8.8.5) with SMTP id RAA10088
2433     for &lt;ksturgeon@fbceg.org&gt;; Wed, 9 Sep 1998 17:01:59 -0700
2434 </pre>
2435
2436 it checks to see if `iserv.ttns.net' is a DNS alias of your mailserver
2437 before accepting `ksturgeon@fbceg.org' as an envelope address.  This
2438 check might fail if your DNS were misconfigured, or if you were using `no dns'
2439 and had failed to declare iserv.ttns.net as an alias of your server.<P>
2440
2441 <hr>
2442 <h2><a name="M8">M8. Users are getting multiple copies of messages.</a></h2>
2443
2444 It's a consequence of multidrop.  What's happening is that you have
2445 N users subscribed to the same list.  The list software sends N
2446 copies, not knowing they will end up in the same multidrop box.  Since
2447 they are both locally addressed to all N users, fetchmail delivers N
2448 copies to each user.<P>
2449
2450 Fetchmail tries to eliminate adjacent duplicate messages in a
2451 multidrop mailbox.  However, this logic depends on the message-ID
2452 being identical in both copies.  It also depends on the two copies
2453 being adjacent in the server mailbox.  The former is usually the case,
2454 but the latter condition sometimes fails in a timing-dependent way if
2455 the server was processing multiple incoming mail streams.
2456
2457 I could eliminate this problem by keeping a list of all message-IDs
2458 received during a poll so far and dropping any message that matches a
2459 seen mail ID.  The touble is that this is an O(N**2) operation that
2460 might significantly slow down the retriweval of large mail batches.<P>
2461
2462 <hr>
2463 <h2><a name="X1">X1. Spurious blank lines are appearing in the headers of fetched mail.</a></h2>
2464
2465 What's probably happening is that the POP/IMAP daemon on your
2466 mailserver is inserting a non-RFC822 header (like X-POP3-Rcpt:) and
2467 something in your delivery path (most likely an old version of the
2468 <em>deliver</em> program, which sendmail often calls to do local delivery) is
2469 failing to recognize it as a header.<p>
2470
2471 This is not fetchmail's problem.  The first thing to try is installing
2472 a current version of <em>deliver</em>.  If this doesn't work, try to
2473 figure out which other program in your mail path is inserting the
2474 blank line and replace that.  If you can't do either of these things,
2475 pick a different MDA (such as procmail) and declare it with the
2476 `<CODE>mda</CODE>' option.<p>
2477
2478 <hr>
2479 <h2><a name="X2">X2. My mail client can't see a Subject line.</a></h2>
2480
2481 First, see <a href="#X1">X1</a>.  This is quite probably the same
2482 problem (X-POP3-Rcpt header or something similar being inserted by
2483 the server and choked on by an old version of <em>deliver</em>).<p>
2484
2485 The O'Reilly sendmail book does warn that IDA sendmail doesn't process
2486 X- headers correctly.  If this is your problem, all I can suggest is
2487 replacing IDA sendmail, because it's broken and not RFC822 conformant.<p>
2488
2489 <hr>
2490 <h2><a name="X3">X3. Messages containing "From" at start of line are being split.</a></h2>
2491
2492 If you know the messages aren't split in your server mailbox, then this
2493 is a problem with your POP/IMAP server, your client-side SMTP listener or
2494 your local delivery agent.  Fetchmail cannot split messages.<p>
2495
2496 Some POP server daemons ignore Content-Length headers and split messages on
2497 From lines.  We have one report that the 2.1 version of the BSD popper
2498 program (as distributed on Solaris 2.5 and elsewhere) is broken this way.<p>
2499
2500 You can test this.  Declare an mda of `cat' and send yourself one
2501 piece of mail containing "From" at start of a line.  If you see a
2502 split message, your POP/IMAP server is at fault.  Upgrade to a more
2503 recent version.<p>
2504
2505 Sendmail and other SMTP listeners don't split RFC822 messages either.
2506 What's probably happening is either sendmail's local delivery agent or
2507 your mail reader are not quite RFC822-conformant and are breaking
2508 messages on what it thinks are Unix-style From headers.  You can
2509 figure out which by looking at your client-side mailbox with vi or
2510 more.  If the message is already split in your mailbox, your local
2511 delivery agent is the problem.  If it's not, your mailreader is the
2512 problem.<p>
2513
2514 If you can't replace the offending program, take a look at your
2515 sendmail.cf file.  There will likely be a line something like<p>
2516
2517 <pre>
2518 Mlocal, P=/usr/bin/procmail, F=lsDFMShP, S=10, R=20/40, A=procmail -Y -d $u
2519 </pre>
2520
2521 describing your local delivery agent.  Try inserting the `E' option in the
2522 flags part (the F= string).  This will make sendmail turn each dangerous
2523 start-of-line From into a &gt;From, preventing programs further downstream
2524 from acting up.<p>
2525
2526 <hr>
2527 <h2><a name="X4">X4.</a><a name="generic_mangling">My mail is being mangled in a new and different way</a></h2>
2528
2529 The first thing you need to do is pin down what program is doing the
2530 mangling.  We don't like getting bug reports about fetchmail that are
2531 actually due to some other program's malfeasance, so please go through
2532 this diagnostic sequence before sending us a complaint.<P>
2533
2534 There are five possible culprits to consider, listed here in the order
2535 they pass your mail:<P>
2536
2537 <ol>
2538 <li> Programs upstream of your server mailbox.
2539 <li> The POP or IMAP server on your mailserver host.
2540 <li> The fetchmail program itself.
2541 <li> Your local sendmail.
2542 <li> Your LDA (local delivery agent), as called by sendmail or
2543 specified by <code>mda</CODE>.
2544 </ol>
2545
2546 Often it happens that fetchmail itself is OK, but using it exposes
2547 pre-existing bugs in your downstream software, or your downstream
2548 software has a bad interaction with POP/IMAP.  You need to pin down
2549 exactly where the message is being garbled in order to deduce what is
2550 actually going on.<P>
2551
2552 The first thing to do is send yourself a test message, and retrieve it
2553 with a .fetchmailrc entry containing the following (or by running with
2554 the equivalent command-line options):<P>
2555
2556 <pre>
2557     mda "cat &gt;MBOX" keep fetchall
2558 </pre>
2559
2560 This will capture what fetchmail gets from the server, except for (a)
2561 the extra Received header line fetchmail prepends, (b) header address
2562 changes due to <code>rewrite</code>, and (c) any end-of-line changes
2563 due to the <code>forcecr</code> and <code>stripcr</code> options.
2564 MBOX will in fact contain what programs downstream of fetchmail
2565 see.<P>
2566
2567 The most common causes of mangling are bugs and misconfigurations in
2568 those downstream programs.  If MBOX looks unmangled, you will know
2569 that is what is going on and that it is not fetchmail's problem.  Take
2570 a look at the other FAQ items in this section for possible clues about
2571 how to fix your problem.<P>
2572
2573 If MBOX looks mangled, the next thing to do is compare it with your
2574 actual server mailbox (if possible).  That's why you specified
2575 <code>keep</code>, so the server copy would not be deleted.  If your
2576 server mailbox looks mangled, programs upstream of your server mailbox
2577 are at fault.  Unfortunately there is probably little you can do about
2578 this aside from complaining to your site postmaster, and nothing at
2579 all fetchmail can do about it!<P>
2580
2581 More likely you'll find that the server copy looks OK.  In that case
2582 either the POP/IMAP server or fetchmail is doing the mangling.  To
2583 determine which, you'll need to telnet to the server port and simulate
2584 a fetchmail session yourself.  This is not actually hard (both POP3
2585 and IMAP are simple, text-only, line-oriented protocols) but requires
2586 some attention to detail.  You should be able to use a fetchmail -v
2587 log as a model for a session, but remember that the "*" in your LOGIN
2588 or PASS command dump has to be replaced with your actual password.<P>
2589
2590 The objective of manually simulating fetchmail is so you can see
2591 exactly what fetchmail sees.  If you see a mangled message, then your
2592 server is at fault, and you probably need to complain to your
2593 mailserver administrators.  However, we like to know what the broken
2594 servers are so we can warn people away from them.  So please send
2595 us a transcript of the session including the mangling <em>and the
2596 server's initial greeting line</em>.  Please tell us anything else
2597 you think might be useful about the server, like the server host's
2598 operating system.<P>
2599
2600 If your manual fetchmail simulation shows an unmangled message,
2601 congratulations.  You've found an actual fetchmail bug, which is a
2602 pretty rare thing these days.  Complain to us and we'll fix it.
2603 Please include the session transcript of your manual fetchmail
2604 simulation along with the other things described in the FAQ entry on
2605 <a href="#G3">reporting bugs</a>.
2606
2607 <hr>
2608 <h2><a name="X5">X5. Using POP3, retrievals seems to be fetching too much!</a></h2>
2609
2610 This may happen in versions of fetchmail after 4.4.1 and before 4.4.8.
2611 Versions after 4.4.1 use POP3's TOP command rather than RETR, in order
2612 to avoid marking the message seen (leaving it unseen is helpful for
2613 later recovery if you lose your connection in the middle of a
2614 retrieval).<P>
2615
2616 Versions of fetchmail from 4.4.2 through 4.4.7 had a bad interaction
2617 with Eudora qpopper versions 2.3 and later.  The TOP bounds check was
2618 fooled by an overflow condition in the TOP argument.  Decrementing the
2619 TOP argument in 4.4.7 fixed this.<P>
2620
2621 Fix: Upgrade to a later version of fetchmail.<P>
2622
2623 Workaround: set the <code>fetchall</code> option.  Under POP3
2624 this has the side effect of forcing RETR use.<P>
2625
2626 <hr>
2627 <h2><a name="X6">X6. My mail attachments are being dropped or mangled.</a></h2>
2628
2629 This isn't fetchmail's doing -- fetchmail never drops lines in message
2630 bodies or attachments. It may be your POP server, or it may be the
2631 sender's mail user agent (or a bad combination of both).<p>
2632
2633 The Mail Max POP3 server and the InterChange and Imail IMAP servers
2634 are known to simply drop MIME attachments when uploading messages.
2635 We've had sporadic reports of problems with Microsoft Exchange and
2636 Outlook servers.  Windows- and NT-based POP servers seem especially
2637 prone to mangle attachments.  If you are running one of these,
2638 replacing your server with a Unix machine is probably the only
2639 effective solution.<p>
2640
2641 We've also had a report that Lotus Notes sometimes trashes the
2642 MIME type of messages.  In particular, it seems to modify MIME
2643 headers introducing type application/pdf, mangling the type
2644 to application/octet-stream. It may corrupt other MIME types
2645 as well.<p>
2646
2647 The IMAP service of Lotus Domino has a known bug in the way it
2648 generates MIME Content-type headers (observed on Lotus Domino 5.0.2b).
2649 It's a subtle one that doesn't show up when Netscape Messenger and
2650 other clients use a FETCH BODY[] to grab the whole message.  When
2651 fetchmail uses FETCH RFC822.HEADER and FETCH RFC822.TEXT to get first
2652 the header and then the body, Domino generates different Boundary tags
2653 for each part, .e.g. one tag is declared in the Content-type header and
2654 another is used to separate the MIME parts in the body.  This doesn't
2655 work. (I have heard a rumor that this bug is scheduled to be fixed
2656 in Domino release 6; you can find a workaround at contrib/domino.)<p>
2657
2658 Another rich source of attachment problems is Microsoft Exchange and
2659 Microsoft Outlook.  If you see unreadable attachments with a
2660 ContentType of "application/x-tnef", you're having this problem.  The
2661 <a href="http://world.std.com/~damned/software.html">TNEF</a> utility
2662 may help.<p>
2663
2664 Rob Funk explains: Unfortunately there also remain many mail user
2665 agents that don't write correct MIME messages. One big offender is Sun
2666 MailTool attachments, which are formatted enough like MIME that some
2667 programs could get confused; these are generated by the mailtool and
2668 dtmail programs (the mail programs in Sun's OpenWindows and CDE
2669 environments).<p>
2670
2671 One solution to problems related to misformatted MIME attachments is
2672 the <a href="ftp://ftp.uu.se/pub/unix/networking/mail/emil/">emil</a>
2673 program; see its <a
2674 href="ftp://ftp.uu.se/pub/unix/networking/mail/emil/TUTORIAL.html">tutorial</a>
2675 file at that site for details on emil.  It is useful for
2676 converting character sets, attachment encodings, and attachment
2677 formats.  At this writing, emil does not appear to have been
2678 maintained since a patch to version 2.1.0beta9 in late 1997, but it is
2679 still useful.<p>
2680
2681 One good way of using emil is from within procmail.  You can have
2682 procmail look for signs of problematic message formatting, and pipe
2683 those messages through emil to be fixed.  emil will not always be able
2684 to fix the problem, in which case the message is unchanged.<p>
2685
2686 A possible rule to be inserted into a .procmailrc file for using emil
2687 would be:
2688
2689 <pre>
2690 :0HB
2691 * 1^1 ^Content-Type: \/X-sun[^;]*
2692 * 1^1 ^Content-Type: \/application/mac-binhex[^;]*
2693 * 1^1 ^Content-Transfer-Encoding: \/x-binhex[^;]*
2694 * 1^1 ^Content-Transfer-Encoding: \/x-uuencode[^;]*
2695 {
2696   LOG="Converting $MATCH
2697 "
2698   :0fw
2699   | emil -A B -T Q -B BA -C iso-8859-1 -H Q -F MIME \
2700   | gawk '{gsub(/\r\n?/,"\n");print $0}'
2701 }
2702 </pre>
2703
2704 The "1^1" in the conditions is a way of specifying to procmail that if
2705 any one of the four listed expressions is found in the message, the
2706 total condition is considered true, and the message gets passed into
2707 emil.  These four subconditions check whether the message has a Sun
2708 attachment, a binhex attachment, or a uuencoded attachment; there are
2709 others that could be added to check these things better and to check
2710 other relevant conditions.  The "LOG=" line writes a line into the
2711 procmail log; the lone double-quote beginning the following line makes
2712 sure the log entry gets an end-of-line character.  The call to gawk
2713 (GNU awk) is for fixing end-of-line conventions, since emil sometimes
2714 leaves those in the format of the originating machine; it could
2715 probably be replaced with a sed subsitution.<p>
2716
2717 The emil call itself tries to ensure that the message uses:
2718 <ul>
2719 <li> BinHex encoding for any Apple Macintosh-only attachments
2720 <li> Quoted-Printable encoding for text (when necessary)
2721 <li> Base64 Encoding for binary attachments
2722 <li> iso-8859-1 character set for text (unfortunately emil can't yet
2723   convert from windows-1252 to iso-8859-1)
2724 <li> Quoted-Printable encoding for headers
2725 <li> MIME attachment format
2726 </ul>
2727
2728 Most of these (the primary exceptions being the character set and the
2729 Apple binary format) are as they should be for good internet
2730 interoperability.<p>
2731
2732 Some mail servers (Lotus Domino is a suspect here) mangle
2733 Sun-formatted messages, so the conversion to MIME needs to happen
2734 before such programs see the message.  The ideal is to rid the world
2735 of Sun-formatted messages: don't use mailtool for sending attachments
2736 (it doesn't understand MIME anyway, and most of the world doesn't
2737 understand its attachments, so it really shouldn't be used at all),
2738 and make sure dtmail is set to use MIME rather than mailtool's format.<p>
2739
2740 <hr>
2741 <h2><a name="X7">X7. Some mail attachments are hanging fetchmail.</a></h2>
2742
2743 This isn't fetchmail's problem either; fetchmail doesn't know anything
2744 about mail attachments and doesn't treat them any differently from
2745 plain message data.<P>
2746
2747 The most usual cause of this problem seems to be bugs in your network
2748 transport layer's capability to handle the very large TCP/IP packets
2749 that attachments tend to turn into.  You can test this theory by trying to
2750 download the offending message through a webmail account; using HTTP
2751 for the message tends to simulate large-packet stress rather well, and
2752 you will probably find that the messages that seem to be choking
2753 fetchmail will make your HTTP download speed drop to zero.<P>
2754
2755 This problem can be caused by subtle bugs in the packet-reassembly
2756 layer of your TCP/IP stack; these often don't manifest at normal
2757 packet sizes.  It may also be caused by malfunctioning path-MTU
2758 discovery on the mailserver.  Or, if there's a modem in the link,
2759 it may be because the attachment contains the Hayes mode escape "+++".
2760
2761 <hr>
2762 <h2><a name="O1">O1. The --logfile option doesn't work if the logfile doesn't exist.</a></h2>
2763
2764 This is a feature, not a bug.  It's in line with normal practice for
2765 system daemons and allows you to suppress logging by removing the log,
2766 without hacking potentially fragile startup scripts.  To get around
2767 it, just touch(1) the logfile before you run fetchmail (this will have
2768 no effect on the contents of the logfile if it already exists).<P>
2769
2770 <hr>
2771 <h2><a name="O2">O2. Every time I get a POP or IMAP message the header
2772 is dumped to all my terminal sessions.</a></h2>
2773
2774 Fetchmail uses the local sendmail to perform final delivery, which
2775 Netscape and other clients doesn't do; the announcement of new messages
2776 is done by a daemon that sendmail pokes. There should be a ``biff''
2777 command to control this.  Type
2778
2779 <PRE>
2780 biff n
2781 </PRE>
2782
2783 to turn it off. If this doesn't work, try the command
2784
2785 <PRE>
2786 chmod -x `tty`
2787 </PRE>
2788
2789 which is essentially what <code>biff -n</code> will do. If this
2790 doesn't work, comment out any reference to ``comsat'' in your
2791 /etc/inetd.conf file and restart inetd.<P>
2792
2793 In Slackware Linux distributions, the last line in /etc/profile is
2794
2795 <PRE>
2796 biff y
2797 </PRE>
2798
2799 Change this to
2800
2801 <PRE>
2802 biff n
2803 </PRE>
2804
2805 to solve the problem system-wide.<P>
2806
2807 <hr>
2808 <h2><a name="O3">O3. Does fetchmail reread its rc file every poll cycle?</a></h2>
2809
2810 No, but versions 5.2.2 and later will notice when you modify your rc
2811 file and restart, reading it.
2812
2813 <hr>
2814 <h2><a name="O4">O4. Why do deleted messages show up again when I take
2815 a line hit while downloading?</a></h2>
2816
2817 Because you're using a POP3 other than Qualcomm qpopper, or an IMAP
2818 with a long expunge interval.<P>
2819
2820 According to the POP3 RFCs, deletes aren't actually performed until
2821 you issue the end-of-session QUIT command.  Fetchmail cannot fix this,
2822 because doing it right takes cooperation from the server. There are
2823 two possible remedies:<P>
2824
2825 One is to switch to qpopper (the free POP3 server from Qualcomm,
2826 the Eudora people).  The qpopper software violates the POP3 RFCs by
2827 doing an expunge (removing deleted messages) on a line hangup, as well
2828 as on processing a QUIT command.<P>
2829
2830 The other (which we recommend) is to switch to <a
2831 href="http://www.imap.org">IMAP</a>.  IMAP has an explicit expunge
2832 command and fetchmail normally uses it to delete messages immediately
2833 after they are downloaded.<P>
2834
2835 If you get very unlucky, you might take a line hit in the window
2836 between the delete and the expunge.  If you've set a longer expunge
2837 interval, the window gets wider.  This problem should correct itself
2838 the next time you complete a successful query.<P>
2839
2840 <hr>
2841 <h2><a name="O5">O5. Why is fetched mail being logged with my name, not the real From address?</a></h2>
2842
2843 Because logging is done based on the address indicated by the sending
2844 SMTP's MAIL FROM, and some listeners are picky about that address.<p>
2845
2846 Some SMTP listeners get upset if you try to hand them a MAIL FROM
2847 address naming a different host than the originating site for your
2848 connection.  This is a feature, not a bug -- it's supposed to help
2849 prevent people from forging mail with a bogus origin site.  (RFC 1123
2850 says you shouldn't do this exclusion...)<p>
2851
2852 Since the originating site of a fetchmail delivery connection is
2853 localhost, this effectively means these picky listeners will barf on
2854 any MAIL FROM address fetchmail hands them with an @ in it!<p>
2855
2856 Versions 2.1 and up try the header From address first and fall back to
2857 the calling-user ID.  So if your SMTP listener isn't picky, the log
2858 will look right.<p>
2859
2860 <hr>
2861 <h2><a name="O6">O6. I'm seeing long sendmail delays or hangs near the start of each poll cycle.</a></h2>
2862
2863 Sendmail does a hostname lookup when it first starts up, and also each
2864 time it gets a HELO in listener mode.<p>
2865
2866 Your resolver configuration may be causing one of these lookups to
2867 fail and time out.  Check <code>/etc/resolv.conf</code> and
2868 <code>/etc/hosts</code> file. Make sure your hostname and
2869 fully-qualified domain name are both in <code>/etc/hosts</code>, and
2870 that hosts is looked at before DNS is queried.  You probably also want
2871 your remote mail server(s) to be in the hosts file.<p>
2872
2873 You can suppress the startup-time lookup if need to by reconfiguring
2874 with <code>FEATURE(nodns)</code>.<p>
2875
2876 Configuring your bind library to cache DNS lookups locally may help,
2877 and is a good idea for speeding up other services as well.  Switching to
2878 a faster MTA like qmail or exim might help. <p>
2879
2880 <hr>
2881 <h2><a name="O7">O7. Why doesn't fetchmail deliver mail in date-sorted order?</a></h2>
2882
2883 Because that's not the order the server hands it to fetchmail in.<P>
2884
2885 Fetchmail getting mail from a POP server delivers mail in the order
2886 that your server delivers mail.  Fetchmail can't do anything about
2887 this; it's a limitation of the underlying POP protocol.<P>
2888
2889 In theory it might be possible for fetchmail in IMAP mode to sort
2890 messages by date, but this would be in violation of two basics of
2891 fetchmail's design philosophy: (a) to be as simple and transparent a
2892 pipe as possible, and (b) to <em>hide</em>, rather than emphasize, the
2893 differences between the remote-fetch protocols it uses.<P>
2894
2895 Re-ordering messages is a user-agent function, anyway.<P>
2896
2897 <hr>
2898 <h2><a name="O8">O8. I'm using pppd.  Why isn't my monitor option working?</a></h2>
2899
2900 There is a combination of circumstances that can confuse fetchmail.
2901 If you have set up demand dialing with pppd, and pppd has an idle
2902 timeout, and you have lcp-echo-interval set, then the
2903 lcp-echo-interval time must be longer than the pppd idle timeout.
2904 Otherwise it is going keep increasing the packet counters that fetchmail
2905 relies upon, triggering fetchmail into polling after its own delay
2906 interval and thus preventing the pppd link from ever reaching its
2907 inactivity timeout.<p>
2908
2909 <hr>
2910 <h2><a name="O9">O9. Why does fetchmail keep retrieving the same messages
2911 over and over?</a></h2>
2912
2913 First, check to see that you haven't enabled the <cite>keep</cite>
2914 and <cite>fetchall</cite> option.  If you have, turn <cite>keep</cite> off.<p>
2915
2916 There are various forms of lossage involving the POP3 UIDL feature
2917 that can lead to all your old messages being seen again after a line
2918 drop.  I have given up trying to fix these, as the UIDL code breaks
2919 worse every time I touch it.  The problem is fundamental; maintaining
2920 and garbage-collecting the right kind of client-side state is just
2921 hard.  Whoever put UIDLs in RFC1725 and removed LAST should be hung
2922 up by his thumbs and whipped with scorpions.  The right answers are
2923 either (a) live with the occasional breakage, (b) switch to IMAP4,
2924 or (c) fix the code yourself and send me a patch.  Unless you choose
2925 (c), I don't want to hear about it.<p>
2926
2927 This can also happen when some other mail client is logged in to your
2928 mail server, if it uses a simple exclusive-locking scheme (and many,
2929 especially most POP3 servers, do exactly that).  Your fetchmail is
2930 able to retrieve the messages, but because the mailbox is write-locked
2931 by the other instance yours can neither mark messages seen or delete them.
2932 The solution is to either (a) wait for the other client to finish, or (b)
2933 terminate it.<p>
2934
2935 James Stevens &lt;James.Stevens@kyzo.com&gt; writes:<p>
2936
2937 <em>
2938 We had a Linux box dialing the Net and collecting mail from an NT POP3
2939 server.  Fetchmail was correctly collecting and deleting each e-mail
2940 one by one. However,the dial-up connection was very unreliable and
2941 would often just drop out in the middle of a session.<p>
2942
2943 Interestingly, unless the TCP POP3 connection was terminated normally
2944 (I guess with a POP3 "QUIT" command) NT would then roll back all the
2945 deletes !!!<p>
2946
2947 This meant if the first e-mail was very large it might just end up
2948 continuously collecting it, basically jamming the queue. Or, if the
2949 queue became very full itmight never get a long enough phone
2950 connection to retrieve the entire mailbox, and NT would roll back any
2951 deletes, so it would end up collecting (and delivering) the first few
2952 e-mails again and again. As the POP3 mailbox became fuller and fuller
2953 the chances of getting a connection long enough to collect theentire
2954 mailbox became smaller and smaller.<p>
2955
2956 Our solution was to make fetchmail only collect a few (say 5 or 10)
2957 e-mails at atime, thus trying to ensure that the POP3 connection is
2958 terminated correctly.
2959 </em>
2960
2961 Unfortunately, this is exactly the way POP3 servers are supposed
2962 to behave on a line drop, according to the RFCs.  I recommend
2963 switching to IMAP and using a short expunge interval.<p>
2964
2965 <HR>
2966 <table width="100%" cellpadding=0><tr>
2967 <td width="30%">Back to <a href="index.html">Fetchmail Home Page</a>
2968 <td width="30%" align=center>To <a href="/~esr/sitemap.html">Site Map</a>
2969 <td width="30%" align=right>$Date: 2001/02/10 21:20:33 $
2970 </table>
2971
2972 <P><ADDRESS>Eric S. Raymond <A HREF="mailto:esr@thyrsus.com">&lt;esr@snark.thyrsus.com&gt;</A></ADDRESS>
2973 </BODY>
2974 </HTML>
2975 <!--
2976 Local Variables:
2977 compile-command: "(cd ~/WWW; upload fetchmail/fetchmail-FAQ.html)"
2978 End:
2979 -->