Pileus Git - ~andy/fetchmail/blob - fetchmail-FAQ.html

   1 <!doctype HTML public "-//W3O//DTD W3 HTML 3.2//EN">
   2 <HTML>
   3 <HEAD>
   4 <TITLE>The Fetchmail FAQ</TITLE>
   5 <link rev=made href="mailto:esr@snark.thyrsus.com">
   6 <meta name="description" content="Frequently asked questions about fetchmail.">
   7 <meta name="keywords" content="fetchmail, POP, POP2, POP3, IMAP, remote mail">
   8 </HEAD>
   9 <BODY>
  10 <table width="100%" cellpadding=0><tr>
  11 <td width="30%">Back to <a href="index.html">Fetchmail Home Page</a>
  12 <td width="30%" align=center>To <a href="/~esr/sitemap.html">Site Map</a>
  13 <td width="30%" align=right>$Date: 2001/02/07 08:01:08 $
  14 </table>
  15 <HR>
  16 <H1>Frequently Asked Questions About Fetchmail</H1>
  17
  18 Before reporting any bug, please read <a href="#G3">G3</a> for advice
  19 on how to include diagnostic information that will get your bug fixed
  20 as quickly as possible. <p>
  21
  22 If you have a question or answer you think ought to be added to this FAQ list,
  23 mail it to fetchmail's maintainer, Eric S. Raymond, at
  24 <A HREF="mailto:esr@thyrsus.com">esr@snark.thyrsus.com</A>.<p>
  25
  26 <h1>General questions:</h1>
  27
  28 <a href="#G1">G1. What is fetchmail and why should I bother?</a><br>
  29 <a href="#G2">G2. Where do I find the latest FAQ and fetchmail sources?</a><br>
  30 <a href="#G3">G3. I think I've found a bug.  Will you fix it?</a><br>
  31 <a href="#G4">G4. I have this idea for a neat feature. Will you add it?</a><br>
  32 <a href="#G5">G5. Is there a mailing list for exchanging tips?</a><br>
  33 <a href="#G6">G6. So, what's this I hear about a fetchmail paper?</a><br>
  34 <a href="#G7">G7. What is the best server to use with fetchmail?</a><br>
  35 <a href="#G8">G8. What is the best mail program to use with fetchmail?</a><br>
  36 <a href="#G9">G9. How can I avoid sending my password en clair?</a><br>
  37 <a href="#G10">G10. Is any special configuration needed to use a dynamic
  38 IP address?</a><br>
  39 <a href="#G11">G11. Is any special configuration needed to use firewalls?</a><br>
  40 <a href="#G12">G12. Is any special configuration needed to <em>send</em> mail?</a><br>
  41 <a href="#G13">G13. Is fetchmail Y2K-compliant?</a><br>
  42 <a href="#G14">G14. Is there a way in fetchmail to support disconnected IMAP mode?</a><br>
  43 <a href="#G15">G15. How will fetchmail perform under heavy loads?</a><br>
  44
  45 <h1>Build-time problems:</h1>
  46
  47 <a href="#B1">B1. Lex bombs out while building the fetchmail lexer.</a><br>
  48 <a href="#B2">B2. I get link failures when I try to build fetchmail.</a><br>
  49
  50 <h1>Fetchmail configuration file grammar questions:</h1>
  51
  52 <a href="#F1">F1. Why does my old .fetchmailrc no longer work?</a><br>
  53 <a href="#F2">F2. The .fetchmailrc parser won't accept my all-numeric user name.</a><br>
  54 <a href="#F3">F3. The .fetchmailrc parser won't accept my host or username beginning with `no'.</a><br>
  55 <a href="#F4">F4. I'm getting a `parse error' message I don't understand.</a><br>
  56 <a href="#F5">F5. The %h and %p escapes aren't being interporated correctly.</a><br>
  57
  58 <h1>Configuration questions:</h1>
  59
  60 <a href="#C1">C1. Why do I need a .fetchmailrc when running as root on my own machine?</a><br>
  61 <a href="#C2">C2. How can I arrange for a fetchmail daemon to get killed when I log out?</a><br>
  62 <a href="#C3">C3. How do I know what interface and address to use with --interface?</a><br>
  63 <a href="#C4">C4. How can I set up support for sendmail's anti-spam features?</a><br>
  64 <a href="#C5">C5. How can I poll some of my mailboxes more/less often than others?</a><br>
  65 <a href="#C6">C6. Fetchmail works OK started up manually, but not from an init script.</a><br>
  66 <a href="#C7">C7. How can I forward mail to another host?.</a><br>
  67
  68 <h1>How to make fetchmail play nice with various MTAs:</h1>
  69
  70 <a href="#T1">T1. How can I use fetchmail with sendmail?</a><br>
  71 <a href="#T2">T2. How can I use fetchmail with qmail?</a><br>
  72 <a href="#T3">T3. How can I use fetchmail with exim?</a><br>
  73 <a href="#T4">T4. How can I use fetchmail with smail?</a><br>
  74 <a href="#T5">T5. How can I use fetchmail with SCO's MMDF?</a><br>
  75 <a href="#T6">T6. How can I use fetchmail with Lotus Notes?</a><br>
  76
  77 <h1>How to make fetchmail work with various servers:</h1>
  78
  79 <a href="#S1">S1. How can I use fetchmail with qpopper?</a><br>
  80 <a href="#S2">S2. How can I use fetchmail with Microsoft Exchange?</a><br>
  81 <a href="#S3">S3. How can I use fetchmail with Compuserve RPA?</a><br>
  82 <a href="#S4">S4. How can I use fetchmail with Demon Internet's SDPS?</a><br>
  83 <a href="#S5">S5. How can I use fetchmail with usa.net's servers?</a><br>
  84 <a href="#S6">S6. How can I use fetchmail with HP OpenMail?</a><br>
  85 <a href="#S7">S7. How can I use fetchmail with geocities POP3 servers?</a><br>
  86 <a href="#S8">S8. How can I use fetchmail with Hotmail?</a><br>
  87 <a href="#S9">S9. How can I use fetchmail with MSN?</a><br>
  88 <a href="#S10">S10. How can I use fetchmail with SpryNet?</a><br>
  89 <a href="#S11">S11. How can I use fetchmail with FTGate?</a><br>
  90 <a href="#S12">S12. How can I use fetchmail with MailMax?</a><br>
  91 <a href="#S13">S13. How can I use fetchmail with Novell GroupWise?</a><br>
  92 <a href="#S14">S14. How can I use fetchmail with InterChange?</a><br>
  93
  94 <h1>How to set up well-known security and authentication methods:</h1>
  95
  96 <a href="#K1">K1. How can I use fetchmail with SOCKS?</a><br>
  97 <a href="#K2">K2. How can I use fetchmail with IPv6 and IPsec?</a><br>
  98 <a href="#K3">K3. How can I get fetchmail to work with ssh?</a><br>
  99 <a href="#K4">K4. What do I have to do to use the IMAP-GSS protocol?</a><br>
 100 <a href="#K5">K5. How can I use fetchmail with SSL?</a><br>
 101
 102 <h1>Runtime fatal errors:</h1>
 103
 104 <a href="#R1">R1. Fetchmail isn't working, and -v shows `SMTP connect failed' messages.</a><br>
 105 <a href="#R2">R2. When I try to configure an MDA, fetchmail doesn't work.</a><br>
 106 <a href="#R3">R3. Fetchmail dumps core when given an invalid rc file.</a><br>
 107 <a href="#R4">R4. Fetchmail dumps core in -V mode, but operates normally otherwise.</a><br>
 108 <a href="#R5">R5. Running fetchmail in daemon mode doesn't work.</a><br>
 109 <a href="#R6">R6. Fetchmail hangs when used with pppd.</a><br>
 110 <a href="#R7">R7. Fetchmail randomly dies with socket errors.</a><br>
 111 <a href="#R8">R8. Fetchmail running as root stopped working after an OS upgrade</a><br>
 112 <a href="#R9">R9. Fetchmail is timing out after fetching certain
 113 messages but before deleting them</a><br>
 114 <a href="#R10">R10. Fetchmail is timing out during message fetches</a><br>
 115 <a href="#R11">R11. Fetchmail is dying with SIGPIPE.</a><br>
 116
 117 <h1>Disappearing mail</h1>
 118
 119 <a href="#D1">D1. I think I've set up fetchmail correctly, but I'm not getting any mail.</a><br>
 120 <a href="#D2">D2. All my mail seems to disappear after a dropped connection.</a><br>
 121 <a href="#D3">D3. Mail that was being fetched when I interrupted my fetchmail seems to have been vanished.</a><br>
 122
 123 <h1>Multidrop-mode problems:</h1>
 124
 125 <a href="#M1">M1. I've declared local names, but all my multidrop mail is going to root anyway.</a><br>
 126 <a href="#M2">M2. I can't seem to get fetchmail to route to a local domain properly.</a><br>
 127 <a href="#M3">M3. I tried to run a mailing list using multidrop, and I have a mail loop!</a><br>
 128 <a href="#M4">M4. My multidrop fetchmail seems to be having DNS problems.</a><br>
 129 <a href="#M5">M5. I'm seeing long DNS delays before each message is processed.</a><br>
 130 <a href="#M6">M6. How do I get multidrop mode to work with majordomo?</a><br>
 131 <a href="#M7">M7. Multidrop mode isn't parsing envelope addresses from
 132 my Received headers as it should.</a><br>
 133 <a href="#M8">M8. Users are getting multiple copies of messages.</a><br>
 134
 135 <h1>Mangled mail:</h1>
 136
 137 <a href="#X1">X1. Spurious blank lines are appearing in the headers of fetched mail.</a><br>
 138 <a href="#X2">X2. My mail client can't see a Subject line.</a><br>
 139 <a href="#X3">X3. Messages containing "From" at start of line are being split.</a><br>
 140 <a href="#X4">X4. My mail is being mangled in a new and different way.</a><br>
 141 <a href="#X5">X5. Using POP3, retrievals seems to be fetching too much!</a><br>
 142 <a href="#X6">X6. My mail attachments are being dropped or mangled.</a><br>
 143 <a href="#X7">X7. Some mail attachments are hanging fetchmail.</a><br>
 144
 145 <h1>Other problems:</h1>
 146
 147 <a href="#O1">O1. The --logfile option doesn't work if the logfile doesn't exist.</a><br>
 148 <a href="#O2">O2. Every time I get a POP or IMAP message the header is
 149 dumped to all my terminal sessions.</a><br>
 150 <a href="#O3">O3. Does fetchmail reread its rc file every poll cycle?</a><br>
 151 <a href="#O4">O4. Why do deleted messages show up again when I take
 152 a line hit while downloading?</a><br>
 153 <a href="#O5">O5. Why is fetched mail being logged with my name, not the real From address?</a><br>
 154 <a href="#O6">O6. I'm seeing long sendmail delays or hangs near the start of each poll cycle.</a><br>
 155 <a href="#O7">O7. Why doesn't fetchmail deliver mail in date-sorted order?</a><br>
 156 <a href="#O8">O8. I'm using pppd.  Why isn't my monitor option working?</a><br>
 157 <a href="#O9">O9. Why does fetchmail keep retrieving the same messages
 158 over and over?</a><br>
 159
 160 <h1>Answers:</h1>
 161 <hr>
 162 <h2><a name="G1">G1. What is fetchmail and why should I bother?</a></h2>
 163
 164 Fetchmail is a one-stop solution to the remote mail retrieval problem
 165 for Unix machines, quite useful to anyone with an intermittent PPP or
 166 SLIP connection to a remote mailserver.  It can collect mail using any
 167 variant of POP or IMAP and forwards via port 25 to the local SMTP
 168 listener, enabling all the normal forwarding/filtering/aliasing
 169 mechanisms that would apply to local mail or mail arriving via a
 170 full-time TCP/IP connection.<p>
 171
 172 Fetchmail is not a toy or a coder's learning exercise, but an
 173 industrial-strength tool capable of transparently handling every
 174 retrieval demand from those of a simple single-user ISP connection up
 175 to mail retrieval and rerouting for an entire client domain.
 176 Fetchmail is easy to configure, unobtrusive in operation, powerful,
 177 feature-rich, and well documented. <P>
 178
 179 Fetchmail is <a href="http://www.opensource.org">open-source</a>
 180 software.  The openness of the sources is the strongest assurance of
 181 quality you can have.  Extensive peer review by a large,
 182 multi-platform user community has shown that fetchmail is as near
 183 bulletproof as the underlying protocols permit.<p>
 184
 185 Fetchmail is licensed under the <a
 186 href="http://gnu.org//copyleft/gpl.html">GNU General Public
 187 License</a>.<p>
 188
 189 If you found this FAQ in the distribution, see the README for fetchmail's
 190 full feature list.<p>
 191
 192 <hr>
 193 <h2><a name="G2">G2. Where do I find the latest FAQ and fetchmail
 194 sources?</a></h2>
 195
 196 The latest HTML FAQ is available alongside the latest fetchmail
 197 sources at the fetchmail home page:
 198 <a href="http://www.tuxedo.org/~esr/fetchmail">
 199 http://www.tuxedo.org/~esr/fetchmail</a>.  You can also usually find
 200 both in the <a
 201 href="http://sunsite.unc.edu/pub/Linux/system/mail/pop/!INDEX.html">POP
 202 mail tools directory on Sunsite</a>.<p>
 203
 204 A text dump of this FAQ is included in the fetchmail
 205 distribution. Because it freezes at distribution release time, it may
 206 not be completely current.<p>
 207
 208 <hr>
 209 <h2><a name="G3">G3.  I think I've found a bug.  Will you fix it?</a></h2>
 210
 211 Yes I will, provided you include enough diagnostic information for me
 212 to go on.  Send bugs to <a
 213 href="mailto:fetchmail-friends@ccil.org">fetchmail-friends</a>.  When reporting
 214 bugs, please include the following:
 215
 216 <ol>
 217 <li>Your operating system.
 218 <li>Your compiler version, if you built from source; otherwise, the
 219     name and origin ogf the RPM or other binary package you installed.
 220 <li>A copy of your POP or IMAP server's greeting line.
 221 <li>The name and version of the SMTP listener or MDA you are forwarding to.
 222 <li>Any command-line options you used.
 223 <li>The output of fetchmail -V called with whatever other
 224     command-line options you used.
 225 </ol>
 226
 227 If you have FTP access to your remote mail account, and you have any
 228 suspicion that the bug was triggered by a particular message, please
 229 include a copy of the message that triggered the bug.<p>
 230
 231 Often, the first thing I will do when you report a bug is tell you to
 232 upgrade to the newest version of fetchmail, and then see if the
 233 problem reproduces.  So you'll probably save us both time if you
 234 upgrade and test with the latest version <em>before</em> sending in a
 235 bug report.<P>
 236
 237 Another useful thing you can do, if you're using POP3, is to test for
 238 IMAP4 support on your mailserver using the autoprobe function of
 239 fetchmailconf.  If you have IMAP4, and fetchmailconf doesn't tell you
 240 it's broken, switch immediately.  POP3 is a weak, poorly-designed
 241 protocol with chronic problems, and the later versions after RFC1725
 242 actually get worse rather than better.  Changing over to IMAP4 may well
 243 make your problem go away -- and if your ISP doesn't have IMAP4
 244 support, bug them to supply it.<p>
 245
 246 It is helpful if you include your .fetchmailrc file, but not necessary
 247 unless your symptom seems to involve an error in configuration
 248 parsing.  If you do send in your .fetchmailrc, mask the passwords
 249 first! <p>
 250
 251 If fetchmail seems to run and fetch mail, but the headers look mangled
 252 (that is, headers are missing or blank lines are inserted in the
 253 headers) then read the FAQ items in section <a href="#X1">X</a>
 254 before submitting a bug report.  Pay special attention to the item on
 255 <a href="#generic_mangling">diagnosing mail mangling</a>.  There are
 256 lots of ways for other programs in the mail chain to screw up that
 257 look like fetchmail's fault, but you may be able to fix these by
 258 tweaking your configuration.<P>
 259
 260 A transcript of the failed session with -v -v (yes, that's
 261 <em>two</em> -v options, enabling debug mode) will almost always be useful.
 262 It is very important that the transcript include your POP/IMAP server's
 263 greeting line, so I can identify it in case of server problems.  This
 264 transcript will not reveal your passwords, which are specially masked
 265 out precisely so the transcript can be passed around.<P>
 266
 267 If the bug involves a core dump or hang, a gdb stack trace is good to have.
 268 (Bear in mind that you can attach gdb to a running but hung process by
 269 giving the process ID as a second argument.)  You will need to
 270 reconfigure with <p>
 271
 272 <PRE>
 273 CFLAGS=-g LDFLAGS=" " ./configure
 274 </PRE>
 275
 276 and then rebuild in order to generate a version that can be gdb-traced.<p>
 277
 278 Best of all is a mail file which, when fetched, will reproduce the
 279 bug under the latest (current) version.<p>
 280
 281 Any bug I can reproduce will usually get fixed very quickly, often
 282 within 48 hours.  Bugs I can't reproduce are a crapshoot.  If the
 283 solution isn't obvious when I first look, it may evade me for a long
 284 time (or to put it another way, fetchmail is well enough tested that the
 285 easy bugs have long since been found).  So if you want your bug fixed
 286 rapidly, it is not just sufficient but nearly <em>necessary</em> that
 287 you give me a way to reproduce it.<p>
 288
 289 <hr>
 290 <h2><a name="G4">G4.  I have this idea for a neat feature.  Will you add it?</a></h2>
 291
 292 Probably not.  Most of the feature suggestions I get are for ways to
 293 set various kinds of administrative policy or add more spam filtering
 294 (the most common one, which I used to get about four million times a week
 295 and got <em>really</em> tired of, is for tin-like kill files).<p>
 296
 297 You can do spam filtering better with procmail or maildrop on the
 298 server side and (if you're the server sysadmin) sendmail.cf domain
 299 exclusions.  You can do other policy things better with the
 300 <CODE>mda</CODE> option and script wrappers around fetchmail.  If
 301 it's a prime-time-vs.-non-prime-time issue, ask yourself whether a
 302 wrapper script called from crontab would do the job.<p>
 303
 304 I'm not going to do these; fetchmail's job is transport, not policy, and I
 305 refuse to change it from doing one thing well to attempting many things badly.
 306 One of my objectives is to keep fetchmail simple so it stays reliable.<p>
 307
 308 For reasons fetchmail doesn't have other commonly-requested features
 309 (such as password encryption, or multiple concurrent polls from the
 310 same instance of fetchmail) see the <a
 311 href="http://www.tuxedo.org/~esr/fetchmail/design-notes.html">design notes</a>.<p>
 312
 313 Fetchmail is a mature project, no longer in constant active
 314 development.  It is no longer my top project, and I am going to be
 315 quite reluctant to add features that might either jeopardize its
 316 stability or involve me in large amounts of coding.<p>
 317
 318 All that said, if you have a feature idea that really is about a transport
 319 problem that can't be handled anywhere but fetchmail, lay it on me.  I'm
 320 very accommodating about good ideas.<p>
 321
 322 <hr>
 323 <h2><a name="G5">G5. Is there a mailing list for exchanging tips?</a></h2>
 324
 325 There is a fetchmail-friends list for people who want to discuss fixes
 326 and improvements in fetchmail and help co-develop it.  It's a MailMan
 327 list, which you can sign up for at <a
 328 <a href="http://lists.ccil.org/mailman/listinfo/fetchmail-friends">fetchmail-friends@lists.ccil.org</a>.
 329 There is also an announcements-only list, <a href="http://lists.ccil.org/mailman/listinfo/fetchmail-announce">fetchmail-announce@lists.ccil.org</em>.<P>
 330
 331
 332 <hr>
 333 <h2><a name="G6">G6. So, what's this I hear about a fetchmail paper?</a></h2>
 334
 335 The fetchmail development was also a sociological experiment, an
 336 extended test to see if my theory about the critical features of the
 337 Linux development model is correct.<p>
 338
 339 The experiment was a success.  I wrote a paper about it titled <a
 340 href="http://www.tuxedo.org/~esr/writings/cathedral.html">The
 341 Cathedral and the Bazaar</a> which was first presented at Linux
 342 Kongress '97 in Bavaria and very well received there. It was also
 343 given at Atlanta Linux Expo, Linux Pro '97 in Warsaw, and the first
 344 Perl Conference, at UniForum '98, and was the basis of an invited
 345 presentation at Usenix '98.  The folks at Netscape tell me it helped
 346 them decide to <a
 347 href="http://www.netscape.com/newsref/pr/newsrelease558.html"> give
 348 away the source for Netscape Communicator</a>.<p>
 349
 350 If you're reading a non-HTML dump of this FAQ, you can find the paper
 351 on the Web with a search for that title.<p>
 352
 353 <hr>
 354 <h2><a name="G7">G7. What is the best server to use with fetchmail?</a></h2>
 355
 356 The short answer: IMAP4rev1 running over Unix.<P>
 357
 358 Here's a longer answer: <P>
 359
 360 Fetchmail will work with any POP, IMAP, ETRN, or ODMR server that
 361 conforms to the relevant RFCs (and even some outright broken ones like
 362 <a href="#S2">Microsoft Exchange</a> and <a href="#S12">Novell
 363 GroupWise</a>).  This doesn't mean it works equally well with all,
 364 however.  POP2 servers, and POP3 servers without LAST, limit
 365 fetchmail's capabilities in various ways described on the manual
 366 page.<P>
 367
 368 Most modern Unixes (and effectively all Linux/*BSD systems) come with
 369 POP3 support preconfigured (but beware of the horribly broken POP3
 370 server mentioned in <a href="#D2">D2</a>).  An increasing minority
 371 also feature IMAP (you can detect IMAP support by running fetchmail in
 372 AUTO mode, or by using the `Probe for supported protocols' function in
 373 the fetchmailconf utility).<P>
 374
 375 If you have the option, we recommend using or installing an IMAP4rev1
 376 server; it has the best facilities for tracking message `seen' states.
 377 It also recovers from interrupted connections more gracefully than
 378 POP3, and enables some significant performance optimizations.<P>
 379
 380 Don't be fooled by NT/Exchange propaganda.  M$ Exchange is just plain
 381 broken (see item <a href="#S2">S2</a>) and NT cannot handle the
 382 sustained load of a high-volume remote mail server.  Even Microsoft
 383 itself knows better than to try this; their own Hotmail service runs
 384 over Solaris!  For extended discussion, see John Kirch's excellent <a
 385 href="http://unix-vs-nt.org/kirch/">white paper</a> on Unix
 386 vs. NT performance.<P>
 387
 388 You can find sources for IMAP software at <a
 389 href="http://www.imap.org">The IMAP Connection</a>; we like the
 390 open-source <a href="ftp://ftp.cac.washington.edu/imap/">UW IMAP</a>
 391 server, which is the reference implementation of IMAP.  UW IMAP's
 392 support for GSSAPI gives you a good way to authenticate without
 393 sending a password en clair.<P>
 394
 395 Source for a high-quality supported implementation of POP is available
 396 from the <a href="ftp://ftp.qualcomm.com/eudora/servers/unix/popper/">Eudora
 397 FTP site</a>.  Don't use 2.5, which has a rather restrictive license.
 398 The 2.5.2 version appears to restore the open-source license of
 399 previous versions.<P>
 400
 401 <hr>
 402 <h2><a name="G8">G8. What is the best mail program to use with fetchmail?</a></h2>
 403
 404 Fetchmail will work with all popular <a href="#T1">mail transport programs</a>.
 405 It also doesn't care which user agent you use, and user agents are as a
 406 rule almost equally indifferent to how mail is delivered into your system
 407 mailbox.  So any of the popular Unix mail agents --
 408 <a href="http://www.myxa.com/old/elm.html">elm</a>,
 409 <a href="http://www.washington.edu/pine/">pine</a>
 410 <a href="http://www.cs.indiana.edu/docproject/mail/mh.html">mh</a>,
 411 or <a href="http://www.mutt.org">mutt</a>
 412 -- will work fine with fetchmail.<p>
 413
 414 All this having been said, I can't resist putting in a discreet plug
 415 for <a href="http://www.mutt.org">mutt</a>.  My own personal mail
 416 setup is sendmail plus fetchmail plus mutt.  Mutt's interface is only
 417 a little different from that of its now-moribund ancestor elm, but its
 418 excellent handling of MIME and PGP put it in a class by itself.  You
 419 won't need its built-in POP3 support, though; most of the mutt
 420 developers will cheerfully admit that fetchmail's is better :-).<p>
 421
 422 <hr>
 423 <h2><a name="G9">G9. How can I avoid sending my password en clair?</a></h2>
 424
 425 Depending on what your mail server you are talking to, this ranges
 426 from trivial to impossible.  It may even be next to useless.<P>
 427
 428 Most people use fetchmail over phone wires, which are hard to tap.
 429 Anybody with the skill and resources to do this could get into your
 430 server mailbox with much less effort by subverting the server host.
 431 So if your provider setup is modem wires going straight into a service
 432 box, you probably don't need to worry.<P>
 433
 434 In general there is little point in trying to secure your fetchmail
 435 transaction unless you trust the security of the server host you are
 436 retrieving mail from.  Your vulnerability is more likely to be an
 437 insecure local network on the server end (e.g. to somebody with a TCP/IP
 438 packet sniffer intercepting Ethernet traffic between the modem
 439 concentrator you dial in to and the mailserver host).<P>
 440
 441 Having realized this, you need to ask whether password encryption
 442 alone will really address your security exposure.  If you think you
 443 might be snooped between server and client, it's better to use
 444 end-to-end encryption on your whole mail stream so none of it can be
 445 read.  One of the advantages of fetchmail over conventional SMTP-push
 446 delivery is that you may be able to arrange this by using ssh(1); see
 447 <a href="#K3">K3</a>.<P>
 448
 449 Note that ssh is not a complete privacy solution either, as your mail
 450 could have been snooped in transit to your POP server from wherever it
 451 originated.  For best security, agree with your correspondents to use
 452 a tool such as <a href="http://www.gnupg.org/">GPG</a> (Gnu Privacy
 453 Guard) or PGP (Pretty Good Privacy).<P>
 454
 455 If ssh/sshd isn't available, or you find it too complicated for you to
 456 set up, password encryption will at least keep a malicious cracker
 457 from deleting your mail, and require him to either tap your connection
 458 continuously or crack root on the server in order to read it.<P>
 459
 460 You can deduce what encryptions your mail server has available
 461 by looking at the server greeting line (and, for IMAP, the
 462 response to a CAPABILITY query).  Do a <code>fetchmail -v</code>
 463 to see these, or telnet direct to the server port (110 for POP3, 143 for
 464 IMAP).<P>
 465
 466 The facility you are most likely to have available is APOP.  This is a
 467 POP3 feature supported by many servers (fetchmailconf's autoprobe
 468 facility will detect it and tell you if you have it).  If you see
 469 something in the greeting line that looks like an
 470 angle-bracket-enclosed Internet address with a numeric left-hand part,
 471 that's an APOP challenge (it will vary each time you log in).  You can
 472 register a secret on the host (using <code>popauth(8)</code> or some
 473 program like it).  Specify the secret as your password in your
 474 .fetchmailrc; it will be used to encrypt the current challenge, and
 475 the encrypted form will be sent back the the server for
 476 verification.<P>
 477
 478 Alternatively, you may have Kerberos available. This may require you
 479 to set up some magic files in your home directory on your client
 480 machine, but means you can omit specifying any password at all.<P>
 481
 482 Fetchmail supports two different Kerberos schemes.  One is a
 483 POP3 variant called KPOP; consult the documentation of your mail
 484 server to see if you have it (one clue is the string "krb-IV" in the
 485 greeting line on port 110).  The other is an IMAP facility described
 486 by RFC1731. You can tell if this one is present by looking for
 487 AUTH=KERBEROS_V4 in the CAPABILITY response.<P>
 488
 489 If you are fetching mail from a CompuServe POP3 account, you can use
 490 their RPA authentication (which works much like APOP).  See <a
 491 href="#S3">S3</a> for details.  If you are fetching mail from
 492 Microsoft Exchange, you will be able to use NTLM.<P>
 493
 494 Your POP3 server may have the RFC1938 OTP capability to use one-time
 495 passwords (if it doesn't, you can get OTP patches for the 2.2 version
 496 of the Qualcomm popper from <a href="#cmetz">Craig Metz</a>). To check
 497 this, look for the string "otp-" in the greeting line.  If you see it,
 498 and your fetchmail was built with OPIE support compiled in (see the
 499 distribution INSTALL file), fetchmail will detect it also.  When using
 500 OTP, you will specify a password but it will not be sent en clair.<P>
 501
 502 Sadly, there is at present (September 1999) no OTP or APOP-like
 503 facility generally available on IMAP servers.  However, there do exist
 504 patches which will OTP-enable the University of Washington IMAP
 505 daemon, version 4.2-FINAL.  We have a report that the GSSAPI support
 506 in fetchmail works with the GSSAPI support in the most recent version
 507 of UW IMAP.  Or you can use <a href="#K5">SSL</a> for complete
 508 end-to-end encryption if you have an SSL-enabled mailserver.<P>
 509
 510 You can get both POP3 and IMAP OTP patches from <a name="cmetz">Craig
 511 Metz</A> at <a
 512 href="http://www.inner.net/pub/">http://www.inner.net/pub/</a>.<P>
 513 These patches use a SASL authentication method named "X-OTP" because
 514 there is not currently a standard way to do this; fetchmail also uses
 515 this method, so the two will interoperate happily.  They better,
 516 because this is how Craig gets his mail ;-)<P>
 517
 518 <hr>
 519 <h2><a name="G10">G10. Is any special configuration needed to use a dynamic IP address?</a></h2>
 520
 521 Yes. In order to avoid giving indigestion to certain picky MTAs
 522 (notably <a href="#T3">exim</a>), fetchmail always makes the RCPT TO
 523 address it feeds the MTA a fully qualified one with a hostname part.
 524 Normally it does this by appending @ and "localhost", but when you are
 525 using Kerberos or ETRN mode it will append @ and your machine's
 526 fully-qualified domain name (FQDN).<P>
 527
 528 Appending the FQDN can create problems when fetchmail is running in daemon
 529 mode and outlasts the dynamic IP address assignment your client
 530 machine had when it started up.<P>
 531
 532 Since the new IP address (looked up at RCPT TO interpretation time)
 533 doesn't match the original, the most benign possible result is that
 534 your MTA thinks it's seeing a relaying attempt and refuses.  More
 535 frequently, fetchmail will try to connect to a nonexistent host
 536 address and time out.  Worst case, you could up forwarding your mail
 537 to the wrong machine!<P>
 538
 539 Use the <code>smtpaddress</code> option to force the appended hostname
 540 to one with a (fixed) IP address of 127.0.0.1 in your
 541 <code>/etc/hosts</code>.  (The name `localhost' will usually work; or
 542 you can use the IP address itself).<P>
 543
 544 Only one fetchmail option interacts directly with your IP address,
 545 `<code>interface</code>'.  This option can be used to set the gateway
 546 device and restrict the IP address range fetchmail will use. Such a
 547 restriction is sometimes useful for security reasons, especially on
 548 multihomed sites.  See <a href="#C3">C3</a>.<P>
 549
 550 I recommend against trying to set up the <code>interface</code> option
 551 when initially developing your poll configuration -- it's never
 552 necessary to do this just to get a link working.  Get the link working
 553 first, observe the actual address range you see on connections, and
 554 add an <code>interface</code> option (if you need one) later.<P>
 555
 556 You can't use ETRN if you have a dynamic IP address (your ISP changes
 557 your IP address occasionally, possibly with every connect).  You need
 558 to have your own registered domain and a definite IP address
 559 registered for that domain.  The server needs to be configured to
 560 accept mail for your domain but then queue it to forward to your
 561 machine.  ETRN just tells to server to flush its queue for your
 562 domain.  Fetchmail doesn't actually get the mail in that case.<p>
 563
 564 You can use On-Demand Mail Relay (ODMR) with a dynamic IP address;
 565 that's what it was designed for, and it provides capabilities very
 566 similar to ETRN.  Unfortunately ODMR servers are not yet widely
 567 deployed, as of early 2001.<p>
 568
 569 If you're using a dynamic-IP configuration, one other (non-fetchmail)
 570 problem you may run into with outgoing mail is that some sites will
 571 bounce your email because the hostname your giving them isn't real
 572 (and doesn't match what they get doing a reverse DNS on your
 573 dynamically-assigned IP address).  If this happens, you need to hack
 574 your sendmail so it masquerades as your host.  Setting<P>
 575
 576 <pre>
 577 DMsmarthost.here
 578 </pre>
 579
 580 in your <code>sendmail.cf</code> will work, or you can set<P>
 581
 582 <pre>
 583 MASQUERADE_AS(smarthost.here)
 584 </pre>
 585
 586 in the m4 configuration and do a reconfigure.  (In both cases, replace
 587 <code>smarthost.here</code> with the actual name of your mailhost.)
 588 See the <a href="http://www.lege.com/sendmail-FAQ.txt">sendmail
 589 FAQ</a> for more details.<P>
 590
 591 <hr>
 592 <h2><a name="G11">G11. Is any special configuration needed to use firewalls?</a></h2>
 593
 594 No.  You can use fetchmail with SOCKS, the standard tool for
 595 indirecting TCP/IP through a firewall.  You can find out about SOCKS,
 596 and download the SOCKS software including server and client code, at
 597 the <a href="http://www.socks.nec.com/">SOCKS distribution
 598 site</a>.<P>
 599
 600 The specific recipe for using fetchmail with a firewall is at <a
 601 href="#K1">K1</a><P>
 602
 603 <hr>
 604 <h2><a name="G12">G12. Is any special configuration needed to <em>send</em> mail?</a></h2>
 605
 606 A user asks: but how do we send mail out to the POP3 server? Do I need
 607 to implement another tool or will fetchmail do this too?<p>
 608
 609 Fetchmail only handles the receiving side.  The sendmail or other
 610 preinstalled MTA on your client machine will handle sending mail
 611 automatically; it will ship mail that is submitted while the
 612 connection is active, and put mail that is submitted while
 613 the connection is inactive into the outgoing queue.<P>
 614
 615 Normally, sendmail is also run periodically (every 15 minutes on most
 616 Linux systems) in a mode that tries to ship all the mail in the
 617 outgoing queue.  If you have set up something like pppd to
 618 automatically dial out when your kernel is called to open a TCP/IP
 619 connection, this will ensure that the mail gets out.<P>
 620
 621 <hr>
 622 <h2><a name="G13">G13. Is fetchmail Y2K-compliant?</a></h2>
 623
 624 Fetchmail is fully Y2K-compliant.<P>
 625
 626 Fetchmail could theoretically have problems when the 32-bit time_t
 627 counters roll over in 2038, but I doubt it.  Timestamps aren't used
 628 for anything but log entry generation.  Anyway, if you aren't running
 629 on a 64-bit machine by then, you'll deserve to lose.<P>
 630
 631 <hr>
 632 <h2><a name="G14">G14. Is there a way in fetchmail to support disconnected IMAP mode?</a></H2>
 633
 634 No. Fetchmail is a mail transport agent, best understood as a protocol
 635 gateway between POP3/IMAP servers and SMTP.  Disconnected operation
 636 requires an elaborate interactive client.  It's a very different problem.<p>
 637
 638 <hr>
 639 <h2><a name="G15">G15. How will fetchmail perform under heavy loads?</a></h2>
 640
 641 Fetchmail streams message bodies line-by-line; the most core it
 642 ever requires per message is enough memory to hold the RFC822 header, and
 643 that storage is freed when body processing begins. It is, accordingly,
 644 quite economical in its use of memory.<p>
 645
 646 After startup time, a fetchmail running in daemon mode stats its
 647 configuration file once per poll cycle to see whether it has changed
 648 and should be rescanned.  Other than that, a fetchmail in normal
 649 operation doesn't touch the disk at all; that job is left up to the
 650 MTA or MDA the fetchmail talks to.<p>
 651
 652 Fetchmail's performance is usually bottlenecked by latency on the POP
 653 server or (less often) on the TCP/IP link to the server.  This is not
 654 a problem readily solved by tuning fetchmail, or even by buying more
 655 TCP/IP capacity (which tends to improve bandwidth but not necessarily
 656 latency).<p>
 657
 658 <hr>
 659 <h2><a name="B1">B1. Lex bombs out while building the fetchmail lexer.</a></h2>
 660
 661 In the immortal words of Alan Cox the last time this came up: ``Take
 662 the Solaris lex and stick it up the backside of a passing Sun
 663 salesman, then install <a
 664 href="ftp://ftp.gnu.org/pub/non-gnu/flex/">flex</a> and use that.  All
 665 will be happier.''<P>
 666
 667 I couldn't have put it better myself, and ain't going to try now.<P>
 668
 669 (The same problem has been reported under HP-UX v10.20 and IRIX)<P>
 670
 671 <hr>
 672 <h2><a name="B2">B2. I get link failures when I try to build fetchmail.</a></h2>
 673
 674 If you get errors resembling these<P>
 675
 676 <pre>
 677 mxget.o(.text+0x35): undefined referenceto `__res_search'
 678 mxget.o(.text+0x99): undefined reference to`__dn_skipname'
 679 mxget.o(.text+0x11c): undefined reference to`__dn_expand'
 680 mxget.o(.text+0x187): undefined reference to`__dn_expand'
 681 make: *** [fetchmail] Error 1
 682 </pre>
 683
 684 then you must add "-lresolv" to the LOADLIBS line in your Makefile
 685 once you have installed the `bind' package.<P>
 686
 687 <hr>
 688 <h2><a name="F1">F1. Why does my old .fetchmailrc file no longer work?</a></h2>
 689
 690 <h3>If your file predates 5.1.0</h3>
 691
 692 In 5.1.0, the <tt>auth</tt> keyword and option were changed to
 693 <tt>preauth</tt>.<p>
 694
 695 <h3>If your file predates 4.5.5</h3>
 696
 697 If the <code>dns</code> option is on (the default), you may need to
 698 make sure that any hostname you specify (for mail hosts or for an SMTP
 699 target) is a canonical fully-qualified hostname).  In order to avoid
 700 DNS overhead and complications, fetchmail no longer tries to derive
 701 the fetchmail client machine's canonical DNS name at startup.<P>
 702
 703 <h3>If your file predates 4.0.6:</h3>
 704
 705 Just after the `<CODE>via</CODE>' option was introduced, I realized
 706 that the interactions between the `<CODE>via</CODE>',
 707 `<CODE>aka</CODE>', and `<CODE>localdomains</CODE>' options were out
 708 of control.  Their behavior had become complex and confusing, so much so
 709 that I was no longer sure I understood it myself.  Users were being
 710 unpleasantly surprised.<P>
 711
 712 Rather than add more options or crock the code, I re-thought it.  The
 713 redesign simplified the code and made the options more orthogonal, but
 714 may have broken some complex multidrop configurations.
 715
 716 Any multidrop configurations that depended on the name just after the
 717 `<CODE>poll</CODE>' or `<CODE>skip</CODE>' keyword being still
 718 interpreted as a DNS name for address-matching purposes, even in the
 719 presence of a `<CODE>via</CODE>' option, will break.<P>
 720
 721 It is theoretically possible that other unusual configurations (such
 722 as those using a non-FQDN poll name to generate Kerberos IV tickets) might
 723 also break; the old behavior was sufficiently murky that we can't be
 724 sure.  If you think this has happened to you, contact the maintainer.<P>
 725
 726 <h3>If your file predates 3.9.5:</h3>
 727
 728 The `<code>remote</code>' keyword has been changed to `<code>folder</code>'.
 729 If you try to use the old keyword, the parser will utter a warning.<P>
 730
 731 <h3>If your file predates 3.9:</h3>
 732
 733 It could be because you're using a .fetchmailrc that's written in the
 734 old popclient syntax without an explicit `<CODE>username</CODE>'
 735 keyword leading the first user entry attached to a server entry.
 736
 737 This error can be triggered by having a user option such as `<CODE>keep</CODE>'
 738 or `<CODE>fetchall</CODE>' before the first explicit username.  For
 739 example, if you write<p>
 740
 741 <pre>
 742 poll openmail protocol pop3
 743         keep user "Hal DeVore" there is hdevore here
 744 </pre>
 745
 746 the `<CODE>keep</CODE>' option will generate an entire user entry with
 747 the default username (the name of fetchmail's invoking user).<p>
 748
 749 The popclient compatibility syntax was removed in 4.0.  It complicated
 750 the configuration file grammar and confused users.<p>
 751
 752 <h3>If your file predates 2.8:</h3>
 753
 754 The `<CODE>interface</CODE>', `<CODE>monitor</CODE>' and
 755 `<CODE>batchlimit</CODE>' options changed after 2.8.<p>
 756
 757 They used to be global options with `<CODE>set</CODE>' syntax like the
 758 batchlimit and logfile options.  Now they're per-server options, like
 759 `<CODE>protocol</CODE>'.<p>
 760
 761 If you had something like<p>
 762
 763 <pre>
 764         set interface = "sl0/10.0.2.15"
 765 </pre>
 766
 767 in your .fetchmailrc file, simply delete that line and insert
 768 `interface sl0/10.0.2.15' in the server options part of your `defaults'
 769 declaration.<p>
 770
 771 Do similarly for any `<CODE>monitor</CODE>' or `<CODE>batchlimit</CODE>' options.<p>
 772
 773 <hr>
 774 <h2><a name="F2">F2. The .fetchmailrc parser won't accept my all-numeric user name.</a></h2>
 775
 776 Either upgrade to a post-5.0.5 fetchmail or put string quotes around it. :-)<p>
 777
 778 The configuration file parser in older fetchmail versions treated any
 779 all-numeric token as a number, which confused it when it was
 780 expecting a name.  String quoting forces the token's class.<p>
 781
 782 The lexical analyzer in 5.0.6 and beyond is smarter and assumes
 783 any token following "username" or "password" is a string.
 784
 785 <hr>
 786 <h2><a name="F3">F3. The .fetchmailrc parser won't accept my host or username beginning with `no'.</a></h2>
 787
 788 See <a href="#F2">F2</a> You're caught in an unfortunate crack between
 789 the newer-style syntax for negated options (`no keep', `no rewrite'
 790 etc.) and the older style run-on syntax (`nokeep', `norewrite'
 791 etc.).<p>
 792
 793 Upgrade to a 5.0.6 or later fetchmail, or put string quotes around your
 794 token.<p>
 795
 796 <hr>
 797 <h2><a name="F4">F4. I'm getting a `parse error' message I don't understand.</a></h2>
 798
 799 The most common cause of mysterious parse errors is putting a server
 800 option after a user option.  Check the manual page; you'll probably
 801 find that by moving one or more options closer to the `poll' keyword
 802 you can eliminate the problem.<p>
 803
 804 Yes, I know these ordering restrictions are hard to understand.
 805 Unfortunately, they're necessary in order to allow the `defaults'
 806 feature to work.<P>
 807
 808 <hr>
 809 <h2><a name="F5">F5. The %h and %p escapes aren't being interporated correctly.</a></h2>
 810
 811 Note that %h and %p are only recognized as placeholders if they are a
 812 single word each; you cannot use %h:%p or other interpolations that
 813 aren't space-delimited.  If you happen to need such a thing, write a
 814 wrapper.  For example, in .fetchmailrc you can add this line:<p>
 815
 816 <pre>
 817 plugin 'mywrap.sh %h %p'
 818 </pre>
 819
 820 With mywrap.sh containing:<p>
 821
 822 <pre>
 823 #! /bin/sh
 824 if test $# -ne 2 ; then
 825   echo "usage: `basename $0` <host> <port>"
 826   exit 1
 827 fi
 828 exec openssl 2>/dev/null s_client -connect $1:$2 -quiet
 829 exit 2 # never reached unless openssl fails
 830 </pre>
 831
 832 <hr>
 833 <h2><a name="C1">C1. Why do I need a .fetchmailrc when running as root on my own machine?</a></h2>
 834
 835 Ian T. Zimmerman &lt;itz@rahul.net&gt; asked:<p>
 836
 837 On the machine where I'm the only real user, I run fetchmail as root
 838 from a cron job, like this:<p>
 839
 840 <pre>
 841     fetchmail -u "itz" -p POP3 -s bolero.rahul.net
 842 </pre>
 843
 844 This used to work as is (with no .fetchmailrc file in root's home
 845 directory) with the last version I had (1.7 or 1.8, I don't
 846 remember).  But with 2.0, it RECPs all mail to the local root user,
 847 unless I create a .fetchmailrc in root's home directory containing:<p>
 848
 849 <pre>
 850      skip bolero.rahul.net proto POP3
 851           user itz is itz
 852 </pre>
 853
 854 It won't work if the second line is just "<CODE>user itz</CODE>".  This is silly.<p>
 855
 856 It seems fetchmail decides to RECP the `default local user' (i.e. the
 857 uid running fetchmail) unless there are local aliases, and the
 858 `default' aliases (itz-&gt;itz) don't count.  They should.<p>
 859
 860 Answer:<p>
 861
 862 No they shouldn't.   I thought about this for a while, and I don't much
 863 like the conclusion I reached, but it's unavoidable.  The problem is
 864 that fetchmail has no way to know, in general, that a local user `itz'
 865 actually exists.<p>
 866
 867 "Ah!" you say, "Why doesn't it check the password file to see if the remote
 868 name matches a local one?"  Well, there are two reasons.<p>
 869
 870 One: it's not always possible.  Suppose you have an SMTP host declared
 871 that's not the machine fetchmail is running on?  You lose.<p>
 872
 873 Two: How do you know server itz and SMTP-host itz are the same person?
 874 They might not be, and fetchmail shouldn't assume they are unless
 875 local-itz can explicitly produce credentials to prove it (that is, the
 876 server-itz password in local-itz's .fetchmailrc file.).<p>
 877
 878 Once you start running down possible failure modes and thinking about
 879 ways to tinker with the mapping rules, you'll quickly find that all the
 880 alternatives to the present default are worse or unacceptably
 881 more complicated or both.<p>
 882
 883 <hr>
 884 <h2><a name="C2">C2. How can I arrange for a fetchmail daemon to get killed when I log out?</a></h2>
 885
 886 The easiest way to dispatch fetchmail on logout (which will work
 887 reliably only if you have just one login going at any time) is to
 888 arrange for the command `fetchmail -q' to be called on logout.  Under
 889 bash, you can arrange this by putting `fetchmail -q' in the file
 890 `~/.bash_logout'.  Most csh variants execute `~/.logout' on logout.
 891 For other shells, consult your shell manual page.<p>
 892
 893 Automatic startup/shutdown of fetchmail is a little harder to arrange
 894 if you may have multiple login sessions going.  In the contrib
 895 subdirectory of the fetchmail distribution there is some shell code
 896 you can add to your .bash_login and .bash_logout profiles that will
 897 accomplish this.  Thank James Laferriere &lt;babydr@nwrain.net&gt; for
 898 it.<p>
 899
 900 Some people start up and shut down fetchmail using the ppp-up and
 901 ppp-down scripts of pppd.<p>
 902
 903 <hr>
 904 <h2><a name="C3">C3. How do I know what interface and address to use with --interface?</a></h2>
 905
 906 This depends a lot on your local networking configuration (and right
 907 now you can't use it at all except under Linux and the newer BSDs).  However,
 908 here are some important rules of thumb that can help.  If they don't
 909 work, ask your local sysop or your Internet provider.<p>
 910
 911 First, you may not need to use --interface at all.  If your machine
 912 only ever does SLIP or PPP to one provider, it's almost certainly by a
 913 point to point modem connection to your provider's local subnet that's
 914 pretty secure against snooping (unless someone can tap your phone or
 915 the provider's local subnet!).  Under these circumstances, specifying
 916 an interface address is fairly pointless.<p>
 917
 918 What the option is really for is sites that use more than one
 919 provider.  Under these circumstances, typically one of your provider
 920 IP addresses is your mailserver (reachable fairly securely via the
 921 modem and provider's subnet) but the others might ship your packets
 922 (including your password) over unknown portions of the general
 923 Internet that could be vulnerable to snooping.  What you'll use
 924 --interface for is to make sure your password only goes over the
 925 one secure link.<p>
 926
 927 To determine the device:<p>
 928
 929 <ol>
 930 <li> If you're using a SLIP link, the correct device is probably sl0.
 931 <li> If you're using a PPP link, the correct device is probably ppp0.
 932 <li> If you're using a direct connection over a local network such as
 933      an ethernet, use the command `netstat -r' to look at your routing table.
 934      Try to match your mailserver name to a destination entry; if you don't
 935      see it in the first column, use the `default' entry.  The device name
 936      will be in the rightmost column.
 937 </ol>
 938
 939 To determine the address and netmask:<p>
 940
 941 <ol>
 942 <li> If you're talking to slirp, the correct address is probably 10.0.2.15,
 943      with no netmask specified.  (It's possible to configure slirp to present
 944      other addresses, but that's the default.)
 945
 946 <li> If you have a static IP address, run `ifconfig &lt;device&gt;', where &lt;device&gt;
 947      is whichever one you've determined.  Use the IP address given after
 948      "inet addr:".  That is the IP address for your end of the link, and is
 949      what you need.  You won't need to specify a netmask.
 950
 951 <li> If you have a dynamic IP address, your connection IP will vary randomly
 952      over some given range (that is, some number of the least significant bits
 953      change from connection to connection).  You need to declare an address
 954      with the variable bits zero and a complementary netmask that sets
 955      the range.
 956 </ol>
 957
 958 To illustrate the rule for dynamic IP addresses, let's suppose you're
 959 hooked up via SLIP and your IP provider tells you that the dynamic
 960 address pool is 255 addresses ranging from 205.164.136.1 to
 961 205.164.136.255.  Then<p>
 962
 963 <pre>
 964         interface "sl0/205.164.136.0/255.255.255.0"
 965 </pre>
 966
 967 would work.  To range over any value of the last two octets
 968 (65536 addresses) you would use<p>
 969
 970 <pre>
 971         interface "sl0/205.164.0.0/255.255.0.0"
 972 </pre>
 973
 974 <hr>
 975 <h2><a name="C4">C4. How can I set up support for sendmail's anti-spam features?</a></h2>
 976
 977 This answer covers versions of sendmail from 8.8.7 (the version
 978 installed in Red Hat 5.1) upwards.  If you have an older version,
 979 upgrade to sendmail 8.9.<P>
 980
 981 Stock sendmails can now do anti-spam exclusions based on a database of
 982 filter rules.  The human-readable form of the database is at
 983 <tt>/etc/mail/deny</tt>. The database itself is at
 984 <tt>/etc/mail/deny.db</tt>.<P>
 985
 986 The table itself uses email addresses, domain names, and network
 987 numbers as keys.  For example,</P>
 988 <PRE>
 989 spammer@aol.com         REJECT
 990 cyberspammer.com        REJECT
 991 192.168.212             REJECT
 992 </PRE>
 993 <P>would refuse mail from spammer@aol.com, any user from
 994 cyberspammer.com (or any host within the cyberspammer.com domain), and
 995 any host on the 192.168.212.* network.  (This feature can be used to
 996 do other things as well; see the <a
 997 href="http://www.sendmail.org/m4/anti-spam.html">sendmail
 998 documentation</a> for details)</P>
 999
1000 To actually set up the database, run
1001
1002 <pre>
1003 makemap hash deny &lt;deny
1004 </pre>
1005 in /etc/mail.<P>
1006
1007 To test, send a message to your mailing address from that host and
1008 then pop off the message with fetchmail, using the -v argument.  You
1009 can monitor the SMTP transaction, and when the FROM address is parsed,
1010 if sendmail sees that it is an address in spamlist, fetchmail will
1011 flush and delete it.<p>
1012
1013 Under no circumstances put your <strong>mailhost</strong> or <strong>any host
1014 you accept mail from</strong> using fetchmail into your reject file.  You
1015 <strong>will</strong> lose mail if you do this!!!<p>
1016
1017 <hr>
1018 <h2><a name="C5">C5. How can I poll some of my mailboxes more/less
1019 often than others?</a></h2>
1020
1021 Use the <cite>interval</cite> keyword on the ones that should be
1022 checked less often.  For example, if you do a poll every 5 minutes,
1023 and want to poll some mailboxes every 5 minutes and some every 30
1024 minutes, use something like this:<p>
1025
1026 <pre>
1027 poll mainsite.example.com  proto pop3 user ....
1028 poll secondary.example.com proto pop3 interval 6 user ...
1029 </pre>
1030
1031 Then secondary.example.com will be polled every 6th time that
1032 mainsite.example.com is polled, which with a polling interval of every
1033 5 minutes means that secondary.example.com will be polled every 30
1034 minutes.<p>
1035
1036 <hr>
1037 <h2><a name="C6">Fetchmail works OK started up manually, but not from an init script.</a></h2>
1038
1039 Often, startup scripts have a different environment than an interactive
1040 login shell.  For instance, $HOME might point to "/root" when you are
1041 logged in as root, but it might be either unset, or set to "/" when the
1042 startup scripts are running.  That means fetchmail at startup can't find
1043 the .fetchmailrc.<p>
1044
1045 Pick a location (such as /etc/fetchmailrc) and use fetchmail's -f
1046 option to point fetchmail at it.  That should solve the problem.<p>
1047
1048 <hr>
1049 <h2><a name="C7">C7. How can I forward mail to another host?</a></h2>
1050
1051 To forward mail to a host other than the one you are running fetchmail
1052 on, use the <code>smtphost</code> or <code>smtpname</code> option.
1053 See the manual page for details.<p>
1054
1055 <hr>
1056 <h2><a name="T1">T1. How can I use fetchmail with sendmail?</a></h2>
1057
1058 For most sendmails, no special configuration is required.  Eric Allman
1059 tells me that if <code>FEATURE(always_add_domain)</code> is included
1060 in sendmail's configuration, you can leave the <code>rewrite</code>
1061 option off.<P>
1062
1063 If your sendmail complains ``sendmail does not relay'',  make sure
1064 your sendmail.cf file says <code>Cwlocalhost</code>
1065 so that sendmail recognizes `localhost' as a name of its host.<p>
1066
1067 If you're mailing from another machine on your local network, also
1068 ensure that its IP address is listed in ip_allow or name in name_allow
1069 (usually in /etc/mail/)<p>
1070
1071 If you find that your sendmail doesn't like the address
1072 `FETCHMAIL-DAEMON@localhost' (which is used in the bouncemail
1073 that fetchmail generates), you may have to set
1074 <code>FEATURE(accept_unqualified_senders)</code>.<P>
1075
1076 G&uuml;nther Leber reports that Digital Unix sendmails won't work with
1077 fetchmail.  The symptom is an error message "<code>553 Local configuration
1078 error, hostname not recognized as local</code>". The problem is that
1079 fetchmail normally feeds sendmail with the client machine's host
1080 address in the MAIL FROM line.  These sendmails think this means
1081 they're seeing the result of a mail loop and suppress the mail.  You
1082 may be able to work around this by running in <code>--invisible</code> mode.<P>
1083
1084 If you want to support multidrop mode, and you can get access to your
1085 mailserver's sendmail.cf file, it's a good idea to add this rule:<P>
1086
1087 <pre>
1088 H?l?Delivered-To: $h
1089 </pre>
1090
1091 This will cause the mailserver's sendmail to reliably write the
1092 appropriate envelope address into each message before fetchmail sees
1093 it, and tell fetchmail which header it is.&nbsp; With this change,
1094 multidrop mode should work reliably even when the Received header
1095 omits the envelope address (which will typically be the case when
1096 the message has multiple recipients).&nbsp; However it will still not
1097 distinguish the recipients, your only advantage is that no bounce
1098 will be sent if a message is BCC addressed to multiple users at
1099 your site.&nbsp; To fix even that problem, you might want to try the
1100 following hack, which is however untested and quite experimental:<P>
1101
1102 <PRE>
1103 H?J?Delivered-To: $u
1104
1105 Mmdrop, P=/usr/bin/procmail, F=lsDFMqSPfhnu9J,
1106         S=EnvFromSMTP/HdrFromSMTP, R=EnvToSMTP/HdrToSMTP,
1107         T=DNS/RFC822/X-Unix,
1108         A=procmail -Y -a $u -d $h
1109 </PRE>
1110
1111 For both hacks, you have to declare `<CODE>envelope "Delivered-To:"</CODE>' on
1112 the fetchmail side, to put the virtual domain (e.g. `domain.com')
1113 with RELAY permission into your access file and to add a line
1114 reading `<CODE>domain.com local:local-pop-user</CODE>' for the first and
1115 `<CODE>domain.com mdrop:local-pop-user</CODE>' for the second hack to your
1116 mailertable.<P>
1117
1118 You will notice that if the mail already has a Delivered-To header,
1119 sendmail will not add another.&nbsp; Further, editing sendmail.cf
1120 directly is not very comfortable.&nbsp; Solutions for both problems
1121 can be found in Peter `Rattacresh' Backes' `hybrid' patch against
1122 sendmail.&nbsp; Have a look at it, you can find it in the contrib
1123 subdirectory.<P>
1124
1125 Feel free to try Martijn Lievaart's detailed recipe in the contrib
1126 subdirectory of the fetchmail source distribution, it attempts
1127 to realize multidrop mailboxes with an external script.<P>
1128
1129 <hr>
1130 <h2><a name="T2">T2. How can I use fetchmail with qmail?</a></h2>
1131
1132 Turn on the <CODE>forcecr</CODE> option; qmail's listener mode doesn't like
1133 header or message lines terminated with bare linefeeds.<p>
1134
1135 (This information is thanks to Robert de Bath
1136 &lt;robert@mayday.cix.co.uk&gt;.)<p>
1137
1138 If a mailhost is using the qmail package (see <a
1139 href="http://pobox.com/~djb/qmail.html">http://pobox.com/~djb/qmail.html</a>)
1140 then, providing the local hosts are also using qmail, it is possible
1141 to set up one fetchmail link to be reliably collect the mail for an
1142 entire domain.<p>
1143
1144 One of the basic features of qmail is the `Delivered-To:' message
1145 header.  Whenever qmail delivers a message to a local mailbox it puts
1146 the username and hostname of the envelope recipient on this line.  The
1147 major reason for this is to prevent mail loops. <p>
1148
1149 To set up qmail to batch mail for a disconnected site the ISP-mailhost
1150 will have normally put that site in its `virtualhosts' control file so
1151 it will add a prefix to all mail addresses for this site. This results
1152 in mail sent to 'username@userhost.userdom.dom.com' having a
1153 'Delivered-To:' line of the form:<p>
1154
1155 <pre>
1156        Delivered-To: mbox-userstr-username@userhost.userdom.dom.com
1157 </pre>
1158
1159 A single host maildrop will be slightly simpler:
1160
1161 <pre>
1162        Delivered-To: mbox-userstr-username@userhost.dom.com
1163 </pre>
1164
1165 The ISP can make the 'mbox-userstr-' prefix anything they choose
1166 but a string matching the user host name is likely.<p>
1167
1168 To use this line you must:<p>
1169
1170 <ol>
1171 <li>Ensure the option `envelope Delivered-To:' is in the fetchmail
1172     config file.
1173
1174 <li>Ensure you have a localdomains containing 'userdom.dom.com' or
1175     `userhost.dom.com' respectively.
1176 </ol>
1177
1178 So far this reliably delivers messages to the correct machine of the
1179 local network, to deliver to the correct user the 'mbox-userstr-'
1180 prefix must be stripped off of the user name. This can be done by
1181 setting up an alias within the qmail MTA on each local machine.
1182 Simply create a dot-qmail file called '.qmail-mbox-userstr-default'
1183 in the alias directory (normally /var/qmail/alias) with the contents:<p>
1184
1185 <pre>
1186       | ../bin/qmail-inject -a -f"$SENDER" "${LOCAL#mbox-userstr-}@$HOST"
1187 </pre>
1188
1189 Note this <em>does</em> require a modern /bin/sh.<p>
1190
1191 Peter Wilson adds: <P>
1192
1193 ``My ISP uses "alias-unzzippedcom-" as the prefix, which means that I
1194 need to name my file ".qmail-unzzippedcom-default". This is due to
1195 qmail's assumption that a message sent to user-xyz is handled by the
1196 file ~user/.qmail-xyz (or ~user/.qmail-default).''<p>
1197
1198 Luca Olivetti adds:<P>
1199
1200 If you aren't using qmail locally, or you don't want to set up the
1201 alias mechanism described above, you can use the option `<code>qvirtual
1202 "mbox-userstr-"</code>' in your fetchmail config file to strip the prefix
1203 from the local user name.<p>
1204
1205 <hr>
1206 <h2><a name="T3">T3. How can I use fetchmail with exim?</a></h2><p>
1207
1208 If you have <CODE>rewrite</CODE> on: <P>
1209
1210 There is an RFC1123 requirement that MAIL FROM and RCPT TO addresses
1211 you pass to it have to be canonical (e.g. with a fully qualified
1212 hostname part).  Therefore fetchmail tries to pass fully qualified
1213 RCPT TO addresses.  But exim does not by default accept `localhost' as
1214 a fully qualified domain.  This can be fixed.<P>
1215
1216 In exim.conf, add `localhost' to your local_domains declaration if it's not
1217 already present.  For example, the author's site at thyrsus.com would
1218 have a line reading:<P>
1219
1220 <pre>
1221        local_domains = thyrsus.com:localhost
1222 </pre>
1223
1224 If you have <CODE>rewrite</CODE> off:<P>
1225
1226 MAIL FROM is a potential problem if the MTAs upstream from your fetchmail
1227 don't necessarily pass canonicalized From and Return-Path addresses,
1228 and fetchmail's <CODE>rewrite</CODE> option is off.  The specific case
1229 where this has come up involves bounce messages generated by sendmail
1230 on your mailer host, which have the (un-canonicalized) origin address
1231 MAILER-DAEMON.<p>
1232
1233 The right way to fix this is to enable the <CODE>rewrite</CODE> option and
1234 have fetchmail canonicalize From and Return-Path addresses with the
1235 mailserver hostname before exim sees them.  This option is enabled by
1236 default, so it won't be off unless you turned it off.<p>
1237
1238 If you must run with <CODE>rewrite</CODE> off, there is a switch in exim's
1239 configuration files that allows it to accept domainless MAIL FROM
1240 addresses; you will have to flip it by putting the line <p>
1241
1242 <pre>
1243         sender_unqualified_hosts = localhost
1244 </pre>
1245
1246 in the main section of the exim configuration file.  Note that this
1247 will result in such messages having an incorrect domain name attached
1248 to their return address (your SMTP listener's hostname rather than
1249 that of the remote mail server). <p>
1250
1251 <hr>
1252 <h2><a name="T4">T4. How can I use fetchmail with smail?</a></h2><p>
1253
1254 Smail 3.2 is very nearly plug-compatible with sendmail, and may work
1255 fine out of the box.<P>
1256
1257 We have one report that when processing multiple messages from a
1258 single fetchmail session, smail sometimes delivers them in an
1259 order other than received-date order.  This can be annoying because it
1260 scrambles conversational threads.  This is not fetchmail's problem,
1261 it is an smail `feature' and has been reported to the maintainers
1262 as a bug.<P>
1263
1264 Very recent smail versions require an <code>-smtp_hello_verify</code>
1265 option in the smail config file.  This overrides smail's check to see
1266 that the HELO address is actually that of the client machine, which
1267 is never going to be the case when fetchmail is in the picture.
1268 According to RFC1123 an SMTP listener <em>must</em> allow this
1269 mismatch, so smail's new behavior (introduced sometime between
1270 3.2.0.90 and 3.2.0.95) is a bug.<P>
1271
1272 <hr>
1273 <h2><a name="T5">T5. How can I use fetchmail with SCO's MMDF?</a></h2><p>
1274
1275 MMDF itself is difficult to configure, but it turns out that
1276 connecting fetchmail to MMDF's SMTP channel isn't that hard.
1277 You can read an <a
1278 href="http://www.aplawrence.com/Unixart/uucptofetch.html">
1279 MMDF recipe</a> that describes replacing a UUCP link with
1280 fetchmail feeding MMDF.<P>
1281
1282 <hr>
1283 <h2><a name="T6">T6. How can I use fetchmail with Lotus Notes?</a></h2><p>
1284
1285 The Lotus Notes SMTP gateway tries to deduce when it should convert \n
1286 to \r\n, but its rules are not the intuitive and correct-for-RFC822
1287 ones.  Use `forcecr'.<P>
1288
1289 <hr>
1290 <h2><a name="S1">S1. How can I use fetchmail with qpopper?</a></h2>
1291
1292 Qualcomm's qpopper is probably the best-of-breed among POP3 servers, and
1293 is very widely deployed.  Nevertheless, it has some problems which
1294 fetchmail exposes.  We recommend using <a href="#G7">IMAP</a> instead if at
1295 all possible.  If you must talk to qpopper, here are some problems to
1296 be aware of:<p>
1297
1298 <h3>Problems with retrieving large messages from qpopper 2.53</h3>
1299
1300 Tony Tang <a href="mailto:tony@atn.com.hk">&lt;tony@atn.com.hk&gt;</a>
1301 reports that there is a bad intercation between fetchmail and qpopper
1302 2.5.3 under Red Hat Linux versions 5.0 to 5.2, kernels 2.0.34 to
1303 2.0.35.  When fetching very large messages (over 700K) from 2.5.3,
1304 fetchmail will hang with a socket error.<p>
1305
1306 This is probably not a fetchmail bug, but rather a symptom of some
1307 problem in the networking stack that qpopper's transmission pattern is
1308 tickling, as fetchpop (another Linux POP client) also displays the hang
1309 but Netscape running under Win95 does not.  The problem can also be
1310 banished by <a
1311 href="http://www.eudora.com/freeware/qpop.html">upgrading to qpopper
1312 3.0b1</a>.<p>
1313
1314 <h3>Bad interaction with fetchmail 4.4.2 to 4.4.7</h3>
1315
1316 Versions of fetchmail from 4.4.2 through 4.4.7 had a bad interaction
1317 with Eudora qpopper versions 2.3 and later.  See <a href="#X5">X5</a>
1318 for details.  The solution is to upgrade your fetchmail.<p>
1319
1320 <hr>
1321 <h2><a name="S2">S2. How can I use fetchmail with Microsoft Exchange?</a></h2>
1322
1323 Fetchmail now supports the proprietary NTLM mode used with M$ Exchange
1324 servers. To enable this, configure fetchmail with the --enable-NTLM
1325 option and recompile it.  Note: if you specify a user option value
1326 that looks like `user@domain', the part to the left of the @ will
1327 be passed as the username and the part to the right as the NTLM domain.<P>
1328
1329 M$ Exchange violates the POP3 RFCs.  Its LIST command does not reveal
1330 the real sizes of mail in the pop mailbox, but the sizes of the
1331 compressed versions in the exchange mail database (thanks to Arjan De
1332 Vet and Guido Van Rooij for alerting us to this problem).<P>
1333
1334 Fetchmail works with M$ Exchange, despite this brain damage.  Two
1335 features are compromised.  One is that the --limit option will not
1336 work right (it will check against compressed and not actual sizes).
1337 The other is that a too-small SIZE argument may be passed to your
1338 ESMTP listener, assuming you're using one (this should not be a
1339 problem unless the actual size of the message is above the listener's
1340 configured length limit).<P>
1341
1342 Somewhat belatedly, I've learned that there's supposed to be a
1343 registry bit that can fix this breakage:<P>
1344
1345 <pre>
1346 HKEY_LOCAL_MACHINE\System\CurrentControlSet\Services\MsExchangeIs\Parameters
1347 System\Pop3 Compatibility
1348 </pre>
1349
1350 This is a bitmask that controls the variations from the standard protocol.
1351 The bits defined are:<P>
1352
1353 <DL>
1354 <DT>0x00000001:
1355 <DD>Report exact message sizes for the LIST command
1356 <DT>0x00000002:
1357 <DD>Allow arbitrary linear whitespace between commands and arguments
1358 <DT>0x00000004:
1359 <DD>Enable the LAST command
1360 <DT>0x00000008:
1361 <DD>Allow an empty PASS command (needed for users with blank
1362 passwords, but illegal in the protocol)
1363 <DT>0x00000010:
1364 <DD>Relax the length restrictions for arguments to commands (protocol
1365 requires 40, but some user names may be longer than that).
1366 <DT>0x00000020:
1367 <DD>Allow spaces in the argument to the USER command.
1368 </DL>
1369
1370 There's another one that may be useful to know about:<P>
1371
1372 <pre>
1373 KEY_LOCAL_MACHINE\System\CurrentControlSet\Services\MsExchangeIs\Parameters
1374 System\Pop3 Performance
1375 </pre>
1376
1377 <DL>
1378 <DT>0x00000001:
1379 <DD>Render messages to a temporary stream instead of sending directly
1380 from the database (should always be on)
1381 <DT>0x00000002:
1382 Flag unrenderable messages (instead of just failing commands)
1383 (should only be on if you are seeing the problems reported
1384 in KB Q168109)
1385 <DT>0x00000004:
1386 <DD>Return from the QUIT command before all messages have been deleted.
1387 </DL>
1388
1389 The Microsoft pod-person who revealed this information to me admitted
1390 that he couldn't find it anywhere in their public knowledge base.<P>
1391
1392 Another specific problem we have seen with Exchange servers has as its
1393 symptom a response to LOGIN that says "NO Ambiguous Alias".  Grant
1394 Edwards writes:
1395
1396 This means that Exchange Server is too f*&#ing stupid to figure
1397 out which mailbox belongs to you.  Instead of actually keeping
1398 track of which inbox belongs to which user, it uses some
1399 half-witted, guess-o-matic heuristic to try to guess your
1400 mailbox name from your username.<p>
1401
1402 In your case it doesn't work because your username maps to more
1403 than one mailbox.  For some people it doesn't work because
1404 their username maps to zero mailboxes.  This is yet another
1405 inept, lame, almost criminally negligent design decision from
1406 our friends in Redmond.<p>
1407
1408 You've got several options:
1409
1410 <ul>
1411 <li>
1412 Try giving fetchmail a username of "/NTDomain/NTUsername/MailboxName".
1413 <li>
1414 Get your administrator to configure the server so that
1415 usernames and mailbox names are the same.
1416 <li>
1417 Get your administrator to add an alias that maps your
1418 username explicitly to your mailbox name.
1419 </ul>
1420
1421 But, the best option involves a tactical nuclear weapon (an old
1422 ASROC will do), pissing off a lot people who live downwind from
1423 Redmond, and your choice of any Linux, NetBSD, FreeBSD, or
1424 Solaris CD.<p>
1425
1426 I'll provide the CD.
1427
1428 <hr>
1429 <h2><a name="S3">S3. How can I use fetchmail with CompuServe RPA?</a></h2>
1430
1431 First, make sure your fetchmail has the RPA support compiled in.
1432 Stock fetchmail binaries (such as you might get from an RPM) don't.
1433 You can check this by looking at the output of <code>fetchmail -V</code>;
1434 if you see the string "+RPA" after the version ID you're good to go,
1435 otherwise you'll have to build your own from sources (see the INSTALL
1436 file in the source distribution for directions).<P>
1437
1438 Give your CompuServe pass-phrase in lower case as your password.  Add
1439 `@compuserve.com' to your user ID so that it looks like `user
1440 &lt;UserID&gt;@compuserve.com', where &lt;UserID&gt; can be either
1441 your numerical userID or your E-mail nickname. An RPA-enabled
1442 fetchmail will automatically check for csi.com in the POP server's
1443 greeting line.  If that's found, and your user ID ends with
1444 `@compuserve.com', it will query the server to see if it
1445 is RPA-capable, and if so do an RPA transaction rather than a
1446 plain-text password handshake.<P>
1447
1448 <strong>Warning:</strong> the debug (-v -v) output of fetchmail will show
1449 your pass-phrase in Unicode!<P>
1450
1451 These two .fetchmailrc entries show the difference between an RPA and
1452 non-RPA configuration:
1453
1454 <pre>
1455 # This version will use RPA
1456 poll csi.com via "pop.site1.csi.com" with proto POP3 and options no dns
1457     user "CSERVE_USER@compuserve.com" there with password "CSERVE_PASSWORD"
1458         is LOCAL_USER here options fetchall stripcr
1459
1460 # This version will not use RPA
1461 poll non-rpa.csi.com via "pop.site1.csi.com" with proto POP3 and options no dns
1462     user "CSERVE_USER" there with password "CSERVE_POP3_PASSWORD"
1463        is LOCAL_USER here options fetchall stripcr
1464 </pre>
1465
1466 <hr>
1467 <h2><a name="S4">S4. How can I use fetchmail with Demon Internet's SDPS?</a></h2>
1468
1469 <h3>Single-drop mode</h3>
1470
1471 You can get fetchmail to download the email for just one user from
1472 Demon Internet's POP3 server by giving it a username consisting of your
1473 Demon user name followed by your account name, with an at-sign between
1474 them.<P>
1475
1476 For example, to download email for the user &lt;philh@vision25.demon.co.uk&gt;,
1477 you could use the following .fetchmailrc file:<P>
1478
1479 <pre>
1480 set postmaster "philh"
1481 poll pop3.demon.co.uk with protocol POP3:
1482     user "philh@vision25" is philh
1483 </pre>
1484
1485 <h3>Multi-drop mode</h3>
1486
1487 Demon Internet's SDPS service is an implementation of POP3. All messages
1488 have a Received: header added when they enter the maildrop, like this:
1489
1490 <pre>
1491    Received: from punt-1.mail.demon.net by mailstore.com for fred@xyz.demon.co.uk
1492              id 899963657:10:27896:0; Thu, 09 Jul 98 05:54:17 GMT
1493 </pre>
1494
1495 To enable multi-drop mode you need to tell fetchmail that 'mailstore.com' is
1496 the name of the host which accepted the mail, and let it know the
1497 hostname part(s) of your E-mail address. The following example assumes
1498 that your hostname is xyz.demon.co.uk, and that you have also bought
1499 "mail forwarding" for the domain my-company.co.uk (in which case your
1500 MTA must also be configured to accept mail sent to user@my-company.co.uk)
1501
1502 <pre>
1503      poll pop3.demon.co.uk proto pop3 aka mailstore.com no dns:
1504        localdomains xyz.demon.co.uk my-company.co.uk
1505        user xyz is * fetchall
1506 </pre>
1507
1508 The `fetchall' command ensures that all mail is downloaded. If you
1509 want to leave mail on the server use `uidl' and `keep'; Demon does not
1510 implement the obsolete `top' command, because SDPS combines messages
1511 residing on two separate punt clusters into a single POP3 maildrop.
1512 If you do use UIDL, be aware that the "user@host" form for fetching
1513 mail from a particular Demon host will confuse fetchmail's UIDL code;
1514 use user+host.<P>
1515
1516 Note that Demon may delete mail on the server which is more than 30
1517 days old; see their <a
1518 href="http://www.demon.net/info/helpdesk/demon_products/mail/sdps-tech.shtml">
1519 POP3 page</a> for details.<P>
1520
1521 <h3>The SDPS extension</h3>
1522
1523 There's a different way to do multidrop.  It's not necessary on Demon
1524 Internet, since fetchmail can parse Received addresses, but the person
1525 who implemented this didn't know that. It may be useful if Demon
1526 Internet ever changes mail transports.<P>
1527
1528 SDPS includes a non-standard extension for retrieving the envelope of a
1529 message (*ENV), which fetchmail optionally supports if compiled with the
1530 --enable-SDPS option. If you have it, the first line of the fetchmail -V
1531 response will include the string "+SDPS".<P>
1532
1533 Once you have SDPS compiled in, fetchmail in POP3 mode will
1534 automatically detect when it's talking to a Demon Internet host in
1535 multidrop mode, and use the *ENV extension to get an envelope To address.<P>
1536
1537 The autodetection works by looking at the hostname in the POP3
1538 greeting line; if you're accessing Demon Internet through a proxy it
1539 may fail. To force SDPS mode, pick "sdps" as your protocol.<P>
1540
1541 <hr>
1542 <h2><a name="S5">S5. How can I use fetchmail with usa.net's servers?</a></h2>
1543
1544 Enable `<CODE>fetchall</CODE>'.  A user reports that the 2.2 version
1545 of USA.NET's POP server reports that you must use the
1546 `<CODE>fetchall</CODE>' option to make sure that all of the mail is
1547 retrieved, otherwise some may be left on the server.  This is almost
1548 certainly a server bug.<P>
1549
1550 The usa.net servers (at least in their 2.2 version, June 1998) don't
1551 handle the TOP command properly, either.  Regardless of the argument
1552 you give it, they retrieve only about 10 lines of the message.
1553 Fetchmail normally uses TOP for message retrieval in order to avoid
1554 marking messages seen, but `<CODE>fetchall</CODE>' forces it to use
1555 RETR instead.<P>
1556
1557 (Note: Other failure modes have been reported on usa.net's servers.
1558 They seem to be chronically flaky.  We recommend finding another
1559 provider.)<P>
1560
1561 <hr>
1562 <h2><a name="S6">S6. How can I use fetchmail with HP OpenMail?</a></h2>
1563
1564 No special configuration is required, but OpenMail versions prior to
1565 6.0 have an annoying bug similar to the big one in <a
1566 href="#S2">Microsoft Exchange</a>.  The message sizes it gives in the
1567 LIST are rounded to the nearest 1024 bytes.  It also has a nasty habit
1568 of discarding headers it doesn't recognize, such as X- and Resent-
1569 headers.<P>
1570
1571 As with M$ Exchange, the only real fix for these problems is to get a
1572 POP (or preferably IMAP) server that isn't brain-dead. OpenMail's
1573 project manager claims these bugs have been fixed in 6.0.<P>
1574
1575 <hr>
1576 <h2><a name="S8">S8. How can I use fetchmail with Hotmail?</a></h2>
1577
1578 You can't, yet.  But <a
1579 href="http://hawkins.emu.id.au/gotmail/">gotmail</a>
1580 might be what you need.<P>
1581
1582 <hr>
1583 <h2><a name="S9">S9. How can I use fetchmail with MSN?</a></h2>
1584
1585 You can't.  MSN uses something that looks like POP3, except the
1586 authentication part is nonstandard.  And of course they don't
1587 document it, so nobody but their Windows clients can speak it.<p>
1588
1589 This is a customer lock-in tactic; we recommend boycotting MSN as the
1590 only appropriate response.<p>
1591
1592 As of 5.0.8, we have support for the client side of NTLM
1593 authentication.  It's possible this may enable fetchmail to talk to
1594 MSN; if so, somebody should report it so this FAQ can be corrected.<p>
1595
1596 <hr>
1597 <h2><a name="S10">S10. How can I use fetchmail with SpryNet?</a></h2>
1598
1599 The SpryNet POP3 servers mark a message queried with TOP as seen.
1600 This means that if your connection drops in mid-message, it may end
1601 up invisibly stuck on your mail spool.  Use the <code>fetchall</code>
1602 flag to ensure that it's recovered on the next cycle.<p>
1603
1604 <hr>
1605 <h2><a name="S11">S11. How can I use fetchmail with FTGate?</a></h2>
1606
1607 The FTGate V2 server (and possibly older versions as well) has a weird
1608 bug.  It answers OK twice to a TOP request!  Use the
1609 <code>fetchall</code> option to force use of RETR and work around this
1610 bug.<p>
1611
1612 <hr>
1613 <h2><a name="S12">S12. How can I use fetchmail with MailMax?</a></h2>
1614
1615 You can't.  At least not if you want to be able to see attachments.
1616 MailMax has a bug; it reports the message length with attachments
1617 but doesn't download them on TOP or RETR.<P>
1618
1619 Also, we're told that TOP sometimes fails to retrieve the entire
1620 message even when enough lines have been specified. The MailMax
1621 developers have acknowledged this bug as of 4 May 2000, but there is
1622 no fix yet.  If you must use this server, force RETR with the
1623 <tt>fetchall</tt> option.<p>
1624
1625 <hr>
1626 <h2><a name="S13">S13. How can I use fetchmail with Novell GroupWise?</a></h2>
1627
1628 The Novell GroupWise IMAP server would be better named GroupFoolish;
1629 it is (according to the designer of IMAP) unusably broken.  Among
1630 other things, it doesn't include a required content length in its
1631 BODY[TEXT] response.<p>
1632
1633 Fetchmail works around this problem, but we strongly recommend voting
1634 with your dollars for a server that isn't brain-dead.  If you stick
1635 with code as shoddy as GroupWise seems to be, you will probably pay
1636 for it with other problems.<p>
1637
1638 <hr>
1639 <h2><a name="S14">S14. How can I use fetchmail with InterChange?</a></h2>
1640
1641 You can't.  At least not if you want to be able to see attachments.
1642 InterChange has a bug similar to the MailMax server; it reports the
1643 message length with attachments but doesn't download them on TOP or
1644 RETR. <p>
1645
1646 On Jan 9 2001, the people at InfiniteMail sent me mail informing me that
1647 their new 3.61.08 release of InterChange fixes this problem.  I don't
1648 have any reports one way or the other yet.<p>
1649
1650 <hr>
1651 <h2><a name="K1">K1. How can I use fetchmail with SOCKS?</a></h2>
1652
1653 Giuseppe Guerini added a --with-socks option that supports linking
1654 with socks library.  If you specify the value of this option as
1655 ``yes'', the configure script will try to find the Rconnect library
1656 and set the makefile up to link it.  You can also specify a directory
1657 containing the Rconnect library.<p>
1658
1659 Alan Schmitt has added a similar --with-socks5 option that may work
1660 better if you have a recent version of the SOCKS library.
1661
1662 <hr>
1663 <h2><a name="S7">S7. How can I use fetchmail with geocities POP3 servers?</a></h2>
1664
1665 Nathan Cutler reports that the the mail.geocities.com POP3 servers
1666 fail to include the first Received line of the message in the send to
1667 fetchmail.  This can solve problems if your MUA interprets Received
1668 continuations as body lines and doesn't parse any of the following
1669 headers.<P>
1670
1671 Workaround is to use "mda" keyword or "-mda" switch:
1672 <pre>
1673 mda "sed -e '1s/^\t/Received: /' | formail | /usr/bin/procmail -d &lt;user&gt;"
1674 </pre>
1675 Replace \t with exactly one tabulation character.
1676
1677 You should also consider using "fetchall" option because Geocities' servers
1678 sometimes think that the first 45 messages have already been read.<P>
1679
1680 Fix: Get an email provider that doesn't suck. The pop-up ads on
1681 Geocities are lame, you should boycott them anyway.<P>
1682
1683 <hr>
1684 <h2><a name="K2">K2. How can I use fetchmail with IPv6 and IPsec?</a></h2>
1685
1686 To use fetchmail with IPv6, you need a system that supports IPv6, the "Basic
1687 Socket Interface Extensions for IPv6" (RFC 2133).
1688 This currently means that you need to have a BSD/OS or NetBSD system with
1689 the NRL IPv6+IPsec software distribution or a Linux system with a 2.2 or
1690 later kernel and net-tools. It should not be hard to build fetchmail on
1691 other IPv6 implementations if you can port the inet6-apps kit.<P>
1692
1693 To use fetchmail with networking security (read: IPsec), you need a system that
1694 supports IPsec, the API described in the "Network Security API for Sockets"
1695 (draft-metz-net-security-api-01.txt), and the inet6-apps kit. This currently
1696 means that you need to have a BSD/OS or NetBSD system with the NRL IPv6+IPsec
1697 software distribution. A Linux IPsec implementation supporting this API will
1698 probably appear in the coming months.<P>
1699
1700 The NRL IPv6+IPsec software distribution can be obtained from: <a
1701 href="http://web.mit.edu/network/isakmp">http://web.mit.edu/network/isakmp</a>
1702 <P>
1703
1704 The inet6-apps kit can be obtained from <a href="http://ftp.ps.pl/pub/linux/IPv6/inet6-apps/">http://ftp.ps.pl/pub/linux/IPv6/inet6-apps/</a>.<P>
1705
1706 More information on using IPv6 with Linux can be obtained from:
1707 <UL>
1708 <LI>
1709 <a href="http://www.bieringer.de/linux/IPv6/IPv6-HOWTO/IPv6-HOWTO.html">
1710 http://www.bieringer.de/linux/IPv6/IPv6-HOWTO/IPv6-HOWTO.html</a>
1711 <LI>
1712 <a href="http://www.ipv6.inner.net/ipv6">http://www.ipv6.inner.net/ipv6</a>
1713 (via IPv6)
1714 <LI>
1715 <a href="http://www.inner.net/ipv6">http://www.inner.net/ipv6</a> (via IPv4)
1716 </UL>
1717
1718 <hr>
1719 <h2><a name="K3">K3. How can I get fetchmail to work with ssh?</a></h2>
1720
1721 We have five recipes for this.<P>
1722
1723 <h3>Single-User POP3</h3>
1724
1725 First, a lightly edited version of a recipe from Masafumi NAKANE.
1726 This one is easy to set up, but only supports one user at a time.<p>
1727
1728 1. You must have ssh (the ssh client) on the local host and sshd (ssh
1729 server) on the remote mail server.  And you have to configure ssh so
1730 you can login to the sshd server host without a password.  (Refer to ssh
1731 man page for several authentication methods.)<p>
1732
1733 2. Add something like following to your .fetchmailrc file: <p>
1734
1735 <pre>
1736 poll mailhost port 1234 via localhost with proto pop3:
1737         preconnect "ssh -l username -f mailhost -L 1234:mailhost:110 sleep 5"
1738 </pre>
1739
1740 This is an SSH 1.x recipe.  According to Mick Papadonis, the
1741 equivalent SSH 2.x recipe is this:<p>
1742
1743 <pre>
1744 poll localhost port 1234 with proto pop3:
1745         preconnect "ssh -n -S -x -l username -fo mailhost -L 1234:mailhost:110; sleep 5"
1746 </pre>
1747
1748 The sleep is needed on slower machines to prevent fetchmail from
1749 trying to open the socket before ssh actually makes it ready.  Faster
1750 machines may not need it.<p>
1751
1752 (Note that 1234 can be an arbitrary port number.  Privileged ports can
1753 be specified only by root.)  The effect of this ssh command is to
1754 forward connections made to localhost port 1234 (in above example) to
1755 mailhost's 110. <p>
1756
1757 This configuration will enable secure mail transfer.  All the
1758 conversation between fetchmail and remote pop server will be
1759 encrypted.<p>
1760
1761 If sshd is not running on the remote mail server, you can specify an
1762 intermediate host running it.  If you do this, however, communication
1763 between the machine running sshd and the POP server will not be encrypted.
1764 And the preconnect line would be like this:<p>
1765
1766 <pre>
1767 preconnect "ssh -f -L 1234:mailhost:110 sshdhost sleep 20 &lt;/dev/null &gt;/dev/null"
1768 </pre>
1769
1770 You can work this trick with IMAP too, but the port number 110 in the
1771 above would need to become 143.  In either case you'll have to specify
1772 a password but the password will not be sent in clear.<p>
1773
1774 There is an explanation of a similar recipe at <a
1775 href="http://sunsite.unc.edu/LDP/HOWTO/mini/Secure-POP+SSH.html">Secure
1776 POP via SSH mini-HOWTO</a>.<P>
1777
1778 <h3>Multi-User POP3</h3>
1779
1780 Second, a recipe from Charlie Brady &lt;cbrady@ind.tansu.com.au&gt;:<p>
1781
1782 Charlie says: "The recipe [from Masafume NAKANE] certainly works, but
1783 the solution I post here is better in a few respects":
1784
1785 <UL>
1786 <LI>this method will not fail if two or more users attempt to use fetchmail
1787     simultaneously.
1788 <LI>you are able to use the full facilities of tcpd to control access
1789 <LI>this method does not depend on the preconnect feature of fetchmail, so
1790     can be used for tunneling of other services as well.
1791 </UL>
1792
1793 Here are the steps:
1794
1795 <OL>
1796 <LI>
1797 Make sure that the "socket" program is installed on the server
1798 machine. Presently it lives at <a
1799 href="ftp://sunsite.unc.edu/pub/linux/system/network/misc/socket-1.1.tar.gz">
1800 ftp://sunsite.unc.edu/pub/linux/system/network/misc/socket-1.1.tar.gz</a>,
1801 but watch out for a change in version number.<P>
1802 <LI>
1803 Set up an unprivileged account on your system with a .ssh directory
1804 containing an SSH identity file "identity" with no pass phrase,
1805 "identity.pub" and "known_hosts" containing the host key of your
1806 mailhost. Let's call this account "noddy".
1807 <LI>
1808 On mailhost, set up no-password access for noddy@yourhost. Add to your
1809 SSH authorized_keys file:
1810
1811 <PRE>
1812 command="socket localhost 110",no-port-forwarding 1024 ......
1813 </PRE>
1814
1815 where "<code>1024 ......</code>" is the content of noddy's identity.pub file.
1816 <LI>
1817 Create a script /usr/local/bin/ssh.fm and make it executable:
1818
1819 <PRE>
1820 #! /bin/sh
1821 exec ssh -q -C -l your.login.id -e none mailhost socket localhost 110
1822 </PRE>
1823 <LI>
1824 Add an entry in inetd.conf for whatever port you choose to use - say:
1825
1826 <PRE>
1827 1234 stream tcp nowait noddy /usr/sbin/tcpd /usr/local/bin/ssh.fm
1828 </PRE>
1829 <LI>
1830 Send a HUP signal to your inetd.
1831 </OL>
1832
1833 Now just use localhost:1234 to access your POP server.<P>
1834
1835 <h3>Multi-User IMAP</h3>
1836
1837 This one comes comes to us from Joerg Dorchain.
1838 The basic idea is to set up a bidirectional encrypted socket connection:<p>
1839
1840 <pre>
1841 fetchmail &lt;--&gt; ssh &lt;---&gt; sshd &lt;--&gt; imapd
1842  \---local side--/       \-remote side-/
1843 </pre>
1844
1845 Use ssh-keygen(1) to set up a special ssh identity with no password
1846 and RSA-only authentication, which executes /usr/sbin/imapd when
1847 authenticated.  For security reasons all other commands should be
1848 disabled. (There is some security exposure in using an identity
1849 without a passphrase; it means anyone who can get access to your
1850 account could use it to read your mail).<p>
1851
1852 Running ssh-keygen will generate two files.  Have it create the
1853 private key to ~/.ssh/identity-imap. Once you have generated the
1854 corresponding public key, prepend this to the line of key data in it:
1855
1856 <pre>
1857 command="/usr/sbin/imapd",no-port-forwarding,no-agent-forwarding
1858 </pre>
1859
1860 This identity data has to be appended to ~/.ssh/authorized_keys on the
1861 remote machine, as usual for RSA authentication.  Whenever your ssh
1862 uses this identity, the remote side will run imapd.  The imapd will
1863 see that it is not running as root and go into preauthenticated
1864 mode.<p>
1865
1866 On the client side, use the <code>plugin</code> keyword to make
1867 fetchmail talk to the stdin of the remote ssh.  Here's an examople:
1868
1869 <pre>
1870 poll mail.dorchain.net
1871         with options proto imap, preauth ssh, plugin fetchmail-imap-wrapper
1872 </pre>
1873
1874 The wrapper script should look like this:<p>
1875
1876 <pre>
1877 #!/bin/sh
1878 exec ssh -i $HOME/.ssh/identity-imap $1 /usr/sbin/imapd
1879 </pre>
1880
1881 <h3>Netcat-based POP or IMAP tunnelling</h3>
1882
1883 Oren Tirosh &lt;oren@mimique.com&gt; sends us a method of using
1884 fetchmail over ssh without port forwarding, using the plugin keyword.<P>
1885
1886 First, set up a poll entry resembling thius one:
1887
1888 <TT>
1889 poll target.host plugin sshtunnel proto pop3 user foo password *
1890 </TT>
1891
1892 The important part is the "plugin sshtunnel".  Now set up sshtunnel
1893 as follows:<P>
1894
1895 <TT>
1896 This is the sshtunnel script:
1897 #!/bin/sh
1898 ssh $1 "nc localhost $2"
1899 </TT>
1900
1901 Thia method uses netcat to connect to the pop3 port locally on the
1902 target host and create a two-way channel over the ssh connection.<P>
1903
1904 Oren says: "In my experience it is much more reliable than the methods
1905 described in your FAQ.  ssh port forwarding often keeps the local port
1906 bound for along timeout and has timing issues requiring tricks like
1907 sleep, etc.  I use this method for fetching all the mail for
1908 mimique.com"<P>
1909
1910 <h3>Using plugin</h3>
1911
1912 Since 5.4.5, there's been a very simple recipe.  Use the following option:
1913
1914 <TT>
1915         plugin "ssh %h /usr/sbin/rimapd"
1916 </TT>
1917
1918 You may have to use a different absolute pathname. This option tells
1919 fetchmail that instead of opening a connection on the server's port
1920 143 and doing standard IMAP authentication, fetchmail should ssh to
1921 the server and run rimapd, using the more secure ssh authentication
1922 (as well as getting ssh's encryption).<p>
1923
1924 <hr>
1925 <h2><a name="K4">K4. What do I have to do to use the IMAP-GSS protocol?</a></h2>
1926
1927 Fetchmail can use RFC1731 GSSAPI authorization to safely identify you
1928 to your IMAP server, as long as you can share Kerberos V credentials
1929 with your mail host and you have a GSSAPI-capable IMAP server.
1930 UW-IMAP (available via FTP at <a
1931 href="ftp://ftp.cac.washington.edu/mail/">ftp.cac.washington.edu</a>)
1932 is the only one I'm aware of and the one I recommend anyway for other
1933 reasons. You'll need version 4.1-FINAL or greater though, and it has
1934 to have GSS support compiled in.<p>
1935
1936 Neither UW-IMAP nor fetchmail compile in support for GSS by default,
1937 since it requires libraries from the Kerberos V distribution
1938 (available via FTP at <a
1939 href="ftp://athena-dist.mit.edu/pub/ATHENA/kerberos">athena-dist.mit.edu</a>).
1940 If you have these, compiling in GSS support is simple: add a
1941 <pre>--with-gssapi=[/path/to/krb5/root]</pre> option to configure. For
1942 instance, I have all of my Kerberos V libraries installed under
1943 /usr/krb5 so I run <pre>configure --with-gssapi=/usr/krb5</pre><p>
1944
1945 Setting up Kerberos V authentication is beyond the scope of this FAQ
1946 (you may find Jim Rome's paper <a
1947 href="http://www.ornl.gov/~jar/HowToKerb.html"> How to Kerberize your
1948 site</a> helpful), but you'll at least need to add a credential for
1949 imap/[mailhost] to the keytab of the mail server (IMAP doesn't just
1950 use the host key). Then you'll need to have your credentials ready on
1951 your machine (cf. kinit).<p>
1952
1953 After that things are very simple. Set your protocol to imap-gss in your
1954 .fetchmailrc, and omit the password, since imap-gss doesn't need one. You
1955 can specify a username if you want, but this is only useful if your mailbox
1956 belongs to a username different from your Kerberos principal. <p>
1957
1958 Now you don't have to worry about your password appearing in cleartext in
1959 your .fetchmailrc, or across the network.<p>
1960
1961 <hr>
1962 <h2><a name="K5">K5. How can I use fetchmail with SSL?</a></h2>
1963
1964 You'll need to have the <a href="http://www.openssl.org/">OpenSSL</a>
1965 libraries installed.  Configure with --with-ssl.  If you have the
1966 OpenSSL libraries installed in the default location (/usr/local/ssl)
1967 this will suffice.  If you have them installed in a non-default
1968 location, you'll need to specify it as an argument to --with-ssl after
1969 an equal sign.<p>
1970
1971 Fetchmail binaries built this way support <code>ssl</code>,
1972 <code>sslkey</code>, and <code>sslcert</code> options that control
1973 SSL encryption.  You will need to have an SSL-enabled mailserver
1974 to use these options.  See the manual page for detals.<p>
1975
1976 If your open OpenSSL session dies with a message that complains "PRNG
1977 not seeded", update or improve your operating system.  This means that
1978 the OpenSSL library on your machine has been unable to locate a source
1979 of random bits from which to seed its random-number generator;
1980 normally these come from the <tt>/dev/urandom</tt>, and this message
1981 probably means your OS doesn't have that device.<P>.
1982
1983 An interactive program could seed the random number generator from
1984 keystroke timings or some other form of user input.  Because fetchmail
1985 is primarily designed to run forever as a background daemon, that option
1986 option is not available in this case.<P>
1987
1988 <hr>
1989 <h2><a name="R1">R1. Fetchmail isn't working, and -v shows `SMTP connect failed' messages.</a></h2>
1990
1991 Fetchmail itself is probably working, but your SMTP port 25 listener
1992 is down or inaccessible.<p>
1993
1994 The first thing to check is if you can telnet to port 25 on your smtp
1995 host (which is normally `localhost' unless you've specified an smtp
1996 option in your .fetchmailrc or on the command line) and get a greeting
1997 line from the listener.  If the SMTP host is inaccessible or the listener
1998 is down, fix that first.<p>
1999
2000 In Red Hat Linux 6.9, SMTP is disabled by default.  To fix this,
2001 set "DAEMON=yes" in your /etc/sysconfig/sendmail file, then restart
2002 sendmail by running "/sbin/service sendmail restart".<p>
2003
2004 If the listener seems to be up when you test with telnet, the most
2005 benign and typical problem is that the listener had a momentary seizure
2006 due to resource exhaustion while fetchmail was polling it -- process
2007 table full or some other problem that stopped the listener process
2008 from forking.  If your SMTP host is not `localhost' or something else
2009 in /etc/hosts, the fetchmail glitch could also have been caused by
2010 transient nameserver failure. <p>
2011
2012 Try running fetchmail -v again; if it succeeds, you had one of these
2013 kinds of transient glitch.  You can ignore these hiccups, because a
2014 future fetchmail run will get the mail through. <p>
2015
2016 If the listener tests up, but you have chronic failures trying to
2017 connect to it anyway, your problem is more serious.  One way to work
2018 around chronic SMTP connect problems is to use --mda.  But this only
2019 attacks the symptom; you may have a DNS or TCP routing problem.  You
2020 should really try to figure out what's going on underneath before it
2021 bites you some other way. <p>
2022
2023 We have one report (from toby@eskimo.com) that you can sometimes solve
2024 such problems by doing an <CODE>smtp</CODE> declaration with an IP
2025 address that your routing table maps to something other than the
2026 loopback device (he used ppp0).<p>
2027
2028 We also have a report that this error can be caused by having an
2029 /etc/hosts file that associates your client host name with more than
2030 one IP address.<P>
2031
2032 It's also possible that your DNS configuration isn't
2033 looking at <code>/etc/hosts</code> at all.  If you're using libc5,
2034 look at <code>/etc/resolv.conf</code>; it should say something like
2035
2036 <pre>
2037         order hosts,bind
2038 </pre>
2039
2040 so your <code>/etc/hosts</code> file is checked first.  If you're
2041 running GNU libc6, check your <code>/etc/nsswitch.conf</code> file.  Make
2042 sure it says something like
2043
2044 <pre>
2045         hosts:  files dns
2046 </pre>
2047
2048 again, in order to make sure <code>/etc/hosts</code> is seen first.<P>
2049
2050 If you have a hostname set for your machine, and this hostname does
2051 not appear in /etc/hosts, you will be able to telnet to port 25 and
2052 even send a mail with rcpt to: user@host-not-in-/etc/hosts, but
2053 fetchmail can't seem to get in touch with sendmail, no matter what you
2054 set smtpaddress to.<p>
2055
2056 We had another report from a Linux user of fetchmail 2.1 who solved his SMTP
2057 connection problem by removing the reference to -lresolv from his link
2058 line and relinking.  Apparently in some older Linux distributions the
2059 libc bind library version works better.<p>
2060
2061 As of 2.2, the configure script has been hacked so the bind library is
2062 linked only if it is actually needed.  So under Linux it won't be, and
2063 this particular cause should go away.<p>
2064
2065 <hr>
2066 <h2><a name="R2">R2. When I try to configure an MDA, fetchmail doesn't work.</a></h2>
2067
2068 (I hear this one from people who have run into the blank-line problem in <a href="#X1">X1</a>.)<p>
2069
2070 Try sending yourself test mail and retrieving it using the
2071 command-line options `<CODE>-k -m cat</CODE>'.  This will dump exactly what
2072 fetchmail retrieves to standard output (plus the Received line
2073 fetchmail itself adds to the headers). <p>
2074
2075 If the dump doesn't match what shows up in your mailbox when you
2076 configure an MDA, your MDA is mangling the message.  If it doesn't
2077 match what you sent, then fetchmail or something on the server is
2078 broken.<p>
2079
2080 <hr>
2081 <h2><a name="R3">R3. Fetchmail dumps core when given an invalid rc file.</a></h2>
2082
2083 This is usually reported from AIX or Ultrix, but has even been known
2084 to happen on Linuxes without a recent version of <code>flex</code>
2085 installed.  The problem appears to be a result of building with an
2086 archaic version of lex.<P>
2087
2088 Workaround: fix the syntax of your .fetchmailrc file.<P>
2089
2090 Fix: build and install the latest version of <a
2091 href="ftp://prep.ai.mit.edu/~ftp/pub/gnu">flex</a> from the Free
2092 Software Foundation.  An FSF <a
2093 href="http://www.gnu.ai.mit.edu/order/ftp.html">mirror site</a>
2094 will help you get it faster.<P>
2095
2096 <hr>
2097 <h2><a name="R4">R4. Fetchmail dumps core in -V mode, but operates normally otherwise.</a></h2>
2098
2099 We've had this reported to us under Linux using libc-5.4.17 and gcc-2.7.2.
2100 It does not occur with libc-5.3.12 or earlier versions.<p>
2101
2102 Workaround: link with GNU malloc rather than the stock C library malloc.<p>
2103
2104 We're told there is some problem with the malloc() code in that
2105 version which makes it fragile in the presence of multiple free()
2106 calls on the same pointer (the malloc arena gets corrupted).
2107 Unfortunately it appears from doing gdb traces that whatever free()
2108 calls producing the problem are being made by the C library itself, not the
2109 fetchmail code (they're all from within fclose, and not an fclose called
2110 directly by fetchmail, either).<p>
2111
2112 <hr>
2113 <h2><a name="R5">R5. Running fetchmail in daemon mode doesn't work.</a><br></h2>
2114
2115 We have one report from a SunOS 4.1.4 user that trying to run
2116 fetchmail in detached daemon mode doesn't work, but that using the
2117 same options with -N (nodetach) is OK.<P>
2118
2119 If this happens, you have a specific portability problem with the code
2120 in daemon.c that detaches and backgrounds the daemon fetchmail. Tell
2121 me about it so I can try to fix it.  As a workaround, you can start
2122 fetchmail with -N and an ampersand to background it.  A Sun user
2123 recommends
2124 this:<P>
2125
2126 <PRE>
2127 (fetchmail --nodetach &lt;other params&gt; &amp;)
2128 </PRE>
2129
2130 The extra pair of parens is significant --- it makes sure that the process
2131 detaches from the initial shell (one more shell is started and dies
2132 immediately, detaching fetchmail and making it child of PID 1).  This is
2133 important when you start fetchmail interactively and than quit
2134 interactive shell.  The line above makes sure fetchmail lives after
2135 that!<p>
2136
2137 This should not happen under Linux or any truly POSIX-conformant Unix.<P>
2138
2139 <hr>
2140 <h2><a name="R6">R6. Fetchmail hangs when used with pppd.</a></h2>
2141
2142 Your problem may be with pppd's `demand' option.  We have a report that
2143 fetchmail doesn't play well with it, but works with pppd if `demand'
2144 is turned off.  We have no idea why this is.<p>
2145
2146 <hr>
2147 <h2><a name="R7">R7. Fetchmail randomly dies with socket errors.</a></h2>
2148
2149 Check the MTU value in your PPP interface reported by
2150 <code>/sbin/ifconfig</code>.  If it's over 600, change it in your PPP
2151 options file.  (<code>/etc/ppp/options</code> on my box).  Here are
2152 option values that work:<P>
2153
2154 <pre>
2155   mtu 552
2156   mru 552
2157 </pre>
2158
2159 <hr>
2160 <h2><a name="R8">R8. Fetchmail running as root stopped working after an OS upgrade</a></h2>
2161
2162 In RH 6.0, the HOME value in the boot-time root environment changed
2163 from /root to / as the result of a change in init.  Move your
2164 .fetchmailrc or use a -f option to explicitly point at the file.
2165 (Oddly, a similar problem has been reported from Debian systems.)<P>
2166
2167 <hr>
2168 <h2><a name="R9">R9. Fetchmail is timing out after fetching certain
2169 messages but before deleting them</a></h2>
2170
2171 There's a TCP/IP stalling problem under Redhat 6.0 (and possibly other
2172 recent Linuxes) that can cause this symptom.  Brian Boutel writes:<p>
2173
2174 <blockquote>
2175 TCP timestamps are turned on on my Linux boxes (I assume it's now the
2176 default). This uses 12 extra bytes per segment.
2177 When the tcp  connection starts, the other end agrees a MSS of 1460,
2178 and then fragments 1460 byte chunks into 1448 and 12, because
2179 is is not allowing for the timestamp.<p>
2180
2181 Then, for reasons I can't explain, it waits a long time (typically 2
2182 minutes) after the ack is sent before sending the next (fragmented)
2183 packet.  Turning off tcp timestamps avoids the fragmentation and
2184 restores normal behaviour.  To do this, [execute]<p>
2185
2186 echo 0 &gt; /proc/sys/net/ipv4/tcp_timestamps<p>
2187
2188 I'm still unclear about the details of why this is happening. At least
2189 [now] I am now getting good performance and no queue blocking.
2190 </blockquote>
2191
2192 <hr>
2193 <h2><a name="R10">R10. Fetchmail is timing out during message fetches</a></h2>
2194
2195 This is probably a general networking issue.  Sending a "RETR" command will
2196 cause the server to start sending large amounts of data, which means
2197 large packets.  If your networking layer has a packet-fragmentation
2198 problem, that's where you'll see it.<p>
2199
2200 <hr>
2201 <h2><a name="D1">D1. I think I've set up fetchmail correctly, but I'm not getting any mail.</a></h2>
2202
2203 Maybe you have a .forward or alias set up that you've forgotten about.  You
2204 should probably remove it.<p>
2205
2206 Or maybe you're trying to run fetchmail in multidrop mode as root
2207 without a .fetchmailrc file.  This doesn't do what you think it
2208 should; see question <a href="#C1">C1</a>.<p>
2209
2210 Or you may not be connecting to the SMTP listener.   Run fetchmail -v
2211 and see <a href="#R1">R1</a>.<p>
2212
2213 <hr>
2214 <h2><a name="R11">R11. Fetchmail is dying with SIGPIPE.</a></h2>
2215
2216 This probably means you have an <code>mda</code> option.  Your MDA is
2217 croaking while being passed a message.  Best fix is to remove the
2218 <code>mda</code> option and pass mail to your port 25 SMTP listener.<p>
2219
2220 <hr>
2221 <h2><a name="D2">D2. All my mail seems to disappear after a dropped connection.</a></h2>
2222
2223 One POP3 daemon used in the Berkeley Unix world that reports itself as
2224 POP3 version 1.004 actually throws the queue away. 1.005 fixed that.
2225 If you're running this one, upgrade immediately.  (It also truncates
2226 long lines at column 1024)<P>
2227
2228 Many POP servers, if an interruption occurs, will restore the whole
2229 mail queue after about 10 minutes.  Others will restore it right
2230 away. If you have an interruption and don't see it right away, cross
2231 your fingers and wait ten minutes before retrying.<P>
2232
2233 Some servers (such as Microsoft's NTMail) are mis-designed to restore
2234 the entire queue, including messages you have deleted.  If you have
2235 one of these and it flakes out on you a lot, try setting a small
2236 <code>--fetchlimit</code> value.  This will result in more IP connects
2237 to the server, but will mean it actually executes changes to the queue
2238 more often.<P>
2239
2240 Qualcomm's qpopper, used at many BSD Unix sites, is better behaved.
2241 If its connection is dropped, it will first execute all DELE commands as
2242 though you had issued a QUIT (this is a technical violation of
2243 the POP3 RFCs, but a good idea in a world of flaky phone lines). Then it
2244 will re-queue any message that was being downloaded at hangup time.
2245 Still, qpopper may require a noticeable amount of time to do deletions
2246 and clean up its queue.  (Fetchmail waits a bit before retrying in
2247 order to avoid a `lock busy' error.)<P>
2248
2249 <hr>
2250 <h2><a name="D3">D3. Mail that was being fetched when I interrupted my fetchmail seems to have been vanished.</a></h2>
2251
2252 Fetchmail only sends a delete mail request to the server when either
2253 (a) it gets a positive delivery acknowledgment from the SMTP
2254 listener, or (b) it gets an error 571 (the spam-filter error) from the
2255 listener.  No interrupt can cause it to lose mail.<p>
2256
2257 However, IMAP2bis has a design problem in that its normal fetch
2258 command marks a message `seen' as soon as the fetch command to get it
2259 is sent down.  If for some reason the message isn't actually delivered
2260 (you take a line hit during the download, or your port 25 listener
2261 can't find enough free disk space, or you interrupt the delivery in
2262 mid-message) that `seen' message can lurk invisibly in your server
2263 mailbox forever.<p>
2264
2265 Workaround: add the `<CODE>fetchall</CODE>' keyword to your fetch options.<p>
2266
2267 Solution: switch to an <a href="http://www.imap.org">IMAP4</a> server.<p>
2268
2269 <hr>
2270 <h2><a name="M1">M1. I've declared local names, but all my multidrop
2271 mail is going to root anyway.</a></h2>
2272
2273 Somehow your fetchmail is never recognizing the hostname part of
2274 recipient names it parses out of To/Cc/envelope-header lines as
2275 matching the name of the mailserver machine. To check this, run
2276 fetchmail in foreground with -v -v on.  You will probably see a lot of
2277 messages with the format ``line rejected, %s is not an alias of the
2278 mailserver'' or ``no address matches; forwarding to %s.'' <p>
2279
2280 These errors usually indicate some kind of DNS configuration problem
2281 either on the server or your client machine. <p>
2282
2283 The easiest workaround is to add a `<CODE>via</CODE>' option (if
2284 necessary) and add enough aka declarations to cover all of your
2285 mailserver's aliases, then say `<CODE>no dns</CODE>'.  This will take
2286 DNS out of the picture (though it means mail may be uncollected if
2287 it's sent to an alias of the mailserver that you don't have
2288 listed). <p>
2289
2290 It would be better to fix your DNS, however.  DNS problems can hurt
2291 you in lots of ways, for example by making your machines
2292 intermittently or permanently unreachable to the rest of the net.<P>
2293
2294 Occasionally these errors indicate the sort of header-parsing problem
2295 described in <a href="#M7">M7</a>.<P>
2296
2297 <hr>
2298 <h2><a name="M2">M2. I can't seem to get fetchmail to route to a local domain properly.</a></h2>
2299
2300 A lot of people want to use fetchmail as a poor man's internetwork
2301 mail gateway, picking up mail accumulated for a whole domain in a single
2302 server mailbox and then routing based on what's in the To/Cc/Bcc lines.<p>
2303
2304 In general, this is not really a good idea.  It would be smarter to
2305 just let the mail sit in the mailserver's queue and use fetchmail's
2306 ETRN or ODMR modes to trigger SMTP sends periodically (of course, this means
2307 you have to poll more frequently than the mailserver's expiration period).
2308 If you can't arrange this, try setting up a UUCP feed.<P>
2309
2310 If neither of these alternatives is available, multidrop mode may do
2311 (though you <em>are</em> going to get hurt by some mailing list
2312 software; see the caveats under THE USE AND ABUSE OF MULTIDROP
2313 MAILBOXES on the man page).  If you want to try it, the way to do it
2314 is with the `<CODE>localdomains</CODE>' option.<p>
2315
2316 In general, if you use localdomains you need to make sure of two other
2317 things: <p>
2318
2319 <strong>1. You've actually set up your .fetchmailrc entry to invoke multidrop mode.</strong><p>
2320
2321 Many people set a `<CODE>localdomains</CODE>' list and then forget
2322 that fetchmail wants to see more than one name (or the wildcard `*')
2323 in a `<CODE>here</CODE>' list before it will do multidrop routing.<p>
2324
2325 <strong>2. You may have to set `no envelope'.</strong><p>
2326
2327 Normally, multidrop mode tries to deduce an envelope address from a message
2328 before parsing the To/Cc/Bcc lines (this enables it to avoid losing to mailing
2329 list software that doesn't put a recipient address in the To lines).<p>
2330
2331 Some ways of accumulating a whole domain's messages in a single server
2332 mailbox mean it all ends up with a single envelope address that is
2333 useless for rerouting purposes.  You may have to set `<CODE>no
2334 envelope</CODE>' to prevent fetchmail from being bamboozled by this.<p>
2335
2336 Check also answer <a href="#T1">T1</a> on a reliable way to do multidrop
2337 delivery if your ISP (or your mail redirection provider) is using qmail.<p>
2338
2339 <hr>
2340 <h2><a name="M3">M3. I tried to run a mailing list using multidrop, and I have a mail loop!</a></h2>
2341
2342 This isn't fetchmail's fault.  Check your mailing list.  If the list
2343 expansion includes yourself or anybody else at your mailserver (that is, not on
2344 the client side) you've created a mail loop.  Just chop the host part off any
2345 local addresses in the list.<p>
2346
2347 If you use sendmail, you can check the list expansion with
2348 <CODE>sendmail -bv</CODE>.<p>
2349
2350 <hr>
2351 <h2><a name="M4">M4. My multidrop fetchmail seems to be having DNS problems.</a></h2>
2352
2353 We have one report from a Linux user (not the same one as in <a
2354 href="#R1">R1</a>!) who solved this problem by removing the reference
2355 to -lresolv from his link line and relinking.  Apparently in some
2356 older Linux distributions the libc5 bind library version works
2357 better.<p>
2358
2359 As of 2.2, the configure script has been hacked so the bind library is linked
2360 only if it is actually needed.  So under Linux it won't be, and this problem
2361 should go away.<p>
2362
2363 <hr>
2364 <h2><a name="M5">M5. I'm seeing long DNS delays before each message is processed.</a></h2>
2365
2366 Use the `<CODE>aka</CODE>' option to pre-declare as many of your
2367 mailserver's DNS names as you can.  When an address's host part
2368 matches an aka name, no DNS lookup needs to be done to check it.<p>
2369
2370 If you're sure you've pre-declared all of your mailserver's DNS names,
2371 you can use the `<CODE>no dns</CODE>' option to prevent other hostname
2372 parts from being looked up at all.<p>
2373
2374 Sometimes delays are unavoidable.  Some SMTP listeners try to call DNS
2375 on the From-address hostname as a way of checking that the address is valid.<p>
2376
2377 <hr>
2378 <h2><a name="M6">M6. How do I get multidrop mode to work with majordomo?</a></h2>
2379
2380 In order for sendmail to execute the command strings in the majordomo
2381 alias file, it is necessary for sendmail to think that the mail it
2382 receives via SMTP really is destined for a local user name.  A normal
2383 virtual-domain setup results in delivery to the default mailbox,
2384 rather than expansion through majordomo.<P>
2385
2386 Michael &lt;michael@bizsystems.com&gt; gave us a recipe for dealing
2387 with this case that pairs a run control file like this:<P>
2388
2389 <pre>
2390 poll your.pop3.server proto pop3:
2391     no envelope no dns
2392     localdomains virtual.localdomain1.com virtual.localdomain2.com ...
2393     user yourISPusername is root * here,
2394     password yourISPpassword fetchall
2395 </pre>
2396
2397 with a hack on your local sendmail.cf like this:<P>
2398
2399 <pre>
2400 #############################################
2401 #  virtual info, local hack for ruleset 98  #
2402 #############################################
2403
2404 # domains to treat as direct mapped local domain
2405
2406 CVvirtual.localdomain1.com virtual.localdomain2.com ...
2407 ---------------------------
2408 in ruleset 98 add
2409 -------------------------
2410 # handle virtual users
2411
2412 R$+ &lt;@ $=V . &gt;          $: $1 &lt; @ $j . &gt;
2413 R&lt; @ &gt; $+ &lt; @ $=V . &gt;   $: $1 &lt; @ $j . &gt;
2414 R&lt; @ &gt; $+               $: $1
2415 R&lt; error : $- $+ &gt; $*   $#error $@ $1 $: $2
2416 R&lt; $+ &gt; $+ &lt; @ $+ &gt;     $: $&gt;97 $1
2417 </pre>
2418
2419 This ruleset just strips virtual domain names off the addresses of incoming
2420 mail.  Your sendmail must be 8.8 or newer for this to work.  Michael
2421 says:<P>
2422
2423 <BLOCKQUOTE>
2424 I use this scheme with 2 virtual domains and the default ISP
2425 user+domain and service about 30 mail accounts + majordomo on my
2426 inside pop3 server with fetchmail and sendmail 8.83
2427 </BLOCKQUOTE>
2428
2429 <hr>
2430 <h2><a name="M7">M7. Multidrop mode isn't parsing envelope addresses from
2431 my Received headers as it should.</a></h2>
2432
2433 It may happen that you're getting what appear to be well-formed
2434 sendmail Received headers, but fetchmail can't seem to extract an
2435 envelope address from them.  There can be a couple of reasons for
2436 this.<P>
2437
2438 <h3>Spurious Received lines need to be skipped:</h3>
2439
2440 First, fetchmail might be looking at the wrong Received header.
2441 Normally it looks only on the first one it sees, on the theory that
2442 that one was last added and is going to be the one containing your
2443 mailserver's theory of who the message was addressed to.<P>
2444
2445 Some (unusual) mailserver configurations will generate extra Received
2446 lines which you need to skip.  To arrange this, use the optional
2447 skip prefix argument of the `envelope' option; you may need to say
2448 something like `<code>envelope 1 Received</code>' or `<code>envelope 2
2449 Received</code>'.
2450
2451 <h3>The `by' clause doesn't contain a mailserver alias:</h3>
2452
2453 When fetchmail parses a Received line that looks like
2454
2455 <pre>
2456 Received: from send103.yahoomail.com (send103.yahoomail.com [205.180.60.92])
2457     by iserv.ttns.net (8.8.5/8.8.5) with SMTP id RAA10088
2458     for &lt;ksturgeon@fbceg.org&gt;; Wed, 9 Sep 1998 17:01:59 -0700
2459 </pre>
2460
2461 it checks to see if `iserv.ttns.net' is a DNS alias of your mailserver
2462 before accepting `ksturgeon@fbceg.org' as an envelope address.  This
2463 check might fail if your DNS were misconfigured, or if you were using `no dns'
2464 and had failed to declare iserv.ttns.net as an alias of your server.<P>
2465
2466 <hr>
2467 <h2><a name="M8">M8. Users are getting multiple copies of messages.</a></h2>
2468
2469 It's a consequence of multidrop.  What's happening is that you have
2470 N users subscribed to the same list.  The list software sends N
2471 copies, not knowing they will end up in the same multidrop box.  Since
2472 they are both locally addressed to all N users, fetchmail delivers N
2473 copies to each user.<P>
2474
2475 Fetchmail tries to eliminate adjacent duplicate messages in a
2476 multidrop mailbox.  However, this logic depends on the message-ID
2477 being identical in both copies.  It also depends on the two copies
2478 being adjacent in the server mailbox.  The former is usually the case,
2479 but the latter condition sometimes fails in a timing-dependent way if
2480 the server was processing multiple incoming mail streams.
2481
2482 I could eliminate this problem by keeping a list of all message-IDs
2483 received during a poll so far and dropping any message that matches a
2484 seen mail ID.  The touble is that this is an O(N**2) operation that
2485 might significantly slow down the retriweval of large mail batches.<P>
2486
2487 <hr>
2488 <h2><a name="X1">X1. Spurious blank lines are appearing in the headers of fetched mail.</a></h2>
2489
2490 What's probably happening is that the POP/IMAP daemon on your
2491 mailserver is inserting a non-RFC822 header (like X-POP3-Rcpt:) and
2492 something in your delivery path (most likely an old version of the
2493 <em>deliver</em> program, which sendmail often calls to do local delivery) is
2494 failing to recognize it as a header.<p>
2495
2496 This is not fetchmail's problem.  The first thing to try is installing
2497 a current version of <em>deliver</em>.  If this doesn't work, try to
2498 figure out which other program in your mail path is inserting the
2499 blank line and replace that.  If you can't do either of these things,
2500 pick a different MDA (such as procmail) and declare it with the
2501 `<CODE>mda</CODE>' option.<p>
2502
2503 <hr>
2504 <h2><a name="X2">X2. My mail client can't see a Subject line.</a></h2>
2505
2506 First, see <a href="#X1">X1</a>.  This is quite probably the same
2507 problem (X-POP3-Rcpt header or something similar being inserted by
2508 the server and choked on by an old version of <em>deliver</em>).<p>
2509
2510 The O'Reilly sendmail book does warn that IDA sendmail doesn't process
2511 X- headers correctly.  If this is your problem, all I can suggest is
2512 replacing IDA sendmail, because it's broken and not RFC822 conformant.<p>
2513
2514 <hr>
2515 <h2><a name="X3">X3. Messages containing "From" at start of line are being split.</a></h2>
2516
2517 If you know the messages aren't split in your server mailbox, then this
2518 is a problem with your POP/IMAP server, your client-side SMTP listener or
2519 your local delivery agent.  Fetchmail cannot split messages.<p>
2520
2521 Some POP server daemons ignore Content-Length headers and split messages on
2522 From lines.  We have one report that the 2.1 version of the BSD popper
2523 program (as distributed on Solaris 2.5 and elsewhere) is broken this way.<p>
2524
2525 You can test this.  Declare an mda of `cat' and send yourself one
2526 piece of mail containing "From" at start of a line.  If you see a
2527 split message, your POP/IMAP server is at fault.  Upgrade to a more
2528 recent version.<p>
2529
2530 Sendmail and other SMTP listeners don't split RFC822 messages either.
2531 What's probably happening is either sendmail's local delivery agent or
2532 your mail reader are not quite RFC822-conformant and are breaking
2533 messages on what it thinks are Unix-style From headers.  You can
2534 figure out which by looking at your client-side mailbox with vi or
2535 more.  If the message is already split in your mailbox, your local
2536 delivery agent is the problem.  If it's not, your mailreader is the
2537 problem.<p>
2538
2539 If you can't replace the offending program, take a look at your
2540 sendmail.cf file.  There will likely be a line something like<p>
2541
2542 <pre>
2543 Mlocal, P=/usr/bin/procmail, F=lsDFMShP, S=10, R=20/40, A=procmail -Y -d $u
2544 </pre>
2545
2546 describing your local delivery agent.  Try inserting the `E' option in the
2547 flags part (the F= string).  This will make sendmail turn each dangerous
2548 start-of-line From into a &gt;From, preventing programs further downstream
2549 from acting up.<p>
2550
2551 <hr>
2552 <h2><a name="X4">X4.</a><a name="generic_mangling">My mail is being mangled in a new and different way</a></h2>
2553
2554 The first thing you need to do is pin down what program is doing the
2555 mangling.  We don't like getting bug reports about fetchmail that are
2556 actually due to some other program's malfeasance, so please go through
2557 this diagnostic sequence before sending us a complaint.<P>
2558
2559 There are five possible culprits to consider, listed here in the order
2560 they pass your mail:<P>
2561
2562 <ol>
2563 <li> Programs upstream of your server mailbox.
2564 <li> The POP or IMAP server on your mailserver host.
2565 <li> The fetchmail program itself.
2566 <li> Your local sendmail.
2567 <li> Your LDA (local delivery agent), as called by sendmail or
2568 specified by <code>mda</CODE>.
2569 </ol>
2570
2571 Often it happens that fetchmail itself is OK, but using it exposes
2572 pre-existing bugs in your downstream software, or your downstream
2573 software has a bad interaction with POP/IMAP.  You need to pin down
2574 exactly where the message is being garbled in order to deduce what is
2575 actually going on.<P>
2576
2577 The first thing to do is send yourself a test message, and retrieve it
2578 with a .fetchmailrc entry containing the following (or by running with
2579 the equivalent command-line options):<P>
2580
2581 <pre>
2582     mda "cat &gt;MBOX" keep fetchall
2583 </pre>
2584
2585 This will capture what fetchmail gets from the server, except for (a)
2586 the extra Received header line fetchmail prepends, (b) header address
2587 changes due to <code>rewrite</code>, and (c) any end-of-line changes
2588 due to the <code>forcecr</code> and <code>stripcr</code> options.
2589 MBOX will in fact contain what programs downstream of fetchmail
2590 see.<P>
2591
2592 The most common causes of mangling are bugs and misconfigurations in
2593 those downstream programs.  If MBOX looks unmangled, you will know
2594 that is what is going on and that it is not fetchmail's problem.  Take
2595 a look at the other FAQ items in this section for possible clues about
2596 how to fix your problem.<P>
2597
2598 If MBOX looks mangled, the next thing to do is compare it with your
2599 actual server mailbox (if possible).  That's why you specified
2600 <code>keep</code>, so the server copy would not be deleted.  If your
2601 server mailbox looks mangled, programs upstream of your server mailbox
2602 are at fault.  Unfortunately there is probably little you can do about
2603 this aside from complaining to your site postmaster, and nothing at
2604 all fetchmail can do about it!<P>
2605
2606 More likely you'll find that the server copy looks OK.  In that case
2607 either the POP/IMAP server or fetchmail is doing the mangling.  To
2608 determine which, you'll need to telnet to the server port and simulate
2609 a fetchmail session yourself.  This is not actually hard (both POP3
2610 and IMAP are simple, text-only, line-oriented protocols) but requires
2611 some attention to detail.  You should be able to use a fetchmail -v
2612 log as a model for a session, but remember that the "*" in your LOGIN
2613 or PASS command dump has to be replaced with your actual password.<P>
2614
2615 The objective of manually simulating fetchmail is so you can see
2616 exactly what fetchmail sees.  If you see a mangled message, then your
2617 server is at fault, and you probably need to complain to your
2618 mailserver administrators.  However, we like to know what the broken
2619 servers are so we can warn people away from them.  So please send
2620 us a transcript of the session including the mangling <em>and the
2621 server's initial greeting line</em>.  Please tell us anything else
2622 you think might be useful about the server, like the server host's
2623 operating system.<P>
2624
2625 If your manual fetchmail simulation shows an unmangled message,
2626 congratulations.  You've found an actual fetchmail bug, which is a
2627 pretty rare thing these days.  Complain to us and we'll fix it.
2628 Please include the session transcript of your manual fetchmail
2629 simulation along with the other things described in the FAQ entry on
2630 <a href="#G3">reporting bugs</a>.
2631
2632 <hr>
2633 <h2><a name="X5">X5. Using POP3, retrievals seems to be fetching too much!</a></h2>
2634
2635 This may happen in versions of fetchmail after 4.4.1 and before 4.4.8.
2636 Versions after 4.4.1 use POP3's TOP command rather than RETR, in order
2637 to avoid marking the message seen (leaving it unseen is helpful for
2638 later recovery if you lose your connection in the middle of a
2639 retrieval).<P>
2640
2641 Versions of fetchmail from 4.4.2 through 4.4.7 had a bad interaction
2642 with Eudora qpopper versions 2.3 and later.  The TOP bounds check was
2643 fooled by an overflow condition in the TOP argument.  Decrementing the
2644 TOP argument in 4.4.7 fixed this.<P>
2645
2646 Fix: Upgrade to a later version of fetchmail.<P>
2647
2648 Workaround: set the <code>fetchall</code> option.  Under POP3
2649 this has the side effect of forcing RETR use.<P>
2650
2651 <hr>
2652 <h2><a name="X6">X6. My mail attachments are being dropped or mangled.</a></h2>
2653
2654 This isn't fetchmail's doing -- fetchmail never drops lines in message
2655 bodies or attachments. It may be your POP server, or it may be the
2656 sender's mail user agent (or a bad combination of both).<p>
2657
2658 The Mail Max POP3 server and the InterChange and Imail IMAP servers
2659 are known to simply drop MIME attachments when uploading messages.
2660 We've had sporadic reports of problems with Microsoft Exchange and
2661 Outlook servers.  Windows- and NT-based POP servers seem especially
2662 prone to mangle attachments.  If you are running one of these,
2663 replacing your server with a Unix machine is probably the only
2664 effective solution.<p>
2665
2666 We've also had a report that Lotus Notes sometimes trashes the
2667 MIME type of messages.  In particular, it seems to modify MIME
2668 headers introducing type application/pdf, mangling the type
2669 to application/octet-stream. It may corrupt other MIME types
2670 as well.<p>
2671
2672 The IMAP service of Lotus Domino has a known bug in the way it
2673 generates MIME Content-type headers (observed on Lotus Domino 5.0.2b).
2674 It's a subtle one that doesn't show up when Netscape Messenger and
2675 other clients use a FETCH BODY[] to grab the whole message.  When
2676 fetchmail uses FETCH RFC822.HEADER and FETCH RFC822.TEXT to get first
2677 the header and then the body, Domino generates different Boundary tags
2678 for each part, .e.g. one tag is declared in the Content-type header and
2679 another is used to separate the MIME parts in the body.  This doesn't
2680 work. (I have heard a rumor that this bug is scheduled to be fixed
2681 in Domino release 6; you can find a workaround at contrib/domino.)<p>
2682
2683 Another rich source of attachment problems is Microsoft Exchange and
2684 Microsoft Outlook.  If you see unreadable attachments with a
2685 ContentType of "application/x-tnef", you're having this problem.  The
2686 <a href="http://world.std.com/~damned/software.html">TNEF</a> utility
2687 may help.<p>
2688
2689 Rob Funk explains: Unfortunately there also remain many mail user
2690 agents that don't write correct MIME messages. One big offender is Sun
2691 MailTool attachments, which are formatted enough like MIME that some
2692 programs could get confused; these are generated by the mailtool and
2693 dtmail programs (the mail programs in Sun's OpenWindows and CDE
2694 environments).<p>
2695
2696 One solution to problems related to misformatted MIME attachments is
2697 the <a href="ftp://ftp.uu.se/pub/unix/networking/mail/emil/">emil</a>
2698 program; see its <a
2699 href="ftp://ftp.uu.se/pub/unix/networking/mail/emil/TUTORIAL.html">tutorial</a>
2700 file at that site for details on emil.  It is useful for
2701 converting character sets, attachment encodings, and attachment
2702 formats.  At this writing, emil does not appear to have been
2703 maintained since a patch to version 2.1.0beta9 in late 1997, but it is
2704 still useful.<p>
2705
2706 One good way of using emil is from within procmail.  You can have
2707 procmail look for signs of problematic message formatting, and pipe
2708 those messages through emil to be fixed.  emil will not always be able
2709 to fix the problem, in which case the message is unchanged.<p>
2710
2711 A possible rule to be inserted into a .procmailrc file for using emil
2712 would be:
2713
2714 <pre>
2715 :0HB
2716 * 1^1 ^Content-Type: \/X-sun[^;]*
2717 * 1^1 ^Content-Type: \/application/mac-binhex[^;]*
2718 * 1^1 ^Content-Transfer-Encoding: \/x-binhex[^;]*
2719 * 1^1 ^Content-Transfer-Encoding: \/x-uuencode[^;]*
2720 {
2721   LOG="Converting $MATCH
2722 "
2723   :0fw
2724   | emil -A B -T Q -B BA -C iso-8859-1 -H Q -F MIME \
2725   | gawk '{gsub(/\r\n?/,"\n");print $0}'
2726 }
2727 </pre>
2728
2729 The "1^1" in the conditions is a way of specifying to procmail that if
2730 any one of the four listed expressions is found in the message, the
2731 total condition is considered true, and the message gets passed into
2732 emil.  These four subconditions check whether the message has a Sun
2733 attachment, a binhex attachment, or a uuencoded attachment; there are
2734 others that could be added to check these things better and to check
2735 other relevant conditions.  The "LOG=" line writes a line into the
2736 procmail log; the lone double-quote beginning the following line makes
2737 sure the log entry gets an end-of-line character.  The call to gawk
2738 (GNU awk) is for fixing end-of-line conventions, since emil sometimes
2739 leaves those in the format of the originating machine; it could
2740 probably be replaced with a sed subsitution.<p>
2741
2742 The emil call itself tries to ensure that the message uses:
2743 <ul>
2744 <li> BinHex encoding for any Apple Macintosh-only attachments
2745 <li> Quoted-Printable encoding for text (when necessary)
2746 <li> Base64 Encoding for binary attachments
2747 <li> iso-8859-1 character set for text (unfortunately emil can't yet
2748   convert from windows-1252 to iso-8859-1)
2749 <li> Quoted-Printable encoding for headers
2750 <li> MIME attachment format
2751 </ul>
2752
2753 Most of these (the primary exceptions being the character set and the
2754 Apple binary format) are as they should be for good internet
2755 interoperability.<p>
2756
2757 Some mail servers (Lotus Domino is a suspect here) mangle
2758 Sun-formatted messages, so the conversion to MIME needs to happen
2759 before such programs see the message.  The ideal is to rid the world
2760 of Sun-formatted messages: don't use mailtool for sending attachments
2761 (it doesn't understand MIME anyway, and most of the world doesn't
2762 understand its attachments, so it really shouldn't be used at all),
2763 and make sure dtmail is set to use MIME rather than mailtool's format.<p>
2764
2765 <hr>
2766 <h2><a name="X7">X7. Some mail attachments are hanging fetchmail.</a></h2>
2767
2768 This isn't fetchmail's problem either; fetchmail doesn't know anything
2769 about mail attachments and doesn't treat them any differently from
2770 plain message data.<P>
2771
2772 The most usual cause of this problem seems to be bugs in your network
2773 transport layer's capability to handle the very large TCP/IP packets
2774 that attachments tend to turn into.  You can test this theory by trying to
2775 download the offending message through a webmail account; using HTTP
2776 for the message tends to simulate large-packet stress rather well, and
2777 you will probably find that the messages that seem to be choking
2778 fetchmail will make your HTTP download speed drop to zero.<P>
2779
2780 This problem can be caused by subtle bugs in the packet-reassembly
2781 layer of your TCP/IP stack; these often don't manifest at normal
2782 packet sizes.  It may also be caused by malfunctioning path-MTU
2783 discovery on the mailserver.  Or, if there's a modem in the link,
2784 it may be because the attachment contains the Hayes mode escape "+++".
2785
2786 <hr>
2787 <h2><a name="O1">O1. The --logfile option doesn't work if the logfile doesn't exist.</a></h2>
2788
2789 This is a feature, not a bug.  It's in line with normal practice for
2790 system daemons and allows you to suppress logging by removing the log,
2791 without hacking potentially fragile startup scripts.  To get around
2792 it, just touch(1) the logfile before you run fetchmail (this will have
2793 no effect on the contents of the logfile if it already exists).<P>
2794
2795 <hr>
2796 <h2><a name="O2">O2. Every time I get a POP or IMAP message the header
2797 is dumped to all my terminal sessions.</a></h2>
2798
2799 Fetchmail uses the local sendmail to perform final delivery, which
2800 Netscape and other clients doesn't do; the announcement of new messages
2801 is done by a daemon that sendmail pokes. There should be a ``biff''
2802 command to control this.  Type
2803
2804 <PRE>
2805 biff n
2806 </PRE>
2807
2808 to turn it off. If this doesn't work, try the command
2809
2810 <PRE>
2811 chmod -x `tty`
2812 </PRE>
2813
2814 which is essentially what <code>biff -n</code> will do. If this
2815 doesn't work, comment out any reference to ``comsat'' in your
2816 /etc/inetd.conf file and restart inetd.<P>
2817
2818 In Slackware Linux distributions, the last line in /etc/profile is
2819
2820 <PRE>
2821 biff y
2822 </PRE>
2823
2824 Change this to
2825
2826 <PRE>
2827 biff n
2828 </PRE>
2829
2830 to solve the problem system-wide.<P>
2831
2832 <hr>
2833 <h2><a name="O3">O3. Does fetchmail reread its rc file every poll cycle?</a></h2>
2834
2835 No, but versions 5.2.2 and later will notice when you modify your rc
2836 file and restart, reading it.
2837
2838 <hr>
2839 <h2><a name="O4">O4. Why do deleted messages show up again when I take
2840 a line hit while downloading?</a></h2>
2841
2842 Because you're using a POP3 other than Qualcomm qpopper, or an IMAP
2843 with a long expunge interval.<P>
2844
2845 According to the POP3 RFCs, deletes aren't actually performed until
2846 you issue the end-of-session QUIT command.  Fetchmail cannot fix this,
2847 because doing it right takes cooperation from the server. There are
2848 two possible remedies:<P>
2849
2850 One is to switch to qpopper (the free POP3 server from Qualcomm,
2851 the Eudora people).  The qpopper software violates the POP3 RFCs by
2852 doing an expunge (removing deleted messages) on a line hangup, as well
2853 as on processing a QUIT command.<P>
2854
2855 The other (which we recommend) is to switch to <a
2856 href="http://www.imap.org">IMAP</a>.  IMAP has an explicit expunge
2857 command and fetchmail normally uses it to delete messages immediately
2858 after they are downloaded.<P>
2859
2860 If you get very unlucky, you might take a line hit in the window
2861 between the delete and the expunge.  If you've set a longer expunge
2862 interval, the window gets wider.  This problem should correct itself
2863 the next time you complete a successful query.<P>
2864
2865 <hr>
2866 <h2><a name="O5">O5. Why is fetched mail being logged with my name, not the real From address?</a></h2>
2867
2868 Because logging is done based on the address indicated by the sending
2869 SMTP's MAIL FROM, and some listeners are picky about that address.<p>
2870
2871 Some SMTP listeners get upset if you try to hand them a MAIL FROM
2872 address naming a different host than the originating site for your
2873 connection.  This is a feature, not a bug -- it's supposed to help
2874 prevent people from forging mail with a bogus origin site.  (RFC 1123
2875 says you shouldn't do this exclusion...)<p>
2876
2877 Since the originating site of a fetchmail delivery connection is
2878 localhost, this effectively means these picky listeners will barf on
2879 any MAIL FROM address fetchmail hands them with an @ in it!<p>
2880
2881 Versions 2.1 and up try the header From address first and fall back to
2882 the calling-user ID.  So if your SMTP listener isn't picky, the log
2883 will look right.<p>
2884
2885 <hr>
2886 <h2><a name="O6">O6. I'm seeing long sendmail delays or hangs near the start of each poll cycle.</a></h2>
2887
2888 Sendmail does a hostname lookup when it first starts up, and also each
2889 time it gets a HELO in listener mode.<p>
2890
2891 Your resolver configuration may be causing one of these lookups to
2892 fail and time out.  Check <code>/etc/resolv.conf</code> and
2893 <code>/etc/hosts</code> file. Make sure your hostname and
2894 fully-qualified domain name are both in <code>/etc/hosts</code>, and
2895 that hosts is looked at before DNS is queried.  You probably also want
2896 your remote mail server(s) to be in the hosts file.<p>
2897
2898 You can suppress the startup-time lookup if need to by reconfiguring
2899 with <code>FEATURE(nodns)</code>.<p>
2900
2901 Configuring your bind library to cache DNS lookups locally may help,
2902 and is a good idea for speeding up other services as well.  Switching to
2903 a faster MTA like qmail or exim might help. <p>
2904
2905 <hr>
2906 <h2><a name="O7">O7. Why doesn't fetchmail deliver mail in date-sorted order?</a></h2>
2907
2908 Because that's not the order the server hands it to fetchmail in.<P>
2909
2910 Fetchmail getting mail from a POP server delivers mail in the order
2911 that your server delivers mail.  Fetchmail can't do anything about
2912 this; it's a limitation of the underlying POP protocol.<P>
2913
2914 In theory it might be possible for fetchmail in IMAP mode to sort
2915 messages by date, but this would be in violation of two basics of
2916 fetchmail's design philosophy: (a) to be as simple and transparent a
2917 pipe as possible, and (b) to <em>hide</em>, rather than emphasize, the
2918 differences between the remote-fetch protocols it uses.<P>
2919
2920 Re-ordering messages is a user-agent function, anyway.<P>
2921
2922 <hr>
2923 <h2><a name="O8">O8. I'm using pppd.  Why isn't my monitor option working?</a></h2>
2924
2925 There is a combination of circumstances that can confuse fetchmail.
2926 If you have set up demand dialing with pppd, and pppd has an idle
2927 timeout, and you have lcp-echo-interval set, then the
2928 lcp-echo-interval time must be longer than the pppd idle timeout.
2929 Otherwise it is going keep increasing the packet counters that fetchmail
2930 relies upon, triggering fetchmail into polling after its own delay
2931 interval and thus preventing the pppd link from ever reaching its
2932 inactivity timeout.<p>
2933
2934 <hr>
2935 <h2><a name="O9">O9. Why does fetchmail keep retrieving the same messages
2936 over and over?</a></h2>
2937
2938 First, check to see that you haven't enabled the <cite>keep</cite>
2939 and <cite>fetchall</cite> option.  If you have, turn <cite>keep</cite> off.<p>
2940
2941 There are various forms of lossage involving the POP3 UIDL feature
2942 that can lead to all your old messages being seen again after a line
2943 drop.  I have given up trying to fix these, as the UIDL code breaks
2944 worse every time I touch it.  The problem is fundamental; maintaining
2945 and garbage-collecting the right kind of client-side state is just
2946 hard.  Whoever put UIDLs in RFC1725 and removed LAST should be hung
2947 up by his thumbs and whipped with scorpions.  The right answers are
2948 either (a) live with the occasional breakage, (b) switch to IMAP4,
2949 or (c) fix the code yourself and send me a patch.  Unless you choose
2950 (c), I don't want to hear about it.<p>
2951
2952 This can also happen when some other mail client is logged in to your
2953 mail server, if it uses a simple exclusive-locking scheme (and many,
2954 especially most POP3 servers, do exactly that).  Your fetchmail is
2955 able to retrieve the messages, but because the mailbox is write-locked
2956 by the other instance yours can neither mark messages seen or delete them.
2957 The solution is to either (a) wait for the other client to finish, or (b)
2958 terminate it.<p>
2959
2960 James Stevens &lt;James.Stevens@kyzo.com&gt; writes:<p>
2961
2962 <em>
2963 We had a Linux box dialing the Net and collecting mail from an NT POP3
2964 server.  Fetchmail was correctly collecting and deleting each e-mail
2965 one by one. However,the dial-up connection was very unreliable and
2966 would often just drop out in the middle of a session.<p>
2967
2968 Interestingly, unless the TCP POP3 connection was terminated normally
2969 (I guess with a POP3 "QUIT" command) NT would then roll back all the
2970 deletes !!!<p>
2971
2972 This meant if the first e-mail was very large it might just end up
2973 continuously collecting it, basically jamming the queue. Or, if the
2974 queue became very full itmight never get a long enough phone
2975 connection to retrieve the entire mailbox, and NT would roll back any
2976 deletes, so it would end up collecting (and delivering) the first few
2977 e-mails again and again. As the POP3 mailbox became fuller and fuller
2978 the chances of getting a connection long enough to collect theentire
2979 mailbox became smaller and smaller.<p>
2980
2981 Our solution was to make fetchmail only collect a few (say 5 or 10)
2982 e-mails at atime, thus trying to ensure that the POP3 connection is
2983 terminated correctly.
2984 </em>
2985
2986 Unfortunately, this is exactly the way POP3 servers are supposed
2987 to behave on a line drop, according to the RFCs.  I recommend
2988 switching to IMAP and using a short expunge interval.<p>
2989
2990 <HR>
2991 <table width="100%" cellpadding=0><tr>
2992 <td width="30%">Back to <a href="index.html">Fetchmail Home Page</a>
2993 <td width="30%" align=center>To <a href="/~esr/sitemap.html">Site Map</a>
2994 <td width="30%" align=right>$Date: 2001/02/07 08:01:08 $
2995 </table>
2996
2997 <P><ADDRESS>Eric S. Raymond <A HREF="mailto:esr@thyrsus.com">&lt;esr@snark.thyrsus.com&gt;</A></ADDRESS>
2998 </BODY>
2999 </HTML>
3000 <!--
3001 Local Variables:
3002 compile-command: "(cd ~/WWW; upload fetchmail/fetchmail-FAQ.html)"
3003 End:
3004 -->