Pileus Git - ~andy/fetchmail/blob - fetchmail-FAQ.html

   1 <!doctype HTML public "-//W3O//DTD W3 HTML 3.2//EN">
   2 <HTML>
   3 <HEAD>
   4 <TITLE>The Fetchmail FAQ</TITLE>
   5 <link rev=made href="mailto:esr@snark.thyrsus.com">
   6 <meta name="description" content="Frequently asked questions about fetchmail.">
   7 <meta name="keywords" content="fetchmail, POP, POP2, POP3, IMAP, remote mail">
   8 </HEAD>
   9 <BODY>
  10 <table width="100%" cellpadding=0><tr>
  11 <td width="30%">Back to <a href="index.html">Fetchmail Home Page</a>
  12 <td width="30%" align=center>To <a href="/~esr/sitemap.html">Site Map</a>
  13 <td width="30%" align=right>$Date: 2001/04/26 03:24:46 $
  14 </table>
  15 <HR>
  16 <H1>Frequently Asked Questions About Fetchmail</H1>
  17
  18 <p>Before reporting any bug, please read <a href="#G3">G3</a> for advice
  19 on how to include diagnostic information that will get your bug fixed
  20 as quickly as possible.
  21
  22 <p>If you have a question or answer you think ought to be added to
  23 this FAQ list, mail it to fetchmail's maintainer, Eric S. Raymond, at
  24 <A HREF="mailto:esr@thyrsus.com">esr@snark.thyrsus.com</A>.
  25
  26 <h1>General questions:</h1>
  27
  28 <a href="#G1">G1. What is fetchmail and why should I bother?</a><br>
  29 <a href="#G2">G2. Where do I find the latest FAQ and fetchmail sources?</a><br>
  30 <a href="#G3">G3. I think I've found a bug.  Will you fix it?</a><br>
  31 <a href="#G4">G4. I have this idea for a neat feature. Will you add it?</a><br>
  32 <a href="#G5">G5. Is there a mailing list for exchanging tips?</a><br>
  33 <a href="#G6">G6. So, what's this I hear about a fetchmail paper?</a><br>
  34 <a href="#G7">G7. What is the best server to use with fetchmail?</a><br>
  35 <a href="#G8">G8. What is the best mail program to use with fetchmail?</a><br>
  36 <a href="#G9">G9. How can I avoid sending my password en clair?</a><br>
  37 <a href="#G10">G10. Is any special configuration needed to use a dynamic
  38 IP address?</a><br>
  39 <a href="#G11">G11. Is any special configuration needed to use firewalls?</a><br>
  40 <a href="#G12">G12. Is any special configuration needed to <em>send</em> mail?</a><br>
  41 <a href="#G13">G13. Is fetchmail Y2K-compliant?</a><br>
  42 <a href="#G14">G14. Is there a way in fetchmail to support disconnected IMAP mode?</a><br>
  43 <a href="#G15">G15. How will fetchmail perform under heavy loads?</a><br>
  44
  45 <h1>Build-time problems:</h1>
  46
  47 <a href="#B1">B1. Make coughs and dies when building on FreeBSD.</a><br>
  48 <a href="#B2">B2. Lex bombs out while building the fetchmail lexer.</a><br>
  49 <a href="#B3">B3. I get link failures when I try to build fetchmail.</a><br>
  50
  51 <h1>Fetchmail configuration file grammar questions:</h1>
  52
  53 <a href="#F1">F1. Why does my old .fetchmailrc no longer work?</a><br>
  54 <a href="#F2">F2. The .fetchmailrc parser won't accept my all-numeric user name.</a><br>
  55 <a href="#F3">F3. The .fetchmailrc parser won't accept my host or username beginning with `no'.</a><br>
  56 <a href="#F4">F4. I'm getting a `parse error' message I don't understand.</a><br>
  57
  58 <h1>Configuration questions:</h1>
  59
  60 <a href="#C1">C1. Why do I need a .fetchmailrc when running as root on my own machine?</a><br>
  61 <a href="#C2">C2. How can I arrange for a fetchmail daemon to get killed when I log out?</a><br>
  62 <a href="#C3">C3. How do I know what interface and address to use with --interface?</a><br>
  63 <a href="#C4">C4. How can I set up support for sendmail's anti-spam features?</a><br>
  64 <a href="#C5">C5. How can I poll some of my mailboxes more/less often than others?</a><br>
  65 <a href="#C6">C6. Fetchmail works OK started up manually, but not from an init script.</a><br>
  66 <a href="#C7">C7. How can I forward mail to another host?.</a><br>
  67
  68 <h1>How to make fetchmail play nice with various MTAs:</h1>
  69
  70 <a href="#T1">T1. How can I use fetchmail with sendmail?</a><br>
  71 <a href="#T2">T2. How can I use fetchmail with qmail?</a><br>
  72 <a href="#T3">T3. How can I use fetchmail with exim?</a><br>
  73 <a href="#T4">T4. How can I use fetchmail with smail?</a><br>
  74 <a href="#T5">T5. How can I use fetchmail with SCO's MMDF?</a><br>
  75 <a href="#T6">T6. How can I use fetchmail with Lotus Notes?</a><br>
  76
  77 <h1>How to make fetchmail work with various servers:</h1>
  78
  79 <a href="#S1">S1. How can I use fetchmail with qpopper?</a><br>
  80 <a href="#S2">S2. How can I use fetchmail with Microsoft Exchange?</a><br>
  81 <a href="#S3">S3. How can I use fetchmail with Compuserve RPA?</a><br>
  82 <a href="#S4">S4. How can I use fetchmail with Demon Internet's SDPS?</a><br>
  83 <a href="#S5">S5. How can I use fetchmail with usa.net's servers?</a><br>
  84 <a href="#S6">S6. How can I use fetchmail with HP OpenMail?</a><br>
  85 <a href="#S7">S7. How can I use fetchmail with geocities POP3 servers?</a><br>
  86 <a href="#S8">S8. How can I use fetchmail with Hotmail?</a><br>
  87 <a href="#S9">S9. How can I use fetchmail with MSN?</a><br>
  88 <a href="#S10">S10. How can I use fetchmail with SpryNet?</a><br>
  89 <a href="#S11">S11. How can I use fetchmail with FTGate?</a><br>
  90 <a href="#S12">S12. How can I use fetchmail with MailMax?</a><br>
  91 <a href="#S13">S13. How can I use fetchmail with Novell GroupWise?</a><br>
  92 <a href="#S14">S14. How can I use fetchmail with InterChange?</a><br>
  93
  94 <h1>How to set up well-known security and authentication methods:</h1>
  95
  96 <a href="#K1">K1. How can I use fetchmail with SOCKS?</a><br>
  97 <a href="#K2">K2. How can I use fetchmail with IPv6 and IPsec?</a><br>
  98 <a href="#K3">K3. How can I get fetchmail to work with ssh?</a><br>
  99 <a href="#K4">K4. What do I have to do to use the IMAP-GSS protocol?</a><br>
 100 <a href="#K5">K5. How can I use fetchmail with SSL?</a><br>
 101
 102 <h1>Runtime fatal errors:</h1>
 103
 104 <a href="#R1">R1. Fetchmail isn't working, and -v shows `SMTP connect failed' messages.</a><br>
 105 <a href="#R2">R2. When I try to configure an MDA, fetchmail doesn't work.</a><br>
 106 <a href="#R3">R3. Fetchmail dumps core when given an invalid rc file.</a><br>
 107 <a href="#R4">R4. Fetchmail dumps core in -V mode, but operates normally otherwise.</a><br>
 108 <a href="#R5">R5. Running fetchmail in daemon mode doesn't work.</a><br>
 109 <a href="#R6">R6. Fetchmail hangs when used with pppd.</a><br>
 110 <a href="#R7">R7. Fetchmail randomly dies with socket errors.</a><br>
 111 <a href="#R8">R8. Fetchmail running as root stopped working after an OS upgrade</a><br>
 112 <a href="#R9">R9. Fetchmail is timing out after fetching certain
 113 messages but before deleting them</a><br>
 114 <a href="#R10">R10. Fetchmail is timing out during message fetches</a><br>
 115 <a href="#R11">R11. Fetchmail is dying with SIGPIPE.</a><br>
 116
 117 <h1>Disappearing mail</h1>
 118
 119 <a href="#D1">D1. I think I've set up fetchmail correctly, but I'm not getting any mail.</a><br>
 120 <a href="#D2">D2. All my mail seems to disappear after a dropped connection.</a><br>
 121 <a href="#D3">D3. Mail that was being fetched when I interrupted my fetchmail seems to have been vanished.</a><br>
 122
 123 <h1>Multidrop-mode problems:</h1>
 124
 125 <a href="#M1">M1. I've declared local names, but all my multidrop mail is going to root anyway.</a><br>
 126 <a href="#M2">M2. I can't seem to get fetchmail to route to a local domain properly.</a><br>
 127 <a href="#M3">M3. I tried to run a mailing list using multidrop, and I have a mail loop!</a><br>
 128 <a href="#M4">M4. My multidrop fetchmail seems to be having DNS problems.</a><br>
 129 <a href="#M5">M5. I'm seeing long DNS delays before each message is processed.</a><br>
 130 <a href="#M6">M6. How do I get multidrop mode to work with majordomo?</a><br>
 131 <a href="#M7">M7. Multidrop mode isn't parsing envelope addresses from
 132 my Received headers as it should.</a><br>
 133 <a href="#M8">M8. Users are getting multiple copies of messages.</a><br>
 134
 135 <h1>Mangled mail:</h1>
 136
 137 <a href="#X1">X1. Spurious blank lines are appearing in the headers of fetched mail.</a><br>
 138 <a href="#X2">X2. My mail client can't see a Subject line.</a><br>
 139 <a href="#X3">X3. Messages containing "From" at start of line are being split.</a><br>
 140 <a href="#X4">X4. My mail is being mangled in a new and different way.</a><br>
 141 <a href="#X5">X5. Using POP3, retrievals seems to be fetching too much!</a><br>
 142 <a href="#X6">X6. My mail attachments are being dropped or mangled.</a><br>
 143 <a href="#X7">X7. Some mail attachments are hanging fetchmail.</a><br>
 144
 145 <h1>Other problems:</h1>
 146
 147 <a href="#O1">O1. The --logfile option doesn't work if the logfile doesn't exist.</a><br>
 148 <a href="#O2">O2. Every time I get a POP or IMAP message the header is
 149 dumped to all my terminal sessions.</a><br>
 150 <a href="#O3">O3. Does fetchmail reread its rc file every poll cycle?</a><br>
 151 <a href="#O4">O4. Why do deleted messages show up again when I take
 152 a line hit while downloading?</a><br>
 153 <a href="#O5">O5. Why is fetched mail being logged with my name, not the real From address?</a><br>
 154 <a href="#O6">O6. I'm seeing long sendmail delays or hangs near the start of each poll cycle.</a><br>
 155 <a href="#O7">O7. Why doesn't fetchmail deliver mail in date-sorted order?</a><br>
 156 <a href="#O8">O8. I'm using pppd.  Why isn't my monitor option working?</a><br>
 157 <a href="#O9">O9. Why does fetchmail keep retrieving the same messages
 158 over and over?</a><br>
 159
 160 <h1>Answers:</h1>
 161 <hr>
 162 <h2><a name="G1">G1. What is fetchmail and why should I bother?</a></h2>
 163
 164 <p>Fetchmail is a one-stop solution to the remote mail retrieval problem
 165 for Unix machines, quite useful to anyone with an intermittent PPP or
 166 SLIP connection to a remote mailserver.  It can collect mail using any
 167 variant of POP or IMAP and forwards via port 25 to the local SMTP
 168 listener, enabling all the normal forwarding/filtering/aliasing
 169 mechanisms that would apply to local mail or mail arriving via a
 170 full-time TCP/IP connection.
 171
 172 <p>Fetchmail is not a toy or a coder's learning exercise, but an
 173 industrial-strength tool capable of transparently handling every
 174 retrieval demand from those of a simple single-user ISP connection up
 175 to mail retrieval and rerouting for an entire client domain.
 176 Fetchmail is easy to configure, unobtrusive in operation, powerful,
 177 feature-rich, and well documented.
 178
 179 <p>Fetchmail is <a href="http://www.opensource.org">open-source</a>
 180 software.  The openness of the sources is the strongest assurance of
 181 quality you can have.  Extensive peer review by a large,
 182 multi-platform user community has shown that fetchmail is as near
 183 bulletproof as the underlying protocols permit.
 184
 185 <p>Fetchmail is licensed under the <a
 186 href="http://gnu.org//copyleft/gpl.html">GNU General Public
 187 License</a>.
 188
 189 <p>If you found this FAQ in the distribution, see the README for fetchmail's
 190 full feature list.
 191
 192 <hr>
 193 <h2><a name="G2">G2. Where do I find the latest FAQ and fetchmail
 194 sources?</a></h2>
 195
 196 <p>The latest HTML FAQ is available alongside the latest fetchmail
 197 sources at the fetchmail home page:
 198 <a href="http://www.tuxedo.org/~esr/fetchmail">
 199 http://www.tuxedo.org/~esr/fetchmail</a>.  You can also usually find
 200 both in the <a
 201 href="http://sunsite.unc.edu/pub/Linux/system/mail/pop/!INDEX.html">POP
 202 mail tools directory on Sunsite</a>.
 203
 204 <p>A text dump of this FAQ is included in the fetchmail
 205 distribution. Because it freezes at distribution release time, it may
 206 not be completely current.
 207
 208 <p><hr>
 209 <h2><a name="G3">G3.  I think I've found a bug.  Will you fix it?</a></h2>
 210
 211 <p>Yes I will, provided you include enough diagnostic information for me
 212 to go on.  Send bugs to <a
 213 href="mailto:fetchmail-friends@ccil.org">fetchmail-friends</a>.  When reporting
 214 bugs, please include the following:
 215
 216 <ol>
 217 <li>Your operating system.
 218 <li>Your compiler version, if you built from source; otherwise, the
 219     name and origin ogf the RPM or other binary package you installed.
 220 <li>A copy of your POP or IMAP server's greeting line.
 221 <li>The name and version of the SMTP listener or MDA you are forwarding to.
 222 <li>Any command-line options you used.
 223 <li>The output of fetchmail -V called with whatever other
 224     command-line options you used.
 225 </ol>
 226
 227 <p>If you have FTP access to your remote mail account, and you have any
 228 suspicion that the bug was triggered by a particular message, please
 229 include a copy of the message that triggered the bug.
 230
 231 <p>Often, the first thing I will do when you report a bug is tell you to
 232 upgrade to the newest version of fetchmail, and then see if the
 233 problem reproduces.  So you'll probably save us both time if you
 234 upgrade and test with the latest version <em>before</em> sending in a
 235 bug report.
 236
 237 <p>If your bug is something that used to work but stopped working when
 238 you upgraded, then you can help pin the bug down by trying <a
 239 href="ftp://ftp.ccil.org/pub/esr/fetchmail">intermediate versions of
 240 fetchmail</a> until you identify the revision that broke your
 241 feature.  The smart way to do this is by binary search on the version
 242 sequence.  First, try the version halfway between your last good one
 243 and the current one.  If it works, the failure was introduced in the
 244 upper half of the sequence; if it doesn't, the failure was introduced
 245 in the lower half.  Now bisect that half in the same way.  In a very
 246 few tries, you should be able to identify the exact adjacent pair
 247 of versions between which your bug was introduced -- and with
 248 information like that, I can usually come up with a fix very quickly.
 249
 250 <p>Another useful thing you can do, if you're using POP3, is to test for
 251 IMAP4 support on your mailserver using the autoprobe function of
 252 fetchmailconf.  If you have IMAP4, and fetchmailconf doesn't tell you
 253 it's broken, switch immediately.  POP3 is a weak, poorly-designed
 254 protocol with chronic problems, and the later versions after RFC1725
 255 actually get worse rather than better.  Changing over to IMAP4 may well
 256 make your problem go away -- and if your ISP doesn't have IMAP4
 257 support, bug them to supply it.
 258
 259 <p>It is helpful if you include your .fetchmailrc file, but not necessary
 260 unless your symptom seems to involve an error in configuration
 261 parsing.  If you do send in your .fetchmailrc, mask the passwords
 262 first!
 263
 264 <p>If fetchmail seems to run and fetch mail, but the headers look mangled
 265 (that is, headers are missing or blank lines are inserted in the
 266 headers) then read the FAQ items in section <a href="#X1">X</a>
 267 before submitting a bug report.  Pay special attention to the item on
 268 <a href="#generic_mangling">diagnosing mail mangling</a>.  There are
 269 lots of ways for other programs in the mail chain to screw up that
 270 look like fetchmail's fault, but you may be able to fix these by
 271 tweaking your configuration.
 272
 273 <p>A transcript of the failed session with -v -v (yes, that's
 274 <em>two</em> -v options, enabling debug mode) will almost always be useful.
 275 It is very important that the transcript include your POP/IMAP server's
 276 greeting line, so I can identify it in case of server problems.  This
 277 transcript will not reveal your passwords, which are specially masked
 278 out precisely so the transcript can be passed around.
 279
 280 <p>If you upgraded your fetchmail and something broke, you should include
 281 session transcripts with -v -v of both the working and failing
 282 versions.  Very often, the source of the problem can instantly
 283 identified by looking at the differences in protocol transactions.
 284
 285 <p>If the bug involves a core dump or hang, a gdb stack trace is good to have.
 286 (Bear in mind that you can attach gdb to a running but hung process by
 287 giving the process ID as a second argument.)  You will need to
 288 reconfigure with:
 289
 290 <p><pre>
 291 CFLAGS=-g LDFLAGS=" " ./configure
 292 </pre>
 293
 294 and then rebuild in order to generate a version that can be gdb-traced.
 295
 296 <p>Best of all is a mail file which, when fetched, will reproduce the
 297 bug under the latest (current) version.
 298
 299 <p>Any bug I can reproduce will usually get fixed very quickly, often
 300 within 48 hours.  Bugs I can't reproduce are a crapshoot.  If the
 301 solution isn't obvious when I first look, it may evade me for a long
 302 time (or to put it another way, fetchmail is well enough tested that the
 303 easy bugs have long since been found).  So if you want your bug fixed
 304 rapidly, it is not just sufficient but nearly <em>necessary</em> that
 305 you give me a way to reproduce it.
 306
 307 <hr>
 308 <h2><a name="G4">G4.  I have this idea for a neat feature.  Will you add it?</a></h2>
 309
 310 Probably not.  Most of the feature suggestions I get are for ways to
 311 set various kinds of administrative policy or add more spam filtering
 312 (the most common one, which I used to get about four million times a week
 313 and got <em>really</em> tired of, is for tin-like kill files).
 314
 315 <p>You can do spam filtering better with procmail or maildrop on the
 316 server side and (if you're the server sysadmin) sendmail.cf domain
 317 exclusions.  You can do other policy things better with the
 318 <CODE>mda</CODE> option and script wrappers around fetchmail.  If
 319 it's a prime-time-vs.-non-prime-time issue, ask yourself whether a
 320 wrapper script called from crontab would do the job.
 321
 322 <p>I'm not going to do these; fetchmail's job is transport, not policy, and I
 323 refuse to change it from doing one thing well to attempting many things badly.
 324 One of my objectives is to keep fetchmail simple so it stays reliable.
 325
 326 <p>For reasons fetchmail doesn't have other commonly-requested features
 327 (such as password encryption, or multiple concurrent polls from the
 328 same instance of fetchmail) see the <a
 329 href="http://www.tuxedo.org/~esr/fetchmail/design-notes.html">design notes</a>.
 330
 331 <p>Fetchmail is a mature project, no longer in constant active
 332 development.  It is no longer my top project, and I am going to be
 333 quite reluctant to add features that might either jeopardize its
 334 stability or involve me in large amounts of coding.
 335
 336 <p>All that said, if you have a feature idea that really is about a transport
 337 problem that can't be handled anywhere but fetchmail, lay it on me.  I'm
 338 very accommodating about good ideas.
 339
 340 <hr>
 341 <h2><a name="G5">G5. Is there a mailing list for exchanging tips?</a></h2>
 342
 343 <p>There is a fetchmail-friends list for people who want to discuss fixes
 344 and improvements in fetchmail and help co-develop it.  It's a MailMan
 345 list, which you can sign up for at <a
 346 <a href="http://lists.ccil.org/mailman/listinfo/fetchmail-friends">fetchmail-friends@lists.ccil.org</a>.
 347 There is also an announcements-only list, <a href="http://lists.ccil.org/mailman/listinfo/fetchmail-announce">fetchmail-announce@lists.ccil.org</em>.
 348
 349 <hr>
 350 <h2><a name="G6">G6. So, what's this I hear about a fetchmail paper?</a></h2>
 351
 352 <p>The fetchmail development was also a sociological experiment, an
 353 extended test to see if my theory about the critical features of the
 354 Linux development model is correct.
 355
 356 <p>The experiment was a success.  I wrote a paper about it titled <a
 357 href="http://www.tuxedo.org/~esr/writings/cathedral.html">The
 358 Cathedral and the Bazaar</a> which was first presented at Linux
 359 Kongress '97 in Bavaria and very well received there. It was also
 360 given at Atlanta Linux Expo, Linux Pro '97 in Warsaw, and the first
 361 Perl Conference, at UniForum '98, and was the basis of an invited
 362 presentation at Usenix '98.  The folks at Netscape tell me it helped
 363 them decide to <a
 364 href="http://www.netscape.com/newsref/pr/newsrelease558.html"> give
 365 away the source for Netscape Communicator</a>.
 366
 367 <p>If you're reading a non-HTML dump of this FAQ, you can find the paper
 368 on the Web with a search for that title.
 369
 370 <hr>
 371 <h2><a name="G7">G7. What is the best server to use with fetchmail?</a></h2>
 372
 373 <p>The short answer: IMAP 2000 running over Unix.
 374
 375 <p>Here's a longer answer:
 376
 377 <p>Fetchmail will work with any POP, IMAP, ETRN, or ODMR server that
 378 conforms to the relevant RFCs (and even some outright broken ones like
 379 <a href="#S2">Microsoft Exchange</a> and <a href="#S12">Novell
 380 GroupWise</a>).  This doesn't mean it works equally well with all,
 381 however.  POP2 servers, and POP3 servers without LAST, limit
 382 fetchmail's capabilities in various ways described on the manual
 383 page.
 384
 385 <p>Most modern Unixes (and effectively all Linux/*BSD systems) come with
 386 POP3 support preconfigured (but beware of the horribly broken POP3
 387 server mentioned in <a href="#D2">D2</a>).  An increasing minority
 388 also feature IMAP (you can detect IMAP support by running fetchmail in
 389 AUTO mode, or by using the `Probe for supported protocols' function in
 390 the fetchmailconf utility).
 391
 392 <p>If you have the option, we recommend using or installing an IMAP4rev1
 393 server; it has the best facilities for tracking message `seen' states.
 394 It also recovers from interrupted connections more gracefully than
 395 POP3, and enables some significant performance optimizations.  The new
 396 <a href="ftp://ftp.cac.washington.edu/imap/imap.tar.Z">IMAP 2000</a>
 397 is particularly nice, as it supports CRAM-MD5 so you don't have to
 398 ship your mail password over the net en clair (fetchmail autodetects
 399 this capability).  Older versions had support for GSSAPI giving a
 400 similar effect, .
 401
 402 <p>Don't be fooled by NT/Exchange propaganda.  M$ Exchange is just plain
 403 broken (see item <a href="#S2">S2</a>) and NT cannot handle the
 404 sustained load of a high-volume remote mail server.  Even Microsoft
 405 itself knows better than to try this; their own Hotmail service runs
 406 over Solaris!  For extended discussion, see John Kirch's excellent <a
 407 href="http://unix-vs-nt.org/kirch/">white paper</a> on Unix
 408 vs. NT performance.
 409
 410 <p>Source for a high-quality supported implementation of POP is available
 411 from the <a href="ftp://ftp.qualcomm.com/eudora/servers/unix/popper/">Eudora
 412 FTP site</a>.  Don't use 2.5, which has a rather restrictive license.
 413 The 2.5.2 version appears to restore the open-source license of
 414 previous versions.
 415
 416 <hr>
 417 <h2><a name="G8">G8. What is the best mail program to use with fetchmail?</a></h2>
 418
 419 <p>Fetchmail will work with all popular <a href="#T1">mail transport
 420 programs</a>.  It also doesn't care which user agent you use, and user
 421 agents are as a rule almost equally indifferent to how mail is
 422 delivered into your system mailbox.  So any of the popular Unix mail
 423 agents -- <a href="http://www.myxa.com/old/elm.html">elm</a>, <a
 424 href="http://www.washington.edu/pine/">pine</a> <a
 425 href="http://www.cs.indiana.edu/docproject/mail/mh.html">mh</a>, or <a
 426 href="http://www.mutt.org">mutt</a> -- will work fine with fetchmail.
 427
 428 <p>All this having been said, I can't resist putting in a discreet plug
 429 for <a href="http://www.mutt.org">mutt</a>.  My own personal mail
 430 setup is sendmail plus fetchmail plus mutt.  Mutt's interface is only
 431 a little different from that of its now-moribund ancestor elm, but its
 432 excellent handling of MIME and PGP put it in a class by itself.  You
 433 won't need its built-in POP3 support, though; most of the mutt
 434 developers will cheerfully admit that fetchmail's is better :-).
 435
 436 <hr>
 437 <h2><a name="G9">G9. How can I avoid sending my password en clair?</a></h2>
 438
 439 <p>Depending on what your mail server you are talking to, this ranges
 440 from trivial to impossible.  It may even be next to useless.
 441
 442 <p>Most people use fetchmail over phone wires, which are hard to tap.
 443 Anybody with the skill and resources to do this could get into your
 444 server mailbox with much less effort by subverting the server host.
 445 So if your provider setup is modem wires going straight into a service
 446 box, you probably don't need to worry.
 447
 448 <p>In general there is little point in trying to secure your fetchmail
 449 transaction unless you trust the security of the server host you are
 450 retrieving mail from.  Your vulnerability is more likely to be an
 451 insecure local network on the server end (e.g. to somebody with a TCP/IP
 452 packet sniffer intercepting Ethernet traffic between the modem
 453 concentrator you dial in to and the mailserver host).
 454
 455 <p>Having realized this, you need to ask whether password encryption
 456 alone will really address your security exposure.  If you think you
 457 might be snooped between server and client, it's better to use
 458 end-to-end encryption on your whole mail stream so none of it can be
 459 read.  One of the advantages of fetchmail over conventional SMTP-push
 460 delivery is that you may be able to arrange this by using ssh(1); see
 461 <a href="#K3">K3</a>.
 462
 463 <p>Note that ssh is not a complete privacy solution either, as your mail
 464 could have been snooped in transit to your POP server from wherever it
 465 originated.  For best security, agree with your correspondents to use
 466 a tool such as <a href="http://www.gnupg.org/">GPG</a> (Gnu Privacy
 467 Guard) or PGP (Pretty Good Privacy).
 468
 469 <p>If ssh/sshd isn't available, or you find it too complicated for you to
 470 set up, password encryption will at least keep a malicious cracker
 471 from deleting your mail, and require him to either tap your connection
 472 continuously or crack root on the server in order to read it.
 473
 474 <p>You can deduce what encryptions your mail server has available
 475 by looking at the server greeting line (and, for IMAP, the
 476 response to a CAPABILITY query).  Do a <code>fetchmail -v</code>
 477 to see these, or telnet direct to the server port (110 for POP3, 143 for
 478 IMAP).
 479
 480 <p>If your mailserver is using IMAP 2000, you'll have CRAM-MD5 support
 481 built in.  Fetchmail autodetects this; you can skip the rest of this
 482 section.
 483
 484 <p>The POP3 facility you are most likely to have available is APOP.  This is a
 485 POP3 feature supported by many servers (fetchmailconf's autoprobe
 486 facility will detect it and tell you if you have it).  If you see
 487 something in the greeting line that looks like an
 488 angle-bracket-enclosed Internet address with a numeric left-hand part,
 489 that's an APOP challenge (it will vary each time you log in).  You can
 490 register a secret on the host (using <code>popauth(8)</code> or some
 491 program like it).  Specify the secret as your password in your
 492 .fetchmailrc; it will be used to encrypt the current challenge, and
 493 the encrypted form will be sent back the the server for
 494 verification.
 495
 496 <p>Alternatively, you may have Kerberos available. This may require you
 497 to set up some magic files in your home directory on your client
 498 machine, but means you can omit specifying any password at all.
 499
 500 <p>Fetchmail supports two different Kerberos schemes.  One is a POP3
 501 variant called KPOP; consult the documentation of your mail server to
 502 see if you have it (one clue is the string "krb-IV" in the greeting
 503 line on port 110).  The other is an IMAP and POP3 facility described
 504 by RFC1731 and RFC1734. You can tell if this one is present by looking
 505 for AUTH=KERBEROS_V4 in the CAPABILITY response.
 506
 507 <p>If you are fetching mail from a CompuServe POP3 account, you can use
 508 their RPA authentication (which works much like APOP).  See <a
 509 href="#S3">S3</a> for details.  If you are fetching mail from
 510 Microsoft Exchange, you will be able to use NTLM.
 511
 512 <p>Your POP3 server may have the RFC1938 OTP capability to use one-time
 513 passwords (if it doesn't, you can get OTP patches for the 2.2 version
 514 of the Qualcomm popper from <a href="#cmetz">Craig Metz</a>). To check
 515 this, look for the string "otp-" in the greeting line.  If you see it,
 516 and your fetchmail was built with OPIE support compiled in (see the
 517 distribution INSTALL file), fetchmail will detect it also.  When using
 518 OTP, you will specify a password but it will not be sent en clair.
 519
 520 <p>You can get both POP3 and IMAP OTP patches from <a name="cmetz">Craig
 521 Metz</A> at <a
 522 href="http://www.inner.net/pub/">http://www.inner.net/pub/</a>.<p>
 523 These patches use a SASL authentication method named "X-OTP" because
 524 there is not currently a standard way to do this; fetchmail also uses
 525 this method, so the two will interoperate happily.  They better,
 526 because this is how Craig gets his mail ;-)
 527
 528 <p>Finally, you can use <a href="#K5">SSL</a> for complete
 529 end-to-end encryption if you have an SSL-enabled mailserver.
 530
 531 <hr>
 532 <h2><a name="G10">G10. Is any special configuration needed to use a dynamic IP address?</a></h2>
 533
 534 <p>Yes. In order to avoid giving indigestion to certain picky MTAs
 535 (notably <a href="#T3">exim</a>), fetchmail always makes the RCPT TO
 536 address it feeds the MTA a fully qualified one with a hostname part.
 537 Normally it does this by appending @ and "localhost", but when you are
 538 using Kerberos or ETRN mode it will append @ and your machine's
 539 fully-qualified domain name (FQDN).
 540
 541 <p>Appending the FQDN can create problems when fetchmail is running in daemon
 542 mode and outlasts the dynamic IP address assignment your client
 543 machine had when it started up.
 544
 545 <p>Since the new IP address (looked up at RCPT TO interpretation time)
 546 doesn't match the original, the most benign possible result is that
 547 your MTA thinks it's seeing a relaying attempt and refuses.  More
 548 frequently, fetchmail will try to connect to a nonexistent host
 549 address and time out.  Worst case, you could up forwarding your mail
 550 to the wrong machine!
 551
 552 <p>Use the <code>smtpaddress</code> option to force the appended hostname
 553 to one with a (fixed) IP address of 127.0.0.1 in your
 554 <code>/etc/hosts</code>.  (The name `localhost' will usually work; or
 555 you can use the IP address itself).
 556
 557 <p>Only one fetchmail option interacts directly with your IP address,
 558 `<code>interface</code>'.  This option can be used to set the gateway
 559 device and restrict the IP address range fetchmail will use. Such a
 560 restriction is sometimes useful for security reasons, especially on
 561 multihomed sites.  See <a href="#C3">C3</a>.
 562
 563 <p>I recommend against trying to set up the <code>interface</code> option
 564 when initially developing your poll configuration -- it's never
 565 necessary to do this just to get a link working.  Get the link working
 566 first, observe the actual address range you see on connections, and
 567 add an <code>interface</code> option (if you need one) later.
 568
 569 <p>You can't use ETRN if you have a dynamic IP address (your ISP changes
 570 your IP address occasionally, possibly with every connect).  You need
 571 to have your own registered domain and a definite IP address
 572 registered for that domain.  The server needs to be configured to
 573 accept mail for your domain but then queue it to forward to your
 574 machine.  ETRN just tells to server to flush its queue for your
 575 domain.  Fetchmail doesn't actually get the mail in that case.
 576
 577 <p>You can use On-Demand Mail Relay (ODMR) with a dynamic IP address;
 578 that's what it was designed for, and it provides capabilities very
 579 similar to ETRN.  Unfortunately ODMR servers are not yet widely
 580 deployed, as of early 2001.
 581
 582 <p>If you're using a dynamic-IP configuration, one other (non-fetchmail)
 583 problem you may run into with outgoing mail is that some sites will
 584 bounce your email because the hostname your giving them isn't real
 585 (and doesn't match what they get doing a reverse DNS on your
 586 dynamically-assigned IP address).  If this happens, you need to hack
 587 your sendmail so it masquerades as your host.  Setting
 588
 589 <pre>
 590 DMsmarthost.here
 591 </pre>
 592
 593 in your <code>sendmail.cf</code> will work, or you can set<p>
 594
 595 <pre>
 596 MASQUERADE_AS(smarthost.here)
 597 </pre>
 598
 599 in the m4 configuration and do a reconfigure.  (In both cases, replace
 600 <code>smarthost.here</code> with the actual name of your mailhost.)
 601 See the <a href="http://www.lege.com/sendmail-FAQ.txt">sendmail
 602 FAQ</a> for more details.
 603
 604 <hr>
 605 <h2><a name="G11">G11. Is any special configuration needed to use firewalls?</a></h2>
 606
 607 <p>No.  You can use fetchmail with SOCKS, the standard tool for
 608 indirecting TCP/IP through a firewall.  You can find out about SOCKS,
 609 and download the SOCKS software including server and client code, at
 610 the <a href="http://www.socks.nec.com/">SOCKS distribution
 611 site</a>.
 612
 613 <p>The specific recipe for using fetchmail with a firewall is at <a
 614 href="#K1">K1</a>
 615
 616 <hr>
 617 <h2><a name="G12">G12. Is any special configuration needed to <em>send</em> mail?</a></h2>
 618
 619 <p>A user asks: but how do we send mail out to the POP3 server? Do I need
 620 to implement another tool or will fetchmail do this too?
 621
 622 <p>Fetchmail only handles the receiving side.  The sendmail or other
 623 preinstalled MTA on your client machine will handle sending mail
 624 automatically; it will ship mail that is submitted while the
 625 connection is active, and put mail that is submitted while
 626 the connection is inactive into the outgoing queue.
 627
 628 <p>Normally, sendmail is also run periodically (every 15 minutes on most
 629 Linux systems) in a mode that tries to ship all the mail in the
 630 outgoing queue.  If you have set up something like pppd to
 631 automatically dial out when your kernel is called to open a TCP/IP
 632 connection, this will ensure that the mail gets out.
 633
 634 <hr>
 635 <h2><a name="G13">G13. Is fetchmail Y2K-compliant?</a></h2>
 636
 637 Fetchmail is fully Y2K-compliant.<p>
 638
 639 Fetchmail could theoretically have problems when the 32-bit time_t
 640 counters roll over in 2038, but I doubt it.  Timestamps aren't used
 641 for anything but log entry generation.  Anyway, if you aren't running
 642 on a 64-bit machine by then, you'll deserve to lose.
 643
 644 <hr>
 645 <h2><a name="G14">G14. Is there a way in fetchmail to support disconnected IMAP mode?</a></H2>
 646
 647 No. Fetchmail is a mail transport agent, best understood as a protocol
 648 gateway between POP3/IMAP servers and SMTP.  Disconnected operation
 649 requires an elaborate interactive client.  It's a very different problem.
 650
 651 <hr>
 652 <h2><a name="G15">G15. How will fetchmail perform under heavy loads?</a></h2>
 653
 654 Fetchmail streams message bodies line-by-line; the most core it
 655 ever requires per message is enough memory to hold the RFC822 header, and
 656 that storage is freed when body processing begins. It is, accordingly,
 657 quite economical in its use of memory.
 658
 659 <p>After startup time, a fetchmail running in daemon mode stats its
 660 configuration file once per poll cycle to see whether it has changed
 661 and should be rescanned.  Other than that, a fetchmail in normal
 662 operation doesn't touch the disk at all; that job is left up to the
 663 MTA or MDA the fetchmail talks to.
 664
 665 <p>Fetchmail's performance is usually bottlenecked by latency on the POP
 666 server or (less often) on the TCP/IP link to the server.  This is not
 667 a problem readily solved by tuning fetchmail, or even by buying more
 668 TCP/IP capacity (which tends to improve bandwidth but not necessarily
 669 latency).
 670
 671 <hr>
 672 <h2><a name="B1">B1. Make coughs and dies when building on FreeBSD.</a></h2>
 673
 674 The vendor-supplied make on FreeBSD systems can only be used within
 675 FreeBSD's "scope", e.g. the ports collection.  Type "gmake" to run GNU
 676 make and better things will happen.
 677
 678 <hr>
 679 <h2><a name="B2">B2. Lex bombs out while building the fetchmail lexer.</a></h2>
 680
 681 In the immortal words of Alan Cox the last time this came up: ``Take
 682 the Solaris lex and stick it up the backside of a passing Sun
 683 salesman, then install <a
 684 href="ftp://ftp.gnu.org/pub/non-gnu/flex/">flex</a> and use that.  All
 685 will be happier.''
 686
 687 <p>I couldn't have put it better myself, and ain't going to try now.
 688
 689 <p>(The same problem has been reported under HP-UX v10.20 and IRIX)
 690
 691 <hr>
 692 <h2><a name="B3">B3. I get link failures when I try to build fetchmail.</a></h2>
 693
 694 If you get errors resembling these
 695
 696 <p><pre>
 697 mxget.o(.text+0x35): undefined referenceto `__res_search'
 698 mxget.o(.text+0x99): undefined reference to`__dn_skipname'
 699 mxget.o(.text+0x11c): undefined reference to`__dn_expand'
 700 mxget.o(.text+0x187): undefined reference to`__dn_expand'
 701 make: *** [fetchmail] Error 1
 702 </pre>
 703
 704 then you must add "-lresolv" to the LOADLIBS line in your Makefile
 705 once you have installed the `bind' package.
 706
 707 <hr>
 708 <h2><a name="F1">F1. Why does my old .fetchmailrc file no longer work?</a></h2>
 709
 710 <h3>If your file predates 5.6.8</h3>
 711
 712 In 5.6.8, the <tt>preauth</tt> keyword and option were changed back to
 713 <tt>auth</tt>. The <tt>preauth</tt> synonym will still be supported
 714 through a few more point releases.
 715
 716 <p><h3>If your file predates 5.6.5</h3>
 717
 718 The <tt>imap-gss</tt>, <tt>imap-k4</tt>, and <tt>imap-login</tt>
 719 protocol types are gone. This is a result of a major re-factoring
 720 of the authentication machinery; fetchmail can now use Kerberos V4
 721 and GSSAPI not just with IMAP but with POP3 servers that have RFC1734
 722 support for the AUTH command.
 723
 724 <p>When trying to identify you to an IMAP or POP mailserver, fetchmail
 725 now first tries methods that don't require a password (GSSAPI,
 726 KERBEROS_IV); then it looks for methods that mask your password
 727 (CRAM-MD5, X-OTP); and only if it the server doesn't support any of
 728 those will it ship your password en clair.
 729
 730 <p>Setting the <tt>preauth</tt> option to any value other than `password'
 731 will prevent from looking for a password in your <tt>.netrc</tt> file
 732 or querying for it at startup time.<p>
 733
 734 <h3>If your file predates 5.1.0</h3>
 735
 736 In 5.1.0, the <tt>auth</tt> keyword and option were changed to
 737 <tt>preauth</tt>.
 738
 739 <p><h3>If your file predates 4.5.5</h3>
 740
 741 If the <code>dns</code> option is on (the default), you may need to
 742 make sure that any hostname you specify (for mail hosts or for an SMTP
 743 target) is a canonical fully-qualified hostname).  In order to avoid
 744 DNS overhead and complications, fetchmail no longer tries to derive
 745 the fetchmail client machine's canonical DNS name at startup.
 746
 747 <p><h3>If your file predates 4.0.6:</h3>
 748
 749 Just after the `<CODE>via</CODE>' option was introduced, I realized
 750 that the interactions between the `<CODE>via</CODE>',
 751 `<CODE>aka</CODE>', and `<CODE>localdomains</CODE>' options were out
 752 of control.  Their behavior had become complex and confusing, so much so
 753 that I was no longer sure I understood it myself.  Users were being
 754 unpleasantly surprised.
 755
 756 <p>Rather than add more options or crock the code, I re-thought it.  The
 757 redesign simplified the code and made the options more orthogonal, but
 758 may have broken some complex multidrop configurations.
 759
 760 Any multidrop configurations that depended on the name just after the
 761 `<CODE>poll</CODE>' or `<CODE>skip</CODE>' keyword being still
 762 interpreted as a DNS name for address-matching purposes, even in the
 763 presence of a `<CODE>via</CODE>' option, will break.
 764
 765 <p>It is theoretically possible that other unusual configurations (such
 766 as those using a non-FQDN poll name to generate Kerberos IV tickets) might
 767 also break; the old behavior was sufficiently murky that we can't be
 768 sure.  If you think this has happened to you, contact the maintainer.
 769
 770 <p><h3>If your file predates 3.9.5:</h3>
 771
 772 The `<code>remote</code>' keyword has been changed to `<code>folder</code>'.
 773 If you try to use the old keyword, the parser will utter a warning.
 774
 775 <p><h3>If your file predates 3.9:</h3>
 776
 777 It could be because you're using a .fetchmailrc that's written in the
 778 old popclient syntax without an explicit `<CODE>username</CODE>'
 779 keyword leading the first user entry attached to a server entry.
 780
 781 This error can be triggered by having a user option such as `<CODE>keep</CODE>'
 782 or `<CODE>fetchall</CODE>' before the first explicit username.  For
 783 example, if you write
 784
 785 <p><pre>
 786 poll openmail protocol pop3
 787         keep user "Hal DeVore" there is hdevore here
 788 </pre>
 789
 790 the `<CODE>keep</CODE>' option will generate an entire user entry with
 791 the default username (the name of fetchmail's invoking user).
 792
 793 <p>The popclient compatibility syntax was removed in 4.0.  It complicated
 794 the configuration file grammar and confused users.
 795
 796 <p><h3>If your file predates 2.8:</h3>
 797
 798 The `<CODE>interface</CODE>', `<CODE>monitor</CODE>' and
 799 `<CODE>batchlimit</CODE>' options changed after 2.8.
 800
 801 <p>They used to be global options with `<CODE>set</CODE>' syntax like the
 802 batchlimit and logfile options.  Now they're per-server options, like
 803 `<CODE>protocol</CODE>'.
 804
 805 <p>If you had something like
 806
 807 <p><pre>
 808         set interface = "sl0/10.0.2.15"
 809 </pre>
 810
 811 in your .fetchmailrc file, simply delete that line and insert
 812 `interface sl0/10.0.2.15' in the server options part of your `defaults'
 813 declaration.
 814
 815 <p>Do similarly for any `<CODE>monitor</CODE>' or `<CODE>batchlimit</CODE>' options.
 816
 817 <hr>
 818 <h2><a name="F2">F2. The .fetchmailrc parser won't accept my all-numeric user name.</a></h2>
 819
 820 Either upgrade to a post-5.0.5 fetchmail or put string quotes around it. :-)
 821
 822 <p>The configuration file parser in older fetchmail versions treated any
 823 all-numeric token as a number, which confused it when it was
 824 expecting a name.  String quoting forces the token's class.
 825
 826 <p>The lexical analyzer in 5.0.6 and beyond is smarter and assumes
 827 any token following "username" or "password" is a string.
 828
 829 <hr>
 830 <h2><a name="F3">F3. The .fetchmailrc parser won't accept my host or username beginning with `no'.</a></h2>
 831
 832 See <a href="#F2">F2</a> You're caught in an unfortunate crack between
 833 the newer-style syntax for negated options (`no keep', `no rewrite'
 834 etc.) and the older style run-on syntax (`nokeep', `norewrite'
 835 etc.).
 836
 837 <p>Upgrade to a 5.0.6 or later fetchmail, or put string quotes around your
 838 token.
 839
 840 <hr>
 841 <h2><a name="F4">F4. I'm getting a `parse error' message I don't understand.</a></h2>
 842
 843 The most common cause of mysterious parse errors is putting a server
 844 option after a user option.  Check the manual page; you'll probably
 845 find that by moving one or more options closer to the `poll' keyword
 846 you can eliminate the problem.
 847
 848 <p>Yes, I know these ordering restrictions are hard to understand.
 849 Unfortunately, they're necessary in order to allow the `defaults'
 850 feature to work.
 851
 852 <hr>
 853 <h2><a name="C1">C1. Why do I need a .fetchmailrc when running as root on my own machine?</a></h2>
 854
 855 Ian T. Zimmerman &lt;itz@rahul.net&gt; asked:
 856
 857 <p>On the machine where I'm the only real user, I run fetchmail as root
 858 from a cron job, like this:
 859
 860 <p><pre>
 861     fetchmail -u "itz" -p POP3 -s bolero.rahul.net
 862 </pre>
 863
 864 This used to work as is (with no .fetchmailrc file in root's home
 865 directory) with the last version I had (1.7 or 1.8, I don't
 866 remember).  But with 2.0, it RECPs all mail to the local root user,
 867 unless I create a .fetchmailrc in root's home directory containing:
 868
 869 <p><pre>
 870      skip bolero.rahul.net proto POP3
 871           user itz is itz
 872 </pre>
 873
 874 It won't work if the second line is just "<CODE>user itz</CODE>".  This is silly.
 875
 876 <p>It seems fetchmail decides to RECP the `default local user' (i.e. the
 877 uid running fetchmail) unless there are local aliases, and the
 878 `default' aliases (itz-&gt;itz) don't count.  They should.
 879
 880 <p>Answer:
 881
 882 <p>No they shouldn't.   I thought about this for a while, and I don't much
 883 like the conclusion I reached, but it's unavoidable.  The problem is
 884 that fetchmail has no way to know, in general, that a local user `itz'
 885 actually exists.
 886
 887 <p>"Ah!" you say, "Why doesn't it check the password file to see if the remote
 888 name matches a local one?"  Well, there are two reasons.
 889
 890 <p>One: it's not always possible.  Suppose you have an SMTP host declared
 891 that's not the machine fetchmail is running on?  You lose.
 892
 893 <p>Two: How do you know server itz and SMTP-host itz are the same person?
 894 They might not be, and fetchmail shouldn't assume they are unless
 895 local-itz can explicitly produce credentials to prove it (that is, the
 896 server-itz password in local-itz's .fetchmailrc file.).
 897
 898 <p>Once you start running down possible failure modes and thinking about
 899 ways to tinker with the mapping rules, you'll quickly find that all the
 900 alternatives to the present default are worse or unacceptably
 901 more complicated or both.
 902
 903 <hr>
 904 <h2><a name="C2">C2. How can I arrange for a fetchmail daemon to get killed when I log out?</a></h2>
 905
 906 The easiest way to dispatch fetchmail on logout (which will work
 907 reliably only if you have just one login going at any time) is to
 908 arrange for the command `fetchmail -q' to be called on logout.  Under
 909 bash, you can arrange this by putting `fetchmail -q' in the file
 910 `~/.bash_logout'.  Most csh variants execute `~/.logout' on logout.
 911 For other shells, consult your shell manual page.
 912
 913 <p>Automatic startup/shutdown of fetchmail is a little harder to arrange
 914 if you may have multiple login sessions going.  In the contrib
 915 subdirectory of the fetchmail distribution there is some shell code
 916 you can add to your .bash_login and .bash_logout profiles that will
 917 accomplish this.  Thank James Laferriere &lt;babydr@nwrain.net&gt; for
 918 it.
 919
 920 <p>Some people start up and shut down fetchmail using the ppp-up and
 921 ppp-down scripts of pppd.
 922
 923 <hr>
 924 <h2><a name="C3">C3. How do I know what interface and address to use with --interface?</a></h2>
 925
 926 This depends a lot on your local networking configuration (and right
 927 now you can't use it at all except under Linux and the newer BSDs).  However,
 928 here are some important rules of thumb that can help.  If they don't
 929 work, ask your local sysop or your Internet provider.
 930
 931 <p>First, you may not need to use --interface at all.  If your machine
 932 only ever does SLIP or PPP to one provider, it's almost certainly by a
 933 point to point modem connection to your provider's local subnet that's
 934 pretty secure against snooping (unless someone can tap your phone or
 935 the provider's local subnet!).  Under these circumstances, specifying
 936 an interface address is fairly pointless.
 937
 938 <p>What the option is really for is sites that use more than one
 939 provider.  Under these circumstances, typically one of your provider
 940 IP addresses is your mailserver (reachable fairly securely via the
 941 modem and provider's subnet) but the others might ship your packets
 942 (including your password) over unknown portions of the general
 943 Internet that could be vulnerable to snooping.  What you'll use
 944 --interface for is to make sure your password only goes over the
 945 one secure link.
 946
 947 <p>To determine the device:
 948
 949 <p><ol>
 950 <li> If you're using a SLIP link, the correct device is probably sl0.
 951 <li> If you're using a PPP link, the correct device is probably ppp0.
 952 <li> If you're using a direct connection over a local network such as
 953      an ethernet, use the command `netstat -r' to look at your routing table.
 954      Try to match your mailserver name to a destination entry; if you don't
 955      see it in the first column, use the `default' entry.  The device name
 956      will be in the rightmost column.
 957 </ol>
 958
 959 To determine the address and netmask:
 960
 961 <p><ol>
 962 <li> If you're talking to slirp, the correct address is probably 10.0.2.15,
 963      with no netmask specified.  (It's possible to configure slirp to present
 964      other addresses, but that's the default.)
 965
 966 <li> If you have a static IP address, run `ifconfig &lt;device&gt;', where &lt;device&gt;
 967      is whichever one you've determined.  Use the IP address given after
 968      "inet addr:".  That is the IP address for your end of the link, and is
 969      what you need.  You won't need to specify a netmask.
 970
 971 <li> If you have a dynamic IP address, your connection IP will vary randomly
 972      over some given range (that is, some number of the least significant bits
 973      change from connection to connection).  You need to declare an address
 974      with the variable bits zero and a complementary netmask that sets
 975      the range.
 976 </ol>
 977
 978 To illustrate the rule for dynamic IP addresses, let's suppose you're
 979 hooked up via SLIP and your IP provider tells you that the dynamic
 980 address pool is 255 addresses ranging from 205.164.136.1 to
 981 205.164.136.255.  Then
 982
 983 <p><pre>
 984         interface "sl0/205.164.136.0/255.255.255.0"
 985 </pre>
 986
 987 would work.  To range over any value of the last two octets
 988 (65536 addresses) you would use
 989
 990 <p><pre>
 991         interface "sl0/205.164.0.0/255.255.0.0"
 992 </pre>
 993
 994 <hr>
 995 <h2><a name="C4">C4. How can I set up support for sendmail's anti-spam features?</a></h2>
 996
 997 This answer covers versions of sendmail from 8.9.3-20 (the version
 998 installed in Red Hat 6.2) upwards.  If you have an older version,
 999 upgrade to sendmail 8.9.
1000
1001 <p>Stock sendmails can now do anti-spam exclusions based on a database of
1002 filter rules.  The human-readable form of the database is at
1003 <tt>/etc/mail/access</tt>. The database itself is at
1004 <tt>/etc/mail/access.db</tt>.
1005
1006 <p>The table itself uses email addresses, domain names, and network
1007 numbers as keys.  For example,</P>
1008 <pre>
1009 spammer@aol.com         REJECT
1010 cyberspammer.com        REJECT
1011 192.168.212             REJECT
1012 </pre>
1013 <p>would refuse mail from spammer@aol.com, any user from
1014 cyberspammer.com (or any host within the cyberspammer.com domain), and
1015 any host on the 192.168.212.* network.  (This feature can be used to
1016 do other things as well; see the <a
1017 href="http://www.sendmail.org/m4/anti-spam.html">sendmail
1018 documentation</a> for details)</P>
1019
1020 To actually set up the database, run
1021
1022 <pre>
1023 makemap hash deny &lt;deny
1024 </pre>
1025 in /etc/mail.
1026
1027 <p>To test, send a message to your mailing address from that host and
1028 then pop off the message with fetchmail, using the -v argument.  You
1029 can monitor the SMTP transaction, and when the FROM address is parsed,
1030 if sendmail sees that it is an address in spamlist, fetchmail will
1031 flush and delete it.
1032
1033 <p>Under no circumstances put your <strong>mailhost</strong> or <strong>any host
1034 you accept mail from</strong> using fetchmail into your reject file.  You
1035 <strong>will</strong> lose mail if you do this!!!
1036
1037 <hr>
1038 <h2><a name="C5">C5. How can I poll some of my mailboxes more/less
1039 often than others?</a></h2>
1040
1041 Use the <cite>interval</cite> keyword on the ones that should be
1042 checked less often.  For example, if you do a poll every 5 minutes,
1043 and want to poll some mailboxes every 5 minutes and some every 30
1044 minutes, use something like this:
1045
1046 <p><pre>
1047 poll mainsite.example.com  proto pop3 user ....
1048 poll secondary.example.com proto pop3 interval 6 user ...
1049 </pre>
1050
1051 Then secondary.example.com will be polled every 6th time that
1052 mainsite.example.com is polled, which with a polling interval of every
1053 5 minutes means that secondary.example.com will be polled every 30
1054 minutes.
1055
1056 <hr>
1057 <h2><a name="C6">Fetchmail works OK started up manually, but not from an init script.</a></h2>
1058
1059 Often, startup scripts have a different environment than an interactive
1060 login shell.  For instance, $HOME might point to "/root" when you are
1061 logged in as root, but it might be either unset, or set to "/" when the
1062 startup scripts are running.  That means fetchmail at startup can't find
1063 the .fetchmailrc.
1064
1065 <p>Pick a location (such as /etc/fetchmailrc) and use fetchmail's -f
1066 option to point fetchmail at it.  That should solve the problem.
1067
1068 <hr>
1069 <h2><a name="C7">C7. How can I forward mail to another host?</a></h2>
1070
1071 To forward mail to a host other than the one you are running fetchmail
1072 on, use the <code>smtphost</code> or <code>smtpname</code> option.
1073 See the manual page for details.
1074
1075 <hr>
1076 <h2><a name="T1">T1. How can I use fetchmail with sendmail?</a></h2>
1077
1078 For most sendmails, no special configuration is required.  Eric Allman
1079 tells me that if <code>FEATURE(always_add_domain)</code> is included
1080 in sendmail's configuration, you can leave the <code>rewrite</code>
1081 option off.
1082
1083 <p>If your sendmail complains ``sendmail does not relay'',  make sure
1084 your sendmail.cf file says <code>Cwlocalhost</code>
1085 so that sendmail recognizes `localhost' as a name of its host.
1086
1087 <p>If you're mailing from another machine on your local network, also
1088 ensure that its IP address is listed in ip_allow or name in name_allow
1089 (usually in /etc/mail/)
1090
1091 <p>If you find that your sendmail doesn't like the address
1092 `FETCHMAIL-DAEMON@localhost' (which is used in the bouncemail
1093 that fetchmail generates), you may have to set
1094 <code>FEATURE(accept_unqualified_senders)</code>.
1095
1096 <p>G&uuml;nther Leber reports that Digital Unix sendmails won't work with
1097 fetchmail.  The symptom is an error message "<code>553 Local configuration
1098 error, hostname not recognized as local</code>". The problem is that
1099 fetchmail normally feeds sendmail with the client machine's host
1100 address in the MAIL FROM line.  These sendmails think this means
1101 they're seeing the result of a mail loop and suppress the mail.  You
1102 may be able to work around this by running in <code>--invisible</code> mode.
1103
1104 <p>If you want to support multidrop mode, and you can get access to your
1105 mailserver's sendmail.cf file, it's a good idea to add this rule:
1106
1107 <p><pre>
1108 H?l?Delivered-To: $h
1109 </pre>
1110
1111 This will cause the mailserver's sendmail to reliably write the
1112 appropriate envelope address into each message before fetchmail sees
1113 it, and tell fetchmail which header it is.&nbsp; With this change,
1114 multidrop mode should work reliably even when the Received header
1115 omits the envelope address (which will typically be the case when
1116 the message has multiple recipients).&nbsp; However it will still not
1117 distinguish the recipients, your only advantage is that no bounce
1118 will be sent if a message is BCC addressed to multiple users at
1119 your site.&nbsp; To fix even that problem, you might want to try the
1120 following hack, which is however untested and quite experimental:
1121
1122 <p><pre>
1123 H?J?Delivered-To: $u
1124
1125 Mmdrop, P=/usr/bin/procmail, F=lsDFMqSPfhnu9J,
1126         S=EnvFromSMTP/HdrFromSMTP, R=EnvToSMTP/HdrToSMTP,
1127         T=DNS/RFC822/X-Unix,
1128         A=procmail -Y -a $u -d $h
1129 </pre>
1130
1131 For both hacks, you have to declare `<CODE>envelope "Delivered-To:"</CODE>' on
1132 the fetchmail side, to put the virtual domain (e.g. `domain.com')
1133 with RELAY permission into your access file and to add a line
1134 reading `<CODE>domain.com local:local-pop-user</CODE>' for the first and
1135 `<CODE>domain.com mdrop:local-pop-user</CODE>' for the second hack to your
1136 mailertable.
1137
1138 <p>You will notice that if the mail already has a Delivered-To header,
1139 sendmail will not add another.&nbsp; Further, editing sendmail.cf
1140 directly is not very comfortable.&nbsp; Solutions for both problems
1141 can be found in Peter `Rattacresh' Backes' `hybrid' patch against
1142 sendmail.&nbsp; Have a look at it, you can find it in the contrib
1143 subdirectory.
1144
1145 <p>Feel free to try Martijn Lievaart's detailed recipe in the contrib
1146 subdirectory of the fetchmail source distribution, it attempts
1147 to realize multidrop mailboxes with an external script.
1148
1149 <hr>
1150 <h2><a name="T2">T2. How can I use fetchmail with qmail?</a></h2>
1151
1152 Turn on the <CODE>forcecr</CODE> option; qmail's listener mode doesn't like
1153 header or message lines terminated with bare linefeeds.
1154
1155 <p>(This information is thanks to Robert de Bath
1156 &lt;robert@mayday.cix.co.uk&gt;.)
1157
1158 <p>If a mailhost is using the qmail package (see <a
1159 href="http://pobox.com/~djb/qmail.html">http://pobox.com/~djb/qmail.html</a>)
1160 then, providing the local hosts are also using qmail, it is possible
1161 to set up one fetchmail link to be reliably collect the mail for an
1162 entire domain.
1163
1164 <p>One of the basic features of qmail is the `Delivered-To:' message
1165 header.  Whenever qmail delivers a message to a local mailbox it puts
1166 the username and hostname of the envelope recipient on this line.  The
1167 major reason for this is to prevent mail loops.
1168
1169 <p>To set up qmail to batch mail for a disconnected site the ISP-mailhost
1170 will have normally put that site in its `virtualhosts' control file so
1171 it will add a prefix to all mail addresses for this site. This results
1172 in mail sent to 'username@userhost.userdom.dom.com' having a
1173 'Delivered-To:' line of the form:
1174
1175 <p><pre>
1176        Delivered-To: mbox-userstr-username@userhost.userdom.dom.com
1177 </pre>
1178
1179 A single host maildrop will be slightly simpler:
1180
1181 <pre>
1182        Delivered-To: mbox-userstr-username@userhost.dom.com
1183 </pre>
1184
1185 The ISP can make the 'mbox-userstr-' prefix anything they choose
1186 but a string matching the user host name is likely.
1187
1188 <p>To use this line you must:
1189
1190 <p><ol>
1191 <li>Ensure the option `envelope Delivered-To:' is in the fetchmail
1192     config file.
1193
1194 <li>Ensure you have a localdomains containing 'userdom.dom.com' or
1195     `userhost.dom.com' respectively.
1196 </ol>
1197
1198 So far this reliably delivers messages to the correct machine of the
1199 local network, to deliver to the correct user the 'mbox-userstr-'
1200 prefix must be stripped off of the user name. This can be done by
1201 setting up an alias within the qmail MTA on each local machine.
1202 Simply create a dot-qmail file called '.qmail-mbox-userstr-default'
1203 in the alias directory (normally /var/qmail/alias) with the contents:
1204
1205 <p><pre>
1206       | ../bin/qmail-inject -a -f"$SENDER" "${LOCAL#mbox-userstr-}@$HOST"
1207 </pre>
1208
1209 Note this <em>does</em> require a modern /bin/sh.
1210
1211 <p>Peter Wilson adds:
1212
1213 <p>``My ISP uses "alias-unzzippedcom-" as the prefix, which means that I
1214 need to name my file ".qmail-unzzippedcom-default". This is due to
1215 qmail's assumption that a message sent to user-xyz is handled by the
1216 file ~user/.qmail-xyz (or ~user/.qmail-default).''
1217
1218 <p>Luca Olivetti adds:
1219
1220 <p>If you aren't using qmail locally, or you don't want to set up the
1221 alias mechanism described above, you can use the option `<code>qvirtual
1222 "mbox-userstr-"</code>' in your fetchmail config file to strip the prefix
1223 from the local user name.
1224
1225 <hr>
1226 <h2><a name="T3">T3. How can I use fetchmail with exim?</a></h2>
1227
1228 <p>If you have <CODE>rewrite</CODE> on:
1229
1230 <p>There is an RFC1123 requirement that MAIL FROM and RCPT TO addresses
1231 you pass to it have to be canonical (e.g. with a fully qualified
1232 hostname part).  Therefore fetchmail tries to pass fully qualified
1233 RCPT TO addresses.  But exim does not by default accept `localhost' as
1234 a fully qualified domain.  This can be fixed.
1235
1236 <p>In exim.conf, add `localhost' to your local_domains declaration if it's not
1237 already present.  For example, the author's site at thyrsus.com would
1238 have a line reading:
1239
1240 <p><pre>
1241        local_domains = thyrsus.com:localhost
1242 </pre>
1243
1244 If you have <CODE>rewrite</CODE> off:
1245
1246 <p>MAIL FROM is a potential problem if the MTAs upstream from your fetchmail
1247 don't necessarily pass canonicalized From and Return-Path addresses,
1248 and fetchmail's <CODE>rewrite</CODE> option is off.  The specific case
1249 where this has come up involves bounce messages generated by sendmail
1250 on your mailer host, which have the (un-canonicalized) origin address
1251 MAILER-DAEMON.
1252
1253 <p>The right way to fix this is to enable the <CODE>rewrite</CODE> option and
1254 have fetchmail canonicalize From and Return-Path addresses with the
1255 mailserver hostname before exim sees them.  This option is enabled by
1256 default, so it won't be off unless you turned it off.
1257
1258 <p>If you must run with <CODE>rewrite</CODE> off, there is a switch in exim's
1259 configuration files that allows it to accept domainless MAIL FROM
1260 addresses; you will have to flip it by putting the line
1261
1262 <p><pre>
1263         sender_unqualified_hosts = localhost
1264 </pre>
1265
1266 in the main section of the exim configuration file.  Note that this
1267 will result in such messages having an incorrect domain name attached
1268 to their return address (your SMTP listener's hostname rather than
1269 that of the remote mail server).
1270
1271 <hr>
1272 <h2><a name="T4">T4. How can I use fetchmail with smail?</a></h2>
1273
1274 <p>Smail 3.2 is very nearly plug-compatible with sendmail, and may work
1275 fine out of the box.
1276
1277 <p>We have one report that when processing multiple messages from a
1278 single fetchmail session, smail sometimes delivers them in an
1279 order other than received-date order.  This can be annoying because it
1280 scrambles conversational threads.  This is not fetchmail's problem,
1281 it is an smail `feature' and has been reported to the maintainers
1282 as a bug.
1283
1284 <p>Very recent smail versions require an <code>-smtp_hello_verify</code>
1285 option in the smail config file.  This overrides smail's check to see
1286 that the HELO address is actually that of the client machine, which
1287 is never going to be the case when fetchmail is in the picture.
1288 According to RFC1123 an SMTP listener <em>must</em> allow this
1289 mismatch, so smail's new behavior (introduced sometime between
1290 3.2.0.90 and 3.2.0.95) is a bug.
1291
1292 <hr>
1293 <h2><a name="T5">T5. How can I use fetchmail with SCO's MMDF?</a></h2>
1294
1295 <p>MMDF itself is difficult to configure, but it turns out that
1296 connecting fetchmail to MMDF's SMTP channel isn't that hard.
1297 You can read an <a
1298 href="http://www.aplawrence.com/Unixart/uucptofetch.html">
1299 MMDF recipe</a> that describes replacing a UUCP link with
1300 fetchmail feeding MMDF.
1301
1302 <hr>
1303 <h2><a name="T6">T6. How can I use fetchmail with Lotus Notes?</a></h2>
1304
1305 <p>The Lotus Notes SMTP gateway tries to deduce when it should convert \n
1306 to \r\n, but its rules are not the intuitive and correct-for-RFC822
1307 ones.  Use `forcecr'.
1308
1309 <hr>
1310 <h2><a name="S1">S1. How can I use fetchmail with qpopper?</a></h2>
1311
1312 Qualcomm's qpopper is probably the best-of-breed among POP3 servers, and
1313 is very widely deployed.  Nevertheless, it has some problems which
1314 fetchmail exposes.  We recommend using <a href="#G7">IMAP</a> instead if at
1315 all possible.  If you must talk to qpopper, here are some problems to
1316 be aware of:
1317
1318 <p><h3>Problems with retrieving large messages from qpopper 2.53</h3>
1319
1320 Tony Tang <a href="mailto:tony@atn.com.hk">&lt;tony@atn.com.hk&gt;</a>
1321 reports that there is a bad intercation between fetchmail and qpopper
1322 2.5.3 under Red Hat Linux versions 5.0 to 5.2, kernels 2.0.34 to
1323 2.0.35.  When fetching very large messages (over 700K) from 2.5.3,
1324 fetchmail will hang with a socket error.
1325
1326 <p>This is probably not a fetchmail bug, but rather a symptom of some
1327 problem in the networking stack that qpopper's transmission pattern is
1328 tickling, as fetchpop (another Linux POP client) also displays the hang
1329 but Netscape running under Win95 does not.  The problem can also be
1330 banished by <a
1331 href="http://www.eudora.com/freeware/qpop.html">upgrading to qpopper
1332 3.0b1</a>.
1333
1334 <p><h3>Bad interaction with fetchmail 4.4.2 to 4.4.7</h3>
1335
1336 Versions of fetchmail from 4.4.2 through 4.4.7 had a bad interaction
1337 with Eudora qpopper versions 2.3 and later.  See <a href="#X5">X5</a>
1338 for details.  The solution is to upgrade your fetchmail.
1339
1340 <hr>
1341 <h2><a name="S2">S2. How can I use fetchmail with Microsoft Exchange?</a></h2>
1342
1343 <p>It's been reliably reported that Exchange 2000's POP3 support is so
1344 broken that it's unusable.  One symptom is that messages without
1345 a terminating newline get the POP3 message termination dot emitted --
1346 you guessed it -- right after the last character of the message, with
1347 no terminating newline added.  This will hang fetchmail or any other
1348 RFC-compliant server.  IMAP is alleged to work OK, though.
1349
1350 <p>Older versions of Exchange are semi-usable.
1351
1352 <p>Fetchmail supports the proprietary NTLM mode used with M$ Exchange
1353 servers. To enable this, configure fetchmail with the --enable-NTLM
1354 option and recompile it.  Note: if you specify a user option value
1355 that looks like `user@domain', the part to the left of the @ will
1356 be passed as the username and the part to the right as the NTLM domain.
1357
1358 <p>M$ Exchange violates the POP3 RFCs.  Its LIST command does not reveal
1359 the real sizes of mail in the pop mailbox, but the sizes of the
1360 compressed versions in the exchange mail database (thanks to Arjan De
1361 Vet and Guido Van Rooij for alerting us to this problem).
1362
1363 <p>Fetchmail works with M$ Exchange, despite this brain damage.  Two
1364 features are compromised.  One is that the --limit option will not
1365 work right (it will check against compressed and not actual sizes).
1366 The other is that a too-small SIZE argument may be passed to your
1367 ESMTP listener, assuming you're using one (this should not be a
1368 problem unless the actual size of the message is above the listener's
1369 configured length limit).
1370
1371 <p>Somewhat belatedly, I've learned that there's supposed to be a
1372 registry bit that can fix this breakage:
1373
1374 <p><pre>
1375 HKEY_LOCAL_MACHINE\System\CurrentControlSet\Services\MsExchangeIs\Parameters
1376 System\Pop3 Compatibility
1377 </pre>
1378
1379 This is a bitmask that controls the variations from the standard protocol.
1380 The bits defined are:
1381
1382 <p><DL>
1383 <DT>0x00000001:
1384 <DD>Report exact message sizes for the LIST command
1385 <DT>0x00000002:
1386 <DD>Allow arbitrary linear whitespace between commands and arguments
1387 <DT>0x00000004:
1388 <DD>Enable the LAST command
1389 <DT>0x00000008:
1390 <DD>Allow an empty PASS command (needed for users with blank
1391 passwords, but illegal in the protocol)
1392 <DT>0x00000010:
1393 <DD>Relax the length restrictions for arguments to commands (protocol
1394 requires 40, but some user names may be longer than that).
1395 <DT>0x00000020:
1396 <DD>Allow spaces in the argument to the USER command.
1397 </DL>
1398
1399 There's another one that may be useful to know about:
1400
1401 <p><pre>
1402 KEY_LOCAL_MACHINE\System\CurrentControlSet\Services\MsExchangeIs\Parameters
1403 System\Pop3 Performance
1404 </pre>
1405
1406 <DL>
1407 <DT>0x00000001:
1408 <DD>Render messages to a temporary stream instead of sending directly
1409 from the database (should always be on)
1410 <DT>0x00000002:
1411 Flag unrenderable messages (instead of just failing commands)
1412 (should only be on if you are seeing the problems reported
1413 in KB Q168109)
1414 <DT>0x00000004:
1415 <DD>Return from the QUIT command before all messages have been deleted.
1416 </DL>
1417
1418 The Microsoft pod-person who revealed this information to me admitted
1419 that he couldn't find it anywhere in their public knowledge base.
1420
1421 <p>Another specific problem we have seen with Exchange servers has as its
1422 symptom a response to LOGIN that says "NO Ambiguous Alias".  Grant
1423 Edwards writes:
1424
1425 This means that Exchange Server is too f*&#ing stupid to figure
1426 out which mailbox belongs to you.  Instead of actually keeping
1427 track of which inbox belongs to which user, it uses some
1428 half-witted, guess-o-matic heuristic to try to guess your
1429 mailbox name from your username.
1430
1431 <p>In your case it doesn't work because your username maps to more
1432 than one mailbox.  For some people it doesn't work because
1433 their username maps to zero mailboxes.  This is yet another
1434 inept, lame, almost criminally negligent design decision from
1435 our friends in Redmond.
1436
1437 <p>You've got several options:
1438
1439 <ul>
1440 <li>
1441 Try giving fetchmail a username of "/NTDomain/NTUsername/MailboxName".
1442 <li>
1443 Get your administrator to configure the server so that
1444 usernames and mailbox names are the same.
1445 <li>
1446 Get your administrator to add an alias that maps your
1447 username explicitly to your mailbox name.
1448 </ul>
1449
1450 But, the best option involves a tactical nuclear weapon (an old
1451 ASROC will do), pissing off a lot people who live downwind from
1452 Redmond, and your choice of any Linux, NetBSD, FreeBSD, or
1453 Solaris CD.
1454
1455 <p>I'll provide the CD.
1456
1457 <hr>
1458 <h2><a name="S3">S3. How can I use fetchmail with CompuServe RPA?</a></h2>
1459
1460 First, make sure your fetchmail has the RPA support compiled in.
1461 Stock fetchmail binaries (such as you might get from an RPM) don't.
1462 You can check this by looking at the output of <code>fetchmail -V</code>;
1463 if you see the string "+RPA" after the version ID you're good to go,
1464 otherwise you'll have to build your own from sources (see the INSTALL
1465 file in the source distribution for directions).<p>
1466
1467 Give your CompuServe pass-phrase in lower case as your password.  Add
1468 `@compuserve.com' to your user ID so that it looks like `user
1469 &lt;UserID&gt;@compuserve.com', where &lt;UserID&gt; can be either
1470 your numerical userID or your E-mail nickname. An RPA-enabled
1471 fetchmail will automatically check for csi.com in the POP server's
1472 greeting line.  If that's found, and your user ID ends with
1473 `@compuserve.com', it will query the server to see if it
1474 is RPA-capable, and if so do an RPA transaction rather than a
1475 plain-text password handshake.
1476
1477 <p><strong>Warning:</strong> the debug (-v -v) output of fetchmail will show
1478 your pass-phrase in Unicode!
1479
1480 <p>These two .fetchmailrc entries show the difference between an RPA and
1481 non-RPA configuration:
1482
1483 <pre>
1484 # This version will use RPA
1485 poll csi.com via "pop.site1.csi.com" with proto POP3 and options no dns
1486     user "CSERVE_USER@compuserve.com" there with password "CSERVE_PASSWORD"
1487         is LOCAL_USER here options fetchall stripcr
1488
1489 # This version will not use RPA
1490 poll non-rpa.csi.com via "pop.site1.csi.com" with proto POP3 and options no dns
1491     user "CSERVE_USER" there with password "CSERVE_POP3_PASSWORD"
1492        is LOCAL_USER here options fetchall stripcr
1493 </pre>
1494
1495 <hr>
1496 <h2><a name="S4">S4. How can I use fetchmail with Demon Internet's SDPS?</a></h2>
1497
1498 <h3>Single-drop mode</h3>
1499
1500 You can get fetchmail to download the email for just one user from
1501 Demon Internet's POP3 server by giving it a username consisting of your
1502 Demon user name followed by your account name, with an at-sign between
1503 them.
1504
1505 <p>For example, to download email for the user &lt;philh@vision25.demon.co.uk&gt;,
1506 you could use the following .fetchmailrc file:
1507
1508 <p><pre>
1509 set postmaster "philh"
1510 poll pop3.demon.co.uk with protocol POP3:
1511     user "philh@vision25" is philh
1512 </pre>
1513
1514 <h3>Multi-drop mode</h3>
1515
1516 Demon Internet's SDPS service is an implementation of POP3. All messages
1517 have a Received: header added when they enter the maildrop, like this:
1518
1519 <pre>
1520    Received: from punt-1.mail.demon.net by mailstore.com for fred@xyz.demon.co.uk
1521              id 899963657:10:27896:0; Thu, 09 Jul 98 05:54:17 GMT
1522 </pre>
1523
1524 To enable multi-drop mode you need to tell fetchmail that 'mailstore.com' is
1525 the name of the host which accepted the mail, and let it know the
1526 hostname part(s) of your E-mail address. The following example assumes
1527 that your hostname is xyz.demon.co.uk, and that you have also bought
1528 "mail forwarding" for the domain my-company.co.uk (in which case your
1529 MTA must also be configured to accept mail sent to user@my-company.co.uk)
1530
1531 <pre>
1532      poll pop3.demon.co.uk proto pop3 aka mailstore.com no dns:
1533        localdomains xyz.demon.co.uk my-company.co.uk
1534        user xyz is * fetchall
1535 </pre>
1536
1537 The `fetchall' command ensures that all mail is downloaded. If you
1538 want to leave mail on the server use `uidl' and `keep'; Demon does not
1539 implement the obsolete `top' command, because SDPS combines messages
1540 residing on two separate punt clusters into a single POP3 maildrop.
1541 If you do use UIDL, be aware that the "user@host" form for fetching
1542 mail from a particular Demon host will confuse fetchmail's UIDL code;
1543 use user+host.
1544
1545 <p>Note that Demon may delete mail on the server which is more than 30
1546 days old; see their <a
1547 href="http://www.demon.net/info/helpdesk/demon_products/mail/sdps-tech.shtml">
1548 POP3 page</a> for details.
1549
1550 <p><h3>The SDPS extension</h3>
1551
1552 There's a different way to do multidrop.  It's not necessary on Demon
1553 Internet, since fetchmail can parse Received addresses, but the person
1554 who implemented this didn't know that. It may be useful if Demon
1555 Internet ever changes mail transports.
1556
1557 <p>SDPS includes a non-standard extension for retrieving the envelope of a
1558 message (*ENV), which fetchmail optionally supports if compiled with the
1559 --enable-SDPS option. If you have it, the first line of the fetchmail -V
1560 response will include the string "+SDPS".
1561
1562 <p>Once you have SDPS compiled in, fetchmail in POP3 mode will
1563 automatically detect when it's talking to a Demon Internet host in
1564 multidrop mode, and use the *ENV extension to get an envelope To address.
1565
1566 <p>The autodetection works by looking at the hostname in the POP3
1567 greeting line; if you're accessing Demon Internet through a proxy it
1568 may fail. To force SDPS mode, pick "sdps" as your protocol.
1569
1570 <hr>
1571 <h2><a name="S5">S5. How can I use fetchmail with usa.net's servers?</a></h2>
1572
1573 Enable `<CODE>fetchall</CODE>'.  A user reports that the 2.2 version
1574 of USA.NET's POP server reports that you must use the
1575 `<CODE>fetchall</CODE>' option to make sure that all of the mail is
1576 retrieved, otherwise some may be left on the server.  This is almost
1577 certainly a server bug.
1578
1579 <p>The usa.net servers (at least in their 2.2 version, June 1998) don't
1580 handle the TOP command properly, either.  Regardless of the argument
1581 you give it, they retrieve only about 10 lines of the message.
1582 Fetchmail normally uses TOP for message retrieval in order to avoid
1583 marking messages seen, but `<CODE>fetchall</CODE>' forces it to use
1584 RETR instead.
1585
1586 <p>(Note: Other failure modes have been reported on usa.net's servers.
1587 They seem to be chronically flaky.  We recommend finding another
1588 provider.)
1589
1590 <hr>
1591 <h2><a name="S6">S6. How can I use fetchmail with HP OpenMail?</a></h2>
1592
1593 No special configuration is required, but OpenMail versions prior to
1594 6.0 have an annoying bug similar to the big one in <a
1595 href="#S2">Microsoft Exchange</a>.  The message sizes it gives in the
1596 LIST are rounded to the nearest 1024 bytes.  It also has a nasty habit
1597 of discarding headers it doesn't recognize, such as X- and Resent-
1598 headers.
1599
1600 <p>As with M$ Exchange, the only real fix for these problems is to get a
1601 POP (or preferably IMAP) server that isn't brain-dead. OpenMail's
1602 project manager claims these bugs have been fixed in 6.0.
1603
1604 <hr>
1605 <h2><a name="S8">S8. How can I use fetchmail with Hotmail?</a></h2>
1606
1607 You can't, yet.  But <a
1608 href="http://hawkins.emu.id.au/gotmail/">gotmail</a>
1609 might be what you need.
1610
1611 <hr>
1612 <h2><a name="S9">S9. How can I use fetchmail with MSN?</a></h2>
1613
1614 You can't.  MSN uses something that looks like POP3, except the
1615 authentication part is nonstandard.  And of course they don't
1616 document it, so nobody but their Windows clients can speak it.
1617
1618 <p>This is a customer lock-in tactic; we recommend boycotting MSN as the
1619 only appropriate response.
1620
1621 <p>As of 5.0.8, we have support for the client side of NTLM
1622 authentication.  It's possible this may enable fetchmail to talk to
1623 MSN; if so, somebody should report it so this FAQ can be corrected.
1624
1625 <hr>
1626 <h2><a name="S10">S10. How can I use fetchmail with SpryNet?</a></h2>
1627
1628 The SpryNet POP3 servers mark a message queried with TOP as seen.
1629 This means that if your connection drops in mid-message, it may end
1630 up invisibly stuck on your mail spool.  Use the <code>fetchall</code>
1631 flag to ensure that it's recovered on the next cycle.
1632
1633 <hr>
1634 <h2><a name="S11">S11. How can I use fetchmail with FTGate?</a></h2>
1635
1636 The FTGate V2 server (and possibly older versions as well) has a weird
1637 bug.  It answers OK twice to a TOP request!  Use the
1638 <code>fetchall</code> option to force use of RETR and work around this
1639 bug.
1640
1641 <hr>
1642 <h2><a name="S12">S12. How can I use fetchmail with MailMax?</a></h2>
1643
1644 You can't.  At least not if you want to be able to see attachments.
1645 MailMax has a bug; it reports the message length with attachments
1646 but doesn't download them on TOP or RETR.
1647
1648 <p>Also, we're told that TOP sometimes fails to retrieve the entire
1649 message even when enough lines have been specified. The MailMax
1650 developers have acknowledged this bug as of 4 May 2000, but there is
1651 no fix yet.  If you must use this server, force RETR with the
1652 <tt>fetchall</tt> option.
1653
1654 <hr>
1655 <h2><a name="S13">S13. How can I use fetchmail with Novell GroupWise?</a></h2>
1656
1657 The Novell GroupWise IMAP server would be better named GroupFoolish;
1658 it is (according to the designer of IMAP) unusably broken.  Among
1659 other things, it doesn't include a required content length in its
1660 BODY[TEXT] response.
1661
1662 <p>Fetchmail works around this problem, but we strongly recommend voting
1663 with your dollars for a server that isn't brain-dead.  If you stick
1664 with code as shoddy as GroupWise seems to be, you will probably pay
1665 for it with other problems.
1666
1667 <hr>
1668 <h2><a name="S14">S14. How can I use fetchmail with InterChange?</a></h2>
1669
1670 You can't.  At least not if you want to be able to see attachments.
1671 InterChange has a bug similar to the MailMax server; it reports the
1672 message length with attachments but doesn't download them on TOP or
1673 RETR.
1674
1675 <p>On Jan 9 2001, the people at InfiniteMail sent me mail informing me that
1676 their new 3.61.08 release of InterChange fixes this problem.  I don't
1677 have any reports one way or the other yet.
1678
1679 <hr>
1680 <h2><a name="K1">K1. How can I use fetchmail with SOCKS?</a></h2>
1681
1682 Giuseppe Guerini added a --with-socks option that supports linking
1683 with socks library.  If you specify the value of this option as
1684 ``yes'', the configure script will try to find the Rconnect library
1685 and set the makefile up to link it.  You can also specify a directory
1686 containing the Rconnect library.
1687
1688 <p>Alan Schmitt has added a similar --with-socks5 option that may work
1689 better if you have a recent version of the SOCKS library.
1690
1691 <hr>
1692 <h2><a name="S7">S7. How can I use fetchmail with geocities POP3 servers?</a></h2>
1693
1694 Nathan Cutler reports that the the mail.geocities.com POP3 servers
1695 fail to include the first Received line of the message in the send to
1696 fetchmail.  This can solve problems if your MUA interprets Received
1697 continuations as body lines and doesn't parse any of the following
1698 headers.
1699
1700 <p>Workaround is to use "mda" keyword or "-mda" switch:
1701 <pre>
1702 mda "sed -e '1s/^\t/Received: /' | formail | /usr/bin/procmail -d &lt;user&gt;"
1703 </pre>
1704 Replace \t with exactly one tabulation character.
1705
1706 You should also consider using "fetchall" option because Geocities' servers
1707 sometimes think that the first 45 messages have already been read.
1708
1709 <p>Fix: Get an email provider that doesn't suck. The pop-up ads on
1710 Geocities are lame, you should boycott them anyway.
1711
1712 <hr>
1713 <h2><a name="K2">K2. How can I use fetchmail with IPv6 and IPsec?</a></h2>
1714
1715 To use fetchmail with IPv6, you need a system that supports IPv6, the "Basic
1716 Socket Interface Extensions for IPv6" (RFC 2133).
1717 This currently means that you need to have a BSD/OS or NetBSD system with
1718 the NRL IPv6+IPsec software distribution or a Linux system with a 2.2 or
1719 later kernel and net-tools. It should not be hard to build fetchmail on
1720 other IPv6 implementations if you can port the inet6-apps kit.
1721
1722 <p>To use fetchmail with networking security (read: IPsec), you need a system that
1723 supports IPsec, the API described in the "Network Security API for Sockets"
1724 (draft-metz-net-security-api-01.txt), and the inet6-apps kit. This currently
1725 means that you need to have a BSD/OS or NetBSD system with the NRL IPv6+IPsec
1726 software distribution. A Linux IPsec implementation supporting this API will
1727 probably appear in the coming months.
1728
1729 <p>The NRL IPv6+IPsec software distribution can be obtained from: <a
1730 href="http://web.mit.edu/network/isakmp">http://web.mit.edu/network/isakmp</a>
1731
1732
1733 <p>The inet6-apps kit can be obtained from <a href="http://ftp.ps.pl/pub/linux/IPv6/inet6-apps/">http://ftp.ps.pl/pub/linux/IPv6/inet6-apps/</a>.
1734
1735 <p>More information on using IPv6 with Linux can be obtained from:
1736 <UL>
1737 <LI>
1738 <a href="http://www.bieringer.de/linux/IPv6/IPv6-HOWTO/IPv6-HOWTO.html">
1739 http://www.bieringer.de/linux/IPv6/IPv6-HOWTO/IPv6-HOWTO.html</a>
1740 <LI>
1741 <a href="http://www.ipv6.inner.net/ipv6">http://www.ipv6.inner.net/ipv6</a>
1742 (via IPv6)
1743 <LI>
1744 <a href="http://www.inner.net/ipv6">http://www.inner.net/ipv6</a> (via IPv4)
1745 </UL>
1746
1747 <hr>
1748 <h2><a name="K3">K3. How can I get fetchmail to work with ssh?</a></h2>
1749
1750 We have three recipes for this.
1751
1752 <p><h3>Using plugin</h3>
1753
1754 There's a very simple IMAP recipe using the <tt>plugin</tt> option.
1755 Use the following:
1756
1757 <TT>
1758         plugin "ssh %h /usr/sbin/imapd"
1759 </TT>
1760
1761 You may have to use a different absolute pathname, whatever the
1762 location of imapd on your mailserver is.  This option tells fetchmail
1763 that instead of opening a connection on the server's port 143 and
1764 doing standard IMAP authentication, fetchmail should ssh to the server
1765 and run imapd, using the more secure ssh authentication (as well as
1766 getting ssh's end-to-end encryption).
1767
1768 <p><h3>Single-User POP3</h3>
1769
1770 First, a lightly edited version of a recipe from Masafumi NAKANE.
1771 This one is easy to set up, but only supports one user at a time.
1772
1773 <p>1. You must have ssh (the ssh client) on the local host and sshd (ssh
1774 server) on the remote mail server.  And you have to configure ssh so
1775 you can login to the sshd server host without a password.  (Refer to ssh
1776 man page for several authentication methods.)
1777
1778 <p>2. Add something like following to your .fetchmailrc file:
1779
1780 <p><pre>
1781 poll mailhost port 1234 via localhost with proto pop3:
1782         preconnect "ssh -l username -f mailhost -L 1234:mailhost:110 sleep 5"
1783 </pre>
1784
1785 This is an SSH 1.x recipe.  According to Mick Papadonis, the
1786 equivalent SSH 2.x recipe is this:
1787
1788 <p><pre>
1789 poll localhost port 1234 with proto pop3:
1790         preconnect "ssh -n -S -x -l username -fo mailhost -L 1234:mailhost:110; sleep 5"
1791 </pre>
1792
1793 The sleep is needed on slower machines to prevent fetchmail from
1794 trying to open the socket before ssh actually makes it ready.  Faster
1795 machines may not need it.
1796
1797 <p>(Note that 1234 can be an arbitrary port number.  Privileged ports can
1798 be specified only by root.)  The effect of this ssh command is to
1799 forward connections made to localhost port 1234 (in above example) to
1800 mailhost's 110.
1801
1802 <p>This configuration will enable secure mail transfer.  All the
1803 conversation between fetchmail and remote pop server will be
1804 encrypted.
1805
1806 <p>If sshd is not running on the remote mail server, you can specify an
1807 intermediate host running it.  If you do this, however, communication
1808 between the machine running sshd and the POP server will not be encrypted.
1809 And the preconnect line would be like this:
1810
1811 <p><pre>
1812 preconnect "ssh -f -L 1234:mailhost:110 sshdhost sleep 20 &lt;/dev/null &gt;/dev/null"
1813 </pre>
1814
1815 You can work this trick with IMAP too, but the port number 110 in the
1816 above would need to become 143.  In either case you'll have to specify
1817 a password but the password will not be sent in clear.
1818
1819 <p>There is an explanation of a similar recipe at <a
1820 href="http://sunsite.unc.edu/LDP/HOWTO/mini/Secure-POP+SSH.html">Secure
1821 POP via SSH mini-HOWTO</a>.
1822
1823 <p><h3>Multi-User POP3</h3>
1824
1825 Second, a recipe from Charlie Brady &lt;cbrady@ind.tansu.com.au&gt;:
1826
1827 <p>Charlie says: "The recipe [from Masafume NAKANE] certainly works, but
1828 the solution I post here is better in a few respects":
1829
1830 <UL>
1831 <LI>this method will not fail if two or more users attempt to use fetchmail
1832     simultaneously.
1833 <LI>you are able to use the full facilities of tcpd to control access
1834 <LI>this method does not depend on the preconnect feature of fetchmail, so
1835     can be used for tunneling of other services as well.
1836 </UL>
1837
1838 Here are the steps:
1839
1840 <OL>
1841 <LI>
1842 Make sure that the "socket" program is installed on the server
1843 machine. Presently it lives at <a
1844 href="ftp://sunsite.unc.edu/pub/linux/system/network/misc/socket-1.1.tar.gz">
1845 ftp://sunsite.unc.edu/pub/linux/system/network/misc/socket-1.1.tar.gz</a>,
1846 but watch out for a change in version number.<p>
1847 <LI>
1848 Set up an unprivileged account on your system with a .ssh directory
1849 containing an SSH identity file "identity" with no pass phrase,
1850 "identity.pub" and "known_hosts" containing the host key of your
1851 mailhost. Let's call this account "noddy".
1852 <LI>
1853 On mailhost, set up no-password access for noddy@yourhost. Add to your
1854 SSH authorized_keys file:
1855
1856 <pre>
1857 command="socket localhost 110",no-port-forwarding 1024 ......
1858 </pre>
1859
1860 where "<code>1024 ......</code>" is the content of noddy's identity.pub file.
1861 <LI>
1862 Create a script /usr/local/bin/ssh.fm and make it executable:
1863
1864 <pre>
1865 #! /bin/sh
1866 exec ssh -q -C -l your.login.id -e none mailhost socket localhost 110
1867 </pre>
1868 <LI>
1869 Add an entry in inetd.conf for whatever port you choose to use - say:
1870
1871 <pre>
1872 1234 stream tcp nowait noddy /usr/sbin/tcpd /usr/local/bin/ssh.fm
1873 </pre>
1874 <LI>
1875 Send a HUP signal to your inetd.
1876 </OL>
1877
1878 Now just use localhost:1234 to access your POP server.
1879
1880 <hr>
1881 <h2><a name="K4">K4. What do I have to do to use the IMAP-GSS protocol?</a></h2>
1882
1883 Fetchmail can use RFC1731 GSSAPI authorization to safely identify you
1884 to your IMAP server, as long as you can share Kerberos V credentials
1885 with your mail host and you have a GSSAPI-capable IMAP server.
1886 UW-IMAP (available via FTP at <a
1887 href="ftp://ftp.cac.washington.edu/mail/">ftp.cac.washington.edu</a>)
1888 is the only one I'm aware of and the one I recommend anyway for other
1889 reasons. You'll need version 4.1-FINAL or greater though, and it has
1890 to have GSS support compiled in.
1891
1892 <p>Neither UW-IMAP nor fetchmail compile in support for GSS by default,
1893 since it requires libraries from the Kerberos V distribution
1894 (available via FTP at <a
1895 href="ftp://athena-dist.mit.edu/pub/ATHENA/kerberos">athena-dist.mit.edu</a>).
1896 If you have these, compiling in GSS support is simple: add a
1897 <pre>--with-gssapi=[/path/to/krb5/root]</pre> option to configure. For
1898 instance, I have all of my Kerberos V libraries installed under
1899 /usr/krb5 so I run <pre>configure --with-gssapi=/usr/krb5</pre>
1900
1901 <p>Setting up Kerberos V authentication is beyond the scope of this FAQ
1902 (you may find Jim Rome's paper <a
1903 href="http://www.ornl.gov/~jar/HowToKerb.html"> How to Kerberize your
1904 site</a> helpful), but you'll at least need to add a credential for
1905 imap/[mailhost] to the keytab of the mail server (IMAP doesn't just
1906 use the host key). Then you'll need to have your credentials ready on
1907 your machine (cf. kinit).
1908
1909 <p>After that things are very simple. Set your protocol to imap-gss in your
1910 .fetchmailrc, and omit the password, since imap-gss doesn't need one. You
1911 can specify a username if you want, but this is only useful if your mailbox
1912 belongs to a username different from your Kerberos principal.
1913
1914 <p>Now you don't have to worry about your password appearing in cleartext in
1915 your .fetchmailrc, or across the network.
1916
1917 <hr>
1918 <h2><a name="K5">K5. How can I use fetchmail with SSL?</a></h2>
1919
1920 You'll need to have the <a href="http://www.openssl.org/">OpenSSL</a>
1921 libraries installed.  Configure with --with-ssl.  If you have the
1922 OpenSSL libraries installed in the default location (/usr/local/ssl)
1923 this will suffice.  If you have them installed in a non-default
1924 location, you'll need to specify it as an argument to --with-ssl after
1925 an equal sign.
1926
1927 <p>Fetchmail binaries built this way support <code>ssl</code>,
1928 <code>sslkey</code>, and <code>sslcert</code> options that control
1929 SSL encryption.  You will need to have an SSL-enabled mailserver
1930 to use these options.  See the manual page for details and some words
1931 of care on the limited security provided.
1932
1933 <p>If your open OpenSSL session dies with a message that complains "PRNG
1934 not seeded", update or improve your operating system.  This means that
1935 the OpenSSL library on your machine has been unable to locate a source
1936 of random bits from which to seed its random-number generator;
1937 normally these come from the <tt>/dev/urandom</tt>, and this message
1938 probably means your OS doesn't have that device.<p>.
1939
1940 An interactive program could seed the random number generator from
1941 keystroke timings or some other form of user input.  Because fetchmail
1942 is primarily designed to run forever as a background daemon, that option
1943 option is not available in this case.
1944
1945 <hr>
1946 <h2><a name="R1">R1. Fetchmail isn't working, and -v shows `SMTP connect failed' messages.</a></h2>
1947
1948 Fetchmail itself is probably working, but your SMTP port 25 listener
1949 is down or inaccessible.
1950
1951 <p>The first thing to check is if you can telnet to port 25 on your smtp
1952 host (which is normally `localhost' unless you've specified an smtp
1953 option in your .fetchmailrc or on the command line) and get a greeting
1954 line from the listener.  If the SMTP host is inaccessible or the listener
1955 is down, fix that first.
1956
1957 <p>In Red Hat Linux 6.9, SMTP is disabled by default.  To fix this,
1958 set "DAEMON=yes" in your /etc/sysconfig/sendmail file, then restart
1959 sendmail by running "/sbin/service sendmail restart".
1960
1961 <p>If the listener seems to be up when you test with telnet, the most
1962 benign and typical problem is that the listener had a momentary seizure
1963 due to resource exhaustion while fetchmail was polling it -- process
1964 table full or some other problem that stopped the listener process
1965 from forking.  If your SMTP host is not `localhost' or something else
1966 in /etc/hosts, the fetchmail glitch could also have been caused by
1967 transient nameserver failure.
1968
1969 <p>Try running fetchmail -v again; if it succeeds, you had one of these
1970 kinds of transient glitch.  You can ignore these hiccups, because a
1971 future fetchmail run will get the mail through.
1972
1973 <p>If the listener tests up, but you have chronic failures trying to
1974 connect to it anyway, your problem is more serious.  One way to work
1975 around chronic SMTP connect problems is to use --mda.  But this only
1976 attacks the symptom; you may have a DNS or TCP routing problem.  You
1977 should really try to figure out what's going on underneath before it
1978 bites you some other way.
1979
1980 <p>We have one report (from toby@eskimo.com) that you can sometimes solve
1981 such problems by doing an <CODE>smtp</CODE> declaration with an IP
1982 address that your routing table maps to something other than the
1983 loopback device (he used ppp0).
1984
1985 <p>We also have a report that this error can be caused by having an
1986 /etc/hosts file that associates your client host name with more than
1987 one IP address.
1988
1989 <p>It's also possible that your DNS configuration isn't
1990 looking at <code>/etc/hosts</code> at all.  If you're using libc5,
1991 look at <code>/etc/resolv.conf</code>; it should say something like
1992
1993 <pre>
1994         order hosts,bind
1995 </pre>
1996
1997 so your <code>/etc/hosts</code> file is checked first.  If you're
1998 running GNU libc6, check your <code>/etc/nsswitch.conf</code> file.  Make
1999 sure it says something like
2000
2001 <pre>
2002         hosts:  files dns
2003 </pre>
2004
2005 again, in order to make sure <code>/etc/hosts</code> is seen first.
2006
2007 <p>If you have a hostname set for your machine, and this hostname does
2008 not appear in /etc/hosts, you will be able to telnet to port 25 and
2009 even send a mail with rcpt to: user@host-not-in-/etc/hosts, but
2010 fetchmail can't seem to get in touch with sendmail, no matter what you
2011 set smtpaddress to.
2012
2013 <p>We had another report from a Linux user of fetchmail 2.1 who solved his SMTP
2014 connection problem by removing the reference to -lresolv from his link
2015 line and relinking.  Apparently in some older Linux distributions the
2016 libc bind library version works better.
2017
2018 <p>As of 2.2, the configure script has been hacked so the bind library is
2019 linked only if it is actually needed.  So under Linux it won't be, and
2020 this particular cause should go away.
2021
2022 <hr>
2023 <h2><a name="R2">R2. When I try to configure an MDA, fetchmail doesn't work.</a></h2>
2024
2025 (I hear this one from people who have run into the blank-line problem in <a href="#X1">X1</a>.)
2026
2027 <p>Try sending yourself test mail and retrieving it using the
2028 command-line options `<CODE>-k -m cat</CODE>'.  This will dump exactly what
2029 fetchmail retrieves to standard output (plus the Received line
2030 fetchmail itself adds to the headers).
2031
2032 <p>If the dump doesn't match what shows up in your mailbox when you
2033 configure an MDA, your MDA is mangling the message.  If it doesn't
2034 match what you sent, then fetchmail or something on the server is
2035 broken.
2036
2037 <hr>
2038 <h2><a name="R3">R3. Fetchmail dumps core when given an invalid rc file.</a></h2>
2039
2040 This is usually reported from AIX or Ultrix, but has even been known
2041 to happen on Linuxes without a recent version of <code>flex</code>
2042 installed.  The problem appears to be a result of building with an
2043 archaic version of lex.
2044
2045 <p>Workaround: fix the syntax of your .fetchmailrc file.
2046
2047 <p>Fix: build and install the latest version of <a
2048 href="ftp://prep.ai.mit.edu/~ftp/pub/gnu">flex</a> from the Free
2049 Software Foundation.  An FSF <a
2050 href="http://www.gnu.ai.mit.edu/order/ftp.html">mirror site</a>
2051 will help you get it faster.
2052
2053 <hr>
2054 <h2><a name="R4">R4. Fetchmail dumps core in -V mode, but operates normally otherwise.</a></h2>
2055
2056 We've had this reported to us under Linux using libc-5.4.17 and gcc-2.7.2.
2057 It does not occur with libc-5.3.12 or earlier versions.
2058
2059 <p>Workaround: link with GNU malloc rather than the stock C library malloc.
2060
2061 <p>We're told there is some problem with the malloc() code in that
2062 version which makes it fragile in the presence of multiple free()
2063 calls on the same pointer (the malloc arena gets corrupted).
2064 Unfortunately it appears from doing gdb traces that whatever free()
2065 calls producing the problem are being made by the C library itself, not the
2066 fetchmail code (they're all from within fclose, and not an fclose called
2067 directly by fetchmail, either).
2068
2069 <hr>
2070 <h2><a name="R5">R5. Running fetchmail in daemon mode doesn't work.</a><br></h2>
2071
2072 We have one report from a SunOS 4.1.4 user that trying to run
2073 fetchmail in detached daemon mode doesn't work, but that using the
2074 same options with -N (nodetach) is OK.  We have another report of
2075 similar behavior from one Linux user, but many other Linux users
2076 reportt no problem.
2077
2078 <p>If this happens, you have a specific portability problem with the code
2079 in daemon.c that detaches and backgrounds the daemon fetchmail.  The isolated
2080 Linux case has been chased down to a failure in dup(2) that may reflect a
2081 glibc bug.
2082
2083 <p>As a workaround, you can start fetchmail with -N and an ampersand
2084 to background it.  A Sun user recommends this:
2085
2086 <p><pre>
2087 (fetchmail --nodetach &lt;other params&gt; &amp;)
2088 </pre>
2089
2090 The extra pair of parens is significant --- it makes sure that the process
2091 detaches from the initial shell (one more shell is started and dies
2092 immediately, detaching fetchmail and making it child of PID 1).  This is
2093 important when you start fetchmail interactively and than quit
2094 interactive shell.  The line above makes sure fetchmail lives after
2095 that!
2096
2097 <hr>
2098 <h2><a name="R6">R6. Fetchmail hangs when used with pppd.</a></h2>
2099
2100 Your problem may be with pppd's `demand' option.  We have a report that
2101 fetchmail doesn't play well with it, but works with pppd if `demand'
2102 is turned off.  We have no idea why this is.
2103
2104 <hr>
2105 <h2><a name="R7">R7. Fetchmail randomly dies with socket errors.</a></h2>
2106
2107 Check the MTU value in your PPP interface reported by
2108 <code>/sbin/ifconfig</code>.  If it's over 600, change it in your PPP
2109 options file.  (<code>/etc/ppp/options</code> on my box).  Here are
2110 option values that work:
2111
2112 <p><pre>
2113   mtu 552
2114   mru 552
2115 </pre>
2116
2117 <hr>
2118 <h2><a name="R8">R8. Fetchmail running as root stopped working after an OS upgrade</a></h2>
2119
2120 In RH 6.0, the HOME value in the boot-time root environment changed
2121 from /root to / as the result of a change in init.  Move your
2122 .fetchmailrc or use a -f option to explicitly point at the file.
2123 (Oddly, a similar problem has been reported from Debian systems.)
2124
2125 <hr>
2126 <h2><a name="R9">R9. Fetchmail is timing out after fetching certain
2127 messages but before deleting them</a></h2>
2128
2129 There's a TCP/IP stalling problem under Redhat 6.0 (and possibly other
2130 recent Linuxes) that can cause this symptom.  Brian Boutel writes:
2131
2132 <p><blockquote>
2133 TCP timestamps are turned on on my Linux boxes (I assume it's now the
2134 default). This uses 12 extra bytes per segment.
2135 When the tcp  connection starts, the other end agrees a MSS of 1460,
2136 and then fragments 1460 byte chunks into 1448 and 12, because
2137 is is not allowing for the timestamp.
2138
2139 <p>Then, for reasons I can't explain, it waits a long time (typically 2
2140 minutes) after the ack is sent before sending the next (fragmented)
2141 packet.  Turning off tcp timestamps avoids the fragmentation and
2142 restores normal behaviour.  To do this, [execute]
2143
2144 <p>echo 0 &gt; /proc/sys/net/ipv4/tcp_timestamps
2145
2146 <p>I'm still unclear about the details of why this is happening. At least
2147 [now] I am now getting good performance and no queue blocking.
2148 </blockquote>
2149
2150 <hr>
2151 <h2><a name="R10">R10. Fetchmail is timing out during message fetches</a></h2>
2152
2153 This is probably a general networking issue.  Sending a "RETR" command will
2154 cause the server to start sending large amounts of data, which means
2155 large packets.  If your networking layer has a packet-fragmentation
2156 problem, that's where you'll see it.
2157
2158 <hr>
2159 <h2><a name="D1">D1. I think I've set up fetchmail correctly, but I'm not getting any mail.</a></h2>
2160
2161 Maybe you have a .forward or alias set up that you've forgotten about.  You
2162 should probably remove it.
2163
2164 <p>Or maybe you're trying to run fetchmail in multidrop mode as root
2165 without a .fetchmailrc file.  This doesn't do what you think it
2166 should; see question <a href="#C1">C1</a>.
2167
2168 <p>Or you may not be connecting to the SMTP listener.   Run fetchmail -v
2169 and see <a href="#R1">R1</a>.
2170
2171 <hr>
2172 <h2><a name="R11">R11. Fetchmail is dying with SIGPIPE.</a></h2>
2173
2174 This probably means you have an <code>mda</code> option.  Your MDA is
2175 croaking while being passed a message.  Best fix is to remove the
2176 <code>mda</code> option and pass mail to your port 25 SMTP listener.
2177
2178 <hr>
2179 <h2><a name="D2">D2. All my mail seems to disappear after a dropped connection.</a></h2>
2180
2181 One POP3 daemon used in the Berkeley Unix world that reports itself as
2182 POP3 version 1.004 actually throws the queue away. 1.005 fixed that.
2183 If you're running this one, upgrade immediately.  (It also truncates
2184 long lines at column 1024)
2185
2186 <p>Many POP servers, if an interruption occurs, will restore the whole
2187 mail queue after about 10 minutes.  Others will restore it right
2188 away. If you have an interruption and don't see it right away, cross
2189 your fingers and wait ten minutes before retrying.
2190
2191 <p>Some servers (such as Microsoft's NTMail) are mis-designed to restore
2192 the entire queue, including messages you have deleted.  If you have
2193 one of these and it flakes out on you a lot, try setting a small
2194 <code>--fetchlimit</code> value.  This will result in more IP connects
2195 to the server, but will mean it actually executes changes to the queue
2196 more often.
2197
2198 <p>Qualcomm's qpopper, used at many BSD Unix sites, is better behaved.
2199 If its connection is dropped, it will first execute all DELE commands as
2200 though you had issued a QUIT (this is a technical violation of
2201 the POP3 RFCs, but a good idea in a world of flaky phone lines). Then it
2202 will re-queue any message that was being downloaded at hangup time.
2203 Still, qpopper may require a noticeable amount of time to do deletions
2204 and clean up its queue.  (Fetchmail waits a bit before retrying in
2205 order to avoid a `lock busy' error.)
2206
2207 <hr>
2208 <h2><a name="D3">D3. Mail that was being fetched when I interrupted my fetchmail seems to have been vanished.</a></h2>
2209
2210 Fetchmail only sends a delete mail request to the server when either
2211 (a) it gets a positive delivery acknowledgment from the SMTP
2212 listener, or (b) it gets an error 571 (the spam-filter error) from the
2213 listener.  No interrupt can cause it to lose mail.
2214
2215 <p>However, IMAP2bis has a design problem in that its normal fetch
2216 command marks a message `seen' as soon as the fetch command to get it
2217 is sent down.  If for some reason the message isn't actually delivered
2218 (you take a line hit during the download, or your port 25 listener
2219 can't find enough free disk space, or you interrupt the delivery in
2220 mid-message) that `seen' message can lurk invisibly in your server
2221 mailbox forever.
2222
2223 <p>Workaround: add the `<CODE>fetchall</CODE>' keyword to your fetch options.
2224
2225 <p>Solution: switch to an <a href="http://www.imap.org">IMAP4</a> server.
2226
2227 <hr>
2228 <h2><a name="M1">M1. I've declared local names, but all my multidrop
2229 mail is going to root anyway.</a></h2>
2230
2231 Somehow your fetchmail is never recognizing the hostname part of
2232 recipient names it parses out of To/Cc/envelope-header lines as
2233 matching the name of the mailserver machine. To check this, run
2234 fetchmail in foreground with -v -v on.  You will probably see a lot of
2235 messages with the format ``line rejected, %s is not an alias of the
2236 mailserver'' or ``no address matches; forwarding to %s.''
2237
2238 <p>These errors usually indicate some kind of DNS configuration problem
2239 either on the server or your client machine.
2240
2241 <p>The easiest workaround is to add a `<CODE>via</CODE>' option (if
2242 necessary) and add enough aka declarations to cover all of your
2243 mailserver's aliases, then say `<CODE>no dns</CODE>'.  This will take
2244 DNS out of the picture (though it means mail may be uncollected if
2245 it's sent to an alias of the mailserver that you don't have
2246 listed).
2247
2248 <p>It would be better to fix your DNS, however.  DNS problems can hurt
2249 you in lots of ways, for example by making your machines
2250 intermittently or permanently unreachable to the rest of the net.
2251
2252 <p>Occasionally these errors indicate the sort of header-parsing problem
2253 described in <a href="#M7">M7</a>.
2254
2255 <hr>
2256 <h2><a name="M2">M2. I can't seem to get fetchmail to route to a local domain properly.</a></h2>
2257
2258 A lot of people want to use fetchmail as a poor man's internetwork
2259 mail gateway, picking up mail accumulated for a whole domain in a single
2260 server mailbox and then routing based on what's in the To/Cc/Bcc lines.
2261
2262 <p>In general, this is not really a good idea.  It would be smarter to
2263 just let the mail sit in the mailserver's queue and use fetchmail's
2264 ETRN or ODMR modes to trigger SMTP sends periodically (of course, this means
2265 you have to poll more frequently than the mailserver's expiration period).
2266 If you can't arrange this, try setting up a UUCP feed.
2267
2268 <p>If neither of these alternatives is available, multidrop mode may do
2269 (though you <em>are</em> going to get hurt by some mailing list
2270 software; see the caveats under THE USE AND ABUSE OF MULTIDROP
2271 MAILBOXES on the man page).  If you want to try it, the way to do it
2272 is with the `<CODE>localdomains</CODE>' option.
2273
2274 <p>In general, if you use localdomains you need to make sure of two other
2275 things:
2276
2277 <p><strong>1. You've actually set up your .fetchmailrc entry to invoke multidrop mode.</strong>
2278
2279 <p>Many people set a `<CODE>localdomains</CODE>' list and then forget
2280 that fetchmail wants to see more than one name (or the wildcard `*')
2281 in a `<CODE>here</CODE>' list before it will do multidrop routing.
2282
2283 <p><strong>2. You may have to set `no envelope'.</strong>
2284
2285 <p>Normally, multidrop mode tries to deduce an envelope address from a message
2286 before parsing the To/Cc/Bcc lines (this enables it to avoid losing to mailing
2287 list software that doesn't put a recipient address in the To lines).
2288
2289 <p>Some ways of accumulating a whole domain's messages in a single server
2290 mailbox mean it all ends up with a single envelope address that is
2291 useless for rerouting purposes.  You may have to set `<CODE>no
2292 envelope</CODE>' to prevent fetchmail from being bamboozled by this.
2293
2294 <p>Check also answer <a href="#T1">T1</a> on a reliable way to do multidrop
2295 delivery if your ISP (or your mail redirection provider) is using qmail.
2296
2297 <hr>
2298 <h2><a name="M3">M3. I tried to run a mailing list using multidrop, and I have a mail loop!</a></h2>
2299
2300 This isn't fetchmail's fault.  Check your mailing list.  If the list
2301 expansion includes yourself or anybody else at your mailserver (that is, not on
2302 the client side) you've created a mail loop.  Just chop the host part off any
2303 local addresses in the list.
2304
2305 <p>If you use sendmail, you can check the list expansion with
2306 <CODE>sendmail -bv</CODE>.
2307
2308 <hr>
2309 <h2><a name="M4">M4. My multidrop fetchmail seems to be having DNS problems.</a></h2>
2310
2311 <p>We have one report from a Linux user (not the same one as in <a
2312 href="#R1">R1</a>!) who solved this problem by removing the reference
2313 to -lresolv from his link line and relinking.  Apparently in some
2314 older Linux distributions the libc5 bind library version works
2315 better.
2316
2317 <p>As of 2.2, the configure script has been hacked so the bind library
2318 is linked only if it is actually needed.  So under Linux it won't be,
2319 and this problem should go away.
2320
2321 <hr>
2322 <h2><a name="M5">M5. I'm seeing long DNS delays before each message is processed.</a></h2>
2323
2324 <p>Use the `<CODE>aka</CODE>' option to pre-declare as many of your
2325 mailserver's DNS names as you can.  When an address's host part
2326 matches an aka name, no DNS lookup needs to be done to check it.
2327
2328 <p>If you're sure you've pre-declared all of your mailserver's DNS names,
2329 you can use the `<CODE>no dns</CODE>' option to prevent other hostname
2330 parts from being looked up at all.
2331
2332 <p>Sometimes delays are unavoidable.  Some SMTP listeners try to call DNS
2333 on the From-address hostname as a way of checking that the address is valid.
2334
2335 <hr>
2336 <h2><a name="M6">M6. How do I get multidrop mode to work with majordomo?</a></h2>
2337
2338 <p>In order for sendmail to execute the command strings in the majordomo
2339 alias file, it is necessary for sendmail to think that the mail it
2340 receives via SMTP really is destined for a local user name.  A normal
2341 virtual-domain setup results in delivery to the default mailbox,
2342 rather than expansion through majordomo.
2343
2344 <p>Michael &lt;michael@bizsystems.com&gt; gave us a recipe for dealing
2345 with this case that pairs a run control file like this:
2346
2347 <pre>
2348 poll your.pop3.server proto pop3:
2349     no envelope no dns
2350     localdomains virtual.localdomain1.com virtual.localdomain2.com ...
2351     user yourISPusername is root * here,
2352     password yourISPpassword fetchall
2353 </pre>
2354
2355 with a hack on your local sendmail.cf like this:
2356
2357 <pre>
2358 #############################################
2359 #  virtual info, local hack for ruleset 98  #
2360 #############################################
2361
2362 # domains to treat as direct mapped local domain
2363
2364 CVvirtual.localdomain1.com virtual.localdomain2.com ...
2365 ---------------------------
2366 in ruleset 98 add
2367 -------------------------
2368 # handle virtual users
2369
2370 R$+ &lt;@ $=V . &gt;          $: $1 &lt; @ $j . &gt;
2371 R&lt; @ &gt; $+ &lt; @ $=V . &gt;   $: $1 &lt; @ $j . &gt;
2372 R&lt; @ &gt; $+               $: $1
2373 R&lt; error : $- $+ &gt; $*   $#error $@ $1 $: $2
2374 R&lt; $+ &gt; $+ &lt; @ $+ &gt;     $: $&gt;97 $1
2375 </pre>
2376
2377 <p>This ruleset just strips virtual domain names off the addresses of incoming
2378 mail.  Your sendmail must be 8.8 or newer for this to work.  Michael
2379 says:
2380
2381 <p><BLOCKQUOTE>
2382 I use this scheme with 2 virtual domains and the default ISP
2383 user+domain and service about 30 mail accounts + majordomo on my
2384 inside pop3 server with fetchmail and sendmail 8.83
2385 </BLOCKQUOTE>
2386
2387 <hr>
2388 <h2><a name="M7">M7. Multidrop mode isn't parsing envelope addresses from
2389 my Received headers as it should.</a></h2>
2390
2391 <p>It may happen that you're getting what appear to be well-formed
2392 sendmail Received headers, but fetchmail can't seem to extract an
2393 envelope address from them.  There can be a couple of reasons for
2394 this.
2395
2396 <h3>Spurious Received lines need to be skipped:</h3>
2397
2398 <p>First, fetchmail might be looking at the wrong Received header.
2399 Normally it looks only on the first one it sees, on the theory that
2400 that one was last added and is going to be the one containing your
2401 mailserver's theory of who the message was addressed to.
2402
2403 <p>Some (unusual) mailserver configurations will generate extra Received
2404 lines which you need to skip.  To arrange this, use the optional
2405 skip prefix argument of the `envelope' option; you may need to say
2406 something like `<code>envelope 1 Received</code>' or `<code>envelope 2
2407 Received</code>'.
2408
2409 <h3>The `by' clause doesn't contain a mailserver alias:</h3>
2410
2411 <p>When fetchmail parses a Received line that looks like
2412
2413 <pre>
2414 Received: from send103.yahoomail.com (send103.yahoomail.com [205.180.60.92])
2415     by iserv.ttns.net (8.8.5/8.8.5) with SMTP id RAA10088
2416     for &lt;ksturgeon@fbceg.org&gt;; Wed, 9 Sep 1998 17:01:59 -0700
2417 </pre>
2418
2419 it checks to see if `iserv.ttns.net' is a DNS alias of your mailserver
2420 before accepting `ksturgeon@fbceg.org' as an envelope address.  This
2421 check might fail if your DNS were misconfigured, or if you were using `no dns'
2422 and had failed to declare iserv.ttns.net as an alias of your server.
2423
2424 <hr>
2425 <h2><a name="M8">M8. Users are getting multiple copies of messages.</a></h2>
2426
2427 <p>It's a consequence of multidrop.  What's happening is that you have
2428 N users subscribed to the same list.  The list software sends N
2429 copies, not knowing they will end up in the same multidrop box.  Since
2430 they are both locally addressed to all N users, fetchmail delivers N
2431 copies to each user.
2432
2433 <p>Fetchmail tries to eliminate adjacent duplicate messages in a
2434 multidrop mailbox.  However, this logic depends on the message-ID
2435 being identical in both copies.  It also depends on the two copies
2436 being adjacent in the server mailbox.  The former is usually the case,
2437 but the latter condition sometimes fails in a timing-dependent way if
2438 the server was processing multiple incoming mail streams.
2439
2440 <p>I could eliminate this problem by keeping a list of all message-IDs
2441 received during a poll so far and dropping any message that matches a
2442 seen mail ID.  The touble is that this is an O(N**2) operation that
2443 might significantly slow down the retriweval of large mail batches.
2444
2445 <hr>
2446 <h2><a name="X1">X1. Spurious blank lines are appearing in the headers of fetched mail.</a></h2>
2447
2448 <p>What's probably happening is that the POP/IMAP daemon on your
2449 mailserver is inserting a non-RFC822 header (like X-POP3-Rcpt:) and
2450 something in your delivery path (most likely an old version of the
2451 <em>deliver</em> program, which sendmail often calls to do local delivery) is
2452 failing to recognize it as a header.
2453
2454 <p>This is not fetchmail's problem.  The first thing to try is installing
2455 a current version of <em>deliver</em>.  If this doesn't work, try to
2456 figure out which other program in your mail path is inserting the
2457 blank line and replace that.  If you can't do either of these things,
2458 pick a different MDA (such as procmail) and declare it with the
2459 `<CODE>mda</CODE>' option.
2460
2461 <hr>
2462 <h2><a name="X2">X2. My mail client can't see a Subject line.</a></h2>
2463
2464 <p>First, see <a href="#X1">X1</a>.  This is quite probably the same
2465 problem (X-POP3-Rcpt header or something similar being inserted by
2466 the server and choked on by an old version of <em>deliver</em>).
2467
2468 <p>The O'Reilly sendmail book does warn that IDA sendmail doesn't process
2469 X- headers correctly.  If this is your problem, all I can suggest is
2470 replacing IDA sendmail, because it's broken and not RFC822 conformant.
2471
2472 <hr>
2473 <h2><a name="X3">X3. Messages containing "From" at start of line are being split.</a></h2>
2474
2475 <p>If you know the messages aren't split in your server mailbox, then this
2476 is a problem with your POP/IMAP server, your client-side SMTP listener or
2477 your local delivery agent.  Fetchmail cannot split messages.
2478
2479 <p>Some POP server daemons ignore Content-Length headers and split messages on
2480 From lines.  We have one report that the 2.1 version of the BSD popper
2481 program (as distributed on Solaris 2.5 and elsewhere) is broken this way.
2482
2483 <p>You can test this.  Declare an mda of `cat' and send yourself one
2484 piece of mail containing "From" at start of a line.  If you see a
2485 split message, your POP/IMAP server is at fault.  Upgrade to a more
2486 recent version.
2487
2488 <p>Sendmail and other SMTP listeners don't split RFC822 messages either.
2489 What's probably happening is either sendmail's local delivery agent or
2490 your mail reader are not quite RFC822-conformant and are breaking
2491 messages on what it thinks are Unix-style From headers.  You can
2492 figure out which by looking at your client-side mailbox with vi or
2493 more.  If the message is already split in your mailbox, your local
2494 delivery agent is the problem.  If it's not, your mailreader is the
2495 problem.
2496
2497 <p>If you can't replace the offending program, take a look at your
2498 sendmail.cf file.  There will likely be a line something like
2499
2500 <pre>
2501 Mlocal, P=/usr/bin/procmail, F=lsDFMShP, S=10, R=20/40, A=procmail -Y -d $u
2502 </pre>
2503
2504 describing your local delivery agent.  Try inserting the `E' option in the
2505 flags part (the F= string).  This will make sendmail turn each dangerous
2506 start-of-line From into a &gt;From, preventing programs further downstream
2507 from acting up.
2508
2509 <hr>
2510 <h2><a name="X4">X4.</a><a name="generic_mangling">My mail is being mangled in a new and different way</a></h2>
2511
2512 <p>The first thing you need to do is pin down what program is doing the
2513 mangling.  We don't like getting bug reports about fetchmail that are
2514 actually due to some other program's malfeasance, so please go through
2515 this diagnostic sequence before sending us a complaint.
2516
2517 <p>There are five possible culprits to consider, listed here in the order
2518 they pass your mail:
2519
2520 <ol>
2521 <li> Programs upstream of your server mailbox.
2522 <li> The POP or IMAP server on your mailserver host.
2523 <li> The fetchmail program itself.
2524 <li> Your local sendmail.
2525 <li> Your LDA (local delivery agent), as called by sendmail or
2526 specified by <code>mda</CODE>.
2527 </ol>
2528
2529 <p>Often it happens that fetchmail itself is OK, but using it exposes
2530 pre-existing bugs in your downstream software, or your downstream
2531 software has a bad interaction with POP/IMAP.  You need to pin down
2532 exactly where the message is being garbled in order to deduce what is
2533 actually going on.
2534
2535 <p>The first thing to do is send yourself a test message, and retrieve it
2536 with a .fetchmailrc entry containing the following (or by running with
2537 the equivalent command-line options):
2538
2539 <pre>
2540     mda "cat &gt;MBOX" keep fetchall
2541 </pre>
2542
2543 <p>This will capture what fetchmail gets from the server, except for (a)
2544 the extra Received header line fetchmail prepends, (b) header address
2545 changes due to <code>rewrite</code>, and (c) any end-of-line changes
2546 due to the <code>forcecr</code> and <code>stripcr</code> options.
2547 MBOX will in fact contain what programs downstream of fetchmail
2548 see.
2549
2550 <p>The most common causes of mangling are bugs and misconfigurations in
2551 those downstream programs.  If MBOX looks unmangled, you will know
2552 that is what is going on and that it is not fetchmail's problem.  Take
2553 a look at the other FAQ items in this section for possible clues about
2554 how to fix your problem.
2555
2556 <p>If MBOX looks mangled, the next thing to do is compare it with your
2557 actual server mailbox (if possible).  That's why you specified
2558 <code>keep</code>, so the server copy would not be deleted.  If your
2559 server mailbox looks mangled, programs upstream of your server mailbox
2560 are at fault.  Unfortunately there is probably little you can do about
2561 this aside from complaining to your site postmaster, and nothing at
2562 all fetchmail can do about it!
2563
2564 <p>More likely you'll find that the server copy looks OK.  In that case
2565 either the POP/IMAP server or fetchmail is doing the mangling.  To
2566 determine which, you'll need to telnet to the server port and simulate
2567 a fetchmail session yourself.  This is not actually hard (both POP3
2568 and IMAP are simple, text-only, line-oriented protocols) but requires
2569 some attention to detail.  You should be able to use a fetchmail -v
2570 log as a model for a session, but remember that the "*" in your LOGIN
2571 or PASS command dump has to be replaced with your actual password.
2572
2573 <p>The objective of manually simulating fetchmail is so you can see
2574 exactly what fetchmail sees.  If you see a mangled message, then your
2575 server is at fault, and you probably need to complain to your
2576 mailserver administrators.  However, we like to know what the broken
2577 servers are so we can warn people away from them.  So please send
2578 us a transcript of the session including the mangling <em>and the
2579 server's initial greeting line</em>.  Please tell us anything else
2580 you think might be useful about the server, like the server host's
2581 operating system.
2582
2583 <p>If your manual fetchmail simulation shows an unmangled message,
2584 congratulations.  You've found an actual fetchmail bug, which is a
2585 pretty rare thing these days.  Complain to us and we'll fix it.
2586 Please include the session transcript of your manual fetchmail
2587 simulation along with the other things described in the FAQ entry on
2588 <a href="#G3">reporting bugs</a>.
2589
2590 <hr>
2591 <h2><a name="X5">X5. Using POP3, retrievals seems to be fetching too much!</a></h2>
2592
2593 <p>This may happen in versions of fetchmail after 4.4.1 and before 4.4.8.
2594 Versions after 4.4.1 use POP3's TOP command rather than RETR, in order
2595 to avoid marking the message seen (leaving it unseen is helpful for
2596 later recovery if you lose your connection in the middle of a
2597 retrieval).
2598
2599 <p>Versions of fetchmail from 4.4.2 through 4.4.7 had a bad interaction
2600 with Eudora qpopper versions 2.3 and later.  The TOP bounds check was
2601 fooled by an overflow condition in the TOP argument.  Decrementing the
2602 TOP argument in 4.4.7 fixed this.
2603
2604 <p>Fix: Upgrade to a later version of fetchmail.
2605
2606 <p>Workaround: set the <code>fetchall</code> option.  Under POP3
2607 this has the side effect of forcing RETR use.
2608
2609 <hr>
2610 <h2><a name="X6">X6. My mail attachments are being dropped or mangled.</a></h2>
2611
2612 <p>This isn't fetchmail's doing -- fetchmail never drops lines in message
2613 bodies or attachments. It may be your POP server, or it may be the
2614 sender's mail user agent (or a bad combination of both).
2615
2616 <p>The Mail Max POP3 server and the InterChange and Imail IMAP servers
2617 are known to simply drop MIME attachments when uploading messages.
2618 We've had sporadic reports of problems with Microsoft Exchange and
2619 Outlook servers.  Windows- and NT-based POP servers seem especially
2620 prone to mangle attachments.  If you are running one of these,
2621 replacing your server with a Unix machine is probably the only
2622 effective solution.
2623
2624 <p>We've also had a report that Lotus Notes sometimes trashes the
2625 MIME type of messages.  In particular, it seems to modify MIME
2626 headers introducing type application/pdf, mangling the type
2627 to application/octet-stream. It may corrupt other MIME types
2628 as well.
2629
2630 <p>The IMAP service of Lotus Domino has a known bug in the way it
2631 generates MIME Content-type headers (observed on Lotus Domino 5.0.2b).
2632 It's a subtle one that doesn't show up when Netscape Messenger and
2633 other clients use a FETCH BODY[] to grab the whole message.  When
2634 fetchmail uses FETCH RFC822.HEADER and FETCH RFC822.TEXT to get first
2635 the header and then the body, Domino generates different Boundary tags
2636 for each part, .e.g. one tag is declared in the Content-type header and
2637 another is used to separate the MIME parts in the body.  This doesn't
2638 work. (I have heard a rumor that this bug is scheduled to be fixed
2639 in Domino release 6; you can find a workaround at contrib/domino.)
2640
2641 <p>Another rich source of attachment problems is Microsoft Exchange and
2642 Microsoft Outlook.  If you see unreadable attachments with a
2643 ContentType of "application/x-tnef", you're having this problem.  The
2644 <a href="http://world.std.com/~damned/software.html">TNEF</a> utility
2645 may help.
2646
2647 <p>Rob Funk explains: Unfortunately there also remain many mail user
2648 agents that don't write correct MIME messages. One big offender is Sun
2649 MailTool attachments, which are formatted enough like MIME that some
2650 programs could get confused; these are generated by the mailtool and
2651 dtmail programs (the mail programs in Sun's OpenWindows and CDE
2652 environments).
2653
2654 <p>One solution to problems related to misformatted MIME attachments is
2655 the <a href="ftp://ftp.uu.se/pub/unix/networking/mail/emil/">emil</a>
2656 program; see its <a
2657 href="ftp://ftp.uu.se/pub/unix/networking/mail/emil/TUTORIAL.html">tutorial</a>
2658 file at that site for details on emil.  It is useful for
2659 converting character sets, attachment encodings, and attachment
2660 formats.  At this writing, emil does not appear to have been
2661 maintained since a patch to version 2.1.0beta9 in late 1997, but it is
2662 still useful.
2663
2664 <p>One good way of using emil is from within procmail.  You can have
2665 procmail look for signs of problematic message formatting, and pipe
2666 those messages through emil to be fixed.  emil will not always be able
2667 to fix the problem, in which case the message is unchanged.
2668
2669 <p>A possible rule to be inserted into a .procmailrc file for using emil
2670 would be:
2671
2672 <pre>
2673 :0HB
2674 * 1^1 ^Content-Type: \/X-sun[^;]*
2675 * 1^1 ^Content-Type: \/application/mac-binhex[^;]*
2676 * 1^1 ^Content-Transfer-Encoding: \/x-binhex[^;]*
2677 * 1^1 ^Content-Transfer-Encoding: \/x-uuencode[^;]*
2678 {
2679   LOG="Converting $MATCH
2680 "
2681   :0fw
2682   | emil -A B -T Q -B BA -C iso-8859-1 -H Q -F MIME \
2683   | gawk '{gsub(/\r\n?/,"\n");print $0}'
2684 }
2685 </pre>
2686
2687 <p>The "1^1" in the conditions is a way of specifying to procmail that if
2688 any one of the four listed expressions is found in the message, the
2689 total condition is considered true, and the message gets passed into
2690 emil.  These four subconditions check whether the message has a Sun
2691 attachment, a binhex attachment, or a uuencoded attachment; there are
2692 others that could be added to check these things better and to check
2693 other relevant conditions.  The "LOG=" line writes a line into the
2694 procmail log; the lone double-quote beginning the following line makes
2695 sure the log entry gets an end-of-line character.  The call to gawk
2696 (GNU awk) is for fixing end-of-line conventions, since emil sometimes
2697 leaves those in the format of the originating machine; it could
2698 probably be replaced with a sed subsitution.
2699
2700 <p>The emil call itself tries to ensure that the message uses:
2701
2702 <ul>
2703 <li> BinHex encoding for any Apple Macintosh-only attachments
2704 <li> Quoted-Printable encoding for text (when necessary)
2705 <li> Base64 Encoding for binary attachments
2706 <li> iso-8859-1 character set for text (unfortunately emil can't yet
2707   convert from windows-1252 to iso-8859-1)
2708 <li> Quoted-Printable encoding for headers
2709 <li> MIME attachment format
2710 </ul>
2711
2712 <p>Most of these (the primary exceptions being the character set and the
2713 Apple binary format) are as they should be for good internet
2714 interoperability.<p>
2715
2716 <p>Some mail servers (Lotus Domino is a suspect here) mangle
2717 Sun-formatted messages, so the conversion to MIME needs to happen
2718 before such programs see the message.  The ideal is to rid the world
2719 of Sun-formatted messages: don't use mailtool for sending attachments
2720 (it doesn't understand MIME anyway, and most of the world doesn't
2721 understand its attachments, so it really shouldn't be used at all),
2722 and make sure dtmail is set to use MIME rather than mailtool's format.
2723
2724 <hr>
2725 <h2><a name="X7">X7. Some mail attachments are hanging fetchmail.</a></h2>
2726
2727 <p>This isn't fetchmail's problem either; fetchmail doesn't know anything
2728 about mail attachments and doesn't treat them any differently from
2729 plain message data.
2730
2731 <p>The most usual cause of this problem seems to be bugs in your network
2732 transport layer's capability to handle the very large TCP/IP packets
2733 that attachments tend to turn into.  You can test this theory by trying to
2734 download the offending message through a webmail account; using HTTP
2735 for the message tends to simulate large-packet stress rather well, and
2736 you will probably find that the messages that seem to be choking
2737 fetchmail will make your HTTP download speed drop to zero.
2738
2739 <p>This problem can be caused by subtle bugs in the packet-reassembly
2740 layer of your TCP/IP stack; these often don't manifest at normal
2741 packet sizes.  It may also be caused by malfunctioning path-MTU
2742 discovery on the mailserver.  Or, if there's a modem in the link,
2743 it may be because the attachment contains the Hayes mode escape "+++".
2744
2745 <hr>
2746 <h2><a name="O1">O1. The --logfile option doesn't work if the logfile doesn't exist.</a></h2>
2747
2748 <p>This is a feature, not a bug.  It's in line with normal practice for
2749 system daemons and allows you to suppress logging by removing the log,
2750 without hacking potentially fragile startup scripts.  To get around
2751 it, just touch(1) the logfile before you run fetchmail (this will have
2752 no effect on the contents of the logfile if it already exists).
2753
2754 <hr>
2755 <h2><a name="O2">O2. Every time I get a POP or IMAP message the header
2756 is dumped to all my terminal sessions.</a></h2>
2757
2758 <p>Fetchmail uses the local sendmail to perform final delivery, which
2759 Netscape and other clients doesn't do; the announcement of new messages
2760 is done by a daemon that sendmail pokes. There should be a ``biff''
2761 command to control this.  Type
2762
2763 <pre>
2764 biff n
2765 </pre>
2766
2767 to turn it off. If this doesn't work, try the command
2768
2769 <pre>
2770 chmod -x `tty`
2771 </pre>
2772
2773 which is essentially what <code>biff -n</code> will do. If this
2774 doesn't work, comment out any reference to ``comsat'' in your
2775 /etc/inetd.conf file and restart inetd.
2776
2777 <p>In Slackware Linux distributions, the last line in /etc/profile is
2778
2779 <pre>
2780 biff y
2781 </pre>
2782
2783 Change this to
2784
2785 <pre>
2786 biff n
2787 </pre>
2788
2789 to solve the problem system-wide.
2790
2791 <hr>
2792 <h2><a name="O3">O3. Does fetchmail reread its rc file every poll cycle?</a></h2>
2793
2794 <p>No, but versions 5.2.2 and later will notice when you modify your rc
2795 file and restart, reading it.
2796
2797 <hr>
2798 <h2><a name="O4">O4. Why do deleted messages show up again when I take
2799 a line hit while downloading?</a></h2>
2800
2801 <p>Because you're using a POP3 other than Qualcomm qpopper, or an IMAP
2802 with a long expunge interval.
2803
2804 <p>According to the POP3 RFCs, deletes aren't actually performed until
2805 you issue the end-of-session QUIT command.  Fetchmail cannot fix this,
2806 because doing it right takes cooperation from the server. There are
2807 two possible remedies:
2808
2809 <p>One is to switch to qpopper (the free POP3 server from Qualcomm,
2810 the Eudora people).  The qpopper software violates the POP3 RFCs by
2811 doing an expunge (removing deleted messages) on a line hangup, as well
2812 as on processing a QUIT command.
2813
2814 <p>The other (which we recommend) is to switch to <a
2815 href="http://www.imap.org">IMAP</a>.  IMAP has an explicit expunge
2816 command and fetchmail normally uses it to delete messages immediately
2817 after they are downloaded.
2818
2819 <p>If you get very unlucky, you might take a line hit in the window
2820 between the delete and the expunge.  If you've set a longer expunge
2821 interval, the window gets wider.  This problem should correct itself
2822 the next time you complete a successful query.
2823
2824 <hr>
2825 <h2><a name="O5">O5. Why is fetched mail being logged with my name, not the real From address?</a></h2>
2826
2827 <p>Because logging is done based on the address indicated by the sending
2828 SMTP's MAIL FROM, and some listeners are picky about that address.
2829
2830 <p>Some SMTP listeners get upset if you try to hand them a MAIL FROM
2831 address naming a different host than the originating site for your
2832 connection.  This is a feature, not a bug -- it's supposed to help
2833 prevent people from forging mail with a bogus origin site.  (RFC 1123
2834 says you shouldn't do this exclusion...)
2835
2836 <p>Since the originating site of a fetchmail delivery connection is
2837 localhost, this effectively means these picky listeners will barf on
2838 any MAIL FROM address fetchmail hands them with an @ in it!
2839
2840 <p>Versions 2.1 and up try the header From address first and fall back to
2841 the calling-user ID.  So if your SMTP listener isn't picky, the log
2842 will look right.
2843
2844 <hr>
2845 <h2><a name="O6">O6. I'm seeing long sendmail delays or hangs near the start of each poll cycle.</a></h2>
2846
2847 <p>Sendmail does a hostname lookup when it first starts up, and also each
2848 time it gets a HELO in listener mode.
2849
2850 <p>Your resolver configuration may be causing one of these lookups to
2851 fail and time out.  Check <code>/etc/resolv.conf</code> and
2852 <code>/etc/hosts</code> file. Make sure your hostname and
2853 fully-qualified domain name are both in <code>/etc/hosts</code>, and
2854 that hosts is looked at before DNS is queried.  You probably also want
2855 your remote mail server(s) to be in the hosts file.
2856
2857 <p>You can suppress the startup-time lookup if need to by reconfiguring
2858 with <code>FEATURE(nodns)</code>.
2859
2860 <p>Configuring your bind library to cache DNS lookups locally may help,
2861 and is a good idea for speeding up other services as well.  Switching to
2862 a faster MTA like qmail or exim might help.
2863
2864 <hr>
2865 <h2><a name="O7">O7. Why doesn't fetchmail deliver mail in date-sorted order?</a></h2>
2866
2867 <p>Because that's not the order the server hands it to fetchmail in.
2868
2869 <p>Fetchmail getting mail from a POP server delivers mail in the order
2870 that your server delivers mail.  Fetchmail can't do anything about
2871 this; it's a limitation of the underlying POP protocol.
2872
2873 <p>In theory it might be possible for fetchmail in IMAP mode to sort
2874 messages by date, but this would be in violation of two basics of
2875 fetchmail's design philosophy: (a) to be as simple and transparent a
2876 pipe as possible, and (b) to <em>hide</em>, rather than emphasize, the
2877 differences between the remote-fetch protocols it uses.
2878
2879 <p>Re-ordering messages is a user-agent function, anyway.
2880
2881 <hr>
2882 <h2><a name="O8">O8. I'm using pppd.  Why isn't my monitor option working?</a></h2>
2883
2884 <p>There is a combination of circumstances that can confuse fetchmail.
2885 If you have set up demand dialing with pppd, and pppd has an idle
2886 timeout, and you have lcp-echo-interval set, then the
2887 lcp-echo-interval time must be longer than the pppd idle timeout.
2888 Otherwise it is going keep increasing the packet counters that fetchmail
2889 relies upon, triggering fetchmail into polling after its own delay
2890 interval and thus preventing the pppd link from ever reaching its
2891 inactivity timeout.
2892
2893 <hr>
2894 <h2><a name="O9">O9. Why does fetchmail keep retrieving the same messages
2895 over and over?</a></h2>
2896
2897 <p>First, check to see that you haven't enabled the <cite>keep</cite>
2898 and <cite>fetchall</cite> option.  If you have, turn <cite>keep</cite> off.
2899
2900 <p>There are various forms of lossage involving the POP3 UIDL feature
2901 that can lead to all your old messages being seen again after a line
2902 drop.  I have given up trying to fix these, as the UIDL code breaks
2903 worse every time I touch it.  The problem is fundamental; maintaining
2904 and garbage-collecting the right kind of client-side state is just
2905 hard.  Whoever put UIDLs in RFC1725 and removed LAST should be hung
2906 up by his thumbs and whipped with scorpions.  The right answers are
2907 either (a) live with the occasional breakage, (b) switch to IMAP4,
2908 or (c) fix the code yourself and send me a patch.  Unless you choose
2909 (c), I don't want to hear about it.
2910
2911 <p>This can also happen when some other mail client is logged in to your
2912 mail server, if it uses a simple exclusive-locking scheme (and many,
2913 especially most POP3 servers, do exactly that).  Your fetchmail is
2914 able to retrieve the messages, but because the mailbox is write-locked
2915 by the other instance yours can neither mark messages seen or delete them.
2916 The solution is to either (a) wait for the other client to finish, or (b)
2917 terminate it.
2918
2919 <p>James Stevens &lt;James.Stevens@kyzo.com&gt; writes:<p>
2920
2921 <em>
2922 <p>We had a Linux box dialing the Net and collecting mail from an NT POP3
2923 server.  Fetchmail was correctly collecting and deleting each e-mail
2924 one by one. However,the dial-up connection was very unreliable and
2925 would often just drop out in the middle of a session.
2926
2927 <p>Interestingly, unless the TCP POP3 connection was terminated normally
2928 (I guess with a POP3 "QUIT" command) NT would then roll back all the
2929 deletes !!!
2930
2931 <p>This meant if the first e-mail was very large it might just end up
2932 continuously collecting it, basically jamming the queue. Or, if the
2933 queue became very full itmight never get a long enough phone
2934 connection to retrieve the entire mailbox, and NT would roll back any
2935 deletes, so it would end up collecting (and delivering) the first few
2936 e-mails again and again. As the POP3 mailbox became fuller and fuller
2937 the chances of getting a connection long enough to collect theentire
2938 mailbox became smaller and smaller.
2939
2940 <p>Our solution was to make fetchmail only collect a few (say 5 or 10)
2941 e-mails at atime, thus trying to ensure that the POP3 connection is
2942 terminated correctly.
2943 </em>
2944
2945 <p>Unfortunately, this is exactly the way POP3 servers are supposed
2946 to behave on a line drop, according to the RFCs.  I recommend
2947 switching to IMAP and using a short expunge interval.
2948
2949 <HR>
2950 <table width="100%" cellpadding=0><tr>
2951 <td width="30%">Back to <a href="index.html">Fetchmail Home Page</a>
2952 <td width="30%" align=center>To <a href="/~esr/sitemap.html">Site Map</a>
2953 <td width="30%" align=right>$Date: 2001/04/26 03:24:46 $
2954 </table>
2955
2956 <ADDRESS>Eric S. Raymond <A HREF="mailto:esr@thyrsus.com">&lt;esr@snark.thyrsus.com&gt;</A></ADDRESS>
2957 </BODY>
2958 </HTML>
2959 <!--
2960 Local Variables:
2961 compile-command: "(cd ~/WWW; upload fetchmail/fetchmail-FAQ.html)"
2962 End:
2963 -->