Pileus Git - ~andy/fetchmail/blob - fetchmail-FAQ.html

   1 <!doctype HTML public "-//W3O//DTD W3 HTML 3.2//EN">
   2 <HTML>
   3 <HEAD>
   4 <TITLE>The Fetchmail FAQ</TITLE>
   5 <link rev=made href="mailto:esr@thyrsus.com">
   6 <meta name="description" content="Frequently asked questions about fetchmail.">
   7 <meta name="keywords" content="fetchmail, POP, POP2, POP3, IMAP, remote mail">
   8 </HEAD>
   9 <BODY>
  10 <table width="100%" cellpadding=0><tr>
  11 <td width="30%">Back to <a href="index.html">Fetchmail Home Page</a>
  12 <td width="30%" align=center>To <a href="/~esr/sitemap.html">Site Map</a>
  13 <td width="30%" align=right>$Date: 2002/03/15 19:16:33 $
  14 </table>
  15 <HR>
  16 <H1>Frequently Asked Questions About Fetchmail</H1>
  17
  18 <p>Before reporting any bug, please read <a href="#G3">G3</a> for advice
  19 on how to include diagnostic information that will get your bug fixed
  20 as quickly as possible.
  21
  22 <p>If you have a question or answer you think ought to be added to
  23 this FAQ list, mail it to fetchmail's maintainer, Eric S. Raymond, at
  24 <A HREF="mailto:esr@thyrsus.com">esr@thyrsus.com</A>.
  25
  26 <h1>General questions:</h1>
  27
  28 <a href="#G1">G1. What is fetchmail and why should I bother?</a><br>
  29 <a href="#G2">G2. Where do I find the latest FAQ and fetchmail sources?</a><br>
  30 <a href="#G3">G3. I think I've found a bug.  Will you fix it?</a><br>
  31 <a href="#G4">G4. I have this idea for a neat feature. Will you add it?</a><br>
  32 <a href="#G5">G5. Is there a mailing list for exchanging tips?</a><br>
  33 <a href="#G6">G6. So, what's this I hear about a fetchmail paper?</a><br>
  34 <a href="#G7">G7. What is the best server to use with fetchmail?</a><br>
  35 <a href="#G8">G8. What is the best mail program to use with fetchmail?</a><br>
  36 <a href="#G9">G9. How can I avoid sending my password en clair?</a><br>
  37 <a href="#G10">G10. Is any special configuration needed to use a dynamic
  38 IP address?</a><br>
  39 <a href="#G11">G11. Is any special configuration needed to use firewalls?</a><br>
  40 <a href="#G12">G12. Is any special configuration needed to <em>send</em> mail?</a><br>
  41 <a href="#G13">G13. Is fetchmail Y2K-compliant?</a><br>
  42 <a href="#G14">G14. Is there a way in fetchmail to support disconnected IMAP mode?</a><br>
  43 <a href="#G15">G15. How will fetchmail perform under heavy loads?</a><br>
  44
  45 <h1>Build-time problems:</h1>
  46
  47 <a href="#B1">B1. Make coughs and dies when building on FreeBSD.</a><br>
  48 <a href="#B2">B2. Lex bombs out while building the fetchmail lexer.</a><br>
  49 <a href="#B3">B3. I get link failures when I try to build fetchmail.</a><br>
  50
  51 <h1>Fetchmail configuration file grammar questions:</h1>
  52
  53 <a href="#F1">F1. Why does my old .fetchmailrc no longer work?</a><br>
  54 <a href="#F2">F2. The .fetchmailrc parser won't accept my all-numeric user name.</a><br>
  55 <a href="#F3">F3. The .fetchmailrc parser won't accept my host or username beginning with `no'.</a><br>
  56 <a href="#F4">F4. I'm getting a `parse error' message I don't understand.</a><br>
  57
  58 <h1>Configuration questions:</h1>
  59
  60 <a href="#C1">C1. Why do I need a .fetchmailrc when running as root on my own machine?</a><br>
  61 <a href="#C2">C2. How can I arrange for a fetchmail daemon to get killed when I log out?</a><br>
  62 <a href="#C3">C3. How do I know what interface and address to use with --interface?</a><br>
  63 <a href="#C4">C4. How can I set up support for sendmail's anti-spam features?</a><br>
  64 <a href="#C5">C5. How can I poll some of my mailboxes more/less often than others?</a><br>
  65 <a href="#C6">C6. Fetchmail works OK started up manually, but not from an init script.</a><br>
  66 <a href="#C7">C7. How can I forward mail to another host?.</a><br>
  67
  68 <h1>How to make fetchmail play nice with various MTAs:</h1>
  69
  70 <a href="#T1">T1. How can I use fetchmail with sendmail?</a><br>
  71 <a href="#T2">T2. How can I use fetchmail with qmail?</a><br>
  72 <a href="#T3">T3. How can I use fetchmail with exim?</a><br>
  73 <a href="#T4">T4. How can I use fetchmail with smail?</a><br>
  74 <a href="#T5">T5. How can I use fetchmail with SCO's MMDF?</a><br>
  75 <a href="#T6">T6. How can I use fetchmail with Lotus Notes?</a><br>
  76 <a href="#T7">T7. How can I use fetchmail with Courier IMAP?</a><br>
  77
  78 <h1>How to make fetchmail work with various servers:</h1>
  79
  80 <a href="#S1">S1. How can I use fetchmail with qpopper?</a><br>
  81 <a href="#S2">S2. How can I use fetchmail with Microsoft Exchange?</a><br>
  82 <a href="#S3">S3. How can I use fetchmail with Compuserve RPA?</a><br>
  83 <a href="#S4">S4. How can I use fetchmail with Demon Internet's SDPS?</a><br>
  84 <a href="#S5">S5. How can I use fetchmail with usa.net's servers?</a><br>
  85 <a href="#S6">S6. How can I use fetchmail with HP OpenMail?</a><br>
  86 <a href="#S7">S7. How can I use fetchmail with geocities POP3 servers?</a><br>
  87 <a href="#S8">S8. How can I use fetchmail with Hotmail?</a><br>
  88 <a href="#S9">S9. How can I use fetchmail with MSN?</a><br>
  89 <a href="#S10">S10. How can I use fetchmail with SpryNet?</a><br>
  90 <a href="#S11">S11. How can I use fetchmail with FTGate?</a><br>
  91 <a href="#S12">S12. How can I use fetchmail with MailMax?</a><br>
  92 <a href="#S13">S13. How can I use fetchmail with Novell GroupWise?</a><br>
  93 <a href="#S14">S14. How can I use fetchmail with InterChange?</a><br>
  94 <a href="#S15">S15. How can I use fetchmail with GMX?</a><br>
  95
  96 <h1>How to set up well-known security and authentication methods:</h1>
  97
  98 <a href="#K1">K1. How can I use fetchmail with SOCKS?</a><br>
  99 <a href="#K2">K2. How can I use fetchmail with IPv6 and IPsec?</a><br>
 100 <a href="#K3">K3. How can I get fetchmail to work with ssh?</a><br>
 101 <a href="#K4">K4. What do I have to do to use the IMAP-GSS protocol?</a><br>
 102 <a href="#K5">K5. How can I use fetchmail with SSL?</a><br>
 103
 104 <h1>Runtime fatal errors:</h1>
 105
 106 <a href="#R1">R1. Fetchmail isn't working, and -v shows `SMTP connect failed' messages.</a><br>
 107 <a href="#R2">R2. When I try to configure an MDA, fetchmail doesn't work.</a><br>
 108 <a href="#R3">R3. Fetchmail dumps core when given an invalid rc file.</a><br>
 109 <a href="#R4">R4. Fetchmail dumps core in -V mode, but operates normally otherwise.</a><br>
 110 <a href="#R5">R5. Running fetchmail in daemon mode doesn't work.</a><br>
 111 <a href="#R6">R6. Fetchmail randomly dies with socket errors.</a><br>
 112 <a href="#R7">R7. Fetchmail running as root stopped working after an OS upgrade</a><br>
 113 <a href="#R8">R8. Fetchmail is timing out after fetching certain
 114 messages but before deleting them</a><br>
 115 <a href="#R9">R9. Fetchmail is timing out during message fetches</a><br>
 116 <a href="#R10">R10. Fetchmail is dying with SIGPIPE.</a><br>
 117
 118 <h1>Hangs and lockups:</h1>
 119
 120 <a href="#H1">H1. Fetchmail hangs when used with pppd.</a><br>
 121 <a href="#H2">H2. Fetchmail hangs during the MAIL FROM exchange.</a><br>
 122 <a href="#H3">H3. Fetchmail hangs while fetching mail.</a><br>
 123
 124 <h1>Disappearing mail:</h1>
 125
 126 <a href="#D1">D1. I think I've set up fetchmail correctly, but I'm not getting any mail.</a><br>
 127 <a href="#D2">D2. All my mail seems to disappear after a dropped connection.</a><br>
 128 <a href="#D3">D3. Mail that was being fetched when I interrupted my fetchmail seems to have been vanished.</a><br>
 129
 130 <h1>Multidrop-mode problems:</h1>
 131
 132 <a href="#M1">M1. I've declared local names, but all my multidrop mail is going to root anyway.</a><br>
 133 <a href="#M2">M2. I can't seem to get fetchmail to route to a local domain properly.</a><br>
 134 <a href="#M3">M3. I tried to run a mailing list using multidrop, and I have a mail loop!</a><br>
 135 <a href="#M4">M4. My multidrop fetchmail seems to be having DNS problems.</a><br>
 136 <a href="#M5">M5. I'm seeing long DNS delays before each message is processed.</a><br>
 137 <a href="#M6">M6. How do I get multidrop mode to work with majordomo?</a><br>
 138 <a href="#M7">M7. Multidrop mode isn't parsing envelope addresses from
 139 my Received headers as it should.</a><br>
 140 <a href="#M8">M8. Users are getting multiple copies of messages.</a><br>
 141
 142 <h1>Mangled mail:</h1>
 143
 144 <a href="#X1">X1. Spurious blank lines are appearing in the headers of fetched mail.</a><br>
 145 <a href="#X2">X2. My mail client can't see a Subject line.</a><br>
 146 <a href="#X3">X3. Messages containing "From" at start of line are being split.</a><br>
 147 <a href="#X4">X4. My mail is being mangled in a new and different way.</a><br>
 148 <a href="#X5">X5. Using POP3, retrievals seems to be fetching too much!</a><br>
 149 <a href="#X6">X6. My mail attachments are being dropped or mangled.</a><br>
 150 <a href="#X7">X7. Some mail attachments are hanging fetchmail.</a><br>
 151 <a href="#X8">X8. A spurious ) is being appended to my messages.</a><br>
 152
 153 <h1>Other problems:</h1>
 154
 155 <a href="#O1">O1. The --logfile option doesn't work if the logfile doesn't exist.</a><br>
 156 <a href="#O2">O2. Every time I get a POP or IMAP message the header is
 157 dumped to all my terminal sessions.</a><br>
 158 <a href="#O3">O3. Does fetchmail reread its rc file every poll cycle?</a><br>
 159 <a href="#O4">O4. Why do deleted messages show up again when I take
 160 a line hit while downloading?</a><br>
 161 <a href="#O5">O5. Why is fetched mail being logged with my name, not the real From address?</a><br>
 162 <a href="#O6">O6. I'm seeing long sendmail delays or hangs near the start of each poll cycle.</a><br>
 163 <a href="#O7">O7. Why doesn't fetchmail deliver mail in date-sorted order?</a><br>
 164 <a href="#O8">O8. I'm using pppd.  Why isn't my monitor option working?</a><br>
 165 <a href="#O9">O9. Why does fetchmail keep retrieving the same messages
 166 over and over?</a><br>
 167 <a href="#O10">O10. Why is the received date on all my messages the same?</a><br>
 168
 169 <h1>Answers:</h1>
 170 <hr>
 171 <h2><a name="G1">G1. What is fetchmail and why should I bother?</a></h2>
 172
 173 <p>Fetchmail is a one-stop solution to the remote mail retrieval problem
 174 for Unix machines, quite useful to anyone with an intermittent PPP or
 175 SLIP connection to a remote mailserver.  It can collect mail using any
 176 variant of POP or IMAP and forwards via port 25 to the local SMTP
 177 listener, enabling all the normal forwarding/filtering/aliasing
 178 mechanisms that would apply to local mail or mail arriving via a
 179 full-time TCP/IP connection.
 180
 181 <p>Fetchmail is not a toy or a coder's learning exercise, but an
 182 industrial-strength tool capable of transparently handling every
 183 retrieval demand from those of a simple single-user ISP connection up
 184 to mail retrieval and rerouting for an entire client domain.
 185 Fetchmail is easy to configure, unobtrusive in operation, powerful,
 186 feature-rich, and well documented.
 187
 188 <p>Fetchmail is <a href="http://www.opensource.org">open-source</a>
 189 software.  The openness of the sources is the strongest assurance of
 190 quality you can have.  Extensive peer review by a large,
 191 multi-platform user community has shown that fetchmail is as near
 192 bulletproof as the underlying protocols permit.
 193
 194 <p>Fetchmail is licensed under the <a
 195 href="http://gnu.org//copyleft/gpl.html">GNU General Public
 196 License</a>.
 197
 198 <p>If you found this FAQ in the distribution, see the README for fetchmail's
 199 full feature list.
 200
 201 <hr>
 202 <h2><a name="G2">G2. Where do I find the latest FAQ and fetchmail
 203 sources?</a></h2>
 204
 205 <p>The latest HTML FAQ is available alongside the latest fetchmail
 206 sources at the fetchmail home page:
 207 <a href="http://www.tuxedo.org/~esr/fetchmail">
 208 http://www.tuxedo.org/~esr/fetchmail</a>.  You can also usually find
 209 both in the <a
 210 href="http://sunsite.unc.edu/pub/Linux/system/mail/pop/!INDEX.html">POP
 211 mail tools directory on Sunsite</a>.
 212
 213 <p>A text dump of this FAQ is included in the fetchmail
 214 distribution. Because it freezes at distribution release time, it may
 215 not be completely current.
 216
 217 <p><hr>
 218 <h2><a name="G3">G3.  I think I've found a bug.  Will you fix it?</a></h2>
 219
 220 <p>Yes I will, provided you include enough diagnostic information for me
 221 to go on.  Send bugs to <a
 222 href="mailto:fetchmail-friends@ccil.org">fetchmail-friends</a>.  When reporting
 223 bugs, please include the following:
 224
 225 <ol>
 226 <li>Your operating system.
 227 <li>Your compiler version, if you built from source; otherwise, the
 228     name and origin ogf the RPM or other binary package you installed.
 229 <li>A copy of your POP or IMAP server's greeting line.
 230 <li>The name and version of the SMTP listener or MDA you are forwarding to.
 231 <li>Any command-line options you used.
 232 <li>The output of fetchmail -V called with whatever other
 233     command-line options you used.
 234 </ol>
 235
 236 <p>If you have FTP access to your remote mail account, and you have any
 237 suspicion that the bug was triggered by a particular message, please
 238 include a copy of the message that triggered the bug.
 239
 240 <p>Often, the first thing I will do when you report a bug is tell you to
 241 upgrade to the newest version of fetchmail, and then see if the
 242 problem reproduces.  So you'll probably save us both time if you
 243 upgrade and test with the latest version <em>before</em> sending in a
 244 bug report.
 245
 246 <p>If your bug is something that used to work but stopped working when
 247 you upgraded, then you can help pin the bug down by trying <a
 248 href="ftp://ftp.ccil.org/pub/esr/fetchmail/">intermediate versions of
 249 fetchmail</a> until you identify the revision that broke your
 250 feature.  The smart way to do this is by binary search on the version
 251 sequence.  First, try the version halfway between your last good one
 252 and the current one.  If it works, the failure was introduced in the
 253 upper half of the sequence; if it doesn't, the failure was introduced
 254 in the lower half.  Now bisect that half in the same way.  In a very
 255 few tries, you should be able to identify the exact adjacent pair
 256 of versions between which your bug was introduced -- and with
 257 information like that, I can usually come up with a fix very quickly.
 258
 259 <p>Another useful thing you can do, if you're using POP3, is to test for
 260 IMAP4 support on your mailserver using the autoprobe function of
 261 fetchmailconf.  If you have IMAP4, and fetchmailconf doesn't tell you
 262 it's broken, switch immediately.  POP3 is a weak, poorly-designed
 263 protocol with chronic problems, and the later versions after RFC1725
 264 actually get worse rather than better.  Changing over to IMAP4 may well
 265 make your problem go away -- and if your ISP doesn't have IMAP4
 266 support, bug them to supply it.
 267
 268 <p>It is helpful if you include your .fetchmailrc file, but not necessary
 269 unless your symptom seems to involve an error in configuration
 270 parsing.  If you do send in your .fetchmailrc, mask the passwords
 271 first!
 272
 273 <p>If fetchmail seems to run and fetch mail, but the headers look mangled
 274 (that is, headers are missing or blank lines are inserted in the
 275 headers) then read the FAQ items in section <a href="#X1">X</a>
 276 before submitting a bug report.  Pay special attention to the item on
 277 <a href="#generic_mangling">diagnosing mail mangling</a>.  There are
 278 lots of ways for other programs in the mail chain to screw up that
 279 look like fetchmail's fault, but you may be able to fix these by
 280 tweaking your configuration.
 281
 282 <p>A transcript of the failed session with -v -v (yes, that's
 283 <em>two</em> -v options, enabling debug mode) will almost always be useful.
 284 It is very important that the transcript include your POP/IMAP server's
 285 greeting line, so I can identify it in case of server problems.  This
 286 transcript will not reveal your passwords, which are specially masked
 287 out precisely so the transcript can be passed around.
 288
 289 <p>If you upgraded your fetchmail and something broke, you should include
 290 session transcripts with -v -v of both the working and failing
 291 versions.  Very often, the source of the problem can instantly
 292 identified by looking at the differences in protocol transactions.
 293
 294 <p>If the bug involves a core dump or hang, a gdb stack trace is good to have.
 295 (Bear in mind that you can attach gdb to a running but hung process by
 296 giving the process ID as a second argument.)  You will need to
 297 reconfigure with:
 298
 299 <p><pre>
 300 CFLAGS=-g LDFLAGS=" " ./configure
 301 </pre>
 302
 303 and then rebuild in order to generate a version that can be gdb-traced.
 304
 305 <p>Best of all is a mail file which, when fetched, will reproduce the
 306 bug under the latest (current) version.
 307
 308 <p>Any bug I can reproduce will usually get fixed very quickly, often
 309 within 48 hours.  Bugs I can't reproduce are a crapshoot.  If the
 310 solution isn't obvious when I first look, it may evade me for a long
 311 time (or to put it another way, fetchmail is well enough tested that the
 312 easy bugs have long since been found).  So if you want your bug fixed
 313 rapidly, it is not just sufficient but nearly <em>necessary</em> that
 314 you give me a way to reproduce it.
 315
 316 <hr>
 317 <h2><a name="G4">G4.  I have this idea for a neat feature.  Will you add it?</a></h2>
 318
 319 Probably not.  Most of the feature suggestions I get are for ways to
 320 set various kinds of administrative policy or add more spam filtering
 321 (the most common one, which I used to get about four million times a week
 322 and got <em>really</em> tired of, is for tin-like kill files).
 323
 324 <p>You can do spam filtering better with procmail or maildrop on the
 325 server side and (if you're the server sysadmin) sendmail.cf domain
 326 exclusions.  You can do other policy things better with the
 327 <CODE>mda</CODE> option and script wrappers around fetchmail.  If
 328 it's a prime-time-vs.-non-prime-time issue, ask yourself whether a
 329 wrapper script called from crontab would do the job.
 330
 331 <p>I'm not going to do these; fetchmail's job is transport, not policy, and I
 332 refuse to change it from doing one thing well to attempting many things badly.
 333 One of my objectives is to keep fetchmail simple so it stays reliable.
 334
 335 <p>For reasons fetchmail doesn't have other commonly-requested features
 336 (such as password encryption, or multiple concurrent polls from the
 337 same instance of fetchmail) see the <a
 338 href="http://www.tuxedo.org/~esr/fetchmail/design-notes.html">design notes</a>.
 339
 340 <p>Fetchmail is a mature project, no longer in constant active
 341 development.  It is no longer my top project, and I am going to be
 342 quite reluctant to add features that might either jeopardize its
 343 stability or involve me in large amounts of coding.
 344
 345 <p>All that said, if you have a feature idea that really is about a transport
 346 problem that can't be handled anywhere but fetchmail, lay it on me.  I'm
 347 very accommodating about good ideas.
 348
 349 <hr>
 350 <h2><a name="G5">G5. Is there a mailing list for exchanging tips?</a></h2>
 351
 352 <p>There is a fetchmail-friends list for people who want to discuss fixes
 353 and improvements in fetchmail and help co-develop it.  It's a MailMan
 354 list, which you can sign up for at <a
 355 <a href="http://lists.ccil.org/mailman/listinfo/fetchmail-friends">fetchmail-friends@lists.ccil.org</a>.
 356 There is also an announcements-only list, <a href="http://lists.ccil.org/mailman/listinfo/fetchmail-announce">fetchmail-announce@lists.ccil.org</a>.
 357
 358 <hr>
 359 <h2><a name="G6">G6. So, what's this I hear about a fetchmail paper?</a></h2>
 360
 361 <p>The fetchmail development was also a sociological experiment, an
 362 extended test to see if my theory about the critical features of the
 363 Linux development model is correct.
 364
 365 <p>The experiment was a success.  I wrote a paper about it titled <a
 366 href="http://www.tuxedo.org/~esr/writings/cathedral.html">The
 367 Cathedral and the Bazaar</a> which was first presented at Linux
 368 Kongress '97 in Bavaria and very well received there. It was also
 369 given at Atlanta Linux Expo, Linux Pro '97 in Warsaw, and the first
 370 Perl Conference, at UniForum '98, and was the basis of an invited
 371 presentation at Usenix '98.  The folks at Netscape tell me it helped
 372 them decide to <a
 373 href="http://www.netscape.com/newsref/pr/newsrelease558.html"> give
 374 away the source for Netscape Communicator</a>.
 375
 376 <p>If you're reading a non-HTML dump of this FAQ, you can find the paper
 377 on the Web with a search for that title.
 378
 379 <hr>
 380 <h2><a name="G7">G7. What is the best server to use with fetchmail?</a></h2>
 381
 382 <p>The short answer: IMAP 2000 running over Unix.
 383
 384 <p>Here's a longer answer:
 385
 386 <p>Fetchmail will work with any POP, IMAP, ETRN, or ODMR server that
 387 conforms to the relevant RFCs (and even some outright broken ones like
 388 <a href="#S2">Microsoft Exchange</a> and <a href="#S12">Novell
 389 GroupWise</a>).  This doesn't mean it works equally well with all,
 390 however.  POP2 servers, and POP3 servers without LAST, limit
 391 fetchmail's capabilities in various ways described on the manual
 392 page.
 393
 394 <p>Most modern Unixes (and effectively all Linux/*BSD systems) come with
 395 POP3 support preconfigured (but beware of the horribly broken POP3
 396 server mentioned in <a href="#D2">D2</a>).  An increasing minority
 397 also feature IMAP (you can detect IMAP support by running fetchmail in
 398 AUTO mode, or by using the `Probe for supported protocols' function in
 399 the fetchmailconf utility).
 400
 401 <p>If you have the option, we recommend using or installing an IMAP4rev1
 402 server; it has the best facilities for tracking message `seen' states.
 403 It also recovers from interrupted connections more gracefully than
 404 POP3, and enables some significant performance optimizations.  The new
 405 <a href="ftp://ftp.cac.washington.edu/imap/imap.tar.Z">IMAP 2000</a>
 406 is particularly nice, as it supports CRAM-MD5 so you don't have to
 407 ship your mail password over the net en clair (fetchmail autodetects
 408 this capability).  Older versions had support for GSSAPI giving a
 409 similar effect, .
 410
 411 <p>Don't be fooled by NT/Exchange propaganda.  M$ Exchange is just plain
 412 broken (see item <a href="#S2">S2</a>) and NT cannot handle the
 413 sustained load of a high-volume remote mail server.  Even Microsoft
 414 itself knows better than to try this; their own Hotmail service runs
 415 over Solaris!  For extended discussion, see John Kirch's excellent <a
 416 href="http://unix-vs-nt.org/kirch/">white paper</a> on Unix
 417 vs. NT performance.
 418
 419 <p>Source for a high-quality supported implementation of POP is available
 420 from the <a href="ftp://ftp.qualcomm.com/eudora/servers/unix/popper/">Eudora
 421 FTP site</a>.  Don't use 2.5, which has a rather restrictive license.
 422 The 2.5.2 version appears to restore the open-source license of
 423 previous versions.
 424
 425 <hr>
 426 <h2><a name="G8">G8. What is the best mail program to use with fetchmail?</a></h2>
 427
 428 <p>Fetchmail will work with all popular <a href="#T1">mail transport
 429 programs</a>.  It also doesn't care which user agent you use, and user
 430 agents are as a rule almost equally indifferent to how mail is
 431 delivered into your system mailbox.  So any of the popular Unix mail
 432 agents -- <a href="http://www.myxa.com/old/elm.html">elm</a>, <a
 433 href="http://www.washington.edu/pine/">pine</a>, <a
 434 href="http://www.cs.indiana.edu/docproject/mail/mh.html">mh</a>, or <a
 435 href="http://www.mutt.org">mutt</a> -- will work fine with fetchmail.
 436
 437 <p>All this having been said, I can't resist putting in a discreet plug
 438 for <a href="http://www.mutt.org">mutt</a>.  My own personal mail
 439 setup is sendmail plus fetchmail plus mutt.  Mutt's interface is only
 440 a little different from that of its now-moribund ancestor elm, but its
 441 excellent handling of MIME and PGP put it in a class by itself.  You
 442 won't need its built-in POP3 support, though; most of the mutt
 443 developers will cheerfully admit that fetchmail's is better :-).
 444
 445 <hr>
 446 <h2><a name="G9">G9. How can I avoid sending my password en clair?</a></h2>
 447
 448 <p>Depending on what your mail server you are talking to, this ranges
 449 from trivial to impossible.  It may even be next to useless.
 450
 451 <p>Most people use fetchmail over phone wires, which are hard to tap.
 452 Anybody with the skill and resources to do this could get into your
 453 server mailbox with much less effort by subverting the server host.
 454 So if your provider setup is modem wires going straight into a service
 455 box, you probably don't need to worry.
 456
 457 <p>In general there is little point in trying to secure your fetchmail
 458 transaction unless you trust the security of the server host you are
 459 retrieving mail from.  Your vulnerability is more likely to be an
 460 insecure local network on the server end (e.g. to somebody with a TCP/IP
 461 packet sniffer intercepting Ethernet traffic between the modem
 462 concentrator you dial in to and the mailserver host).
 463
 464 <p>Having realized this, you need to ask whether password encryption
 465 alone will really address your security exposure.  If you think you
 466 might be snooped between server and client, it's better to use
 467 end-to-end encryption on your whole mail stream so none of it can be
 468 read.  One of the advantages of fetchmail over conventional SMTP-push
 469 delivery is that you may be able to arrange this by using ssh(1); see
 470 <a href="#K3">K3</a>.
 471
 472 <p>Note that ssh is not a complete privacy solution either, as your mail
 473 could have been snooped in transit to your POP server from wherever it
 474 originated.  For best security, agree with your correspondents to use
 475 a tool such as <a href="http://www.gnupg.org/">GPG</a> (Gnu Privacy
 476 Guard) or PGP (Pretty Good Privacy).
 477
 478 <p>If ssh/sshd isn't available, or you find it too complicated for you to
 479 set up, password encryption will at least keep a malicious cracker
 480 from deleting your mail, and require him to either tap your connection
 481 continuously or crack root on the server in order to read it.
 482
 483 <p>You can deduce what encryptions your mail server has available
 484 by looking at the server greeting line (and, for IMAP, the
 485 response to a CAPABILITY query).  Do a <code>fetchmail -v</code>
 486 to see these, or telnet direct to the server port (110 for POP3, 143 for
 487 IMAP).
 488
 489 <p>If your mailserver is using IMAP 2000, you'll have CRAM-MD5 support
 490 built in.  Fetchmail autodetects this; you can skip the rest of this
 491 section.
 492
 493 <p>The POP3 facility you are most likely to have available is APOP.  This is a
 494 POP3 feature supported by many servers (fetchmailconf's autoprobe
 495 facility will detect it and tell you if you have it).  If you see
 496 something in the greeting line that looks like an
 497 angle-bracket-enclosed Internet address with a numeric left-hand part,
 498 that's an APOP challenge (it will vary each time you log in).  You can
 499 register a secret on the host (using <code>popauth(8)</code> or some
 500 program like it).  Specify the secret as your password in your
 501 .fetchmailrc; it will be used to encrypt the current challenge, and
 502 the encrypted form will be sent back the the server for
 503 verification.
 504
 505 <p>Alternatively, you may have Kerberos available. This may require you
 506 to set up some magic files in your home directory on your client
 507 machine, but means you can omit specifying any password at all.
 508
 509 <p>Fetchmail supports two different Kerberos schemes.  One is a POP3
 510 variant called KPOP; consult the documentation of your mail server to
 511 see if you have it (one clue is the string "krb-IV" in the greeting
 512 line on port 110).  The other is an IMAP and POP3 facility described
 513 by RFC1731 and RFC1734. You can tell if this one is present by looking
 514 for AUTH=KERBEROS_V4 in the CAPABILITY response.
 515
 516 <p>If you are fetching mail from a CompuServe POP3 account, you can use
 517 their RPA authentication (which works much like APOP).  See <a
 518 href="#S3">S3</a> for details.  If you are fetching mail from
 519 Microsoft Exchange using IMAP, you will be able to use NTLM.
 520
 521 <p>Your POP3 server may have the RFC1938 OTP capability to use one-time
 522 passwords (if it doesn't, you can get OTP patches for the 2.2 version
 523 of the Qualcomm popper from <a href="#cmetz">Craig Metz</a>). To check
 524 this, look for the string "otp-" in the greeting line.  If you see it,
 525 and your fetchmail was built with OPIE support compiled in (see the
 526 distribution INSTALL file), fetchmail will detect it also.  When using
 527 OTP, you will specify a password but it will not be sent en clair.
 528
 529 <p>You can get both POP3 and IMAP OTP patches from <a name="cmetz">Craig
 530 Metz</A> at <a
 531 href="http://www.inner.net/pub/">http://www.inner.net/pub/</a>.<p>
 532 These patches use a SASL authentication method named "X-OTP" because
 533 there is not currently a standard way to do this; fetchmail also uses
 534 this method, so the two will interoperate happily.  They better,
 535 because this is how Craig gets his mail ;-)
 536
 537 <p>Finally, you can use <a href="#K5">SSL</a> for complete
 538 end-to-end encryption if you have an SSL-enabled mailserver.
 539
 540 <hr>
 541 <h2><a name="G10">G10. Is any special configuration needed to use a dynamic IP address?</a></h2>
 542
 543 <p>Yes. In order to avoid giving indigestion to certain picky MTAs
 544 (notably <a href="#T3">exim</a>), fetchmail always makes the RCPT TO
 545 address it feeds the MTA a fully qualified one with a hostname part.
 546 Normally it does this by appending @ and "localhost", but when you are
 547 using Kerberos or ETRN mode it will append @ and your machine's
 548 fully-qualified domain name (FQDN).
 549
 550 <p>Appending the FQDN can create problems when fetchmail is running in daemon
 551 mode and outlasts the dynamic IP address assignment your client
 552 machine had when it started up.
 553
 554 <p>Since the new IP address (looked up at RCPT TO interpretation time)
 555 doesn't match the original, the most benign possible result is that
 556 your MTA thinks it's seeing a relaying attempt and refuses.  More
 557 frequently, fetchmail will try to connect to a nonexistent host
 558 address and time out.  Worst case, you could up forwarding your mail
 559 to the wrong machine!
 560
 561 <p>Use the <code>smtpaddress</code> option to force the appended hostname
 562 to one with a (fixed) IP address of 127.0.0.1 in your
 563 <code>/etc/hosts</code>.  (The name `localhost' will usually work; or
 564 you can use the IP address itself).
 565
 566 <p>Only one fetchmail option interacts directly with your IP address,
 567 `<code>interface</code>'.  This option can be used to set the gateway
 568 device and restrict the IP address range fetchmail will use. Such a
 569 restriction is sometimes useful for security reasons, especially on
 570 multihomed sites.  See <a href="#C3">C3</a>.
 571
 572 <p>I recommend against trying to set up the <code>interface</code> option
 573 when initially developing your poll configuration -- it's never
 574 necessary to do this just to get a link working.  Get the link working
 575 first, observe the actual address range you see on connections, and
 576 add an <code>interface</code> option (if you need one) later.
 577
 578 <p>You can't use ETRN if you have a dynamic IP address (your ISP changes
 579 your IP address occasionally, possibly with every connect).  You need
 580 to have your own registered domain and a definite IP address
 581 registered for that domain.  The server needs to be configured to
 582 accept mail for your domain but then queue it to forward to your
 583 machine.  ETRN just tells to server to flush its queue for your
 584 domain.  Fetchmail doesn't actually get the mail in that case.
 585
 586 <p>You can use On-Demand Mail Relay (ODMR) with a dynamic IP address;
 587 that's what it was designed for, and it provides capabilities very
 588 similar to ETRN.  Unfortunately ODMR servers are not yet widely
 589 deployed, as of early 2001.
 590
 591 <p>If you're using a dynamic-IP configuration, one other (non-fetchmail)
 592 problem you may run into with outgoing mail is that some sites will
 593 bounce your email because the hostname your giving them isn't real
 594 (and doesn't match what they get doing a reverse DNS on your
 595 dynamically-assigned IP address).  If this happens, you need to hack
 596 your sendmail so it masquerades as your host.  Setting
 597
 598 <pre>
 599 DMsmarthost.here
 600 </pre>
 601
 602 in your <code>sendmail.cf</code> will work, or you can set<p>
 603
 604 <pre>
 605 MASQUERADE_AS(smarthost.here)
 606 </pre>
 607
 608 in the m4 configuration and do a reconfigure.  (In both cases, replace
 609 <code>smarthost.here</code> with the actual name of your mailhost.)
 610 See the <a href="http://www.lege.com/sendmail-FAQ.txt">sendmail
 611 FAQ</a> for more details.
 612
 613 <hr>
 614 <h2><a name="G11">G11. Is any special configuration needed to use firewalls?</a></h2>
 615
 616 <p>No.  You can use fetchmail with SOCKS, the standard tool for
 617 indirecting TCP/IP through a firewall.  You can find out about SOCKS,
 618 and download the SOCKS software including server and client code, at
 619 the <a href="http://www.socks.nec.com/">SOCKS distribution
 620 site</a>.
 621
 622 <p>The specific recipe for using fetchmail with a firewall is at <a
 623 href="#K1">K1</a>
 624
 625 <hr>
 626 <h2><a name="G12">G12. Is any special configuration needed to <em>send</em> mail?</a></h2>
 627
 628 <p>A user asks: but how do we send mail out to the POP3 server? Do I need
 629 to implement another tool or will fetchmail do this too?
 630
 631 <p>Fetchmail only handles the receiving side.  The sendmail or other
 632 preinstalled MTA on your client machine will handle sending mail
 633 automatically; it will ship mail that is submitted while the
 634 connection is active, and put mail that is submitted while
 635 the connection is inactive into the outgoing queue.
 636
 637 <p>Normally, sendmail is also run periodically (every 15 minutes on most
 638 Linux systems) in a mode that tries to ship all the mail in the
 639 outgoing queue.  If you have set up something like pppd to
 640 automatically dial out when your kernel is called to open a TCP/IP
 641 connection, this will ensure that the mail gets out.
 642
 643 <hr>
 644 <h2><a name="G13">G13. Is fetchmail Y2K-compliant?</a></h2>
 645
 646 Fetchmail is fully Y2K-compliant.<p>
 647
 648 Fetchmail could theoretically have problems when the 32-bit time_t
 649 counters roll over in 2038, but I doubt it.  Timestamps aren't used
 650 for anything but log entry generation.  Anyway, if you aren't running
 651 on a 64-bit machine by then, you'll deserve to lose.
 652
 653 <hr>
 654 <h2><a name="G14">G14. Is there a way in fetchmail to support disconnected IMAP mode?</a></H2>
 655
 656 <p>No. Fetchmail is a mail transport agent, best understood as a protocol
 657 gateway between POP3/IMAP servers and SMTP.  Disconnected operation
 658 requires an elaborate interactive client.  It's a very different problem.
 659
 660 <hr>
 661 <h2><a name="G15">G15. How will fetchmail perform under heavy loads?</a></h2>
 662
 663 <p>Fetchmail streams message bodies line-by-line; the most core it
 664 ever requires per message is enough memory to hold the RFC822 header, and
 665 that storage is freed when body processing begins. It is, accordingly,
 666 quite economical in its use of memory.
 667
 668 <p>After startup time, a fetchmail running in daemon mode stats its
 669 configuration file once per poll cycle to see whether it has changed
 670 and should be rescanned.  Other than that, a fetchmail in normal
 671 operation doesn't touch the disk at all; that job is left up to the
 672 MTA or MDA the fetchmail talks to.
 673
 674 <p>Fetchmail's performance is usually bottlenecked by latency on the POP
 675 server or (less often) on the TCP/IP link to the server.  This is not
 676 a problem readily solved by tuning fetchmail, or even by buying more
 677 TCP/IP capacity (which tends to improve bandwidth but not necessarily
 678 latency).
 679
 680 <hr>
 681 <h2><a name="B1">B1. Make coughs and dies when building on FreeBSD.</a></h2>
 682
 683 <p>The vendor-supplied make on FreeBSD systems can only be used within
 684 FreeBSD's "scope", e.g. the ports collection.  Type "gmake" to run GNU
 685 make and better things will happen.
 686
 687 <hr>
 688 <h2><a name="B2">B2. Lex bombs out while building the fetchmail lexer.</a></h2>
 689
 690 <p>In the immortal words of Alan Cox the last time this came up: ``Take
 691 the Solaris lex and stick it up the backside of a passing Sun
 692 salesman, then install <a
 693 href="ftp://ftp.gnu.org/pub/non-gnu/flex/">flex</a> and use that.  All
 694 will be happier.''
 695
 696 <p>I couldn't have put it better myself, and ain't going to try now.
 697
 698 <p>(The same problem has been reported under HP-UX v10.20 and IRIX)
 699
 700 <hr>
 701 <h2><a name="B3">B3. I get link failures when I try to build fetchmail.</a></h2>
 702
 703 If you get errors resembling these
 704
 705 <p><pre>
 706 mxget.o(.text+0x35): undefined referenceto `__res_search'
 707 mxget.o(.text+0x99): undefined reference to`__dn_skipname'
 708 mxget.o(.text+0x11c): undefined reference to`__dn_expand'
 709 mxget.o(.text+0x187): undefined reference to`__dn_expand'
 710 make: *** [fetchmail] Error 1
 711 </pre>
 712
 713 then you must add "-lresolv" to the LOADLIBS line in your Makefile
 714 once you have installed the `bind' package.
 715
 716 <p>If you get link errors involving <tt>dcgettext</tt>, like this:
 717
 718 <pre>
 719 rcfile_y.o: In function `yyparse':
 720 rcfile_y.o(.text+0x3aa): undefined reference to `dcgettext__'
 721 rcfile_y.o(.text+0x4f2): undefined reference to `dcgettext__'
 722 rcfile_y.o(.text+0x5ee): undefined reference to `dcgettext__'
 723 rcfile_y.o: In function `yyerror':
 724 rcfile_y.o(.text+0xc7c): undefined reference to `dcgettext__'
 725 rcfile_y.o(.text+0xcc8): undefined reference to `dcgettext__'
 726 rcfile_y.o(.text+0xdf9): more undefined references to `dcgettext__' follow
 727 </pre>
 728
 729 reconfigure with <tt>configure --with-included-gettext</tt>.  This is
 730 due to some brain-damage in the GNU internationalization libraries.
 731
 732 <hr>
 733 <h2><a name="F1">F1. Why does my old .fetchmailrc file no longer work?</a></h2>
 734
 735 <h3>If your file predates 5.8.9</h3>
 736
 737 <p>If you were using ETRN mode, change your <tt>smtphost</tt> option to
 738 a <tt>fetchdomains</tt> option.
 739
 740 <h3>If your file predates 5.8.3</h3>
 741
 742 <p>The `via localhost' special case for use with ssh tunnelling is gone.
 743 Use the %h feature of <tt>plugin</tt> instead.
 744
 745 <h3>If your file predates 5.6.8</h3>
 746
 747 <p>In 5.6.8, the <tt>preauth</tt> keyword and option were changed back to
 748 <tt>auth</tt>. The <tt>preauth</tt> synonym will still be supported
 749 through a few more point releases.
 750
 751 <p><h3>If your file predates 5.6.5</h3>
 752
 753 The <tt>imap-gss</tt>, <tt>imap-k4</tt>, and <tt>imap-login</tt>
 754 protocol types are gone. This is a result of a major re-factoring
 755 of the authentication machinery; fetchmail can now use Kerberos V4
 756 and GSSAPI not just with IMAP but with POP3 servers that have RFC1734
 757 support for the AUTH command.
 758
 759 <p>When trying to identify you to an IMAP or POP mailserver, fetchmail
 760 now first tries methods that don't require a password (GSSAPI,
 761 KERBEROS_IV); then it looks for methods that mask your password
 762 (CRAM-MD5, X-OTP); and only if it the server doesn't support any of
 763 those will it ship your password en clair.
 764
 765 <p>Setting the <tt>preauth</tt> option to any value other than `password'
 766 will prevent from looking for a password in your <tt>.netrc</tt> file
 767 or querying for it at startup time.<p>
 768
 769 <h3>If your file predates 5.1.0</h3>
 770
 771 In 5.1.0, the <tt>auth</tt> keyword and option were changed to
 772 <tt>preauth</tt>.
 773
 774 <p><h3>If your file predates 4.5.5</h3>
 775
 776 If the <code>dns</code> option is on (the default), you may need to
 777 make sure that any hostname you specify (for mail hosts or for an SMTP
 778 target) is a canonical fully-qualified hostname).  In order to avoid
 779 DNS overhead and complications, fetchmail no longer tries to derive
 780 the fetchmail client machine's canonical DNS name at startup.
 781
 782 <p><h3>If your file predates 4.0.6:</h3>
 783
 784 Just after the `<CODE>via</CODE>' option was introduced, I realized
 785 that the interactions between the `<CODE>via</CODE>',
 786 `<CODE>aka</CODE>', and `<CODE>localdomains</CODE>' options were out
 787 of control.  Their behavior had become complex and confusing, so much so
 788 that I was no longer sure I understood it myself.  Users were being
 789 unpleasantly surprised.
 790
 791 <p>Rather than add more options or crock the code, I re-thought it.  The
 792 redesign simplified the code and made the options more orthogonal, but
 793 may have broken some complex multidrop configurations.
 794
 795 Any multidrop configurations that depended on the name just after the
 796 `<CODE>poll</CODE>' or `<CODE>skip</CODE>' keyword being still
 797 interpreted as a DNS name for address-matching purposes, even in the
 798 presence of a `<CODE>via</CODE>' option, will break.
 799
 800 <p>It is theoretically possible that other unusual configurations (such
 801 as those using a non-FQDN poll name to generate Kerberos IV tickets) might
 802 also break; the old behavior was sufficiently murky that we can't be
 803 sure.  If you think this has happened to you, contact the maintainer.
 804
 805 <p><h3>If your file predates 3.9.5:</h3>
 806
 807 The `<code>remote</code>' keyword has been changed to `<code>folder</code>'.
 808 If you try to use the old keyword, the parser will utter a warning.
 809
 810 <p><h3>If your file predates 3.9:</h3>
 811
 812 It could be because you're using a .fetchmailrc that's written in the
 813 old popclient syntax without an explicit `<CODE>username</CODE>'
 814 keyword leading the first user entry attached to a server entry.
 815
 816 This error can be triggered by having a user option such as `<CODE>keep</CODE>'
 817 or `<CODE>fetchall</CODE>' before the first explicit username.  For
 818 example, if you write
 819
 820 <p><pre>
 821 poll openmail protocol pop3
 822         keep user "Hal DeVore" there is hdevore here
 823 </pre>
 824
 825 the `<CODE>keep</CODE>' option will generate an entire user entry with
 826 the default username (the name of fetchmail's invoking user).
 827
 828 <p>The popclient compatibility syntax was removed in 4.0.  It complicated
 829 the configuration file grammar and confused users.
 830
 831 <p><h3>If your file predates 2.8:</h3>
 832
 833 The `<CODE>interface</CODE>', `<CODE>monitor</CODE>' and
 834 `<CODE>batchlimit</CODE>' options changed after 2.8.
 835
 836 <p>They used to be global options with `<CODE>set</CODE>' syntax like the
 837 batchlimit and logfile options.  Now they're per-server options, like
 838 `<CODE>protocol</CODE>'.
 839
 840 <p>If you had something like
 841
 842 <p><pre>
 843         set interface = "sl0/10.0.2.15"
 844 </pre>
 845
 846 in your .fetchmailrc file, simply delete that line and insert
 847 `interface sl0/10.0.2.15' in the server options part of your `defaults'
 848 declaration.
 849
 850 <p>Do similarly for any `<CODE>monitor</CODE>' or `<CODE>batchlimit</CODE>' options.
 851
 852 <hr>
 853 <h2><a name="F2">F2. The .fetchmailrc parser won't accept my all-numeric user name.</a></h2>
 854
 855 Either upgrade to a post-5.0.5 fetchmail or put string quotes around it. :-)
 856
 857 <p>The configuration file parser in older fetchmail versions treated any
 858 all-numeric token as a number, which confused it when it was
 859 expecting a name.  String quoting forces the token's class.
 860
 861 <p>The lexical analyzer in 5.0.6 and beyond is smarter and assumes
 862 any token following "username" or "password" is a string.
 863
 864 <hr>
 865 <h2><a name="F3">F3. The .fetchmailrc parser won't accept my host or username beginning with `no'.</a></h2>
 866
 867 See <a href="#F2">F2</a> You're caught in an unfortunate crack between
 868 the newer-style syntax for negated options (`no keep', `no rewrite'
 869 etc.) and the older style run-on syntax (`nokeep', `norewrite'
 870 etc.).
 871
 872 <p>Upgrade to a 5.0.6 or later fetchmail, or put string quotes around your
 873 token.
 874
 875 <hr>
 876 <h2><a name="F4">F4. I'm getting a `parse error' message I don't understand.</a></h2>
 877
 878 The most common cause of mysterious parse errors is putting a server
 879 option after a user option.  Check the manual page; you'll probably
 880 find that by moving one or more options closer to the `poll' keyword
 881 you can eliminate the problem.
 882
 883 <p>Yes, I know these ordering restrictions are hard to understand.
 884 Unfortunately, they're necessary in order to allow the `defaults'
 885 feature to work.
 886
 887 <hr>
 888 <h2><a name="C1">C1. Why do I need a .fetchmailrc when running as root on my own machine?</a></h2>
 889
 890 Ian T. Zimmerman &lt;itz@rahul.net&gt; asked:
 891
 892 <p>On the machine where I'm the only real user, I run fetchmail as root
 893 from a cron job, like this:
 894
 895 <p><pre>
 896     fetchmail -u "itz" -p POP3 -s bolero.rahul.net
 897 </pre>
 898
 899 This used to work as is (with no .fetchmailrc file in root's home
 900 directory) with the last version I had (1.7 or 1.8, I don't
 901 remember).  But with 2.0, it RECPs all mail to the local root user,
 902 unless I create a .fetchmailrc in root's home directory containing:
 903
 904 <p><pre>
 905      skip bolero.rahul.net proto POP3
 906           user itz is itz
 907 </pre>
 908
 909 It won't work if the second line is just "<CODE>user itz</CODE>".  This is silly.
 910
 911 <p>It seems fetchmail decides to RECP the `default local user' (i.e. the
 912 uid running fetchmail) unless there are local aliases, and the
 913 `default' aliases (itz-&gt;itz) don't count.  They should.
 914
 915 <p>Answer:
 916
 917 <p>No they shouldn't.   I thought about this for a while, and I don't much
 918 like the conclusion I reached, but it's unavoidable.  The problem is
 919 that fetchmail has no way to know, in general, that a local user `itz'
 920 actually exists.
 921
 922 <p>"Ah!" you say, "Why doesn't it check the password file to see if the remote
 923 name matches a local one?"  Well, there are two reasons.
 924
 925 <p>One: it's not always possible.  Suppose you have an SMTP host declared
 926 that's not the machine fetchmail is running on?  You lose.
 927
 928 <p>Two: How do you know server itz and SMTP-host itz are the same person?
 929 They might not be, and fetchmail shouldn't assume they are unless
 930 local-itz can explicitly produce credentials to prove it (that is, the
 931 server-itz password in local-itz's .fetchmailrc file.).
 932
 933 <p>Once you start running down possible failure modes and thinking about
 934 ways to tinker with the mapping rules, you'll quickly find that all the
 935 alternatives to the present default are worse or unacceptably
 936 more complicated or both.
 937
 938 <hr>
 939 <h2><a name="C2">C2. How can I arrange for a fetchmail daemon to get killed when I log out?</a></h2>
 940
 941 The easiest way to dispatch fetchmail on logout (which will work
 942 reliably only if you have just one login going at any time) is to
 943 arrange for the command `fetchmail -q' to be called on logout.  Under
 944 bash, you can arrange this by putting `fetchmail -q' in the file
 945 `~/.bash_logout'.  Most csh variants execute `~/.logout' on logout.
 946 For other shells, consult your shell manual page.
 947
 948 <p>Automatic startup/shutdown of fetchmail is a little harder to arrange
 949 if you may have multiple login sessions going.  In the contrib
 950 subdirectory of the fetchmail distribution there is some shell code
 951 you can add to your .bash_login and .bash_logout profiles that will
 952 accomplish this.  Thank James Laferriere &lt;babydr@nwrain.net&gt; for
 953 it.
 954
 955 <p>Some people start up and shut down fetchmail using the ppp-up and
 956 ppp-down scripts of pppd.
 957
 958 <hr>
 959 <h2><a name="C3">C3. How do I know what interface and address to use with --interface?</a></h2>
 960
 961 This depends a lot on your local networking configuration (and right
 962 now you can't use it at all except under Linux and the newer BSDs).  However,
 963 here are some important rules of thumb that can help.  If they don't
 964 work, ask your local sysop or your Internet provider.
 965
 966 <p>First, you may not need to use --interface at all.  If your machine
 967 only ever does SLIP or PPP to one provider, it's almost certainly by a
 968 point to point modem connection to your provider's local subnet that's
 969 pretty secure against snooping (unless someone can tap your phone or
 970 the provider's local subnet!).  Under these circumstances, specifying
 971 an interface address is fairly pointless.
 972
 973 <p>What the option is really for is sites that use more than one
 974 provider.  Under these circumstances, typically one of your provider
 975 IP addresses is your mailserver (reachable fairly securely via the
 976 modem and provider's subnet) but the others might ship your packets
 977 (including your password) over unknown portions of the general
 978 Internet that could be vulnerable to snooping.  What you'll use
 979 --interface for is to make sure your password only goes over the
 980 one secure link.
 981
 982 <p>To determine the device:
 983
 984 <p><ol>
 985 <li> If you're using a SLIP link, the correct device is probably sl0.
 986 <li> If you're using a PPP link, the correct device is probably ppp0.
 987 <li> If you're using a direct connection over a local network such as
 988      an ethernet, use the command `netstat -r' to look at your routing table.
 989      Try to match your mailserver name to a destination entry; if you don't
 990      see it in the first column, use the `default' entry.  The device name
 991      will be in the rightmost column.
 992 </ol>
 993
 994 To determine the address and netmask:
 995
 996 <p><ol>
 997 <li> If you're talking to slirp, the correct address is probably 10.0.2.15,
 998      with no netmask specified.  (It's possible to configure slirp to present
 999      other addresses, but that's the default.)
1000
1001 <li> If you have a static IP address, run `ifconfig &lt;device&gt;', where &lt;device&gt;
1002      is whichever one you've determined.  Use the IP address given after
1003      "inet addr:".  That is the IP address for your end of the link, and is
1004      what you need.  You won't need to specify a netmask.
1005
1006 <li> If you have a dynamic IP address, your connection IP will vary randomly
1007      over some given range (that is, some number of the least significant bits
1008      change from connection to connection).  You need to declare an address
1009      with the variable bits zero and a complementary netmask that sets
1010      the range.
1011 </ol>
1012
1013 To illustrate the rule for dynamic IP addresses, let's suppose you're
1014 hooked up via SLIP and your IP provider tells you that the dynamic
1015 address pool is 255 addresses ranging from 205.164.136.1 to
1016 205.164.136.255.  Then
1017
1018 <p><pre>
1019         interface "sl0/205.164.136.0/255.255.255.0"
1020 </pre>
1021
1022 would work.  To range over any value of the last two octets
1023 (65536 addresses) you would use
1024
1025 <p><pre>
1026         interface "sl0/205.164.0.0/255.255.0.0"
1027 </pre>
1028
1029 <hr>
1030 <h2><a name="C4">C4. How can I set up support for sendmail's anti-spam features?</a></h2>
1031
1032 This answer covers versions of sendmail from 8.9.3-20 (the version
1033 installed in Red Hat 6.2) upwards.  If you have an older version,
1034 upgrade to sendmail 8.9.
1035
1036 <p>Stock sendmails can now do anti-spam exclusions based on a database of
1037 filter rules.  The human-readable form of the database is at
1038 <tt>/etc/mail/access</tt>. The database itself is at
1039 <tt>/etc/mail/access.db</tt>.
1040
1041 <p>The table itself uses email addresses, domain names, and network
1042 numbers as keys.  For example,</P>
1043 <pre>
1044 spammer@aol.com         REJECT
1045 cyberspammer.com        REJECT
1046 192.168.212             REJECT
1047 </pre>
1048 <p>would refuse mail from spammer@aol.com, any user from
1049 cyberspammer.com (or any host within the cyberspammer.com domain), and
1050 any host on the 192.168.212.* network.  (This feature can be used to
1051 do other things as well; see the <a
1052 href="http://www.sendmail.org/m4/anti-spam.html">sendmail
1053 documentation</a> for details)</P>
1054
1055 To actually set up the database, run
1056
1057 <pre>
1058 makemap hash deny &lt;deny
1059 </pre>
1060 in /etc/mail.
1061
1062 <p>To test, send a message to your mailing address from that host and
1063 then pop off the message with fetchmail, using the -v argument.  You
1064 can monitor the SMTP transaction, and when the FROM address is parsed,
1065 if sendmail sees that it is an address in spamlist, fetchmail will
1066 flush and delete it.
1067
1068 <p>Under no circumstances put your <strong>mailhost</strong> or <strong>any host
1069 you accept mail from</strong> using fetchmail into your reject file.  You
1070 <strong>will</strong> lose mail if you do this!!!
1071
1072 <hr>
1073 <h2><a name="C5">C5. How can I poll some of my mailboxes more/less
1074 often than others?</a></h2>
1075
1076 Use the <cite>interval</cite> keyword on the ones that should be
1077 checked less often.  For example, if you do a poll every 5 minutes,
1078 and want to poll some mailboxes every 5 minutes and some every 30
1079 minutes, use something like this:
1080
1081 <p><pre>
1082 poll mainsite.example.com  proto pop3 user ....
1083 poll secondary.example.com proto pop3 interval 6 user ...
1084 </pre>
1085
1086 Then secondary.example.com will be polled every 6th time that
1087 mainsite.example.com is polled, which with a polling interval of every
1088 5 minutes means that secondary.example.com will be polled every 30
1089 minutes.
1090
1091 <hr>
1092 <h2><a name="C6">Fetchmail works OK started up manually, but not from an init script.</a></h2>
1093
1094 Often, startup scripts have a different environment than an interactive
1095 login shell.  For instance, $HOME might point to "/root" when you are
1096 logged in as root, but it might be either unset, or set to "/" when the
1097 startup scripts are running.  That means fetchmail at startup can't find
1098 the .fetchmailrc.
1099
1100 <p>Pick a location (such as /etc/fetchmailrc) and use fetchmail's -f
1101 option to point fetchmail at it.  That should solve the problem.
1102
1103 <hr>
1104 <h2><a name="C7">C7. How can I forward mail to another host?</a></h2>
1105
1106 To forward mail to a host other than the one you are running fetchmail
1107 on, use the <code>smtphost</code> or <code>smtpname</code> option.
1108 See the manual page for details.
1109
1110 <hr>
1111 <h2><a name="T1">T1. How can I use fetchmail with sendmail?</a></h2>
1112
1113 For most sendmails, no special configuration is required.  Eric Allman
1114 tells me that if <code>FEATURE(always_add_domain)</code> is included
1115 in sendmail's configuration, you can leave the <code>rewrite</code>
1116 option off.
1117
1118 <p>If your sendmail complains ``sendmail does not relay'',  make sure
1119 your sendmail.cf file says <code>Cwlocalhost</code>
1120 so that sendmail recognizes `localhost' as a name of its host.
1121
1122 <p>If you're mailing from another machine on your local network, also
1123 ensure that its IP address is listed in ip_allow or name in name_allow
1124 (usually in /etc/mail/)
1125
1126 <p>If you find that your sendmail doesn't like the address
1127 `FETCHMAIL-DAEMON@localhost' (which is used in the bouncemail
1128 that fetchmail generates), you may have to set
1129 <code>FEATURE(accept_unqualified_senders)</code>.
1130
1131 <p>G&uuml;nther Leber reports that Digital Unix sendmails won't work with
1132 fetchmail.  The symptom is an error message "<code>553 Local configuration
1133 error, hostname not recognized as local</code>". The problem is that
1134 fetchmail normally feeds sendmail with the client machine's host
1135 address in the MAIL FROM line.  These sendmails think this means
1136 they're seeing the result of a mail loop and suppress the mail.  You
1137 may be able to work around this by running in <code>--invisible</code> mode.
1138
1139 <p>If you want to support multidrop mode, and you can get access to your
1140 mailserver's sendmail.cf file, it's a good idea to add this rule:
1141
1142 <p><pre>
1143 H?l?Delivered-To: $h
1144 </pre>
1145
1146 This will cause the mailserver's sendmail to reliably write the
1147 appropriate envelope address into each message before fetchmail sees
1148 it, and tell fetchmail which header it is.&nbsp; With this change,
1149 multidrop mode should work reliably even when the Received header
1150 omits the envelope address (which will typically be the case when
1151 the message has multiple recipients).&nbsp; However it will still not
1152 distinguish the recipients, your only advantage is that no bounce
1153 will be sent if a message is BCC addressed to multiple users at
1154 your site.&nbsp; To fix even that problem, you might want to try the
1155 following hack, which is however untested and quite experimental:
1156
1157 <p><pre>
1158 H?J?Delivered-To: $u
1159
1160 Mmdrop, P=/usr/bin/procmail, F=lsDFMqSPfhnu9J,
1161         S=EnvFromSMTP/HdrFromSMTP, R=EnvToSMTP/HdrToSMTP,
1162         T=DNS/RFC822/X-Unix,
1163         A=procmail -Y -a $u -d $h
1164 </pre>
1165
1166 For both hacks, you have to declare `<CODE>envelope "Delivered-To:"</CODE>' on
1167 the fetchmail side, to put the virtual domain (e.g. `domain.com')
1168 with RELAY permission into your access file and to add a line
1169 reading `<CODE>domain.com local:local-pop-user</CODE>' for the first and
1170 `<CODE>domain.com mdrop:local-pop-user</CODE>' for the second hack to your
1171 mailertable.
1172
1173 <p>You will notice that if the mail already has a Delivered-To header,
1174 sendmail will not add another.&nbsp; Further, editing sendmail.cf
1175 directly is not very comfortable.&nbsp; Solutions for both problems
1176 can be found in Peter `Rattacresh' Backes' `hybrid' patch against
1177 sendmail.&nbsp; Have a look at it, you can find it in the contrib
1178 subdirectory.
1179
1180 <p>Feel free to try Martijn Lievaart's detailed recipe in the contrib
1181 subdirectory of the fetchmail source distribution, it attempts
1182 to realize multidrop mailboxes with an external script.
1183
1184 <hr>
1185 <h2><a name="T2">T2. How can I use fetchmail with qmail?</a></h2>
1186
1187 Turn on the <CODE>forcecr</CODE> option; qmail's listener mode doesn't like
1188 header or message lines terminated with bare linefeeds.
1189
1190 <p>(This information is thanks to Robert de Bath
1191 &lt;robert@mayday.cix.co.uk&gt;.)
1192
1193 <p>If a mailhost is using the qmail package (see <a
1194 href="http://pobox.com/~djb/qmail.html">http://pobox.com/~djb/qmail.html</a>)
1195 then, providing the local hosts are also using qmail, it is possible
1196 to set up one fetchmail link to be reliably collect the mail for an
1197 entire domain.
1198
1199 <p>One of the basic features of qmail is the `Delivered-To:' message
1200 header.  Whenever qmail delivers a message to a local mailbox it puts
1201 the username and hostname of the envelope recipient on this line.  The
1202 major reason for this is to prevent mail loops.
1203
1204 <p>To set up qmail to batch mail for a disconnected site the ISP-mailhost
1205 will have normally put that site in its `virtualhosts' control file so
1206 it will add a prefix to all mail addresses for this site. This results
1207 in mail sent to 'username@userhost.userdom.dom.com' having a
1208 'Delivered-To:' line of the form:
1209
1210 <p><pre>
1211        Delivered-To: mbox-userstr-username@userhost.userdom.dom.com
1212 </pre>
1213
1214 A single host maildrop will be slightly simpler:
1215
1216 <pre>
1217        Delivered-To: mbox-userstr-username@userhost.dom.com
1218 </pre>
1219
1220 The ISP can make the 'mbox-userstr-' prefix anything they choose
1221 but a string matching the user host name is likely.
1222
1223 <p>To use this line you must:
1224
1225 <p><ol>
1226 <li>Ensure the option `envelope Delivered-To:' is in the fetchmail
1227     config file.
1228
1229 <li>Ensure you have a localdomains containing 'userdom.dom.com' or
1230     `userhost.dom.com' respectively.
1231 </ol>
1232
1233 So far this reliably delivers messages to the correct machine of the
1234 local network, to deliver to the correct user the 'mbox-userstr-'
1235 prefix must be stripped off of the user name. This can be done by
1236 setting up an alias within the qmail MTA on each local machine.
1237 Simply create a dot-qmail file called '.qmail-mbox-userstr-default'
1238 in the alias directory (normally /var/qmail/alias) with the contents:
1239
1240 <p><pre>
1241       | ../bin/qmail-inject -a -f"$SENDER" "${LOCAL#mbox-userstr-}@$HOST"
1242 </pre>
1243
1244 Note this <em>does</em> require a modern /bin/sh.
1245
1246 <p>Peter Wilson adds:
1247
1248 <p>``My ISP uses "alias-unzzippedcom-" as the prefix, which means that I
1249 need to name my file ".qmail-unzzippedcom-default". This is due to
1250 qmail's assumption that a message sent to user-xyz is handled by the
1251 file ~user/.qmail-xyz (or ~user/.qmail-default).''
1252
1253 <p>Luca Olivetti adds:
1254
1255 <p>If you aren't using qmail locally, or you don't want to set up the
1256 alias mechanism described above, you can use the option `<code>qvirtual
1257 "mbox-userstr-"</code>' in your fetchmail config file to strip the prefix
1258 from the local user name.
1259
1260 <hr>
1261 <h2><a name="T3">T3. How can I use fetchmail with exim?</a></h2>
1262
1263 <p>If you have <CODE>rewrite</CODE> on:
1264
1265 <p>There is an RFC1123 requirement that MAIL FROM and RCPT TO addresses
1266 you pass to it have to be canonical (e.g. with a fully qualified
1267 hostname part).  Therefore fetchmail tries to pass fully qualified
1268 RCPT TO addresses.  But exim does not by default accept `localhost' as
1269 a fully qualified domain.  This can be fixed.
1270
1271 <p>In exim.conf, add `localhost' to your local_domains declaration if it's not
1272 already present.  For example, the author's site at thyrsus.com would
1273 have a line reading:
1274
1275 <p><pre>
1276        local_domains = thyrsus.com:localhost
1277 </pre>
1278
1279 If you have <CODE>rewrite</CODE> off:
1280
1281 <p>MAIL FROM is a potential problem if the MTAs upstream from your fetchmail
1282 don't necessarily pass canonicalized From and Return-Path addresses,
1283 and fetchmail's <CODE>rewrite</CODE> option is off.  The specific case
1284 where this has come up involves bounce messages generated by sendmail
1285 on your mailer host, which have the (un-canonicalized) origin address
1286 MAILER-DAEMON.
1287
1288 <p>The right way to fix this is to enable the <CODE>rewrite</CODE> option and
1289 have fetchmail canonicalize From and Return-Path addresses with the
1290 mailserver hostname before exim sees them.  This option is enabled by
1291 default, so it won't be off unless you turned it off.
1292
1293 <p>If you must run with <CODE>rewrite</CODE> off, there is a switch in exim's
1294 configuration files that allows it to accept domainless MAIL FROM
1295 addresses; you will have to flip it by putting the line
1296
1297 <p><pre>
1298         sender_unqualified_hosts = localhost
1299 </pre>
1300
1301 in the main section of the exim configuration file.  Note that this
1302 will result in such messages having an incorrect domain name attached
1303 to their return address (your SMTP listener's hostname rather than
1304 that of the remote mail server).
1305
1306 <hr>
1307 <h2><a name="T4">T4. How can I use fetchmail with smail?</a></h2>
1308
1309 <p>Smail 3.2 is very nearly plug-compatible with sendmail, and may work
1310 fine out of the box.
1311
1312 <p>We have one report that when processing multiple messages from a
1313 single fetchmail session, smail sometimes delivers them in an
1314 order other than received-date order.  This can be annoying because it
1315 scrambles conversational threads.  This is not fetchmail's problem,
1316 it is an smail `feature' and has been reported to the maintainers
1317 as a bug.
1318
1319 <p>Very recent smail versions require an <code>-smtp_hello_verify</code>
1320 option in the smail config file.  This overrides smail's check to see
1321 that the HELO address is actually that of the client machine, which
1322 is never going to be the case when fetchmail is in the picture.
1323 According to RFC1123 an SMTP listener <em>must</em> allow this
1324 mismatch, so smail's new behavior (introduced sometime between
1325 3.2.0.90 and 3.2.0.95) is a bug.
1326
1327 <p>You may also need to say
1328 <code>-smtp_hello_broken_allow=127.0.0.1</code>
1329 in order for smail to accept the "localhost" that fetchmail normally
1330 appends to recipient addresses.
1331
1332 <hr>
1333 <h2><a name="T5">T5. How can I use fetchmail with SCO's MMDF?</a></h2>
1334
1335 <p>MMDF itself is difficult to configure, but it turns out that
1336 connecting fetchmail to MMDF's SMTP channel isn't that hard.
1337 You can read an <a
1338 href="http://www.aplawrence.com/Unixart/uucptofetch.html">
1339 MMDF recipe</a> that describes replacing a UUCP link with
1340 fetchmail feeding MMDF.
1341
1342 <hr>
1343 <h2><a name="T6">T6. How can I use fetchmail with Lotus Notes?</a></h2>
1344
1345 <p>The Lotus Notes SMTP gateway tries to deduce when it should convert \n
1346 to \r\n, but its rules are not the intuitive and correct-for-RFC822
1347 ones.  Use `forcecr'.
1348
1349 <a name="T7">T7. How can I use fetchmail with Courier IMAP?</a></h2>
1350
1351 <p>The courier mta doesn't like RCPT addresses that look like
1352 <code>someone@localhost</code>.  Work around this with an
1353 <code>smtphost</code> or <code>smtpaddress</code>.
1354
1355 <hr>
1356 <h2><a name="S1">S1. How can I use fetchmail with qpopper?</a></h2>
1357
1358 Qualcomm's qpopper is probably the best-of-breed among POP3 servers, and
1359 is very widely deployed.  Nevertheless, it has some problems which
1360 fetchmail exposes.  We recommend using <a href="#G7">IMAP</a> instead if at
1361 all possible.  If you must talk to qpopper, here are some problems to
1362 be aware of:
1363
1364 <p><h3>Problems with retrieving large messages from qpopper 2.53</h3>
1365
1366 Tony Tang <a href="mailto:tony@atn.com.hk">&lt;tony@atn.com.hk&gt;</a>
1367 reports that there is a bad intercation between fetchmail and qpopper
1368 2.5.3 under Red Hat Linux versions 5.0 to 5.2, kernels 2.0.34 to
1369 2.0.35.  When fetching very large messages (over 700K) from 2.5.3,
1370 fetchmail will hang with a socket error.
1371
1372 <p>This is probably not a fetchmail bug, but rather a symptom of some
1373 problem in the networking stack that qpopper's transmission pattern is
1374 tickling, as fetchpop (another Linux POP client) also displays the hang
1375 but Netscape running under Win95 does not.  The problem can also be
1376 banished by <a
1377 href="http://www.eudora.com/freeware/qpop.html">upgrading to qpopper
1378 3.0b1</a>.
1379
1380 <p><h3>Bad interaction with fetchmail 4.4.2 to 4.4.7</h3>
1381
1382 Versions of fetchmail from 4.4.2 through 4.4.7 had a bad interaction
1383 with Eudora qpopper versions 2.3 and later.  See <a href="#X5">X5</a>
1384 for details.  The solution is to upgrade your fetchmail.
1385
1386 <hr>
1387 <h2><a name="S2">S2. How can I use fetchmail with Microsoft Exchange?</a></h2>
1388
1389 <p>It's been reliably reported that Exchange 2000's POP3 support is so
1390 broken that it's unusable.  One symptom is that messages without
1391 a terminating newline get the POP3 message termination dot emitted --
1392 you guessed it -- right after the last character of the message, with
1393 no terminating newline added.  This will hang fetchmail or any other
1394 RFC-compliant server.  IMAP is alleged to work OK, though.
1395
1396 <p>Older versions of Exchange are semi-usable.
1397
1398 <p>Fetchmail using IMAP supports the proprietary NTLM mode used with
1399 M$ Exchange servers. To enable this, configure fetchmail with the
1400 --enable-NTLM option and recompile it.  Specify a user option value
1401 that looks like `user@domain': the part to the left of the @ will
1402 be passed as the username and the part to the right as the NTLM domain.
1403
1404 <p>M$ Exchange violates the POP3 and IMAP RFCs.  Its LIST command does
1405 not reveal the real sizes of mail in the pop mailbox, but the sizes of
1406 the compressed versions in the exchange mail database (thanks to Arjan
1407 De Vet and Guido Van Rooij for alerting us to this problem).
1408
1409 <p>Fetchmail works with M$ Exchange, despite this brain damage.  Two
1410 features are compromised.  One is that the --limit option will not
1411 work right (it will check against compressed and not actual sizes).
1412 The other is that a too-small SIZE argument may be passed to your
1413 ESMTP listener, assuming you're using one (this should not be a
1414 problem unless the actual size of the message is above the listener's
1415 configured length limit).
1416
1417 <p>Somewhat belatedly, I've learned that there's supposed to be a
1418 registry bit that can fix this breakage:
1419
1420 <p><pre>
1421 HKEY_LOCAL_MACHINE\System\CurrentControlSet\Services\MsExchangeIs\Parameters
1422 System\Pop3 Compatibility
1423 </pre>
1424
1425 This is a bitmask that controls the variations from the standard protocol.
1426 The bits defined are:
1427
1428 <p><DL>
1429 <DT>0x00000001:
1430 <DD>Report exact message sizes for the LIST command
1431 <DT>0x00000002:
1432 <DD>Allow arbitrary linear whitespace between commands and arguments
1433 <DT>0x00000004:
1434 <DD>Enable the LAST command
1435 <DT>0x00000008:
1436 <DD>Allow an empty PASS command (needed for users with blank
1437 passwords, but illegal in the protocol)
1438 <DT>0x00000010:
1439 <DD>Relax the length restrictions for arguments to commands (protocol
1440 requires 40, but some user names may be longer than that).
1441 <DT>0x00000020:
1442 <DD>Allow spaces in the argument to the USER command.
1443 </DL>
1444
1445 There's another one that may be useful to know about:
1446
1447 <p><pre>
1448 KEY_LOCAL_MACHINE\System\CurrentControlSet\Services\MsExchangeIs\Parameters
1449 System\Pop3 Performance
1450 </pre>
1451
1452 <DL>
1453 <DT>0x00000001:
1454 <DD>Render messages to a temporary stream instead of sending directly
1455 from the database (should always be on)
1456 <DT>0x00000002:
1457 Flag unrenderable messages (instead of just failing commands)
1458 (should only be on if you are seeing the problems reported
1459 in KB Q168109)
1460 <DT>0x00000004:
1461 <DD>Return from the QUIT command before all messages have been deleted.
1462 </DL>
1463
1464 The Microsoft pod-person who revealed this information to me admitted
1465 that he couldn't find it anywhere in their public knowledge base.
1466
1467 <p>Another specific problem we have seen with Exchange servers has as its
1468 symptom a response to LOGIN that says "NO Ambiguous Alias".  Grant
1469 Edwards writes:
1470
1471 This means that Exchange Server is too f*&#ing stupid to figure
1472 out which mailbox belongs to you.  Instead of actually keeping
1473 track of which inbox belongs to which user, it uses some
1474 half-witted, guess-o-matic heuristic to try to guess your
1475 mailbox name from your username.
1476
1477 <p>In your case it doesn't work because your username maps to more
1478 than one mailbox.  For some people it doesn't work because
1479 their username maps to zero mailboxes.  This is yet another
1480 inept, lame, almost criminally negligent design decision from
1481 our friends in Redmond.
1482
1483 <p>You've got several options:
1484
1485 <ul>
1486 <li>
1487 Get your administrator to configure the server so that
1488 usernames and mailbox names are the same.
1489 <li>
1490 Get your administrator to add an alias that maps your
1491 username explicitly to your mailbox name.
1492 </ul>
1493
1494 <p>But, the best option involves a tactical nuclear weapon (an old
1495 ASROC will do), pissing off a lot people who live downwind from
1496 Redmond, and your choice of any Linux, NetBSD, FreeBSD, or
1497 Solaris CD.
1498
1499 <p>I'll provide the CD.
1500
1501 <hr>
1502 <h2><a name="S3">S3. How can I use fetchmail with CompuServe RPA?</a></h2>
1503
1504 First, make sure your fetchmail has the RPA support compiled in.
1505 Stock fetchmail binaries (such as you might get from an RPM) don't.
1506 You can check this by looking at the output of <code>fetchmail -V</code>;
1507 if you see the string "+RPA" after the version ID you're good to go,
1508 otherwise you'll have to build your own from sources (see the INSTALL
1509 file in the source distribution for directions).<p>
1510
1511 Give your CompuServe pass-phrase in lower case as your password.  Add
1512 `@compuserve.com' to your user ID so that it looks like `user
1513 &lt;UserID&gt;@compuserve.com', where &lt;UserID&gt; can be either
1514 your numerical userID or your E-mail nickname. An RPA-enabled
1515 fetchmail will automatically check for csi.com in the POP server's
1516 greeting line.  If that's found, and your user ID ends with
1517 `@compuserve.com', it will query the server to see if it
1518 is RPA-capable, and if so do an RPA transaction rather than a
1519 plain-text password handshake.
1520
1521 <p><strong>Warning:</strong> the debug (-v -v) output of fetchmail will show
1522 your pass-phrase in Unicode!
1523
1524 <p>These two .fetchmailrc entries show the difference between an RPA and
1525 non-RPA configuration:
1526
1527 <pre>
1528 # This version will use RPA
1529 poll csi.com via "pop.site1.csi.com" with proto POP3 and options no dns
1530     user "CSERVE_USER@compuserve.com" there with password "CSERVE_PASSWORD"
1531         is LOCAL_USER here options fetchall stripcr
1532
1533 # This version will not use RPA
1534 poll non-rpa.csi.com via "pop.site1.csi.com" with proto POP3 and options no dns
1535     user "CSERVE_USER" there with password "CSERVE_POP3_PASSWORD"
1536        is LOCAL_USER here options fetchall stripcr
1537 </pre>
1538
1539 <hr>
1540 <h2><a name="S4">S4. How can I use fetchmail with Demon Internet's SDPS?</a></h2>
1541
1542 <h3>Single-drop mode</h3>
1543
1544 You can get fetchmail to download the email for just one user from
1545 Demon Internet's POP3 server by giving it a username consisting of your
1546 Demon user name followed by your account name, with an at-sign between
1547 them.
1548
1549 <p>For example, to download email for the user &lt;philh@vision25.demon.co.uk&gt;,
1550 you could use the following .fetchmailrc file:
1551
1552 <p><pre>
1553 set postmaster "philh"
1554 poll pop3.demon.co.uk with protocol POP3:
1555     user "philh@vision25" is philh
1556 </pre>
1557
1558 <h3>Multi-drop mode</h3>
1559
1560 Demon Internet's SDPS service is an implementation of POP3. All messages
1561 have a Received: header added when they enter the maildrop, like this:
1562
1563 <pre>
1564    Received: from punt-1.mail.demon.net by mailstore for fred@xyz.demon.co.uk
1565              id 899963657:10:27896:0; Thu, 09 Jul 98 05:54:17 GMT
1566 </pre>
1567
1568 To enable multi-drop mode you need to tell fetchmail that 'mailstore' is
1569 the name of the host which accepted the mail, and let it know the
1570 hostname part(s) of your E-mail address. The following example assumes
1571 that your hostname is xyz.demon.co.uk, and that you have also bought
1572 "mail forwarding" for the domain my-company.co.uk (in which case your
1573 MTA must also be configured to accept mail sent to user@my-company.co.uk)
1574
1575 <pre>
1576      poll pop3.demon.co.uk proto pop3 aka mailstore no dns:
1577        localdomains xyz.demon.co.uk my-company.co.uk
1578        user xyz is * fetchall
1579 </pre>
1580
1581 The `fetchall' command ensures that all mail is downloaded. If you
1582 want to leave mail on the server use `uidl' and `keep'; Demon does not
1583 implement the obsolete `top' command, because SDPS combines messages
1584 residing on two separate punt clusters into a single POP3 maildrop.
1585 If you do use UIDL, be aware that the "user@host" form for fetching
1586 mail from a particular Demon host will confuse fetchmail's UIDL code;
1587 use user+host.
1588
1589 <p>Note that Demon may delete mail on the server which is more than 30
1590 days old; see their <a
1591 href="http://www.demon.net/info/helpdesk/demon_products/mail/sdps-tech.shtml">
1592 POP3 page</a> for details.
1593
1594 <p><h3>The SDPS extension</h3>
1595
1596 There's a different way to do multidrop.  It's not necessary on Demon
1597 Internet, since fetchmail can parse Received addresses, but the person
1598 who implemented this didn't know that. It may be useful if Demon
1599 Internet ever changes mail transports.
1600
1601 <p>SDPS includes a non-standard extension for retrieving the envelope of a
1602 message (*ENV), which fetchmail optionally supports if compiled with the
1603 --enable-SDPS option. If you have it, the first line of the fetchmail -V
1604 response will include the string "+SDPS".
1605
1606 <p>Once you have SDPS compiled in, fetchmail in POP3 mode will
1607 automatically detect when it's talking to a Demon Internet host in
1608 multidrop mode, and use the *ENV extension to get an envelope To address.
1609
1610 <p>The autodetection works by looking at the hostname in the POP3
1611 greeting line; if you're accessing Demon Internet through a proxy it
1612 may fail. To force SDPS mode, pick "sdps" as your protocol.
1613
1614 <hr>
1615 <h2><a name="S5">S5. How can I use fetchmail with usa.net's servers?</a></h2>
1616
1617 Enable `<CODE>fetchall</CODE>'.  A user reports that the 2.2 version
1618 of USA.NET's POP server reports that you must use the
1619 `<CODE>fetchall</CODE>' option to make sure that all of the mail is
1620 retrieved, otherwise some may be left on the server.  This is almost
1621 certainly a server bug.
1622
1623 <p>The usa.net servers (at least in their 2.2 version, June 1998) don't
1624 handle the TOP command properly, either.  Regardless of the argument
1625 you give it, they retrieve only about 10 lines of the message.
1626 Fetchmail normally uses TOP for message retrieval in order to avoid
1627 marking messages seen, but `<CODE>fetchall</CODE>' forces it to use
1628 RETR instead.
1629
1630 <p>Also, we're told USA.NET adds a ton of hops to your messages.  You may
1631 need to raise the MaxHopCount parameter in your sendmail.cf to avoid having
1632 fetched mail rejected.
1633
1634 <p>(Note: Other failure modes have been reported on usa.net's servers.
1635 They seem to be chronically flaky.  We recommend finding another
1636 provider.)
1637
1638 <hr>
1639 <h2><a name="S6">S6. How can I use fetchmail with HP OpenMail?</a></h2>
1640
1641 No special configuration is required, but OpenMail versions prior to
1642 6.0 have an annoying bug similar to the big one in <a
1643 href="#S2">Microsoft Exchange</a>.  The message sizes it gives in the
1644 LIST are rounded to the nearest 1024 bytes.  It also has a nasty habit
1645 of discarding headers it doesn't recognize, such as X- and Resent-
1646 headers.
1647
1648 <p>As with M$ Exchange, the only real fix for these problems is to get a
1649 POP (or preferably IMAP) server that isn't brain-dead. OpenMail's
1650 project manager claims these bugs have been fixed in 6.0.
1651
1652 <p>We've had a more recent report (December 2001) that the TOP command
1653 fails, returning only one line regrardless of its argument, on something
1654 identifying itself as "OpenMail POP3 interface".
1655
1656 <hr>
1657 <h2><a name="S7">S7. How can I use fetchmail with geocities POP3 servers?</a></h2>
1658
1659 Nathan Cutler reports that the the mail.geocities.com POP3 servers
1660 fail to include the first Received line of the message in the send to
1661 fetchmail.  This can solve problems if your MUA interprets Received
1662 continuations as body lines and doesn't parse any of the following
1663 headers.
1664
1665 <p>Workaround is to use "mda" keyword or "-mda" switch:
1666 <pre>
1667 mda "sed -e '1s/^\t/Received: /' | formail | /usr/bin/procmail -d &lt;user&gt;"
1668 </pre>
1669 Replace \t with exactly one tabulation character.
1670
1671 You should also consider using "fetchall" option because Geocities' servers
1672 sometimes think that the first 45 messages have already been read.
1673
1674 <p>Fix: Get an email provider that doesn't suck. The pop-up ads on
1675 Geocities are lame, you should boycott them anyway.
1676
1677 <hr>
1678 <h2><a name="S8">S8. How can I use fetchmail with Hotmail?</a></h2>
1679
1680 You can't, yet.  But <a
1681 href="http://hawkins.emu.id.au/gotmail/">gotmail</a>
1682 might be what you need.
1683
1684 <hr>
1685 <h2><a name="S9">S9. How can I use fetchmail with MSN?</a></h2>
1686
1687 You can't.  MSN uses something that looks like POP3, except the
1688 authentication part is nonstandard.  And of course they don't
1689 document it, so nobody but their Windows clients can speak it.
1690
1691 <p>This is a customer lock-in tactic; we recommend boycotting MSN as the
1692 only appropriate response.
1693
1694 <p>As of 5.0.8, we have support for the client side of NTLM
1695 authentication.  It's possible this may enable fetchmail to talk to
1696 MSN; if so, somebody should report it so this FAQ can be corrected.
1697
1698 <hr>
1699 <h2><a name="S10">S10. How can I use fetchmail with SpryNet?</a></h2>
1700
1701 The SpryNet POP3 servers mark a message queried with TOP as seen.
1702 This means that if your connection drops in mid-message, it may end
1703 up invisibly stuck on your mail spool.  Use the <code>fetchall</code>
1704 flag to ensure that it's recovered on the next cycle.
1705
1706 <hr>
1707 <h2><a name="S11">S11. How can I use fetchmail with FTGate?</a></h2>
1708
1709 The FTGate V2 server (and possibly older versions as well) has a weird
1710 bug.  It answers OK twice to a TOP request!  Use the
1711 <code>fetchall</code> option to force use of RETR and work around this
1712 bug.
1713
1714 <hr>
1715 <h2><a name="S12">S12. How can I use fetchmail with MailMax?</a></h2>
1716
1717 You can't.  At least not if you want to be able to see attachments.
1718 MailMax has a bug; it reports the message length with attachments
1719 but doesn't download them on TOP or RETR.
1720
1721 <p>Also, we're told that TOP sometimes fails to retrieve the entire
1722 message even when enough lines have been specified. The MailMax
1723 developers have acknowledged this bug as of 4 May 2000, but there is
1724 no fix yet.  If you must use this server, force RETR with the
1725 <tt>fetchall</tt> option.
1726
1727 <hr>
1728 <h2><a name="S13">S13. How can I use fetchmail with Novell GroupWise?</a></h2>
1729
1730 The Novell GroupWise IMAP server would be better named GroupFoolish;
1731 it is (according to the designer of IMAP) unusably broken.  Among
1732 other things, it doesn't include a required content length in its
1733 BODY[TEXT] response.
1734
1735 <p>Fetchmail works around this problem, but we strongly recommend voting
1736 with your dollars for a server that isn't brain-dead.  If you stick
1737 with code as shoddy as GroupWise seems to be, you will probably pay
1738 for it with other problems.
1739
1740 <hr>
1741 <h2><a name="S14">S14. How can I use fetchmail with InterChange?</a></h2>
1742
1743 You can't.  At least not if you want to be able to see attachments.
1744 InterChange has a bug similar to the MailMax server; it reports the
1745 message length with attachments but doesn't download them on TOP or
1746 RETR.
1747
1748 <p>On Jan 9 2001, the people at InfiniteMail sent me mail informing me that
1749 their new 3.61.08 release of InterChange fixes this problem.  I don't
1750 have any reports one way or the other yet.
1751
1752 <a name="S15">S15. How can I use fetchmail with GMX?</a></h2>
1753
1754 <p>Use IMAP.  The GMX StreamProxy server behaves badly on
1755 authentication failures, sending back a non-conformant error message
1756 (missing an <code>-ERR</code> tag) that confuses fetchmail.
1757
1758 <hr>
1759 <h2><a name="K1">K1. How can I use fetchmail with SOCKS?</a></h2>
1760
1761 Giuseppe Guerini added a --with-socks option that supports linking
1762 with socks library.  If you specify the value of this option as
1763 ``yes'', the configure script will try to find the Rconnect library
1764 and set the makefile up to link it.  You can also specify a directory
1765 containing the Rconnect library.
1766
1767 <p>Alan Schmitt has added a similar --with-socks5 option that may work
1768 better if you have a recent version of the SOCKS library.
1769
1770 <hr>
1771 <h2><a name="K2">K2. How can I use fetchmail with IPv6 and IPsec?</a></h2>
1772
1773 To use fetchmail with IPv6, you need a system that supports IPv6, the "Basic
1774 Socket Interface Extensions for IPv6" (RFC 2133).
1775 This currently means that you need to have a BSD/OS or NetBSD system with
1776 the NRL IPv6+IPsec software distribution or a Linux system with a 2.2 or
1777 later kernel and net-tools. It should not be hard to build fetchmail on
1778 other IPv6 implementations if you can port the inet6-apps kit.
1779
1780 <p>To use fetchmail with networking security (read: IPsec), you need a system that
1781 supports IPsec, the API described in the "Network Security API for Sockets"
1782 (draft-metz-net-security-api-01.txt), and the inet6-apps kit. This currently
1783 means that you need to have a BSD/OS or NetBSD system with the NRL IPv6+IPsec
1784 software distribution. A Linux IPsec implementation supporting this API will
1785 probably appear in the coming months.
1786
1787 <p>The NRL IPv6+IPsec software distribution can be obtained from: <a
1788 href="http://web.mit.edu/network/isakmp">http://web.mit.edu/network/isakmp</a>
1789
1790
1791 <p>The inet6-apps kit can be obtained from <a href="http://ftp.ps.pl/pub/linux/IPv6/inet6-apps/">http://ftp.ps.pl/pub/linux/IPv6/inet6-apps/</a>.
1792
1793 <p>More information on using IPv6 with Linux can be obtained from:
1794 <UL>
1795 <LI>
1796 <a href="http://www.bieringer.de/linux/IPv6/IPv6-HOWTO/IPv6-HOWTO.html">
1797 http://www.bieringer.de/linux/IPv6/IPv6-HOWTO/IPv6-HOWTO.html</a>
1798 <LI>
1799 <a href="http://www.ipv6.inner.net/ipv6">http://www.ipv6.inner.net/ipv6</a>
1800 (via IPv6)
1801 <LI>
1802 <a href="http://www.inner.net/ipv6">http://www.inner.net/ipv6</a> (via IPv4)
1803 </UL>
1804
1805 <hr>
1806 <h2><a name="K3">K3. How can I get fetchmail to work with ssh?</a></h2>
1807
1808 <p>Use the <tt>plugin</tt> option.  This is dead simple with IMAP:
1809
1810 <TT>
1811         plugin "ssh %h /usr/sbin/imapd"
1812 </TT>
1813
1814 <p>You may have to use a different absolute pathname, whatever the
1815 location of imapd on your mailserver is.  This option tells fetchmail
1816 that instead of opening a connection on the server's port 143 and
1817 doing standard IMAP authentication, fetchmail should ssh to the server
1818 and run imapd, using the more secure ssh authentication (as well as
1819 getting ssh's end-to-end encryption). Most IMAP daemons will detect
1820 that they've been called from the command line and assume the
1821 connection is peauthenticated.
1822
1823 <p>POP3 daemons aren't quite as smart.  They won't know they are
1824 preauthenticated in this mode, so you'll actually have to ship your
1825 password.  It will be under ssh encryption, though, so that shouldn't
1826 be a problem.
1827
1828 <hr>
1829 <h2><a name="K4">K4. What do I have to do to use the IMAP-GSS protocol?</a></h2>
1830
1831 Fetchmail can use RFC1731 GSSAPI authorization to safely identify you
1832 to your IMAP server, as long as you can share Kerberos V credentials
1833 with your mail host and you have a GSSAPI-capable IMAP server.
1834 UW-IMAP (available via FTP at <a
1835 href="ftp://ftp.cac.washington.edu/mail/">ftp.cac.washington.edu</a>)
1836 is the only one I'm aware of and the one I recommend anyway for other
1837 reasons. You'll need version 4.1-FINAL or greater though, and it has
1838 to have GSS support compiled in.
1839
1840 <p>Neither UW-IMAP nor fetchmail compile in support for GSS by default,
1841 since it requires libraries from the Kerberos V distribution
1842 (available via FTP at <a
1843 href="ftp://athena-dist.mit.edu/pub/ATHENA/kerberos">athena-dist.mit.edu</a>).
1844 If you have these, compiling in GSS support is simple: add a
1845 <pre>--with-gssapi=[/path/to/krb5/root]</pre> option to configure. For
1846 instance, I have all of my Kerberos V libraries installed under
1847 /usr/krb5 so I run <pre>configure --with-gssapi=/usr/krb5</pre>
1848
1849 <p>Setting up Kerberos V authentication is beyond the scope of this FAQ
1850 (you may find Jim Rome's paper <a
1851 href="http://www.ornl.gov/~jar/HowToKerb.html"> How to Kerberize your
1852 site</a> helpful), but you'll at least need to add a credential for
1853 imap/[mailhost] to the keytab of the mail server (IMAP doesn't just
1854 use the host key). Then you'll need to have your credentials ready on
1855 your machine (cf. kinit).
1856
1857 <p>After that things are very simple. Set your protocol to imap-gss in your
1858 .fetchmailrc, and omit the password, since imap-gss doesn't need one. You
1859 can specify a username if you want, but this is only useful if your mailbox
1860 belongs to a username different from your Kerberos principal.
1861
1862 <p>Now you don't have to worry about your password appearing in cleartext in
1863 your .fetchmailrc, or across the network.
1864
1865 <hr>
1866 <h2><a name="K5">K5. How can I use fetchmail with SSL?</a></h2>
1867
1868 You'll need to have the <a href="http://www.openssl.org/">OpenSSL</a>
1869 libraries installed.  Configure with --with-ssl.  If you have the
1870 OpenSSL libraries installed in the default location (/usr/local/ssl)
1871 this will suffice.  If you have them installed in a non-default
1872 location, you'll need to specify it as an argument to --with-ssl after
1873 an equal sign.
1874
1875 <p>Note that there is a known bug in the implementation of SSL_peek
1876 under OpenSSL versions 0.9.5 and older that fetchmail occasionally
1877 tripped over, causing hangs.  It is recommended that you install 0.9.6
1878 or later.
1879
1880 <p>Fetchmail binaries built this way support <code>ssl</code>,
1881 <code>sslkey</code>, and <code>sslcert</code> options that control
1882 SSL encryption.  You will need to have an SSL-enabled mailserver
1883 to use these options.  See the manual page for details and some words
1884 of care on the limited security provided.
1885
1886 <p>If your open OpenSSL session dies with a message that complains "PRNG
1887 not seeded", update or improve your operating system.  This means that
1888 the OpenSSL library on your machine has been unable to locate a source
1889 of random bits from which to seed its random-number generator;
1890 normally these come from the <tt>/dev/urandom</tt>, and this message
1891 probably means your OS doesn't have that device.<p>.
1892
1893 An interactive program could seed the random number generator from
1894 keystroke timings or some other form of user input.  Because fetchmail
1895 is primarily designed to run forever as a background daemon, that
1896 option is not available in this case.
1897
1898 <hr>
1899 <h2><a name="R1">R1. Fetchmail isn't working, and -v shows `SMTP connect failed' messages.</a></h2>
1900
1901 Fetchmail itself is probably working, but your SMTP port 25 listener
1902 is down or inaccessible.
1903
1904 <p>The first thing to check is if you can telnet to port 25 on your smtp
1905 host (which is normally `localhost' unless you've specified an smtp
1906 option in your .fetchmailrc or on the command line) and get a greeting
1907 line from the listener.  If the SMTP host is inaccessible or the listener
1908 is down, fix that first.
1909
1910 <p>In Red Hat Linux 6.9, SMTP is disabled by default.  To fix this,
1911 set "DAEMON=yes" in your /etc/sysconfig/sendmail file, then restart
1912 sendmail by running "/sbin/service sendmail restart".
1913
1914 <p>If the listener seems to be up when you test with telnet, the most
1915 benign and typical problem is that the listener had a momentary seizure
1916 due to resource exhaustion while fetchmail was polling it -- process
1917 table full or some other problem that stopped the listener process
1918 from forking.  If your SMTP host is not `localhost' or something else
1919 in /etc/hosts, the fetchmail glitch could also have been caused by
1920 transient nameserver failure.
1921
1922 <p>Try running fetchmail -v again; if it succeeds, you had one of these
1923 kinds of transient glitch.  You can ignore these hiccups, because a
1924 future fetchmail run will get the mail through.
1925
1926 <p>If the listener tests up, but you have chronic failures trying to
1927 connect to it anyway, your problem is more serious.  One way to work
1928 around chronic SMTP connect problems is to use --mda.  But this only
1929 attacks the symptom; you may have a DNS or TCP routing problem.  You
1930 should really try to figure out what's going on underneath before it
1931 bites you some other way.
1932
1933 <p>We have one report (from toby@eskimo.com) that you can sometimes solve
1934 such problems by doing an <CODE>smtp</CODE> declaration with an IP
1935 address that your routing table maps to something other than the
1936 loopback device (he used ppp0).
1937
1938 <p>We also have a report that this error can be caused by having an
1939 /etc/hosts file that associates your client host name with more than
1940 one IP address.
1941
1942 <p>It's also possible that your DNS configuration isn't
1943 looking at <code>/etc/hosts</code> at all.  If you're using libc5,
1944 look at <code>/etc/resolv.conf</code>; it should say something like
1945
1946 <pre>
1947         order hosts,bind
1948 </pre>
1949
1950 so your <code>/etc/hosts</code> file is checked first.  If you're
1951 running GNU libc6, check your <code>/etc/nsswitch.conf</code> file.  Make
1952 sure it says something like
1953
1954 <pre>
1955         hosts:  files dns
1956 </pre>
1957
1958 again, in order to make sure <code>/etc/hosts</code> is seen first.
1959
1960 <p>If you have a hostname set for your machine, and this hostname does
1961 not appear in /etc/hosts, you will be able to telnet to port 25 and
1962 even send a mail with rcpt to: user@host-not-in-/etc/hosts, but
1963 fetchmail can't seem to get in touch with sendmail, no matter what you
1964 set smtpaddress to.
1965
1966 <p>We had another report from a Linux user of fetchmail 2.1 who solved his SMTP
1967 connection problem by removing the reference to -lresolv from his link
1968 line and relinking.  Apparently in some older Linux distributions the
1969 libc bind library version works better.
1970
1971 <p>As of 2.2, the configure script has been hacked so the bind library is
1972 linked only if it is actually needed.  So under Linux it won't be, and
1973 this particular cause should go away.
1974
1975 <hr>
1976 <h2><a name="R2">R2. When I try to configure an MDA, fetchmail doesn't work.</a></h2>
1977
1978 (I hear this one from people who have run into the blank-line problem in <a href="#X1">X1</a>.)
1979
1980 <p>Try sending yourself test mail and retrieving it using the
1981 command-line options `<CODE>-k -m cat</CODE>'.  This will dump exactly what
1982 fetchmail retrieves to standard output (plus the Received line
1983 fetchmail itself adds to the headers).
1984
1985 <p>If the dump doesn't match what shows up in your mailbox when you
1986 configure an MDA, your MDA is mangling the message.  If it doesn't
1987 match what you sent, then fetchmail or something on the server is
1988 broken.
1989
1990 <hr>
1991 <h2><a name="R3">R3. Fetchmail dumps core when given an invalid rc file.</a></h2>
1992
1993 This is usually reported from AIX or Ultrix, but has even been known
1994 to happen on Linuxes without a recent version of <code>flex</code>
1995 installed.  The problem appears to be a result of building with an
1996 archaic version of lex.
1997
1998 <p>Workaround: fix the syntax of your .fetchmailrc file.
1999
2000 <p>Fix: build and install the latest version of <a
2001 href="ftp://prep.ai.mit.edu/~ftp/pub/gnu">flex</a> from the Free
2002 Software Foundation.  An FSF <a
2003 href="http://www.gnu.ai.mit.edu/order/ftp.html">mirror site</a>
2004 will help you get it faster.
2005
2006 <hr>
2007 <h2><a name="R4">R4. Fetchmail dumps core in -V mode, but operates normally otherwise.</a></h2>
2008
2009 We've had this reported to us under Linux using libc-5.4.17 and gcc-2.7.2.
2010 It does not occur with libc-5.3.12 or earlier versions.
2011
2012 <p>Workaround: link with GNU malloc rather than the stock C library malloc.
2013
2014 <p>We're told there is some problem with the malloc() code in that
2015 version which makes it fragile in the presence of multiple free()
2016 calls on the same pointer (the malloc arena gets corrupted).
2017 Unfortunately it appears from doing gdb traces that whatever free()
2018 calls producing the problem are being made by the C library itself, not the
2019 fetchmail code (they're all from within fclose, and not an fclose called
2020 directly by fetchmail, either).
2021
2022 <hr>
2023 <h2><a name="R5">R5. Running fetchmail in daemon mode doesn't work.</a><br></h2>
2024
2025 We have one report from a SunOS 4.1.4 user that trying to run
2026 fetchmail in detached daemon mode doesn't work, but that using the
2027 same options with -N (nodetach) is OK.  We have another report of
2028 similar behavior from one Linux user, but many other Linux users
2029 reportt no problem.
2030
2031 <p>If this happens, you have a specific portability problem with the code
2032 in daemon.c that detaches and backgrounds the daemon fetchmail.  The isolated
2033 Linux case has been chased down to a failure in dup(2) that may reflect a
2034 glibc bug.
2035
2036 <p>As a workaround, you can start fetchmail with -N and an ampersand
2037 to background it.  A Sun user recommends this:
2038
2039 <p><pre>
2040 (fetchmail --nodetach &lt;other params&gt; &amp;)
2041 </pre>
2042
2043 The extra pair of parens is significant --- it makes sure that the process
2044 detaches from the initial shell (one more shell is started and dies
2045 immediately, detaching fetchmail and making it child of PID 1).  This is
2046 important when you start fetchmail interactively and than quit
2047 interactive shell.  The line above makes sure fetchmail lives after
2048 that!
2049
2050 <hr>
2051 <h2><a name="R6">R6. Fetchmail randomly dies with socket errors.</a></h2>
2052
2053 Check the MTU value in your PPP interface reported by
2054 <code>/sbin/ifconfig</code>.  If it's over 600, change it in your PPP
2055 options file.  (<code>/etc/ppp/options</code> on my box).  Here are
2056 option values that work:
2057
2058 <p><pre>
2059   mtu 552
2060   mru 552
2061 </pre>
2062
2063 <p>Another circumstance that can trigger this is if you are polling a
2064 virtual-mail-server name that is round-robin connected to different
2065 actual servers, so you get different IP addresses on different poll
2066 cycles.  To work around this, change the poll name either to the real
2067 name of one of the servers in the ring or to a corresponding IP
2068 address.
2069
2070 <hr>
2071 <h2><a name="R7">R7. Fetchmail running as root stopped working after an OS upgrade</a></h2>
2072
2073 In RH 6.0, the HOME value in the boot-time root environment changed
2074 from /root to / as the result of a change in init.  Move your
2075 .fetchmailrc or use a -f option to explicitly point at the file.
2076 (Oddly, a similar problem has been reported from Debian systems.)
2077
2078 <hr>
2079 <h2><a name="R8">R8. Fetchmail is timing out after fetching certain
2080 messages but before deleting them</a></h2>
2081
2082 There's a TCP/IP stalling problem under Redhat 6.0 (and possibly other
2083 recent Linuxes) that can cause this symptom.  Brian Boutel writes:
2084
2085 <p><blockquote>
2086 TCP timestamps are turned on on my Linux boxes (I assume it's now the
2087 default). This uses 12 extra bytes per segment.
2088 When the tcp  connection starts, the other end agrees a MSS of 1460,
2089 and then fragments 1460 byte chunks into 1448 and 12, because
2090 is is not allowing for the timestamp.
2091
2092 <p>Then, for reasons I can't explain, it waits a long time (typically 2
2093 minutes) after the ack is sent before sending the next (fragmented)
2094 packet.  Turning off tcp timestamps avoids the fragmentation and
2095 restores normal behaviour.  To do this, [execute]
2096
2097 <p>echo 0 &gt; /proc/sys/net/ipv4/tcp_timestamps
2098
2099 <p>I'm still unclear about the details of why this is happening. At least
2100 [now] I am now getting good performance and no queue blocking.
2101 </blockquote>
2102
2103 <hr>
2104 <h2><a name="R9">R9. Fetchmail is timing out during message fetches</a></h2>
2105
2106 This is probably a general networking issue.  Sending a "RETR" command will
2107 cause the server to start sending large amounts of data, which means
2108 large packets.  If your networking layer has a packet-fragmentation
2109 problem, that's where you'll see it.
2110
2111 <hr>
2112 <h2><a name="R10">R10. Fetchmail is dying with SIGPIPE.</a></h2>
2113
2114 This probably means you have an <code>mda</code> option.  Your MDA is
2115 croaking while being passed a message.  Best fix is to remove the
2116 <code>mda</code> option and pass mail to your port 25 SMTP listener.
2117
2118 <hr>
2119 <h2><a name="H1">H1. Fetchmail hangs when used with pppd.</a></h2>
2120
2121 Your problem may be with pppd's `demand' option.  We have a report that
2122 fetchmail doesn't play well with it, but works with pppd if `demand'
2123 is turned off.  We have no idea why this is.
2124
2125 <hr>
2126 <h2><a name="H2">H2. Fetchmail hangs during the MAIL FROM exchange.</a></h2>
2127
2128 <p>The symptom: 'fetchmail -v' retrieves mail fine, but appears to hang after
2129 sending the MAIL FROM command
2130
2131 <pre>
2132 SMTP> MAIL FROM: <someone@somewhere>
2133 </pre>
2134
2135 <p>The hang is actually occuring when sendmail looks up a sender's
2136 address in DNS.  The problem isn't in fetchmail but in the
2137 configuration of sendmail.  You must enable the 'nodns' and
2138 'nocanonify' features of sendmail.
2139
2140 <p>Here was my fix for RedHat 7.2:
2141
2142 <ol>
2143 <li># cd /etc/mail
2144 <li># cp sendmail.mc sendmail-mine.mc
2145 <li>Edit sendmail-mine.mc and add lines:
2146 <pre>
2147    FEATURE(nodns)
2148    FEATURE(nocanonify)
2149 </pre>
2150 <li>Build a new sendmail.cf
2151 <pre>
2152    # m4 sendmail-mine.cf > /etc/sendmail.cf
2153 </pre>
2154 <li>Restart sendmail.
2155 </ol>
2156
2157 <p>For more details consult the file /usr/share/sendmail-cf/README.
2158
2159 <hr>
2160 <h2><a name="H3">H3. Fetchmail hangs while fetching mail.</a></h2>
2161
2162 <p>The symption: 'fetchmail -v' retrieves the first few messages, but
2163 hangs returning:
2164
2165 <pre>
2166  fetchmail: SMTP< 550 5.0.0 Access denied
2167  fetchmail: SMTP> RSET
2168  fetchmail: SMTP< 250 2.0.0 Reset state
2169  .......fetchmail:  flushed
2170  fetchmail: POP3> DELE 1
2171  fetchmail: POP3< +OK marked deleted
2172 </pre>
2173
2174 <p>Check and see if you're allowing sendmail connections through TCP
2175 wrappers.
2176
2177 <p>Adding 'sendmail : ALL' to /etc/hosts.allow could solve this problem.
2178
2179 <hr>
2180 <h2><a name="D1">D1. I think I've set up fetchmail correctly, but I'm not getting any mail.</a></h2>
2181
2182 Maybe you have a .forward or alias set up that you've forgotten about.  You
2183 should probably remove it.
2184
2185 <p>Or maybe you're trying to run fetchmail in multidrop mode as root
2186 without a .fetchmailrc file.  This doesn't do what you think it
2187 should; see question <a href="#C1">C1</a>.
2188
2189 <p>Or you may not be connecting to the SMTP listener.   Run fetchmail -v
2190 and see <a href="#R1">R1</a>.
2191
2192 <hr>
2193 <h2><a name="D2">D2. All my mail seems to disappear after a dropped connection.</a></h2>
2194
2195 One POP3 daemon used in the Berkeley Unix world that reports itself as
2196 POP3 version 1.004 actually throws the queue away. 1.005 fixed that.
2197 If you're running this one, upgrade immediately.  (It also truncates
2198 long lines at column 1024)
2199
2200 <p>Many POP servers, if an interruption occurs, will restore the whole
2201 mail queue after about 10 minutes.  Others will restore it right
2202 away. If you have an interruption and don't see it right away, cross
2203 your fingers and wait ten minutes before retrying.
2204
2205 <p>Some servers (such as Microsoft's NTMail) are mis-designed to restore
2206 the entire queue, including messages you have deleted.  If you have
2207 one of these and it flakes out on you a lot, try setting a small
2208 <code>--fetchlimit</code> value.  This will result in more IP connects
2209 to the server, but will mean it actually executes changes to the queue
2210 more often.
2211
2212 <p>Qualcomm's qpopper, used at many BSD Unix sites, is better behaved.
2213 If its connection is dropped, it will first execute all DELE commands as
2214 though you had issued a QUIT (this is a technical violation of
2215 the POP3 RFCs, but a good idea in a world of flaky phone lines). Then it
2216 will re-queue any message that was being downloaded at hangup time.
2217 Still, qpopper may require a noticeable amount of time to do deletions
2218 and clean up its queue.  (Fetchmail waits a bit before retrying in
2219 order to avoid a `lock busy' error.)
2220
2221 <hr>
2222 <h2><a name="D3">D3. Mail that was being fetched when I interrupted my fetchmail seems to have been vanished.</a></h2>
2223
2224 Fetchmail only sends a delete mail request to the server when either
2225 (a) it gets a positive delivery acknowledgment from the SMTP
2226 listener, or (b) it gets one of the spam-filter errors (see the
2227 description of the <code>antispam></code> option) from the
2228 listener.  No interrupt can cause it to lose mail.
2229
2230 <p>However, IMAP2bis has a design problem in that its normal fetch
2231 command marks a message `seen' as soon as the fetch command to get it
2232 is sent down.  If for some reason the message isn't actually delivered
2233 (you take a line hit during the download, or your port 25 listener
2234 can't find enough free disk space, or you interrupt the delivery in
2235 mid-message) that `seen' message can lurk invisibly in your server
2236 mailbox forever.
2237
2238 <p>Workaround: add the `<CODE>fetchall</CODE>' keyword to your fetch options.
2239
2240 <p>Solution: switch to an <a href="http://www.imap.org">IMAP4</a> server.
2241
2242 <hr>
2243 <h2><a name="M1">M1. I've declared local names, but all my multidrop
2244 mail is going to root anyway.</a></h2>
2245
2246 Somehow your fetchmail is never recognizing the hostname part of
2247 recipient names it parses out of To/Cc/envelope-header lines as
2248 matching the name of the mailserver machine. To check this, run
2249 fetchmail in foreground with -v -v on.  You will probably see a lot of
2250 messages with the format ``line rejected, %s is not an alias of the
2251 mailserver'' or ``no address matches; forwarding to %s.''
2252
2253 <p>These errors usually indicate some kind of DNS configuration problem
2254 either on the server or your client machine.
2255
2256 <p>The easiest workaround is to add a `<CODE>via</CODE>' option (if
2257 necessary) and add enough aka declarations to cover all of your
2258 mailserver's aliases, then say `<CODE>no dns</CODE>'.  This will take
2259 DNS out of the picture (though it means mail may be uncollected if
2260 it's sent to an alias of the mailserver that you don't have
2261 listed).
2262
2263 <p>It would be better to fix your DNS, however.  DNS problems can hurt
2264 you in lots of ways, for example by making your machines
2265 intermittently or permanently unreachable to the rest of the net.
2266
2267 <p>Occasionally these errors indicate the sort of header-parsing problem
2268 described in <a href="#M7">M7</a>.
2269
2270 <hr>
2271 <h2><a name="M2">M2. I can't seem to get fetchmail to route to a local domain properly.</a></h2>
2272
2273 A lot of people want to use fetchmail as a poor man's internetwork
2274 mail gateway, picking up mail accumulated for a whole domain in a single
2275 server mailbox and then routing based on what's in the To/Cc/Bcc lines.
2276
2277 <p>In general, this is not really a good idea.  It would be smarter to
2278 just let the mail sit in the mailserver's queue and use fetchmail's
2279 ETRN or ODMR modes to trigger SMTP sends periodically (of course, this means
2280 you have to poll more frequently than the mailserver's expiration period).
2281 If you can't arrange this, try setting up a UUCP feed.
2282
2283 <p>If neither of these alternatives is available, multidrop mode may do
2284 (though you <em>are</em> going to get hurt by some mailing list
2285 software; see the caveats under THE USE AND ABUSE OF MULTIDROP
2286 MAILBOXES on the man page).  If you want to try it, the way to do it
2287 is with the `<CODE>localdomains</CODE>' option.
2288
2289 <p>In general, if you use localdomains you need to make sure of two other
2290 things:
2291
2292 <p><strong>1. You've actually set up your .fetchmailrc entry to invoke multidrop mode.</strong>
2293
2294 <p>Many people set a `<CODE>localdomains</CODE>' list and then forget
2295 that fetchmail wants to see more than one name (or the wildcard `*')
2296 in a `<CODE>here</CODE>' list before it will do multidrop routing.
2297
2298 <p><strong>2. You may have to set `no envelope'.</strong>
2299
2300 <p>Normally, multidrop mode tries to deduce an envelope address from a message
2301 before parsing the To/Cc/Bcc lines (this enables it to avoid losing to mailing
2302 list software that doesn't put a recipient address in the To lines).
2303
2304 <p>Some ways of accumulating a whole domain's messages in a single server
2305 mailbox mean it all ends up with a single envelope address that is
2306 useless for rerouting purposes.  You may have to set `<CODE>no
2307 envelope</CODE>' to prevent fetchmail from being bamboozled by this.
2308
2309 <p>Check also answer <a href="#T1">T1</a> on a reliable way to do multidrop
2310 delivery if your ISP (or your mail redirection provider) is using qmail.
2311
2312 <hr>
2313 <h2><a name="M3">M3. I tried to run a mailing list using multidrop, and I have a mail loop!</a></h2>
2314
2315 This isn't fetchmail's fault.  Check your mailing list.  If the list
2316 expansion includes yourself or anybody else at your mailserver (that is, not on
2317 the client side) you've created a mail loop.  Just chop the host part off any
2318 local addresses in the list.
2319
2320 <p>If you use sendmail, you can check the list expansion with
2321 <CODE>sendmail -bv</CODE>.
2322
2323 <hr>
2324 <h2><a name="M4">M4. My multidrop fetchmail seems to be having DNS problems.</a></h2>
2325
2326 <p>We have one report from a Linux user (not the same one as in <a
2327 href="#R1">R1</a>!) who solved this problem by removing the reference
2328 to -lresolv from his link line and relinking.  Apparently in some
2329 older Linux distributions the libc5 bind library version works
2330 better.
2331
2332 <p>As of 2.2, the configure script has been hacked so the bind library
2333 is linked only if it is actually needed.  So under Linux it won't be,
2334 and this problem should go away.
2335
2336 <hr>
2337 <h2><a name="M5">M5. I'm seeing long DNS delays before each message is processed.</a></h2>
2338
2339 <p>Use the `<CODE>aka</CODE>' option to pre-declare as many of your
2340 mailserver's DNS names as you can.  When an address's host part
2341 matches an aka name, no DNS lookup needs to be done to check it.
2342
2343 <p>If you're sure you've pre-declared all of your mailserver's DNS names,
2344 you can use the `<CODE>no dns</CODE>' option to prevent other hostname
2345 parts from being looked up at all.
2346
2347 <p>Sometimes delays are unavoidable.  Some SMTP listeners try to call DNS
2348 on the From-address hostname as a way of checking that the address is valid.
2349
2350 <hr>
2351 <h2><a name="M6">M6. How do I get multidrop mode to work with majordomo?</a></h2>
2352
2353 <p>In order for sendmail to execute the command strings in the majordomo
2354 alias file, it is necessary for sendmail to think that the mail it
2355 receives via SMTP really is destined for a local user name.  A normal
2356 virtual-domain setup results in delivery to the default mailbox,
2357 rather than expansion through majordomo.
2358
2359 <p>Michael &lt;michael@bizsystems.com&gt; gave us a recipe for dealing
2360 with this case that pairs a run control file like this:
2361
2362 <pre>
2363 poll your.pop3.server proto pop3:
2364     no envelope no dns
2365     localdomains virtual.localdomain1.com virtual.localdomain2.com ...
2366     user yourISPusername is root * here,
2367     password yourISPpassword fetchall
2368 </pre>
2369
2370 with a hack on your local sendmail.cf like this:
2371
2372 <pre>
2373 #############################################
2374 #  virtual info, local hack for ruleset 98  #
2375 #############################################
2376
2377 # domains to treat as direct mapped local domain
2378
2379 CVvirtual.localdomain1.com virtual.localdomain2.com ...
2380 ---------------------------
2381 in ruleset 98 add
2382 -------------------------
2383 # handle virtual users
2384
2385 R$+ &lt;@ $=V . &gt;          $: $1 &lt; @ $j . &gt;
2386 R&lt; @ &gt; $+ &lt; @ $=V . &gt;   $: $1 &lt; @ $j . &gt;
2387 R&lt; @ &gt; $+               $: $1
2388 R&lt; error : $- $+ &gt; $*   $#error $@ $1 $: $2
2389 R&lt; $+ &gt; $+ &lt; @ $+ &gt;     $: $&gt;97 $1
2390 </pre>
2391
2392 <p>This ruleset just strips virtual domain names off the addresses of incoming
2393 mail.  Your sendmail must be 8.8 or newer for this to work.  Michael
2394 says:
2395
2396 <p><BLOCKQUOTE>
2397 I use this scheme with 2 virtual domains and the default ISP
2398 user+domain and service about 30 mail accounts + majordomo on my
2399 inside pop3 server with fetchmail and sendmail 8.83
2400 </BLOCKQUOTE>
2401
2402 <hr>
2403 <h2><a name="M7">M7. Multidrop mode isn't parsing envelope addresses from
2404 my Received headers as it should.</a></h2>
2405
2406 <p>It may happen that you're getting what appear to be well-formed
2407 sendmail Received headers, but fetchmail can't seem to extract an
2408 envelope address from them.  There can be a couple of reasons for
2409 this.
2410
2411 <h3>Spurious Received lines need to be skipped:</h3>
2412
2413 <p>First, fetchmail might be looking at the wrong Received header.
2414 Normally it looks only on the first one it sees, on the theory that
2415 that one was last added and is going to be the one containing your
2416 mailserver's theory of who the message was addressed to.
2417
2418 <p>Some (unusual) mailserver configurations will generate extra Received
2419 lines which you need to skip.  To arrange this, use the optional
2420 skip prefix argument of the `envelope' option; you may need to say
2421 something like `<code>envelope 1 Received</code>' or `<code>envelope 2
2422 Received</code>'.
2423
2424 <h3>The `by' clause doesn't contain a mailserver alias:</h3>
2425
2426 <p>When fetchmail parses a Received line that looks like
2427
2428 <pre>
2429 Received: from send103.yahoomail.com (send103.yahoomail.com [205.180.60.92])
2430     by iserv.ttns.net (8.8.5/8.8.5) with SMTP id RAA10088
2431     for &lt;ksturgeon@fbceg.org&gt;; Wed, 9 Sep 1998 17:01:59 -0700
2432 </pre>
2433
2434 it checks to see if `iserv.ttns.net' is a DNS alias of your mailserver
2435 before accepting `ksturgeon@fbceg.org' as an envelope address.  This
2436 check might fail if your DNS were misconfigured, or if you were using `no dns'
2437 and had failed to declare iserv.ttns.net as an alias of your server.
2438
2439 <hr>
2440 <h2><a name="M8">M8. Users are getting multiple copies of messages.</a></h2>
2441
2442 <p>It's a consequence of multidrop.  What's happening is that you have
2443 N users subscribed to the same list.  The list software sends N
2444 copies, not knowing they will end up in the same multidrop box.  Since
2445 they are both locally addressed to all N users, fetchmail delivers N
2446 copies to each user.
2447
2448 <p>Fetchmail tries to eliminate adjacent duplicate messages in a
2449 multidrop mailbox.  However, this logic depends on the message-ID
2450 being identical in both copies.  It also depends on the two copies
2451 being adjacent in the server mailbox.  The former is usually the case,
2452 but the latter condition sometimes fails in a timing-dependent way if
2453 the server was processing multiple incoming mail streams.
2454
2455 <p>I could eliminate this problem by keeping a list of all message-IDs
2456 received during a poll so far and dropping any message that matches a
2457 seen mail ID.  The trouble is that this is an O(N**2) operation that
2458 might significantly slow down the retrieval of large mail batches.
2459
2460 <hr>
2461 <h2><a name="X1">X1. Spurious blank lines are appearing in the headers of fetched mail.</a></h2>
2462
2463 <p>What's probably happening is that the POP/IMAP daemon on your
2464 mailserver is inserting a non-RFC822 header (like X-POP3-Rcpt:) and
2465 something in your delivery path (most likely an old version of the
2466 <em>deliver</em> program, which sendmail often calls to do local delivery) is
2467 failing to recognize it as a header.
2468
2469 <p>This is not fetchmail's problem.  The first thing to try is installing
2470 a current version of <em>deliver</em>.  If this doesn't work, try to
2471 figure out which other program in your mail path is inserting the
2472 blank line and replace that.  If you can't do either of these things,
2473 pick a different MDA (such as procmail) and declare it with the
2474 `<CODE>mda</CODE>' option.
2475
2476 <hr>
2477 <h2><a name="X2">X2. My mail client can't see a Subject line.</a></h2>
2478
2479 <p>First, see <a href="#X1">X1</a>.  This is quite probably the same
2480 problem (X-POP3-Rcpt header or something similar being inserted by
2481 the server and choked on by an old version of <em>deliver</em>).
2482
2483 <p>The O'Reilly sendmail book does warn that IDA sendmail doesn't process
2484 X- headers correctly.  If this is your problem, all I can suggest is
2485 replacing IDA sendmail, because it's broken and not RFC822 conformant.
2486
2487 <hr>
2488 <h2><a name="X3">X3. Messages containing "From" at start of line are being split.</a></h2>
2489
2490 <p>If you know the messages aren't split in your server mailbox, then this
2491 is a problem with your POP/IMAP server, your client-side SMTP listener or
2492 your local delivery agent.  Fetchmail cannot split messages.
2493
2494 <p>Some POP server daemons ignore Content-Length headers and split messages on
2495 From lines.  We have one report that the 2.1 version of the BSD popper
2496 program (as distributed on Solaris 2.5 and elsewhere) is broken this way.
2497
2498 <p>You can test this.  Declare an mda of `cat' and send yourself one
2499 piece of mail containing "From" at start of a line.  If you see a
2500 split message, your POP/IMAP server is at fault.  Upgrade to a more
2501 recent version.
2502
2503 <p>Sendmail and other SMTP listeners don't split RFC822 messages either.
2504 What's probably happening is either sendmail's local delivery agent or
2505 your mail reader are not quite RFC822-conformant and are breaking
2506 messages on what it thinks are Unix-style From headers.  You can
2507 figure out which by looking at your client-side mailbox with vi or
2508 more.  If the message is already split in your mailbox, your local
2509 delivery agent is the problem.  If it's not, your mailreader is the
2510 problem.
2511
2512 <p>If you can't replace the offending program, take a look at your
2513 sendmail.cf file.  There will likely be a line something like
2514
2515 <pre>
2516 Mlocal, P=/usr/bin/procmail, F=lsDFMShP, S=10, R=20/40, A=procmail -Y -d $u
2517 </pre>
2518
2519 describing your local delivery agent.  Try inserting the `E' option in the
2520 flags part (the F= string).  This will make sendmail turn each dangerous
2521 start-of-line From into a &gt;From, preventing programs further downstream
2522 from acting up.
2523
2524 <hr>
2525 <h2><a name="X4">X4.</a><a name="generic_mangling">My mail is being mangled in a new and different way</a></h2>
2526
2527 <p>The first thing you need to do is pin down what program is doing the
2528 mangling.  We don't like getting bug reports about fetchmail that are
2529 actually due to some other program's malfeasance, so please go through
2530 this diagnostic sequence before sending us a complaint.
2531
2532 <p>There are five possible culprits to consider, listed here in the order
2533 they pass your mail:
2534
2535 <ol>
2536 <li> Programs upstream of your server mailbox.
2537 <li> The POP or IMAP server on your mailserver host.
2538 <li> The fetchmail program itself.
2539 <li> Your local sendmail.
2540 <li> Your LDA (local delivery agent), as called by sendmail or
2541 specified by <code>mda</CODE>.
2542 </ol>
2543
2544 <p>Often it happens that fetchmail itself is OK, but using it exposes
2545 pre-existing bugs in your downstream software, or your downstream
2546 software has a bad interaction with POP/IMAP.  You need to pin down
2547 exactly where the message is being garbled in order to deduce what is
2548 actually going on.
2549
2550 <p>The first thing to do is send yourself a test message, and retrieve it
2551 with a .fetchmailrc entry containing the following (or by running with
2552 the equivalent command-line options):
2553
2554 <pre>
2555     mda "cat &gt;MBOX" keep fetchall
2556 </pre>
2557
2558 <p>This will capture what fetchmail gets from the server, except for (a)
2559 the extra Received header line fetchmail prepends, (b) header address
2560 changes due to <code>rewrite</code>, and (c) any end-of-line changes
2561 due to the <code>forcecr</code> and <code>stripcr</code> options.
2562 MBOX will in fact contain what programs downstream of fetchmail
2563 see.
2564
2565 <p>The most common causes of mangling are bugs and misconfigurations in
2566 those downstream programs.  If MBOX looks unmangled, you will know
2567 that is what is going on and that it is not fetchmail's problem.  Take
2568 a look at the other FAQ items in this section for possible clues about
2569 how to fix your problem.
2570
2571 <p>If MBOX looks mangled, the next thing to do is compare it with your
2572 actual server mailbox (if possible).  That's why you specified
2573 <code>keep</code>, so the server copy would not be deleted.  If your
2574 server mailbox looks mangled, programs upstream of your server mailbox
2575 are at fault.  Unfortunately there is probably little you can do about
2576 this aside from complaining to your site postmaster, and nothing at
2577 all fetchmail can do about it!
2578
2579 <p>More likely you'll find that the server copy looks OK.  In that case
2580 either the POP/IMAP server or fetchmail is doing the mangling.  To
2581 determine which, you'll need to telnet to the server port and simulate
2582 a fetchmail session yourself.  This is not actually hard (both POP3
2583 and IMAP are simple, text-only, line-oriented protocols) but requires
2584 some attention to detail.  You should be able to use a fetchmail -v
2585 log as a model for a session, but remember that the "*" in your LOGIN
2586 or PASS command dump has to be replaced with your actual password.
2587
2588 <p>The objective of manually simulating fetchmail is so you can see
2589 exactly what fetchmail sees.  If you see a mangled message, then your
2590 server is at fault, and you probably need to complain to your
2591 mailserver administrators.  However, we like to know what the broken
2592 servers are so we can warn people away from them.  So please send
2593 us a transcript of the session including the mangling <em>and the
2594 server's initial greeting line</em>.  Please tell us anything else
2595 you think might be useful about the server, like the server host's
2596 operating system.
2597
2598 <p>If your manual fetchmail simulation shows an unmangled message,
2599 congratulations.  You've found an actual fetchmail bug, which is a
2600 pretty rare thing these days.  Complain to us and we'll fix it.
2601 Please include the session transcript of your manual fetchmail
2602 simulation along with the other things described in the FAQ entry on
2603 <a href="#G3">reporting bugs</a>.
2604
2605 <hr>
2606 <h2><a name="X5">X5. Using POP3, retrievals seems to be fetching too much!</a></h2>
2607
2608 <p>This may happen in versions of fetchmail after 4.4.1 and before 4.4.8.
2609 Versions after 4.4.1 use POP3's TOP command rather than RETR, in order
2610 to avoid marking the message seen (leaving it unseen is helpful for
2611 later recovery if you lose your connection in the middle of a
2612 retrieval).
2613
2614 <p>Versions of fetchmail from 4.4.2 through 4.4.7 had a bad interaction
2615 with Eudora qpopper versions 2.3 and later.  The TOP bounds check was
2616 fooled by an overflow condition in the TOP argument.  Decrementing the
2617 TOP argument in 4.4.7 fixed this.
2618
2619 <p>Fix: Upgrade to a later version of fetchmail.
2620
2621 <p>Workaround: set the <code>fetchall</code> option.  Under POP3
2622 this has the side effect of forcing RETR use.
2623
2624 <hr>
2625 <h2><a name="X6">X6. My mail attachments are being dropped or mangled.</a></h2>
2626
2627 <p>This isn't fetchmail's doing -- fetchmail never drops lines in message
2628 bodies or attachments. It may be your POP server, or it may be the
2629 sender's mail user agent (or a bad combination of both).
2630
2631 <p>The Mail Max POP3 server and the InterChange and Imail IMAP servers
2632 are known to simply drop MIME attachments when uploading messages.
2633 We've had sporadic reports of problems with Microsoft Exchange and
2634 Outlook servers.  Windows- and NT-based POP servers seem especially
2635 prone to mangle attachments.  If you are running one of these,
2636 replacing your server with a Unix machine is probably the only
2637 effective solution.
2638
2639 <p>We've also had a report that Lotus Notes sometimes trashes the
2640 MIME type of messages.  In particular, it seems to modify MIME
2641 headers introducing type application/pdf, mangling the type
2642 to application/octet-stream. It may corrupt other MIME types
2643 as well.
2644
2645 <p>The IMAP service of Lotus Domino has a known bug in the way it
2646 generates MIME Content-type headers (observed on Lotus Domino 5.0.2b).
2647 It's a subtle one that doesn't show up when Netscape Messenger and
2648 other clients use a FETCH BODY[] to grab the whole message.  When
2649 fetchmail uses FETCH RFC822.HEADER and FETCH RFC822.TEXT to get first
2650 the header and then the body, Domino generates different Boundary tags
2651 for each part, .e.g. one tag is declared in the Content-type header and
2652 another is used to separate the MIME parts in the body.  This doesn't
2653 work. (I have heard a rumor that this bug is scheduled to be fixed
2654 in Domino release 6; you can find a workaround at contrib/domino.)
2655
2656 <p>Another rich source of attachment problems is Microsoft Exchange and
2657 Microsoft Outlook.  If you see unreadable attachments with a
2658 ContentType of "application/x-tnef", you're having this problem.  The
2659 <a href="http://world.std.com/~damned/software.html">TNEF</a> utility
2660 may help.
2661
2662 <p>Rob Funk explains: Unfortunately there also remain many mail user
2663 agents that don't write correct MIME messages. One big offender is Sun
2664 MailTool attachments, which are formatted enough like MIME that some
2665 programs could get confused; these are generated by the mailtool and
2666 dtmail programs (the mail programs in Sun's OpenWindows and CDE
2667 environments).
2668
2669 <p>One solution to problems related to misformatted MIME attachments is
2670 the <a href="ftp://ftp.uu.se/pub/unix/networking/mail/emil/">emil</a>
2671 program; see its <a
2672 href="ftp://ftp.uu.se/pub/unix/networking/mail/emil/TUTORIAL.html">tutorial</a>
2673 file at that site for details on emil.  It is useful for
2674 converting character sets, attachment encodings, and attachment
2675 formats.  At this writing, emil does not appear to have been
2676 maintained since a patch to version 2.1.0beta9 in late 1997, but it is
2677 still useful.
2678
2679 <p>One good way of using emil is from within procmail.  You can have
2680 procmail look for signs of problematic message formatting, and pipe
2681 those messages through emil to be fixed.  emil will not always be able
2682 to fix the problem, in which case the message is unchanged.
2683
2684 <p>A possible rule to be inserted into a .procmailrc file for using emil
2685 would be:
2686
2687 <pre>
2688 :0HB
2689 * 1^1 ^Content-Type: \/X-sun[^;]*
2690 * 1^1 ^Content-Type: \/application/mac-binhex[^;]*
2691 * 1^1 ^Content-Transfer-Encoding: \/x-binhex[^;]*
2692 * 1^1 ^Content-Transfer-Encoding: \/x-uuencode[^;]*
2693 {
2694   LOG="Converting $MATCH
2695 "
2696   :0fw
2697   | emil -A B -T Q -B BA -C iso-8859-1 -H Q -F MIME \
2698   | gawk '{gsub(/\r\n?/,"\n");print $0}'
2699 }
2700 </pre>
2701
2702 <p>The "1^1" in the conditions is a way of specifying to procmail that if
2703 any one of the four listed expressions is found in the message, the
2704 total condition is considered true, and the message gets passed into
2705 emil.  These four subconditions check whether the message has a Sun
2706 attachment, a binhex attachment, or a uuencoded attachment; there are
2707 others that could be added to check these things better and to check
2708 other relevant conditions.  The "LOG=" line writes a line into the
2709 procmail log; the lone double-quote beginning the following line makes
2710 sure the log entry gets an end-of-line character.  The call to gawk
2711 (GNU awk) is for fixing end-of-line conventions, since emil sometimes
2712 leaves those in the format of the originating machine; it could
2713 probably be replaced with a sed subsitution.
2714
2715 <p>The emil call itself tries to ensure that the message uses:
2716
2717 <ul>
2718 <li> BinHex encoding for any Apple Macintosh-only attachments
2719 <li> Quoted-Printable encoding for text (when necessary)
2720 <li> Base64 Encoding for binary attachments
2721 <li> iso-8859-1 character set for text (unfortunately emil can't yet
2722   convert from windows-1252 to iso-8859-1)
2723 <li> Quoted-Printable encoding for headers
2724 <li> MIME attachment format
2725 </ul>
2726
2727 <p>Most of these (the primary exceptions being the character set and the
2728 Apple binary format) are as they should be for good internet
2729 interoperability.<p>
2730
2731 <p>Some mail servers (Lotus Domino is a suspect here) mangle
2732 Sun-formatted messages, so the conversion to MIME needs to happen
2733 before such programs see the message.  The ideal is to rid the world
2734 of Sun-formatted messages: don't use mailtool for sending attachments
2735 (it doesn't understand MIME anyway, and most of the world doesn't
2736 understand its attachments, so it really shouldn't be used at all),
2737 and make sure dtmail is set to use MIME rather than mailtool's format.
2738
2739 <hr>
2740 <h2><a name="X7">X7. Some mail attachments are hanging fetchmail.</a></h2>
2741
2742 <p>This isn't fetchmail's problem either; fetchmail doesn't know anything
2743 about mail attachments and doesn't treat them any differently from
2744 plain message data.
2745
2746 <p>The most usual cause of this problem seems to be bugs in your network
2747 transport layer's capability to handle the very large TCP/IP packets
2748 that attachments tend to turn into.  You can test this theory by trying to
2749 download the offending message through a webmail account; using HTTP
2750 for the message tends to simulate large-packet stress rather well, and
2751 you will probably find that the messages that seem to be choking
2752 fetchmail will make your HTTP download speed drop to zero.
2753
2754 <p>This problem can be caused by subtle bugs in the packet-reassembly
2755 layer of your TCP/IP stack; these often don't manifest at normal
2756 packet sizes.  It may also be caused by malfunctioning path-MTU
2757 discovery on the mailserver.  Or, if there's a modem in the link,
2758 it may be because the attachment contains the Hayes mode escape "+++".
2759
2760 <hr>
2761 <h2><a name="X8">X8. A spurious ) is being appended to my messages.</a></h2>
2762
2763 <p>Blame it on that rancid pile of dung and offal called Microsoft
2764 Exchange.  Due to the problem described in <a href="#S2">S2</a>, the
2765 IMAP support in fetchmail cannot follow the IMAP protocol 100%.  Most
2766 of the time it doesn't matter, but if you combine it with an SMTP
2767 server that behaves unusually, you'll get a spurious ) at message end.
2768
2769 <p>One piece of software that can trigger this is the Interchange mail
2770 server, as used by, e.g., mailandnews.com.  Here's what happens:
2771
2772 <p>1.  Someone sends mail to your account.  The last line of the message
2773 contains text.  So at the SMTP level, the message ends with, e.g.
2774 "blahblah\r\n.\r\n"
2775
2776 <p>2.  The SMTP handler sees the final "\r\n.\r\n" and recognizes the
2777 end of the message.  However, instead of doing the normal thing, which
2778 is tossing out the ".\r\n" and leaving the first '\r\n' as part of the
2779 email body, Interchange throws out the whole "\r\n.\r\n", and leaves
2780 the email body without any line terminator at the end of it.  RFC821
2781 does not forbid this, though it probably should.
2782
2783 <p>3.  Fetchmail, or some other IMAP client, asks for the message.  IMAP
2784 returns it, but it's enclosed inside parentheses, according to the
2785 protocol.  The message size in bytes is also present.  Because the
2786 message doesn't end with a line terminator, the IMAP client sees:
2787
2788  ....blahblah)...
2789
2790 where the ')' is from IMAP.
2791
2792 <p>4.  Fetchmail only deals with complete lines, and can't trust the
2793 stated message size because Microsoft Exchange fscks it up.
2794
2795 <p>5. As a result, fetchmail takes the final 'blahblah)' and puts it
2796 at the end of the message it forwards on.  If you have verbosity on,
2797 you'll get a message about actual != expected.
2798
2799 <p>There is no fix for this.  The nuke mentioned in <a
2800 href="#S2">S2</a> looks more tempting all the time.
2801
2802 <hr>
2803 <h2><a name="O1">O1. The --logfile option doesn't work if the logfile doesn't exist.</a></h2>
2804
2805 <p>This is a feature, not a bug.  It's in line with normal practice for
2806 system daemons and allows you to suppress logging by removing the log,
2807 without hacking potentially fragile startup scripts.  To get around
2808 it, just touch(1) the logfile before you run fetchmail (this will have
2809 no effect on the contents of the logfile if it already exists).
2810
2811 <hr>
2812 <h2><a name="O2">O2. Every time I get a POP or IMAP message the header
2813 is dumped to all my terminal sessions.</a></h2>
2814
2815 <p>Fetchmail uses the local sendmail to perform final delivery, which
2816 Netscape and other clients doesn't do; the announcement of new messages
2817 is done by a daemon that sendmail pokes. There should be a ``biff''
2818 command to control this.  Type
2819
2820 <pre>
2821 biff n
2822 </pre>
2823
2824 to turn it off. If this doesn't work, try the command
2825
2826 <pre>
2827 chmod -x `tty`
2828 </pre>
2829
2830 which is essentially what <code>biff -n</code> will do. If this
2831 doesn't work, comment out any reference to ``comsat'' in your
2832 /etc/inetd.conf file and restart inetd.
2833
2834 <p>In Slackware Linux distributions, the last line in /etc/profile is
2835
2836 <pre>
2837 biff y
2838 </pre>
2839
2840 Change this to
2841
2842 <pre>
2843 biff n
2844 </pre>
2845
2846 to solve the problem system-wide.
2847
2848 <hr>
2849 <h2><a name="O3">O3. Does fetchmail reread its rc file every poll cycle?</a></h2>
2850
2851 <p>No, but versions 5.2.2 and later will notice when you modify your rc
2852 file and restart, reading it.
2853
2854 <hr>
2855 <h2><a name="O4">O4. Why do deleted messages show up again when I take
2856 a line hit while downloading?</a></h2>
2857
2858 <p>Because you're using a POP3 other than Qualcomm qpopper, or an IMAP
2859 with a long expunge interval.
2860
2861 <p>According to the POP3 RFCs, deletes aren't actually performed until
2862 you issue the end-of-session QUIT command.  Fetchmail cannot fix this,
2863 because doing it right takes cooperation from the server. There are
2864 two possible remedies:
2865
2866 <p>One is to switch to qpopper (the free POP3 server from Qualcomm,
2867 the Eudora people).  The qpopper software violates the POP3 RFCs by
2868 doing an expunge (removing deleted messages) on a line hangup, as well
2869 as on processing a QUIT command.
2870
2871 <p>The other (which we recommend) is to switch to <a
2872 href="http://www.imap.org">IMAP</a>.  IMAP has an explicit expunge
2873 command and fetchmail normally uses it to delete messages immediately
2874 after they are downloaded.
2875
2876 <p>If you get very unlucky, you might take a line hit in the window
2877 between the delete and the expunge.  If you've set a longer expunge
2878 interval, the window gets wider.  This problem should correct itself
2879 the next time you complete a successful query.
2880
2881 <hr>
2882 <h2><a name="O5">O5. Why is fetched mail being logged with my name, not the real From address?</a></h2>
2883
2884 <p>Because logging is done based on the address indicated by the sending
2885 SMTP's MAIL FROM, and some listeners are picky about that address.
2886
2887 <p>Some SMTP listeners get upset if you try to hand them a MAIL FROM
2888 address naming a different host than the originating site for your
2889 connection.  This is a feature, not a bug -- it's supposed to help
2890 prevent people from forging mail with a bogus origin site.  (RFC 1123
2891 says you shouldn't do this exclusion...)
2892
2893 <p>Since the originating site of a fetchmail delivery connection is
2894 localhost, this effectively means these picky listeners will barf on
2895 any MAIL FROM address fetchmail hands them with an @ in it!
2896
2897 <p>Versions 2.1 and up try the header From address first and fall back to
2898 the calling-user ID.  So if your SMTP listener isn't picky, the log
2899 will look right.
2900
2901 <hr>
2902 <h2><a name="O6">O6. I'm seeing long sendmail delays or hangs near the start of each poll cycle.</a></h2>
2903
2904 <p>Sendmail does a hostname lookup when it first starts up, and also each
2905 time it gets a HELO in listener mode.
2906
2907 <p>Your resolver configuration may be causing one of these lookups to
2908 fail and time out.  Check <code>/etc/resolv.conf</code> and
2909 <code>/etc/hosts</code> file. Make sure your hostname and
2910 fully-qualified domain name are both in <code>/etc/hosts</code>, and
2911 that hosts is looked at before DNS is queried.  You probably also want
2912 your remote mail server(s) to be in the hosts file.
2913
2914 <p>You can suppress the startup-time lookup if need to by reconfiguring
2915 with <code>FEATURE(nodns)</code>.
2916
2917 <p>Configuring your bind library to cache DNS lookups locally may help,
2918 and is a good idea for speeding up other services as well.  Switching to
2919 a faster MTA like qmail or exim might help.
2920
2921 <hr>
2922 <h2><a name="O7">O7. Why doesn't fetchmail deliver mail in date-sorted order?</a></h2>
2923
2924 <p>Because that's not the order the server hands it to fetchmail in.
2925
2926 <p>Fetchmail getting mail from a POP server delivers mail in the order
2927 that your server delivers mail.  Fetchmail can't do anything about
2928 this; it's a limitation of the underlying POP protocol.
2929
2930 <p>In theory it might be possible for fetchmail in IMAP mode to sort
2931 messages by date, but this would be in violation of two basics of
2932 fetchmail's design philosophy: (a) to be as simple and transparent a
2933 pipe as possible, and (b) to <em>hide</em>, rather than emphasize, the
2934 differences between the remote-fetch protocols it uses.
2935
2936 <p>Re-ordering messages is a user-agent function, anyway.
2937
2938 <hr>
2939 <h2><a name="O8">O8. I'm using pppd.  Why isn't my monitor option working?</a></h2>
2940
2941 <p>There is a combination of circumstances that can confuse fetchmail.
2942 If you have set up demand dialing with pppd, and pppd has an idle
2943 timeout, and you have lcp-echo-interval set, then the
2944 lcp-echo-interval time must be longer than the pppd idle timeout.
2945 Otherwise it is going keep increasing the packet counters that fetchmail
2946 relies upon, triggering fetchmail into polling after its own delay
2947 interval and thus preventing the pppd link from ever reaching its
2948 inactivity timeout.
2949
2950 <hr>
2951 <h2><a name="O9">O9. Why does fetchmail keep retrieving the same messages
2952 over and over?</a></h2>
2953
2954 <p>First, check to see that you haven't enabled the <cite>keep</cite>
2955 and <cite>fetchall</cite> option.  If you have, turn <cite>keep</cite> off.
2956
2957 <p>There are various forms of lossage involving the POP3 UIDL feature
2958 that can lead to all your old messages being seen again after a line
2959 drop.  I have given up trying to fix these, as the UIDL code breaks
2960 worse every time I touch it.  The problem is fundamental; maintaining
2961 and garbage-collecting the right kind of client-side state is just
2962 hard.  Whoever put UIDLs in RFC1725 and removed LAST should be hung
2963 up by his thumbs and whipped with scorpions.  The right answers are
2964 either (a) live with the occasional breakage, (b) switch to IMAP4,
2965 or (c) fix the code yourself and send me a patch.  Unless you choose
2966 (c), I don't want to hear about it.
2967
2968 <p>This can also happen when some other mail client is logged in to your
2969 mail server, if it uses a simple exclusive-locking scheme (and many,
2970 especially most POP3 servers, do exactly that).  Your fetchmail is
2971 able to retrieve the messages, but because the mailbox is write-locked
2972 by the other instance yours can neither mark messages seen or delete them.
2973 The solution is to either (a) wait for the other client to finish, or (b)
2974 terminate it.
2975
2976 <p>James Stevens &lt;James.Stevens@kyzo.com&gt; writes:<p>
2977
2978 <em>
2979 <p>We had a Linux box dialing the Net and collecting mail from an NT POP3
2980 server.  Fetchmail was correctly collecting and deleting each e-mail
2981 one by one. However,the dial-up connection was very unreliable and
2982 would often just drop out in the middle of a session.
2983
2984 <p>Interestingly, unless the TCP POP3 connection was terminated normally
2985 (I guess with a POP3 "QUIT" command) NT would then roll back all the
2986 deletes !!!
2987
2988 <p>This meant if the first e-mail was very large it might just end up
2989 continuously collecting it, basically jamming the queue. Or, if the
2990 queue became very full itmight never get a long enough phone
2991 connection to retrieve the entire mailbox, and NT would roll back any
2992 deletes, so it would end up collecting (and delivering) the first few
2993 e-mails again and again. As the POP3 mailbox became fuller and fuller
2994 the chances of getting a connection long enough to collect theentire
2995 mailbox became smaller and smaller.
2996
2997 <p>Our solution was to make fetchmail only collect a few (say 5 or 10)
2998 e-mails at atime, thus trying to ensure that the POP3 connection is
2999 terminated correctly.
3000 </em>
3001
3002 <p>Unfortunately, this is exactly the way POP3 servers are supposed
3003 to behave on a line drop, according to the RFCs.  I recommend
3004 switching to IMAP and using a short expunge interval.
3005
3006 <hr>
3007 <h2><a name="O10">O10. Why is the received date on all my messages the same?</a></h2>
3008
3009 This is a design choice in your MTA, not fetchmail.  It's taking the received
3010 date from the last Received header.<p>
3011
3012 <HR>
3013 <table width="100%" cellpadding=0><tr>
3014 <td width="30%">Back to <a href="index.html">Fetchmail Home Page</a>
3015 <td width="30%" align=center>To <a href="/~esr/sitemap.html">Site Map</a>
3016 <td width="30%" align=right>$Date: 2002/03/15 19:16:33 $
3017 </table>
3018
3019 <ADDRESS>Eric S. Raymond <A HREF="mailto:esr@thyrsus.com">&lt;esr@thyrsus.com&gt;</A></ADDRESS>
3020 </BODY>
3021 </HTML>
3022 <!--
3023 Local Variables:
3024 compile-command: "(cd ~/WWW; upload fetchmail/fetchmail-FAQ.html)"
3025 End:
3026 -->