Pileus Git - ~andy/fetchmail/blob - fetchmail-FAQ.html

   1 <?xml version="1.0" encoding="ISO-8859-1"?>
   2 <!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN"
   3     "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd">
   4 <!--
   5
   6 ##########################################################################
   7 WARNING!
   8
   9 Be sure that <h1> tags are in the leftmost column so that the awk
  10 postprocessor can elide the Contents section - HTMLDOC will insert
  11 a much better one.
  12 ##########################################################################
  13
  14 -->
  15 <html xmlns="http://www.w3.org/1999/xhtml">
  16 <head>
  17 <title>The Fetchmail FAQ</title>
  18 <meta name="description"
  19 content="Frequently asked questions about fetchmail."/>
  20 <meta name="keywords" content="fetchmail, POP, POP2, POP3, IMAP, remote mail"/>
  21 </head>
  22 <body>
  23 <table width="100%" cellpadding="0" summary="Canned page footer">
  24 <tr>
  25 <td width="30%">Back to <a href="index.html">Fetchmail Home
  26 Page</a></td>
  27 <td width="30%" align="right">$Date$</td>
  28 </tr>
  29 </table>
  30
  31 <hr/>
  32 <h1 id="FAQ">Frequently Asked Questions About Fetchmail</h1>
  33
  34 <p>Before reporting any bug, please read <a href="#G3">G3</a> for
  35 advice on how to include diagnostic information that will get your
  36 bug fixed as quickly as possible.</p>
  37
  38 <p>Note that this FAQ is occasionally updated from the SVN repository
  39 and speaks in the past tense ("since") about a fetchmail release that is
  40 not yet available. Please try a release candidate for that version in
  41 case you need the new option.</p>
  42
  43 <p>If you have a question or answer you think ought to be added to
  44 this FAQ list, file it to one of the trackers at <a
  45     href="http://developer.berlios.de/projects/fetchmail/">our BerliOS
  46     project site</a> or post to one of the fetchmail mailing lists (see
  47 below).</p>
  48
  49 <h1 id="Contents">Contents</h1>
  50
  51 <a href="#Contentdetail">Detailed Contents</a><br/>
  52 <a href="#C_G">G. General problems</a><br/>
  53 <a href="#C_B">B. Build-time problems</a><br/>
  54 <a href="#C_F">F. Fetchmail configuration file grammar questions</a><br/>
  55 <a href="#C_C">C. Configuration questions</a><br/>
  56 <a href="#C_T">T. How to make fetchmail play nice with various MTAs</a><br/>
  57 <a href="#C_S">S. How to make fetchmail work with various servers</a><br/>
  58 <a href="#C_I">I. How to fetchmail work with specific ISPs</a><br/>
  59 <a href="#C_K">K. How to set up well-known security and authentication</a><br/>
  60 <a href="#C_R">R. Runtime fatal errors</a><br/>
  61 <a href="#C_H">H. Hangs and lockups</a><br/>
  62 <a href="#C_D">D. Disappearing mail</a><br/>
  63 <a href="#C_M">M. Multidrop-mode problems</a><br/>
  64 <a href="#C_X">X. Mangled mail</a><br/>
  65 <a href="#C_O">O. Other problems</a><br/>
  66
  67 <h1 id="Contentdetail">Detailed Contents</h1>
  68
  69 <h2 id="C_G">General problems</h2>
  70
  71 <a href="#G1">G1. What is fetchmail and why should I bother?</a><br/>
  72 <a href="#G2">G2. Where do I find the latest FAQ and fetchmail sources?</a><br/>
  73 <a href="#G3">G3. I think I've found a bug. Will you fix it?</a><br/>
  74 <a href="#G4">G4. I have this idea for a neat feature. Will you add it?</a><br/>
  75 <a href="#G5">G5. I want to make fetchmail behave like Outlook Express.</a><br/>
  76 <a href="#G6">G6. Is there a mailing list for exchanging tips?</a><br/>
  77 <a href="#G7">G7. So, what's this I hear about a fetchmail paper?</a><br/>
  78 <a href="#G8">G8. What is the best server to use with fetchmail?</a><br/>
  79 <a href="#G9">G9. What is the best mail program to use with fetchmail?</a><br/>
  80 <a href="#G10">G10. How can I avoid sending my password en clair?</a><br/>
  81 <a href="#G11">G11. Is any special configuration needed to use a dynamic IP address?</a><br/>
  82 <a href="#G12">G12. Is any special configuration needed to use firewalls?</a><br/>
  83 <a href="#G13">G13. Is any special configuration needed to <em>send</em> mail?</a><br/>
  84 <a href="#G14">G14. Is fetchmail Y2K-compliant?</a><br/>
  85 <a href="#G15">G15. Is there a way in fetchmail to support disconnected IMAP mode?</a><br/>
  86 <a href="#G16">G16. How will fetchmail perform under heavy loads?</a><br/>
  87
  88
  89 <h2 id="C_B">Build-time problems</h2>
  90
  91 <a href="#B1"><strike>B1. Make coughs and dies when building on FreeBSD.</strike></a><br/>
  92 <a href="#B2">B2. Lex bombs out while building the fetchmail lexer.</a><br/>
  93 <a href="#B3">B3. I get link failures when I try to build fetchmail.</a><br/>
  94 <a href="#B4">B4. I get build failures in the intl directory.</a><br/>
  95
  96 <h2 id="C_F">Fetchmail configuration file grammar questions</h2>
  97
  98 <a href="#F1">F1. Why does my old .fetchmailrc no longer work?</a><br/>
  99 <a href="#F2">F2. The .fetchmailrc parser won't accept my all-numeric user name.</a><br/>
 100 <a href="#F3">F3. The .fetchmailrc parser won't accept my host or username beginning with 'no'.</a><br/>
 101 <a href="#F4">F4. I'm getting a 'parse error' message I don't understand.</a><br/>
 102
 103 <h2 id="C_C">Configuration questions</h2>
 104
 105 <a href="#C1">C1. Why do I need a .fetchmailrc when running as root
 106 on my own machine?</a><br/>
 107 <a href="#C2">C2. How can I arrange for a fetchmail daemon to get
 108 killed when I log out?</a><br/>
 109 <a href="#C3">C3. How do I know what interface and address to use
 110 with --interface?</a><br/>
 111 <a href="#C4">C4. How can I set up support for sendmail's anti-spam
 112 features?</a><br/>
 113 <a href="#C5">C5. How can I poll some of my mailboxes more/less
 114 often than others?</a><br/>
 115 <a href="#C6">C6. Fetchmail works OK started up manually, but not
 116 from an init script.</a><br/>
 117 <a href="#C7">C7. How can I forward mail to another
 118 host?.</a><br/>
 119
 120
 121 <h2 id="C_T">How to make fetchmail play nice with various MTAs</h2>
 122
 123 <a href="#T1">T1. How can I use fetchmail with sendmail?</a><br/>
 124 <a href="#T2">T2. How can I use fetchmail with qmail?</a><br/>
 125 <a href="#T3">T3. How can I use fetchmail with exim?</a><br/>
 126 <a href="#T4">T4. How can I use fetchmail with smail?</a><br/>
 127 <a href="#T5">T5. How can I use fetchmail with SCO's MMDF?</a><br/>
 128 <a href="#T6">T6. How can I use fetchmail with Lotus Notes?</a><br/>
 129 <a href="#T7">T7. How can I use fetchmail with Courier IMAP?</a><br/>
 130 <a href="#T8">T8. How can I use fetchmail with vbmailshield?</a><br/>
 131
 132 <h2 id="C_S">How to make fetchmail work with various servers</h2>
 133
 134 <a href="#S1"><strike>S1. How can I use fetchmail with qpopper?</strike></a><br/>
 135 <a href="#S2">S2. How can I use fetchmail with Microsoft Exchange?</a><br/>
 136 <a href="#S3">S3. How can I use fetchmail with HP OpenMail?</a><br/>
 137 <a href="#S4">S4. How can I use fetchmail with Novell GroupWise?</a><br/>
 138 <a href="#S5">S5. How can I use fetchmail with InterChange?</a><br/>
 139 <a href="#S6">S6. How can I use fetchmail with MailMax?</a><br/>
 140 <a href="#S7">S7. How can I use fetchmail with FTGate?</a><br/>
 141
 142 <h2 id="C_I">How to fetchmail work with specific ISPs</h2>
 143
 144 <a href="#I1">I1. How can I use fetchmail with Compuserve RPA?</a><br/>
 145 <a href="#I2">I2. How can I use fetchmail with Demon Internet's SDPS?</a><br/>
 146 <a href="#I3">I3. How can I use fetchmail with usa.net's servers?</a><br/>
 147 <a href="#I4">I4. How can I use fetchmail with geocities POP3 servers?</a><br/>
 148 <a href="#I5">I5. How can I use fetchmail with Hotmail or Lycos Webmail?</a><br/>
 149 <a href="#I6">I6. How can I use fetchmail with MSN?</a><br/>
 150 <a href="#I7">I7. How can I use fetchmail with SpryNet?</a><br/>
 151 <a href="#I8">I8. How can I use fetchmail with comcast.net or other
 152     Maillennium servers?</a><br/>
 153
 154 <h2 id="C_K">How to set up well-known security and authentication
 155 methods</h2>
 156
 157 <a href="#K1">K1. How can I use fetchmail with SOCKS?</a><br/>
 158 <a href="#K2">K2. How can I use fetchmail with IPv6 and IPsec?</a><br/>
 159 <a href="#K3">K3. How can I get fetchmail to work with ssh?</a><br/>
 160 <a href="#K4">K4. What do I have to do to use the IMAP-GSS protocol?</a><br/>
 161 <a href="#K5">K5. How can I use fetchmail with SSL?</a><br/>
 162 <a href="#K6">K6. How can I tell fetchmail not to try TLS if the server
 163     advertises it? Why does fetchmail use SSL even though not configured?</a><br/>
 164
 165 <h2 id="C_R">Runtime fatal errors</h2>
 166
 167 <a href="#R1">R1. Fetchmail isn't working, and -v shows 'SMTP
 168 connect failed' messages.</a><br/>
 169 <a href="#R2">R2. When I try to configure an MDA, fetchmail doesn't
 170 work.</a><br/>
 171 <a href="#R3">R3. Fetchmail dumps core when given an invalid rc
 172 file.</a><br/>
 173 <a href="#R4"><strike>R4. Fetchmail dumps core in -V mode, but operates
 174     normally otherwise.</strike></a><br/>
 175 <a href="#R5">R5. Running fetchmail in daemon mode doesn't
 176 work.</a><br/>
 177 <a href="#R6">R6. Fetchmail randomly dies with socket errors.</a><br/>
 178 <a href="#R7">R7. Fetchmail running as root stopped working after
 179 an OS upgrade</a><br/>
 180 <a href="#R8">R8. Fetchmail is timing out after fetching certain
 181 messages but before deleting them</a><br/>
 182 <a href="#R9">R9. Fetchmail is timing out during message fetches</a><br/>
 183 <a href="#R10">R10. Fetchmail is dying with SIGPIPE.</a><br/>
 184 <a href="#R11">R11. My server is hanging or emitting errors on CAPA.</a><br/>
 185 <a href="#R12">R12. Fetchmail isn't working and reports getaddrinfo
 186     errors.</a><br />
 187 <a href="#R13">R13. What does "Interrupted system call" mean?</a>
 188
 189 <h2 id="C_H">Hangs and lockups</h2>
 190
 191 <a href="#H1">H1. Fetchmail hangs when used with pppd.</a><br/>
 192 <a href="#H2">H2. Fetchmail hangs during the MAIL FROM
 193 exchange.</a><br/>
 194 <a href="#H3">H3. Fetchmail hangs while fetching mail.</a><br/>
 195
 196
 197 <h2 id="C_D">Disappearing mail</h2>
 198
 199 <a href="#D1">D1. I think I've set up fetchmail correctly, but I'm
 200 not getting any mail.</a><br/>
 201 <a href="#D2">D2. All my mail seems to disappear after a dropped
 202 connection.</a><br/>
 203 <a href="#D3">D3. Mail that was being fetched when I interrupted my
 204 fetchmail seems to have been vanished.</a><br/>
 205
 206
 207 <h2 id="C_M">Multidrop-mode problems</h2>
 208
 209 <a href="#M1">M1. I've declared local names, but all my multidrop
 210 mail is going to root anyway.</a><br/>
 211 <a href="#M2">M2. I can't seem to get fetchmail to route to a local
 212 domain properly.</a><br/>
 213 <a href="#M3">M3. I tried to run a mailing list using multidrop,
 214 and I have a mail loop!</a><br/>
 215 <a href="#M4">M4. My multidrop fetchmail seems to be having DNS
 216 problems.</a><br/>
 217 <a href="#M5">M5. I'm seeing long DNS delays before each message is
 218 processed.</a><br/>
 219 <a href="#M6">M6. How do I get multidrop mode to work with
 220 majordomo?</a><br/>
 221 <a href="#M7">M7. Multidrop mode isn't parsing envelope addresses
 222 from my Received headers as it should.</a><br/>
 223 <a href="#M8">M8. Users are getting multiple copies of
 224 messages.</a><br/>
 225
 226
 227 <h2 id="C_X">Mangled mail</h2>
 228
 229 <a href="#X1">X1. Spurious blank lines are appearing in the headers
 230 of fetched mail.</a><br/>
 231 <a href="#X2">X2. My mail client can't see a Subject
 232 line.</a><br/>
 233 <a href="#X3">X3. Messages containing "From" at start of line are
 234 being split.</a><br/>
 235 <a href="#X4">X4. My mail is being mangled in a new and different
 236 way.</a><br/>
 237 <a href="#X5">X5. Using POP3, retrievals seems to be fetching too
 238 much!</a><br/>
 239 <a href="#X6">X6. My mail attachments are being dropped or
 240 mangled.</a><br/>
 241 <a href="#X7">X7. Some mail attachments are hanging
 242 fetchmail.</a><br/>
 243 <a href="#X8">X8. A spurious ) is being appended to my
 244 messages.</a><br/>
 245 <a href="#X9">X9. Missing "Content-Transfer-Encoding" header
 246 with Domino IMAP</a><br/>
 247 <h2 id="C_O">Other problems</h2>
 248
 249 <a href="#O1">O1. The --logfile option doesn't work if the logfile
 250 doesn't exist.</a><br/>
 251 <a href="#O2">O2. Every time I get a POP or IMAP message the header
 252 is dumped to all my terminal sessions.</a><br/>
 253 <a href="#O3">O3. Does fetchmail reread its rc file every poll
 254 cycle?</a><br/>
 255 <a href="#O4">O4. Why do deleted messages show up again when I take
 256 a line hit while downloading?</a><br/>
 257 <a href="#O5">O5. Why is fetched mail being logged with my name,
 258 not the real From address?</a><br/>
 259 <a href="#O6">O6. I'm seeing long sendmail delays or hangs near the
 260 start of each poll cycle.</a><br/>
 261 <a href="#O7">O7. Why doesn't fetchmail deliver mail in date-sorted
 262 order?</a><br/>
 263 <a href="#O8">O8. I'm using pppd. Why isn't my monitor option
 264 working?</a><br/>
 265 <a href="#O9">O9. Why does fetchmail keep retrieving the same
 266 messages over and over?</a><br/>
 267 <a href="#O10">O10. Why is the received date on all my messages the
 268 same?</a><br/>
 269 <a href="#O11">O11. I keep getting messages that say "Repoll
 270 immediately" in my logs.</a><br/>
 271 <a href="#O12">O12. Fetchmail no longer expunges mail on a 451 SMTP response.</a><br/>
 272 <a href="#O13">O13. I want timestamp information in my fetchmail logs.</a><br/>
 273 <a href="#O14">O14. Fetchmail no longer deletes oversized mails with
 274     --flush.</a><br/>
 275 <a href="#O15">O15. Fetchmail always retains the first message in the
 276     mailbox.</a><br/>
 277 <a href="#O16">O16. Why is the Fetchmail FAQ only available in
 278         ISO-216 A4 format? How do I get the FAQ in Letter
 279         format?</a><br/>
 280
 281 <hr/>
 282 <h1 id="G">General problems</h1>
 283 <h2><a id="G1" name="G1">G1. What is fetchmail and why should I
 284 bother?</a></h2>
 285
 286 <p>Fetchmail is a one-stop solution to the remote mail retrieval
 287 problem for Unix machines, quite useful to anyone with an
 288 intermittent or dynamic-IP connection to a remote mailserver, SLIP or
 289 PPP dialup, or leased line when SMTP isn't desired. Fetchmail can
 290 collect mail using any variant of POP or IMAP and forwards to a the
 291 local SMTP (via TCP socket) or LMTP (via TCP or Unix socket) listener or
 292 into an MDA program, enabling all the normal
 293 forwarding/filtering/aliasing mechanisms that would apply to local mail
 294 or mail arriving via a full-time TCP/IP connection.</p>
 295
 296 <p>Fetchmail is not a toy or a coder's learning exercise, but an
 297 industrial-strength tool capable of transparently handling every
 298 retrieval demand from those of a simple single-user ISP connection
 299 up to mail retrieval and rerouting for an entire client domain.
 300 Fetchmail is easy to configure, unobtrusive in operation, powerful,
 301 feature-rich, and well documented.</p>
 302
 303 <p>Fetchmail is <a href="http://www.opensource.org/">Open Source</a>
 304 Software. The openness of the sources enables you to review and
 305 customize the code, and contribute your changes.</p>
 306
 307 <p>A former fetchmail maintainer once claimed that Open Source software
 308 were the strongest quality assurance, but the current maintainers do not
 309 believe that open source alone is a criterion for quality &ndash; <a
 310     href="fetchmail-SA-2005-01.txt">the remotely exploitable POP3
 311     vulnerability (CVE-2005-2335)</a> lingered undiscovered in
 312 fetchmail's code for years, which is a hint that open source code does
 313 not audit itself.</p>
 314
 315 <p>Fetchmail is licensed under the <a
 316 href="http://www.gnu.org/copyleft/gpl.html">GNU General Public
 317 License</a>.</p>
 318
 319 <p>If you found this FAQ in the distribution, see the README for
 320 fetchmail's full feature list.</p>
 321
 322 <h2><a id="G2" name="G2">G2. Where do I find the latest FAQ and
 323 fetchmail sources?</a></h2>
 324
 325 <p>The latest HTML FAQ is available alongside the latest fetchmail
 326 sources at the fetchmail home page: <a
 327 href="http://www.fetchmail.info/">http://www.fetchmail.info/</a>.
 328 You can also usually find both in the <a
 329 href="http://www.ibiblio.org/pub/Linux/system/mail/pop/!INDEX.short.html">
 330 POP mail tools directory on iBiblio</a>.</p>
 331
 332 <p>A text dump of this FAQ is included in the fetchmail
 333 distribution. Because it freezes at distribution release time, it
 334 may not be completely current.</p>
 335
 336 <h2><a id="G3" name="G3">G3. I think I've found a bug. Will you fix
 337 it?</a></h2>
 338
 339 <p>The first thing you should to is to upgrade to the newest version of
 340 fetchmail, and then see if the problem reproduces. So you'll probably
 341 save us both time if you upgrade and test with <a href="#G2">the latest
 342     version</a> <em>before</em> sending in a bug report.</p>
 343
 344 <p>Bugs will be fixed, provided you include enough diagnostic information
 345 for me to go on. Send bugs to <a
 346 href="mailto:fetchmail-users@lists.berlios.de">fetchmail-users</a>.
 347 When reporting bugs, please include the following:</p>
 348
 349 <ol>
 350 <li>Your operating system.</li>
 351
 352 <li>Your compiler version, if you built from source; otherwise, the
 353 name and origin of the RPM or other binary package you
 354 installed.</li>
 355
 356 <li>A copy of your POP or IMAP server's greeting line.</li>
 357
 358 <li>The name and version of the SMTP listener or MDA you are
 359 forwarding to.</li>
 360
 361 <li>Any command-line options you used.</li>
 362
 363 <li>The output of fetchmail -V called with whatever other
 364 command-line options you used.</li>
 365 </ol>
 366
 367 <p>If you have FTP access to your remote mail account, and you have
 368 any suspicion that the bug was triggered by a particular message,
 369 please include a copy of the message that triggered the bug.</p>
 370
 371 <p>If your bug is something that used to work but stopped working
 372 when you upgraded, then you can help pin the bug down by trying <a
 373 href="http://download.berlios.de/fetchmail/">intermediate versions
 374 of fetchmail</a> until you identify the revision that broke your
 375 feature. The smart way to do this is by binary search on the
 376 version sequence. First, try the version halfway between your last
 377 good one and the current one. If it works, the failure was
 378 introduced in the upper half of the sequence; if it doesn't, the
 379 failure was introduced in the lower half. Now bisect that half in
 380 the same way. In a very few tries, you should be able to identify
 381 the exact adjacent pair of versions between which your bug was
 382 introduced &ndash; and with information like that, I can usually come up
 383 with a fix very quickly.</p>
 384
 385 <p>Another useful thing you can do, if you're using POP3, is to
 386 test for IMAP4 support on your mailserver using the autoprobe
 387 function of fetchmailconf. If you have IMAP4, and fetchmailconf
 388 doesn't tell you it's broken, switch immediately. POP3 is a weak,
 389 poorly-designed protocol with chronic problems, and the later
 390 versions after RFC1725 actually get worse rather than better.
 391 Changing over to IMAP4 may well make your problem go away &ndash; and if
 392 your ISP doesn't have IMAP4 support, bug them to supply it.</p>
 393
 394 <p>It is helpful if you include your .fetchmailrc file, but not
 395 necessary unless your symptom seems to involve an error in
 396 configuration parsing. If you do send in your .fetchmailrc, mask
 397 the passwords first!</p>
 398
 399 <p>If fetchmail seems to run and fetch mail, but the headers look
 400 mangled (that is, headers are missing or blank lines are inserted
 401 in the headers) then read the FAQ items in section <a
 402 href="#X1">X</a> before submitting a bug report. Pay special
 403 attention to the item on <a href="#generic_mangling">diagnosing
 404 mail mangling</a>. There are lots of ways for other programs in the
 405 mail chain to screw up that look like fetchmail's fault, but you
 406 may be able to fix these by tweaking your configuration.</p>
 407
 408 <p>A transcript of the failed session with "--nosyslog --nodetach -vvv"
 409 (yes, that's <em>three</em> -v options, enabling debug mode) will almost
 410 always be useful. It is very important that the transcript include your
 411 POP/IMAP server's greeting line, so I can identify it in case of server
 412 problems. This transcript will not reveal your passwords, which are
 413 specially masked out precisely so transcripts can be passed around.</p>
 414
 415 <p>If you upgraded your fetchmail and something broke, you should
 416 include session transcripts with "--nosyslog --nodetach -vvv" of both
 417 the working and failing versions. Very often, the source of the problem
 418 can instantly identified by looking at the differences in protocol
 419 transactions.</p>
 420
 421 <p>If the bug involves a core dump or hang, a gdb stack trace is
 422 good to have. (Bear in mind that you can attach gdb to a running
 423 but hung process by giving the process ID as a second argument.)
 424 You will need to reconfigure with:</p>
 425
 426 <pre>
 427 CFLAGS=-g LDFLAGS=" " ./configure
 428 </pre>
 429
 430 <p>Then rebuild in order to generate a version that can be
 431 traced with a debugger such as gdb, dbx or idb.</p>
 432
 433 <p>Best of all is a mail file which, when fetched, will reproduce
 434 the bug under the latest (current) version.</p>
 435
 436 <p>Any bug I can reproduce will usually get fixed quite quickly.
 437 Bugs I can't reproduce are a crapshoot. If the solution isn't obvious
 438 when I first look, it may evade me for a long time (or to put it another
 439 way, fetchmail is well enough tested that the easy bugs have long since
 440 been found). So if you want your bug fixed rapidly, it is not just
 441 sufficient but <em>necessary</em> that you give me a way to
 442 easily reproduce it.</p>
 443
 444 <h2><a id="G4" name="G4">G4. I have this idea for a neat feature.
 445 Will you add it?</a></h2>
 446
 447 <p>If it's reasonable for fetchmail and cannot be solved with reasonable
 448 effort outside of fetchmail, perhaps.</p>
 449
 450 <p>You can do spam filtering better with procmail or maildrop on
 451 the server side and (if you're the server sysadmin) sendmail.cf
 452 domain exclusions. If you really want fetchmail to do it from the
 453 client side, use a <code>preconnect</code> command to call
 454 <a href='http://mailfilter.sourceforge.net/'>mailfilter</a>.</p>
 455
 456 <p>You can do other policy things better with the
 457 <code>mda</code> option and script wrappers around fetchmail. If
 458 it's a prime-time-vs.-non-prime-time issue, ask yourself whether a
 459 wrapper script called from crontab would do the job.</p>
 460
 461 <p>fetchmail's first job is transport though, and it should do this
 462 well. If a feature would cause fetchmail to deteriorate in other
 463 respects, the feature will probably not be added.</p>
 464
 465 <p>For reasons fetchmail doesn't have other commonly-requested
 466 features (such as password encryption, or multiple concurrent polls
 467 from the same instance of fetchmail) see <a
 468 href="esrs-design-notes.html">ESR's design
 469 notes</a>. Note that this document is partially obsoleted by the
 470 <a href="design-notes.html">updated design notes.</a></p>
 471
 472 <h2><a id="G5" name="G5">G5. I want to make fetchmail behave like
 473 Outlook Express.</a></h2>
 474
 475 <p>The second-most-requested feature for fetchmail, after
 476 content-based filtering, is the ability to have it remove messages
 477 from a maildrop after N days, typically to be used with the
 478 <code>keep</code> option as a sort of poor man's newsgroup
 479 facility. Microsoft's Outlook Express supports this.</p>
 480
 481 <p>This feature is not yet implemented. It may be at a future date,
 482 spare time of developers permitting.</p>
 483
 484 <h2><a id="G6" name="G6">G6. Is there a mailing list for exchanging
 485 tips?</a></h2>
 486
 487 <p>There is a fetchmail-users list
 488 &lt;fetchmail-users@lists.berlios.de&gt;
 489 for bug reports and people who want to discuss configuration issues of
 490 fetchmail. It's a Mailman list, see <a
 491     href="http://lists.berlios.de/mailman/listinfo/fetchmail-users">http://lists.berlios.de/mailman/listinfo/fetchmail-users</a>.</p>
 492 <p>There is a fetchmail-devel list
 493 &lt;fetchmail-devel@lists.berlios.de&gt; for people who want to discuss
 494 fixes and improvements in fetchmail and help co-develop it. It's a
 495 Mailman list, which you can sign up for at <a
 496 href="http://lists.berlios.de/mailman/listinfo/fetchmail-devel">http://lists.berlios.de/mailman/listinfo/fetchmail-devel</a>.
 497 There is also an announcements-only list,
 498 &lt;fetchmail-announce@lists.berlios.de&gt;, which you can sign up for at <a
 499 href="http://lists.berlios.de/mailman/listinfo/fetchmail-announce">http://lists.berlios.de/mailman/listinfo/fetchmail-announce</a>.</p>
 500
 501 <h2><a id="G7" name="G7">G7. So, what's this I hear about a
 502 fetchmail paper?</a></h2>
 503
 504 <p>Eric S. Raymond also considered fetchmail development a sociological
 505 experiment, an extended test to see if my theory about the critical
 506 features of the Linux development model is correct.</p>
 507
 508 <p>He considers the experiment a success. He wrote a paper about it titled <a
 509 href="http://www.catb.org/~esr/writings/cathedral.html">The
 510 Cathedral and the Bazaar</a> which was first presented at Linux
 511 Kongress '97 in Bavaria and very well received there. It was also
 512 given at Atlanta Linux Expo, Linux Pro '97 in Warsaw, and the first
 513 Perl Conference, at UniForum '98, and was the basis of an invited
 514 presentation at Usenix '98. The folks at Netscape told ESR it helped
 515 them decide to <a
 516 href="http://wp.netscape.com/newsref/pr/newsrelease558.html">give
 517 away the source for Netscape Communicator</a>.</p>
 518
 519 <p>If you're reading a non-HTML dump of this FAQ, you can find the
 520 paper on the Web with a search for that title.</p>
 521
 522 <h2><a id="G8" name="G8">G8. What is the best server to use with
 523 fetchmail?</a></h2>
 524
 525 <p>Fetchmail will work with any POP, IMAP, ETRN, or ODMR server
 526 that conforms to the relevant standards/RFCs (and even some outright
 527 broken ones like <a href="#S2">Microsoft Exchange</a> and <a
 528     href="#S6">Novell GroupWise</a>). This doesn't mean it works equally
 529 well with all, however. POP2 servers, and POP3 servers without UIDL,
 530 limit fetchmail's capabilities in various ways described on the manual
 531 page.</p>
 532
 533 <p>Most modern Unixes (and effectively all Linux/*BSD systems) come
 534 with POP3 support preconfigured (but beware of the horribly broken
 535 POP3 server mentioned in <a href="#D2">D2</a>). An increasing
 536 minority also feature IMAP (you can detect IMAP support by using the
 537 'Probe for supported protocols' function in the fetchmailconf
 538 utility - unfortunately it does not detect SSL-wrapped variants).</p>
 539
 540 <p>If you have the option, we recommend using or installing an
 541 IMAP4rev1 or UIDL- and TOP-capable POP3 server. IMAP enables some
 542 significant performance optimizations.</p>
 543
 544 <p>Don't be fooled by NT/Exchange propaganda. M$ Exchange is just
 545 plain broken (see item <a href="#S2">S2</a>) and NT cannot handle
 546 the sustained load of a high-volume remote mail server. Even
 547 Microsoft itself knows better than to try this; their own Hotmail
 548 service runs over Solaris! For extended discussion, see John
 549 Kirch's excellent <a href="http://unix-vs-nt.org/kirch/">white
 550 paper</a> on Unix vs. NT performance.</p>
 551
 552 <p>A decent POP3/IMAP server that has recently become popular is <a
 553     href="http://dovecot.org/">Dovecot</a>.</p>
 554
 555 <p>Avoid <a href="http://home.pages.de/~mandree/qmail-bugs.html">qmail,
 556     it's broken and unmaintained.</a></p>
 557
 558 <h2><a id="G9" name="G9">G9. What is the best mail program to use
 559 with fetchmail?</a></h2>
 560
 561 <p>Fetchmail will work with all popular <a href="#T1">mail
 562 transport programs</a>. It also doesn't care which user agent you
 563 use, and user agents are as a rule almost equally indifferent to
 564 how mail is delivered into your system mailbox. So any of the
 565 popular Unix mail agents &ndash; <a
 566 href="http://www.instinct.org/elm/">elm</a>, <a
 567 href="http://www.washington.edu/pine/">pine</a>, <a
 568 href="http://www.cs.indiana.edu/docproject/mail/mh.html">mh</a>, or
 569 <a href="http://www.mutt.org">mutt</a> &ndash; will work fine with
 570 fetchmail.</p>
 571
 572 <p>All this having been said, I can't resist putting in a discreet
 573 plug for <a href="http://www.mutt.org">mutt</a>.  Mutt's interface
 574 is only a little different from that of its now-moribund ancestor
 575 elm, but its flexibility and excellent handling of MIME and PGP put it
 576 in a class by itself. You won't need its built-in POP3 support, though.
 577 </p>
 578
 579 <h2><a id="G10" name="G10">G10. How can I avoid sending my password
 580 en clair?</a></h2>
 581
 582 <p>Depending on what your mail server you are talking to, this
 583 ranges from trivial to impossible. It may even be next to
 584 useless.</p>
 585
 586 <p>In general there is little point in trying to secure your fetchmail
 587 transaction unless you trust the security of the server host you are
 588 retrieving mail from. Your vulnerability is more likely to be an
 589 insecure local network on the server end (e.g. to somebody with a
 590 TCP/IP packet sniffer intercepting Ethernet traffic between the modem
 591 concentrator or DSL POP you dial in to and the mailserver host).</p>
 592
 593 <p>Having realized this, you need to ask whether password
 594 encryption alone will really address your security exposure. If you
 595 think you might be snooped between server and client, it's better
 596 to use end-to-end encryption such as GnuPG (see below) on your whole
 597 mail stream so none of it can be read. One of the advantages of
 598 fetchmail over conventional SMTP-push delivery is that you may be able
 599 to arrange encryption by using ssh(1); see <a href="#K3">K3</a>.</p>
 600
 601 <p>Note that ssh is not a complete privacy solution either, as your
 602 mail could have been snooped in transit to your POP server from
 603 wherever it originated. For best security, agree with your
 604 correspondents to use a tool such as <a
 605     href="http://www.gnupg.org/">GnuPG</a> (Gnu Privacy Guard) or PGP
 606 (Pretty Good Privacy).</p>
 607
 608 <p>If ssh/sshd isn't available, or you find it too complicated for
 609 you to set up, password encryption will at least keep a malicious
 610 cracker from deleting your mail, and require him to either tap your
 611 connection continuously or crack root on the server in order to
 612 read it.</p>
 613
 614 <p>You can deduce what encryptions your mail server has available
 615 by looking at the server greeting line (and, for IMAP, the response
 616 to a CAPABILITY query). Do a <code>fetchmail -v</code> to see
 617 these, or telnet direct to the server port (110 for POP3, 143 for
 618 IMAP).</p>
 619
 620 <p>If your mailserver is using IMAP 2000, it'll have CRAM-MD5
 621 support built in. Fetchmail autodetects this; you can skip the rest
 622 of this section.</p>
 623
 624 <p>The POP3 facility you are most likely to have available is APOP.
 625 This is a POP3 feature supported by many servers (fetchmailconf's
 626 autoprobe facility will detect it and tell you if you have it). If
 627 you see something in the greeting line that looks like an
 628 angle-bracket-enclosed Internet address with a numeric left-hand
 629 part, that's an APOP challenge (it will vary each time you log in).
 630 You can register a secret on the host (using
 631 <code>popauth(8)</code> or some program like it). Specify the
 632 secret as your password in your .fetchmailrc; it will be used to
 633 encrypt the current challenge, and the encrypted form will be sent
 634 back the the server for verification.</p>
 635
 636 <p>Alternatively, you may have Kerberos available. This may require
 637 you to set up some magic files in your home directory on your
 638 client machine, but means you can omit specifying any password at
 639 all.</p>
 640
 641 <p>Fetchmail supports two different Kerberos schemes. One is a POP3
 642 variant called KPOP; consult the documentation of your mail server
 643 to see if you have it (one clue is the string "krb-IV" in the
 644 greeting line on port 110). The other is an IMAP and POP3 facility
 645 described by RFC1731 and RFC1734. You can tell if this one is
 646 present by looking for AUTH=KERBEROS_V4 in the CAPABILITY
 647 response.</p>
 648
 649 <p>If you are fetching mail from a CompuServe POP3 account, you can
 650 use their RPA authentication (which works much like APOP). See <a
 651 href="#I1">I1</a> for details. If you are fetching mail from
 652 Microsoft Exchange using IMAP, you will be able to use NTLM.</p>
 653
 654 <p>Your POP3 server may have the RFC1938 OTP capability to use
 655 one-time passwords (if it doesn't, you can get OTP patches for the
 656 2.2 version of the Qualcomm popper from <a href="#cmetz">Craig
 657 Metz</a>). To check this, look for the string "otp-" in the
 658 greeting line. If you see it, and your fetchmail was built with
 659 OPIE support compiled in (see the distribution INSTALL file),
 660 fetchmail will detect it also. When using OTP, you will specify a
 661 password but it will not be sent en clair.</p>
 662
 663 <p>You can get both POP3 and IMAP OTP patches from <a id="cmetz"
 664 name="cmetz">Craig Metz</a> at <a
 665 href="http://www.inner.net/opie">http://www.inner.net/opie</a>.</p>
 666
 667 <p>These patches use a SASL authentication method named "X-OTP"
 668 because there is not currently a standard way to do this; fetchmail
 669 also uses this method, so the two will interoperate happily. They
 670 better, because this is how Craig gets his mail ;-)</p>
 671
 672 <p>Finally, you can use <a href="#K5">SSL</a> for complete
 673 end-to-end encryption if you have an SSL-enabled mailserver.</p>
 674
 675 <h2><a id="G11" name="G11">G11. Is any special configuration needed
 676 to use a dynamic IP address?</a></h2>
 677
 678 <p>Yes. In order to avoid giving indigestion to certain picky MTAs
 679 (notably <a href="#T3">exim</a>), fetchmail always makes the RCPT&nbsp;TO
 680 address it feeds the MTA a fully qualified one with a hostname
 681 part. Normally it does this by appending @ and "localhost", but
 682 when you are using Kerberos or ETRN mode it will append @ and your
 683 machine's fully-qualified domain name (FQDN).</p>
 684
 685 <p>Appending the FQDN can create problems when fetchmail is running
 686 in daemon mode and outlasts the dynamic IP address assignment your
 687 client machine had when it started up.</p>
 688
 689 <p>Since the new IP address (looked up at RCPT&nbsp;TO interpretation
 690 time) doesn't match the original, the most benign possible result
 691 is that your MTA thinks it's seeing a relaying attempt and refuses.
 692 More frequently, fetchmail will try to connect to a nonexistent
 693 host address and time out. Worst case, you could up forwarding your
 694 mail to the wrong machine!</p>
 695
 696 <p>Use the <code>smtpaddress</code> option to force the appended
 697 hostname to one with a (fixed) IP address of 127.0.0.1 in your
 698 <code>/etc/hosts</code>. (The name 'localhost' will usually work;
 699 or you can use the IP address itself.)</p>
 700
 701 <p>Only one fetchmail option interacts directly with your IP
 702 address, '<code>interface</code>'. This option can be used to set
 703 the gateway device and restrict the IP address range fetchmail will
 704 use. Such a restriction is sometimes useful for security reasons,
 705 especially on multihomed sites. See <a href="#C3">C3</a>.</p>
 706
 707 <p>I recommend against trying to set up the <code>interface</code>
 708 option when initially developing your poll configuration &ndash; it's
 709 never necessary to do this just to get a link working. Get the link
 710 working first, observe the actual address range you see on
 711 connections, and add an <code>interface</code> option (if you need
 712 one) later.</p>
 713
 714 <p>You can't use ETRN if you have a dynamic IP address (your ISP
 715 changes your IP address occasionally, possibly with every connect).
 716 You need to have your own registered domain and a definite IP
 717 address registered for that domain. The server needs to be
 718 configured to accept mail for your domain but then queue it to
 719 forward to your machine. ETRN just tells to server to flush its
 720 queue for your domain. Fetchmail doesn't actually get the mail in
 721 that case.</p>
 722
 723 <p>You can use On-Demand Mail Relay (ODMR) with a dynamic IP
 724 address; that's what it was designed for, and it provides
 725 capabilities very similar to ETRN. Unfortunately ODMR servers are
 726 still not yet widely deployed, as of 2006.</p>
 727
 728 <p>If you're using a dynamic-IP configuration, one other
 729 (non-fetchmail) problem you may run into with outgoing mail is that
 730 some sites will bounce your email because the hostname you're giving
 731 them isn't real (and doesn't match what they get doing a reverse
 732 DNS on your dynamically-assigned IP address). If this happens, you
 733 need to hack your sendmail so it masquerades as your host.
 734 Setting</p>
 735
 736 <pre>
 737 DMsmarthost.here
 738 </pre>
 739
 740 <p>in your <code>sendmail.cf</code> will work, or you can set</p>
 741
 742 <pre>
 743 MASQUERADE_AS(smarthost.here)
 744 </pre>
 745
 746 <p>in the m4 configuration and do a reconfigure. (In both cases,
 747 replace <code>smarthost.here</code> with the actual name of your
 748 mailhost.) See the <a
 749 href="http://www.lege.com/sendmail-FAQ.txt">sendmail FAQ</a> for
 750 more details.</p>
 751
 752 <h2><a id="G12" name="G12">G12. Is any special configuration needed
 753 to use firewalls?</a></h2>
 754
 755 <p>No. You can use fetchmail with SOCKS, the standard tool for
 756 indirecting TCP/IP through a firewall. You can find out about
 757 SOCKS, and download the SOCKS software including server and client
 758 code, at the <a href="http://www.socks.nec.com/">SOCKS distribution
 759 site</a>.</p>
 760
 761 <p>The specific recipe for using fetchmail with a firewall is at <a
 762 href="#K1">K1</a></p>
 763
 764 <h2><a id="G13" name="G13">G13. Is any special configuration needed
 765 to <em>send</em> mail?</a></h2>
 766
 767 <p>A user asks: but how do we send mail out to the POP3 server? Do
 768 I need to implement another tool or will fetchmail do this too?</p>
 769
 770 <p>Fetchmail only handles the receiving side. The sendmail or other
 771 preinstalled MTA on your client machine will handle sending mail
 772 automatically; it will ship mail that is submitted while the
 773 connection is active, and put mail that is submitted while the
 774 connection is inactive into the outgoing queue.</p>
 775
 776 <p>Normally, sendmail is also run periodically (every 15 minutes on
 777 most Linux systems) in a mode that tries to ship all the mail in
 778 the outgoing queue. If you have set up something like pppd to
 779 automatically dial out when your kernel is called to open a TCP/IP
 780 connection, this will ensure that the mail gets out.</p>
 781
 782 <h2><a id="G14" name="G14">G14. Is fetchmail
 783 Y2K-compliant?</a></h2>
 784
 785 <p>Fetchmail is fully Y2K-compliant.</p>
 786
 787 <p>Fetchmail could theoretically have problems when the 32-bit
 788 time_t counters roll over in 2038, but I doubt it. Timestamps
 789 aren't used for anything but log entry generation. Anyway, if you
 790 aren't running on a 64-bit machine by then, you'll deserve to
 791 lose.</p>
 792
 793 <h2><a id="G15" name="G15">G15. Is there a way in fetchmail to
 794 support disconnected IMAP mode?</a></h2>
 795
 796 <p>No. Fetchmail is a mail transport agent, best understood as a
 797 protocol gateway between POP3/IMAP servers and SMTP. Disconnected
 798 operation requires an elaborate interactive client. It's a very
 799 different problem.</p>
 800
 801 <h2><a id="G16" name="G16">G16. How will fetchmail perform under
 802 heavy loads?</a></h2>
 803
 804 <p>Fetchmail streams message bodies line-by-line; the most core it
 805 ever requires per message is enough memory to hold the RFC822
 806 header, and that storage is freed when body processing begins. It
 807 is, accordingly, quite economical in its use of memory. It will store
 808 the UID or UIDL data in core however, which can become considerable if
 809 you are keeping lots of messages on the server.</p>
 810
 811 <p>After startup time, a fetchmail running in daemon mode stats its
 812 configuration file once per poll cycle to see whether it has
 813 changed and should be rescanned. Other than that, a fetchmail in
 814 normal operation doesn't touch the disk at all; that job is left up
 815 to the MTA or MDA the fetchmail talks to.</p>
 816
 817 <p>Fetchmail's performance is usually bottlenecked by latency on
 818 the POP server or (less often) on the TCP/IP link to the server.
 819 This is not a problem readily solved by tuning fetchmail, or even
 820 by buying more TCP/IP capacity (which tends to improve bandwidth
 821 but not necessarily latency).</p>
 822
 823 <hr/>
 824 <h1>Build-time problems</h1>
 825 <h2><a id="B1" name="B1"><strike>B1. Make coughs and dies when building on
 826 FreeBSD.</strike></a></h2>
 827
 828 <p style="font-style:italic;">As of release 6.3.0, fetchmail's
 829 Makefile[.in] should work flawlessly with BSD's portable make used on
 830 FreeBSD. With older releases, use GNU make (usually installed as
 831 <code>gmake</code>; otherwise try <kbd>pkg_add -r gmake</kbd>).</p>
 832
 833 <h2><a id="B2" name="B2">B2. Lex bombs out while building the
 834 fetchmail lexer.</a></h2>
 835
 836 <p>fetchmail 6.3.0 and newer ship with the lexer and parser in .c
 837 formats, so you do not need to use lex unless you hacked the .l or .y
 838 files.</p>
 839
 840 <p>fetchmail's lexer has been developed with GNU flex and uses some of
 841 its specialties, so the lexer cannot be compiled with the lex tools
 842 shipped by some UNIX vendors (HP, SGI, Sun).</p>
 843
 844 <h2><a id="B3" name="B3">B3. I get link failures when I try to
 845 build fetchmail.</a></h2>
 846
 847 <p>If you get errors resembling these:</p>
 848
 849 <pre>
 850 mxget.o(.text+0x35): undefined referenceto '__res_search'
 851 mxget.o(.text+0x99): undefined reference to '__dn_skipname'
 852 mxget.o(.text+0x11c): undefined reference to '__dn_expand'
 853 mxget.o(.text+0x187): undefined reference to '__dn_expand'
 854 make: *** [fetchmail] Error 1
 855 </pre>
 856
 857 <p>then you must add "-lresolv" to the LOADLIBS line in your
 858 Makefile once you have installed the 'bind' package.</p>
 859
 860 <p>If you get link errors involving <tt>dcgettext</tt>, like
 861 these:</p>
 862
 863 <pre>
 864 rcfile_y.o: In function 'yyparse':
 865 rcfile_y.o(.text+0x3aa): undefined reference to 'dcgettext__'
 866 rcfile_y.o(.text+0x4f2): undefined reference to 'dcgettext__'
 867 rcfile_y.o(.text+0x5ee): undefined reference to 'dcgettext__'
 868 rcfile_y.o: In function 'yyerror':
 869 rcfile_y.o(.text+0xc7c): undefined reference to 'dcgettext__'
 870 rcfile_y.o(.text+0xcc8): undefined reference to 'dcgettext__'
 871 rcfile_y.o(.text+0xdf9): more undefined references to 'dcgettext__' follow
 872 </pre>
 873
 874 <p>install an up to date version of GNU gettext, reconfigure and rebuild
 875 fetchmail. If that does not help, reconfigure with '--disable-nls' added
 876 to the "./configure" command and rebuild.</p>
 877
 878 <h2><a id="B4" name="B4">B4. I get build failures in the intl
 879 directory.</a></h2>
 880
 881 <p>Reconfigure with <tt>--disable-nls</tt> and recompile.</p>
 882
 883 <hr/>
 884 <h1>Fetchmail configuration file grammar questions</h1>
 885 <h2><a id="F1" name="F1">F1. Why does my old .fetchmailrc file no
 886 longer work?</a></h2>
 887
 888 <h3>If your file predates 6.3.0</h3>
 889
 890 <p>The <tt>netsec</tt> option was discontinued and needs to be
 891 removed.</p>
 892
 893 <h3>If your file predates 5.8.9</h3>
 894
 895 <p>If you were using ETRN mode, change your <tt>smtphost</tt>
 896 option to a <tt>fetchdomains</tt> option.</p>
 897
 898 <h3>If your file predates 5.8.3</h3>
 899
 900 <p>The <tt>'via localhost'</tt> special case for use with ssh tunnelling is
 901 gone. Use the <tt>%h</tt> feature of <tt>plugin</tt> instead.</p>
 902
 903 <h3>If your file predates 5.6.8</h3>
 904
 905 <p>In 5.6.8, the <tt>preauth</tt> keyword and option were changed
 906 back to <tt>auth</tt>. The <tt>preauth</tt> synonym will still be
 907 supported through a few more point releases.</p>
 908
 909 <h3>If your file predates 5.6.5</h3>
 910
 911 <p>The <tt>imap-gss</tt>, <tt>imap-k4</tt>, and <tt>imap-login</tt>
 912 protocol types are gone. This is a result of a major re-factoring
 913 of the authentication machinery; fetchmail can now use Kerberos V4
 914 and GSSAPI not just with IMAP but with POP3 servers that have
 915 RFC1734 support for the AUTH command.</p>
 916
 917 <p>When trying to identify you to an IMAP or POP mailserver,
 918 fetchmail now first tries methods that don't require a password
 919 (GSSAPI, KERBEROS_IV); then it looks for methods that mask your
 920 password (CRAM-MD5, X-OTP); and only if it the server doesn't
 921 support any of those will it ship your password en clair.</p>
 922
 923 <p>Setting the <tt>preauth</tt> option to any value other than
 924 'password' will prevent from looking for a password in your
 925 <tt>.netrc</tt> file or querying for it at startup time.</p>
 926
 927 <h3>If your file predates 5.1.0</h3>
 928
 929 <p>In 5.1.0, the <tt>auth</tt> keyword and option were changed to
 930 <tt>preauth</tt>.</p>
 931
 932 <h3>If your file predates 4.5.5</h3>
 933
 934 <p>If the <code>dns</code> option is on (the default), you may need
 935 to make sure that any hostname you specify (for mail hosts or for
 936 an SMTP target) is a canonical fully-qualified hostname). In order
 937 to avoid DNS overhead and complications, fetchmail no longer tries
 938 to derive the fetchmail client machine's canonical DNS name at
 939 startup.</p>
 940
 941 <h3>If your file predates 4.0.6:</h3>
 942
 943 <p>Just after the '<code>via</code>' option was introduced, I
 944 realized that the interactions between the '<code>via</code>',
 945 '<code>aka</code>', and '<code>localdomains</code>' options were
 946 out of control. Their behavior had become complex and confusing, so
 947 much so that I was no longer sure I understood it myself. Users
 948 were being unpleasantly surprised.</p>
 949
 950 <p>Rather than add more options or crock the code, I re-thought it.
 951 The redesign simplified the code and made the options more
 952 orthogonal, but may have broken some complex multidrop
 953 configurations.</p>
 954
 955 <p>Any multidrop configurations that depended on the name just
 956 after the '<code>poll</code>' or '<code>skip</code>' keyword being
 957 still interpreted as a DNS name for address-matching purposes, even
 958 in the presence of a '<code>via</code>' option, will break.</p>
 959
 960 <p>It is theoretically possible that other unusual configurations
 961 (such as those using a non-FQDN poll name to generate Kerberos IV
 962 tickets) might also break; the old behavior was sufficiently murky
 963 that we can't be sure. If you think this has happened to you,
 964 contact the maintainer.</p>
 965
 966 <h3>If your file predates 3.9.5:</h3>
 967
 968 <p>The '<code>remote</code>' keyword has been changed to
 969 '<code>folder</code>'. If you try to use the old keyword, the
 970 parser will utter a warning.</p>
 971
 972 <h3>If your file predates 3.9:</h3>
 973
 974 <p>It could be because you're using a .fetchmailrc that's written
 975 in the old popclient syntax without an explicit
 976 '<code>username</code>' keyword leading the first user entry
 977 attached to a server entry.</p>
 978
 979 <p>This error can be triggered by having a user option such as
 980 '<code>keep</code>' or '<code>fetchall</code>' before the first
 981 explicit username. For example, if you write</p>
 982
 983 <pre>
 984 poll openmail protocol pop3
 985     keep user "Hal DeVore" there is hdevore here
 986 </pre>
 987
 988 <p>the '<code>keep</code>' option will generate an entire user
 989 entry with the default username (the name of fetchmail's invoking
 990 user).</p>
 991
 992 <p>The popclient compatibility syntax was removed in 4.0. It
 993 complicated the configuration file grammar and confused users.</p>
 994
 995 <h3>If your file predates 2.8:</h3>
 996
 997 <p>The '<code>interface</code>', '<code>monitor</code>' and
 998 '<code>batchlimit</code>' options changed after 2.8.</p>
 999
1000 <p>They used to be global options with '<code>set</code>' syntax
1001 like the batchlimit and logfile options. Now they're per-server
1002 options, like '<code>protocol</code>'.</p>
1003
1004 <p>If you had something like</p>
1005
1006 <pre>
1007     set interface = "sl0/10.0.2.15"
1008 </pre>
1009
1010 <p>in your .fetchmailrc file, simply delete that line and insert
1011 'interface sl0/10.0.2.15' in the server options part of your
1012 'defaults' declaration.</p>
1013
1014 <p>Do similarly for any '<code>monitor</code>' or
1015 '<code>batchlimit</code>' options.</p>
1016
1017 <h2><a id="F2" name="F2">F2. The .fetchmailrc parser won't accept
1018 my all-numeric user name.</a></h2>
1019
1020 <p>Either upgrade to a post-5.0.5 fetchmail or put string quotes
1021 around it. :-)</p>
1022
1023 <p>The configuration file parser in older fetchmail versions
1024 treated any all-numeric token as a number, which confused it when
1025 it was expecting a name. String quoting forces the token's
1026 class.</p>
1027
1028 <p>The lexical analyzer in 5.0.6 and beyond is smarter and assumes
1029 any token following "username" or "password" is a string.</p>
1030
1031 <h2><a id="F3" name="F3">F3. The .fetchmailrc parser won't accept
1032 my host or username beginning with 'no'.</a></h2>
1033
1034 <p>See <a href="#F2">F2</a>. You're caught in an unfortunate crack
1035 between the newer-style syntax for negated options ('no keep', 'no
1036 rewrite' etc.) and the older style run-on syntax ('nokeep',
1037 'norewrite' etc.).</p>
1038
1039 <p>Upgrade to a 5.0.6 or later fetchmail, or put string quotes
1040 around your token.</p>
1041
1042 <h2><a id="F4" name="F4">F4. I'm getting a 'parse error' message I
1043 don't understand.</a></h2>
1044
1045 <p>The most common cause of mysterious parse errors is putting a
1046 server option after a user option. Check the manual page; you'll
1047 probably find that by moving one or more options closer to the
1048 'poll' keyword you can eliminate the problem.</p>
1049
1050 <p>Yes, I know these ordering restrictions are hard to understand.
1051 Unfortunately, they're necessary in order to allow the 'defaults'
1052 feature to work.</p>
1053
1054 <hr/>
1055 <h1>Configuration questions</h1>
1056 <h2><a id="C1" name="C1">C1. Why do I need a .fetchmailrc when
1057 running as root on my own machine?</a></h2>
1058
1059 <p>Ian T. Zimmerman &lt;itz@rahul.net&gt; asked:</p>
1060
1061 <p>On the machine where I'm the only real user, I run fetchmail as
1062 root from a cron job, like this:</p>
1063
1064 <pre>
1065     fetchmail -u "itz" -p POP3 -s bolero.rahul.net
1066 </pre>
1067
1068 <p>This used to work as is (with no .fetchmailrc file in root's
1069 home directory) with the last version I had (1.7 or 1.8, I don't
1070 remember). But with 2.0, it RECPs all mail to the local root user,
1071 unless I create a .fetchmailrc in root's home directory
1072 containing:</p>
1073
1074 <pre>
1075      skip bolero.rahul.net proto POP3
1076           user itz is itz
1077 </pre>
1078
1079 <p>It won't work if the second line is just "<code>user
1080 itz</code>". This is silly.</p>
1081
1082 <p>It seems fetchmail decides to RECP the 'default local user'
1083 (i.e. the uid running fetchmail) unless there are local aliases,
1084 and the 'default' aliases (itz-&gt;itz) don't count. They
1085 should.</p>
1086
1087 <p>Answer:</p>
1088
1089 <p>No they shouldn't. I thought about this for a while, and I don't
1090 much like the conclusion I reached, but it's unavoidable. The
1091 problem is that fetchmail has no way to know, in general, that a
1092 local user 'itz' actually exists.</p>
1093
1094 <p>"Ah!" you say, "Why doesn't it check the password file to see if
1095 the remote name matches a local one?" Well, there are two
1096 reasons.</p>
1097
1098 <p>One: it's not always possible. Suppose you have an SMTP host
1099 declared that's not the machine fetchmail is running on? You
1100 lose.</p>
1101
1102 <p>Two: How do you know server itz and SMTP-host itz are the same
1103 person? They might not be, and fetchmail shouldn't assume they are
1104 unless local-itz can explicitly produce credentials to prove it
1105 (that is, the server-itz password in local-itz's .fetchmailrc
1106 file.).</p>
1107
1108 <p>Once you start running down possible failure modes and thinking
1109 about ways to tinker with the mapping rules, you'll quickly find
1110 that all the alternatives to the present default are worse or
1111 unacceptably more complicated or both.</p>
1112
1113 <h2><a id="C2" name="C2">C2. How can I arrange for a fetchmail
1114 daemon to get killed when I log out?</a></h2>
1115
1116 <p>The easiest way to dispatch fetchmail on logout (which will work
1117 reliably only if you have just one login going at any time) is to
1118 arrange for the command 'fetchmail -q' to be called on logout.
1119 Under bash, you can arrange this by putting 'fetchmail -q' in the
1120 file '~/.bash_logout'. Most csh variants execute '~/.logout' on
1121 logout. For other shells, consult your shell manual page.</p>
1122
1123 <p>Automatic startup/shutdown of fetchmail is a little harder to
1124 arrange if you may have multiple login sessions going. In the
1125 contrib subdirectory of the fetchmail distribution there is some
1126 shell code you can add to your .bash_login and .bash_logout
1127 profiles that will accomplish this. Thank James Laferriere
1128 &lt;babydr@nwrain.net&gt; for it.</p>
1129
1130 <p>Some people start up and shut down fetchmail using the ppp-up
1131 and ppp-down scripts of pppd.</p>
1132
1133 <h2><a id="C3" name="C3">C3. How do I know what interface and
1134 address to use with --interface?</a></h2>
1135
1136 <p>This depends a lot on your local networking configuration (and
1137 right now you can't use it at all except under Linux and the newer
1138 BSDs). However, here are some important rules of thumb that can
1139 help. If they don't work, ask your local sysop or your Internet
1140 provider.</p>
1141
1142 <p>First, you may not need to use --interface at all. If your
1143 machine only ever does SLIP or PPP to one provider, it's almost
1144 certainly by a point to point modem connection to your provider's
1145 local subnet that's pretty secure against snooping (unless someone
1146 can tap your phone or the provider's local subnet!). Under these
1147 circumstances, specifying an interface address is fairly
1148 pointless.</p>
1149
1150 <p>What the option is really for is sites that use more than one
1151 provider. Under these circumstances, typically one of your provider
1152 IP addresses is your mailserver (reachable fairly securely via the
1153 modem and provider's subnet) but the others might ship your packets
1154 (including your password) over unknown portions of the general
1155 Internet that could be vulnerable to snooping. What you'll use
1156 --interface for is to make sure your password only goes over the
1157 one secure link.</p>
1158
1159 <p>To determine the device:</p>
1160
1161 <ol>
1162 <li>If you're using a SLIP link, the correct device is probably
1163 sl0.</li>
1164
1165 <li>If you're using a PPP link, the correct device is probably
1166 ppp0.</li>
1167
1168 <li>If you're using a direct connection over a local network such
1169 as an ethernet, use the command 'netstat -r' to look at your
1170 routing table. Try to match your mailserver name to a destination
1171 entry; if you don't see it in the first column, use the 'default'
1172 entry. The device name will be in the rightmost column.</li>
1173 </ol>
1174
1175 <p>To determine the address and netmask:</p>
1176
1177 <ol>
1178 <li>If you're talking to slirp, the correct address is probably
1179 10.0.2.15, with no netmask specified. (It's possible to configure
1180 slirp to present other addresses, but that's the default.)</li>
1181
1182 <li>If you have a static IP address, run 'ifconfig &lt;device&gt;',
1183 where &lt;device&gt; is whichever one you've determined. Use the IP
1184 address given after "inet addr:". That is the IP address for your
1185 end of the link, and is what you need. You won't need to specify a
1186 netmask.</li>
1187
1188 <li>If you have a dynamic IP address, your connection IP will vary
1189 randomly over some given range (that is, some number of the least
1190 significant bits change from connection to connection). You need to
1191 declare an address with the variable bits zero and a complementary
1192 netmask that sets the range.</li>
1193 </ol>
1194
1195 <p>To illustrate the rule for dynamic IP addresses, let's suppose
1196 you're hooked up via SLIP and your IP provider tells you that the
1197 dynamic address pool is 255 addresses ranging from 205.164.136.1 to
1198 205.164.136.255. Then</p>
1199
1200 <pre>
1201     interface "sl0/205.164.136.0/255.255.255.0"
1202 </pre>
1203
1204 <p>would work. To range over any value of the last two octets
1205 (65536 addresses) you would use</p>
1206
1207 <pre>
1208     interface "sl0/205.164.0.0/255.255.0.0"
1209 </pre>
1210
1211 <h2><a id="C4" name="C4">C4. How can I set up support for
1212 sendmail's anti-spam features?</a></h2>
1213
1214 <p>This answer covers versions of sendmail from 8.9.3-20 (the
1215 version installed in Red Hat 6.2) upwards. If you have an older
1216 version, upgrade to sendmail 8.9.</p>
1217
1218 <p>Stock sendmails can now do anti-spam exclusions based on a
1219 database of filter rules. The human-readable form of the database
1220 is at <tt>/etc/mail/access</tt>. The database itself is at
1221 <tt>/etc/mail/access.db</tt>.</p>
1222
1223 <p>The table itself uses email addresses, domain names, and network
1224 numbers as keys. For example,</p>
1225
1226 <pre>
1227 spammer@aol.com         REJECT
1228 cyberspammer.com        REJECT
1229 192.168.212             REJECT
1230 </pre>
1231
1232 <p>would refuse mail from spammer@aol.com, any user from
1233 cyberspammer.com (or any host within the cyberspammer.com domain),
1234 and any host on the 192.168.212.* network. (This feature can be
1235 used to do other things as well; see the <a
1236 href="http://www.sendmail.org/m4/anti_spam.html">sendmail
1237 documentation</a> for details)</p>
1238
1239 <p>To actually set up the database, run</p>
1240
1241 <pre>
1242 makemap hash deny &lt;deny
1243 </pre>
1244
1245 <p>in /etc/mail.</p>
1246
1247 <p>To test, send a message to your mailing address from that host
1248 and then pop off the message with fetchmail, using the -v argument.
1249 You can monitor the SMTP transaction, and when the FROM address is
1250 parsed, if sendmail sees that it is an address in spamlist,
1251 fetchmail will flush and delete it.</p>
1252
1253 <p>Under no circumstances put your <strong>mailhost</strong> or
1254 <strong>any host you accept mail from</strong> using fetchmail into
1255 your reject file. You <strong>will</strong> lose mail if you do
1256 this!!!</p>
1257
1258 <h2><a id="C5" name="C5">C5. How can I poll some of my mailboxes
1259 more/less often than others?</a></h2>
1260
1261 <p>Use the <cite>interval</cite> keyword on the ones that should be
1262 checked less often. For example, if you do a poll every 5 minutes,
1263 and want to poll some mailboxes every 5 minutes and some every 30
1264 minutes, use something like this:</p>
1265
1266 <pre>
1267 poll mainsite.example.com  proto pop3 user ....
1268 poll secondary.example.com proto pop3 interval 6 user ...
1269 </pre>
1270
1271 <p>Then secondary.example.com will be polled every 6th time that
1272 mainsite.example.com is polled, which with a polling interval of
1273 every 5 minutes means that secondary.example.com will be polled
1274 every 30 minutes.</p>
1275
1276 <h2><a id="C6" name="C6">Fetchmail works OK started up manually,
1277 but not from an init script.</a></h2>
1278
1279 <p>Often, startup scripts have a different environment than an
1280 interactive login shell. For instance, $HOME might point to "/root"
1281 when you are logged in as root, but it might be either unset, or
1282 set to "/" when the startup scripts are running. That means
1283 fetchmail at startup can't find the .fetchmailrc.</p>
1284
1285 <p>Pick a location (such as /etc/fetchmailrc) and use fetchmail's
1286 -f option to point fetchmail at it. That should solve the
1287 problem.</p>
1288
1289 <h2><a id="C7" name="C7">C7. How can I forward mail to another
1290 host?</a></h2>
1291
1292 <p>To forward mail to a host other than the one you are running
1293 fetchmail on, use the <code>smtphost</code> or
1294 <code>smtpname</code> option. See the manual page for details.</p>
1295
1296 <hr/>
1297 <h1>How to make fetchmail play nice with various MTAs</h1>
1298 <h2><a id="T1" name="T1">T1. How can I use fetchmail with
1299 sendmail?</a></h2>
1300
1301 <p>For most sendmails, no special configuration is required. Eric
1302 Allman tells me that if <code>FEATURE(always_add_domain)</code> is
1303 included in sendmail's configuration, you can leave the
1304 <code>rewrite</code> option off.</p>
1305
1306 <p>If your sendmail complains "sendmail does not relay", make
1307 sure your sendmail.cf file says <code>Cwlocalhost</code> so that
1308 sendmail recognizes 'localhost' as a name of its host.</p>
1309
1310 <p>If you're mailing from another machine on your local network,
1311 also ensure that its IP address is listed in ip_allow or name in
1312 name_allow (usually in /etc/mail/)</p>
1313
1314 <p>If you find that your sendmail doesn't like the address
1315 'FETCHMAIL-DAEMON@localhost' (which is used in the bouncemail that
1316 fetchmail generates), you may have to set
1317 <code>FEATURE(accept_unqualified_senders)</code>.</p>
1318
1319 <p>G&uuml;nther Leber reports that Digital Unix sendmails won't
1320 work with fetchmail. The symptom is an error message "<code>553
1321 Local configuration error, hostname not recognized as
1322 local</code>". The problem is that fetchmail normally feeds
1323 sendmail with the client machine's host address in the MAIL FROM
1324 line. These sendmails think this means they're seeing the result of
1325 a mail loop and suppress the mail. You may be able to work around
1326 this by running in <code>--invisible</code> mode.</p>
1327
1328 <p>If you want to support multidrop mode, and you can get access to
1329 your mailserver's sendmail.cf file, it's a good idea to add this
1330 rule:</p>
1331
1332 <pre>
1333 H?l?Delivered-To: $h
1334 </pre>
1335
1336 <p>This will cause the mailserver's sendmail to reliably write the
1337 appropriate envelope address into each message before fetchmail
1338 sees it, and tell fetchmail which header it is.&#160; With this
1339 change, multidrop mode should work reliably even when the Received
1340 header omits the envelope address (which will typically be the case
1341 when the message has multiple recipients).&#160; However it will
1342 still not distinguish the recipients, your only advantage is that
1343 no bounce will be sent if a message is BCC addressed to multiple
1344 users at your site.&#160; To fix even that problem, you might want
1345 to try the following hack, which is however untested and quite
1346 experimental:</p>
1347
1348 <pre>
1349 H?J?Delivered-To: $u
1350
1351 Mmdrop, P=/usr/bin/procmail, F=lsDFMqSPfhnu9J,
1352     S=EnvFromSMTP/HdrFromSMTP, R=EnvToSMTP/HdrToSMTP,
1353     T=DNS/RFC822/X-Unix,
1354     A=procmail -Y -a $u -d $h
1355 </pre>
1356
1357 <p>For both hacks, you have to declare '<code>envelope
1358 "Delivered-To:"</code>' on the fetchmail side, to put the virtual
1359 domain (e.g. 'domain.com') with RELAY permission into your access
1360 file and to add a line reading '<code>domain.com
1361 local:local-pop-user</code>' for the first and '<code>domain.com
1362 mdrop:local-pop-user</code>' for the second hack to your
1363 mailertable.</p>
1364
1365 <p>You will notice that if the mail already has a Delivered-To
1366 header, sendmail will not add another.&#160; Further, editing
1367 sendmail.cf directly is not very comfortable.&#160; Solutions for
1368 both problems can be found in Peter 'Rattacresh' Backes' 'hybrid'
1369 patch against sendmail.&#160; Have a look at it, you can find it in
1370 the contrib subdirectory.</p>
1371
1372 <p>Feel free to try Martijn Lievaart's detailed recipe in the
1373 contrib subdirectory of the fetchmail source distribution, it
1374 attempts to realize multidrop mailboxes with an external
1375 script.</p>
1376
1377 <p>If for some reason you are invoking sendmail via the
1378 <tt>mda</tt> option (rather than delivering to port 25 via smtp),
1379 don't forget to include the -i switch. Otherwise you will
1380 occasionally get mysterious delivery failures with a SIGPIPE as the
1381 sendmail instance dies. The problem is messages with a single dot
1382 at start of a text line.</p>
1383
1384 <h2><a id="T2" name="T2">T2. How can I use fetchmail with
1385 qmail?</a></h2>
1386
1387 <h3>qmail as your local SMTP server</h3>
1388
1389 <p>Avoid <a href="http://home.pages.de/~mandree/qmail-bugs.html">qmail,
1390     it's broken and unmaintained.</a></p>
1391
1392 <p>Turn on the <code>forcecr</code> option; qmail's listener mode
1393 doesn't like header or message lines terminated with bare
1394 linefeeds.<br/>
1395 (This information contributed by Robert de Bath
1396 &lt;robert@mayday.cix.co.uk&gt;.)</p>
1397
1398 <h3>qmail as your ISP's POP3 server</h3>
1399
1400 <p>Note that qmail's POP3 server, as of version 1.03 and netqmail 1.05,
1401 miscalculates the message sizes, so you may see size-related fetchmail
1402 warnings.</p>
1403
1404 <p>If a mailhost is using the qmail package, then it is usually possible
1405 to set up one fetchmail link to reliably collect the mail for an entire
1406 domain.</p>
1407
1408 <p>One of the basic features of qmail is the 'Delivered-To:'
1409 message header. Whenever qmail delivers a message to a local
1410 mailbox it puts the username and hostname of the envelope recipient
1411 on this line. One major reason for this is to prevent mail
1412 loops, the other is to transport envelope information which is essential
1413 for multidrop (domain-in-a-mailbox) schemes.</p>
1414
1415 <p>To set up qmail to batch mail for a disconnected site, the
1416 ISP-mailhost will have normally put that site in its 'virtualhosts'
1417 control file so it will add a prefix to all mail addresses for this
1418 site. This results in mail sent to
1419 'username@userhost.userdom.example.com' having a 'Delivered-To:' line
1420 of the form:</p>
1421
1422 <pre>
1423        Delivered-To: mbox-userstr-username@userhost.userdom.example.com
1424 </pre>
1425
1426 <p>A single host maildrop will be slightly simpler:</p>
1427
1428 <pre>
1429        Delivered-To: mbox-userstr-username@userhost.example.com
1430 </pre>
1431
1432 <p>The ISP can make the 'mbox-userstr-' prefix anything they choose
1433 but a string matching the user host name is likely.</p>
1434
1435 <p>To use this line you must:</p>
1436
1437 <ol>
1438     <li>Ensure the option '<code>envelope "Delivered-To"</code>' is in the fetchmail
1439 config file.</li>
1440
1441 <li>Ensure the option '<code>qvirtual "mbox-userstr-"</code>' is
1442 in the fetchmail config file, in order to remove this prefix from the
1443 username. (added by Luca Olivetti)</li>
1444
1445 <li>Ensure you have a <code>localdomains</code> option containing
1446 '<code>userdom.example.com</code>' or '<code>userhost.userdom.example.com</code>'
1447 respectively.</li>
1448 </ol>
1449
1450 <h2><a id="T3" name="T3">T3. How can I use fetchmail with
1451 exim?</a></h2>
1452
1453 <p>If you have <code>rewrite</code> on:</p>
1454
1455 <p>There is an RFC1123 requirement that MAIL FROM and RCPT TO
1456 addresses you pass to it have to be canonical (e.g. with a fully
1457 qualified hostname part). Therefore fetchmail tries to pass fully
1458 qualified RCPT TO addresses. But exim does not by default accept
1459 'localhost' as a fully qualified domain. This can be fixed.</p>
1460
1461 <p>In exim.conf, add 'localhost' to your local_domains declaration
1462 if it's not already present. For example, the author's site at
1463 thyrsus.com would have a line reading:</p>
1464
1465 <pre>
1466        local_domains = thyrsus.com:localhost
1467 </pre>
1468
1469 <p>If you have <code>rewrite</code> off:</p>
1470
1471 <p>MAIL FROM is a potential problem if the MTAs upstream from your
1472 fetchmail don't necessarily pass canonicalized From and Return-Path
1473 addresses, and fetchmail's <code>rewrite</code> option is off. The
1474 specific case where this has come up involves bounce messages
1475 generated by sendmail on your mailer host, which have the
1476 (un-canonicalized) origin address MAILER-DAEMON.</p>
1477
1478 <p>The right way to fix this is to enable the <code>rewrite</code>
1479 option and have fetchmail canonicalize From and Return-Path
1480 addresses with the mailserver hostname before exim sees them. This
1481 option is enabled by default, so it won't be off unless you turned
1482 it off.</p>
1483
1484 <p>If you must run with <code>rewrite</code> off, there is a switch
1485 in exim's configuration files that allows it to accept domainless
1486 MAIL FROM addresses; you will have to flip it by putting the
1487 line</p>
1488
1489 <pre>
1490         sender_unqualified_hosts = localhost
1491 </pre>
1492
1493 <p>in the main section of the exim configuration file. Note that
1494 this will result in such messages having an incorrect domain name
1495 attached to their return address (your SMTP listener's hostname
1496 rather than that of the remote mail server).</p>
1497
1498 <h2><a id="T4" name="T4">T4. How can I use fetchmail with
1499 smail?</a></h2>
1500
1501 <p>Smail 3.2 is very nearly plug-compatible with sendmail, and may
1502 work fine out of the box.</p>
1503
1504 <p>We have one report that when processing multiple messages from a
1505 single fetchmail session, smail sometimes delivers them in an order
1506 other than received-date order. This can be annoying because it
1507 scrambles conversational threads. This is not fetchmail's problem,
1508 it is an smail 'feature' and has been reported to the maintainers
1509 as a bug.</p>
1510
1511 <p>Very recent smail versions require an
1512 <code>-smtp_hello_verify</code> option in the smail config file.
1513 This overrides smail's check to see that the HELO address is
1514 actually that of the client machine, which is never going to be the
1515 case when fetchmail is in the picture. According to RFC1123 an SMTP
1516 listener <em>must</em> allow this mismatch, so smail's new behavior
1517 (introduced sometime between 3.2.0.90 and 3.2.0.95) is a bug.</p>
1518
1519 <p>You may also need to say
1520 <code>-smtp_hello_broken_allow=127.0.0.1</code> in order for smail
1521 to accept the "localhost" that fetchmail normally appends to
1522 recipient addresses.</p>
1523
1524 <h2><a id="T5" name="T5">T5. How can I use fetchmail with SCO's
1525 MMDF?</a></h2>
1526
1527 <p>MMDF itself is difficult to configure, but it turns out that
1528 connecting fetchmail to MMDF's SMTP channel isn't that hard. You
1529 can read an <a
1530 href="http://aplawrence.com/Unixart/uucptofetch.html">MMDF
1531 recipe</a> that describes replacing a UUCP link with fetchmail
1532 feeding MMDF.</p>
1533
1534 <h2><a id="T6" name="T6">T6. How can I use fetchmail with Lotus
1535 Notes?</a></h2>
1536
1537 <p>The Lotus Notes SMTP gateway tries to deduce when it should
1538 convert \n to \r\n, but its rules are not the intuitive and
1539 correct-for-RFC822 ones. Use 'forcecr'.</p>
1540
1541 <h2><a id="T7" name="T7">T7. How can I use fetchmail with Courier
1542 IMAP?</a></h2>
1543
1544 <p>The courier mta doesn't like RCPT addresses that look like
1545 <code>someone@localhost</code>. Work around this with an
1546 <code>smtphost</code> or <code>smtpaddress</code>.</p>
1547
1548 <h2><a name="T8">T8. How can I use fetchmail with vbmailshield?</a></h2>
1549
1550 <p>vbmailshield's SMTP interpreter is broken.  It doesn't understand RSET.</p>
1551
1552 <p>As a workaround, you can set batchlimit to 1 so RSET is never used.</p>
1553
1554 <hr/>
1555 <h1>How to make fetchmail work with various servers</h1>
1556 <h2><a id="S1" name="S1"><strike>S1. How can I use fetchmail with
1557         qpopper?</strike></a></h2>
1558
1559 <p><em>The information that used to be here was obsolete and dropped.</em></p>
1560
1561 <h2><a id="S2" name="S2">S2. How can I use fetchmail with Microsoft
1562 Exchange?</a></h2>
1563
1564 <p>It's been reliably reported that Exchange 2000's POP3 support is
1565 so broken that it's unusable. One symptom is that messages without
1566 a terminating newline get the POP3 message termination dot emitted
1567 -- you guessed it -- right after the last character of the message,
1568 with no terminating newline added. This will hang fetchmail or any
1569 other RFC-compliant server. IMAP is alleged to work OK, though.</p>
1570
1571 <p>Older versions of Exchange are semi-usable.  They randomly drop
1572 attachments on the floor, though.  Microsoft acknowledges this
1573 as a known bug and apparently has no plans to fix it.</p>
1574
1575 <p>Fetchmail using IMAP supports the proprietary NTLM mode used
1576 with M$ Exchange servers. To enable this, configure fetchmail with
1577 the --enable-NTLM option and recompile it. Specify a user option
1578 value that looks like 'user@domain': the part to the left of the @
1579 will be passed as the username and the part to the right as the
1580 NTLM domain.</p>
1581
1582 <p>M$ Exchange violates the POP3 and IMAP RFCs. Its LIST command
1583 does not reveal the real sizes of mail in the pop mailbox, but the
1584 sizes of the compressed versions in the exchange mail database
1585 (thanks to Arjan De Vet and Guido Van Rooij for alerting us to this
1586 problem).</p>
1587
1588 <p>Fetchmail works with M$ Exchange, despite this brain damage. Two
1589 features are compromised. One is that the --limit option will not
1590 work right (it will check against compressed and not actual sizes).
1591 The other is that a too-small SIZE argument may be passed to your
1592 ESMTP listener, assuming you're using one (this should not be a
1593 problem unless the actual size of the message is above the
1594 listener's configured length limit).</p>
1595
1596 <p>Somewhat belatedly, I've learned that there's supposed to be a
1597 registry bit that can fix this breakage:</p>
1598
1599 <pre>
1600 HKEY_LOCAL_MACHINE\System\CurrentControlSet\Services\MsExchangeIs\Parameters
1601 System\Pop3 Compatibility
1602 </pre>
1603
1604 <p>This is a bitmask that controls the variations from the standard
1605 protocol. The bits defined are:</p>
1606
1607 <dl>
1608 <dt>0x00000001:</dt>
1609
1610 <dd>Report exact message sizes for the LIST command</dd>
1611
1612 <dt>0x00000002:</dt>
1613
1614 <dd>Allow arbitrary linear whitespace between commands and
1615 arguments</dd>
1616
1617 <dt>0x00000004:</dt>
1618
1619 <dd>Enable the LAST command</dd>
1620
1621 <dt>0x00000008:</dt>
1622
1623 <dd>Allow an empty PASS command (needed for users with blank
1624 passwords, but illegal in the protocol)</dd>
1625
1626 <dt>0x00000010:</dt>
1627
1628 <dd>Relax the length restrictions for arguments to commands
1629 (protocol requires 40, but some user names may be longer than
1630 that).</dd>
1631
1632 <dt>0x00000020:</dt>
1633
1634 <dd>Allow spaces in the argument to the USER command.</dd>
1635 </dl>
1636
1637 <p>There's another one that may be useful to know about:</p>
1638
1639 <pre>
1640 KEY_LOCAL_MACHINE\System\CurrentControlSet\Services\MsExchangeIs\Parameters
1641 System\Pop3 Performance
1642 </pre>
1643
1644 <dl>
1645 <dt>0x00000001:</dt>
1646
1647 <dd>Render messages to a temporary stream instead of sending
1648 directly from the database (should always be on)</dd>
1649
1650 <dt>0x00000002: Flag unrenderable messages (instead of just failing
1651 commands) (should only be on if you are seeing the problems
1652 reported in KB Q168109)</dt>
1653
1654 <dt>0x00000004:</dt>
1655
1656 <dd>Return from the QUIT command before all messages have been
1657 deleted.</dd>
1658 </dl>
1659
1660 <p>The Microsoft pod-person who revealed this information to me
1661 admitted that he couldn't find it anywhere in their public
1662 knowledge base.</p>
1663
1664 <p>Another specific problem we have seen with Exchange servers has
1665 as its symptom a response to LOGIN that says "NO Ambiguous Alias".
1666 Grant Edwards writes:</p>
1667
1668 <p>This means that Exchange Server is too f*&amp;#ing stupid to
1669 figure out which mailbox belongs to you. Instead of actually
1670 keeping track of which inbox belongs to which user, it uses some
1671 half-witted, guess-o-matic heuristic to try to guess your mailbox
1672 name from your username.</p>
1673
1674 <p>In your case it doesn't work because your username maps to more
1675 than one mailbox. For some people it doesn't work because their
1676 username maps to zero mailboxes. This is yet another inept, lame,
1677 almost criminally negligent design decision from our friends in
1678 Redmond.</p>
1679
1680 <p>You've got several options:</p>
1681
1682 <ul>
1683 <li>Get your administrator to configure the server so that
1684 usernames and mailbox names are the same.</li>
1685
1686 <li>Get your administrator to add an alias that maps your username
1687 explicitly to your mailbox name.</li>
1688 </ul>
1689
1690 <p>But, the best option involves finding a server that runs better
1691 software.</p>
1692
1693 <h2><a id="S3" name="S3">S3. How can I use fetchmail with HP
1694 OpenMail?</a></h2>
1695
1696 <p>No special configuration is required, but OpenMail versions
1697 prior to 6.0 have an annoying bug similar to the big one in <a
1698 href="#S2">Microsoft Exchange</a>. The message sizes it gives in
1699 the LIST are rounded to the nearest 1024 bytes. It also has a nasty
1700 habit of discarding headers it doesn't recognize, such as X- and
1701 Resent- headers.</p>
1702
1703 <p>As with M$ Exchange, the only real fix for these problems is to
1704 get a POP (or preferably IMAP) server that isn't brain-dead.
1705 OpenMail's project manager claims these bugs have been fixed in
1706 6.0.</p>
1707
1708 <p>We've had a more recent report (December 2001) that the TOP
1709 command fails, returning only one line regardless of its argument,
1710 on something identifying itself as "OpenMail POP3 interface".</p>
1711
1712 <h2><a id="S4" name="S4">S4. How can I use fetchmail with Novell GroupWise?</a></h2>
1713
1714 <p>The Novell GroupWise IMAP server would be better named
1715 GroupFoolish; it is (according to the designer of IMAP) unusably
1716 broken. Among other things, it doesn't include a required content
1717 length in its BODY[TEXT] response.</p>
1718
1719 <p>Fetchmail works around this problem, but we strongly recommend
1720 voting with your dollars for a server that isn't brain-dead.</p>
1721
1722 <h2><a id="S5" name="S5">S5. How can I use fetchmail with
1723 InterChange?</a></h2>
1724
1725 <p>You can't. At least not if you want to be able to see
1726 attachments. InterChange has a bug similar to the MailMax server (<a
1727     href="#S6">see below</a>):
1728 it reports the message length with attachments but doesn't download
1729 them on TOP or RETR.</p>
1730
1731 <p>On Jan 9 2001, the people at InfiniteMail sent me mail informing
1732 me that their new 3.61.08 release of InterChange fixes this
1733 problem. I don't have any reports one way or the other yet.</p>
1734
1735 <h2><a id="S6" name="S6">S6. How can I use fetchmail with MailMax?</a></h2>
1736
1737 <p>You can't. At least not if you want to be able to see
1738 attachments. MailMax has a bug; it reports the message length with
1739 attachments but doesn't download them on TOP or RETR.</p>
1740
1741 <p>Also, we're told that TOP sometimes fails to retrieve the entire
1742 message even when enough lines have been specified. The MailMax
1743 developers have acknowledged this bug as of 4 May 2000, but there
1744 is no fix yet. If you must use this server, force RETR with the
1745 <tt>fetchall</tt> option.</p>
1746
1747 <h2><a id="S7" name="S7">S7. How can I use fetchmail with FTGate?</a></h2>
1748
1749 <p>The FTGate V2 server (and possibly older versions as well) has a
1750 weird bug. It answers OK twice to a TOP request! Use the
1751 <code>fetchall</code> option to force use of RETR and work around
1752 this bug.</p>
1753
1754 <hr/>
1755 <h1>How to fetchmail work with specific ISPs</h1>
1756 <h2><a id="I1" name="I1">I1. How can I use fetchmail with CompuServe RPA?</a></h2>
1757
1758 <p>First, make sure your fetchmail has the RPA support compiled in.
1759 Stock fetchmail binaries (such as you might get from an RPM) don't.
1760 You can check this by looking at the output of <code>fetchmail
1761 -V</code>; if you see the string "+RPA" after the version ID you're
1762 good to go, otherwise you'll have to build your own from sources
1763 (see the INSTALL file in the source distribution for
1764 directions).</p>
1765
1766 <p>Give your CompuServe pass-phrase in lower case as your password.
1767 Add '@compuserve.com' to your user ID so that it looks like 'user
1768 &lt;UserID&gt;@compuserve.com', where &lt;UserID&gt; can be either
1769 your numerical userID or your E-mail nickname. An RPA-enabled
1770 fetchmail will automatically check for csi.com in the POP server's
1771 greeting line. If that's found, and your user ID ends with
1772 '@compuserve.com', it will query the server to see if it is
1773 RPA-capable, and if so do an RPA transaction rather than a
1774 plain-text password handshake.</p>
1775
1776 <p><strong>Warning:</strong> the debug (-v -v) output of fetchmail
1777 will show your pass-phrase in Unicode!</p>
1778
1779 <p>These two .fetchmailrc entries show the difference between an
1780 RPA and non-RPA configuration:</p>
1781
1782 <pre>
1783 # This version will use RPA
1784 poll csi.com via "pop.site1.csi.com" with proto POP3 and options no dns
1785     user "CSERVE_USER@compuserve.com" there with password "CSERVE_PASSWORD"
1786         is LOCAL_USER here options fetchall stripcr
1787
1788 # This version will not use RPA
1789 poll non-rpa.csi.com via "pop.site1.csi.com" with proto POP3 and options no dns
1790     user "CSERVE_USER" there with password "CSERVE_POP3_PASSWORD"
1791        is LOCAL_USER here options fetchall stripcr
1792 </pre>
1793
1794 <h2><a id="I2" name="I2">I2. How can I use fetchmail with Demon
1795 Internet's SDPS?</a></h2>
1796
1797 <h3>Single-drop mode</h3>
1798
1799 <p>You can get fetchmail to download the email for just one user
1800 from Demon Internet's POP3 server by giving it a username
1801 consisting of your Demon user name followed by your account name,
1802 with an at-sign between them.</p>
1803
1804 <p>For example, to download email for the user
1805 &lt;philh@vision25.demon.co.uk&gt;, you could use the following
1806 .fetchmailrc file:</p>
1807
1808 <pre>
1809 set postmaster "philh"
1810 poll pop3.demon.co.uk with protocol POP3:
1811     user "philh@vision25" is philh
1812 </pre>
1813
1814 <h3>Multi-drop mode</h3>
1815
1816 <p>Demon Internet's SDPS service is an implementation of POP3. All
1817 messages have a Received: header added when they enter the
1818 maildrop, like this:</p>
1819
1820 <pre>
1821    Received: from punt-1.mail.demon.net by mailstore for fred@xyz.demon.co.uk
1822              id 899963657:10:27896:0; Thu, 09 Jul 98 05:54:17 GMT
1823 </pre>
1824
1825 <p>To enable multi-drop mode you need to tell fetchmail that
1826 'mailstore' is the name of the host which accepted the mail, and
1827 let it know the hostname part(s) of your E-mail address. The
1828 following example assumes that your hostname is xyz.demon.co.uk,
1829 and that you have also bought "mail forwarding" for the domain
1830 my-company.co.uk (in which case your MTA must also be configured to
1831 accept mail sent to user@my-company.co.uk)</p>
1832
1833 <pre>
1834      poll pop3.demon.co.uk proto pop3 aka mailstore no dns:
1835        localdomains xyz.demon.co.uk my-company.co.uk
1836        user xyz is *
1837 </pre>
1838
1839 <p>Note that Demon may delete mail on the server which is more than
1840 30 days old; see their <a
1841 href="http://www.demon.net/helpdesk/producthelp/mail/sdps-tech.html/">POP3
1842 page</a> for details.</p>
1843
1844 <h3>The SDPS extension</h3>
1845
1846 <p>There's a different way to do multidrop. It's not necessary on
1847 Demon Internet, since fetchmail can parse Received addresses, but
1848 the person who implemented this didn't know that. It may be useful
1849 if Demon Internet ever changes mail transports.</p>
1850
1851 <p>SDPS includes a non-standard extension for retrieving the
1852 envelope of a message (*ENV), which fetchmail optionally supports
1853 if compiled with the --enable-SDPS option. If you have it, the
1854 first line of the fetchmail -V response will include the string
1855 "+SDPS".</p>
1856
1857 <p>Once you have SDPS compiled in, fetchmail in POP3 mode will
1858 automatically detect when it's talking to a Demon Internet host in
1859 multidrop mode, and use the *ENV extension to get an envelope To
1860 address.</p>
1861
1862 <p>The autodetection works by looking at the hostname in the POP3
1863 greeting line; if you're accessing Demon Internet through a proxy
1864 it may fail. To force SDPS mode, pick "sdps" as your protocol.</p>
1865
1866 <h2><a id="I3" name="I3">I3. How can I use fetchmail with usa.net's
1867 servers?</a></h2>
1868
1869 <p>Enable '<code>fetchall</code>'. A user reports that the 2.2
1870 version of USA.NET's POP server reports that you must use the
1871 '<code>fetchall</code>' option to make sure that all of the mail is
1872 retrieved, otherwise some may be left on the server. This is almost
1873 certainly a server bug.</p>
1874
1875 <p>The usa.net servers (at least in their 2.2 version, June 1998)
1876 don't handle the TOP command properly, either. Regardless of the
1877 argument you give it, they retrieve only about 10 lines of the
1878 message. Fetchmail normally uses TOP for message retrieval in order
1879 to avoid marking messages seen, but '<code>fetchall</code>' forces
1880 it to use RETR instead.</p>
1881
1882 <p>Also, we're told USA.NET adds a ton of hops to your messages.
1883 You may need to raise the MaxHopCount parameter in your sendmail.cf
1884 to avoid having fetched mail rejected.</p>
1885
1886 <h2><a id="I4" name="I4">I4. How can I use fetchmail with geocities
1887 POP3 servers?</a></h2>
1888
1889 <p>Nathan Cutler reports that the the mail.geocities.com POP3
1890 servers fail to include the first Received line of the message in
1891 the send to fetchmail. This can solve problems if your MUA
1892 interprets Received continuations as body lines and doesn't parse
1893 any of the following headers.</p>
1894
1895 <p>Workaround is to use "mda" keyword or "--mda" switch:</p>
1896
1897 <pre>
1898 mda "sed -e '1s/^\t/Received: /' | formail | /usr/bin/procmail -d &lt;user&gt;"
1899 </pre>
1900
1901 <p>Replace \t with exactly one tabulation character.</p>
1902
1903 <p>You should also consider using "fetchall" option because
1904 Geocities' servers sometimes think that the first 45 messages have
1905 already been read.</p>
1906
1907 <h2><a id="I5" name="I5">I5. How can I use fetchmail with Hotmail or Lycos Webmail?</a></h2>
1908
1909 <p>You can't directly. But you can use fetchmail with hotmail or lycos
1910 webmail with the help of the <a
1911 href='http://people.freenet.de/courierdave/'>HotWayDaemon</a>
1912 daemon. You don't even need to install hotwayd as a daemon in
1913 <samp>inetd.conf</samp> but can use it as a plugin. Your
1914 configuration should look like this:</p>
1915
1916 <pre>
1917 poll localhost protocol pop3 tracepolls
1918    plugin "/usr/local/sbin/hotwayd -l 0 -p yourproxy:yourproxyport"
1919    username "youremail@hotmail.com" password "yourpassword"
1920    fetchall
1921 </pre>
1922
1923 <p>As a second option you may consider using <a
1924 href="http://linux.cudeso.be/linuxdoc/gotmail.php">gotmail</a>.</p>
1925
1926 <h2><a id="I6" name="I6">I6. How can I use fetchmail with MSN?</a></h2>
1927
1928 <p>You can't. MSN uses something that looks like POP3, except the
1929 authentication part is nonstandard. And of course they don't
1930 document it, so nobody but their Windows clients can speak it.</p>
1931
1932 <p>This is a customer lock-in tactic; we recommend boycotting MSN
1933 as the only appropriate response.</p>
1934
1935 <p>As of 5.0.8, we have support for the client side of NTLM
1936 authentication. It's possible this may enable fetchmail to talk to
1937 MSN; if so, somebody should report it so this FAQ can be
1938 corrected.</p>
1939
1940 <h2><a id="I7" name="I7">I7. How can I use fetchmail with SpryNet?</a></h2>
1941
1942 <p>The SpryNet POP3 servers mark a message queried with TOP as
1943 seen. This means that if your connection drops in mid-message, it
1944 may end up invisibly stuck on your mail spool. Use the
1945 <code>fetchall</code> flag to ensure that it's recovered on the
1946 next cycle.</p>
1947
1948 <h2><a id="I8" name="I8">I8. How can I use fetchmail with comcast.net or
1949         other Maillennium servers?</a></h2>
1950
1951 <p>Stock fetchmail will work with a
1952 Maillennium&nbsp;POP3/PROXY&nbsp;server... <em>but</em> this server will
1953 truncate "TOP" responses after 64&nbsp;-&nbsp;82 kB (we have varying reports),
1954 in violation of Internet Standard #53 aka. RFC-1939 (POP3). Don't
1955 mistake this for a fetchmail bug. (Reported July 2003.) Comcast
1956 documented they haven't understood what this is about in <a
1957     href="http://lists.ccil.org/pipermail/fetchmail-friends/2004-April/008523.html">two
1958 messages from April 2004.</a></p>
1959
1960 <p>Beginning with version 6.3.2, fetchmail will fall back to the RETR
1961 command if the greeting string contains "Maillennium POP3/PROXY server",
1962 and print a warning message. This means however that fetchmail has no
1963 means to prevent the "seen" flag from being set on the server (Note that
1964 officially, POP3 has no notion of seen tracking, but it works for some
1965 sites.)</p>
1966
1967 <p>Workaround for older versions: use the <tt>fetchall</tt> option.</p>
1968
1969 <hr/>
1970 <h1>How to set up well-known security and authentication
1971 methods</h1>
1972 <h2><a id="K1" name="K1">K1. How can I use fetchmail with SOCKS?</a></h2>
1973
1974 <p>Giuseppe Guerini added a --with-socks option that supports
1975 linking with socks library. If you specify the value of this option
1976 as "yes", the configure script will try to find the Rconnect
1977 library and set the makefile up to link it. You can also specify a
1978 directory containing the Rconnect library.</p>
1979
1980 <p>Alan Schmitt has added a similar --with-socks5 option that may
1981 work better if you have a recent version of the SOCKS library.</p>
1982
1983 <h2><a id="K2" name="K2">K2. How can I use fetchmail with IPv6 and
1984 IPsec?</a></h2>
1985
1986 <p>To use fetchmail with IPv6, you need a system that supports
1987 IPv6, the "Basic Socket Interface Extensions for IPv6" (RFC 2133).
1988 </p>
1989
1990 <p>The NRL IPv6+IPsec software distribution can be obtained from:
1991 <a
1992 href="http://web.mit.edu/network/isakmp/">http://web.mit.edu/network/isakmp/</a></p>
1993
1994 <p>More information on using IPv6 with Linux can be obtained
1995 from:</p>
1996
1997 <ul>
1998 <li><a
1999 href="http://www.bieringer.de/linux/IPv6/IPv6-HOWTO/IPv6-HOWTO.html">
2000 http://www.bieringer.de/linux/IPv6/IPv6-HOWTO/IPv6-HOWTO.html</a></li>
2001 </ul>
2002
2003 <h2><a id="K3" name="K3">K3. How can I get fetchmail to work with
2004 ssh?</a></h2>
2005
2006 <p>Use the <tt>plugin</tt> option. This is dead simple with
2007 IMAP:</p>
2008
2009 <pre>
2010     plugin "ssh %h /usr/sbin/imapd"
2011 </pre>
2012
2013 <p>You may have to use a different absolute pathname, whatever the
2014 location of imapd on your mailserver is. This option tells
2015 fetchmail that instead of opening a connection on the server's port
2016 143 and doing standard IMAP authentication, fetchmail should ssh to
2017 the server and run imapd, using the more secure ssh authentication
2018 (as well as getting ssh's end-to-end encryption). Most IMAP daemons
2019 will detect that they've been called from the command line and
2020 assume the connection is preauthenticated.</p>
2021
2022 <p>POP3 daemons aren't quite as smart. They won't know they are
2023 preauthenticated in this mode, so you'll actually have to ship your
2024 password. It will be under ssh encryption, though, so that
2025 shouldn't be a problem.</p>
2026
2027 <h2><a id="K4" name="K4">K4. What do I have to do to use the
2028 IMAP-GSS protocol?</a></h2>
2029
2030 <p>Fetchmail can use RFC1731 GSSAPI authorization to safely
2031 identify you to your IMAP server, as long as you can share
2032 Kerberos&nbsp;V credentials with your mail host and you have a GSSAPI-capable
2033 IMAP server - those are few.</p>
2034
2035 <p>fetchmail does not compile in support for GSS by
2036 default, since it requires libraries from the Kerberos V
2037 distribution (available via FTP at <a
2038 href="ftp://athena-dist.mit.edu/pub/ATHENA/kerberos">athena-dist.mit.edu</a>).
2039 If you have these, compiling in GSS support is simple: add a
2040 <code>--with-gssapi=[/path/to/krb5/root]</code> option to
2041 configure. For instance, I have all of my Kerberos V libraries
2042 installed under /usr/krb5 so I run <code>configure
2043 --with-gssapi=/usr/krb5</code></p>
2044
2045 <p>Setting up Kerberos V authentication is beyond the scope of this
2046 FAQ (you may find Jim Rome's paper <a
2047 href="http://www.ornl.gov/~jar/HowToKerb.html">How to Kerberize
2048 your site</a> helpful), but you'll at least need to add a
2049 credential for imap/[mailhost] to the keytab of the mail server
2050 (IMAP doesn't just use the host key). Then you'll need to have your
2051 credentials ready on your machine (cf. kinit).</p>
2052
2053 <p>After that things are very simple. Set your protocol to imap-gss
2054 in your .fetchmailrc, and omit the password, since imap-gss doesn't
2055 need one. You can specify a username if you want, but this is only
2056 useful if your mailbox belongs to a username different from your
2057 Kerberos principal.</p>
2058
2059 <p>Now you don't have to worry about your password appearing in
2060 cleartext in your .fetchmailrc, or across the network.</p>
2061
2062 <h2><a id="K5" name="K5">K5. How can I use fetchmail with
2063 SSL?</a></h2>
2064
2065 <p>You'll need to have the <a
2066 href="http://www.openssl.org/">OpenSSL</a> libraries installed, and they
2067 should at least be version 0.9.6.
2068 Configure with --with-ssl. If you have the OpenSSL libraries
2069 installed in the default location (/usr/local/ssl) ths will
2070 suffice. If you have them installed in a non-default location,
2071 you'll need to specify it as an argument to --with-ssl after an
2072 equal sign.</p>
2073
2074 <p>Fetchmail binaries built this way support <code>ssl</code>,
2075 <code>sslkey</code>, and <code>sslcert</code> options that control
2076 SSL encryption, and will automatically use <code>tls</code> if the
2077 server offers it. You will need to have an SSL-enabled mailserver to
2078 use these options. See the manual page for details and some words
2079 of care on the limited security provided.</p>
2080
2081 <p>If your open OpenSSL session dies with a message that complains
2082 "PRNG not seeded", update or improve your operating system. This
2083 means that the OpenSSL library on your machine has been unable to
2084 locate a source of random bits from which to seed its random-number
2085 generator; normally these come from the <tt>/dev/urandom</tt>, and
2086 this message probably means your OS doesn't have that device.</p>
2087
2088 <p>An interactive program could seed the random number generator
2089 from keystroke timings or some other form of user input. Because
2090 fetchmail is primarily designed to run forever as a background
2091 daemon, that option is not available in this case.</p>
2092
2093 <p>If you don't have the libraries installed, but do have the
2094 OpenSSL utility toolkit, something like this may work (but will not
2095 authenticate the server):</p>
2096
2097 <pre>
2098 poll MYSERVER port 993 plugin "openssl s_client -connect %h:%p"
2099         protocol imap username MYUSERNAME password MYPASSWORD
2100 </pre>
2101
2102 <p>You should note that SSL is only secure against a "man-in-the-middle"
2103 attack if the client is able to verify that the peer's public key is the
2104 correct one, and has not been substituted by an attacker. fetchmail can do
2105 this in one of two ways: by verifying the SSL certificate, or by checking
2106 the fingerprint of the peer's public key.</p>
2107
2108 <p>There are three parts to SSL certificate verification: checking that the
2109 domain name in the certificate matches the hostname you asked to connect to;
2110 checking that the certificate expiry date has not passed; and checking that
2111 the certificate has been signed by a known Certificate Authority (CA). This
2112 last step takes some preparation, as you need to install the root
2113 certificates of all the CA's which you might come across.</p>
2114
2115 <p>The easiest way to do this is using the root CA keys supplied in the
2116 OpenSSL distribution, which means you need to download and unpack the
2117 source tarball from www.openssl.org. Once you have done that:</p>
2118
2119 <ol>
2120 <li><code>mkdir /etc/ssl/certs</code></li>
2121 <li>in the openssl-x.x.x/certs directory: <code>cp *.pem /etc/ssl/certs/</code></li>
2122 <li>in the openssl-x.x.x/tools directory: edit c_rehash and set
2123 <code>$dir="/etc/ssl"</code></li>
2124 <li>run "perl c_rehash". This generates a number of symlinks within the
2125 /etc/ssl/certs/ directory</li>
2126 </ol>
2127
2128 <p>Now in .fetchmailrc, set option sslcertpath to point to this
2129 directory:</p>
2130
2131 <pre>
2132 poll pop3.example.com proto pop3 uidl no dns
2133   user foobar@example.com password xyzzy is foobar ssl sslcertpath /etc/ssl/certs
2134 </pre>
2135
2136 <p>If the server certificate has not been signed by a known CA (e.g. it is a
2137 self-signed certificate), then this certificate validation will always
2138 fail.</p>
2139
2140 <p>Certificate verification is always attempted. If it fails, by default a
2141 warning is printed but the connection carries on (which means you are not
2142 protected against attack). If your server's certificate has been properly
2143 set up and verifies correctly, then add the "sslcertck" option to enforce
2144 validation. If your server doesn't have a valid certificate though (e.g. it
2145 has a self-signed certificate) then it will never verify, and the only way
2146 you can protect yourself is by checking the fingerprint.</p>
2147
2148 <p>To check the peer fingerprint: first use fetchmail -v once to connect to
2149 the host, at a time when you are pretty sure that there is no attack in
2150 progress (e.g. you are not traversing any untrusted network to reach the
2151 server). Make a note of the fingerprint shown. Now embed this in your
2152 .fetchmailrc using the sslfingerprint option: e.g.</p>
2153
2154 <pre>
2155 poll pop3.example.com proto pop3 uidl no dns
2156   user foobar@example.com password xyzzy is foobar
2157   ssl sslfingerprint "67:3E:02:94:D3:5B:C3:16:86:71:37:01:B1:3B:BC:E2"
2158 </pre>
2159
2160 <p>When you next connect, the public key presented by the server will be
2161 verified against the fingerprint given. If it's different, it may mean that
2162 a man-in-the-middle attack is in progress - or it might just mean that the
2163 server changed its key. It's up to you to determine which has happened.</p>
2164
2165 <h2><a id="K6" name="K6">K6. How can I tell fetchmail not to use TLS
2166         if the server advertises it? Why does fetchmail use SSL even
2167         though not configured?</a></h2>
2168
2169 <p>Some servers advertise STLS (POP3) or STARTTLS (IMAP), and fetchmail
2170 will automatically attempt TLS negotiation if SSL was enabled at compile
2171 time.  This can however cause problems if the upstream didn't configure
2172 his certificates properly.</p>
2173
2174 <p>In order to prevent fetchmail from trying TLS (STLS, STARTTLS)
2175 negotiation, add this option:</p>
2176
2177 <pre>sslproto ssl23</pre>
2178
2179 <p>This restricts fetchmail's SSL/TLS protocol choice from the default
2180 "SSLv2, SSLv3, TLSv1" to the two SSL variants, disabling TLSv1. Note
2181 however that this causes the connection to be unencrypted unless an
2182 encrypting &quot;plugin&quot; is used or SSL is requested explicitly.</p>
2183
2184 <hr/>
2185 <h1>Runtime fatal errors</h1>
2186 <h2><a id="R1" name="R1">R1. Fetchmail isn't working, and -v shows
2187 'SMTP connect failed' messages.</a></h2>
2188
2189 <p>Fetchmail itself is probably working, but your SMTP port 25
2190 listener is down or inaccessible.</p>
2191
2192 <p>The first thing to check is if you can telnet to port 25 on your
2193 smtp host (which is normally 'localhost' unless you've specified an
2194 smtp option in your .fetchmailrc or on the command line) and get a
2195 greeting line from the listener. If the SMTP host is inaccessible
2196 or the listener is down, fix that first.</p>
2197
2198 <p>In Red Hat Linux 6.x, SMTP is disabled by default. To fix this,
2199 set "DAEMON=yes" in your /etc/sysconfig/sendmail file, then restart
2200 sendmail by running "/sbin/service sendmail restart".</p>
2201
2202 <p>If the listener seems to be up when you test with telnet, the
2203 most benign and typical problem is that the listener had a
2204 momentary seizure due to resource exhaustion while fetchmail was
2205 polling it -- process table full or some other problem that stopped
2206 the listener process from forking. If your SMTP host is not
2207 'localhost' or something else in /etc/hosts, the fetchmail glitch
2208 could also have been caused by transient nameserver failure.</p>
2209
2210 <p>Try running fetchmail -v again; if it succeeds, you had one of
2211 these kinds of transient glitch. You can ignore these hiccups,
2212 because a future fetchmail run will get the mail through.</p>
2213
2214 <p>If the listener tests up, but you have chronic failures trying
2215 to connect to it anyway, your problem is more serious. One way to
2216 work around chronic SMTP connect problems is to use --mda. But this
2217 only attacks the symptom; you may have a DNS or TCP routing
2218 problem. You should really try to figure out what's going on
2219 underneath before it bites you some other way.</p>
2220
2221 <p>We have one report (from toby@eskimo.com) that you can sometimes
2222 solve such problems by doing an <code>smtp</code> declaration with
2223 an IP address that your routing table maps to something other than
2224 the loopback device (he used ppp0).</p>
2225
2226 <p>We also have a report that this error can be caused by having an
2227 /etc/hosts file that associates your client host name with more
2228 than one IP address.</p>
2229
2230 <p>It's also possible that your DNS configuration isn't looking at
2231 <code>/etc/hosts</code> at all. If you're using libc5, look at
2232 <code>/etc/resolv.conf</code>; it should say something like:</p>
2233
2234 <pre>
2235         order hosts,bind
2236 </pre>
2237
2238 <p>so your <code>/etc/hosts</code> file is checked first. If you're
2239 running GNU libc6, check your <code>/etc/nsswitch.conf</code> file.
2240 Make sure it says something like</p>
2241
2242 <pre>
2243         hosts:  files dns
2244 </pre>
2245
2246 <p>again, in order to make sure <code>/etc/hosts</code> is seen
2247 first.</p>
2248
2249 <p>If you have a hostname set for your machine, and this hostname
2250 does not appear in /etc/hosts, you will be able to telnet to port
2251 25 and even send a mail with rcpt to: user@host-not-in-/etc/hosts,
2252 but fetchmail can't seem to get in touch with sendmail, no matter
2253 what you set smtpaddress to.</p>
2254
2255 <p>We had another report from a Linux user of fetchmail 2.1 who
2256 solved his SMTP connection problem by removing the reference to
2257 -lresolv from his link line and relinking. Apparently in some older
2258 Linux distributions the libc bind library version works better.</p>
2259
2260 <p>As of 2.2, the configure script has been hacked so the bind
2261 library is linked only if it is actually needed. So under Linux it
2262 won't be, and this particular cause should go away.</p>
2263
2264 <h2><a id="R2" name="R2">R2. When I try to configure an MDA,
2265 fetchmail doesn't work.</a></h2>
2266
2267 <p>(I hear this one from people who have run into the blank-line
2268 problem in <a href="#X1">X1</a>.)</p>
2269
2270 <p>Try sending yourself test mail and retrieving it using the
2271 command-line options '<code>-k -m cat</code>'. This will dump
2272 exactly what fetchmail retrieves to standard output (plus the
2273 Received line fetchmail itself adds to the headers).</p>
2274
2275 <p>If the dump doesn't match what shows up in your mailbox when you
2276 configure an MDA, your MDA is mangling the message. If it doesn't
2277 match what you sent, then fetchmail or something on the server is
2278 broken.</p>
2279
2280 <h2><a id="R3" name="R3">R3. Fetchmail dumps core when given an
2281 invalid rc file.</a></h2>
2282
2283 <p>Note that this bug should no longer occur when using prepackaged
2284 fetchmail versions or installing unmodified original tarballs, since
2285 these ship with a proper parser .c file.</p>
2286
2287 <p>This is usually reported from AIX or Ultrix, but has even been
2288 known to happen on Linuxes without a recent version of
2289 <code>flex</code> installed. The problem appears to be a result of
2290 building with an archaic version of lex.</p>
2291
2292 <p>Workaround: fix the syntax of your .fetchmailrc file.</p>
2293
2294 <p>Fix: build and install the latest version of <a
2295     href="http://flex.sourceforge.net/">flex</a>.</p>
2296
2297 <h2><a id="R4" name="R4"><strike>R4. Fetchmail dumps core in -V mode, but
2298         operates normally otherwise.</strike></a></h2>
2299
2300 <p><em>The information that used to be here referred to bugs in Linux libc5
2301     systems, which are deemed obsolete by now.</em></p>
2302
2303 <h2><a id="R5" name="R5">R5. Running fetchmail in daemon mode
2304 doesn't work.</a><br/>
2305 </h2>
2306
2307 <p>We have one report from a SunOS 4.1.4 user that trying to run
2308 fetchmail in detached daemon mode doesn't work, but that using the
2309 same options with -N (nodetach) is OK. We have another report of
2310 similar behavior from one Linux user, but many other Linux users
2311 report no problem.</p>
2312
2313 <p>If this happens, you have a specific portability problem with
2314 the code in daemon.c that detaches and backgrounds the daemon
2315 fetchmail. The isolated Linux case has been chased down to a
2316 failure in dup(2) that may reflect a glibc bug.</p>
2317
2318 <p>As a workaround, you can start fetchmail with -N and an
2319 ampersand to background it. A Sun user recommends this:</p>
2320
2321 <pre>
2322 (fetchmail --nodetach &lt;other params&gt; &amp;)
2323 </pre>
2324
2325 <p>The extra pair of parens is significant --- it makes sure that
2326 the process detaches from the initial shell (one more shell is
2327 started and dies immediately, detaching fetchmail and making it
2328 child of PID 1). This is important when you start fetchmail
2329 interactively and than quit interactive shell. The line above makes
2330 sure fetchmail lives after that!</p>
2331
2332 <h2><a id="R6" name="R6">R6. Fetchmail randomly dies with socket
2333 errors.</a></h2>
2334
2335 <p>Check the MTU value in your PPP interface reported by
2336 <code>/sbin/ifconfig</code>. If it's over 600, change it in your
2337 PPP options file. (<code>/etc/ppp/options</code> on my box). Here
2338 are option values that work:</p>
2339
2340 <pre>
2341   mtu 552
2342   mru 552
2343 </pre>
2344
2345 <p>Another circumstance that can trigger this is if you are polling
2346 a virtual-mail-server name that is round-robin connected to
2347 different actual servers, so you get different IP addresses on
2348 different poll cycles. To work around this, change the poll name
2349 either to the real name of one of the servers in the ring or to a
2350 corresponding IP address.</p>
2351
2352 <h2><a id="R7" name="R7">R7. Fetchmail running as root stopped
2353 working after an OS upgrade</a></h2>
2354
2355 <p>In RH 6.0, the HOME value in the boot-time root environment
2356 changed from /root to / as the result of a change in init. Move
2357 your .fetchmailrc or use a -f option to explicitly point at the
2358 file. (Oddly, a similar problem has been reported from Debian
2359 systems.)</p>
2360
2361 <h2><a id="R8" name="R8">R8. Fetchmail is timing out after fetching
2362 certain messages but before deleting them</a></h2>
2363
2364 <p>There's a TCP/IP stalling problem under Redhat 6.0 (and possibly
2365 other recent Linuxes) that can cause this symptom. Brian Boutel
2366 writes:</p>
2367
2368 <blockquote>
2369 <p>TCP timestamps are turned on on my Linux boxes (I assume it's
2370 now the default). This uses 12 extra bytes per segment. When the
2371 tcp connection starts, the other end agrees a MSS of 1460, and then
2372 fragments 1460 byte chunks into 1448 and 12, because is is not
2373 allowing for the timestamp.</p>
2374
2375 <p>Then, for reasons I can't explain, it waits a long time
2376 (typically 2 minutes) after the ack is sent before sending the next
2377 (fragmented) packet. Turning off tcp timestamps avoids the
2378 fragmentation and restores normal behaviour. To do this,
2379 [execute]</p>
2380
2381 <p>echo 0 &gt; /proc/sys/net/ipv4/tcp_timestamps</p>
2382
2383 <p>I'm still unclear about the details of why this is happening. At
2384 least [now] I am now getting good performance and no queue
2385 blocking.</p>
2386 </blockquote>
2387
2388 <h2><a id="R9" name="R9">R9. Fetchmail is timing out during message
2389 fetches</a></h2>
2390
2391 <p>This is probably a general networking issue. Sending a "RETR"
2392 command will cause the server to start sending large amounts of
2393 data, which means large packets. If your networking layer has a
2394 packet-fragmentation problem, that's where you'll see it.</p>
2395
2396 <h2><a id="R10" name="R10">R10. Fetchmail is dying with
2397 SIGPIPE.</a></h2>
2398
2399 <p>This probably means you have an <code>mda</code> option. Your
2400 MDA is croaking while being passed a message. Best fix is to remove
2401 the <code>mda</code> option and pass mail to your port 25 SMTP
2402 listener.</p>
2403
2404 <p>If for some reason you are invoking sendmail via the
2405 <tt>mda</tt> option (rather than delivering to port 25 via smtp),
2406 don't forget to include the -i switch. Otherwise you will
2407 occasionally get mysterious delivery failures with a SIGPIPE as the
2408 sendmail instance dies. The problem is messages with a single dot
2409 at start of a text line.</p>
2410
2411 <h2><a id="R11" name="R11">R11. My server is hanging or emitting
2412 errors on CAPA.</a></h2>
2413
2414 <p>Your POP3 server is broken. You can work around this with the
2415 declaration <tt>auth password</tt> in your .fetchmailrc.</p>
2416
2417 <h2><a id="R12" name="R12">R12. Fetchmail isn't working and reports
2418         getaddrinfo errors.</a></h2>
2419 <ol><li>Make sure you haven't mistyped the host name or address, and that
2420     your DNS is working. If you cannot fix DNS, give the numeric host
2421     literal, for instance, 192.168.0.1</li>
2422     <li>Make sure your <code>/etc/services</code> file (or other
2423     services database) contains the necessary service entries. If you
2424     cannot fix the services database, use the --service option and give the
2425     numeric port address. Common port addresses are:<table
2426         summary="Common port addresses for IMAP, POP3 and their SSL
2427         complements.">
2428         <tr><th>service</th><th>port</th></tr>
2429         <tr><td>IMAP</td><td>143</td></tr>
2430         <tr><td>IMAP+SSL</td><td>993</td></tr>
2431         <tr><td>POP3</td><td>110</td></tr>
2432         <tr><td>POP3+SSL</td><td>995</td></tr>
2433 </table></li></ol>
2434
2435 <h2><a id="R13" name="R13">R13. What does "Interrupted system call"
2436         mean?</a></h2>
2437
2438 <p>Non-fatal signals (such as timers set by fetchmail itself) can
2439 interrupt long-running functions and will then be reported as
2440 "Interrupted system call". These can sometimes be timeouts.</p>
2441
2442 <hr/>
2443 <h1>Hangs and lockups</h1>
2444 <h2><a id="H1" name="H1">H1. Fetchmail hangs when used with
2445 pppd.</a></h2>
2446
2447 <p>Your problem may be with pppd's 'demand' option. We have a
2448 report that fetchmail doesn't play well with it, but works with
2449 pppd if 'demand' is turned off. We have no idea why this is.</p>
2450
2451 <h2><a id="H2" name="H2">H2. Fetchmail hangs during the MAIL FROM
2452 exchange.</a></h2>
2453
2454 <p>The symptom: 'fetchmail -v' retrieves mail fine, but appears to
2455 hang after sending the MAIL FROM command</p>
2456
2457 <pre>
2458 SMTP&gt; MAIL FROM: &lt;someone@somewhere&gt;
2459 </pre>
2460
2461 <p>The hang is actually occuring when sendmail looks up a sender's
2462 address in DNS. The problem isn't in fetchmail but in the
2463 configuration of sendmail. You must enable the 'nodns' and
2464 'nocanonify' features of sendmail.</p>
2465
2466 <p>Here was my fix for RedHat 7.2:</p>
2467
2468 <ol>
2469 <li># cd /etc/mail</li>
2470
2471 <li># cp sendmail.mc sendmail-mine.mc</li>
2472
2473 <li>Edit sendmail-mine.mc and add lines:
2474
2475 <pre>
2476    FEATURE(nodns)
2477    FEATURE(nocanonify)
2478 </pre>
2479 </li>
2480
2481 <li>Build a new sendmail.cf
2482
2483 <pre>
2484    # m4 sendmail-mine.cf &gt; /etc/sendmail.cf
2485 </pre>
2486 </li>
2487
2488 <li>Restart sendmail.</li>
2489 </ol>
2490
2491 <p>For more details consult the file
2492 /usr/share/sendmail-cf/README.</p>
2493
2494 <h2><a id="H3" name="H3">H3. Fetchmail hangs while fetching
2495 mail.</a></h2>
2496
2497 <p>The symption: 'fetchmail -v' retrieves the first few messages,
2498 but hangs returning:</p>
2499
2500 <pre>
2501  fetchmail: SMTP&lt; 550 5.0.0 Access denied
2502  fetchmail: SMTP&gt; RSET
2503  fetchmail: SMTP&lt; 250 2.0.0 Reset state
2504  .......fetchmail:  flushed
2505  fetchmail: POP3&gt; DELE 1
2506  fetchmail: POP3&lt; +OK marked deleted
2507 </pre>
2508
2509 <p>Check and see if you're allowing sendmail connections through
2510 TCP wrappers.</p>
2511
2512 <p>Adding 'sendmail : 127.0.0.1' to /etc/hosts.allow could solve
2513 this problem.</p>
2514
2515 <hr/>
2516 <h1>Disappearing mail</h1>
2517 <h2><a id="D1" name="D1">D1. I think I've set up fetchmail
2518 correctly, but I'm not getting any mail.</a></h2>
2519
2520 <p>Maybe you have a .forward or alias set up that you've forgotten
2521 about. You should probably remove it.</p>
2522
2523 <p>Or maybe you're trying to run fetchmail in multidrop mode as
2524 root without a .fetchmailrc file. This doesn't do what you think it
2525 should; see question <a href="#C1">C1</a>.</p>
2526
2527 <p>Or you may not be connecting to the SMTP listener. Run fetchmail
2528 -v and see <a href="#R1">R1</a>.</p>
2529
2530 <p>Or you may have your local user set incorrectly. In the
2531 following line</p>
2532
2533 <pre>
2534         user 'remoteuser' there with password '*' is 'localuser' here
2535 </pre>
2536
2537 <p>make sure that 'localuser' does exist and can receive mail.</p>
2538
2539 <h2><a id="D2" name="D2">D2. All my mail seems to disappear after a
2540 dropped connection.</a></h2>
2541
2542 <p>One POP3 daemon used in the Berkeley Unix world that reports
2543 itself as POP3 version 1.004 actually throws the queue away. 1.005
2544 fixed that. If you're running this one, upgrade immediately. (It
2545 also truncates long lines at column 1024)</p>
2546
2547 <p>Many POP servers, if an interruption occurs, will restore the
2548 whole mail queue after about 10 minutes. Others will restore it
2549 right away. If you have an interruption and don't see it right
2550 away, cross your fingers and wait ten minutes before retrying.</p>
2551
2552 <p>Some servers (such as Microsoft's NTMail) are mis-designed to
2553 restore the entire queue, including messages you have deleted. If
2554 you have one of these and it flakes out on you a lot, try setting a
2555 small <code>--fetchlimit</code> value. This will result in more IP
2556 connects to the server, but will mean it actually executes changes
2557 to the queue more often.</p>
2558
2559 <p>Qualcomm's qpopper, used at many BSD Unix sites, is better
2560 behaved. If its connection is dropped, it will first execute all
2561 DELE commands as though you had issued a QUIT (this is a technical
2562 violation of the POP3 RFCs, but a good idea in a world of flaky
2563 phone lines). Then it will re-queue any message that was being
2564 downloaded at hangup time. Still, qpopper may require a noticeable
2565 amount of time to do deletions and clean up its queue. (Fetchmail
2566 waits a bit before retrying in order to avoid a 'lock busy'
2567 error.)</p>
2568
2569 <h2><a id="D3" name="D3">D3. Mail that was being fetched when I
2570 interrupted my fetchmail seems to have been vanished.</a></h2>
2571
2572 <p>Fetchmail only sends a delete mail request to the server when
2573 either (a) it gets a positive delivery acknowledgment from the SMTP
2574 listener, or (b) it gets one of the spam-filter errors (see the
2575 description of the <code>antispam&gt;</code> option) from the
2576 listener. No interrupt can cause it to lose mail.</p>
2577
2578 <p>However, IMAP2bis has a design problem in that its normal fetch
2579 command marks a message 'seen' as soon as the fetch command to get
2580 it is sent down. If for some reason the message isn't actually
2581 delivered (you take a line hit during the download, or your port 25
2582 listener can't find enough free disk space, or you interrupt the
2583 delivery in mid-message) that 'seen' message can lurk invisibly in
2584 your server mailbox forever.</p>
2585
2586 <p>Workaround: add the '<code>fetchall</code>' keyword to your
2587 fetch options.</p>
2588
2589 <p>Solution: switch to an <a href="http://www.imap.org">IMAP4</a>
2590 server.</p>
2591
2592 <hr/>
2593 <h1>Multidrop-mode problems</h1>
2594 <h2><a id="M1" name="M1">M1. I've declared local names, but all my
2595 multidrop mail is going to root anyway.</a></h2>
2596
2597 <p>Somehow your fetchmail is never recognizing the hostname part of
2598 recipient names it parses out of To/Cc/envelope-header lines as
2599 matching the name of the mailserver machine. To check this, run
2600 fetchmail in foreground with -v -v on. You will probably see a lot
2601 of messages with the format "line rejected, %s is not an alias of
2602 the mailserver" or "no address matches; forwarding to %s."</p>
2603
2604 <p>These errors usually indicate some kind of DNS configuration
2605 problem either on the server or your client machine.</p>
2606
2607 <p>The easiest workaround is to add a '<code>via</code>' option (if
2608 necessary) and add enough aka declarations to cover all of your
2609 mailserver's aliases, then say '<code>no dns</code>'. This will
2610 take DNS out of the picture (though it means mail may be
2611 uncollected if it's sent to an alias of the mailserver that you
2612 don't have listed).</p>
2613
2614 <p>It would be better to fix your DNS, however. DNS problems can
2615 hurt you in lots of ways, for example by making your machines
2616 intermittently or permanently unreachable to the rest of the
2617 net.</p>
2618
2619 <p>Occasionally these errors indicate the sort of header-parsing
2620 problem described in <a href="#M7">M7</a>.</p>
2621
2622 <h2><a id="M2" name="M2">M2. I can't seem to get fetchmail to route
2623 to a local domain properly.</a></h2>
2624
2625 <p>A lot of people want to use fetchmail as a poor man's
2626 internetwork mail gateway, picking up mail accumulated for a whole
2627 domain in a single server mailbox and then routing based on what's
2628 in the To/Cc/Bcc lines.</p>
2629
2630 <p>In general, this is not really a good idea. It would be smarter
2631 to just let the mail sit in the mailserver's queue and use
2632 fetchmail's ETRN or ODMR modes to trigger SMTP sends periodically
2633 (of course, this means you have to poll more frequently than the
2634 mailserver's expiration period). If you can't arrange this, try
2635 setting up a UUCP feed.</p>
2636
2637 <p>If neither of these alternatives is available, multidrop mode
2638 may do (though you <em>are</em> going to get hurt by some mailing
2639 list software; see the caveats under THE USE AND ABUSE OF MULTIDROP
2640 MAILBOXES on the man page). If you want to try it, the way to do it
2641 is with the '<code>localdomains</code>' option.</p>
2642
2643 <p>In general, if you use localdomains you need to make sure of two
2644 other things:</p>
2645
2646 <p><strong>1. You've actually set up your .fetchmailrc entry to
2647 invoke multidrop mode.</strong></p>
2648
2649 <p>Many people set a '<code>localdomains</code>' list and then
2650 forget that fetchmail wants to see more than one name (or the
2651 wildcard '*') in a '<code>here</code>' list before it will do
2652 multidrop routing.</p>
2653
2654 <p><strong>2. You may have to set 'no envelope'.</strong></p>
2655
2656 <p>Normally, multidrop mode tries to deduce an envelope address
2657 from a message before parsing the To/Cc/Bcc lines (this enables it
2658 to avoid losing to mailing list software that doesn't put a
2659 recipient address in the To lines).</p>
2660
2661 <p>Some ways of accumulating a whole domain's messages in a single
2662 server mailbox mean it all ends up with a single envelope address
2663 that is useless for rerouting purposes. You may have to set
2664 '<code>no envelope</code>' to prevent fetchmail from being
2665 bamboozled by this.</p>
2666
2667 <p>Check also answer <a href="#T1">T1</a> on a reliable way to do
2668 multidrop delivery if your ISP (or your mail redirection provider)
2669 is using qmail.</p>
2670
2671 <h2><a id="M3" name="M3">M3. I tried to run a mailing list using
2672 multidrop, and I have a mail loop!</a></h2>
2673
2674 <p>This isn't fetchmail's fault. Check your mailing list. If the
2675 list expansion includes yourself or anybody else at your mailserver
2676 (that is, not on the client side) you've created a mail loop. Just
2677 chop the host part off any local addresses in the list.</p>
2678
2679 <p>If you use sendmail, you can check the list expansion with
2680 <code>sendmail -bv</code>.</p>
2681
2682 <h2><a id="M4" name="M4">M4. My multidrop fetchmail seems to be
2683 having DNS problems.</a></h2>
2684
2685 <p>We have one report from a Linux user (not the same one as in <a
2686 href="#R1">R1</a>!) who solved this problem by removing the
2687 reference to -lresolv from his link line and relinking. Apparently
2688 in some older Linux distributions the libc5 bind library version
2689 works better.</p>
2690
2691 <p>As of 2.2, the configure script has been hacked so the bind
2692 library is linked only if it is actually needed. So under Linux it
2693 won't be, and this problem should go away.</p>
2694
2695 <h2><a id="M5" name="M5">M5. I'm seeing long DNS delays before each
2696 message is processed.</a></h2>
2697
2698 <p>Use the '<code>aka</code>' option to pre-declare as many of your
2699 mailserver's DNS names as you can. When an address's host part
2700 matches an aka name, no DNS lookup needs to be done to check
2701 it.</p>
2702
2703 <p>If you're sure you've pre-declared all of your mailserver's DNS
2704 names, you can use the '<code>no dns</code>' option to prevent
2705 other hostname parts from being looked up at all.</p>
2706
2707 <p>Sometimes delays are unavoidable. Some SMTP listeners try to
2708 call DNS on the From-address hostname as a way of checking that the
2709 address is valid.</p>
2710
2711 <h2><a id="M6" name="M6">M6. How do I get multidrop mode to work
2712 with majordomo?</a></h2>
2713
2714 <p>In order for sendmail to execute the command strings in the
2715 majordomo alias file, it is necessary for sendmail to think that
2716 the mail it receives via SMTP really is destined for a local user
2717 name. A normal virtual-domain setup results in delivery to the
2718 default mailbox, rather than expansion through majordomo.</p>
2719
2720 <p>Michael &lt;michael@bizsystems.com&gt; gave us a recipe for
2721 dealing with this case that pairs a run control file like this:</p>
2722
2723 <pre>
2724 poll your.pop3.server proto pop3:
2725     no envelope no dns
2726     localdomains virtual.localdomain1.com virtual.localdomain2.com ...
2727     user yourISPusername is root * here,
2728     password yourISPpassword fetchall
2729 </pre>
2730
2731 <p>with a hack on your local sendmail.cf like this:</p>
2732
2733 <pre>
2734 #############################################
2735 #  virtual info, local hack for ruleset 98  #
2736 #############################################
2737
2738 # domains to treat as direct mapped local domain
2739
2740 CVvirtual.localdomain1.com virtual.localdomain2.com ...
2741 ---------------------------
2742 in ruleset 98 add
2743 -------------------------
2744 # handle virtual users
2745
2746 R$+ &lt;@ $=V . &gt;          $: $1 &lt; @ $j . &gt;
2747 R&lt; @ &gt; $+ &lt; @ $=V . &gt;   $: $1 &lt; @ $j . &gt;
2748 R&lt; @ &gt; $+               $: $1
2749 R&lt; error : $- $+ &gt; $*   $#error $@ $1 $: $2
2750 R&lt; $+ &gt; $+ &lt; @ $+ &gt;     $: $&gt;97 $1
2751 </pre>
2752
2753 <p>This ruleset just strips virtual domain names off the addresses
2754 of incoming mail. Your sendmail must be 8.8 or newer for this to
2755 work. Michael says:</p>
2756
2757 <blockquote>I use this scheme with 2 virtual domains and the
2758 default ISP user+domain and service about 30 mail accounts +
2759 majordomo on my inside pop3 server with fetchmail and sendmail
2760 8.83</blockquote>
2761
2762 <h2><a id="M7" name="M7">M7. Multidrop mode isn't parsing envelope
2763 addresses from my Received headers as it should.</a></h2>
2764
2765 <p>It may happen that you're getting what appear to be well-formed
2766 sendmail Received headers, but fetchmail can't seem to extract an
2767 envelope address from them. There can be a couple of reasons for
2768 this.</p>
2769
2770 <h3>Spurious Received lines need to be skipped:</h3>
2771
2772 <p>First, fetchmail might be looking at the wrong Received header.
2773 Normally it looks only on the first one it sees, on the theory that
2774 that one was last added and is going to be the one containing your
2775 mailserver's theory of who the message was addressed to.</p>
2776
2777 <p>Some (unusual) mailserver configurations will generate extra
2778 Received lines which you need to skip. To arrange this, use the
2779 optional skip prefix argument of the 'envelope' option; you may
2780 need to say something like '<code>envelope 1 Received</code>' or
2781 '<code>envelope 2 Received</code>'.</p>
2782
2783 <h3>The 'by' clause doesn't contain a mailserver alias:</h3>
2784
2785 <p>When fetchmail parses a Received line that looks like</p>
2786
2787 <pre>
2788 Received: from send103.yahoomail.com (send103.yahoomail.com [205.180.60.92])
2789     by iserv.ttns.net (8.8.5/8.8.5) with SMTP id RAA10088
2790     for &lt;ksturgeon@fbceg.org&gt;; Wed, 9 Sep 1998 17:01:59 -0700
2791 </pre>
2792
2793 <p>it checks to see if 'iserv.ttns.net' is a DNS alias of your
2794 mailserver before accepting 'ksturgeon@fbceg.org' as an envelope
2795 address. This check might fail if your DNS were misconfigured, or
2796 if you were using 'no dns' and had failed to declare iserv.ttns.net
2797 as an alias of your server.</p>
2798
2799 <h2><a id="M8" name="M8">M8. Users are getting multiple copies of
2800 messages.</a></h2>
2801
2802 <p>It's a consequence of multidrop. What's happening is that you
2803 have N users subscribed to the same list. The list software sends N
2804 copies, not knowing they will end up in the same multidrop box.
2805 Since they are both locally addressed to all N users, fetchmail
2806 delivers N copies to each user.</p>
2807
2808 <p>Fetchmail tries to eliminate adjacent duplicate messages in a
2809 multidrop mailbox. However, this logic depends on the message-ID
2810 being identical in both copies. It also depends on the two copies
2811 being adjacent in the server mailbox. The former is usually the
2812 case, but the latter condition sometimes fails in a
2813 timing-dependent way if the server was processing multiple incoming
2814 mail streams.</p>
2815
2816 <p>I could eliminate this problem by keeping a list of all
2817 message-IDs received during a poll so far and dropping any message
2818 that matches a seen mail ID. The trouble is that this is an O(N**2)
2819 operation that might significantly slow down the retrieval of large
2820 mail batches.</p>
2821
2822 <hr/>
2823 <h1>Mangled mail</h1>
2824 <h2><a id="X1" name="X1">X1. Spurious blank lines are appearing in
2825 the headers of fetched mail.</a></h2>
2826
2827 <p>What's probably happening is that the POP/IMAP daemon on your
2828 mailserver is inserting a non-RFC822 header (like X-POP3-Rcpt:) and
2829 something in your delivery path (most likely an old version of the
2830 <em>deliver</em> program, which sendmail often calls to do local
2831 delivery) is failing to recognize it as a header.</p>
2832
2833 <p>This is not fetchmail's problem. The first thing to try is
2834 installing a current version of <em>deliver</em>. If this doesn't
2835 work, try to figure out which other program in your mail path is
2836 inserting the blank line and replace that. If you can't do either
2837 of these things, pick a different MDA (such as maildrop) and
2838 declare it with the '<code>mda</code>' option.</p>
2839
2840 <h2><a id="X2" name="X2">X2. My mail client can't see a Subject
2841 line.</a></h2>
2842
2843 <p>First, see <a href="#X1">X1</a>. This is quite probably the same
2844 problem (X-POP3-Rcpt header or something similar being inserted by
2845 the server and choked on by an old version of
2846 <em>deliver</em>).</p>
2847
2848 <p>The O'Reilly sendmail book does warn that IDA sendmail doesn't
2849 process X- headers correctly. If this is your problem, all I can
2850 suggest is replacing IDA sendmail, because it's broken and not
2851 RFC822 conformant.</p>
2852
2853 <h2><a id="X3" name="X3">X3. Messages containing "From" at start of
2854 line are being split.</a></h2>
2855
2856 <p>If you know the messages aren't split in your server mailbox,
2857 then this is a problem with your POP/IMAP server, your client-side
2858 SMTP listener or your local delivery agent. Fetchmail cannot split
2859 messages.</p>
2860
2861 <p>Some POP server daemons ignore Content-Length headers and split
2862 messages on From lines. We have one report that the 2.1 version of
2863 the BSD popper program (as distributed on Solaris 2.5 and
2864 elsewhere) is broken this way.</p>
2865
2866 <p>You can test this. Declare an mda of 'cat' and send yourself one
2867 piece of mail containing "From" at start of a line. If you see a
2868 split message, your POP/IMAP server is at fault. Upgrade to a more
2869 recent version.</p>
2870
2871 <p>Sendmail and other SMTP listeners don't split RFC822 messages
2872 either. What's probably happening is either sendmail's local
2873 delivery agent or your mail reader are not quite RFC822-conformant
2874 and are breaking messages on what it thinks are Unix-style From
2875 headers. You can figure out which by looking at your client-side
2876 mailbox with vi or more. If the message is already split in your
2877 mailbox, your local delivery agent is the problem. If it's not,
2878 your mailreader is the problem.</p>
2879
2880 <p>If you can't replace the offending program, take a look at your
2881 sendmail.cf file. There will likely be a line something like</p>
2882
2883 <pre>
2884 Mlocal, P=/usr/bin/procmail, F=lsDFMShP, S=10, R=20/40, A=procmail -Y -d $u
2885 </pre>
2886
2887 <p>describing your local delivery agent. Try inserting the 'E'
2888 option in the flags part (the F= string). This will make sendmail
2889 turn each dangerous start-of-line From into a &gt;From, preventing
2890 programs further downstream from acting up.</p>
2891
2892 <h2><a id="X4" name="X4">X4.</a> <a id="generic_mangling"
2893 name="generic_mangling">My mail is being mangled in a new and
2894 different way</a></h2>
2895
2896 <p>The first thing you need to do is pin down what program is doing
2897 the mangling. We don't like getting bug reports about fetchmail
2898 that are actually due to some other program's malfeasance, so
2899 please go through this diagnostic sequence before sending us a
2900 complaint.</p>
2901
2902 <p>There are five possible culprits to consider, listed here in the
2903 order they pass your mail:</p>
2904
2905 <ol>
2906 <li>Programs upstream of your server mailbox.</li>
2907
2908 <li>The POP or IMAP server on your mailserver host.</li>
2909
2910 <li>The fetchmail program itself.</li>
2911
2912 <li>Your local sendmail.</li>
2913
2914 <li>Your LDA (local delivery agent), as called by sendmail or
2915 specified by <code>mda</code>.</li>
2916 </ol>
2917
2918 <p>Often it happens that fetchmail itself is OK, but using it
2919 exposes pre-existing bugs in your downstream software, or your
2920 downstream software has a bad interaction with POP/IMAP. You need
2921 to pin down exactly where the message is being garbled in order to
2922 deduce what is actually going on.</p>
2923
2924 <p>The first thing to do is send yourself a test message, and
2925 retrieve it with a .fetchmailrc entry containing the following (or
2926 by running with the equivalent command-line options):</p>
2927
2928 <pre>
2929     mda "cat &gt;MBOX" keep fetchall
2930 </pre>
2931
2932 <p>This will capture what fetchmail gets from the server, except
2933 for (a) the extra Received header line fetchmail prepends, (b)
2934 header address changes due to <code>rewrite</code>, and (c) any
2935 end-of-line changes due to the <code>forcecr</code> and
2936 <code>stripcr</code> options. MBOX will in fact contain what
2937 programs downstream of fetchmail see.</p>
2938
2939 <p>The most common causes of mangling are bugs and
2940 misconfigurations in those downstream programs. If MBOX looks
2941 unmangled, you will know that is what is going on and that it is
2942 not fetchmail's problem. Take a look at the other FAQ items in this
2943 section for possible clues about how to fix your problem.</p>
2944
2945 <p>If MBOX looks mangled, the next thing to do is compare it with
2946 your actual server mailbox (if possible). That's why you specified
2947 <code>keep</code>, so the server copy would not be deleted. If your
2948 server mailbox looks mangled, programs upstream of your server
2949 mailbox are at fault. Unfortunately there is probably little you
2950 can do about this aside from complaining to your site postmaster,
2951 and nothing at all fetchmail can do about it!</p>
2952
2953 <p>More likely you'll find that the server copy looks OK. In that
2954 case either the POP/IMAP server or fetchmail is doing the mangling.
2955 To determine which, you'll need to telnet to the server port and
2956 simulate a fetchmail session yourself. This is not actually hard
2957 (both POP3 and IMAP are simple, text-only, line-oriented protocols)
2958 but requires some attention to detail. You should be able to use a
2959 fetchmail -v log as a model for a session, but remember that the
2960 "*" in your LOGIN or PASS command dump has to be replaced with your
2961 actual password.</p>
2962
2963 <p>The objective of manually simulating fetchmail is so you can see
2964 exactly what fetchmail sees. If you see a mangled message, then
2965 your server is at fault, and you probably need to complain to your
2966 mailserver administrators. However, we like to know what the broken
2967 servers are so we can warn people away from them. So please send us
2968 a transcript of the session including the mangling <em>and the
2969 server's initial greeting line</em>. Please tell us anything else
2970 you think might be useful about the server, like the server host's
2971 operating system.</p>
2972
2973 <p>If your manual fetchmail simulation shows an unmangled message,
2974 congratulations. You've found an actual fetchmail bug, which is a
2975 pretty rare thing these days. Complain to us and we'll fix it.
2976 Please include the session transcript of your manual fetchmail
2977 simulation along with the other things described in the FAQ entry
2978 on <a href="#G3">reporting bugs</a>.</p>
2979
2980 <h2><a id="X5" name="X5">X5. Using POP3, retrievals seems to be
2981 fetching too much!</a></h2>
2982
2983 <p>This may happen in versions of fetchmail after 4.4.1 and before
2984 4.4.8. Versions after 4.4.1 use POP3's TOP command rather than
2985 RETR, in order to avoid marking the message seen (leaving it unseen
2986 is helpful for later recovery if you lose your connection in the
2987 middle of a retrieval).</p>
2988
2989 <p>Versions of fetchmail from 4.4.2 through 4.4.7 had a bad
2990 interaction with Eudora qpopper versions 2.3 and later. The TOP
2991 bounds check was fooled by an overflow condition in the TOP
2992 argument. Decrementing the TOP argument in 4.4.7 fixed this.</p>
2993
2994 <p>Fix: Upgrade to a later version of fetchmail.</p>
2995
2996 <p>Workaround: set the <code>fetchall</code> option. Under POP3
2997 this has the side effect of forcing RETR use.</p>
2998
2999 <h2><a id="X6" name="X6">X6. My mail attachments are being dropped
3000 or mangled.</a></h2>
3001
3002 <p>Fetchmail doesn't discard attachments; fetchmail doesn't have any idea
3003 that attachments are there.  Fetchmail treats the body of each message as
3004 an uninterpreted byte stream and passes it through without alteration.
3005 If you are not receiving attachments through fetchmail, it is because
3006 your mailserver is not sending them to you.</p>
3007
3008 <p>The fix for this is to replace your mailserver with one that works.
3009 If its operating system makes this difficult, you should replace its
3010 operating system with one that works. Windows- and NT-based POP servers
3011 seem especially prone to mangle attachments. If you are running one
3012 of these, replacing your server with a Unix machine is probably the
3013 only effective solution.</p>
3014
3015 <p>We've had sporadic reports of problems with Microsoft Exchange and
3016 Outlook servers.  These sometimes randomly fail to ship
3017 attachments to your client.  This is a known bug, acknowledged by
3018 Microsft.</p>
3019
3020 <p>They may also mangle the attachments they do pass through.  If you
3021 see unreadable attachments with a ContentType of "application/x-tnef",
3022 you're having this problem.  The <a
3023 href="http://world.std.com/~damned/software.html">TNEF</a> utility may
3024 help.</p>
3025
3026 <p>The Mail Max POP3 server and the InterChange and Imail IMAP
3027 servers are known to simply drop MIME attachments when uploading
3028 messages.</p>
3029
3030 <p>We've also had a report that Lotus Notes sometimes trashes the
3031 MIME type of messages. In particular, it seems to modify MIME
3032 headers of type application/pdf, mangling the type to
3033 application/octet-stream. It may corrupt other MIME types as
3034 well.</p>
3035
3036 <p>The IMAP service of Lotus Domino has a known bug in the way it
3037 generates MIME Content-type headers (observed on Lotus Domino
3038 5.0.2b). It's a subtle one that doesn't show up when Netscape
3039 Messenger and other clients use a FETCH BODY[] to grab the whole
3040 message. When fetchmail uses FETCH RFC822.HEADER and FETCH
3041 RFC822.TEXT to get first the header and then the body, Domino
3042 generates different Boundary tags for each part, .e.g. one tag is
3043 declared in the Content-type header and another is used to separate
3044 the MIME parts in the body. This doesn't work. (I have heard a
3045 rumor that this bug is scheduled to be fixed in Domino release 6;
3046 you can find a workaround at contrib/domino.)</p>
3047
3048 <p>Rob Funk explains: Unfortunately there also remain many mail
3049 user agents that don't write correct MIME messages. One big
3050 offender is Sun MailTool attachments, which are formatted enough
3051 like MIME that some programs could get confused; these are
3052 generated by the mailtool and dtmail programs (the mail programs in
3053 Sun's OpenWindows and CDE environments).</p>
3054
3055 <p>One solution to problems related to misformatted MIME
3056 attachments is the <a
3057 href="ftp://ftp.uu.se/pub/unix/networking/mail/emil/">emil</a>
3058 program; see its <a
3059 href="ftp://ftp.uu.se/pub/unix/networking/mail/emil/TUTORIAL.html">tutorial</a>
3060 file at that site for details on emil. It is useful for converting
3061 character sets, attachment encodings, and attachment formats. At
3062 this writing, emil does not appear to have been maintained since a
3063 patch to version 2.1.0beta9 in late 1997, but it is still
3064 useful.</p>
3065
3066 <p>One good way of using emil is from within procmail. You can have
3067 procmail look for signs of problematic message formatting, and pipe
3068 those messages through emil to be fixed. emil will not always be
3069 able to fix the problem, in which case the message is
3070 unchanged.</p>
3071
3072 <p>A possible rule to be inserted into a .procmailrc file for using
3073 emil would be:</p>
3074
3075 <pre>
3076 :0HB
3077 * 1^1 ^Content-Type: \/X-sun[^;]*
3078 * 1^1 ^Content-Type: \/application/mac-binhex[^;]*
3079 * 1^1 ^Content-Transfer-Encoding: \/x-binhex[^;]*
3080 * 1^1 ^Content-Transfer-Encoding: \/x-uuencode[^;]*
3081 {
3082   LOG="Converting $MATCH
3083 "
3084   :0fw
3085   | emil -A B -T Q -B BA -C iso-8859-1 -H Q -F MIME \
3086   | gawk '{gsub(/\r\n?/,"\n");print $0}'
3087 }
3088 </pre>
3089
3090 <p>The "1^1" in the conditions is a way of specifying to procmail
3091 that if any one of the four listed expressions is found in the
3092 message, the total condition is considered true, and the message
3093 gets passed into emil. These four subconditions check whether the
3094 message has a Sun attachment, a binhex attachment, or a uuencoded
3095 attachment; there are others that could be added to check these
3096 things better and to check other relevant conditions. The "LOG="
3097 line writes a line into the procmail log; the lone double-quote
3098 beginning the following line makes sure the log entry gets an
3099 end-of-line character. The call to gawk (GNU awk) is for fixing
3100 end-of-line conventions, since emil sometimes leaves those in the
3101 format of the originating machine; it could probably be replaced
3102 with a sed subsitution.</p>
3103
3104 <p>The emil call itself tries to ensure that the message uses:</p>
3105
3106 <ul>
3107 <li>BinHex encoding for any Apple Macintosh-only attachments</li>
3108
3109 <li>Quoted-Printable encoding for text (when necessary)</li>
3110
3111 <li>Base64 Encoding for binary attachments</li>
3112
3113 <li>iso-8859-1 character set for text (unfortunately emil can't yet
3114 convert from windows-1252 to iso-8859-1)</li>
3115
3116 <li>Quoted-Printable encoding for headers</li>
3117
3118 <li>MIME attachment format</li>
3119 </ul>
3120
3121 <p>Most of these (the primary exceptions being the character set
3122 and the Apple binary format) are as they should be for good
3123 internet interoperability.</p>
3124
3125 <p>Some mail servers (Lotus Domino is a suspect here) mangle
3126 Sun-formatted messages, so the conversion to MIME needs to happen
3127 before such programs see the message. The ideal is to rid the world
3128 of Sun-formatted messages: don't use mailtool for sending
3129 attachments (it doesn't understand MIME anyway, and most of the
3130 world doesn't understand its attachments, so it really shouldn't be
3131 used at all), and make sure dtmail is set to use MIME rather than
3132 mailtool's format.</p>
3133
3134 <h2><a id="X7" name="X7">X7. Some mail attachments are hanging
3135 fetchmail.</a></h2>
3136
3137 <p>This isn't fetchmail's problem either; fetchmail doesn't know
3138 anything about mail attachments and doesn't treat them any
3139 differently from plain message data.</p>
3140
3141 <p>The most usual cause of this problem seems to be bugs in your
3142 network transport layer's capability to handle the very large
3143 TCP/IP packets that attachments tend to turn into. You can test
3144 this theory by trying to download the offending message through a
3145 webmail account; using HTTP for the message tends to simulate
3146 large-packet stress rather well, and you will probably find that
3147 the messages that seem to be choking fetchmail will make your HTTP
3148 download speed drop to zero.</p>
3149
3150 <p>This problem can be caused by subtle bugs in the
3151 packet-reassembly layer of your TCP/IP stack; these often don't
3152 manifest at normal packet sizes. It may also be caused by
3153 malfunctioning path-MTU discovery on the mailserver. Or, if there's
3154 a modem in the link, it may be because the attachment contains the
3155 Hayes mode escape "+++".</p>
3156
3157 <h2><a id="X8" name="X8">X8. A spurious ) is being appended to my
3158 messages.</a></h2>
3159
3160 <p>Blame it on that rancid pile of dung and offal called Microsoft
3161 Exchange. Due to the problem described in <a href="#S2">S2</a>, the
3162 IMAP support in fetchmail cannot follow the IMAP protocol 100%.
3163 Most of the time it doesn't matter, but if you combine it with an
3164 SMTP server that behaves unusually, you'll get a spurious ) at
3165 message end.</p>
3166
3167 <p>One piece of software that can trigger this is the Interchange
3168 mail server, as used by, e.g., mailandnews.com. Here's what
3169 happens:</p>
3170
3171 <p>1. Someone sends mail to your account. The last line of the
3172 message contains text. So at the SMTP level, the message ends with,
3173 e.g. "blahblah\r\n.\r\n"</p>
3174
3175 <p>2. The SMTP handler sees the final "\r\n.\r\n" and recognizes
3176 the end of the message. However, instead of doing the normal thing,
3177 which is tossing out the ".\r\n" and leaving the first '\r\n' as
3178 part of the email body, Interchange throws out the whole
3179 "\r\n.\r\n", and leaves the email body without any line terminator
3180 at the end of it. RFC821 does not forbid this, though it probably
3181 should.</p>
3182
3183 <p>3. Fetchmail, or some other IMAP client, asks for the message.
3184 IMAP returns it, but it's enclosed inside parentheses, according to
3185 the protocol. The message size in bytes is also present. Because
3186 the message doesn't end with a line terminator, the IMAP client
3187 sees:</p>
3188
3189 <pre>
3190
3191  ....blahblah)...
3192 </pre>
3193
3194 <p>where the ')' is from IMAP.</p>
3195
3196 <p>4. Fetchmail only deals with complete lines, and can't trust the
3197 stated message size because Microsoft Exchange fscks it up.</p>
3198
3199 <p>5. As a result, fetchmail takes the final 'blahblah)' and puts
3200 it at the end of the message it forwards on. If you have verbosity
3201 on, you'll get a message about actual != expected.</p>
3202
3203 <p>There is no fix for this. The nuke mentioned in <a
3204 href="#S2">S2</a> looks more tempting all the time.</p>
3205
3206 <h2><a id="X9" name="X9">X9. Missing "Content-Transfer-Encoding" header
3207         with Domino IMAP</a></h2>
3208
3209 <p>Domino 6 IMAP was found by Anthony Kim in February 2006 to
3210 erroneously omit the "Content-Transfer-Encoding" header in messages
3211 downloaded through IMAP, causing messages to display improperly. This
3212 happened with Domino's incoming mail format configured to "Prefers
3213 MIME". Solution: switch Domino to "Keep in Sender's format".</p>
3214
3215 <p>Reference: <a
3216     href="http://lists.ccil.org/pipermail/fetchmail-friends/2006-March/010015.html">Anthony
3217     Kim's list post</a>
3218 </p>
3219
3220 <hr/>
3221 <h1>Other problems</h1>
3222 <h2><a id="O1" name="O1">O1. The --logfile option doesn't work if
3223 the logfile doesn't exist.</a></h2>
3224
3225 <p>This is a feature, not a bug. It's in line with normal practice
3226 for system daemons and allows you to suppress logging by removing
3227 the log, without hacking potentially fragile startup scripts. To
3228 get around it, just touch(1) the logfile before you run fetchmail
3229 (this will have no effect on the contents of the logfile if it
3230 already exists).</p>
3231
3232 <h2><a id="O2" name="O2">O2. Every time I get a POP or IMAP message
3233 the header is dumped to all my terminal sessions.</a></h2>
3234
3235 <p>Fetchmail uses the local sendmail to perform final delivery,
3236 which Netscape and other clients doesn't do; the announcement of
3237 new messages is done by a daemon that sendmail pokes. There should
3238 be a "biff" command to control this. Type</p>
3239
3240 <pre>
3241 biff n
3242 </pre>
3243
3244 <p>to turn it off. If this doesn't work, try the command</p>
3245
3246 <pre>
3247 chmod -x $(tty)
3248 </pre>
3249
3250 <p>which is essentially what <code>biff -n</code> will do. If this
3251 doesn't work, comment out any reference to "comsat" in your
3252 /etc/inetd.conf file and restart inetd.</p>
3253
3254 <p>In Slackware Linux distributions, the last line in /etc/profile
3255 is</p>
3256
3257 <pre>
3258 biff y
3259 </pre>
3260
3261 Change this to
3262
3263 <pre>
3264 biff n
3265 </pre>
3266
3267 to solve the problem system-wide.
3268
3269 <h2><a id="O3" name="O3">O3. Does fetchmail reread its rc file
3270 every poll cycle?</a></h2>
3271
3272 <p>No, but versions 5.2.2 and later will notice when you modify
3273 your rc file and restart, reading it.</p>
3274
3275 <h2><a id="O4" name="O4">O4. Why do deleted messages show up again
3276 when I take a line hit while downloading?</a></h2>
3277
3278 <p>Because you're using a POP3 other than Qualcomm qpopper, or an
3279 IMAP with a long expunge interval.</p>
3280
3281 <p>According to the POP3 RFCs, deletes aren't actually performed
3282 until you issue the end-of-session QUIT command. Fetchmail cannot
3283 fix this, because doing it right takes cooperation from the server.
3284 There are two possible remedies:</p>
3285
3286 <p>One is to switch to qpopper (the free POP3 server from Qualcomm,
3287 the Eudora people). The qpopper software violates the POP3 RFCs by
3288 doing an expunge (removing deleted messages) on a line hangup, as
3289 well as on processing a QUIT command.</p>
3290
3291 <p>The other (which we recommend) is to switch to <a
3292 href="http://www.imap.org">IMAP</a>. IMAP has an explicit expunge
3293 command and fetchmail normally uses it to delete messages
3294 immediately after they are downloaded.</p>
3295
3296 <p>If you get very unlucky, you might take a line hit in the window
3297 between the delete and the expunge. If you've set a longer expunge
3298 interval, the window gets wider. This problem should correct itself
3299 the next time you complete a successful query.</p>
3300
3301 <h2><a id="O5" name="O5">O5. Why is fetched mail being logged with
3302 my name, not the real From address?</a></h2>
3303
3304 <p>Because logging is done based on the address indicated by the
3305 sending SMTP's MAIL FROM, and some listeners are picky about that
3306 address.</p>
3307
3308 <p>Some SMTP listeners get upset if you try to hand them a MAIL
3309 FROM address naming a different host than the originating site for
3310 your connection. This is a feature, not a bug -- it's supposed to
3311 help prevent people from forging mail with a bogus origin site.
3312 (RFC 1123 says you shouldn't do this exclusion...)</p>
3313
3314 <p>Since the originating site of a fetchmail delivery connection is
3315 localhost, this effectively means these picky listeners will barf
3316 on any MAIL FROM address fetchmail hands them with an @ in it!</p>
3317
3318 <p>Versions 2.1 and up try the header From address first and fall
3319 back to the calling-user ID. So if your SMTP listener isn't picky,
3320 the log will look right.</p>
3321
3322 <h2><a id="O6" name="O6">O6. I'm seeing long sendmail delays or
3323 hangs near the start of each poll cycle.</a></h2>
3324
3325 <p>Sendmail does a hostname lookup when it first starts up, and
3326 also each time it gets a HELO in listener mode.</p>
3327
3328 <p>Your resolver configuration may be causing one of these lookups
3329 to fail and time out. Check <code>/etc/resolv.conf</code> and
3330 <code>/etc/hosts</code> file. Make sure your hostname and
3331 fully-qualified domain name are both in <code>/etc/hosts</code>,
3332 and that hosts is looked at before DNS is queried. You probably
3333 also want your remote mail server(s) to be in the hosts file.</p>
3334
3335 <p>You can suppress the startup-time lookup if need to by
3336 reconfiguring with <code>FEATURE(nodns)</code>.</p>
3337
3338 <p>Configuring your bind library to cache DNS lookups locally may
3339 help, and is a good idea for speeding up other services as well.
3340 Switching to a faster MTA like <a
3341     href="http://www.postfix.org/">Postfix</a> might help.</p>
3342
3343 <h2><a id="O7" name="O7">O7. Why doesn't fetchmail deliver mail in
3344 date-sorted order?</a></h2>
3345
3346 <p>Because that's not the order the server hands it to fetchmail
3347 in.</p>
3348
3349 <p>Fetchmail getting mail from a POP server delivers mail in the
3350 order that your server delivers mail. Fetchmail can't do anything
3351 about this; it's a limitation of the underlying POP protocol.</p>
3352
3353 <p>In theory it might be possible for fetchmail in IMAP mode to
3354 sort messages by date, but this would be in violation of two basics
3355 of fetchmail's design philosophy: (a) to be as simple and
3356 transparent a pipe as possible, and (b) to <em>hide</em>, rather
3357 than emphasize, the differences between the remote-fetch protocols
3358 it uses.</p>
3359
3360 <p>Re-ordering messages is a user-agent function, anyway.</p>
3361
3362 <h2><a id="O8" name="O8">O8. I'm using pppd. Why isn't my monitor
3363 option working?</a></h2>
3364
3365 <p>There is a combination of circumstances that can confuse
3366 fetchmail. If you have set up demand dialing with pppd, and pppd
3367 has an idle timeout, and you have lcp-echo-interval set, then the
3368 lcp-echo-interval time must be longer than the pppd idle timeout.
3369 Otherwise it is going keep increasing the packet counters that
3370 fetchmail relies upon, triggering fetchmail into polling after its
3371 own delay interval and thus preventing the pppd link from ever
3372 reaching its inactivity timeout.</p>
3373
3374 <h2><a id="O9" name="O9">O9. Why does fetchmail keep retrieving the
3375 same messages over and over?</a></h2>
3376
3377 <p>First, check to see that you haven't enabled the
3378 <cite>keep</cite> and <cite>fetchall</cite> option. If you have,
3379 turn <cite>keep</cite> off.</p>
3380
3381 <p>There are various forms of lossage involving the POP3 UIDL
3382 feature that can lead to all your old messages being seen again
3383 after a line drop. I have given up trying to fix these, as the UIDL
3384 code breaks worse every time I touch it. The problem is
3385 fundamental; maintaining and garbage-collecting the right kind of
3386 client-side state is just hard. Whoever put UIDLs in RFC1725 and
3387 removed LAST should be hung up by his thumbs and whipped with
3388 scorpions. The right answers are either (a) live with the
3389 occasional breakage, (b) switch to IMAP4, or (c) fix the code
3390 yourself and send me a patch. Unless you choose (c), I don't want
3391 to hear about it.</p>
3392
3393 <p>This can also happen when some other mail client is logged in to
3394 your mail server, if it uses a simple exclusive-locking scheme (and
3395 many, especially most POP3 servers, do exactly that). Your
3396 fetchmail is able to retrieve the messages, but because the mailbox
3397 is write-locked by the other instance yours can neither mark
3398 messages seen or delete them. The solution is to either (a) wait
3399 for the other client to finish, or (b) terminate it.</p>
3400
3401 <p>James Stevens &lt;James.Stevens at kyzo.com&gt; writes:</p>
3402
3403 <p><em>We had a Linux box dialing the Net and collecting mail from
3404 an NT POP3 server. Fetchmail was correctly collecting and deleting
3405 each e-mail one by one. However,the dial-up connection was very
3406 unreliable and would often just drop out in the middle of a
3407 session.</em></p>
3408
3409 <p><em>Interestingly, unless the TCP POP3 connection was terminated
3410 normally (I guess with a POP3 "QUIT" command) NT would then roll
3411 back all the deletes !!!</em></p>
3412
3413 <p><em>This meant if the first e-mail was very large it might just
3414 end up continuously collecting it, basically jamming the queue. Or,
3415 if the queue became very full itmight never get a long enough phone
3416 connection to retrieve the entire mailbox, and NT would roll back
3417 any deletes, so it would end up collecting (and delivering) the
3418 first few e-mails again and again. As the POP3 mailbox became
3419 fuller and fuller the chances of getting a connection long enough
3420 to collect theentire mailbox became smaller and smaller.</em></p>
3421
3422 <p><em>Our solution was to make fetchmail only collect a few (say 5
3423 or 10) e-mails at atime, thus trying to ensure that the POP3
3424 connection is terminated correctly.</em></p>
3425
3426 <p>Unfortunately, this is exactly the way POP3 servers are supposed
3427 to behave on a line drop, according to the RFCs. I recommend
3428 switching to IMAP and using a short expunge interval.</p>
3429
3430 <h2><a id="O10" name="O10">O10. Why is the received date on all my
3431 messages the same?</a></h2>
3432
3433 <p>This is a design choice in your MTA, not fetchmail. It's taking
3434 the received date from the last Received header.</p>
3435
3436 <h2><a name="O11">O11. I keep getting messages that say "Repoll
3437 immediately" in my logs.</a></h2>
3438
3439 <p>This is your server barfing on the CAPA probe that fetchmail sends.</p>
3440
3441 <p>If you run fetchmail in daemon mode (say "set daemon 600"), you will
3442 get the message only once per run.</p>
3443
3444 <p>If you set an authentication method explicitly (say, with
3445 <code>auth password</code>), you will never get the message.</p>
3446
3447 <h2><a name="O12">O12. Fetchmail no longer expunges mail on a 451 SMTP response.</a></h2>
3448
3449 <p>This is a feature, not a bug.</p>
3450
3451 <p>Any 4xx response (like 451) indicates a transient (temporary) error.
3452 This means that the mail could be accepted if retried later. Lookup
3453 failures are normally transient errors as a mail should not get
3454 rejected if a dns server is unreachable or down.</p>
3455
3456 <p>A permanent reject response is of the form 5xx (like 550).</p>
3457
3458 <p>You could tell your SMTP server to not lookup any addresses if you are
3459 not keen on checking the sender addresses. This problem typically
3460 occurs if your mail server is not checking the sender addresses, but
3461 your local server is.</p>
3462
3463 <p>Or you could declare <code>antispam 451</code>.</p>
3464
3465 <p>Or, you could check your nameserver configuration and query logs for
3466 dns errors.</p>
3467
3468 <p>All these issues are not related to fetchmail directly.</p>
3469
3470 <h2><a name="O13">O13. I want timestamp information in my fetchmail logs.</a></h2>
3471
3472 <p>Write a <code>preconnect</code> command in your configuration file that
3473 does something like "date &gt;&gt; $HOME/Procmail/fetchmail.log".</p>
3474
3475 <h2><a name="O14">O14. Fetchmail no longer deletes oversized mails with
3476 --flush.</a></h2>
3477
3478 <p>Use <code>--limitflush</code> (available since release 6.3.0) to
3479 delete oversized mails along with the <code>--limit</code> option. If
3480 you are already having <code>flush</code> in your rcfile to delete
3481 oversized mails, <em>replace</em> it with <code>limitflush</code> to
3482 avoid losing mails unintentionally.</p>
3483
3484 <p>The <code>--flush</code> option is primarily designed to delete
3485 mails which have been read/downloaded but not deleted yet. This option
3486 cannot be overloaded to delete oversized mails as it cannot be guessed
3487 whether the user wants to delete only read/downloaded mails or only
3488 oversized mails or both when a user specifies both
3489 <code>--limit</code> and <code>--flush</code>. Hence, a separate
3490 <code>--limitflush</code> has been added to resolve the ambiguity.</p>
3491
3492 <h2><a name="O15">O15. Fetchmail always retains the first message in the
3493     mailbox.</a></h2>
3494
3495 <p>This happens when fetchmail sees an "X-IMAP:" header in the very
3496 first message in your mailbox. This usually stems from a message like
3497 the one shown below, which is automatically created on your server. This
3498 message shows up if the University of Washington IMAP or PINE software
3499 is used on the server together with a POP2 or POP3 daemon that is not
3500 aware of these messages, such as some versions of Qualcomm Popper
3501 (QPOP):</p>
3502
3503 <blockquote>
3504 <pre>
3505 From MAILER-DAEMON Wed Nov 23 11:38:42 2005
3506 Date: 23 Nov 2005 11:38:42 +0100
3507 From: Mail System Internal Data &lt;MAILER-DAEMON@imap.example.org&gt;
3508 Subject: DON'T DELETE THIS MESSAGE -- FOLDER INTERNAL DATA
3509 Message-ID: &lt;1132742322@imap.example.org&gt;
3510 X-IMAP: 1132742306 0000000001
3511 Status: RO
3512
3513 This text is part of the internal format of your mail folder, and is not
3514 a real message.  It is created automatically by the mail system software.
3515 If deleted, important folder data will be lost, and it will be re-created
3516 with the data reset to initial values.
3517 </pre>
3518 </blockquote>
3519
3520 <p>As this message does not contain useful information, fetchmail is not
3521 retrieving it. And deleting it might slow down the server if you are
3522 keeping messages on the server, and the server would recreate it
3523 anyways, that's why fetchmail does not bother to delete it either.</p>
3524
3525 <h2><a name="O16">O16. Why is the Fetchmail FAQ only available in
3526         ISO-216 A4 format? How do I get the FAQ in Letter format?</a></h2>
3527
3528 <p>All the world uses ISO-216:1975 "A4" paper except for North America.
3529 Using A4 format reaches far more people than (formerly known as DIN A4,
3530 from DIN&nbsp;476) format. Besides that, A4 paper <em>is</em> available in North
3531 America.
3532 For further information on the Letter-vs-A4 story, see:</p>
3533 <ul><li><a href="http://www.cl.cam.ac.uk/~mgk25/iso-paper.html">Markus
3534         Kuhn: "International standard paper sizes"</a></li>
3535     <li><a
3536         href="http://betweenborders.com/wordsmithing/a4-vs-us-letter/">Brian
3537         Forte: "A4 vs US Letter"</a></li></ul>
3538
3539 <p>Offering the document formatted for two different paper sizes would
3540 bloat the package beyond reason, and formatting in a way that fits A4
3541 and Letter paper formats would be a waste of paper in most parts of the
3542 world. For that reason, fetchmail only ships with an A4 formatted PDF
3543 document.</p>
3544
3545 <p>To create a letter-sized PDF, install <a
3546     href="http://www.htmldoc.org/">HTMLDOC</a>, edit
3547 <code>fetchmail-FAQ.book</code> in the source directory with your
3548 favorite text editor, replace <samp>--size A4</samp> by <samp>--size
3549     letter</samp>, and type:
3550 </p>
3551 <pre>
3552 make fetchmail-FAQ.pdf
3553 </pre>
3554
3555 <hr/>
3556
3557 <table width="100%" cellpadding="0" summary="Canned page footer">
3558 <tr>
3559 <td width="30%">Back to <a href="index.html">Fetchmail Home
3560 Page</a></td>
3561 <td width="30%" align="right">$Date$</td>
3562 </tr>
3563 </table>
3564
3565 <br clear="left"/>
3566 <address>Eric S. Raymond <a
3567         href="mailto:esr@thyrsus.com">&lt;esr@thyrsus.com&gt;</a><br />
3568 Matthias Andree</address>
3569
3570 </body>
3571 </html>