]> Pileus Git - ~andy/fetchmail/blob - fetchmail-FAQ.html
Update links to fetchmail home page.
[~andy/fetchmail] / fetchmail-FAQ.html
1 <?xml version="1.0" encoding="ISO-8859-1"?>
2 <!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN"
3     "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd">
4 <html xmlns="http://www.w3.org/1999/xhtml">
5 <head>
6 <title>The Fetchmail FAQ</title>
7 <link rev="made" href="mailto:esr@thyrsus.com"/>
8 <meta name="description"
9 content="Frequently asked questions about fetchmail."/>
10 <meta name="keywords" content="fetchmail, POP, POP2, POP3, IMAP, remote mail"/>
11 </head>
12 <body>
13 <table width="100%" cellpadding="0" summary="Canned page footer">
14 <tr>
15 <td width="30%">Back to <a href="index.html">Fetchmail Home
16 Page</a></td>
17 <td width="30%" align="center">To <a href="/~esr/sitemap.html">Site
18 Map</a></td>
19 <td width="30%" align="right">$Date: 2004/01/13 08:46:00 $</td>
20 </tr>
21 </table>
22
23 <hr/>
24 <h1>Frequently Asked Questions About Fetchmail</h1>
25
26 <p>Before reporting any bug, please read <a href="#G3">G3</a> for
27 advice on how to include diagnostic information that will get your
28 bug fixed as quickly as possible.</p>
29
30 <p>If you have a question or answer you think ought to be added to
31 this FAQ list, mail it to fetchmail's maintainer, Eric S. Raymond,
32 at <a href="mailto:esr@thyrsus.com">esr@thyrsus.com</a>.</p>
33
34 <h1>General questions:</h1>
35
36 <a href="#G1">G1. What is fetchmail and why should I bother?</a><br/>
37 <a href="#G2">G2. Where do I find the latest FAQ and fetchmail sources?</a><br/>
38 <a href="#G3">G3. I think I've found a bug. Will you fix it?</a><br/>
39 <a href="#G4">G4. I have this idea for a neat feature. Will you add it?</a><br/>
40 <a href="#G5">G5. I want to make fetchmail behave like Outlook Express.</a><br/>
41 <a href="#G6">G6. Is there a mailing list for exchanging tips?</a><br/>
42 <a href="#G7">G7. So, what's this I hear about a fetchmail paper?</a><br/>
43 <a href="#G8">G8. What is the best server to use with fetchmail?</a><br/>
44 <a href="#G9">G9. What is the best mail program to use with fetchmail?</a><br/>
45 <a href="#G10">G10. How can I avoid sending my password en clair?</a><br/>
46 <a href="#G11">G11. Is any special configuration needed to use a dynamic IP address?</a><br/>
47 <a href="#G12">G12. Is any special configuration needed to use firewalls?</a><br/>
48 <a href="#G13">G13. Is any special configuration needed to <em>send</em> mail?</a><br/>
49 <a href="#G14">G14. Is fetchmail Y2K-compliant?</a><br/>
50 <a href="#G15">G15. Is there a way in fetchmail to support disconnected IMAP mode?</a><br/>
51 <a href="#G16">G16. How will fetchmail perform under heavy loads?</a><br/>
52  
53
54 <h1>Build-time problems:</h1>
55
56 <a href="#B1">B1. Make coughs and dies when building on FreeBSD.</a><br/>
57 <a href="#B2">B2. Lex bombs out while building the fetchmail lexer.</a><br/>
58 <a href="#B3">B3. I get link failures when I try to build fetchmail.</a><br/>
59 <a href="#B4">B4. I get build failures in the intl directory.</a><br/>
60  
61 <h1>Fetchmail configuration file grammar questions:</h1>
62
63 <a href="#F1">F1. Why does my old .fetchmailrc no longer work?</a><br/>
64 <a href="#F2">F2. The .fetchmailrc parser won't accept my all-numeric user name.</a><br/>
65 <a href="#F3">F3. The .fetchmailrc parser won't accept my host or username beginning with `no'.</a><br/>
66 <a href="#F4">F4. I'm getting a `parse error' message I don't understand.</a><br/>
67
68 <h1>Configuration questions:</h1>
69
70 <a href="#C1">C1. Why do I need a .fetchmailrc when running as root
71 on my own machine?</a><br/>
72 <a href="#C2">C2. How can I arrange for a fetchmail daemon to get
73 killed when I log out?</a><br/>
74 <a href="#C3">C3. How do I know what interface and address to use
75 with --interface?</a><br/>
76 <a href="#C4">C4. How can I set up support for sendmail's anti-spam
77 features?</a><br/>
78 <a href="#C5">C5. How can I poll some of my mailboxes more/less
79 often than others?</a><br/>
80 <a href="#C6">C6. Fetchmail works OK started up manually, but not
81 from an init script.</a><br/>
82 <a href="#C7">C7. How can I forward mail to another
83 host?.</a><br/>
84  
85
86 <h1>How to make fetchmail play nice with various MTAs:</h1>
87
88 <a href="#T1">T1. How can I use fetchmail with sendmail?</a><br/>
89 <a href="#T2">T2. How can I use fetchmail with qmail?</a><br/>
90 <a href="#T3">T3. How can I use fetchmail with exim?</a><br/>
91 <a href="#T4">T4. How can I use fetchmail with smail?</a><br/>
92 <a href="#T5">T5. How can I use fetchmail with SCO's MMDF?</a><br/>
93 <a href="#T6">T6. How can I use fetchmail with Lotus Notes?</a><br/>
94 <a href="#T7">T7. How can I use fetchmail with Courier IMAP?</a><br/>
95 <a href="#T8">T8. How can I use fetchmail with vbmailshield?</a><br/>
96
97 <h1>How to make fetchmail work with various servers:</h1>
98
99 <a href="#S1">S1. How can I use fetchmail with qpopper?</a><br/>
100 <a href="#S2">S2. How can I use fetchmail with Microsoft Exchange?</a><br/>
101 <a href="#S3">S3. How can I use fetchmail with HP OpenMail?</a><br/>
102 <a href="#S4">S4. How can I use fetchmail with Novell GroupWise?</a><br/>
103 <a href="#S5">S5. How can I use fetchmail with InterChange?</a><br/>
104 <a href="#S6">S6. How can I use fetchmail with MailMax?</a><br/>
105 <a href="#S7">S7. How can I use fetchmail with FTGate?</a><br/>
106
107 <h1>How to fetchmail work with specific ISPs:</h1>
108
109 <a href="#I1">I1. How can I use fetchmail with Compuserve RPA?</a><br/>
110 <a href="#I2">I2. How can I use fetchmail with Demon Internet's SDPS?</a><br/>
111 <a href="#I3">I3. How can I use fetchmail with usa.net's servers?</a><br/>
112 <a href="#I4">I4. How can I use fetchmail with geocities POP3 servers?</a><br/>
113 <a href="#I5">I5. How can I use fetchmail with Hotmail or Lycos Webmail?</a><br/>
114 <a href="#I6">I6. How can I use fetchmail with MSN?</a><br/>
115 <a href="#I7">I7. How can I use fetchmail with SpryNet?</a><br/>
116 <a href="#I8">I8. How can I use fetchmail with comcast.net?</a><br/>
117
118 <h1>How to set up well-known security and authentication
119 methods:</h1>
120
121 <a href="#K1">K1. How can I use fetchmail with SOCKS?</a><br/>
122 <a href="#K2">K2. How can I use fetchmail with IPv6 and IPsec?</a><br/>
123 <a href="#K3">K3. How can I get fetchmail to work with ssh?</a><br/>
124 <a href="#K4">K4. What do I have to do to use the IMAP-GSS protocol?</a><br/>
125 <a href="#K5">K5. How can I use fetchmail with SSL?</a><br/>
126
127 <h1>Runtime fatal errors:</h1>
128
129 <a href="#R1">R1. Fetchmail isn't working, and -v shows `SMTP
130 connect failed' messages.</a><br/>
131 <a href="#R2">R2. When I try to configure an MDA, fetchmail doesn't
132 work.</a><br/>
133 <a href="#R3">R3. Fetchmail dumps core when given an invalid rc
134 file.</a><br/>
135 <a href="#R4">R4. Fetchmail dumps core in -V mode, but operates
136 normally otherwise.</a><br/>
137 <a href="#R5">R5. Running fetchmail in daemon mode doesn't
138 work.</a><br/>
139 <a href="#R6">R6. Fetchmail randomly dies with socket errors.</a><br/>
140 <a href="#R7">R7. Fetchmail running as root stopped working after
141 an OS upgrade</a><br/>
142 <a href="#R8">R8. Fetchmail is timing out after fetching certain
143 messages but before deleting them</a><br/>
144 <a href="#R9">R9. Fetchmail is timing out during message fetches</a><br/>
145 <a href="#R10">R10. Fetchmail is dying with SIGPIPE.</a><br/>
146 <a href="#R11">R11. My server is hanging or emitting errors on CAPA.</a><br/>
147 <h1>Hangs and lockups:</h1>
148
149 <a href="#H1">H1. Fetchmail hangs when used with pppd.</a><br/>
150 <a href="#H2">H2. Fetchmail hangs during the MAIL FROM
151 exchange.</a><br/>
152 <a href="#H3">H3. Fetchmail hangs while fetching mail.</a><br/>
153  
154
155 <h1>Disappearing mail:</h1>
156
157 <a href="#D1">D1. I think I've set up fetchmail correctly, but I'm
158 not getting any mail.</a><br/>
159 <a href="#D2">D2. All my mail seems to disappear after a dropped
160 connection.</a><br/>
161 <a href="#D3">D3. Mail that was being fetched when I interrupted my
162 fetchmail seems to have been vanished.</a><br/>
163  
164
165 <h1>Multidrop-mode problems:</h1>
166
167 <a href="#M1">M1. I've declared local names, but all my multidrop
168 mail is going to root anyway.</a><br/>
169 <a href="#M2">M2. I can't seem to get fetchmail to route to a local
170 domain properly.</a><br/>
171 <a href="#M3">M3. I tried to run a mailing list using multidrop,
172 and I have a mail loop!</a><br/>
173 <a href="#M4">M4. My multidrop fetchmail seems to be having DNS
174 problems.</a><br/>
175 <a href="#M5">M5. I'm seeing long DNS delays before each message is
176 processed.</a><br/>
177 <a href="#M6">M6. How do I get multidrop mode to work with
178 majordomo?</a><br/>
179 <a href="#M7">M7. Multidrop mode isn't parsing envelope addresses
180 from my Received headers as it should.</a><br/>
181 <a href="#M8">M8. Users are getting multiple copies of
182 messages.</a><br/>
183  
184
185 <h1>Mangled mail:</h1>
186
187 <a href="#X1">X1. Spurious blank lines are appearing in the headers
188 of fetched mail.</a><br/>
189 <a href="#X2">X2. My mail client can't see a Subject
190 line.</a><br/>
191 <a href="#X3">X3. Messages containing "From" at start of line are
192 being split.</a><br/>
193 <a href="#X4">X4. My mail is being mangled in a new and different
194 way.</a><br/>
195 <a href="#X5">X5. Using POP3, retrievals seems to be fetching too
196 much!</a><br/>
197 <a href="#X6">X6. My mail attachments are being dropped or
198 mangled.</a><br/>
199 <a href="#X7">X7. Some mail attachments are hanging
200 fetchmail.</a><br/>
201 <a href="#X8">X8. A spurious ) is being appended to my
202 messages.</a><br/> 
203
204 <h1>Other problems:</h1>
205
206 <a href="#O1">O1. The --logfile option doesn't work if the logfile
207 doesn't exist.</a><br/>
208 <a href="#O2">O2. Every time I get a POP or IMAP message the header
209 is dumped to all my terminal sessions.</a><br/>
210 <a href="#O3">O3. Does fetchmail reread its rc file every poll
211 cycle?</a><br/>
212 <a href="#O4">O4. Why do deleted messages show up again when I take
213 a line hit while downloading?</a><br/>
214 <a href="#O5">O5. Why is fetched mail being logged with my name,
215 not the real From address?</a><br/>
216 <a href="#O6">O6. I'm seeing long sendmail delays or hangs near the
217 start of each poll cycle.</a><br/>
218 <a href="#O7">O7. Why doesn't fetchmail deliver mail in date-sorted
219 order?</a><br/>
220 <a href="#O8">O8. I'm using pppd. Why isn't my monitor option
221 working?</a><br/>
222 <a href="#O9">O9. Why does fetchmail keep retrieving the same
223 messages over and over?</a><br/>
224 <a href="#O10">O10. Why is the received date on all my messages the
225 same?</a><br/>
226 <a href="#O11">O11. I keep getting messages that say "Repoll
227 immediately" in my logs.</a><br/>
228 <a href="#O12">O12. Fetchmail no longer expunges mail on a 451 SMTP response.</a><br/>
229 <a href="#O13">O13. I want timestamp information in my fetchmail logs.</a>
230
231 <h1>Answers:</h1>
232
233 <hr/>
234 <h2><a id="G1" name="G1">G1. What is fetchmail and why should I
235 bother?</a></h2>
236
237 <p>Fetchmail is a one-stop solution to the remote mail retrieval
238 problem for Unix machines, quite useful to anyone with an
239 intermittent PPP or SLIP connection to a remote mailserver. It can
240 collect mail using any variant of POP or IMAP and forwards via port
241 25 to the local SMTP listener, enabling all the normal
242 forwarding/filtering/aliasing mechanisms that would apply to local
243 mail or mail arriving via a full-time TCP/IP connection.</p>
244
245 <p>Fetchmail is not a toy or a coder's learning exercise, but an
246 industrial-strength tool capable of transparently handling every
247 retrieval demand from those of a simple single-user ISP connection
248 up to mail retrieval and rerouting for an entire client domain.
249 Fetchmail is easy to configure, unobtrusive in operation, powerful,
250 feature-rich, and well documented.</p>
251
252 <p>Fetchmail is <a href="http://www.opensource.org">open-source</a>
253 software. The openness of the sources is the strongest assurance of
254 quality you can have. Extensive peer review by a large,
255 multi-platform user community has shown that fetchmail is as near
256 bulletproof as the underlying protocols permit.</p>
257
258 <p>Fetchmail is licensed under the <a
259 href="http://gnu.org//copyleft/gpl.html">GNU General Public
260 License</a>.</p>
261
262 <p>If you found this FAQ in the distribution, see the README for
263 fetchmail's full feature list.</p>
264
265 <hr/>
266 <h2><a id="G2" name="G2">G2. Where do I find the latest FAQ and
267 fetchmail sources?</a></h2>
268
269 <p>The latest HTML FAQ is available alongside the latest fetchmail
270 sources at the fetchmail home page: <a
271 href="http://fetchmail.berlios.de/">http://fetchmail.berlios.de/</a>.
272 You can also usually find both in the <a
273 href="http://sunsite.unc.edu/pub/Linux/system/mail/pop/!INDEX.html">
274 POP mail tools directory on Sunsite</a>.</p>
275
276 <p>A text dump of this FAQ is included in the fetchmail
277 distribution. Because it freezes at distribution release time, it
278 may not be completely current.</p>
279
280 <hr/>
281 <h2><a id="G3" name="G3">G3. I think I've found a bug. Will you fix
282 it?</a></h2>
283
284 <p>Yes I will, provided you include enough diagnostic information
285 for me to go on. Send bugs to <a
286 href="mailto:fetchmail-friends@ccil.org">fetchmail-friends</a>.
287 When reporting bugs, please include the following:</p>
288
289 <ol>
290 <li>Your operating system.</li>
291
292 <li>Your compiler version, if you built from source; otherwise, the
293 name and origin of the RPM or other binary package you
294 installed.</li>
295
296 <li>A copy of your POP or IMAP server's greeting line.</li>
297
298 <li>The name and version of the SMTP listener or MDA you are
299 forwarding to.</li>
300
301 <li>Any command-line options you used.</li>
302
303 <li>The output of fetchmail -V called with whatever other
304 command-line options you used.</li>
305 </ol>
306
307 <p>If you have FTP access to your remote mail account, and you have
308 any suspicion that the bug was triggered by a particular message,
309 please include a copy of the message that triggered the bug.</p>
310
311 <p>Often, the first thing I will do when you report a bug is tell
312 you to upgrade to the newest version of fetchmail, and then see if
313 the problem reproduces. So you'll probably save us both time if you
314 upgrade and test with the latest version <em>before</em> sending in
315 a bug report.</p>
316
317 <p>If your bug is something that used to work but stopped working
318 when you upgraded, then you can help pin the bug down by trying <a
319 href="ftp://ftp.ccil.org/pub/esr/fetchmail/">intermediate versions
320 of fetchmail</a> until you identify the revision that broke your
321 feature. The smart way to do this is by binary search on the
322 version sequence. First, try the version halfway between your last
323 good one and the current one. If it works, the failure was
324 introduced in the upper half of the sequence; if it doesn't, the
325 failure was introduced in the lower half. Now bisect that half in
326 the same way. In a very few tries, you should be able to identify
327 the exact adjacent pair of versions between which your bug was
328 introduced -- and with information like that, I can usually come up
329 with a fix very quickly.</p>
330
331 <p>Another useful thing you can do, if you're using POP3, is to
332 test for IMAP4 support on your mailserver using the autoprobe
333 function of fetchmailconf. If you have IMAP4, and fetchmailconf
334 doesn't tell you it's broken, switch immediately. POP3 is a weak,
335 poorly-designed protocol with chronic problems, and the later
336 versions after RFC1725 actually get worse rather than better.
337 Changing over to IMAP4 may well make your problem go away -- and if
338 your ISP doesn't have IMAP4 support, bug them to supply it.</p>
339
340 <p>It is helpful if you include your .fetchmailrc file, but not
341 necessary unless your symptom seems to involve an error in
342 configuration parsing. If you do send in your .fetchmailrc, mask
343 the passwords first!</p>
344
345 <p>If fetchmail seems to run and fetch mail, but the headers look
346 mangled (that is, headers are missing or blank lines are inserted
347 in the headers) then read the FAQ items in section <a
348 href="#X1">X</a> before submitting a bug report. Pay special
349 attention to the item on <a href="#generic_mangling">diagnosing
350 mail mangling</a>. There are lots of ways for other programs in the
351 mail chain to screw up that look like fetchmail's fault, but you
352 may be able to fix these by tweaking your configuration.</p>
353
354 <p>A transcript of the failed session with -v -v (yes, that's
355 <em>two</em> -v options, enabling debug mode) will almost always be
356 useful. It is very important that the transcript include your
357 POP/IMAP server's greeting line, so I can identify it in case of
358 server problems. This transcript will not reveal your passwords,
359 which are specially masked out precisely so transcripts can be
360 passed around.</p>
361
362 <p>If you upgraded your fetchmail and something broke, you should
363 include session transcripts with -v -v of both the working and
364 failing versions. Very often, the source of the problem can
365 instantly identified by looking at the differences in protocol
366 transactions.</p>
367
368 <p>If the bug involves a core dump or hang, a gdb stack trace is
369 good to have. (Bear in mind that you can attach gdb to a running
370 but hung process by giving the process ID as a second argument.)
371 You will need to reconfigure with:</p>
372
373 <pre>
374 CFLAGS=-g LDFLAGS=" " ./configure
375 </pre>
376
377 <p>Then rebuild in order to generate a version that can be
378 gdb-traced.</p>
379
380 <p>Best of all is a mail file which, when fetched, will reproduce
381 the bug under the latest (current) version.</p>
382
383 <p>Any bug I can reproduce will usually get fixed very quickly,
384 often within 48 hours. Bugs I can't reproduce are a crapshoot. If
385 the solution isn't obvious when I first look, it may evade me for a
386 long time (or to put it another way, fetchmail is well enough
387 tested that the easy bugs have long since been found). So if you
388 want your bug fixed rapidly, it is not just sufficient but nearly
389 <em>necessary</em> that you give me a way to reproduce it.</p>
390
391 <hr/>
392 <h2><a id="G4" name="G4">G4. I have this idea for a neat feature.
393 Will you add it?</a></h2>
394
395 <p>Probably not. Most of the feature suggestions I get are for ways
396 to set various kinds of administrative policy or add more spam
397 filtering (the most common one, which I used to get about four
398 million times a week and got <em>really</em> tired of, is for
399 tin-like kill files).</p>
400
401 <p>You can do spam filtering better with procmail or maildrop on
402 the server side and (if you're the server sysadmin) sendmail.cf
403 domain exclusions. If you really want fetchmail to do it from the
404 client side, yse a <code>preconnect</code> command to call
405 <a href='http://mailfilter.sourceforge.net/'>mailfilter</a>.</p>
406
407 <p>You can do other policy things better with the
408 <code>mda</code> option and script wrappers around fetchmail. If
409 it's a prime-time-vs.-non-prime-time issue, ask yourself whether a
410 wrapper script called from crontab would do the job.</p>
411
412 <p>I'm not going to do these; fetchmail's job is transport, not
413 policy, and I refuse to change it from doing one thing well to
414 attempting many things badly. One of my objectives is to keep
415 fetchmail simple so it stays reliable.</p>
416
417 <p>For reasons fetchmail doesn't have other commonly-requested
418 features (such as password encryption, or multiple concurrent polls
419 from the same instance of fetchmail) see the <a
420 href="http://fetchmail.berlios.de/design-notes.html">design
421 notes</a>.</p>
422
423 <p>Fetchmail is a mature project, no longer in constant active
424 development. It is no longer my top project, and I am going to be
425 quite reluctant to add features that might either jeopardize its
426 stability or involve me in large amounts of coding.</p>
427
428 <p>All that said, if you have a feature idea that really is about a
429 transport problem that can't be handled anywhere but fetchmail, lay
430 it on me. I'm very accommodating about good ideas.</p>
431
432 <hr/>
433 <h2><a id="G5" name="G5">G5. I want to make fetchmail behave like
434 Outlook Express.</a></h2>
435
436 <p>The second-most-requested feature for fetchmail, after
437 content-based filtering, is the ability to have it remove messages
438 from a maildrop after N days, typically to be used with the
439 <code>keep</code> option as a sort of poor man's newsgroup
440 facility. Microsoft's Outlook Express supports this.</p>
441
442 <p>This feature won't be added either. Repeat after me: fetchmail's
443 job is transport, not policy. If you want this, write a Perl or
444 Python script, to be run from a cron job, that deletes old messages
445 off your maildrop. Send it to me and I'll put it in the contrib
446 directory.</p>
447
448 <hr/>
449 <h2><a id="G6" name="G6">G6. Is there a mailing list for exchanging
450 tips?</a></h2>
451
452 <p>There is a fetchmail-friends list
453 (fetchmail-friends@lists.ccil.org) for people who want to discuss
454 fixes and improvements in fetchmail and help co-develop it. It's a
455 MailMan list, which you can sign up for at <a
456 href="http://lists.ccil.org/mailman/listinfo/fetchmail-friends">http://lists.ccil.org/mailman/listinfo/fetchmail-friends</a>.
457 There is also an announcements-only list,
458 fetchmail-announce@lists.ccil.org, which you can sign up for at <a
459 href="http://lists.ccil.org/mailman/listinfo/fetchmail-announce">http://lists.ccil.org/mailman/listinfo/fetchmail-announce</a>.</p>
460
461 <hr/>
462 <h2><a id="G7" name="G7">G7. So, what's this I hear about a
463 fetchmail paper?</a></h2>
464
465 <p>The fetchmail development was also a sociological experiment, an
466 extended test to see if my theory about the critical features of
467 the Linux development model is correct.</p>
468
469 <p>The experiment was a success. I wrote a paper about it titled <a
470 href="http://www.catb.org/~esr/writings/cathedral.html">The
471 Cathedral and the Bazaar</a> which was first presented at Linux
472 Kongress '97 in Bavaria and very well received there. It was also
473 given at Atlanta Linux Expo, Linux Pro '97 in Warsaw, and the first
474 Perl Conference, at UniForum '98, and was the basis of an invited
475 presentation at Usenix '98. The folks at Netscape tell me it helped
476 them decide to <a
477 href="http://www.netscape.com/newsref/pr/newsrelease558.html">give
478 away the source for Netscape Communicator</a>.</p>
479
480 <p>If you're reading a non-HTML dump of this FAQ, you can find the
481 paper on the Web with a search for that title.</p>
482
483 <hr/>
484 <h2><a id="G8" name="G8">G8. What is the best server to use with
485 fetchmail?</a></h2>
486
487 <p>The short answer: IMAP 2000 running over Unix.</p>
488
489 <p>Here's a longer answer:</p>
490
491 <p>Fetchmail will work with any POP, IMAP, ETRN, or ODMR server
492 that conforms to the relevant RFCs (and even some outright broken
493 ones like <a href="#S2">Microsoft Exchange</a> and <a
494 href="#S6">Novell GroupWise</a>). This doesn't mean it works
495 equally well with all, however. POP2 servers, and POP3 servers
496 without LAST, limit fetchmail's capabilities in various ways
497 described on the manual page.</p>
498
499 <p>Most modern Unixes (and effectively all Linux/*BSD systems) come
500 with POP3 support preconfigured (but beware of the horribly broken
501 POP3 server mentioned in <a href="#D2">D2</a>). An increasing
502 minority also feature IMAP (you can detect IMAP support by running
503 fetchmail in AUTO mode, or by using the `Probe for supported
504 protocols' function in the fetchmailconf utility).</p>
505
506 <p>If you have the option, we recommend using or installing an
507 IMAP4rev1 server; it has the best facilities for tracking message
508 `seen' states. It also recovers from interrupted connections more
509 gracefully than POP3, and enables some significant performance
510 optimizations. The new <a
511 href="ftp://ftp.cac.washington.edu/imap/imap.tar.Z">IMAP 2000</a>
512 is particularly nice, as it supports CRAM-MD5 so you don't have to
513 ship your mail password over the net en clair (fetchmail
514 autodetects this capability). Older versions had support for GSSAPI
515 giving a similar effect.</p>
516
517 <p>Don't be fooled by NT/Exchange propaganda. M$ Exchange is just
518 plain broken (see item <a href="#S2">S2</a>) and NT cannot handle
519 the sustained load of a high-volume remote mail server. Even
520 Microsoft itself knows better than to try this; their own Hotmail
521 service runs over Solaris! For extended discussion, see John
522 Kirch's excellent <a href="http://unix-vs-nt.org/kirch/">white
523 paper</a> on Unix vs. NT performance.</p>
524
525 <p>Source for a high-quality supported implementation of POP is
526 available from the <a
527 href="ftp://ftp.qualcomm.com/eudora/servers/unix/popper/">Eudora
528 FTP site</a>. Don't use 2.5, which has a rather restrictive
529 license. The 2.5.2 version appears to restore the open-source
530 license of previous versions.</p>
531
532 <hr/>
533 <h2><a id="G9" name="G9">G9. What is the best mail program to use
534 with fetchmail?</a></h2>
535
536 <p>Fetchmail will work with all popular <a href="#T1">mail
537 transport programs</a>. It also doesn't care which user agent you
538 use, and user agents are as a rule almost equally indifferent to
539 how mail is delivered into your system mailbox. So any of the
540 popular Unix mail agents -- <a
541 href="http://www.myxa.com/old/elm.html">elm</a>, <a
542 href="http://www.washington.edu/pine/">pine</a>, <a
543 href="http://www.cs.indiana.edu/docproject/mail/mh.html">mh</a>, or
544 <a href="http://www.mutt.org">mutt</a> -- will work fine with
545 fetchmail.</p>
546
547 <p>All this having been said, I can't resist putting in a discreet
548 plug for <a href="http://www.mutt.org">mutt</a>. My own personal
549 mail setup is sendmail plus fetchmail plus mutt. Mutt's interface
550 is only a little different from that of its now-moribund ancestor
551 elm, but its excellent handling of MIME and PGP put it in a class
552 by itself. You won't need its built-in POP3 support, though; most
553 of the mutt developers will cheerfully admit that fetchmail's is
554 better :-).</p>
555
556 <hr/>
557 <h2><a id="G10" name="G10">G10. How can I avoid sending my password
558 en clair?</a></h2>
559
560 <p>Depending on what your mail server you are talking to, this
561 ranges from trivial to impossible. It may even be next to
562 useless.</p>
563
564 <p>Most people use fetchmail over phone wires (whether plain old
565 copper or DSL), which are hard to tap. Anybody with the skill and
566 resources to do this could get into your server mailbox with much less
567 effort by subverting the server host. So if your provider setup is
568 phone-company wire going straight into a service box, you probably
569 don't need to worry.</p>
570
571 <p>In general there is little point in trying to secure your fetchmail
572 transaction unless you trust the security of the server host you are
573 retrieving mail from. Your vulnerability is more likely to be an
574 insecure local network on the server end (e.g. to somebody with a
575 TCP/IP packet sniffer intercepting Ethernet traffic between the modem
576 concentrator or DSL POP you dial in to and the mailserver host).</p>
577
578 <p>Having realized this, you need to ask whether password
579 encryption alone will really address your security exposure. If you
580 think you might be snooped between server and client, it's better
581 to use end-to-end encryption on your whole mail stream so none of
582 it can be read. One of the advantages of fetchmail over
583 conventional SMTP-push delivery is that you may be able to arrange
584 this by using ssh(1); see <a href="#K3">K3</a>.</p>
585
586 <p>Note that ssh is not a complete privacy solution either, as your
587 mail could have been snooped in transit to your POP server from
588 wherever it originated. For best security, agree with your
589 correspondents to use a tool such as <a
590 href="http://www.gnupg.org/">GPG</a> (Gnu Privacy Guard) or PGP
591 (Pretty Good Privacy).</p>
592
593 <p>If ssh/sshd isn't available, or you find it too complicated for
594 you to set up, password encryption will at least keep a malicious
595 cracker from deleting your mail, and require him to either tap your
596 connection continuously or crack root on the server in order to
597 read it.</p>
598
599 <p>You can deduce what encryptions your mail server has available
600 by looking at the server greeting line (and, for IMAP, the response
601 to a CAPABILITY query). Do a <code>fetchmail -v</code> to see
602 these, or telnet direct to the server port (110 for POP3, 143 for
603 IMAP).</p>
604
605 <p>If your mailserver is using IMAP 2000, you'll have CRAM-MD5
606 support built in. Fetchmail autodetects this; you can skip the rest
607 of this section.</p>
608
609 <p>The POP3 facility you are most likely to have available is APOP.
610 This is a POP3 feature supported by many servers (fetchmailconf's
611 autoprobe facility will detect it and tell you if you have it). If
612 you see something in the greeting line that looks like an
613 angle-bracket-enclosed Internet address with a numeric left-hand
614 part, that's an APOP challenge (it will vary each time you log in).
615 You can register a secret on the host (using
616 <code>popauth(8)</code> or some program like it). Specify the
617 secret as your password in your .fetchmailrc; it will be used to
618 encrypt the current challenge, and the encrypted form will be sent
619 back the the server for verification.</p>
620
621 <p>Alternatively, you may have Kerberos available. This may require
622 you to set up some magic files in your home directory on your
623 client machine, but means you can omit specifying any password at
624 all.</p>
625
626 <p>Fetchmail supports two different Kerberos schemes. One is a POP3
627 variant called KPOP; consult the documentation of your mail server
628 to see if you have it (one clue is the string "krb-IV" in the
629 greeting line on port 110). The other is an IMAP and POP3 facility
630 described by RFC1731 and RFC1734. You can tell if this one is
631 present by looking for AUTH=KERBEROS_V4 in the CAPABILITY
632 response.</p>
633
634 <p>If you are fetching mail from a CompuServe POP3 account, you can
635 use their RPA authentication (which works much like APOP). See <a
636 href="#I1">I1</a> for details. If you are fetching mail from
637 Microsoft Exchange using IMAP, you will be able to use NTLM.</p>
638
639 <p>Your POP3 server may have the RFC1938 OTP capability to use
640 one-time passwords (if it doesn't, you can get OTP patches for the
641 2.2 version of the Qualcomm popper from <a href="#cmetz">Craig
642 Metz</a>). To check this, look for the string "otp-" in the
643 greeting line. If you see it, and your fetchmail was built with
644 OPIE support compiled in (see the distribution INSTALL file),
645 fetchmail will detect it also. When using OTP, you will specify a
646 password but it will not be sent en clair.</p>
647
648 <p>You can get both POP3 and IMAP OTP patches from <a id="cmetz"
649 name="cmetz">Craig Metz</a> at <a
650 href="http://www.inner.net/pub/">http://www.inner.net/pub/</a>.</p>
651
652 <p>These patches use a SASL authentication method named "X-OTP"
653 because there is not currently a standard way to do this; fetchmail
654 also uses this method, so the two will interoperate happily. They
655 better, because this is how Craig gets his mail ;-)</p>
656
657 <p>Finally, you can use <a href="#K5">SSL</a> for complete
658 end-to-end encryption if you have an SSL-enabled mailserver.</p>
659
660 <hr/>
661 <h2><a id="G11" name="G11">G11. Is any special configuration needed
662 to use a dynamic IP address?</a></h2>
663
664 <p>Yes. In order to avoid giving indigestion to certain picky MTAs
665 (notably <a href="#T3">exim</a>), fetchmail always makes the RCPT
666 TO address it feeds the MTA a fully qualified one with a hostname
667 part. Normally it does this by appending @ and "localhost", but
668 when you are using Kerberos or ETRN mode it will append @ and your
669 machine's fully-qualified domain name (FQDN).</p>
670
671 <p>Appending the FQDN can create problems when fetchmail is running
672 in daemon mode and outlasts the dynamic IP address assignment your
673 client machine had when it started up.</p>
674
675 <p>Since the new IP address (looked up at RCPT TO interpretation
676 time) doesn't match the original, the most benign possible result
677 is that your MTA thinks it's seeing a relaying attempt and refuses.
678 More frequently, fetchmail will try to connect to a nonexistent
679 host address and time out. Worst case, you could up forwarding your
680 mail to the wrong machine!</p>
681
682 <p>Use the <code>smtpaddress</code> option to force the appended
683 hostname to one with a (fixed) IP address of 127.0.0.1 in your
684 <code>/etc/hosts</code>. (The name `localhost' will usually work;
685 or you can use the IP address itself).</p>
686
687 <p>Only one fetchmail option interacts directly with your IP
688 address, `<code>interface</code>'. This option can be used to set
689 the gateway device and restrict the IP address range fetchmail will
690 use. Such a restriction is sometimes useful for security reasons,
691 especially on multihomed sites. See <a href="#C3">C3</a>.</p>
692
693 <p>I recommend against trying to set up the <code>interface</code>
694 option when initially developing your poll configuration -- it's
695 never necessary to do this just to get a link working. Get the link
696 working first, observe the actual address range you see on
697 connections, and add an <code>interface</code> option (if you need
698 one) later.</p>
699
700 <p>You can't use ETRN if you have a dynamic IP address (your ISP
701 changes your IP address occasionally, possibly with every connect).
702 You need to have your own registered domain and a definite IP
703 address registered for that domain. The server needs to be
704 configured to accept mail for your domain but then queue it to
705 forward to your machine. ETRN just tells to server to flush its
706 queue for your domain. Fetchmail doesn't actually get the mail in
707 that case.</p>
708
709 <p>You can use On-Demand Mail Relay (ODMR) with a dynamic IP
710 address; that's what it was designed for, and it provides
711 capabilities very similar to ETRN. Unfortunately ODMR servers are
712 not yet widely deployed, as of early 2001.</p>
713
714 <p>If you're using a dynamic-IP configuration, one other
715 (non-fetchmail) problem you may run into with outgoing mail is that
716 some sites will bounce your email because the hostname your giving
717 them isn't real (and doesn't match what they get doing a reverse
718 DNS on your dynamically-assigned IP address). If this happens, you
719 need to hack your sendmail so it masquerades as your host.
720 Setting</p>
721
722 <pre>
723 DMsmarthost.here
724 </pre>
725
726 <p>in your <code>sendmail.cf</code> will work, or you can set</p>
727
728 <pre>
729 MASQUERADE_AS(smarthost.here)
730 </pre>
731
732 <p>in the m4 configuration and do a reconfigure. (In both cases,
733 replace <code>smarthost.here</code> with the actual name of your
734 mailhost.) See the <a
735 href="http://www.lege.com/sendmail-FAQ.txt">sendmail FAQ</a> for
736 more details.</p>
737
738 <hr/>
739 <h2><a id="G12" name="G12">G12. Is any special configuration needed
740 to use firewalls?</a></h2>
741
742 <p>No. You can use fetchmail with SOCKS, the standard tool for
743 indirecting TCP/IP through a firewall. You can find out about
744 SOCKS, and download the SOCKS software including server and client
745 code, at the <a href="http://www.socks.nec.com/">SOCKS distribution
746 site</a>.</p>
747
748 <p>The specific recipe for using fetchmail with a firewall is at <a
749 href="#K1">K1</a></p>
750
751 <hr/>
752 <h2><a id="G13" name="G13">G13. Is any special configuration needed
753 to <em>send</em> mail?</a></h2>
754
755 <p>A user asks: but how do we send mail out to the POP3 server? Do
756 I need to implement another tool or will fetchmail do this too?</p>
757
758 <p>Fetchmail only handles the receiving side. The sendmail or other
759 preinstalled MTA on your client machine will handle sending mail
760 automatically; it will ship mail that is submitted while the
761 connection is active, and put mail that is submitted while the
762 connection is inactive into the outgoing queue.</p>
763
764 <p>Normally, sendmail is also run periodically (every 15 minutes on
765 most Linux systems) in a mode that tries to ship all the mail in
766 the outgoing queue. If you have set up something like pppd to
767 automatically dial out when your kernel is called to open a TCP/IP
768 connection, this will ensure that the mail gets out.</p>
769
770 <hr/>
771 <h2><a id="G14" name="G14">G14. Is fetchmail
772 Y2K-compliant?</a></h2>
773
774 <p>Fetchmail is fully Y2K-compliant.</p>
775
776 <p>Fetchmail could theoretically have problems when the 32-bit
777 time_t counters roll over in 2038, but I doubt it. Timestamps
778 aren't used for anything but log entry generation. Anyway, if you
779 aren't running on a 64-bit machine by then, you'll deserve to
780 lose.</p>
781
782 <hr/>
783 <h2><a id="G15" name="G15">G15. Is there a way in fetchmail to
784 support disconnected IMAP mode?</a></h2>
785
786 <p>No. Fetchmail is a mail transport agent, best understood as a
787 protocol gateway between POP3/IMAP servers and SMTP. Disconnected
788 operation requires an elaborate interactive client. It's a very
789 different problem.</p>
790
791 <hr/>
792 <h2><a id="G16" name="G16">G16. How will fetchmail perform under
793 heavy loads?</a></h2>
794
795 <p>Fetchmail streams message bodies line-by-line; the most core it
796 ever requires per message is enough memory to hold the RFC822
797 header, and that storage is freed when body processing begins. It
798 is, accordingly, quite economical in its use of memory.</p>
799
800 <p>After startup time, a fetchmail running in daemon mode stats its
801 configuration file once per poll cycle to see whether it has
802 changed and should be rescanned. Other than that, a fetchmail in
803 normal operation doesn't touch the disk at all; that job is left up
804 to the MTA or MDA the fetchmail talks to.</p>
805
806 <p>Fetchmail's performance is usually bottlenecked by latency on
807 the POP server or (less often) on the TCP/IP link to the server.
808 This is not a problem readily solved by tuning fetchmail, or even
809 by buying more TCP/IP capacity (which tends to improve bandwidth
810 but not necessarily latency).</p>
811
812 <hr/>
813 <h2><a id="B1" name="B1">B1. Make coughs and dies when building on
814 FreeBSD.</a></h2>
815
816 <p>The vendor-supplied make on FreeBSD systems can only be used
817 within FreeBSD's "scope", e.g. the ports collection. Type "gmake"
818 to run GNU make and better things will happen.</p>
819
820 <hr/>
821 <h2><a id="B2" name="B2">B2. Lex bombs out while building the
822 fetchmail lexer.</a></h2>
823
824 <p>In the immortal words of Alan Cox the last time this came up:
825 ``Take the Solaris lex and stick it up the backside of a passing
826 Sun salesman, then install <a
827 href="ftp://ftp.gnu.org/pub/non-gnu/flex/">flex</a> and use that.
828 All will be happier.''</p>
829
830 <p>I couldn't have put it better myself, and ain't going to try
831 now.</p>
832
833 <p>(The same problem has been reported under HP-UX v10.20 and
834 IRIX)</p>
835
836 <hr/>
837 <h2><a id="B3" name="B3">B3. I get link failures when I try to
838 build fetchmail.</a></h2>
839
840 <p>If you get errors resembling these</p>
841
842 <pre>
843 mxget.o(.text+0x35): undefined referenceto `__res_search' 
844 mxget.o(.text+0x99): undefined reference to`__dn_skipname' 
845 mxget.o(.text+0x11c): undefined reference to`__dn_expand' 
846 mxget.o(.text+0x187): undefined reference to`__dn_expand' 
847 make: *** [fetchmail] Error 1
848 </pre>
849
850 <p>then you must add "-lresolv" to the LOADLIBS line in your
851 Makefile once you have installed the `bind' package.</p>
852
853 <p>If you get link errors involving <tt>dcgettext</tt>, like
854 this:</p>
855
856 <pre>
857 rcfile_y.o: In function `yyparse':
858 rcfile_y.o(.text+0x3aa): undefined reference to `dcgettext__'
859 rcfile_y.o(.text+0x4f2): undefined reference to `dcgettext__'
860 rcfile_y.o(.text+0x5ee): undefined reference to `dcgettext__'
861 rcfile_y.o: In function `yyerror':
862 rcfile_y.o(.text+0xc7c): undefined reference to `dcgettext__'
863 rcfile_y.o(.text+0xcc8): undefined reference to `dcgettext__'
864 rcfile_y.o(.text+0xdf9): more undefined references to `dcgettext__' follow
865 </pre>
866
867 <p>reconfigure with <tt>configure --with-included-gettext</tt>.
868 This is due to some brain-damage in the GNU internationalization
869 libraries.</p>
870
871 <hr/>
872 <h2><a id="B4" name="B4">B4. I get build failures in the intl
873 directory.</a></h2>
874
875 <p>Reconfigure with <tt>--disable-nls</tt> and recompile.</p>
876
877 <p>GNU gettext is an overengineered, fragile pile of crap. I have
878 teetered on the brink of removing support for it entirely several
879 times.</p>
880
881 <hr/>
882 <h2><a id="F1" name="F1">F1. Why does my old .fetchmailrc file no
883 longer work?</a></h2>
884
885 <h3>If your file predates 5.8.9</h3>
886
887 <p>If you were using ETRN mode, change your <tt>smtphost</tt>
888 option to a <tt>fetchdomains</tt> option.</p>
889
890 <h3>If your file predates 5.8.3</h3>
891
892 <p>The `via localhost' special case for use with ssh tunnelling is
893 gone. Use the %h feature of <tt>plugin</tt> instead.</p>
894
895 <h3>If your file predates 5.6.8</h3>
896
897 <p>In 5.6.8, the <tt>preauth</tt> keyword and option were changed
898 back to <tt>auth</tt>. The <tt>preauth</tt> synonym will still be
899 supported through a few more point releases.</p>
900
901 <h3>If your file predates 5.6.5</h3>
902
903 <p>The <tt>imap-gss</tt>, <tt>imap-k4</tt>, and <tt>imap-login</tt>
904 protocol types are gone. This is a result of a major re-factoring
905 of the authentication machinery; fetchmail can now use Kerberos V4
906 and GSSAPI not just with IMAP but with POP3 servers that have
907 RFC1734 support for the AUTH command.</p>
908
909 <p>When trying to identify you to an IMAP or POP mailserver,
910 fetchmail now first tries methods that don't require a password
911 (GSSAPI, KERBEROS_IV); then it looks for methods that mask your
912 password (CRAM-MD5, X-OTP); and only if it the server doesn't
913 support any of those will it ship your password en clair.</p>
914
915 <p>Setting the <tt>preauth</tt> option to any value other than
916 `password' will prevent from looking for a password in your
917 <tt>.netrc</tt> file or querying for it at startup time.</p>
918
919 <h3>If your file predates 5.1.0</h3>
920
921 <p>In 5.1.0, the <tt>auth</tt> keyword and option were changed to
922 <tt>preauth</tt>.</p>
923
924 <h3>If your file predates 4.5.5</h3>
925
926 <p>If the <code>dns</code> option is on (the default), you may need
927 to make sure that any hostname you specify (for mail hosts or for
928 an SMTP target) is a canonical fully-qualified hostname). In order
929 to avoid DNS overhead and complications, fetchmail no longer tries
930 to derive the fetchmail client machine's canonical DNS name at
931 startup.</p>
932
933 <h3>If your file predates 4.0.6:</h3>
934
935 <p>Just after the `<code>via</code>' option was introduced, I
936 realized that the interactions between the `<code>via</code>',
937 `<code>aka</code>', and `<code>localdomains</code>' options were
938 out of control. Their behavior had become complex and confusing, so
939 much so that I was no longer sure I understood it myself. Users
940 were being unpleasantly surprised.</p>
941
942 <p>Rather than add more options or crock the code, I re-thought it.
943 The redesign simplified the code and made the options more
944 orthogonal, but may have broken some complex multidrop
945 configurations.</p>
946
947 <p>Any multidrop configurations that depended on the name just
948 after the `<code>poll</code>' or `<code>skip</code>' keyword being
949 still interpreted as a DNS name for address-matching purposes, even
950 in the presence of a `<code>via</code>' option, will break.</p>
951
952 <p>It is theoretically possible that other unusual configurations
953 (such as those using a non-FQDN poll name to generate Kerberos IV
954 tickets) might also break; the old behavior was sufficiently murky
955 that we can't be sure. If you think this has happened to you,
956 contact the maintainer.</p>
957
958 <h3>If your file predates 3.9.5:</h3>
959
960 <p>The `<code>remote</code>' keyword has been changed to
961 `<code>folder</code>'. If you try to use the old keyword, the
962 parser will utter a warning.</p>
963
964 <h3>If your file predates 3.9:</h3>
965
966 <p>It could be because you're using a .fetchmailrc that's written
967 in the old popclient syntax without an explicit
968 `<code>username</code>' keyword leading the first user entry
969 attached to a server entry.</p>
970
971 <p>This error can be triggered by having a user option such as
972 `<code>keep</code>' or `<code>fetchall</code>' before the first
973 explicit username. For example, if you write</p>
974
975 <pre>
976 poll openmail protocol pop3
977     keep user "Hal DeVore" there is hdevore here
978 </pre>
979
980 <p>the `<code>keep</code>' option will generate an entire user
981 entry with the default username (the name of fetchmail's invoking
982 user).</p>
983
984 <p>The popclient compatibility syntax was removed in 4.0. It
985 complicated the configuration file grammar and confused users.</p>
986
987 <h3>If your file predates 2.8:</h3>
988
989 <p>The `<code>interface</code>', `<code>monitor</code>' and
990 `<code>batchlimit</code>' options changed after 2.8.</p>
991
992 <p>They used to be global options with `<code>set</code>' syntax
993 like the batchlimit and logfile options. Now they're per-server
994 options, like `<code>protocol</code>'.</p>
995
996 <p>If you had something like</p>
997
998 <pre>
999     set interface = "sl0/10.0.2.15"
1000 </pre>
1001
1002 <p>in your .fetchmailrc file, simply delete that line and insert
1003 `interface sl0/10.0.2.15' in the server options part of your
1004 `defaults' declaration.</p>
1005
1006 <p>Do similarly for any `<code>monitor</code>' or
1007 `<code>batchlimit</code>' options.</p>
1008
1009 <hr/>
1010 <h2><a id="F2" name="F2">F2. The .fetchmailrc parser won't accept
1011 my all-numeric user name.</a></h2>
1012
1013 <p>Either upgrade to a post-5.0.5 fetchmail or put string quotes
1014 around it. :-)</p>
1015
1016 <p>The configuration file parser in older fetchmail versions
1017 treated any all-numeric token as a number, which confused it when
1018 it was expecting a name. String quoting forces the token's
1019 class.</p>
1020
1021 <p>The lexical analyzer in 5.0.6 and beyond is smarter and assumes
1022 any token following "username" or "password" is a string.</p>
1023
1024 <hr/>
1025 <h2><a id="F3" name="F3">F3. The .fetchmailrc parser won't accept
1026 my host or username beginning with `no'.</a></h2>
1027
1028 <p>See <a href="#F2">F2</a>. You're caught in an unfortunate crack
1029 between the newer-style syntax for negated options (`no keep', `no
1030 rewrite' etc.) and the older style run-on syntax (`nokeep',
1031 `norewrite' etc.).</p>
1032
1033 <p>Upgrade to a 5.0.6 or later fetchmail, or put string quotes
1034 around your token.</p>
1035
1036 <hr/>
1037 <h2><a id="F4" name="F4">F4. I'm getting a `parse error' message I
1038 don't understand.</a></h2>
1039
1040 <p>The most common cause of mysterious parse errors is putting a
1041 server option after a user option. Check the manual page; you'll
1042 probably find that by moving one or more options closer to the
1043 `poll' keyword you can eliminate the problem.</p>
1044
1045 <p>Yes, I know these ordering restrictions are hard to understand.
1046 Unfortunately, they're necessary in order to allow the `defaults'
1047 feature to work.</p>
1048
1049 <hr/>
1050 <h2><a id="C1" name="C1">C1. Why do I need a .fetchmailrc when
1051 running as root on my own machine?</a></h2>
1052
1053 <p>Ian T. Zimmerman &lt;itz@rahul.net&gt; asked:</p>
1054
1055 <p>On the machine where I'm the only real user, I run fetchmail as
1056 root from a cron job, like this:</p>
1057
1058 <pre>
1059     fetchmail -u "itz" -p POP3 -s bolero.rahul.net
1060 </pre>
1061
1062 <p>This used to work as is (with no .fetchmailrc file in root's
1063 home directory) with the last version I had (1.7 or 1.8, I don't
1064 remember). But with 2.0, it RECPs all mail to the local root user,
1065 unless I create a .fetchmailrc in root's home directory
1066 containing:</p>
1067
1068 <pre>
1069      skip bolero.rahul.net proto POP3
1070           user itz is itz
1071 </pre>
1072
1073 <p>It won't work if the second line is just "<code>user
1074 itz</code>". This is silly.</p>
1075
1076 <p>It seems fetchmail decides to RECP the `default local user'
1077 (i.e. the uid running fetchmail) unless there are local aliases,
1078 and the `default' aliases (itz-&gt;itz) don't count. They
1079 should.</p>
1080
1081 <p>Answer:</p>
1082
1083 <p>No they shouldn't. I thought about this for a while, and I don't
1084 much like the conclusion I reached, but it's unavoidable. The
1085 problem is that fetchmail has no way to know, in general, that a
1086 local user `itz' actually exists.</p>
1087
1088 <p>"Ah!" you say, "Why doesn't it check the password file to see if
1089 the remote name matches a local one?" Well, there are two
1090 reasons.</p>
1091
1092 <p>One: it's not always possible. Suppose you have an SMTP host
1093 declared that's not the machine fetchmail is running on? You
1094 lose.</p>
1095
1096 <p>Two: How do you know server itz and SMTP-host itz are the same
1097 person? They might not be, and fetchmail shouldn't assume they are
1098 unless local-itz can explicitly produce credentials to prove it
1099 (that is, the server-itz password in local-itz's .fetchmailrc
1100 file.).</p>
1101
1102 <p>Once you start running down possible failure modes and thinking
1103 about ways to tinker with the mapping rules, you'll quickly find
1104 that all the alternatives to the present default are worse or
1105 unacceptably more complicated or both.</p>
1106
1107 <hr/>
1108 <h2><a id="C2" name="C2">C2. How can I arrange for a fetchmail
1109 daemon to get killed when I log out?</a></h2>
1110
1111 <p>The easiest way to dispatch fetchmail on logout (which will work
1112 reliably only if you have just one login going at any time) is to
1113 arrange for the command `fetchmail -q' to be called on logout.
1114 Under bash, you can arrange this by putting `fetchmail -q' in the
1115 file `~/.bash_logout'. Most csh variants execute `~/.logout' on
1116 logout. For other shells, consult your shell manual page.</p>
1117
1118 <p>Automatic startup/shutdown of fetchmail is a little harder to
1119 arrange if you may have multiple login sessions going. In the
1120 contrib subdirectory of the fetchmail distribution there is some
1121 shell code you can add to your .bash_login and .bash_logout
1122 profiles that will accomplish this. Thank James Laferriere
1123 &lt;babydr@nwrain.net&gt; for it.</p>
1124
1125 <p>Some people start up and shut down fetchmail using the ppp-up
1126 and ppp-down scripts of pppd.</p>
1127
1128 <hr/>
1129 <h2><a id="C3" name="C3">C3. How do I know what interface and
1130 address to use with --interface?</a></h2>
1131
1132 <p>This depends a lot on your local networking configuration (and
1133 right now you can't use it at all except under Linux and the newer
1134 BSDs). However, here are some important rules of thumb that can
1135 help. If they don't work, ask your local sysop or your Internet
1136 provider.</p>
1137
1138 <p>First, you may not need to use --interface at all. If your
1139 machine only ever does SLIP or PPP to one provider, it's almost
1140 certainly by a point to point modem connection to your provider's
1141 local subnet that's pretty secure against snooping (unless someone
1142 can tap your phone or the provider's local subnet!). Under these
1143 circumstances, specifying an interface address is fairly
1144 pointless.</p>
1145
1146 <p>What the option is really for is sites that use more than one
1147 provider. Under these circumstances, typically one of your provider
1148 IP addresses is your mailserver (reachable fairly securely via the
1149 modem and provider's subnet) but the others might ship your packets
1150 (including your password) over unknown portions of the general
1151 Internet that could be vulnerable to snooping. What you'll use
1152 --interface for is to make sure your password only goes over the
1153 one secure link.</p>
1154
1155 <p>To determine the device:</p>
1156
1157 <ol>
1158 <li>If you're using a SLIP link, the correct device is probably
1159 sl0.</li>
1160
1161 <li>If you're using a PPP link, the correct device is probably
1162 ppp0.</li>
1163
1164 <li>If you're using a direct connection over a local network such
1165 as an ethernet, use the command `netstat -r' to look at your
1166 routing table. Try to match your mailserver name to a destination
1167 entry; if you don't see it in the first column, use the `default'
1168 entry. The device name will be in the rightmost column.</li>
1169 </ol>
1170
1171 <p>To determine the address and netmask:</p>
1172
1173 <ol>
1174 <li>If you're talking to slirp, the correct address is probably
1175 10.0.2.15, with no netmask specified. (It's possible to configure
1176 slirp to present other addresses, but that's the default.)</li>
1177
1178 <li>If you have a static IP address, run `ifconfig &lt;device&gt;',
1179 where &lt;device&gt; is whichever one you've determined. Use the IP
1180 address given after "inet addr:". That is the IP address for your
1181 end of the link, and is what you need. You won't need to specify a
1182 netmask.</li>
1183
1184 <li>If you have a dynamic IP address, your connection IP will vary
1185 randomly over some given range (that is, some number of the least
1186 significant bits change from connection to connection). You need to
1187 declare an address with the variable bits zero and a complementary
1188 netmask that sets the range.</li>
1189 </ol>
1190
1191 <p>To illustrate the rule for dynamic IP addresses, let's suppose
1192 you're hooked up via SLIP and your IP provider tells you that the
1193 dynamic address pool is 255 addresses ranging from 205.164.136.1 to
1194 205.164.136.255. Then</p>
1195
1196 <pre>
1197     interface "sl0/205.164.136.0/255.255.255.0"
1198 </pre>
1199
1200 <p>would work. To range over any value of the last two octets
1201 (65536 addresses) you would use</p>
1202
1203 <pre>
1204     interface "sl0/205.164.0.0/255.255.0.0"
1205 </pre>
1206
1207 <hr/>
1208 <h2><a id="C4" name="C4">C4. How can I set up support for
1209 sendmail's anti-spam features?</a></h2>
1210
1211 <p>This answer covers versions of sendmail from 8.9.3-20 (the
1212 version installed in Red Hat 6.2) upwards. If you have an older
1213 version, upgrade to sendmail 8.9.</p>
1214
1215 <p>Stock sendmails can now do anti-spam exclusions based on a
1216 database of filter rules. The human-readable form of the database
1217 is at <tt>/etc/mail/access</tt>. The database itself is at
1218 <tt>/etc/mail/access.db</tt>.</p>
1219
1220 <p>The table itself uses email addresses, domain names, and network
1221 numbers as keys. For example,</p>
1222
1223 <pre>
1224 spammer@aol.com         REJECT
1225 cyberspammer.com        REJECT
1226 192.168.212             REJECT
1227 </pre>
1228
1229 <p>would refuse mail from spammer@aol.com, any user from
1230 cyberspammer.com (or any host within the cyberspammer.com domain),
1231 and any host on the 192.168.212.* network. (This feature can be
1232 used to do other things as well; see the <a
1233 href="http://www.sendmail.org/m4/anti-spam.html">sendmail
1234 documentation</a> for details)</p>
1235
1236 <p>To actually set up the database, run</p>
1237
1238 <pre>
1239 makemap hash deny &lt;deny
1240 </pre>
1241
1242 <p>in /etc/mail.</p>
1243
1244 <p>To test, send a message to your mailing address from that host
1245 and then pop off the message with fetchmail, using the -v argument.
1246 You can monitor the SMTP transaction, and when the FROM address is
1247 parsed, if sendmail sees that it is an address in spamlist,
1248 fetchmail will flush and delete it.</p>
1249
1250 <p>Under no circumstances put your <strong>mailhost</strong> or
1251 <strong>any host you accept mail from</strong> using fetchmail into
1252 your reject file. You <strong>will</strong> lose mail if you do
1253 this!!!</p>
1254
1255 <hr/>
1256 <h2><a id="C5" name="C5">C5. How can I poll some of my mailboxes
1257 more/less often than others?</a></h2>
1258
1259 <p>Use the <cite>interval</cite> keyword on the ones that should be
1260 checked less often. For example, if you do a poll every 5 minutes,
1261 and want to poll some mailboxes every 5 minutes and some every 30
1262 minutes, use something like this:</p>
1263
1264 <pre>
1265 poll mainsite.example.com  proto pop3 user ....
1266 poll secondary.example.com proto pop3 interval 6 user ...
1267 </pre>
1268
1269 <p>Then secondary.example.com will be polled every 6th time that
1270 mainsite.example.com is polled, which with a polling interval of
1271 every 5 minutes means that secondary.example.com will be polled
1272 every 30 minutes.</p>
1273
1274 <hr/>
1275 <h2><a id="C6" name="C6">Fetchmail works OK started up manually,
1276 but not from an init script.</a></h2>
1277
1278 <p>Often, startup scripts have a different environment than an
1279 interactive login shell. For instance, $HOME might point to "/root"
1280 when you are logged in as root, but it might be either unset, or
1281 set to "/" when the startup scripts are running. That means
1282 fetchmail at startup can't find the .fetchmailrc.</p>
1283
1284 <p>Pick a location (such as /etc/fetchmailrc) and use fetchmail's
1285 -f option to point fetchmail at it. That should solve the
1286 problem.</p>
1287
1288 <hr/>
1289 <h2><a id="C7" name="C7">C7. How can I forward mail to another
1290 host?</a></h2>
1291
1292 <p>To forward mail to a host other than the one you are running
1293 fetchmail on, use the <code>smtphost</code> or
1294 <code>smtpname</code> option. See the manual page for details.</p>
1295
1296 <hr/>
1297 <h2><a id="T1" name="T1">T1. How can I use fetchmail with
1298 sendmail?</a></h2>
1299
1300 <p>For most sendmails, no special configuration is required. Eric
1301 Allman tells me that if <code>FEATURE(always_add_domain)</code> is
1302 included in sendmail's configuration, you can leave the
1303 <code>rewrite</code> option off.</p>
1304
1305 <p>If your sendmail complains ``sendmail does not relay'', make
1306 sure your sendmail.cf file says <code>Cwlocalhost</code> so that
1307 sendmail recognizes `localhost' as a name of its host.</p>
1308
1309 <p>If you're mailing from another machine on your local network,
1310 also ensure that its IP address is listed in ip_allow or name in
1311 name_allow (usually in /etc/mail/)</p>
1312
1313 <p>If you find that your sendmail doesn't like the address
1314 `FETCHMAIL-DAEMON@localhost' (which is used in the bouncemail that
1315 fetchmail generates), you may have to set
1316 <code>FEATURE(accept_unqualified_senders)</code>.</p>
1317
1318 <p>G&uuml;nther Leber reports that Digital Unix sendmails won't
1319 work with fetchmail. The symptom is an error message "<code>553
1320 Local configuration error, hostname not recognized as
1321 local</code>". The problem is that fetchmail normally feeds
1322 sendmail with the client machine's host address in the MAIL FROM
1323 line. These sendmails think this means they're seeing the result of
1324 a mail loop and suppress the mail. You may be able to work around
1325 this by running in <code>--invisible</code> mode.</p>
1326
1327 <p>If you want to support multidrop mode, and you can get access to
1328 your mailserver's sendmail.cf file, it's a good idea to add this
1329 rule:</p>
1330
1331 <pre>
1332 H?l?Delivered-To: $h
1333 </pre>
1334
1335 <p>This will cause the mailserver's sendmail to reliably write the
1336 appropriate envelope address into each message before fetchmail
1337 sees it, and tell fetchmail which header it is.&#160; With this
1338 change, multidrop mode should work reliably even when the Received
1339 header omits the envelope address (which will typically be the case
1340 when the message has multiple recipients).&#160; However it will
1341 still not distinguish the recipients, your only advantage is that
1342 no bounce will be sent if a message is BCC addressed to multiple
1343 users at your site.&#160; To fix even that problem, you might want
1344 to try the following hack, which is however untested and quite
1345 experimental:</p>
1346
1347 <pre>
1348 H?J?Delivered-To: $u
1349
1350 Mmdrop, P=/usr/bin/procmail, F=lsDFMqSPfhnu9J, 
1351     S=EnvFromSMTP/HdrFromSMTP, R=EnvToSMTP/HdrToSMTP,
1352     T=DNS/RFC822/X-Unix,
1353     A=procmail -Y -a $u -d $h
1354 </pre>
1355
1356 <p>For both hacks, you have to declare `<code>envelope
1357 "Delivered-To:"</code>' on the fetchmail side, to put the virtual
1358 domain (e.g. `domain.com') with RELAY permission into your access
1359 file and to add a line reading `<code>domain.com
1360 local:local-pop-user</code>' for the first and `<code>domain.com
1361 mdrop:local-pop-user</code>' for the second hack to your
1362 mailertable.</p>
1363
1364 <p>You will notice that if the mail already has a Delivered-To
1365 header, sendmail will not add another.&#160; Further, editing
1366 sendmail.cf directly is not very comfortable.&#160; Solutions for
1367 both problems can be found in Peter `Rattacresh' Backes' `hybrid'
1368 patch against sendmail.&#160; Have a look at it, you can find it in
1369 the contrib subdirectory.</p>
1370
1371 <p>Feel free to try Martijn Lievaart's detailed recipe in the
1372 contrib subdirectory of the fetchmail source distribution, it
1373 attempts to realize multidrop mailboxes with an external
1374 script.</p>
1375
1376 <p>If for some reason you are invoking sendmail via the
1377 <tt>mda</tt> option (rather than delivering to port 25 via smtp),
1378 don't forget to include the -i switch. Otherwise you will
1379 occasionally get mysterious delivery failures with a SIGPIPE as the
1380 sendmail instance dies. The problem is messages with a single dot
1381 at start of a text line.</p>
1382
1383 <hr/>
1384 <h2><a id="T2" name="T2">T2. How can I use fetchmail with
1385 qmail?</a></h2>
1386
1387 <p>Turn on the <code>forcecr</code> option; qmail's listener mode
1388 doesn't like header or message lines terminated with bare
1389 linefeeds.</p>
1390
1391 <p>(This information is thanks to Robert de Bath
1392 &lt;robert@mayday.cix.co.uk&gt;.)</p>
1393
1394 <p>If a mailhost is using the qmail package (see <a
1395 href="http://pobox.com/~djb/qmail.html">http://pobox.com/~djb/qmail.html</a>)
1396 then, providing the local hosts are also using qmail, it is
1397 possible to set up one fetchmail link to be reliably collect the
1398 mail for an entire domain.</p>
1399
1400 <p>One of the basic features of qmail is the `Delivered-To:'
1401 message header. Whenever qmail delivers a message to a local
1402 mailbox it puts the username and hostname of the envelope recipient
1403 on this line. The major reason for this is to prevent mail
1404 loops.</p>
1405
1406 <p>To set up qmail to batch mail for a disconnected site the
1407 ISP-mailhost will have normally put that site in its `virtualhosts'
1408 control file so it will add a prefix to all mail addresses for this
1409 site. This results in mail sent to
1410 'username@userhost.userdom.dom.com' having a 'Delivered-To:' line
1411 of the form:</p>
1412
1413 <pre>
1414        Delivered-To: mbox-userstr-username@userhost.userdom.dom.com
1415 </pre>
1416
1417 <p>A single host maildrop will be slightly simpler:</p>
1418
1419 <pre>
1420        Delivered-To: mbox-userstr-username@userhost.dom.com
1421 </pre>
1422
1423 <p>The ISP can make the 'mbox-userstr-' prefix anything they choose
1424 but a string matching the user host name is likely.</p>
1425
1426 <p>To use this line you must:</p>
1427
1428 <ol>
1429 <li>Ensure the option `envelope Delivered-To:' is in the fetchmail
1430 config file.</li>
1431
1432 <li>Ensure you have a localdomains containing 'userdom.dom.com' or
1433 `userhost.dom.com' respectively.</li>
1434 </ol>
1435
1436 <p>So far this reliably delivers messages to the correct machine of
1437 the local network, to deliver to the correct user the
1438 'mbox-userstr-' prefix must be stripped off of the user name. This
1439 can be done by setting up an alias within the qmail MTA on each
1440 local machine. Simply create a dot-qmail file called
1441 '.qmail-mbox-userstr-default' in the alias directory (normally
1442 /var/qmail/alias) with the contents:</p>
1443
1444 <pre>
1445       | ../bin/qmail-inject -a -f"$SENDER" "${LOCAL#mbox-userstr-}@$HOST"
1446 </pre>
1447
1448 <p>Note this <em>does</em> require a modern /bin/sh.</p>
1449
1450 <p>Peter Wilson adds:</p>
1451
1452 <p>``My ISP uses "alias-unzzippedcom-" as the prefix, which means
1453 that I need to name my file ".qmail-unzzippedcom-default". This is
1454 due to qmail's assumption that a message sent to user-xyz is
1455 handled by the file ~user/.qmail-xyz (or
1456 ~user/.qmail-default).''</p>
1457
1458 <p>Luca Olivetti adds:</p>
1459
1460 <p>If you aren't using qmail locally, or you don't want to set up
1461 the alias mechanism described above, you can use the option
1462 `<code>qvirtual "mbox-userstr-"</code>' in your fetchmail config
1463 file to strip the prefix from the local user name.</p>
1464
1465 <hr/>
1466 <h2><a id="T3" name="T3">T3. How can I use fetchmail with
1467 exim?</a></h2>
1468
1469 <p>If you have <code>rewrite</code> on:</p>
1470
1471 <p>There is an RFC1123 requirement that MAIL FROM and RCPT TO
1472 addresses you pass to it have to be canonical (e.g. with a fully
1473 qualified hostname part). Therefore fetchmail tries to pass fully
1474 qualified RCPT TO addresses. But exim does not by default accept
1475 `localhost' as a fully qualified domain. This can be fixed.</p>
1476
1477 <p>In exim.conf, add `localhost' to your local_domains declaration
1478 if it's not already present. For example, the author's site at
1479 thyrsus.com would have a line reading:</p>
1480
1481 <pre>
1482        local_domains = thyrsus.com:localhost
1483 </pre>
1484
1485 <p>If you have <code>rewrite</code> off:</p>
1486
1487 <p>MAIL FROM is a potential problem if the MTAs upstream from your
1488 fetchmail don't necessarily pass canonicalized From and Return-Path
1489 addresses, and fetchmail's <code>rewrite</code> option is off. The
1490 specific case where this has come up involves bounce messages
1491 generated by sendmail on your mailer host, which have the
1492 (un-canonicalized) origin address MAILER-DAEMON.</p>
1493
1494 <p>The right way to fix this is to enable the <code>rewrite</code>
1495 option and have fetchmail canonicalize From and Return-Path
1496 addresses with the mailserver hostname before exim sees them. This
1497 option is enabled by default, so it won't be off unless you turned
1498 it off.</p>
1499
1500 <p>If you must run with <code>rewrite</code> off, there is a switch
1501 in exim's configuration files that allows it to accept domainless
1502 MAIL FROM addresses; you will have to flip it by putting the
1503 line</p>
1504
1505 <pre>
1506         sender_unqualified_hosts = localhost
1507 </pre>
1508
1509 <p>in the main section of the exim configuration file. Note that
1510 this will result in such messages having an incorrect domain name
1511 attached to their return address (your SMTP listener's hostname
1512 rather than that of the remote mail server).</p>
1513
1514 <hr/>
1515 <h2><a id="T4" name="T4">T4. How can I use fetchmail with
1516 smail?</a></h2>
1517
1518 <p>Smail 3.2 is very nearly plug-compatible with sendmail, and may
1519 work fine out of the box.</p>
1520
1521 <p>We have one report that when processing multiple messages from a
1522 single fetchmail session, smail sometimes delivers them in an order
1523 other than received-date order. This can be annoying because it
1524 scrambles conversational threads. This is not fetchmail's problem,
1525 it is an smail `feature' and has been reported to the maintainers
1526 as a bug.</p>
1527
1528 <p>Very recent smail versions require an
1529 <code>-smtp_hello_verify</code> option in the smail config file.
1530 This overrides smail's check to see that the HELO address is
1531 actually that of the client machine, which is never going to be the
1532 case when fetchmail is in the picture. According to RFC1123 an SMTP
1533 listener <em>must</em> allow this mismatch, so smail's new behavior
1534 (introduced sometime between 3.2.0.90 and 3.2.0.95) is a bug.</p>
1535
1536 <p>You may also need to say
1537 <code>-smtp_hello_broken_allow=127.0.0.1</code> in order for smail
1538 to accept the "localhost" that fetchmail normally appends to
1539 recipient addresses.</p>
1540
1541 <hr/>
1542 <h2><a id="T5" name="T5">T5. How can I use fetchmail with SCO's
1543 MMDF?</a></h2>
1544
1545 <p>MMDF itself is difficult to configure, but it turns out that
1546 connecting fetchmail to MMDF's SMTP channel isn't that hard. You
1547 can read an <a
1548 href="http://www.aplawrence.com/Unixart/uucptofetch.html">MMDF
1549 recipe</a> that describes replacing a UUCP link with fetchmail
1550 feeding MMDF.</p>
1551
1552 <hr/>
1553 <h2><a id="T6" name="T6">T6. How can I use fetchmail with Lotus
1554 Notes?</a></h2>
1555
1556 <p>The Lotus Notes SMTP gateway tries to deduce when it should
1557 convert \n to \r\n, but its rules are not the intuitive and
1558 correct-for-RFC822 ones. Use `forcecr'.</p>
1559
1560 <hr/>
1561 <h2><a id="T7" name="T7">T7. How can I use fetchmail with Courier
1562 IMAP?</a></h2>
1563
1564 <p>The courier mta doesn't like RCPT addresses that look like
1565 <code>someone@localhost</code>. Work around this with an
1566 <code>smtphost</code> or <code>smtpaddress</code>.</p>
1567
1568 <hr/>
1569 <h2><a name="T8">T8. How can I use fetchmail with vbmailshield?</a></h2>
1570
1571 <p>vbmailshield's SMTP interpreter is broken.  It doesn't understand RSET.</p>
1572
1573 <p>As a workaround, you can set batchlimit to 1 so RSET is never used.</p>
1574
1575 <hr/>
1576 <h2><a id="S1" name="S1">S1. How can I use fetchmail with
1577 qpopper?</a></h2>
1578
1579 <p>Qualcomm's qpopper is probably the best-of-breed among POP3
1580 servers, and is very widely deployed. Nevertheless, it has some
1581 problems which fetchmail exposes. We recommend using <a
1582 href="#G8">IMAP</a> instead if at all possible. If you must talk to
1583 qpopper, here are some problems to be aware of:</p>
1584
1585 <h3>Problems with retrieving large messages from qpopper 2.53</h3>
1586
1587 <p>Tony Tang <a
1588 href="mailto:tony@atn.com.hk">&lt;tony@atn.com.hk&gt;</a> reports
1589 that there is a bad intercation between fetchmail and qpopper 2.5.3
1590 under Red Hat Linux versions 5.0 to 5.2, kernels 2.0.34 to 2.0.35.
1591 When fetching very large messages (over 700K) from 2.5.3, fetchmail
1592 will hang with a socket error.</p>
1593
1594 <p>This is probably not a fetchmail bug, but rather a symptom of
1595 some problem in the networking stack that qpopper's transmission
1596 pattern is tickling, as fetchpop (another Linux POP client) also
1597 displays the hang but Netscape running under Win95 does not. The
1598 problem can also be banished by <a
1599 href="http://www.eudora.com/freeware/qpop.html">upgrading to
1600 qpopper 3.0b1</a>.</p>
1601
1602 <h3>Bad interaction with fetchmail 4.4.2 to 4.4.7</h3>
1603
1604 <p>Versions of fetchmail from 4.4.2 through 4.4.7 had a bad
1605 interaction with Eudora qpopper versions 2.3 and later. See <a
1606 href="#X5">X5</a> for details. The solution is to upgrade your
1607 fetchmail.</p>
1608
1609 <hr/>
1610 <h2><a id="S2" name="S2">S2. How can I use fetchmail with Microsoft
1611 Exchange?</a></h2>
1612
1613 <p>It's been reliably reported that Exchange 2000's POP3 support is
1614 so broken that it's unusable. One symptom is that messages without
1615 a terminating newline get the POP3 message termination dot emitted
1616 -- you guessed it -- right after the last character of the message,
1617 with no terminating newline added. This will hang fetchmail or any
1618 other RFC-compliant server. IMAP is alleged to work OK, though.</p>
1619
1620 <p>Older versions of Exchange are semi-usable.  They randomly drop
1621 attachments on the floor, though.  Microsoft acknowledges this
1622 as a known bug and apparently has no plans to fix it.</p>
1623
1624 <p>Fetchmail using IMAP supports the proprietary NTLM mode used
1625 with M$ Exchange servers. To enable this, configure fetchmail with
1626 the --enable-NTLM option and recompile it. Specify a user option
1627 value that looks like `user@domain': the part to the left of the @
1628 will be passed as the username and the part to the right as the
1629 NTLM domain.</p>
1630
1631 <p>M$ Exchange violates the POP3 and IMAP RFCs. Its LIST command
1632 does not reveal the real sizes of mail in the pop mailbox, but the
1633 sizes of the compressed versions in the exchange mail database
1634 (thanks to Arjan De Vet and Guido Van Rooij for alerting us to this
1635 problem).</p>
1636
1637 <p>Fetchmail works with M$ Exchange, despite this brain damage. Two
1638 features are compromised. One is that the --limit option will not
1639 work right (it will check against compressed and not actual sizes).
1640 The other is that a too-small SIZE argument may be passed to your
1641 ESMTP listener, assuming you're using one (this should not be a
1642 problem unless the actual size of the message is above the
1643 listener's configured length limit).</p>
1644
1645 <p>Somewhat belatedly, I've learned that there's supposed to be a
1646 registry bit that can fix this breakage:</p>
1647
1648 <pre>
1649 HKEY_LOCAL_MACHINE\System\CurrentControlSet\Services\MsExchangeIs\Parameters
1650 System\Pop3 Compatibility
1651 </pre>
1652
1653 <p>This is a bitmask that controls the variations from the standard
1654 protocol. The bits defined are:</p>
1655
1656 <dl>
1657 <dt>0x00000001:</dt>
1658
1659 <dd>Report exact message sizes for the LIST command</dd>
1660
1661 <dt>0x00000002:</dt>
1662
1663 <dd>Allow arbitrary linear whitespace between commands and
1664 arguments</dd>
1665
1666 <dt>0x00000004:</dt>
1667
1668 <dd>Enable the LAST command</dd>
1669
1670 <dt>0x00000008:</dt>
1671
1672 <dd>Allow an empty PASS command (needed for users with blank
1673 passwords, but illegal in the protocol)</dd>
1674
1675 <dt>0x00000010:</dt>
1676
1677 <dd>Relax the length restrictions for arguments to commands
1678 (protocol requires 40, but some user names may be longer than
1679 that).</dd>
1680
1681 <dt>0x00000020:</dt>
1682
1683 <dd>Allow spaces in the argument to the USER command.</dd>
1684 </dl>
1685
1686 <p>There's another one that may be useful to know about:</p>
1687
1688 <pre>
1689 KEY_LOCAL_MACHINE\System\CurrentControlSet\Services\MsExchangeIs\Parameters
1690 System\Pop3 Performance
1691 </pre>
1692
1693 <dl>
1694 <dt>0x00000001:</dt>
1695
1696 <dd>Render messages to a temporary stream instead of sending
1697 directly from the database (should always be on)</dd>
1698
1699 <dt>0x00000002: Flag unrenderable messages (instead of just failing
1700 commands) (should only be on if you are seeing the problems
1701 reported in KB Q168109)</dt>
1702
1703 <dt>0x00000004:</dt>
1704
1705 <dd>Return from the QUIT command before all messages have been
1706 deleted.</dd>
1707 </dl>
1708
1709 <p>The Microsoft pod-person who revealed this information to me
1710 admitted that he couldn't find it anywhere in their public
1711 knowledge base.</p>
1712
1713 <p>Another specific problem we have seen with Exchange servers has
1714 as its symptom a response to LOGIN that says "NO Ambiguous Alias".
1715 Grant Edwards writes:</p>
1716
1717 <p>This means that Exchange Server is too f*&amp;#ing stupid to
1718 figure out which mailbox belongs to you. Instead of actually
1719 keeping track of which inbox belongs to which user, it uses some
1720 half-witted, guess-o-matic heuristic to try to guess your mailbox
1721 name from your username.</p>
1722
1723 <p>In your case it doesn't work because your username maps to more
1724 than one mailbox. For some people it doesn't work because their
1725 username maps to zero mailboxes. This is yet another inept, lame,
1726 almost criminally negligent design decision from our friends in
1727 Redmond.</p>
1728
1729 <p>You've got several options:</p>
1730
1731 <ul>
1732 <li>Get your administrator to configure the server so that
1733 usernames and mailbox names are the same.</li>
1734
1735 <li>Get your administrator to add an alias that maps your username
1736 explicitly to your mailbox name.</li>
1737 </ul>
1738
1739 <p>But, the best option involves a tactical nuclear weapon (an old
1740 ASROC will do), pissing off a lot people who live downwind from
1741 Redmond, and your choice of any Linux, NetBSD, FreeBSD, or Solaris
1742 CD-ROM.</p>
1743
1744 <hr/>
1745 <h2><a id="S3" name="S3">S3. How can I use fetchmail with HP
1746 OpenMail?</a></h2>
1747
1748 <p>No special configuration is required, but OpenMail versions
1749 prior to 6.0 have an annoying bug similar to the big one in <a
1750 href="#S2">Microsoft Exchange</a>. The message sizes it gives in
1751 the LIST are rounded to the nearest 1024 bytes. It also has a nasty
1752 habit of discarding headers it doesn't recognize, such as X- and
1753 Resent- headers.</p>
1754
1755 <p>As with M$ Exchange, the only real fix for these problems is to
1756 get a POP (or preferably IMAP) server that isn't brain-dead.
1757 OpenMail's project manager claims these bugs have been fixed in
1758 6.0.</p>
1759
1760 <p>We've had a more recent report (December 2001) that the TOP
1761 command fails, returning only one line regrardless of its argument,
1762 on something identifying itself as "OpenMail POP3 interface".</p>
1763
1764 <hr/>
1765 <h2><a id="S4" name="S4">S4. How can I use fetchmail with Novell GroupWise?</a></h2>
1766
1767 <p>The Novell GroupWise IMAP server would be better named
1768 GroupFoolish; it is (according to the designer of IMAP) unusably
1769 broken. Among other things, it doesn't include a required content
1770 length in its BODY[TEXT] response.</p>
1771
1772 <p>Fetchmail works around this problem, but we strongly recommend
1773 voting with your dollars for a server that isn't brain-dead. If you
1774 stick with code as shoddy as GroupWise seems to be, you will
1775 probably pay for it with other problems.</p>
1776
1777 <hr/>
1778 <h2><a id="S5" name="S5">S5. How can I use fetchmail with
1779 InterChange?</a></h2>
1780
1781 <p>You can't. At least not if you want to be able to see
1782 attachments. InterChange has a bug similar to the MailMax server;
1783 it reports the message length with attachments but doesn't download
1784 them on TOP or RETR.</p>
1785
1786 <p>On Jan 9 2001, the people at InfiniteMail sent me mail informing
1787 me that their new 3.61.08 release of InterChange fixes this
1788 problem. I don't have any reports one way or the other yet.</p>
1789
1790 <hr/>
1791 <h2><a id="S6" name="S6">S6. How can I use fetchmail with MailMax?</a></h2>
1792
1793 <p>You can't. At least not if you want to be able to see
1794 attachments. MailMax has a bug; it reports the message length with
1795 attachments but doesn't download them on TOP or RETR.</p>
1796
1797 <p>Also, we're told that TOP sometimes fails to retrieve the entire
1798 message even when enough lines have been specified. The MailMax
1799 developers have acknowledged this bug as of 4 May 2000, but there
1800 is no fix yet. If you must use this server, force RETR with the
1801 <tt>fetchall</tt> option.</p>
1802
1803 <hr/>
1804 <h2><a id="S7" name="S7">S7. How can I use fetchmail with FTGate?</a></h2>
1805
1806 <p>The FTGate V2 server (and possibly older versions as well) has a
1807 weird bug. It answers OK twice to a TOP request! Use the
1808 <code>fetchall</code> option to force use of RETR and work around
1809 this bug.</p>
1810
1811 <hr/>
1812 <h2><a id="I1" name="I1">I1. How can I use fetchmail with CompuServe RPA?</a></h2>
1813
1814 <p>First, make sure your fetchmail has the RPA support compiled in.
1815 Stock fetchmail binaries (such as you might get from an RPM) don't.
1816 You can check this by looking at the output of <code>fetchmail
1817 -V</code>; if you see the string "+RPA" after the version ID you're
1818 good to go, otherwise you'll have to build your own from sources
1819 (see the INSTALL file in the source distribution for
1820 directions).</p>
1821
1822 <p>Give your CompuServe pass-phrase in lower case as your password.
1823 Add `@compuserve.com' to your user ID so that it looks like `user
1824 &lt;UserID&gt;@compuserve.com', where &lt;UserID&gt; can be either
1825 your numerical userID or your E-mail nickname. An RPA-enabled
1826 fetchmail will automatically check for csi.com in the POP server's
1827 greeting line. If that's found, and your user ID ends with
1828 `@compuserve.com', it will query the server to see if it is
1829 RPA-capable, and if so do an RPA transaction rather than a
1830 plain-text password handshake.</p>
1831
1832 <p><strong>Warning:</strong> the debug (-v -v) output of fetchmail
1833 will show your pass-phrase in Unicode!</p>
1834
1835 <p>These two .fetchmailrc entries show the difference between an
1836 RPA and non-RPA configuration:</p>
1837
1838 <pre>
1839 # This version will use RPA
1840 poll csi.com via "pop.site1.csi.com" with proto POP3 and options no dns
1841     user "CSERVE_USER@compuserve.com" there with password "CSERVE_PASSWORD"
1842         is LOCAL_USER here options fetchall stripcr
1843
1844 # This version will not use RPA
1845 poll non-rpa.csi.com via "pop.site1.csi.com" with proto POP3 and options no dns
1846     user "CSERVE_USER" there with password "CSERVE_POP3_PASSWORD"
1847        is LOCAL_USER here options fetchall stripcr
1848 </pre>
1849
1850 <hr/>
1851 <h2><a id="I2" name="I2">I2. How can I use fetchmail with Demon
1852 Internet's SDPS?</a></h2>
1853
1854 <h3>Single-drop mode</h3>
1855
1856 <p>You can get fetchmail to download the email for just one user
1857 from Demon Internet's POP3 server by giving it a username
1858 consisting of your Demon user name followed by your account name,
1859 with an at-sign between them.</p>
1860
1861 <p>For example, to download email for the user
1862 &lt;philh@vision25.demon.co.uk&gt;, you could use the following
1863 .fetchmailrc file:</p>
1864
1865 <pre>
1866 set postmaster "philh"
1867 poll pop3.demon.co.uk with protocol POP3:
1868     user "philh@vision25" is philh
1869 </pre>
1870
1871 <h3>Multi-drop mode</h3>
1872
1873 <p>Demon Internet's SDPS service is an implementation of POP3. All
1874 messages have a Received: header added when they enter the
1875 maildrop, like this:</p>
1876
1877 <pre>
1878    Received: from punt-1.mail.demon.net by mailstore for fred@xyz.demon.co.uk
1879              id 899963657:10:27896:0; Thu, 09 Jul 98 05:54:17 GMT
1880 </pre>
1881
1882 <p>To enable multi-drop mode you need to tell fetchmail that
1883 'mailstore' is the name of the host which accepted the mail, and
1884 let it know the hostname part(s) of your E-mail address. The
1885 following example assumes that your hostname is xyz.demon.co.uk,
1886 and that you have also bought "mail forwarding" for the domain
1887 my-company.co.uk (in which case your MTA must also be configured to
1888 accept mail sent to user@my-company.co.uk)</p>
1889
1890 <pre>
1891      poll pop3.demon.co.uk proto pop3 aka mailstore no dns:
1892        localdomains xyz.demon.co.uk my-company.co.uk
1893        user xyz is *
1894 </pre>
1895
1896 <p>Note that Demon may delete mail on the server which is more than
1897 30 days old; see their <a
1898 href="http://www.demon.net/helpdesk/products/mail/sdps-tech.shtml">POP3
1899 page</a> for details.</p>
1900
1901 <h3>The SDPS extension</h3>
1902
1903 <p>There's a different way to do multidrop. It's not necessary on
1904 Demon Internet, since fetchmail can parse Received addresses, but
1905 the person who implemented this didn't know that. It may be useful
1906 if Demon Internet ever changes mail transports.</p>
1907
1908 <p>SDPS includes a non-standard extension for retrieving the
1909 envelope of a message (*ENV), which fetchmail optionally supports
1910 if compiled with the --enable-SDPS option. If you have it, the
1911 first line of the fetchmail -V response will include the string
1912 "+SDPS".</p>
1913
1914 <p>Once you have SDPS compiled in, fetchmail in POP3 mode will
1915 automatically detect when it's talking to a Demon Internet host in
1916 multidrop mode, and use the *ENV extension to get an envelope To
1917 address.</p>
1918
1919 <p>The autodetection works by looking at the hostname in the POP3
1920 greeting line; if you're accessing Demon Internet through a proxy
1921 it may fail. To force SDPS mode, pick "sdps" as your protocol.</p>
1922
1923 <hr/>
1924 <h2><a id="I3" name="I3">I3. How can I use fetchmail with usa.net's
1925 servers?</a></h2>
1926
1927 <p>Enable `<code>fetchall</code>'. A user reports that the 2.2
1928 version of USA.NET's POP server reports that you must use the
1929 `<code>fetchall</code>' option to make sure that all of the mail is
1930 retrieved, otherwise some may be left on the server. This is almost
1931 certainly a server bug.</p>
1932
1933 <p>The usa.net servers (at least in their 2.2 version, June 1998)
1934 don't handle the TOP command properly, either. Regardless of the
1935 argument you give it, they retrieve only about 10 lines of the
1936 message. Fetchmail normally uses TOP for message retrieval in order
1937 to avoid marking messages seen, but `<code>fetchall</code>' forces
1938 it to use RETR instead.</p>
1939
1940 <p>Also, we're told USA.NET adds a ton of hops to your messages.
1941 You may need to raise the MaxHopCount parameter in your sendmail.cf
1942 to avoid having fetched mail rejected.</p>
1943
1944 <p>(Note: Other failure modes have been reported on usa.net's
1945 servers. They seem to be chronically flaky. We recommend finding
1946 another provider.)</p>
1947
1948 <hr/>
1949 <h2><a id="I4" name="I4">I4. How can I use fetchmail with geocities
1950 POP3 servers?</a></h2>
1951
1952 <p>Nathan Cutler reports that the the mail.geocities.com POP3
1953 servers fail to include the first Received line of the message in
1954 the send to fetchmail. This can solve problems if your MUA
1955 interprets Received continuations as body lines and doesn't parse
1956 any of the following headers.</p>
1957
1958 <p>Workaround is to use "mda" keyword or "-mda" switch:</p>
1959
1960 <pre>
1961 mda "sed -e '1s/^\t/Received: /' | formail | /usr/bin/procmail -d &lt;user&gt;"
1962 </pre>
1963
1964 <p>Replace \t with exactly one tabulation character.</p>
1965
1966 <p>You should also consider using "fetchall" option because
1967 Geocities' servers sometimes think that the first 45 messages have
1968 already been read.</p>
1969
1970 <p>Fix: Get an email provider that doesn't suck. The pop-up ads on
1971 Geocities are lame, you should boycott them anyway.</p>
1972
1973 <hr/>
1974 <h2><a id="I5" name="I5">I5. How can I use fetchmail with Hotmail or Lycos Webmail?</a></h2>
1975
1976 <p>You can't directly. But you can use fetchmail with hotmail or lycos
1977 webmail with the help of the <a
1978 href='http://people.freenet.de/courierdave/'>HotWayDaemon</a>
1979 daemon. You don't even need to install hotwayd as a daemon in
1980 <filename>inetd.conf</filename> but can use it as a plugin. Your
1981 configuration should look like this:<p>
1982
1983 <pre>
1984 poll localhost protocol pop3 tracepolls
1985    plugin "/usr/local/sbin/hotwayd -l 0 -p yourproxy:yourproxyport"
1986    username "youremail@hotmail.com" password "yourpassword"
1987    fetchall
1988 </pre>
1989
1990 <p>As a second option you may consider using <a
1991 href="http://linux.cudeso.be/linuxdoc/gotmail.php">gotmail</a>.</p>
1992
1993 <hr/>
1994 <h2><a id="I6" name="I6">I6. How can I use fetchmail with MSN?</a></h2>
1995
1996 <p>You can't. MSN uses something that looks like POP3, except the
1997 authentication part is nonstandard. And of course they don't
1998 document it, so nobody but their Windows clients can speak it.</p>
1999
2000 <p>This is a customer lock-in tactic; we recommend boycotting MSN
2001 as the only appropriate response.</p>
2002
2003 <p>As of 5.0.8, we have support for the client side of NTLM
2004 authentication. It's possible this may enable fetchmail to talk to
2005 MSN; if so, somebody should report it so this FAQ can be
2006 corrected.</p>
2007
2008 <hr/>
2009 <h2><a id="I7" name="I7">I7. How can I use fetchmail with SpryNet?</a></h2>
2010
2011 <p>The SpryNet POP3 servers mark a message queried with TOP as
2012 seen. This means that if your connection drops in mid-message, it
2013 may end up invisibly stuck on your mail spool. Use the
2014 <code>fetchall</code> flag to ensure that it's recovered on the
2015 next cycle.</p>
2016
2017 <hr/>
2018 <h2><a id="I8" name="I8">I8. How can I use fetchmail with comcast.net?</a></h2>
2019
2020 <p>Stock fetchmail will work with a comcast.net server...<em>but</em>
2021 the Maillennium POP3 server comcat uses seems to have an 80K limit on
2022 the length of downloaded messages if you use POP3 TOP to retrieve.
2023 Anything larger is silently truncated.  Don't mistake this for a
2024 fetchmail bug. (Reported July 2003.)</p>
2025
2026 <p>Workaround: use the <tt>fetchall</tt> option.</p>
2027
2028 <hr/>
2029 <h2><a id="K1" name="K1">K1. How can I use fetchmail with SOCKS?</a></h2>
2030
2031 <p>Giuseppe Guerini added a --with-socks option that supports
2032 linking with socks library. If you specify the value of this option
2033 as ``yes'', the configure script will try to find the Rconnect
2034 library and set the makefile up to link it. You can also specify a
2035 directory containing the Rconnect library.</p>
2036
2037 <p>Alan Schmitt has added a similar --with-socks5 option that may
2038 work better if you have a recent version of the SOCKS library.</p>
2039
2040 <hr/>
2041 <h2><a id="K2" name="K2">K2. How can I use fetchmail with IPv6 and
2042 IPsec?</a></h2>
2043
2044 <p>To use fetchmail with IPv6, you need a system that supports
2045 IPv6, the "Basic Socket Interface Extensions for IPv6" (RFC 2133).
2046 This currently means that you need to have a BSD/OS or NetBSD
2047 system with the NRL IPv6+IPsec software distribution or a Linux
2048 system with a 2.2 or later kernel and net-tools. It should not be
2049 hard to build fetchmail on other IPv6 implementations if you can
2050 port the inet6-apps kit.</p>
2051
2052 <p>To use fetchmail with networking security (read: IPsec), you
2053 need a system that supports IPsec, the API described in the
2054 "Network Security API for Sockets"
2055 (draft-metz-net-security-api-01.txt), and the inet6-apps kit. This
2056 currently means that you need to have a BSD/OS or NetBSD system
2057 with the NRL IPv6+IPsec software distribution. A Linux IPsec
2058 implementation supporting this API will probably appear in the
2059 coming months.</p>
2060
2061 <p>The NRL IPv6+IPsec software distribution can be obtained from:
2062 <a
2063 href="http://web.mit.edu/network/isakmp">http://web.mit.edu/network/isakmp</a></p>
2064
2065 <p>The inet6-apps kit can be obtained from <a
2066 href="http://ftp.ps.pl/pub/linux/IPv6/inet6-apps/">http://ftp.ps.pl/pub/linux/IPv6/inet6-apps/</a>.</p>
2067
2068 <p>More information on using IPv6 with Linux can be obtained
2069 from:</p>
2070
2071 <ul>
2072 <li><a
2073 href="http://www.bieringer.de/linux/IPv6/IPv6-HOWTO/IPv6-HOWTO.html">
2074 http://www.bieringer.de/linux/IPv6/IPv6-HOWTO/IPv6-HOWTO.html</a></li>
2075
2076 <li><a
2077 href="http://www.ipv6.inner.net/ipv6">http://www.ipv6.inner.net/ipv6</a>
2078 (via IPv6)</li>
2079
2080 <li><a
2081 href="http://www.inner.net/ipv6">http://www.inner.net/ipv6</a> (via
2082 IPv4)</li>
2083 </ul>
2084
2085 <hr/>
2086 <h2><a id="K3" name="K3">K3. How can I get fetchmail to work with
2087 ssh?</a></h2>
2088
2089 <p>Use the <tt>plugin</tt> option. This is dead simple with
2090 IMAP:</p>
2091
2092 <pre>
2093     plugin "ssh %h /usr/sbin/imapd"
2094 </pre>
2095
2096 <p>You may have to use a different absolute pathname, whatever the
2097 location of imapd on your mailserver is. This option tells
2098 fetchmail that instead of opening a connection on the server's port
2099 143 and doing standard IMAP authentication, fetchmail should ssh to
2100 the server and run imapd, using the more secure ssh authentication
2101 (as well as getting ssh's end-to-end encryption). Most IMAP daemons
2102 will detect that they've been called from the command line and
2103 assume the connection is preauthenticated.</p>
2104
2105 <p>POP3 daemons aren't quite as smart. They won't know they are
2106 preauthenticated in this mode, so you'll actually have to ship your
2107 password. It will be under ssh encryption, though, so that
2108 shouldn't be a problem.</p>
2109
2110 <hr/>
2111 <h2><a id="K4" name="K4">K4. What do I have to do to use the
2112 IMAP-GSS protocol?</a></h2>
2113
2114 <p>Fetchmail can use RFC1731 GSSAPI authorization to safely
2115 identify you to your IMAP server, as long as you can share Kerberos
2116 V credentials with your mail host and you have a GSSAPI-capable
2117 IMAP server. UW-IMAP (available via FTP at <a
2118 href="ftp://ftp.cac.washington.edu/mail/">ftp.cac.washington.edu</a>)
2119 is the only one I'm aware of and the one I recommend anyway for
2120 other reasons. You'll need version 4.1-FINAL or greater though, and
2121 it has to have GSS support compiled in.</p>
2122
2123 <p>Neither UW-IMAP nor fetchmail compile in support for GSS by
2124 default, since it requires libraries from the Kerberos V
2125 distribution (available via FTP at <a
2126 href="ftp://athena-dist.mit.edu/pub/ATHENA/kerberos">athena-dist.mit.edu</a>).
2127 If you have these, compiling in GSS support is simple: add a
2128 <code>--with-gssapi=[/path/to/krb5/root]</code> option to
2129 configure. For instance, I have all of my Kerberos V libraries
2130 installed under /usr/krb5 so I run <code>configure
2131 --with-gssapi=/usr/krb5</code></p>
2132
2133 <p>Setting up Kerberos V authentication is beyond the scope of this
2134 FAQ (you may find Jim Rome's paper <a
2135 href="http://www.ornl.gov/~jar/HowToKerb.html">How to Kerberize
2136 your site</a> helpful), but you'll at least need to add a
2137 credential for imap/[mailhost] to the keytab of the mail server
2138 (IMAP doesn't just use the host key). Then you'll need to have your
2139 credentials ready on your machine (cf. kinit).</p>
2140
2141 <p>After that things are very simple. Set your protocol to imap-gss
2142 in your .fetchmailrc, and omit the password, since imap-gss doesn't
2143 need one. You can specify a username if you want, but this is only
2144 useful if your mailbox belongs to a username different from your
2145 Kerberos principal.</p>
2146
2147 <p>Now you don't have to worry about your password appearing in
2148 cleartext in your .fetchmailrc, or across the network.</p>
2149
2150 <hr/>
2151 <h2><a id="K5" name="K5">K5. How can I use fetchmail with
2152 SSL?</a></h2>
2153
2154 <p>You'll need to have the <a
2155 href="http://www.openssl.org/">OpenSSL</a> libraries installed.
2156 Configure with --with-ssl. If you have the OpenSSL libraries
2157 installed in the default location (/usr/local/ssl) ths will
2158 suffice. If you have them installed in a non-default location,
2159 you'll need to specify it as an argument to --with-ssl after an
2160 equal sign.</p>
2161
2162 <p>Note that there is a known bug in the implementation of SSL_peek
2163 under OpenSSL versions 0.9.5 and older that fetchmail occasionally
2164 tripped over, causing hangs. It is recommended that you install
2165 0.9.6 or later.</p>
2166
2167 <p>Fetchmail binaries built this way support <code>ssl</code>,
2168 <code>sslkey</code>, and <code>sslcert</code> options that control
2169 SSL encryption. You will need to have an SSL-enabled mailserver to
2170 use these options. See the manual page for details and some words
2171 of care on the limited security provided.</p>
2172
2173 <p>If your open OpenSSL session dies with a message that complains
2174 "PRNG not seeded", update or improve your operating system. This
2175 means that the OpenSSL library on your machine has been unable to
2176 locate a source of random bits from which to seed its random-number
2177 generator; normally these come from the <tt>/dev/urandom</tt>, and
2178 this message probably means your OS doesn't have that device.</p>
2179
2180 <p>An interactive program could seed the random number generator
2181 from keystroke timings or some other form of user input. Because
2182 fetchmail is primarily designed to run forever as a background
2183 daemon, that option is not available in this case.</p>
2184
2185 <p>If you don't have the libraries installed, but do have the
2186 OpenSSL utility toolkit, something like this may work:</p>
2187
2188 <pre>
2189 poll MYSERVER port 993 plugin "openssl s_client -connect %h:%p" 
2190         protocol imap username MYUSERNAME password MYPASSWORD
2191 </pre>
2192
2193 <hr/>
2194 <h2><a id="R1" name="R1">R1. Fetchmail isn't working, and -v shows
2195 `SMTP connect failed' messages.</a></h2>
2196
2197 <p>Fetchmail itself is probably working, but your SMTP port 25
2198 listener is down or inaccessible.</p>
2199
2200 <p>The first thing to check is if you can telnet to port 25 on your
2201 smtp host (which is normally `localhost' unless you've specified an
2202 smtp option in your .fetchmailrc or on the command line) and get a
2203 greeting line from the listener. If the SMTP host is inaccessible
2204 or the listener is down, fix that first.</p>
2205
2206 <p>In Red Hat Linux 6.x, SMTP is disabled by default. To fix this,
2207 set "DAEMON=yes" in your /etc/sysconfig/sendmail file, then restart
2208 sendmail by running "/sbin/service sendmail restart".</p>
2209
2210 <p>If the listener seems to be up when you test with telnet, the
2211 most benign and typical problem is that the listener had a
2212 momentary seizure due to resource exhaustion while fetchmail was
2213 polling it -- process table full or some other problem that stopped
2214 the listener process from forking. If your SMTP host is not
2215 `localhost' or something else in /etc/hosts, the fetchmail glitch
2216 could also have been caused by transient nameserver failure.</p>
2217
2218 <p>Try running fetchmail -v again; if it succeeds, you had one of
2219 these kinds of transient glitch. You can ignore these hiccups,
2220 because a future fetchmail run will get the mail through.</p>
2221
2222 <p>If the listener tests up, but you have chronic failures trying
2223 to connect to it anyway, your problem is more serious. One way to
2224 work around chronic SMTP connect problems is to use --mda. But this
2225 only attacks the symptom; you may have a DNS or TCP routing
2226 problem. You should really try to figure out what's going on
2227 underneath before it bites you some other way.</p>
2228
2229 <p>We have one report (from toby@eskimo.com) that you can sometimes
2230 solve such problems by doing an <code>smtp</code> declaration with
2231 an IP address that your routing table maps to something other than
2232 the loopback device (he used ppp0).</p>
2233
2234 <p>We also have a report that this error can be caused by having an
2235 /etc/hosts file that associates your client host name with more
2236 than one IP address.</p>
2237
2238 <p>It's also possible that your DNS configuration isn't looking at
2239 <code>/etc/hosts</code> at all. If you're using libc5, look at
2240 <code>/etc/resolv.conf</code>; it should say something like:</p>
2241
2242 <pre>
2243         order hosts,bind
2244 </pre>
2245
2246 <p>so your <code>/etc/hosts</code> file is checked first. If you're
2247 running GNU libc6, check your <code>/etc/nsswitch.conf</code> file.
2248 Make sure it says something like</p>
2249
2250 <pre>
2251         hosts:  files dns
2252 </pre>
2253
2254 <p>again, in order to make sure <code>/etc/hosts</code> is seen
2255 first.</p>
2256
2257 <p>If you have a hostname set for your machine, and this hostname
2258 does not appear in /etc/hosts, you will be able to telnet to port
2259 25 and even send a mail with rcpt to: user@host-not-in-/etc/hosts,
2260 but fetchmail can't seem to get in touch with sendmail, no matter
2261 what you set smtpaddress to.</p>
2262
2263 <p>We had another report from a Linux user of fetchmail 2.1 who
2264 solved his SMTP connection problem by removing the reference to
2265 -lresolv from his link line and relinking. Apparently in some older
2266 Linux distributions the libc bind library version works better.</p>
2267
2268 <p>As of 2.2, the configure script has been hacked so the bind
2269 library is linked only if it is actually needed. So under Linux it
2270 won't be, and this particular cause should go away.</p>
2271
2272 <hr/>
2273 <h2><a id="R2" name="R2">R2. When I try to configure an MDA,
2274 fetchmail doesn't work.</a></h2>
2275
2276 <p>(I hear this one from people who have run into the blank-line
2277 problem in <a href="#X1">X1</a>.)</p>
2278
2279 <p>Try sending yourself test mail and retrieving it using the
2280 command-line options `<code>-k -m cat</code>'. This will dump
2281 exactly what fetchmail retrieves to standard output (plus the
2282 Received line fetchmail itself adds to the headers).</p>
2283
2284 <p>If the dump doesn't match what shows up in your mailbox when you
2285 configure an MDA, your MDA is mangling the message. If it doesn't
2286 match what you sent, then fetchmail or something on the server is
2287 broken.</p>
2288
2289 <hr/>
2290 <h2><a id="R3" name="R3">R3. Fetchmail dumps core when given an
2291 invalid rc file.</a></h2>
2292
2293 <p>This is usually reported from AIX or Ultrix, but has even been
2294 known to happen on Linuxes without a recent version of
2295 <code>flex</code> installed. The problem appears to be a result of
2296 building with an archaic version of lex.</p>
2297
2298 <p>Workaround: fix the syntax of your .fetchmailrc file.</p>
2299
2300 <p>Fix: build and install the latest version of <a
2301 href="ftp://prep.ai.mit.edu/~ftp/pub/gnu">flex</a> from the Free
2302 Software Foundation. An FSF <a
2303 href="http://www.gnu.ai.mit.edu/order/ftp.html">mirror site</a>
2304 will help you get it faster.</p>
2305
2306 <hr/>
2307 <h2><a id="R4" name="R4">R4. Fetchmail dumps core in -V mode, but
2308 operates normally otherwise.</a></h2>
2309
2310 <p>We've had this reported to us under Linux using libc-5.4.17 and
2311 gcc-2.7.2. It does not occur with libc-5.3.12 or earlier
2312 versions.</p>
2313
2314 <p>Workaround: link with GNU malloc rather than the stock C library
2315 malloc.</p>
2316
2317 <p>We're told there is some problem with the malloc() code in that
2318 version which makes it fragile in the presence of multiple free()
2319 calls on the same pointer (the malloc arena gets corrupted).
2320 Unfortunately it appears from doing gdb traces that whatever free()
2321 calls producing the problem are being made by the C library itself,
2322 not the fetchmail code (they're all from within fclose, and not an
2323 fclose called directly by fetchmail, either).</p>
2324
2325 <hr/>
2326 <h2><a id="R5" name="R5">R5. Running fetchmail in daemon mode
2327 doesn't work.</a><br/>
2328 </h2>
2329
2330 <p>We have one report from a SunOS 4.1.4 user that trying to run
2331 fetchmail in detached daemon mode doesn't work, but that using the
2332 same options with -N (nodetach) is OK. We have another report of
2333 similar behavior from one Linux user, but many other Linux users
2334 reportt no problem.</p>
2335
2336 <p>If this happens, you have a specific portability problem with
2337 the code in daemon.c that detaches and backgrounds the daemon
2338 fetchmail. The isolated Linux case has been chased down to a
2339 failure in dup(2) that may reflect a glibc bug.</p>
2340
2341 <p>As a workaround, you can start fetchmail with -N and an
2342 ampersand to background it. A Sun user recommends this:</p>
2343
2344 <pre>
2345 (fetchmail --nodetach &lt;other params&gt; &amp;)
2346 </pre>
2347
2348 <p>The extra pair of parens is significant --- it makes sure that
2349 the process detaches from the initial shell (one more shell is
2350 started and dies immediately, detaching fetchmail and making it
2351 child of PID 1). This is important when you start fetchmail
2352 interactively and than quit interactive shell. The line above makes
2353 sure fetchmail lives after that!</p>
2354
2355 <hr/>
2356 <h2><a id="R6" name="R6">R6. Fetchmail randomly dies with socket
2357 errors.</a></h2>
2358
2359 <p>Check the MTU value in your PPP interface reported by
2360 <code>/sbin/ifconfig</code>. If it's over 600, change it in your
2361 PPP options file. (<code>/etc/ppp/options</code> on my box). Here
2362 are option values that work:</p>
2363
2364 <pre>
2365   mtu 552
2366   mru 552
2367 </pre>
2368
2369 <p>Another circumstance that can trigger this is if you are polling
2370 a virtual-mail-server name that is round-robin connected to
2371 different actual servers, so you get different IP addresses on
2372 different poll cycles. To work around this, change the poll name
2373 either to the real name of one of the servers in the ring or to a
2374 corresponding IP address.</p>
2375
2376 <hr/>
2377 <h2><a id="R7" name="R7">R7. Fetchmail running as root stopped
2378 working after an OS upgrade</a></h2>
2379
2380 <p>In RH 6.0, the HOME value in the boot-time root environment
2381 changed from /root to / as the result of a change in init. Move
2382 your .fetchmailrc or use a -f option to explicitly point at the
2383 file. (Oddly, a similar problem has been reported from Debian
2384 systems.)</p>
2385
2386 <hr/>
2387 <h2><a id="R8" name="R8">R8. Fetchmail is timing out after fetching
2388 certain messages but before deleting them</a></h2>
2389
2390 <p>There's a TCP/IP stalling problem under Redhat 6.0 (and possibly
2391 other recent Linuxes) that can cause this symptom. Brian Boutel
2392 writes:</p>
2393
2394 <blockquote>
2395 <p>TCP timestamps are turned on on my Linux boxes (I assume it's
2396 now the default). This uses 12 extra bytes per segment. When the
2397 tcp connection starts, the other end agrees a MSS of 1460, and then
2398 fragments 1460 byte chunks into 1448 and 12, because is is not
2399 allowing for the timestamp.</p>
2400
2401 <p>Then, for reasons I can't explain, it waits a long time
2402 (typically 2 minutes) after the ack is sent before sending the next
2403 (fragmented) packet. Turning off tcp timestamps avoids the
2404 fragmentation and restores normal behaviour. To do this,
2405 [execute]</p>
2406
2407 <p>echo 0 &gt; /proc/sys/net/ipv4/tcp_timestamps</p>
2408
2409 <p>I'm still unclear about the details of why this is happening. At
2410 least [now] I am now getting good performance and no queue
2411 blocking.</p>
2412 </blockquote>
2413
2414 <hr/>
2415 <h2><a id="R9" name="R9">R9. Fetchmail is timing out during message
2416 fetches</a></h2>
2417
2418 <p>This is probably a general networking issue. Sending a "RETR"
2419 command will cause the server to start sending large amounts of
2420 data, which means large packets. If your networking layer has a
2421 packet-fragmentation problem, that's where you'll see it.</p>
2422
2423 <hr/>
2424 <h2><a id="R10" name="R10">R10. Fetchmail is dying with
2425 SIGPIPE.</a></h2>
2426
2427 <p>This probably means you have an <code>mda</code> option. Your
2428 MDA is croaking while being passed a message. Best fix is to remove
2429 the <code>mda</code> option and pass mail to your port 25 SMTP
2430 listener.</p>
2431
2432 <p>If for some reason you are invoking sendmail via the
2433 <tt>mda</tt> option (rather than delivering to port 25 via smtp),
2434 don't forget to include the -i switch. Otherwise you will
2435 occasionally get mysterious delivery failures with a SIGPIPE as the
2436 sendmail instance dies. The problem is messages with a single dot
2437 at start of a text line.</p>
2438
2439 <hr/>
2440 <h2><a id="R11" name="R11">R11. My server is hanging or emitting
2441 errors on CAPA.</a></h2>
2442
2443 <p>Your POP3 server is broken. You can work around this with the
2444 declaration <tt>auth password</tt> in your .fetchmailrc.</p>
2445
2446 <hr/>
2447 <h2><a id="H1" name="H1">H1. Fetchmail hangs when used with
2448 pppd.</a></h2>
2449
2450 <p>Your problem may be with pppd's `demand' option. We have a
2451 report that fetchmail doesn't play well with it, but works with
2452 pppd if `demand' is turned off. We have no idea why this is.</p>
2453
2454 <hr/>
2455 <h2><a id="H2" name="H2">H2. Fetchmail hangs during the MAIL FROM
2456 exchange.</a></h2>
2457
2458 <p>The symptom: 'fetchmail -v' retrieves mail fine, but appears to
2459 hang after sending the MAIL FROM command</p>
2460
2461 <pre>
2462 SMTP&gt; MAIL FROM: &lt;someone@somewhere&gt;
2463 </pre>
2464
2465 <p>The hang is actually occuring when sendmail looks up a sender's
2466 address in DNS. The problem isn't in fetchmail but in the
2467 configuration of sendmail. You must enable the 'nodns' and
2468 'nocanonify' features of sendmail.</p>
2469
2470 <p>Here was my fix for RedHat 7.2:</p>
2471
2472 <ol>
2473 <li># cd /etc/mail</li>
2474
2475 <li># cp sendmail.mc sendmail-mine.mc</li>
2476
2477 <li>Edit sendmail-mine.mc and add lines: 
2478
2479 <pre>
2480    FEATURE(nodns)
2481    FEATURE(nocanonify)
2482 </pre>
2483 </li>
2484
2485 <li>Build a new sendmail.cf 
2486
2487 <pre>
2488    # m4 sendmail-mine.cf &gt; /etc/sendmail.cf
2489 </pre>
2490 </li>
2491
2492 <li>Restart sendmail.</li>
2493 </ol>
2494
2495 <p>For more details consult the file
2496 /usr/share/sendmail-cf/README.</p>
2497
2498 <hr/>
2499 <h2><a id="H3" name="H3">H3. Fetchmail hangs while fetching
2500 mail.</a></h2>
2501
2502 <p>The symption: 'fetchmail -v' retrieves the first few messages,
2503 but hangs returning:</p>
2504
2505 <pre>
2506  fetchmail: SMTP&lt; 550 5.0.0 Access denied
2507  fetchmail: SMTP&gt; RSET
2508  fetchmail: SMTP&lt; 250 2.0.0 Reset state
2509  .......fetchmail:  flushed
2510  fetchmail: POP3&gt; DELE 1
2511  fetchmail: POP3&lt; +OK marked deleted
2512 </pre>
2513
2514 <p>Check and see if you're allowing sendmail connections through
2515 TCP wrappers.</p>
2516
2517 <p>Adding 'sendmail : 127.0.0.1' to /etc/hosts.allow could solve
2518 this problem.</p>
2519
2520 <hr/>
2521 <h2><a id="D1" name="D1">D1. I think I've set up fetchmail
2522 correctly, but I'm not getting any mail.</a></h2>
2523
2524 <p>Maybe you have a .forward or alias set up that you've forgotten
2525 about. You should probably remove it.</p>
2526
2527 <p>Or maybe you're trying to run fetchmail in multidrop mode as
2528 root without a .fetchmailrc file. This doesn't do what you think it
2529 should; see question <a href="#C1">C1</a>.</p>
2530
2531 <p>Or you may not be connecting to the SMTP listener. Run fetchmail
2532 -v and see <a href="#R1">R1</a>.</p>
2533
2534 <p>Or you may have your local user set incorrectly. In the
2535 following line</p>
2536
2537 <pre>
2538         user 'remoteuser' there with password '*' is 'localuser' here
2539 </pre>
2540
2541 <p>make sure that 'localuser' does exist and can receive mail.</p>
2542
2543 <hr/>
2544 <h2><a id="D2" name="D2">D2. All my mail seems to disappear after a
2545 dropped connection.</a></h2>
2546
2547 <p>One POP3 daemon used in the Berkeley Unix world that reports
2548 itself as POP3 version 1.004 actually throws the queue away. 1.005
2549 fixed that. If you're running this one, upgrade immediately. (It
2550 also truncates long lines at column 1024)</p>
2551
2552 <p>Many POP servers, if an interruption occurs, will restore the
2553 whole mail queue after about 10 minutes. Others will restore it
2554 right away. If you have an interruption and don't see it right
2555 away, cross your fingers and wait ten minutes before retrying.</p>
2556
2557 <p>Some servers (such as Microsoft's NTMail) are mis-designed to
2558 restore the entire queue, including messages you have deleted. If
2559 you have one of these and it flakes out on you a lot, try setting a
2560 small <code>--fetchlimit</code> value. This will result in more IP
2561 connects to the server, but will mean it actually executes changes
2562 to the queue more often.</p>
2563
2564 <p>Qualcomm's qpopper, used at many BSD Unix sites, is better
2565 behaved. If its connection is dropped, it will first execute all
2566 DELE commands as though you had issued a QUIT (this is a technical
2567 violation of the POP3 RFCs, but a good idea in a world of flaky
2568 phone lines). Then it will re-queue any message that was being
2569 downloaded at hangup time. Still, qpopper may require a noticeable
2570 amount of time to do deletions and clean up its queue. (Fetchmail
2571 waits a bit before retrying in order to avoid a `lock busy'
2572 error.)</p>
2573
2574 <hr/>
2575 <h2><a id="D3" name="D3">D3. Mail that was being fetched when I
2576 interrupted my fetchmail seems to have been vanished.</a></h2>
2577
2578 <p>Fetchmail only sends a delete mail request to the server when
2579 either (a) it gets a positive delivery acknowledgment from the SMTP
2580 listener, or (b) it gets one of the spam-filter errors (see the
2581 description of the <code>antispam&gt;</code> option) from the
2582 listener. No interrupt can cause it to lose mail.</p>
2583
2584 <p>However, IMAP2bis has a design problem in that its normal fetch
2585 command marks a message `seen' as soon as the fetch command to get
2586 it is sent down. If for some reason the message isn't actually
2587 delivered (you take a line hit during the download, or your port 25
2588 listener can't find enough free disk space, or you interrupt the
2589 delivery in mid-message) that `seen' message can lurk invisibly in
2590 your server mailbox forever.</p>
2591
2592 <p>Workaround: add the `<code>fetchall</code>' keyword to your
2593 fetch options.</p>
2594
2595 <p>Solution: switch to an <a href="http://www.imap.org">IMAP4</a>
2596 server.</p>
2597
2598 <hr/>
2599 <h2><a id="M1" name="M1">M1. I've declared local names, but all my
2600 multidrop mail is going to root anyway.</a></h2>
2601
2602 <p>Somehow your fetchmail is never recognizing the hostname part of
2603 recipient names it parses out of To/Cc/envelope-header lines as
2604 matching the name of the mailserver machine. To check this, run
2605 fetchmail in foreground with -v -v on. You will probably see a lot
2606 of messages with the format ``line rejected, %s is not an alias of
2607 the mailserver'' or ``no address matches; forwarding to %s.''</p>
2608
2609 <p>These errors usually indicate some kind of DNS configuration
2610 problem either on the server or your client machine.</p>
2611
2612 <p>The easiest workaround is to add a `<code>via</code>' option (if
2613 necessary) and add enough aka declarations to cover all of your
2614 mailserver's aliases, then say `<code>no dns</code>'. This will
2615 take DNS out of the picture (though it means mail may be
2616 uncollected if it's sent to an alias of the mailserver that you
2617 don't have listed).</p>
2618
2619 <p>It would be better to fix your DNS, however. DNS problems can
2620 hurt you in lots of ways, for example by making your machines
2621 intermittently or permanently unreachable to the rest of the
2622 net.</p>
2623
2624 <p>Occasionally these errors indicate the sort of header-parsing
2625 problem described in <a href="#M7">M7</a>.</p>
2626
2627 <hr/>
2628 <h2><a id="M2" name="M2">M2. I can't seem to get fetchmail to route
2629 to a local domain properly.</a></h2>
2630
2631 <p>A lot of people want to use fetchmail as a poor man's
2632 internetwork mail gateway, picking up mail accumulated for a whole
2633 domain in a single server mailbox and then routing based on what's
2634 in the To/Cc/Bcc lines.</p>
2635
2636 <p>In general, this is not really a good idea. It would be smarter
2637 to just let the mail sit in the mailserver's queue and use
2638 fetchmail's ETRN or ODMR modes to trigger SMTP sends periodically
2639 (of course, this means you have to poll more frequently than the
2640 mailserver's expiration period). If you can't arrange this, try
2641 setting up a UUCP feed.</p>
2642
2643 <p>If neither of these alternatives is available, multidrop mode
2644 may do (though you <em>are</em> going to get hurt by some mailing
2645 list software; see the caveats under THE USE AND ABUSE OF MULTIDROP
2646 MAILBOXES on the man page). If you want to try it, the way to do it
2647 is with the `<code>localdomains</code>' option.</p>
2648
2649 <p>In general, if you use localdomains you need to make sure of two
2650 other things:</p>
2651
2652 <p><strong>1. You've actually set up your .fetchmailrc entry to
2653 invoke multidrop mode.</strong></p>
2654
2655 <p>Many people set a `<code>localdomains</code>' list and then
2656 forget that fetchmail wants to see more than one name (or the
2657 wildcard `*') in a `<code>here</code>' list before it will do
2658 multidrop routing.</p>
2659
2660 <p><strong>2. You may have to set `no envelope'.</strong></p>
2661
2662 <p>Normally, multidrop mode tries to deduce an envelope address
2663 from a message before parsing the To/Cc/Bcc lines (this enables it
2664 to avoid losing to mailing list software that doesn't put a
2665 recipient address in the To lines).</p>
2666
2667 <p>Some ways of accumulating a whole domain's messages in a single
2668 server mailbox mean it all ends up with a single envelope address
2669 that is useless for rerouting purposes. You may have to set
2670 `<code>no envelope</code>' to prevent fetchmail from being
2671 bamboozled by this.</p>
2672
2673 <p>Check also answer <a href="#T1">T1</a> on a reliable way to do
2674 multidrop delivery if your ISP (or your mail redirection provider)
2675 is using qmail.</p>
2676
2677 <hr/>
2678 <h2><a id="M3" name="M3">M3. I tried to run a mailing list using
2679 multidrop, and I have a mail loop!</a></h2>
2680
2681 <p>This isn't fetchmail's fault. Check your mailing list. If the
2682 list expansion includes yourself or anybody else at your mailserver
2683 (that is, not on the client side) you've created a mail loop. Just
2684 chop the host part off any local addresses in the list.</p>
2685
2686 <p>If you use sendmail, you can check the list expansion with
2687 <code>sendmail -bv</code>.</p>
2688
2689 <hr/>
2690 <h2><a id="M4" name="M4">M4. My multidrop fetchmail seems to be
2691 having DNS problems.</a></h2>
2692
2693 <p>We have one report from a Linux user (not the same one as in <a
2694 href="#R1">R1</a>!) who solved this problem by removing the
2695 reference to -lresolv from his link line and relinking. Apparently
2696 in some older Linux distributions the libc5 bind library version
2697 works better.</p>
2698
2699 <p>As of 2.2, the configure script has been hacked so the bind
2700 library is linked only if it is actually needed. So under Linux it
2701 won't be, and this problem should go away.</p>
2702
2703 <hr/>
2704 <h2><a id="M5" name="M5">M5. I'm seeing long DNS delays before each
2705 message is processed.</a></h2>
2706
2707 <p>Use the `<code>aka</code>' option to pre-declare as many of your
2708 mailserver's DNS names as you can. When an address's host part
2709 matches an aka name, no DNS lookup needs to be done to check
2710 it.</p>
2711
2712 <p>If you're sure you've pre-declared all of your mailserver's DNS
2713 names, you can use the `<code>no dns</code>' option to prevent
2714 other hostname parts from being looked up at all.</p>
2715
2716 <p>Sometimes delays are unavoidable. Some SMTP listeners try to
2717 call DNS on the From-address hostname as a way of checking that the
2718 address is valid.</p>
2719
2720 <hr/>
2721 <h2><a id="M6" name="M6">M6. How do I get multidrop mode to work
2722 with majordomo?</a></h2>
2723
2724 <p>In order for sendmail to execute the command strings in the
2725 majordomo alias file, it is necessary for sendmail to think that
2726 the mail it receives via SMTP really is destined for a local user
2727 name. A normal virtual-domain setup results in delivery to the
2728 default mailbox, rather than expansion through majordomo.</p>
2729
2730 <p>Michael &lt;michael@bizsystems.com&gt; gave us a recipe for
2731 dealing with this case that pairs a run control file like this:</p>
2732
2733 <pre>
2734 poll your.pop3.server proto pop3:
2735     no envelope no dns
2736     localdomains virtual.localdomain1.com virtual.localdomain2.com ...
2737     user yourISPusername is root * here,
2738     password yourISPpassword fetchall
2739 </pre>
2740
2741 <p>with a hack on your local sendmail.cf like this:</p>
2742
2743 <pre>
2744 #############################################
2745 #  virtual info, local hack for ruleset 98  #
2746 #############################################
2747
2748 # domains to treat as direct mapped local domain
2749
2750 CVvirtual.localdomain1.com virtual.localdomain2.com ...
2751 ---------------------------
2752 in ruleset 98 add
2753 -------------------------
2754 # handle virtual users
2755
2756 R$+ &lt;@ $=V . &gt;          $: $1 &lt; @ $j . &gt;
2757 R&lt; @ &gt; $+ &lt; @ $=V . &gt;   $: $1 &lt; @ $j . &gt;
2758 R&lt; @ &gt; $+               $: $1
2759 R&lt; error : $- $+ &gt; $*   $#error $@ $1 $: $2
2760 R&lt; $+ &gt; $+ &lt; @ $+ &gt;     $: $&gt;97 $1
2761 </pre>
2762
2763 <p>This ruleset just strips virtual domain names off the addresses
2764 of incoming mail. Your sendmail must be 8.8 or newer for this to
2765 work. Michael says:</p>
2766
2767 <blockquote>I use this scheme with 2 virtual domains and the
2768 default ISP user+domain and service about 30 mail accounts +
2769 majordomo on my inside pop3 server with fetchmail and sendmail
2770 8.83</blockquote>
2771
2772 <hr/>
2773 <h2><a id="M7" name="M7">M7. Multidrop mode isn't parsing envelope
2774 addresses from my Received headers as it should.</a></h2>
2775
2776 <p>It may happen that you're getting what appear to be well-formed
2777 sendmail Received headers, but fetchmail can't seem to extract an
2778 envelope address from them. There can be a couple of reasons for
2779 this.</p>
2780
2781 <h3>Spurious Received lines need to be skipped:</h3>
2782
2783 <p>First, fetchmail might be looking at the wrong Received header.
2784 Normally it looks only on the first one it sees, on the theory that
2785 that one was last added and is going to be the one containing your
2786 mailserver's theory of who the message was addressed to.</p>
2787
2788 <p>Some (unusual) mailserver configurations will generate extra
2789 Received lines which you need to skip. To arrange this, use the
2790 optional skip prefix argument of the `envelope' option; you may
2791 need to say something like `<code>envelope 1 Received</code>' or
2792 `<code>envelope 2 Received</code>'.</p>
2793
2794 <h3>The `by' clause doesn't contain a mailserver alias:</h3>
2795
2796 <p>When fetchmail parses a Received line that looks like</p>
2797
2798 <pre>
2799 Received: from send103.yahoomail.com (send103.yahoomail.com [205.180.60.92])
2800     by iserv.ttns.net (8.8.5/8.8.5) with SMTP id RAA10088
2801     for &lt;ksturgeon@fbceg.org&gt;; Wed, 9 Sep 1998 17:01:59 -0700
2802 </pre>
2803
2804 <p>it checks to see if `iserv.ttns.net' is a DNS alias of your
2805 mailserver before accepting `ksturgeon@fbceg.org' as an envelope
2806 address. This check might fail if your DNS were misconfigured, or
2807 if you were using `no dns' and had failed to declare iserv.ttns.net
2808 as an alias of your server.</p>
2809
2810 <hr/>
2811 <h2><a id="M8" name="M8">M8. Users are getting multiple copies of
2812 messages.</a></h2>
2813
2814 <p>It's a consequence of multidrop. What's happening is that you
2815 have N users subscribed to the same list. The list software sends N
2816 copies, not knowing they will end up in the same multidrop box.
2817 Since they are both locally addressed to all N users, fetchmail
2818 delivers N copies to each user.</p>
2819
2820 <p>Fetchmail tries to eliminate adjacent duplicate messages in a
2821 multidrop mailbox. However, this logic depends on the message-ID
2822 being identical in both copies. It also depends on the two copies
2823 being adjacent in the server mailbox. The former is usually the
2824 case, but the latter condition sometimes fails in a
2825 timing-dependent way if the server was processing multiple incoming
2826 mail streams.</p>
2827
2828 <p>I could eliminate this problem by keeping a list of all
2829 message-IDs received during a poll so far and dropping any message
2830 that matches a seen mail ID. The trouble is that this is an O(N**2)
2831 operation that might significantly slow down the retrieval of large
2832 mail batches.</p>
2833
2834 <hr/>
2835 <h2><a id="X1" name="X1">X1. Spurious blank lines are appearing in
2836 the headers of fetched mail.</a></h2>
2837
2838 <p>What's probably happening is that the POP/IMAP daemon on your
2839 mailserver is inserting a non-RFC822 header (like X-POP3-Rcpt:) and
2840 something in your delivery path (most likely an old version of the
2841 <em>deliver</em> program, which sendmail often calls to do local
2842 delivery) is failing to recognize it as a header.</p>
2843
2844 <p>This is not fetchmail's problem. The first thing to try is
2845 installing a current version of <em>deliver</em>. If this doesn't
2846 work, try to figure out which other program in your mail path is
2847 inserting the blank line and replace that. If you can't do either
2848 of these things, pick a different MDA (such as procmail) and
2849 declare it with the `<code>mda</code>' option.</p>
2850
2851 <hr/>
2852 <h2><a id="X2" name="X2">X2. My mail client can't see a Subject
2853 line.</a></h2>
2854
2855 <p>First, see <a href="#X1">X1</a>. This is quite probably the same
2856 problem (X-POP3-Rcpt header or something similar being inserted by
2857 the server and choked on by an old version of
2858 <em>deliver</em>).</p>
2859
2860 <p>The O'Reilly sendmail book does warn that IDA sendmail doesn't
2861 process X- headers correctly. If this is your problem, all I can
2862 suggest is replacing IDA sendmail, because it's broken and not
2863 RFC822 conformant.</p>
2864
2865 <hr/>
2866 <h2><a id="X3" name="X3">X3. Messages containing "From" at start of
2867 line are being split.</a></h2>
2868
2869 <p>If you know the messages aren't split in your server mailbox,
2870 then this is a problem with your POP/IMAP server, your client-side
2871 SMTP listener or your local delivery agent. Fetchmail cannot split
2872 messages.</p>
2873
2874 <p>Some POP server daemons ignore Content-Length headers and split
2875 messages on From lines. We have one report that the 2.1 version of
2876 the BSD popper program (as distributed on Solaris 2.5 and
2877 elsewhere) is broken this way.</p>
2878
2879 <p>You can test this. Declare an mda of `cat' and send yourself one
2880 piece of mail containing "From" at start of a line. If you see a
2881 split message, your POP/IMAP server is at fault. Upgrade to a more
2882 recent version.</p>
2883
2884 <p>Sendmail and other SMTP listeners don't split RFC822 messages
2885 either. What's probably happening is either sendmail's local
2886 delivery agent or your mail reader are not quite RFC822-conformant
2887 and are breaking messages on what it thinks are Unix-style From
2888 headers. You can figure out which by looking at your client-side
2889 mailbox with vi or more. If the message is already split in your
2890 mailbox, your local delivery agent is the problem. If it's not,
2891 your mailreader is the problem.</p>
2892
2893 <p>If you can't replace the offending program, take a look at your
2894 sendmail.cf file. There will likely be a line something like</p>
2895
2896 <pre>
2897 Mlocal, P=/usr/bin/procmail, F=lsDFMShP, S=10, R=20/40, A=procmail -Y -d $u
2898 </pre>
2899
2900 <p>describing your local delivery agent. Try inserting the `E'
2901 option in the flags part (the F= string). This will make sendmail
2902 turn each dangerous start-of-line From into a &gt;From, preventing
2903 programs further downstream from acting up.</p>
2904
2905 <hr/>
2906 <h2><a id="X4" name="X4">X4.</a><a id="generic_mangling"
2907 name="generic_mangling">My mail is being mangled in a new and
2908 different way</a></h2>
2909
2910 <p>The first thing you need to do is pin down what program is doing
2911 the mangling. We don't like getting bug reports about fetchmail
2912 that are actually due to some other program's malfeasance, so
2913 please go through this diagnostic sequence before sending us a
2914 complaint.</p>
2915
2916 <p>There are five possible culprits to consider, listed here in the
2917 order they pass your mail:</p>
2918
2919 <ol>
2920 <li>Programs upstream of your server mailbox.</li>
2921
2922 <li>The POP or IMAP server on your mailserver host.</li>
2923
2924 <li>The fetchmail program itself.</li>
2925
2926 <li>Your local sendmail.</li>
2927
2928 <li>Your LDA (local delivery agent), as called by sendmail or
2929 specified by <code>mda</code>.</li>
2930 </ol>
2931
2932 <p>Often it happens that fetchmail itself is OK, but using it
2933 exposes pre-existing bugs in your downstream software, or your
2934 downstream software has a bad interaction with POP/IMAP. You need
2935 to pin down exactly where the message is being garbled in order to
2936 deduce what is actually going on.</p>
2937
2938 <p>The first thing to do is send yourself a test message, and
2939 retrieve it with a .fetchmailrc entry containing the following (or
2940 by running with the equivalent command-line options):</p>
2941
2942 <pre>
2943     mda "cat &gt;MBOX" keep fetchall
2944 </pre>
2945
2946 <p>This will capture what fetchmail gets from the server, except
2947 for (a) the extra Received header line fetchmail prepends, (b)
2948 header address changes due to <code>rewrite</code>, and (c) any
2949 end-of-line changes due to the <code>forcecr</code> and
2950 <code>stripcr</code> options. MBOX will in fact contain what
2951 programs downstream of fetchmail see.</p>
2952
2953 <p>The most common causes of mangling are bugs and
2954 misconfigurations in those downstream programs. If MBOX looks
2955 unmangled, you will know that is what is going on and that it is
2956 not fetchmail's problem. Take a look at the other FAQ items in this
2957 section for possible clues about how to fix your problem.</p>
2958
2959 <p>If MBOX looks mangled, the next thing to do is compare it with
2960 your actual server mailbox (if possible). That's why you specified
2961 <code>keep</code>, so the server copy would not be deleted. If your
2962 server mailbox looks mangled, programs upstream of your server
2963 mailbox are at fault. Unfortunately there is probably little you
2964 can do about this aside from complaining to your site postmaster,
2965 and nothing at all fetchmail can do about it!</p>
2966
2967 <p>More likely you'll find that the server copy looks OK. In that
2968 case either the POP/IMAP server or fetchmail is doing the mangling.
2969 To determine which, you'll need to telnet to the server port and
2970 simulate a fetchmail session yourself. This is not actually hard
2971 (both POP3 and IMAP are simple, text-only, line-oriented protocols)
2972 but requires some attention to detail. You should be able to use a
2973 fetchmail -v log as a model for a session, but remember that the
2974 "*" in your LOGIN or PASS command dump has to be replaced with your
2975 actual password.</p>
2976
2977 <p>The objective of manually simulating fetchmail is so you can see
2978 exactly what fetchmail sees. If you see a mangled message, then
2979 your server is at fault, and you probably need to complain to your
2980 mailserver administrators. However, we like to know what the broken
2981 servers are so we can warn people away from them. So please send us
2982 a transcript of the session including the mangling <em>and the
2983 server's initial greeting line</em>. Please tell us anything else
2984 you think might be useful about the server, like the server host's
2985 operating system.</p>
2986
2987 <p>If your manual fetchmail simulation shows an unmangled message,
2988 congratulations. You've found an actual fetchmail bug, which is a
2989 pretty rare thing these days. Complain to us and we'll fix it.
2990 Please include the session transcript of your manual fetchmail
2991 simulation along with the other things described in the FAQ entry
2992 on <a href="#G3">reporting bugs</a>.</p>
2993
2994 <hr/>
2995 <h2><a id="X5" name="X5">X5. Using POP3, retrievals seems to be
2996 fetching too much!</a></h2>
2997
2998 <p>This may happen in versions of fetchmail after 4.4.1 and before
2999 4.4.8. Versions after 4.4.1 use POP3's TOP command rather than
3000 RETR, in order to avoid marking the message seen (leaving it unseen
3001 is helpful for later recovery if you lose your connection in the
3002 middle of a retrieval).</p>
3003
3004 <p>Versions of fetchmail from 4.4.2 through 4.4.7 had a bad
3005 interaction with Eudora qpopper versions 2.3 and later. The TOP
3006 bounds check was fooled by an overflow condition in the TOP
3007 argument. Decrementing the TOP argument in 4.4.7 fixed this.</p>
3008
3009 <p>Fix: Upgrade to a later version of fetchmail.</p>
3010
3011 <p>Workaround: set the <code>fetchall</code> option. Under POP3
3012 this has the side effect of forcing RETR use.</p>
3013
3014 <hr/>
3015 <h2><a id="X6" name="X6">X6. My mail attachments are being dropped
3016 or mangled.</a></h2>
3017
3018 <p>Fetchmail doesn't discard attachments; fetchmail doesn't have any idea
3019 that attachments are there.  Fetchmail treats the body of each message as
3020 an uninterpreted byte stream and passes it through without alteration.
3021 If you are not receiving attachments through fetchmail, it is because 
3022 your mailserver is not sending them to you.</p>
3023
3024 <p>The fix for this is to replace your mailserver with one that works.
3025 If its operating system makes this difficult, you should replace its
3026 operating system with one that works. Windows- and NT-based POP servers
3027 seem especially prone to mangle attachments. If you are running one
3028 of these, replacing your server with a Unix machine is probably the
3029 only effective solution.</p>
3030
3031 <p>We've had sporadic reports of problems with Microsoft Exchange and 
3032 Outlook servers.  These sometimes randomly fail to ship 
3033 attachments to your client.  This is a known bug, acknowledged by
3034 Microsft.</p>
3035
3036 <p>They may also mangle the attachments they do pass through.  If you
3037 see unreadable attachments with a ContentType of "application/x-tnef",
3038 you're having this problem.  The <a
3039 href="http://world.std.com/~damned/software.html">TNEF</a> utility may
3040 help.</p>
3041
3042 <p>The Mail Max POP3 server and the InterChange and Imail IMAP
3043 servers are known to simply drop MIME attachments when uploading
3044 messages.</p>
3045
3046 <p>We've also had a report that Lotus Notes sometimes trashes the
3047 MIME type of messages. In particular, it seems to modify MIME
3048 headers of type application/pdf, mangling the type to
3049 application/octet-stream. It may corrupt other MIME types as
3050 well.</p>
3051
3052 <p>The IMAP service of Lotus Domino has a known bug in the way it
3053 generates MIME Content-type headers (observed on Lotus Domino
3054 5.0.2b). It's a subtle one that doesn't show up when Netscape
3055 Messenger and other clients use a FETCH BODY[] to grab the whole
3056 message. When fetchmail uses FETCH RFC822.HEADER and FETCH
3057 RFC822.TEXT to get first the header and then the body, Domino
3058 generates different Boundary tags for each part, .e.g. one tag is
3059 declared in the Content-type header and another is used to separate
3060 the MIME parts in the body. This doesn't work. (I have heard a
3061 rumor that this bug is scheduled to be fixed in Domino release 6;
3062 you can find a workaround at contrib/domino.)</p>
3063
3064 <p>Rob Funk explains: Unfortunately there also remain many mail
3065 user agents that don't write correct MIME messages. One big
3066 offender is Sun MailTool attachments, which are formatted enough
3067 like MIME that some programs could get confused; these are
3068 generated by the mailtool and dtmail programs (the mail programs in
3069 Sun's OpenWindows and CDE environments).</p>
3070
3071 <p>One solution to problems related to misformatted MIME
3072 attachments is the <a
3073 href="ftp://ftp.uu.se/pub/unix/networking/mail/emil/">emil</a>
3074 program; see its <a
3075 href="ftp://ftp.uu.se/pub/unix/networking/mail/emil/TUTORIAL.html">tutorial</a>
3076 file at that site for details on emil. It is useful for converting
3077 character sets, attachment encodings, and attachment formats. At
3078 this writing, emil does not appear to have been maintained since a
3079 patch to version 2.1.0beta9 in late 1997, but it is still
3080 useful.</p>
3081
3082 <p>One good way of using emil is from within procmail. You can have
3083 procmail look for signs of problematic message formatting, and pipe
3084 those messages through emil to be fixed. emil will not always be
3085 able to fix the problem, in which case the message is
3086 unchanged.</p>
3087
3088 <p>A possible rule to be inserted into a .procmailrc file for using
3089 emil would be:</p>
3090
3091 <pre>
3092 :0HB
3093 * 1^1 ^Content-Type: \/X-sun[^;]*
3094 * 1^1 ^Content-Type: \/application/mac-binhex[^;]*
3095 * 1^1 ^Content-Transfer-Encoding: \/x-binhex[^;]*
3096 * 1^1 ^Content-Transfer-Encoding: \/x-uuencode[^;]*
3097 {
3098   LOG="Converting $MATCH
3099 "
3100   :0fw
3101   | emil -A B -T Q -B BA -C iso-8859-1 -H Q -F MIME \
3102   | gawk '{gsub(/\r\n?/,"\n");print $0}'
3103 }
3104 </pre>
3105
3106 <p>The "1^1" in the conditions is a way of specifying to procmail
3107 that if any one of the four listed expressions is found in the
3108 message, the total condition is considered true, and the message
3109 gets passed into emil. These four subconditions check whether the
3110 message has a Sun attachment, a binhex attachment, or a uuencoded
3111 attachment; there are others that could be added to check these
3112 things better and to check other relevant conditions. The "LOG="
3113 line writes a line into the procmail log; the lone double-quote
3114 beginning the following line makes sure the log entry gets an
3115 end-of-line character. The call to gawk (GNU awk) is for fixing
3116 end-of-line conventions, since emil sometimes leaves those in the
3117 format of the originating machine; it could probably be replaced
3118 with a sed subsitution.</p>
3119
3120 <p>The emil call itself tries to ensure that the message uses:</p>
3121
3122 <ul>
3123 <li>BinHex encoding for any Apple Macintosh-only attachments</li>
3124
3125 <li>Quoted-Printable encoding for text (when necessary)</li>
3126
3127 <li>Base64 Encoding for binary attachments</li>
3128
3129 <li>iso-8859-1 character set for text (unfortunately emil can't yet
3130 convert from windows-1252 to iso-8859-1)</li>
3131
3132 <li>Quoted-Printable encoding for headers</li>
3133
3134 <li>MIME attachment format</li>
3135 </ul>
3136
3137 <p>Most of these (the primary exceptions being the character set
3138 and the Apple binary format) are as they should be for good
3139 internet interoperability.</p>
3140
3141 <p>Some mail servers (Lotus Domino is a suspect here) mangle
3142 Sun-formatted messages, so the conversion to MIME needs to happen
3143 before such programs see the message. The ideal is to rid the world
3144 of Sun-formatted messages: don't use mailtool for sending
3145 attachments (it doesn't understand MIME anyway, and most of the
3146 world doesn't understand its attachments, so it really shouldn't be
3147 used at all), and make sure dtmail is set to use MIME rather than
3148 mailtool's format.</p>
3149
3150 <hr/>
3151 <h2><a id="X7" name="X7">X7. Some mail attachments are hanging
3152 fetchmail.</a></h2>
3153
3154 <p>This isn't fetchmail's problem either; fetchmail doesn't know
3155 anything about mail attachments and doesn't treat them any
3156 differently from plain message data.</p>
3157
3158 <p>The most usual cause of this problem seems to be bugs in your
3159 network transport layer's capability to handle the very large
3160 TCP/IP packets that attachments tend to turn into. You can test
3161 this theory by trying to download the offending message through a
3162 webmail account; using HTTP for the message tends to simulate
3163 large-packet stress rather well, and you will probably find that
3164 the messages that seem to be choking fetchmail will make your HTTP
3165 download speed drop to zero.</p>
3166
3167 <p>This problem can be caused by subtle bugs in the
3168 packet-reassembly layer of your TCP/IP stack; these often don't
3169 manifest at normal packet sizes. It may also be caused by
3170 malfunctioning path-MTU discovery on the mailserver. Or, if there's
3171 a modem in the link, it may be because the attachment contains the
3172 Hayes mode escape "+++".</p>
3173
3174 <hr/>
3175 <h2><a id="X8" name="X8">X8. A spurious ) is being appended to my
3176 messages.</a></h2>
3177
3178 <p>Blame it on that rancid pile of dung and offal called Microsoft
3179 Exchange. Due to the problem described in <a href="#S2">S2</a>, the
3180 IMAP support in fetchmail cannot follow the IMAP protocol 100%.
3181 Most of the time it doesn't matter, but if you combine it with an
3182 SMTP server that behaves unusually, you'll get a spurious ) at
3183 message end.</p>
3184
3185 <p>One piece of software that can trigger this is the Interchange
3186 mail server, as used by, e.g., mailandnews.com. Here's what
3187 happens:</p>
3188
3189 <p>1. Someone sends mail to your account. The last line of the
3190 message contains text. So at the SMTP level, the message ends with,
3191 e.g. "blahblah\r\n.\r\n"</p>
3192
3193 <p>2. The SMTP handler sees the final "\r\n.\r\n" and recognizes
3194 the end of the message. However, instead of doing the normal thing,
3195 which is tossing out the ".\r\n" and leaving the first '\r\n' as
3196 part of the email body, Interchange throws out the whole
3197 "\r\n.\r\n", and leaves the email body without any line terminator
3198 at the end of it. RFC821 does not forbid this, though it probably
3199 should.</p>
3200
3201 <p>3. Fetchmail, or some other IMAP client, asks for the message.
3202 IMAP returns it, but it's enclosed inside parentheses, according to
3203 the protocol. The message size in bytes is also present. Because
3204 the message doesn't end with a line terminator, the IMAP client
3205 sees:</p>
3206
3207 <pre>
3208  
3209  ....blahblah)...
3210 </pre>
3211
3212 <p>where the ')' is from IMAP.</p>
3213
3214 <p>4. Fetchmail only deals with complete lines, and can't trust the
3215 stated message size because Microsoft Exchange fscks it up.</p>
3216
3217 <p>5. As a result, fetchmail takes the final 'blahblah)' and puts
3218 it at the end of the message it forwards on. If you have verbosity
3219 on, you'll get a message about actual != expected.</p>
3220
3221 <p>There is no fix for this. The nuke mentioned in <a
3222 href="#S2">S2</a> looks more tempting all the time.</p>
3223
3224 <hr/>
3225 <h2><a id="O1" name="O1">O1. The --logfile option doesn't work if
3226 the logfile doesn't exist.</a></h2>
3227
3228 <p>This is a feature, not a bug. It's in line with normal practice
3229 for system daemons and allows you to suppress logging by removing
3230 the log, without hacking potentially fragile startup scripts. To
3231 get around it, just touch(1) the logfile before you run fetchmail
3232 (this will have no effect on the contents of the logfile if it
3233 already exists).</p>
3234
3235 <hr/>
3236 <h2><a id="O2" name="O2">O2. Every time I get a POP or IMAP message
3237 the header is dumped to all my terminal sessions.</a></h2>
3238
3239 <p>Fetchmail uses the local sendmail to perform final delivery,
3240 which Netscape and other clients doesn't do; the announcement of
3241 new messages is done by a daemon that sendmail pokes. There should
3242 be a ``biff'' command to control this. Type</p>
3243
3244 <pre>
3245 biff n
3246 </pre>
3247
3248 <p>to turn it off. If this doesn't work, try the command</p>
3249
3250 <pre>
3251 chmod -x `tty`
3252 </pre>
3253
3254 <p>which is essentially what <code>biff -n</code> will do. If this
3255 doesn't work, comment out any reference to ``comsat'' in your
3256 /etc/inetd.conf file and restart inetd.</p>
3257
3258 <p>In Slackware Linux distributions, the last line in /etc/profile
3259 is</p>
3260
3261 <pre>
3262 biff y
3263 </pre>
3264
3265 Change this to 
3266
3267 <pre>
3268 biff n
3269 </pre>
3270
3271 to solve the problem system-wide. 
3272
3273 <hr/>
3274 <h2><a id="O3" name="O3">O3. Does fetchmail reread its rc file
3275 every poll cycle?</a></h2>
3276
3277 <p>No, but versions 5.2.2 and later will notice when you modify
3278 your rc file and restart, reading it.</p>
3279
3280 <hr/>
3281 <h2><a id="O4" name="O4">O4. Why do deleted messages show up again
3282 when I take a line hit while downloading?</a></h2>
3283
3284 <p>Because you're using a POP3 other than Qualcomm qpopper, or an
3285 IMAP with a long expunge interval.</p>
3286
3287 <p>According to the POP3 RFCs, deletes aren't actually performed
3288 until you issue the end-of-session QUIT command. Fetchmail cannot
3289 fix this, because doing it right takes cooperation from the server.
3290 There are two possible remedies:</p>
3291
3292 <p>One is to switch to qpopper (the free POP3 server from Qualcomm,
3293 the Eudora people). The qpopper software violates the POP3 RFCs by
3294 doing an expunge (removing deleted messages) on a line hangup, as
3295 well as on processing a QUIT command.</p>
3296
3297 <p>The other (which we recommend) is to switch to <a
3298 href="http://www.imap.org">IMAP</a>. IMAP has an explicit expunge
3299 command and fetchmail normally uses it to delete messages
3300 immediately after they are downloaded.</p>
3301
3302 <p>If you get very unlucky, you might take a line hit in the window
3303 between the delete and the expunge. If you've set a longer expunge
3304 interval, the window gets wider. This problem should correct itself
3305 the next time you complete a successful query.</p>
3306
3307 <hr/>
3308 <h2><a id="O5" name="O5">O5. Why is fetched mail being logged with
3309 my name, not the real From address?</a></h2>
3310
3311 <p>Because logging is done based on the address indicated by the
3312 sending SMTP's MAIL FROM, and some listeners are picky about that
3313 address.</p>
3314
3315 <p>Some SMTP listeners get upset if you try to hand them a MAIL
3316 FROM address naming a different host than the originating site for
3317 your connection. This is a feature, not a bug -- it's supposed to
3318 help prevent people from forging mail with a bogus origin site.
3319 (RFC 1123 says you shouldn't do this exclusion...)</p>
3320
3321 <p>Since the originating site of a fetchmail delivery connection is
3322 localhost, this effectively means these picky listeners will barf
3323 on any MAIL FROM address fetchmail hands them with an @ in it!</p>
3324
3325 <p>Versions 2.1 and up try the header From address first and fall
3326 back to the calling-user ID. So if your SMTP listener isn't picky,
3327 the log will look right.</p>
3328
3329 <hr/>
3330 <h2><a id="O6" name="O6">O6. I'm seeing long sendmail delays or
3331 hangs near the start of each poll cycle.</a></h2>
3332
3333 <p>Sendmail does a hostname lookup when it first starts up, and
3334 also each time it gets a HELO in listener mode.</p>
3335
3336 <p>Your resolver configuration may be causing one of these lookups
3337 to fail and time out. Check <code>/etc/resolv.conf</code> and
3338 <code>/etc/hosts</code> file. Make sure your hostname and
3339 fully-qualified domain name are both in <code>/etc/hosts</code>,
3340 and that hosts is looked at before DNS is queried. You probably
3341 also want your remote mail server(s) to be in the hosts file.</p>
3342
3343 <p>You can suppress the startup-time lookup if need to by
3344 reconfiguring with <code>FEATURE(nodns)</code>.</p>
3345
3346 <p>Configuring your bind library to cache DNS lookups locally may
3347 help, and is a good idea for speeding up other services as well.
3348 Switching to a faster MTA like qmail or exim might help.</p>
3349
3350 <hr/>
3351 <h2><a id="O7" name="O7">O7. Why doesn't fetchmail deliver mail in
3352 date-sorted order?</a></h2>
3353
3354 <p>Because that's not the order the server hands it to fetchmail
3355 in.</p>
3356
3357 <p>Fetchmail getting mail from a POP server delivers mail in the
3358 order that your server delivers mail. Fetchmail can't do anything
3359 about this; it's a limitation of the underlying POP protocol.</p>
3360
3361 <p>In theory it might be possible for fetchmail in IMAP mode to
3362 sort messages by date, but this would be in violation of two basics
3363 of fetchmail's design philosophy: (a) to be as simple and
3364 transparent a pipe as possible, and (b) to <em>hide</em>, rather
3365 than emphasize, the differences between the remote-fetch protocols
3366 it uses.</p>
3367
3368 <p>Re-ordering messages is a user-agent function, anyway.</p>
3369
3370 <hr/>
3371 <h2><a id="O8" name="O8">O8. I'm using pppd. Why isn't my monitor
3372 option working?</a></h2>
3373
3374 <p>There is a combination of circumstances that can confuse
3375 fetchmail. If you have set up demand dialing with pppd, and pppd
3376 has an idle timeout, and you have lcp-echo-interval set, then the
3377 lcp-echo-interval time must be longer than the pppd idle timeout.
3378 Otherwise it is going keep increasing the packet counters that
3379 fetchmail relies upon, triggering fetchmail into polling after its
3380 own delay interval and thus preventing the pppd link from ever
3381 reaching its inactivity timeout.</p>
3382
3383 <hr/>
3384 <h2><a id="O9" name="O9">O9. Why does fetchmail keep retrieving the
3385 same messages over and over?</a></h2>
3386
3387 <p>First, check to see that you haven't enabled the
3388 <cite>keep</cite> and <cite>fetchall</cite> option. If you have,
3389 turn <cite>keep</cite> off.</p>
3390
3391 <p>There are various forms of lossage involving the POP3 UIDL
3392 feature that can lead to all your old messages being seen again
3393 after a line drop. I have given up trying to fix these, as the UIDL
3394 code breaks worse every time I touch it. The problem is
3395 fundamental; maintaining and garbage-collecting the right kind of
3396 client-side state is just hard. Whoever put UIDLs in RFC1725 and
3397 removed LAST should be hung up by his thumbs and whipped with
3398 scorpions. The right answers are either (a) live with the
3399 occasional breakage, (b) switch to IMAP4, or (c) fix the code
3400 yourself and send me a patch. Unless you choose (c), I don't want
3401 to hear about it.</p>
3402
3403 <p>This can also happen when some other mail client is logged in to
3404 your mail server, if it uses a simple exclusive-locking scheme (and
3405 many, especially most POP3 servers, do exactly that). Your
3406 fetchmail is able to retrieve the messages, but because the mailbox
3407 is write-locked by the other instance yours can neither mark
3408 messages seen or delete them. The solution is to either (a) wait
3409 for the other client to finish, or (b) terminate it.</p>
3410
3411 <p>James Stevens &lt;James.Stevens at kyzo.com&gt; writes:</p>
3412
3413 <p><em>We had a Linux box dialing the Net and collecting mail from
3414 an NT POP3 server. Fetchmail was correctly collecting and deleting
3415 each e-mail one by one. However,the dial-up connection was very
3416 unreliable and would often just drop out in the middle of a
3417 session.</em></p>
3418
3419 <p><em>Interestingly, unless the TCP POP3 connection was terminated
3420 normally (I guess with a POP3 "QUIT" command) NT would then roll
3421 back all the deletes !!!</em></p>
3422
3423 <p><em>This meant if the first e-mail was very large it might just
3424 end up continuously collecting it, basically jamming the queue. Or,
3425 if the queue became very full itmight never get a long enough phone
3426 connection to retrieve the entire mailbox, and NT would roll back
3427 any deletes, so it would end up collecting (and delivering) the
3428 first few e-mails again and again. As the POP3 mailbox became
3429 fuller and fuller the chances of getting a connection long enough
3430 to collect theentire mailbox became smaller and smaller.</em></p>
3431
3432 <p><em>Our solution was to make fetchmail only collect a few (say 5
3433 or 10) e-mails at atime, thus trying to ensure that the POP3
3434 connection is terminated correctly.</em></p>
3435
3436 <p>Unfortunately, this is exactly the way POP3 servers are supposed
3437 to behave on a line drop, according to the RFCs. I recommend
3438 switching to IMAP and using a short expunge interval.</p>
3439
3440 <hr/>
3441 <h2><a id="O10" name="O10">O10. Why is the received date on all my
3442 messages the same?</a></h2>
3443
3444 <p>This is a design choice in your MTA, not fetchmail. It's taking
3445 the received date from the last Received header.</p>
3446
3447 <hr />
3448 <h2><a name="O11">O11. I keep getting messages that say "Repoll
3449 immediately" in my logs.</a></h2>
3450
3451 <p>This is your server barfing on the CAPA probe that fetchmail sends.</p>
3452 If you run fetchmail in daemon mode (say "set daemon 600"), you will
3453 get the message only once per run.</p>
3454
3455 <p>If you set an authentication method explicitly (say, with
3456 <code>auth password</code>), you will never get the message.</p>
3457
3458 <hr />
3459 <h2><a name="O12">O12. Fetchmail no longer expunges mail on a 451 SMTP response.</a></h2>
3460
3461 <p>This is a feature, not a bug.</p>
3462
3463 <p>Any 4xx response (like 451) indicates a transient (temporary) error.
3464 This means that the mail could be accepted if retried later. Lookup
3465 failures are normally transient errors as a mail should not get
3466 rejected if a dns server is unreachable or down.</p>
3467
3468 <p>A permanent reject response is of the form 5xx (like 550).</p>
3469
3470 <p>You could tell your SMTP server to not lookup any addresses if you are
3471 not keen on checking the sender addresses. This problem typically
3472 occurs if your mail server is not checking the sender addresses, but
3473 your local server is.</p>
3474
3475 <p>Or you could declare <code>antispam 451<code></p>
3476
3477 <p>Or, you could check your nameserver configuration and query logs for
3478 dns errors.</p>
3479
3480 <p>All these issues are not related to fetchmail directly.</p>
3481
3482 <hr />
3483 <h2><a name="O13">O13. I want timestamp information in my fetchmail logs.</a></h2>
3484
3485 <p>Write a <code>preconnect</connect> command in your configuration file that
3486 does something like "date >> $HOME/Procmail/fetchmail.log".</p>
3487
3488 <hr/>
3489 <table width="100%" cellpadding="0" summary="Canned page footer">
3490 <tr>
3491 <td width="30%">Back to <a href="index.html">Fetchmail Home
3492 Page</a></td>
3493 <td width="30%" align="center">To <a href="/~esr/sitemap.html">Site
3494 Map</a></td>
3495 <td width="30%" align="right">$Date: 2004/01/13 08:46:00 $</td>
3496 </tr>
3497 </table>
3498
3499 <br clear="left"/>
3500 <address>Eric S. Raymond <a
3501 href="mailto:esr@thyrsus.com">&lt;esr@thyrsus.com&gt;</a></address>
3502
3503 <!--
3504 Local Variables:
3505 compile-command: "(cd ~/WWW; upload fetchmail/fetchmail-FAQ.html)"
3506 End:
3507 -->
3508 </body>
3509 </html>
3510