]> Pileus Git - ~andy/fetchmail/blob - fetchmail-FAQ.html
Add R12 on getaddrinfo errors.
[~andy/fetchmail] / fetchmail-FAQ.html
1 <?xml version="1.0" encoding="ISO-8859-1"?>
2 <!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN"
3     "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd">
4 <html xmlns="http://www.w3.org/1999/xhtml">
5 <head>
6 <title>The Fetchmail FAQ</title>
7 <link rev="made" href="mailto:esr@thyrsus.com"/>
8 <meta name="description"
9 content="Frequently asked questions about fetchmail."/>
10 <meta name="keywords" content="fetchmail, POP, POP2, POP3, IMAP, remote mail"/>
11 </head>
12 <body>
13 <table width="100%" cellpadding="0" summary="Canned page footer">
14 <tr>
15 <td width="30%">Back to <a href="index.html">Fetchmail Home
16 Page</a></td>
17 <td width="30%" align="right">$Date: 2004/01/13 08:46:00 $</td>
18 </tr>
19 </table>
20
21 <hr/>
22 <h1>Frequently Asked Questions About Fetchmail</h1>
23
24 <p>Before reporting any bug, please read <a href="#G3">G3</a> for
25 advice on how to include diagnostic information that will get your
26 bug fixed as quickly as possible.</p>
27
28 <p>If you have a question or answer you think ought to be added to
29 this FAQ list, mail it to fetchmail's maintainer, Eric S. Raymond,
30 at <a href="mailto:esr@thyrsus.com">esr@thyrsus.com</a>.</p>
31
32 <h1>General questions:</h1>
33
34 <a href="#G1">G1. What is fetchmail and why should I bother?</a><br/>
35 <a href="#G2">G2. Where do I find the latest FAQ and fetchmail sources?</a><br/>
36 <a href="#G3">G3. I think I've found a bug. Will you fix it?</a><br/>
37 <a href="#G4">G4. I have this idea for a neat feature. Will you add it?</a><br/>
38 <a href="#G5">G5. I want to make fetchmail behave like Outlook Express.</a><br/>
39 <a href="#G6">G6. Is there a mailing list for exchanging tips?</a><br/>
40 <a href="#G7">G7. So, what's this I hear about a fetchmail paper?</a><br/>
41 <a href="#G8">G8. What is the best server to use with fetchmail?</a><br/>
42 <a href="#G9">G9. What is the best mail program to use with fetchmail?</a><br/>
43 <a href="#G10">G10. How can I avoid sending my password en clair?</a><br/>
44 <a href="#G11">G11. Is any special configuration needed to use a dynamic IP address?</a><br/>
45 <a href="#G12">G12. Is any special configuration needed to use firewalls?</a><br/>
46 <a href="#G13">G13. Is any special configuration needed to <em>send</em> mail?</a><br/>
47 <a href="#G14">G14. Is fetchmail Y2K-compliant?</a><br/>
48 <a href="#G15">G15. Is there a way in fetchmail to support disconnected IMAP mode?</a><br/>
49 <a href="#G16">G16. How will fetchmail perform under heavy loads?</a><br/>
50  
51
52 <h1>Build-time problems:</h1>
53
54 <a href="#B1">B1. Make coughs and dies when building on FreeBSD.</a><br/>
55 <a href="#B2">B2. Lex bombs out while building the fetchmail lexer.</a><br/>
56 <a href="#B3">B3. I get link failures when I try to build fetchmail.</a><br/>
57 <a href="#B4">B4. I get build failures in the intl directory.</a><br/>
58  
59 <h1>Fetchmail configuration file grammar questions:</h1>
60
61 <a href="#F1">F1. Why does my old .fetchmailrc no longer work?</a><br/>
62 <a href="#F2">F2. The .fetchmailrc parser won't accept my all-numeric user name.</a><br/>
63 <a href="#F3">F3. The .fetchmailrc parser won't accept my host or username beginning with 'no'.</a><br/>
64 <a href="#F4">F4. I'm getting a 'parse error' message I don't understand.</a><br/>
65
66 <h1>Configuration questions:</h1>
67
68 <a href="#C1">C1. Why do I need a .fetchmailrc when running as root
69 on my own machine?</a><br/>
70 <a href="#C2">C2. How can I arrange for a fetchmail daemon to get
71 killed when I log out?</a><br/>
72 <a href="#C3">C3. How do I know what interface and address to use
73 with --interface?</a><br/>
74 <a href="#C4">C4. How can I set up support for sendmail's anti-spam
75 features?</a><br/>
76 <a href="#C5">C5. How can I poll some of my mailboxes more/less
77 often than others?</a><br/>
78 <a href="#C6">C6. Fetchmail works OK started up manually, but not
79 from an init script.</a><br/>
80 <a href="#C7">C7. How can I forward mail to another
81 host?.</a><br/>
82  
83
84 <h1>How to make fetchmail play nice with various MTAs:</h1>
85
86 <a href="#T1">T1. How can I use fetchmail with sendmail?</a><br/>
87 <a href="#T2">T2. How can I use fetchmail with qmail?</a><br/>
88 <a href="#T3">T3. How can I use fetchmail with exim?</a><br/>
89 <a href="#T4">T4. How can I use fetchmail with smail?</a><br/>
90 <a href="#T5">T5. How can I use fetchmail with SCO's MMDF?</a><br/>
91 <a href="#T6">T6. How can I use fetchmail with Lotus Notes?</a><br/>
92 <a href="#T7">T7. How can I use fetchmail with Courier IMAP?</a><br/>
93 <a href="#T8">T8. How can I use fetchmail with vbmailshield?</a><br/>
94
95 <h1>How to make fetchmail work with various servers:</h1>
96
97 <a href="#S1">S1. How can I use fetchmail with qpopper?</a><br/>
98 <a href="#S2">S2. How can I use fetchmail with Microsoft Exchange?</a><br/>
99 <a href="#S3">S3. How can I use fetchmail with HP OpenMail?</a><br/>
100 <a href="#S4">S4. How can I use fetchmail with Novell GroupWise?</a><br/>
101 <a href="#S5">S5. How can I use fetchmail with InterChange?</a><br/>
102 <a href="#S6">S6. How can I use fetchmail with MailMax?</a><br/>
103 <a href="#S7">S7. How can I use fetchmail with FTGate?</a><br/>
104
105 <h1>How to fetchmail work with specific ISPs:</h1>
106
107 <a href="#I1">I1. How can I use fetchmail with Compuserve RPA?</a><br/>
108 <a href="#I2">I2. How can I use fetchmail with Demon Internet's SDPS?</a><br/>
109 <a href="#I3">I3. How can I use fetchmail with usa.net's servers?</a><br/>
110 <a href="#I4">I4. How can I use fetchmail with geocities POP3 servers?</a><br/>
111 <a href="#I5">I5. How can I use fetchmail with Hotmail or Lycos Webmail?</a><br/>
112 <a href="#I6">I6. How can I use fetchmail with MSN?</a><br/>
113 <a href="#I7">I7. How can I use fetchmail with SpryNet?</a><br/>
114 <a href="#I8">I8. How can I use fetchmail with comcast.net?</a><br/>
115
116 <h1>How to set up well-known security and authentication
117 methods:</h1>
118
119 <a href="#K1">K1. How can I use fetchmail with SOCKS?</a><br/>
120 <a href="#K2">K2. How can I use fetchmail with IPv6 and IPsec?</a><br/>
121 <a href="#K3">K3. How can I get fetchmail to work with ssh?</a><br/>
122 <a href="#K4">K4. What do I have to do to use the IMAP-GSS protocol?</a><br/>
123 <a href="#K5">K5. How can I use fetchmail with SSL?</a><br/>
124 <a href="#K6">K6. How can I tell fetchmail not to try TLS if the server
125     advertises it?</a><br/>
126
127 <h1>Runtime fatal errors:</h1>
128
129 <a href="#R1">R1. Fetchmail isn't working, and -v shows 'SMTP
130 connect failed' messages.</a><br/>
131 <a href="#R2">R2. When I try to configure an MDA, fetchmail doesn't
132 work.</a><br/>
133 <a href="#R3">R3. Fetchmail dumps core when given an invalid rc
134 file.</a><br/>
135 <a href="#R4">R4. Fetchmail dumps core in -V mode, but operates
136 normally otherwise.</a><br/>
137 <a href="#R5">R5. Running fetchmail in daemon mode doesn't
138 work.</a><br/>
139 <a href="#R6">R6. Fetchmail randomly dies with socket errors.</a><br/>
140 <a href="#R7">R7. Fetchmail running as root stopped working after
141 an OS upgrade</a><br/>
142 <a href="#R8">R8. Fetchmail is timing out after fetching certain
143 messages but before deleting them</a><br/>
144 <a href="#R9">R9. Fetchmail is timing out during message fetches</a><br/>
145 <a href="#R10">R10. Fetchmail is dying with SIGPIPE.</a><br/>
146 <a href="#R11">R11. My server is hanging or emitting errors on CAPA.</a><br/>
147 <a href="#R12">R12. Fetchmail isn't working and reports getaddrinfo
148     errors.</a>
149 <h1>Hangs and lockups:</h1>
150
151 <a href="#H1">H1. Fetchmail hangs when used with pppd.</a><br/>
152 <a href="#H2">H2. Fetchmail hangs during the MAIL FROM
153 exchange.</a><br/>
154 <a href="#H3">H3. Fetchmail hangs while fetching mail.</a><br/>
155  
156
157 <h1>Disappearing mail:</h1>
158
159 <a href="#D1">D1. I think I've set up fetchmail correctly, but I'm
160 not getting any mail.</a><br/>
161 <a href="#D2">D2. All my mail seems to disappear after a dropped
162 connection.</a><br/>
163 <a href="#D3">D3. Mail that was being fetched when I interrupted my
164 fetchmail seems to have been vanished.</a><br/>
165  
166
167 <h1>Multidrop-mode problems:</h1>
168
169 <a href="#M1">M1. I've declared local names, but all my multidrop
170 mail is going to root anyway.</a><br/>
171 <a href="#M2">M2. I can't seem to get fetchmail to route to a local
172 domain properly.</a><br/>
173 <a href="#M3">M3. I tried to run a mailing list using multidrop,
174 and I have a mail loop!</a><br/>
175 <a href="#M4">M4. My multidrop fetchmail seems to be having DNS
176 problems.</a><br/>
177 <a href="#M5">M5. I'm seeing long DNS delays before each message is
178 processed.</a><br/>
179 <a href="#M6">M6. How do I get multidrop mode to work with
180 majordomo?</a><br/>
181 <a href="#M7">M7. Multidrop mode isn't parsing envelope addresses
182 from my Received headers as it should.</a><br/>
183 <a href="#M8">M8. Users are getting multiple copies of
184 messages.</a><br/>
185  
186
187 <h1>Mangled mail:</h1>
188
189 <a href="#X1">X1. Spurious blank lines are appearing in the headers
190 of fetched mail.</a><br/>
191 <a href="#X2">X2. My mail client can't see a Subject
192 line.</a><br/>
193 <a href="#X3">X3. Messages containing "From" at start of line are
194 being split.</a><br/>
195 <a href="#X4">X4. My mail is being mangled in a new and different
196 way.</a><br/>
197 <a href="#X5">X5. Using POP3, retrievals seems to be fetching too
198 much!</a><br/>
199 <a href="#X6">X6. My mail attachments are being dropped or
200 mangled.</a><br/>
201 <a href="#X7">X7. Some mail attachments are hanging
202 fetchmail.</a><br/>
203 <a href="#X8">X8. A spurious ) is being appended to my
204 messages.</a><br/> 
205
206 <h1>Other problems:</h1>
207
208 <a href="#O1">O1. The --logfile option doesn't work if the logfile
209 doesn't exist.</a><br/>
210 <a href="#O2">O2. Every time I get a POP or IMAP message the header
211 is dumped to all my terminal sessions.</a><br/>
212 <a href="#O3">O3. Does fetchmail reread its rc file every poll
213 cycle?</a><br/>
214 <a href="#O4">O4. Why do deleted messages show up again when I take
215 a line hit while downloading?</a><br/>
216 <a href="#O5">O5. Why is fetched mail being logged with my name,
217 not the real From address?</a><br/>
218 <a href="#O6">O6. I'm seeing long sendmail delays or hangs near the
219 start of each poll cycle.</a><br/>
220 <a href="#O7">O7. Why doesn't fetchmail deliver mail in date-sorted
221 order?</a><br/>
222 <a href="#O8">O8. I'm using pppd. Why isn't my monitor option
223 working?</a><br/>
224 <a href="#O9">O9. Why does fetchmail keep retrieving the same
225 messages over and over?</a><br/>
226 <a href="#O10">O10. Why is the received date on all my messages the
227 same?</a><br/>
228 <a href="#O11">O11. I keep getting messages that say "Repoll
229 immediately" in my logs.</a><br/>
230 <a href="#O12">O12. Fetchmail no longer expunges mail on a 451 SMTP response.</a><br/>
231 <a href="#O13">O13. I want timestamp information in my fetchmail logs.</a>
232
233 <h1>Answers:</h1>
234
235 <hr/>
236 <h2><a id="G1" name="G1">G1. What is fetchmail and why should I
237 bother?</a></h2>
238
239 <p>Fetchmail is a one-stop solution to the remote mail retrieval
240 problem for Unix machines, quite useful to anyone with an
241 intermittent PPP or SLIP connection to a remote mailserver. It can
242 collect mail using any variant of POP or IMAP and forwards via port
243 25 to the local SMTP listener, enabling all the normal
244 forwarding/filtering/aliasing mechanisms that would apply to local
245 mail or mail arriving via a full-time TCP/IP connection.</p>
246
247 <p>Fetchmail is not a toy or a coder's learning exercise, but an
248 industrial-strength tool capable of transparently handling every
249 retrieval demand from those of a simple single-user ISP connection
250 up to mail retrieval and rerouting for an entire client domain.
251 Fetchmail is easy to configure, unobtrusive in operation, powerful,
252 feature-rich, and well documented.</p>
253
254 <p>Fetchmail is <a href="http://www.opensource.org">open-source</a>
255 software. The openness of the sources is the strongest assurance of
256 quality you can have. Extensive peer review by a large,
257 multi-platform user community has shown that fetchmail is as near
258 bulletproof as the underlying protocols permit.</p>
259
260 <p>Fetchmail is licensed under the <a
261 href="http://gnu.org//copyleft/gpl.html">GNU General Public
262 License</a>.</p>
263
264 <p>If you found this FAQ in the distribution, see the README for
265 fetchmail's full feature list.</p>
266
267 <hr/>
268 <h2><a id="G2" name="G2">G2. Where do I find the latest FAQ and
269 fetchmail sources?</a></h2>
270
271 <p>The latest HTML FAQ is available alongside the latest fetchmail
272 sources at the fetchmail home page: <a
273 href="http://fetchmail.berlios.de/">http://fetchmail.berlios.de/</a>.
274 You can also usually find both in the <a
275 href="http://sunsite.unc.edu/pub/Linux/system/mail/pop/!INDEX.html">
276 POP mail tools directory on Sunsite</a>.</p>
277
278 <p>A text dump of this FAQ is included in the fetchmail
279 distribution. Because it freezes at distribution release time, it
280 may not be completely current.</p>
281
282 <hr/>
283 <h2><a id="G3" name="G3">G3. I think I've found a bug. Will you fix
284 it?</a></h2>
285
286 <p>Yes I will, provided you include enough diagnostic information
287 for me to go on. Send bugs to <a
288 href="mailto:fetchmail-friends@ccil.org">fetchmail-friends</a>.
289 When reporting bugs, please include the following:</p>
290
291 <ol>
292 <li>Your operating system.</li>
293
294 <li>Your compiler version, if you built from source; otherwise, the
295 name and origin of the RPM or other binary package you
296 installed.</li>
297
298 <li>A copy of your POP or IMAP server's greeting line.</li>
299
300 <li>The name and version of the SMTP listener or MDA you are
301 forwarding to.</li>
302
303 <li>Any command-line options you used.</li>
304
305 <li>The output of fetchmail -V called with whatever other
306 command-line options you used.</li>
307 </ol>
308
309 <p>If you have FTP access to your remote mail account, and you have
310 any suspicion that the bug was triggered by a particular message,
311 please include a copy of the message that triggered the bug.</p>
312
313 <p>Often, the first thing I will do when you report a bug is tell
314 you to upgrade to the newest version of fetchmail, and then see if
315 the problem reproduces. So you'll probably save us both time if you
316 upgrade and test with the latest version <em>before</em> sending in
317 a bug report.</p>
318
319 <p>If your bug is something that used to work but stopped working
320 when you upgraded, then you can help pin the bug down by trying <a
321 href="ftp://ftp.ccil.org/pub/esr/fetchmail/">intermediate versions
322 of fetchmail</a> until you identify the revision that broke your
323 feature. The smart way to do this is by binary search on the
324 version sequence. First, try the version halfway between your last
325 good one and the current one. If it works, the failure was
326 introduced in the upper half of the sequence; if it doesn't, the
327 failure was introduced in the lower half. Now bisect that half in
328 the same way. In a very few tries, you should be able to identify
329 the exact adjacent pair of versions between which your bug was
330 introduced -- and with information like that, I can usually come up
331 with a fix very quickly.</p>
332
333 <p>Another useful thing you can do, if you're using POP3, is to
334 test for IMAP4 support on your mailserver using the autoprobe
335 function of fetchmailconf. If you have IMAP4, and fetchmailconf
336 doesn't tell you it's broken, switch immediately. POP3 is a weak,
337 poorly-designed protocol with chronic problems, and the later
338 versions after RFC1725 actually get worse rather than better.
339 Changing over to IMAP4 may well make your problem go away -- and if
340 your ISP doesn't have IMAP4 support, bug them to supply it.</p>
341
342 <p>It is helpful if you include your .fetchmailrc file, but not
343 necessary unless your symptom seems to involve an error in
344 configuration parsing. If you do send in your .fetchmailrc, mask
345 the passwords first!</p>
346
347 <p>If fetchmail seems to run and fetch mail, but the headers look
348 mangled (that is, headers are missing or blank lines are inserted
349 in the headers) then read the FAQ items in section <a
350 href="#X1">X</a> before submitting a bug report. Pay special
351 attention to the item on <a href="#generic_mangling">diagnosing
352 mail mangling</a>. There are lots of ways for other programs in the
353 mail chain to screw up that look like fetchmail's fault, but you
354 may be able to fix these by tweaking your configuration.</p>
355
356 <p>A transcript of the failed session with -v -v (yes, that's
357 <em>two</em> -v options, enabling debug mode) will almost always be
358 useful. It is very important that the transcript include your
359 POP/IMAP server's greeting line, so I can identify it in case of
360 server problems. This transcript will not reveal your passwords,
361 which are specially masked out precisely so transcripts can be
362 passed around.</p>
363
364 <p>If you upgraded your fetchmail and something broke, you should
365 include session transcripts with -v -v of both the working and
366 failing versions. Very often, the source of the problem can
367 instantly identified by looking at the differences in protocol
368 transactions.</p>
369
370 <p>If the bug involves a core dump or hang, a gdb stack trace is
371 good to have. (Bear in mind that you can attach gdb to a running
372 but hung process by giving the process ID as a second argument.)
373 You will need to reconfigure with:</p>
374
375 <pre>
376 CFLAGS=-g LDFLAGS=" " ./configure
377 </pre>
378
379 <p>Then rebuild in order to generate a version that can be
380 gdb-traced.</p>
381
382 <p>Best of all is a mail file which, when fetched, will reproduce
383 the bug under the latest (current) version.</p>
384
385 <p>Any bug I can reproduce will usually get fixed very quickly,
386 often within 48 hours. Bugs I can't reproduce are a crapshoot. If
387 the solution isn't obvious when I first look, it may evade me for a
388 long time (or to put it another way, fetchmail is well enough
389 tested that the easy bugs have long since been found). So if you
390 want your bug fixed rapidly, it is not just sufficient but nearly
391 <em>necessary</em> that you give me a way to reproduce it.</p>
392
393 <hr/>
394 <h2><a id="G4" name="G4">G4. I have this idea for a neat feature.
395 Will you add it?</a></h2>
396
397 <p>Probably not. Most of the feature suggestions I get are for ways
398 to set various kinds of administrative policy or add more spam
399 filtering (the most common one, which I used to get about four
400 million times a week and got <em>really</em> tired of, is for
401 tin-like kill files).</p>
402
403 <p>You can do spam filtering better with procmail or maildrop on
404 the server side and (if you're the server sysadmin) sendmail.cf
405 domain exclusions. If you really want fetchmail to do it from the
406 client side, yse a <code>preconnect</code> command to call
407 <a href='http://mailfilter.sourceforge.net/'>mailfilter</a>.</p>
408
409 <p>You can do other policy things better with the
410 <code>mda</code> option and script wrappers around fetchmail. If
411 it's a prime-time-vs.-non-prime-time issue, ask yourself whether a
412 wrapper script called from crontab would do the job.</p>
413
414 <p>I'm not going to do these; fetchmail's job is transport, not
415 policy, and I refuse to change it from doing one thing well to
416 attempting many things badly. One of my objectives is to keep
417 fetchmail simple so it stays reliable.</p>
418
419 <p>For reasons fetchmail doesn't have other commonly-requested
420 features (such as password encryption, or multiple concurrent polls
421 from the same instance of fetchmail) see <a
422 href="esrs-design-notes.html">ESR's design
423 notes</a>. Note that this document is partially obsoleted by the 
424 <a href="design-notes.html">updated design notes.</a></p>
425
426 <p>Fetchmail is a mature project, no longer in constant active
427 development. It is no longer my top project, and I am going to be
428 quite reluctant to add features that might either jeopardize its
429 stability or involve me in large amounts of coding.</p>
430
431 <p>All that said, if you have a feature idea that really is about a
432 transport problem that can't be handled anywhere but fetchmail, lay
433 it on me. I'm very accommodating about good ideas.</p>
434
435 <hr/>
436 <h2><a id="G5" name="G5">G5. I want to make fetchmail behave like
437 Outlook Express.</a></h2>
438
439 <p>The second-most-requested feature for fetchmail, after
440 content-based filtering, is the ability to have it remove messages
441 from a maildrop after N days, typically to be used with the
442 <code>keep</code> option as a sort of poor man's newsgroup
443 facility. Microsoft's Outlook Express supports this.</p>
444
445 <p>This feature won't be added either. Repeat after me: fetchmail's
446 job is transport, not policy. If you want this, write a Perl or
447 Python script, to be run from a cron job, that deletes old messages
448 off your maildrop. Send it to me and I'll put it in the contrib
449 directory.</p>
450
451 <hr/>
452 <h2><a id="G6" name="G6">G6. Is there a mailing list for exchanging
453 tips?</a></h2>
454
455 <p>There is a fetchmail-friends list
456 (fetchmail-friends@lists.ccil.org) for people who want to discuss
457 fixes and improvements in fetchmail and help co-develop it. It's a
458 MailMan list, which you can sign up for at <a
459 href="http://lists.ccil.org/mailman/listinfo/fetchmail-friends">http://lists.ccil.org/mailman/listinfo/fetchmail-friends</a>.
460 There is also an announcements-only list,
461 fetchmail-announce@lists.ccil.org, which you can sign up for at <a
462 href="http://lists.ccil.org/mailman/listinfo/fetchmail-announce">http://lists.ccil.org/mailman/listinfo/fetchmail-announce</a>.</p>
463
464 <hr/>
465 <h2><a id="G7" name="G7">G7. So, what's this I hear about a
466 fetchmail paper?</a></h2>
467
468 <p>The fetchmail development was also a sociological experiment, an
469 extended test to see if my theory about the critical features of
470 the Linux development model is correct.</p>
471
472 <p>The experiment was a success. I wrote a paper about it titled <a
473 href="http://www.catb.org/~esr/writings/cathedral.html">The
474 Cathedral and the Bazaar</a> which was first presented at Linux
475 Kongress '97 in Bavaria and very well received there. It was also
476 given at Atlanta Linux Expo, Linux Pro '97 in Warsaw, and the first
477 Perl Conference, at UniForum '98, and was the basis of an invited
478 presentation at Usenix '98. The folks at Netscape tell me it helped
479 them decide to <a
480 href="http://www.netscape.com/newsref/pr/newsrelease558.html">give
481 away the source for Netscape Communicator</a>.</p>
482
483 <p>If you're reading a non-HTML dump of this FAQ, you can find the
484 paper on the Web with a search for that title.</p>
485
486 <hr/>
487 <h2><a id="G8" name="G8">G8. What is the best server to use with
488 fetchmail?</a></h2>
489
490 <p>The short answer: IMAP 2000 running over Unix.</p>
491
492 <p>Here's a longer answer:</p>
493
494 <p>Fetchmail will work with any POP, IMAP, ETRN, or ODMR server
495 that conforms to the relevant RFCs (and even some outright broken
496 ones like <a href="#S2">Microsoft Exchange</a> and <a
497 href="#S6">Novell GroupWise</a>). This doesn't mean it works
498 equally well with all, however. POP2 servers, and POP3 servers
499 without LAST, limit fetchmail's capabilities in various ways
500 described on the manual page.</p>
501
502 <p>Most modern Unixes (and effectively all Linux/*BSD systems) come
503 with POP3 support preconfigured (but beware of the horribly broken
504 POP3 server mentioned in <a href="#D2">D2</a>). An increasing
505 minority also feature IMAP (you can detect IMAP support by running
506 fetchmail in AUTO mode, or by using the 'Probe for supported
507 protocols' function in the fetchmailconf utility).</p>
508
509 <p>If you have the option, we recommend using or installing an
510 IMAP4rev1 server; it has the best facilities for tracking message
511 'seen' states. It also recovers from interrupted connections more
512 gracefully than POP3, and enables some significant performance
513 optimizations. The new <a
514 href="ftp://ftp.cac.washington.edu/imap/imap.tar.Z">IMAP 2000</a>
515 is particularly nice, as it supports CRAM-MD5 so you don't have to
516 ship your mail password over the net en clair (fetchmail
517 autodetects this capability). Older versions had support for GSSAPI
518 giving a similar effect.</p>
519
520 <p>Don't be fooled by NT/Exchange propaganda. M$ Exchange is just
521 plain broken (see item <a href="#S2">S2</a>) and NT cannot handle
522 the sustained load of a high-volume remote mail server. Even
523 Microsoft itself knows better than to try this; their own Hotmail
524 service runs over Solaris! For extended discussion, see John
525 Kirch's excellent <a href="http://unix-vs-nt.org/kirch/">white
526 paper</a> on Unix vs. NT performance.</p>
527
528 <p>Source for a high-quality supported implementation of POP is
529 available from the <a
530 href="ftp://ftp.qualcomm.com/eudora/servers/unix/popper/">Eudora
531 FTP site</a>. Don't use 2.5, which has a rather restrictive
532 license. The 2.5.2 version appears to restore the open-source
533 license of previous versions.</p>
534
535 <hr/>
536 <h2><a id="G9" name="G9">G9. What is the best mail program to use
537 with fetchmail?</a></h2>
538
539 <p>Fetchmail will work with all popular <a href="#T1">mail
540 transport programs</a>. It also doesn't care which user agent you
541 use, and user agents are as a rule almost equally indifferent to
542 how mail is delivered into your system mailbox. So any of the
543 popular Unix mail agents -- <a
544 href="http://www.myxa.com/old/elm.html">elm</a>, <a
545 href="http://www.washington.edu/pine/">pine</a>, <a
546 href="http://www.cs.indiana.edu/docproject/mail/mh.html">mh</a>, or
547 <a href="http://www.mutt.org">mutt</a> -- will work fine with
548 fetchmail.</p>
549
550 <p>All this having been said, I can't resist putting in a discreet
551 plug for <a href="http://www.mutt.org">mutt</a>. My own personal
552 mail setup is sendmail plus fetchmail plus mutt. Mutt's interface
553 is only a little different from that of its now-moribund ancestor
554 elm, but its excellent handling of MIME and PGP put it in a class
555 by itself. You won't need its built-in POP3 support, though; most
556 of the mutt developers will cheerfully admit that fetchmail's is
557 better :-).</p>
558
559 <hr/>
560 <h2><a id="G10" name="G10">G10. How can I avoid sending my password
561 en clair?</a></h2>
562
563 <p>Depending on what your mail server you are talking to, this
564 ranges from trivial to impossible. It may even be next to
565 useless.</p>
566
567 <p>Most people use fetchmail over phone wires (whether plain old
568 copper or DSL), which are hard to tap. Anybody with the skill and
569 resources to do this could get into your server mailbox with much less
570 effort by subverting the server host. So if your provider setup is
571 phone-company wire going straight into a service box, you probably
572 don't need to worry.</p>
573
574 <p>In general there is little point in trying to secure your fetchmail
575 transaction unless you trust the security of the server host you are
576 retrieving mail from. Your vulnerability is more likely to be an
577 insecure local network on the server end (e.g. to somebody with a
578 TCP/IP packet sniffer intercepting Ethernet traffic between the modem
579 concentrator or DSL POP you dial in to and the mailserver host).</p>
580
581 <p>Having realized this, you need to ask whether password
582 encryption alone will really address your security exposure. If you
583 think you might be snooped between server and client, it's better
584 to use end-to-end encryption on your whole mail stream so none of
585 it can be read. One of the advantages of fetchmail over
586 conventional SMTP-push delivery is that you may be able to arrange
587 this by using ssh(1); see <a href="#K3">K3</a>.</p>
588
589 <p>Note that ssh is not a complete privacy solution either, as your
590 mail could have been snooped in transit to your POP server from
591 wherever it originated. For best security, agree with your
592 correspondents to use a tool such as <a
593 href="http://www.gnupg.org/">GPG</a> (Gnu Privacy Guard) or PGP
594 (Pretty Good Privacy).</p>
595
596 <p>If ssh/sshd isn't available, or you find it too complicated for
597 you to set up, password encryption will at least keep a malicious
598 cracker from deleting your mail, and require him to either tap your
599 connection continuously or crack root on the server in order to
600 read it.</p>
601
602 <p>You can deduce what encryptions your mail server has available
603 by looking at the server greeting line (and, for IMAP, the response
604 to a CAPABILITY query). Do a <code>fetchmail -v</code> to see
605 these, or telnet direct to the server port (110 for POP3, 143 for
606 IMAP).</p>
607
608 <p>If your mailserver is using IMAP 2000, you'll have CRAM-MD5
609 support built in. Fetchmail autodetects this; you can skip the rest
610 of this section.</p>
611
612 <p>The POP3 facility you are most likely to have available is APOP.
613 This is a POP3 feature supported by many servers (fetchmailconf's
614 autoprobe facility will detect it and tell you if you have it). If
615 you see something in the greeting line that looks like an
616 angle-bracket-enclosed Internet address with a numeric left-hand
617 part, that's an APOP challenge (it will vary each time you log in).
618 You can register a secret on the host (using
619 <code>popauth(8)</code> or some program like it). Specify the
620 secret as your password in your .fetchmailrc; it will be used to
621 encrypt the current challenge, and the encrypted form will be sent
622 back the the server for verification.</p>
623
624 <p>Alternatively, you may have Kerberos available. This may require
625 you to set up some magic files in your home directory on your
626 client machine, but means you can omit specifying any password at
627 all.</p>
628
629 <p>Fetchmail supports two different Kerberos schemes. One is a POP3
630 variant called KPOP; consult the documentation of your mail server
631 to see if you have it (one clue is the string "krb-IV" in the
632 greeting line on port 110). The other is an IMAP and POP3 facility
633 described by RFC1731 and RFC1734. You can tell if this one is
634 present by looking for AUTH=KERBEROS_V4 in the CAPABILITY
635 response.</p>
636
637 <p>If you are fetching mail from a CompuServe POP3 account, you can
638 use their RPA authentication (which works much like APOP). See <a
639 href="#I1">I1</a> for details. If you are fetching mail from
640 Microsoft Exchange using IMAP, you will be able to use NTLM.</p>
641
642 <p>Your POP3 server may have the RFC1938 OTP capability to use
643 one-time passwords (if it doesn't, you can get OTP patches for the
644 2.2 version of the Qualcomm popper from <a href="#cmetz">Craig
645 Metz</a>). To check this, look for the string "otp-" in the
646 greeting line. If you see it, and your fetchmail was built with
647 OPIE support compiled in (see the distribution INSTALL file),
648 fetchmail will detect it also. When using OTP, you will specify a
649 password but it will not be sent en clair.</p>
650
651 <p>You can get both POP3 and IMAP OTP patches from <a id="cmetz"
652 name="cmetz">Craig Metz</a> at <a
653 href="http://www.inner.net/opie">http://www.inner.net/opie</a>.</p>
654
655 <p>These patches use a SASL authentication method named "X-OTP"
656 because there is not currently a standard way to do this; fetchmail
657 also uses this method, so the two will interoperate happily. They
658 better, because this is how Craig gets his mail ;-)</p>
659
660 <p>Finally, you can use <a href="#K5">SSL</a> for complete
661 end-to-end encryption if you have an SSL-enabled mailserver.</p>
662
663 <hr/>
664 <h2><a id="G11" name="G11">G11. Is any special configuration needed
665 to use a dynamic IP address?</a></h2>
666
667 <p>Yes. In order to avoid giving indigestion to certain picky MTAs
668 (notably <a href="#T3">exim</a>), fetchmail always makes the RCPT
669 TO address it feeds the MTA a fully qualified one with a hostname
670 part. Normally it does this by appending @ and "localhost", but
671 when you are using Kerberos or ETRN mode it will append @ and your
672 machine's fully-qualified domain name (FQDN).</p>
673
674 <p>Appending the FQDN can create problems when fetchmail is running
675 in daemon mode and outlasts the dynamic IP address assignment your
676 client machine had when it started up.</p>
677
678 <p>Since the new IP address (looked up at RCPT TO interpretation
679 time) doesn't match the original, the most benign possible result
680 is that your MTA thinks it's seeing a relaying attempt and refuses.
681 More frequently, fetchmail will try to connect to a nonexistent
682 host address and time out. Worst case, you could up forwarding your
683 mail to the wrong machine!</p>
684
685 <p>Use the <code>smtpaddress</code> option to force the appended
686 hostname to one with a (fixed) IP address of 127.0.0.1 in your
687 <code>/etc/hosts</code>. (The name 'localhost' will usually work;
688 or you can use the IP address itself).</p>
689
690 <p>Only one fetchmail option interacts directly with your IP
691 address, '<code>interface</code>'. This option can be used to set
692 the gateway device and restrict the IP address range fetchmail will
693 use. Such a restriction is sometimes useful for security reasons,
694 especially on multihomed sites. See <a href="#C3">C3</a>.</p>
695
696 <p>I recommend against trying to set up the <code>interface</code>
697 option when initially developing your poll configuration -- it's
698 never necessary to do this just to get a link working. Get the link
699 working first, observe the actual address range you see on
700 connections, and add an <code>interface</code> option (if you need
701 one) later.</p>
702
703 <p>You can't use ETRN if you have a dynamic IP address (your ISP
704 changes your IP address occasionally, possibly with every connect).
705 You need to have your own registered domain and a definite IP
706 address registered for that domain. The server needs to be
707 configured to accept mail for your domain but then queue it to
708 forward to your machine. ETRN just tells to server to flush its
709 queue for your domain. Fetchmail doesn't actually get the mail in
710 that case.</p>
711
712 <p>You can use On-Demand Mail Relay (ODMR) with a dynamic IP
713 address; that's what it was designed for, and it provides
714 capabilities very similar to ETRN. Unfortunately ODMR servers are
715 not yet widely deployed, as of early 2001.</p>
716
717 <p>If you're using a dynamic-IP configuration, one other
718 (non-fetchmail) problem you may run into with outgoing mail is that
719 some sites will bounce your email because the hostname your giving
720 them isn't real (and doesn't match what they get doing a reverse
721 DNS on your dynamically-assigned IP address). If this happens, you
722 need to hack your sendmail so it masquerades as your host.
723 Setting</p>
724
725 <pre>
726 DMsmarthost.here
727 </pre>
728
729 <p>in your <code>sendmail.cf</code> will work, or you can set</p>
730
731 <pre>
732 MASQUERADE_AS(smarthost.here)
733 </pre>
734
735 <p>in the m4 configuration and do a reconfigure. (In both cases,
736 replace <code>smarthost.here</code> with the actual name of your
737 mailhost.) See the <a
738 href="http://www.lege.com/sendmail-FAQ.txt">sendmail FAQ</a> for
739 more details.</p>
740
741 <hr/>
742 <h2><a id="G12" name="G12">G12. Is any special configuration needed
743 to use firewalls?</a></h2>
744
745 <p>No. You can use fetchmail with SOCKS, the standard tool for
746 indirecting TCP/IP through a firewall. You can find out about
747 SOCKS, and download the SOCKS software including server and client
748 code, at the <a href="http://www.socks.nec.com/">SOCKS distribution
749 site</a>.</p>
750
751 <p>The specific recipe for using fetchmail with a firewall is at <a
752 href="#K1">K1</a></p>
753
754 <hr/>
755 <h2><a id="G13" name="G13">G13. Is any special configuration needed
756 to <em>send</em> mail?</a></h2>
757
758 <p>A user asks: but how do we send mail out to the POP3 server? Do
759 I need to implement another tool or will fetchmail do this too?</p>
760
761 <p>Fetchmail only handles the receiving side. The sendmail or other
762 preinstalled MTA on your client machine will handle sending mail
763 automatically; it will ship mail that is submitted while the
764 connection is active, and put mail that is submitted while the
765 connection is inactive into the outgoing queue.</p>
766
767 <p>Normally, sendmail is also run periodically (every 15 minutes on
768 most Linux systems) in a mode that tries to ship all the mail in
769 the outgoing queue. If you have set up something like pppd to
770 automatically dial out when your kernel is called to open a TCP/IP
771 connection, this will ensure that the mail gets out.</p>
772
773 <hr/>
774 <h2><a id="G14" name="G14">G14. Is fetchmail
775 Y2K-compliant?</a></h2>
776
777 <p>Fetchmail is fully Y2K-compliant.</p>
778
779 <p>Fetchmail could theoretically have problems when the 32-bit
780 time_t counters roll over in 2038, but I doubt it. Timestamps
781 aren't used for anything but log entry generation. Anyway, if you
782 aren't running on a 64-bit machine by then, you'll deserve to
783 lose.</p>
784
785 <hr/>
786 <h2><a id="G15" name="G15">G15. Is there a way in fetchmail to
787 support disconnected IMAP mode?</a></h2>
788
789 <p>No. Fetchmail is a mail transport agent, best understood as a
790 protocol gateway between POP3/IMAP servers and SMTP. Disconnected
791 operation requires an elaborate interactive client. It's a very
792 different problem.</p>
793
794 <hr/>
795 <h2><a id="G16" name="G16">G16. How will fetchmail perform under
796 heavy loads?</a></h2>
797
798 <p>Fetchmail streams message bodies line-by-line; the most core it
799 ever requires per message is enough memory to hold the RFC822
800 header, and that storage is freed when body processing begins. It
801 is, accordingly, quite economical in its use of memory.</p>
802
803 <p>After startup time, a fetchmail running in daemon mode stats its
804 configuration file once per poll cycle to see whether it has
805 changed and should be rescanned. Other than that, a fetchmail in
806 normal operation doesn't touch the disk at all; that job is left up
807 to the MTA or MDA the fetchmail talks to.</p>
808
809 <p>Fetchmail's performance is usually bottlenecked by latency on
810 the POP server or (less often) on the TCP/IP link to the server.
811 This is not a problem readily solved by tuning fetchmail, or even
812 by buying more TCP/IP capacity (which tends to improve bandwidth
813 but not necessarily latency).</p>
814
815 <hr/>
816 <h2><a id="B1" name="B1">B1. Make coughs and dies when building on
817 FreeBSD.</a></h2>
818
819 <p>The vendor-supplied make on FreeBSD systems can only be used
820 within FreeBSD's "scope", e.g. the ports collection. Type "gmake"
821 to run GNU make and better things will happen.</p>
822
823 <hr/>
824 <h2><a id="B2" name="B2">B2. Lex bombs out while building the
825 fetchmail lexer.</a></h2>
826
827 <p>In the immortal words of Alan Cox the last time this came up:
828 "Take the Solaris lex and stick it up the backside of a passing
829 Sun salesman, then install <a
830 href="ftp://ftp.gnu.org/pub/non-gnu/flex/">flex</a> and use that.
831 All will be happier."</p>
832
833 <p>I couldn't have put it better myself, and ain't going to try
834 now.</p>
835
836 <p>(The same problem has been reported under HP-UX v10.20 and
837 IRIX)</p>
838
839 <hr/>
840 <h2><a id="B3" name="B3">B3. I get link failures when I try to
841 build fetchmail.</a></h2>
842
843 <p>If you get errors resembling these</p>
844
845 <pre>
846 mxget.o(.text+0x35): undefined referenceto '__res_search'
847 mxget.o(.text+0x99): undefined reference to '__dn_skipname'
848 mxget.o(.text+0x11c): undefined reference to '__dn_expand'
849 mxget.o(.text+0x187): undefined reference to '__dn_expand'
850 make: *** [fetchmail] Error 1
851 </pre>
852
853 <p>then you must add "-lresolv" to the LOADLIBS line in your
854 Makefile once you have installed the 'bind' package.</p>
855
856 <p>If you get link errors involving <tt>dcgettext</tt>, like
857 this:</p>
858
859 <pre>
860 rcfile_y.o: In function 'yyparse':
861 rcfile_y.o(.text+0x3aa): undefined reference to 'dcgettext__'
862 rcfile_y.o(.text+0x4f2): undefined reference to 'dcgettext__'
863 rcfile_y.o(.text+0x5ee): undefined reference to 'dcgettext__'
864 rcfile_y.o: In function 'yyerror':
865 rcfile_y.o(.text+0xc7c): undefined reference to 'dcgettext__'
866 rcfile_y.o(.text+0xcc8): undefined reference to 'dcgettext__'
867 rcfile_y.o(.text+0xdf9): more undefined references to 'dcgettext__' follow
868 </pre>
869
870 <p>reconfigure with <tt>configure --with-included-gettext</tt>.
871 This is due to some brain-damage in the GNU internationalization
872 libraries.</p>
873
874 <hr/>
875 <h2><a id="B4" name="B4">B4. I get build failures in the intl
876 directory.</a></h2>
877
878 <p>Reconfigure with <tt>--disable-nls</tt> and recompile.</p>
879
880 <p>GNU gettext is an overengineered, fragile pile of crap. I have
881 teetered on the brink of removing support for it entirely several
882 times.</p>
883
884 <hr/>
885 <h2><a id="F1" name="F1">F1. Why does my old .fetchmailrc file no
886 longer work?</a></h2>
887
888 <h3>If your file predates 5.8.9</h3>
889
890 <p>If you were using ETRN mode, change your <tt>smtphost</tt>
891 option to a <tt>fetchdomains</tt> option.</p>
892
893 <h3>If your file predates 5.8.3</h3>
894
895 <p>The 'via localhost' special case for use with ssh tunnelling is
896 gone. Use the %h feature of <tt>plugin</tt> instead.</p>
897
898 <h3>If your file predates 5.6.8</h3>
899
900 <p>In 5.6.8, the <tt>preauth</tt> keyword and option were changed
901 back to <tt>auth</tt>. The <tt>preauth</tt> synonym will still be
902 supported through a few more point releases.</p>
903
904 <h3>If your file predates 5.6.5</h3>
905
906 <p>The <tt>imap-gss</tt>, <tt>imap-k4</tt>, and <tt>imap-login</tt>
907 protocol types are gone. This is a result of a major re-factoring
908 of the authentication machinery; fetchmail can now use Kerberos V4
909 and GSSAPI not just with IMAP but with POP3 servers that have
910 RFC1734 support for the AUTH command.</p>
911
912 <p>When trying to identify you to an IMAP or POP mailserver,
913 fetchmail now first tries methods that don't require a password
914 (GSSAPI, KERBEROS_IV); then it looks for methods that mask your
915 password (CRAM-MD5, X-OTP); and only if it the server doesn't
916 support any of those will it ship your password en clair.</p>
917
918 <p>Setting the <tt>preauth</tt> option to any value other than
919 'password' will prevent from looking for a password in your
920 <tt>.netrc</tt> file or querying for it at startup time.</p>
921
922 <h3>If your file predates 5.1.0</h3>
923
924 <p>In 5.1.0, the <tt>auth</tt> keyword and option were changed to
925 <tt>preauth</tt>.</p>
926
927 <h3>If your file predates 4.5.5</h3>
928
929 <p>If the <code>dns</code> option is on (the default), you may need
930 to make sure that any hostname you specify (for mail hosts or for
931 an SMTP target) is a canonical fully-qualified hostname). In order
932 to avoid DNS overhead and complications, fetchmail no longer tries
933 to derive the fetchmail client machine's canonical DNS name at
934 startup.</p>
935
936 <h3>If your file predates 4.0.6:</h3>
937
938 <p>Just after the '<code>via</code>' option was introduced, I
939 realized that the interactions between the '<code>via</code>',
940 '<code>aka</code>', and '<code>localdomains</code>' options were
941 out of control. Their behavior had become complex and confusing, so
942 much so that I was no longer sure I understood it myself. Users
943 were being unpleasantly surprised.</p>
944
945 <p>Rather than add more options or crock the code, I re-thought it.
946 The redesign simplified the code and made the options more
947 orthogonal, but may have broken some complex multidrop
948 configurations.</p>
949
950 <p>Any multidrop configurations that depended on the name just
951 after the '<code>poll</code>' or '<code>skip</code>' keyword being
952 still interpreted as a DNS name for address-matching purposes, even
953 in the presence of a '<code>via</code>' option, will break.</p>
954
955 <p>It is theoretically possible that other unusual configurations
956 (such as those using a non-FQDN poll name to generate Kerberos IV
957 tickets) might also break; the old behavior was sufficiently murky
958 that we can't be sure. If you think this has happened to you,
959 contact the maintainer.</p>
960
961 <h3>If your file predates 3.9.5:</h3>
962
963 <p>The '<code>remote</code>' keyword has been changed to
964 '<code>folder</code>'. If you try to use the old keyword, the
965 parser will utter a warning.</p>
966
967 <h3>If your file predates 3.9:</h3>
968
969 <p>It could be because you're using a .fetchmailrc that's written
970 in the old popclient syntax without an explicit
971 '<code>username</code>' keyword leading the first user entry
972 attached to a server entry.</p>
973
974 <p>This error can be triggered by having a user option such as
975 '<code>keep</code>' or '<code>fetchall</code>' before the first
976 explicit username. For example, if you write</p>
977
978 <pre>
979 poll openmail protocol pop3
980     keep user "Hal DeVore" there is hdevore here
981 </pre>
982
983 <p>the '<code>keep</code>' option will generate an entire user
984 entry with the default username (the name of fetchmail's invoking
985 user).</p>
986
987 <p>The popclient compatibility syntax was removed in 4.0. It
988 complicated the configuration file grammar and confused users.</p>
989
990 <h3>If your file predates 2.8:</h3>
991
992 <p>The '<code>interface</code>', '<code>monitor</code>' and
993 '<code>batchlimit</code>' options changed after 2.8.</p>
994
995 <p>They used to be global options with '<code>set</code>' syntax
996 like the batchlimit and logfile options. Now they're per-server
997 options, like '<code>protocol</code>'.</p>
998
999 <p>If you had something like</p>
1000
1001 <pre>
1002     set interface = "sl0/10.0.2.15"
1003 </pre>
1004
1005 <p>in your .fetchmailrc file, simply delete that line and insert
1006 'interface sl0/10.0.2.15' in the server options part of your
1007 'defaults' declaration.</p>
1008
1009 <p>Do similarly for any '<code>monitor</code>' or
1010 '<code>batchlimit</code>' options.</p>
1011
1012 <hr/>
1013 <h2><a id="F2" name="F2">F2. The .fetchmailrc parser won't accept
1014 my all-numeric user name.</a></h2>
1015
1016 <p>Either upgrade to a post-5.0.5 fetchmail or put string quotes
1017 around it. :-)</p>
1018
1019 <p>The configuration file parser in older fetchmail versions
1020 treated any all-numeric token as a number, which confused it when
1021 it was expecting a name. String quoting forces the token's
1022 class.</p>
1023
1024 <p>The lexical analyzer in 5.0.6 and beyond is smarter and assumes
1025 any token following "username" or "password" is a string.</p>
1026
1027 <hr/>
1028 <h2><a id="F3" name="F3">F3. The .fetchmailrc parser won't accept
1029 my host or username beginning with 'no'.</a></h2>
1030
1031 <p>See <a href="#F2">F2</a>. You're caught in an unfortunate crack
1032 between the newer-style syntax for negated options ('no keep', 'no
1033 rewrite' etc.) and the older style run-on syntax ('nokeep',
1034 'norewrite' etc.).</p>
1035
1036 <p>Upgrade to a 5.0.6 or later fetchmail, or put string quotes
1037 around your token.</p>
1038
1039 <hr/>
1040 <h2><a id="F4" name="F4">F4. I'm getting a 'parse error' message I
1041 don't understand.</a></h2>
1042
1043 <p>The most common cause of mysterious parse errors is putting a
1044 server option after a user option. Check the manual page; you'll
1045 probably find that by moving one or more options closer to the
1046 'poll' keyword you can eliminate the problem.</p>
1047
1048 <p>Yes, I know these ordering restrictions are hard to understand.
1049 Unfortunately, they're necessary in order to allow the 'defaults'
1050 feature to work.</p>
1051
1052 <hr/>
1053 <h2><a id="C1" name="C1">C1. Why do I need a .fetchmailrc when
1054 running as root on my own machine?</a></h2>
1055
1056 <p>Ian T. Zimmerman &lt;itz@rahul.net&gt; asked:</p>
1057
1058 <p>On the machine where I'm the only real user, I run fetchmail as
1059 root from a cron job, like this:</p>
1060
1061 <pre>
1062     fetchmail -u "itz" -p POP3 -s bolero.rahul.net
1063 </pre>
1064
1065 <p>This used to work as is (with no .fetchmailrc file in root's
1066 home directory) with the last version I had (1.7 or 1.8, I don't
1067 remember). But with 2.0, it RECPs all mail to the local root user,
1068 unless I create a .fetchmailrc in root's home directory
1069 containing:</p>
1070
1071 <pre>
1072      skip bolero.rahul.net proto POP3
1073           user itz is itz
1074 </pre>
1075
1076 <p>It won't work if the second line is just "<code>user
1077 itz</code>". This is silly.</p>
1078
1079 <p>It seems fetchmail decides to RECP the 'default local user'
1080 (i.e. the uid running fetchmail) unless there are local aliases,
1081 and the 'default' aliases (itz-&gt;itz) don't count. They
1082 should.</p>
1083
1084 <p>Answer:</p>
1085
1086 <p>No they shouldn't. I thought about this for a while, and I don't
1087 much like the conclusion I reached, but it's unavoidable. The
1088 problem is that fetchmail has no way to know, in general, that a
1089 local user 'itz' actually exists.</p>
1090
1091 <p>"Ah!" you say, "Why doesn't it check the password file to see if
1092 the remote name matches a local one?" Well, there are two
1093 reasons.</p>
1094
1095 <p>One: it's not always possible. Suppose you have an SMTP host
1096 declared that's not the machine fetchmail is running on? You
1097 lose.</p>
1098
1099 <p>Two: How do you know server itz and SMTP-host itz are the same
1100 person? They might not be, and fetchmail shouldn't assume they are
1101 unless local-itz can explicitly produce credentials to prove it
1102 (that is, the server-itz password in local-itz's .fetchmailrc
1103 file.).</p>
1104
1105 <p>Once you start running down possible failure modes and thinking
1106 about ways to tinker with the mapping rules, you'll quickly find
1107 that all the alternatives to the present default are worse or
1108 unacceptably more complicated or both.</p>
1109
1110 <hr/>
1111 <h2><a id="C2" name="C2">C2. How can I arrange for a fetchmail
1112 daemon to get killed when I log out?</a></h2>
1113
1114 <p>The easiest way to dispatch fetchmail on logout (which will work
1115 reliably only if you have just one login going at any time) is to
1116 arrange for the command 'fetchmail -q' to be called on logout.
1117 Under bash, you can arrange this by putting 'fetchmail -q' in the
1118 file '~/.bash_logout'. Most csh variants execute '~/.logout' on
1119 logout. For other shells, consult your shell manual page.</p>
1120
1121 <p>Automatic startup/shutdown of fetchmail is a little harder to
1122 arrange if you may have multiple login sessions going. In the
1123 contrib subdirectory of the fetchmail distribution there is some
1124 shell code you can add to your .bash_login and .bash_logout
1125 profiles that will accomplish this. Thank James Laferriere
1126 &lt;babydr@nwrain.net&gt; for it.</p>
1127
1128 <p>Some people start up and shut down fetchmail using the ppp-up
1129 and ppp-down scripts of pppd.</p>
1130
1131 <hr/>
1132 <h2><a id="C3" name="C3">C3. How do I know what interface and
1133 address to use with --interface?</a></h2>
1134
1135 <p>This depends a lot on your local networking configuration (and
1136 right now you can't use it at all except under Linux and the newer
1137 BSDs). However, here are some important rules of thumb that can
1138 help. If they don't work, ask your local sysop or your Internet
1139 provider.</p>
1140
1141 <p>First, you may not need to use --interface at all. If your
1142 machine only ever does SLIP or PPP to one provider, it's almost
1143 certainly by a point to point modem connection to your provider's
1144 local subnet that's pretty secure against snooping (unless someone
1145 can tap your phone or the provider's local subnet!). Under these
1146 circumstances, specifying an interface address is fairly
1147 pointless.</p>
1148
1149 <p>What the option is really for is sites that use more than one
1150 provider. Under these circumstances, typically one of your provider
1151 IP addresses is your mailserver (reachable fairly securely via the
1152 modem and provider's subnet) but the others might ship your packets
1153 (including your password) over unknown portions of the general
1154 Internet that could be vulnerable to snooping. What you'll use
1155 --interface for is to make sure your password only goes over the
1156 one secure link.</p>
1157
1158 <p>To determine the device:</p>
1159
1160 <ol>
1161 <li>If you're using a SLIP link, the correct device is probably
1162 sl0.</li>
1163
1164 <li>If you're using a PPP link, the correct device is probably
1165 ppp0.</li>
1166
1167 <li>If you're using a direct connection over a local network such
1168 as an ethernet, use the command 'netstat -r' to look at your
1169 routing table. Try to match your mailserver name to a destination
1170 entry; if you don't see it in the first column, use the 'default'
1171 entry. The device name will be in the rightmost column.</li>
1172 </ol>
1173
1174 <p>To determine the address and netmask:</p>
1175
1176 <ol>
1177 <li>If you're talking to slirp, the correct address is probably
1178 10.0.2.15, with no netmask specified. (It's possible to configure
1179 slirp to present other addresses, but that's the default.)</li>
1180
1181 <li>If you have a static IP address, run 'ifconfig &lt;device&gt;',
1182 where &lt;device&gt; is whichever one you've determined. Use the IP
1183 address given after "inet addr:". That is the IP address for your
1184 end of the link, and is what you need. You won't need to specify a
1185 netmask.</li>
1186
1187 <li>If you have a dynamic IP address, your connection IP will vary
1188 randomly over some given range (that is, some number of the least
1189 significant bits change from connection to connection). You need to
1190 declare an address with the variable bits zero and a complementary
1191 netmask that sets the range.</li>
1192 </ol>
1193
1194 <p>To illustrate the rule for dynamic IP addresses, let's suppose
1195 you're hooked up via SLIP and your IP provider tells you that the
1196 dynamic address pool is 255 addresses ranging from 205.164.136.1 to
1197 205.164.136.255. Then</p>
1198
1199 <pre>
1200     interface "sl0/205.164.136.0/255.255.255.0"
1201 </pre>
1202
1203 <p>would work. To range over any value of the last two octets
1204 (65536 addresses) you would use</p>
1205
1206 <pre>
1207     interface "sl0/205.164.0.0/255.255.0.0"
1208 </pre>
1209
1210 <hr/>
1211 <h2><a id="C4" name="C4">C4. How can I set up support for
1212 sendmail's anti-spam features?</a></h2>
1213
1214 <p>This answer covers versions of sendmail from 8.9.3-20 (the
1215 version installed in Red Hat 6.2) upwards. If you have an older
1216 version, upgrade to sendmail 8.9.</p>
1217
1218 <p>Stock sendmails can now do anti-spam exclusions based on a
1219 database of filter rules. The human-readable form of the database
1220 is at <tt>/etc/mail/access</tt>. The database itself is at
1221 <tt>/etc/mail/access.db</tt>.</p>
1222
1223 <p>The table itself uses email addresses, domain names, and network
1224 numbers as keys. For example,</p>
1225
1226 <pre>
1227 spammer@aol.com         REJECT
1228 cyberspammer.com        REJECT
1229 192.168.212             REJECT
1230 </pre>
1231
1232 <p>would refuse mail from spammer@aol.com, any user from
1233 cyberspammer.com (or any host within the cyberspammer.com domain),
1234 and any host on the 192.168.212.* network. (This feature can be
1235 used to do other things as well; see the <a
1236 href="http://www.sendmail.org/m4/anti-spam.html">sendmail
1237 documentation</a> for details)</p>
1238
1239 <p>To actually set up the database, run</p>
1240
1241 <pre>
1242 makemap hash deny &lt;deny
1243 </pre>
1244
1245 <p>in /etc/mail.</p>
1246
1247 <p>To test, send a message to your mailing address from that host
1248 and then pop off the message with fetchmail, using the -v argument.
1249 You can monitor the SMTP transaction, and when the FROM address is
1250 parsed, if sendmail sees that it is an address in spamlist,
1251 fetchmail will flush and delete it.</p>
1252
1253 <p>Under no circumstances put your <strong>mailhost</strong> or
1254 <strong>any host you accept mail from</strong> using fetchmail into
1255 your reject file. You <strong>will</strong> lose mail if you do
1256 this!!!</p>
1257
1258 <hr/>
1259 <h2><a id="C5" name="C5">C5. How can I poll some of my mailboxes
1260 more/less often than others?</a></h2>
1261
1262 <p>Use the <cite>interval</cite> keyword on the ones that should be
1263 checked less often. For example, if you do a poll every 5 minutes,
1264 and want to poll some mailboxes every 5 minutes and some every 30
1265 minutes, use something like this:</p>
1266
1267 <pre>
1268 poll mainsite.example.com  proto pop3 user ....
1269 poll secondary.example.com proto pop3 interval 6 user ...
1270 </pre>
1271
1272 <p>Then secondary.example.com will be polled every 6th time that
1273 mainsite.example.com is polled, which with a polling interval of
1274 every 5 minutes means that secondary.example.com will be polled
1275 every 30 minutes.</p>
1276
1277 <hr/>
1278 <h2><a id="C6" name="C6">Fetchmail works OK started up manually,
1279 but not from an init script.</a></h2>
1280
1281 <p>Often, startup scripts have a different environment than an
1282 interactive login shell. For instance, $HOME might point to "/root"
1283 when you are logged in as root, but it might be either unset, or
1284 set to "/" when the startup scripts are running. That means
1285 fetchmail at startup can't find the .fetchmailrc.</p>
1286
1287 <p>Pick a location (such as /etc/fetchmailrc) and use fetchmail's
1288 -f option to point fetchmail at it. That should solve the
1289 problem.</p>
1290
1291 <hr/>
1292 <h2><a id="C7" name="C7">C7. How can I forward mail to another
1293 host?</a></h2>
1294
1295 <p>To forward mail to a host other than the one you are running
1296 fetchmail on, use the <code>smtphost</code> or
1297 <code>smtpname</code> option. See the manual page for details.</p>
1298
1299 <hr/>
1300 <h2><a id="T1" name="T1">T1. How can I use fetchmail with
1301 sendmail?</a></h2>
1302
1303 <p>For most sendmails, no special configuration is required. Eric
1304 Allman tells me that if <code>FEATURE(always_add_domain)</code> is
1305 included in sendmail's configuration, you can leave the
1306 <code>rewrite</code> option off.</p>
1307
1308 <p>If your sendmail complains "sendmail does not relay", make
1309 sure your sendmail.cf file says <code>Cwlocalhost</code> so that
1310 sendmail recognizes 'localhost' as a name of its host.</p>
1311
1312 <p>If you're mailing from another machine on your local network,
1313 also ensure that its IP address is listed in ip_allow or name in
1314 name_allow (usually in /etc/mail/)</p>
1315
1316 <p>If you find that your sendmail doesn't like the address
1317 'FETCHMAIL-DAEMON@localhost' (which is used in the bouncemail that
1318 fetchmail generates), you may have to set
1319 <code>FEATURE(accept_unqualified_senders)</code>.</p>
1320
1321 <p>G&uuml;nther Leber reports that Digital Unix sendmails won't
1322 work with fetchmail. The symptom is an error message "<code>553
1323 Local configuration error, hostname not recognized as
1324 local</code>". The problem is that fetchmail normally feeds
1325 sendmail with the client machine's host address in the MAIL FROM
1326 line. These sendmails think this means they're seeing the result of
1327 a mail loop and suppress the mail. You may be able to work around
1328 this by running in <code>--invisible</code> mode.</p>
1329
1330 <p>If you want to support multidrop mode, and you can get access to
1331 your mailserver's sendmail.cf file, it's a good idea to add this
1332 rule:</p>
1333
1334 <pre>
1335 H?l?Delivered-To: $h
1336 </pre>
1337
1338 <p>This will cause the mailserver's sendmail to reliably write the
1339 appropriate envelope address into each message before fetchmail
1340 sees it, and tell fetchmail which header it is.&#160; With this
1341 change, multidrop mode should work reliably even when the Received
1342 header omits the envelope address (which will typically be the case
1343 when the message has multiple recipients).&#160; However it will
1344 still not distinguish the recipients, your only advantage is that
1345 no bounce will be sent if a message is BCC addressed to multiple
1346 users at your site.&#160; To fix even that problem, you might want
1347 to try the following hack, which is however untested and quite
1348 experimental:</p>
1349
1350 <pre>
1351 H?J?Delivered-To: $u
1352
1353 Mmdrop, P=/usr/bin/procmail, F=lsDFMqSPfhnu9J, 
1354     S=EnvFromSMTP/HdrFromSMTP, R=EnvToSMTP/HdrToSMTP,
1355     T=DNS/RFC822/X-Unix,
1356     A=procmail -Y -a $u -d $h
1357 </pre>
1358
1359 <p>For both hacks, you have to declare '<code>envelope
1360 "Delivered-To:"</code>' on the fetchmail side, to put the virtual
1361 domain (e.g. 'domain.com') with RELAY permission into your access
1362 file and to add a line reading '<code>domain.com
1363 local:local-pop-user</code>' for the first and '<code>domain.com
1364 mdrop:local-pop-user</code>' for the second hack to your
1365 mailertable.</p>
1366
1367 <p>You will notice that if the mail already has a Delivered-To
1368 header, sendmail will not add another.&#160; Further, editing
1369 sendmail.cf directly is not very comfortable.&#160; Solutions for
1370 both problems can be found in Peter 'Rattacresh' Backes' 'hybrid'
1371 patch against sendmail.&#160; Have a look at it, you can find it in
1372 the contrib subdirectory.</p>
1373
1374 <p>Feel free to try Martijn Lievaart's detailed recipe in the
1375 contrib subdirectory of the fetchmail source distribution, it
1376 attempts to realize multidrop mailboxes with an external
1377 script.</p>
1378
1379 <p>If for some reason you are invoking sendmail via the
1380 <tt>mda</tt> option (rather than delivering to port 25 via smtp),
1381 don't forget to include the -i switch. Otherwise you will
1382 occasionally get mysterious delivery failures with a SIGPIPE as the
1383 sendmail instance dies. The problem is messages with a single dot
1384 at start of a text line.</p>
1385
1386 <hr/>
1387 <h2><a id="T2" name="T2">T2. How can I use fetchmail with
1388 qmail?</a></h2>
1389
1390 <p>Turn on the <code>forcecr</code> option; qmail's listener mode
1391 doesn't like header or message lines terminated with bare
1392 linefeeds.</p>
1393
1394 <p>(This information is thanks to Robert de Bath
1395 &lt;robert@mayday.cix.co.uk&gt;.)</p>
1396
1397 <p>If a mailhost is using the qmail package (see <a
1398 href="http://pobox.com/~djb/qmail.html">http://pobox.com/~djb/qmail.html</a>)
1399 then, providing the local hosts are also using qmail, it is
1400 possible to set up one fetchmail link to be reliably collect the
1401 mail for an entire domain.</p>
1402
1403 <p>One of the basic features of qmail is the 'Delivered-To:'
1404 message header. Whenever qmail delivers a message to a local
1405 mailbox it puts the username and hostname of the envelope recipient
1406 on this line. The major reason for this is to prevent mail
1407 loops.</p>
1408
1409 <p>To set up qmail to batch mail for a disconnected site the
1410 ISP-mailhost will have normally put that site in its 'virtualhosts'
1411 control file so it will add a prefix to all mail addresses for this
1412 site. This results in mail sent to
1413 'username@userhost.userdom.dom.com' having a 'Delivered-To:' line
1414 of the form:</p>
1415
1416 <pre>
1417        Delivered-To: mbox-userstr-username@userhost.userdom.dom.com
1418 </pre>
1419
1420 <p>A single host maildrop will be slightly simpler:</p>
1421
1422 <pre>
1423        Delivered-To: mbox-userstr-username@userhost.dom.com
1424 </pre>
1425
1426 <p>The ISP can make the 'mbox-userstr-' prefix anything they choose
1427 but a string matching the user host name is likely.</p>
1428
1429 <p>To use this line you must:</p>
1430
1431 <ol>
1432 <li>Ensure the option 'envelope Delivered-To:' is in the fetchmail
1433 config file.</li>
1434
1435 <li>Ensure you have a localdomains containing 'userdom.dom.com' or
1436 'userhost.dom.com' respectively.</li>
1437 </ol>
1438
1439 <p>So far this reliably delivers messages to the correct machine of
1440 the local network, to deliver to the correct user the
1441 'mbox-userstr-' prefix must be stripped off of the user name. This
1442 can be done by setting up an alias within the qmail MTA on each
1443 local machine. Simply create a dot-qmail file called
1444 '.qmail-mbox-userstr-default' in the alias directory (normally
1445 /var/qmail/alias) with the contents:</p>
1446
1447 <pre>
1448       | ../bin/qmail-inject -a -f"$SENDER" "${LOCAL#mbox-userstr-}@$HOST"
1449 </pre>
1450
1451 <p>Note this <em>does</em> require a modern /bin/sh.</p>
1452
1453 <p>Peter Wilson adds:</p>
1454
1455 <p>"My ISP uses "alias-unzzippedcom-" as the prefix, which means
1456 that I need to name my file ".qmail-unzzippedcom-default". This is
1457 due to qmail's assumption that a message sent to user-xyz is
1458 handled by the file ~user/.qmail-xyz (or
1459 ~user/.qmail-default)."</p>
1460
1461 <p>Luca Olivetti adds:</p>
1462
1463 <p>If you aren't using qmail locally, or you don't want to set up
1464 the alias mechanism described above, you can use the option
1465 '<code>qvirtual "mbox-userstr-"</code>' in your fetchmail config
1466 file to strip the prefix from the local user name.</p>
1467
1468 <hr/>
1469 <h2><a id="T3" name="T3">T3. How can I use fetchmail with
1470 exim?</a></h2>
1471
1472 <p>If you have <code>rewrite</code> on:</p>
1473
1474 <p>There is an RFC1123 requirement that MAIL FROM and RCPT TO
1475 addresses you pass to it have to be canonical (e.g. with a fully
1476 qualified hostname part). Therefore fetchmail tries to pass fully
1477 qualified RCPT TO addresses. But exim does not by default accept
1478 'localhost' as a fully qualified domain. This can be fixed.</p>
1479
1480 <p>In exim.conf, add 'localhost' to your local_domains declaration
1481 if it's not already present. For example, the author's site at
1482 thyrsus.com would have a line reading:</p>
1483
1484 <pre>
1485        local_domains = thyrsus.com:localhost
1486 </pre>
1487
1488 <p>If you have <code>rewrite</code> off:</p>
1489
1490 <p>MAIL FROM is a potential problem if the MTAs upstream from your
1491 fetchmail don't necessarily pass canonicalized From and Return-Path
1492 addresses, and fetchmail's <code>rewrite</code> option is off. The
1493 specific case where this has come up involves bounce messages
1494 generated by sendmail on your mailer host, which have the
1495 (un-canonicalized) origin address MAILER-DAEMON.</p>
1496
1497 <p>The right way to fix this is to enable the <code>rewrite</code>
1498 option and have fetchmail canonicalize From and Return-Path
1499 addresses with the mailserver hostname before exim sees them. This
1500 option is enabled by default, so it won't be off unless you turned
1501 it off.</p>
1502
1503 <p>If you must run with <code>rewrite</code> off, there is a switch
1504 in exim's configuration files that allows it to accept domainless
1505 MAIL FROM addresses; you will have to flip it by putting the
1506 line</p>
1507
1508 <pre>
1509         sender_unqualified_hosts = localhost
1510 </pre>
1511
1512 <p>in the main section of the exim configuration file. Note that
1513 this will result in such messages having an incorrect domain name
1514 attached to their return address (your SMTP listener's hostname
1515 rather than that of the remote mail server).</p>
1516
1517 <hr/>
1518 <h2><a id="T4" name="T4">T4. How can I use fetchmail with
1519 smail?</a></h2>
1520
1521 <p>Smail 3.2 is very nearly plug-compatible with sendmail, and may
1522 work fine out of the box.</p>
1523
1524 <p>We have one report that when processing multiple messages from a
1525 single fetchmail session, smail sometimes delivers them in an order
1526 other than received-date order. This can be annoying because it
1527 scrambles conversational threads. This is not fetchmail's problem,
1528 it is an smail 'feature' and has been reported to the maintainers
1529 as a bug.</p>
1530
1531 <p>Very recent smail versions require an
1532 <code>-smtp_hello_verify</code> option in the smail config file.
1533 This overrides smail's check to see that the HELO address is
1534 actually that of the client machine, which is never going to be the
1535 case when fetchmail is in the picture. According to RFC1123 an SMTP
1536 listener <em>must</em> allow this mismatch, so smail's new behavior
1537 (introduced sometime between 3.2.0.90 and 3.2.0.95) is a bug.</p>
1538
1539 <p>You may also need to say
1540 <code>-smtp_hello_broken_allow=127.0.0.1</code> in order for smail
1541 to accept the "localhost" that fetchmail normally appends to
1542 recipient addresses.</p>
1543
1544 <hr/>
1545 <h2><a id="T5" name="T5">T5. How can I use fetchmail with SCO's
1546 MMDF?</a></h2>
1547
1548 <p>MMDF itself is difficult to configure, but it turns out that
1549 connecting fetchmail to MMDF's SMTP channel isn't that hard. You
1550 can read an <a
1551 href="http://www.aplawrence.com/Unixart/uucptofetch.html">MMDF
1552 recipe</a> that describes replacing a UUCP link with fetchmail
1553 feeding MMDF.</p>
1554
1555 <hr/>
1556 <h2><a id="T6" name="T6">T6. How can I use fetchmail with Lotus
1557 Notes?</a></h2>
1558
1559 <p>The Lotus Notes SMTP gateway tries to deduce when it should
1560 convert \n to \r\n, but its rules are not the intuitive and
1561 correct-for-RFC822 ones. Use 'forcecr'.</p>
1562
1563 <hr/>
1564 <h2><a id="T7" name="T7">T7. How can I use fetchmail with Courier
1565 IMAP?</a></h2>
1566
1567 <p>The courier mta doesn't like RCPT addresses that look like
1568 <code>someone@localhost</code>. Work around this with an
1569 <code>smtphost</code> or <code>smtpaddress</code>.</p>
1570
1571 <hr/>
1572 <h2><a name="T8">T8. How can I use fetchmail with vbmailshield?</a></h2>
1573
1574 <p>vbmailshield's SMTP interpreter is broken.  It doesn't understand RSET.</p>
1575
1576 <p>As a workaround, you can set batchlimit to 1 so RSET is never used.</p>
1577
1578 <hr/>
1579 <h2><a id="S1" name="S1">S1. How can I use fetchmail with
1580 qpopper?</a></h2>
1581
1582 <p>Qualcomm's qpopper is probably the best-of-breed among POP3
1583 servers, and is very widely deployed. Nevertheless, it has some
1584 problems which fetchmail exposes. We recommend using <a
1585 href="#G8">IMAP</a> instead if at all possible. If you must talk to
1586 qpopper, here are some problems to be aware of:</p>
1587
1588 <h3>Problems with retrieving large messages from qpopper 2.53</h3>
1589
1590 <p>Tony Tang <a
1591 href="mailto:tony@atn.com.hk">&lt;tony@atn.com.hk&gt;</a> reports
1592 that there is a bad intercation between fetchmail and qpopper 2.5.3
1593 under Red Hat Linux versions 5.0 to 5.2, kernels 2.0.34 to 2.0.35.
1594 When fetching very large messages (over 700K) from 2.5.3, fetchmail
1595 will hang with a socket error.</p>
1596
1597 <p>This is probably not a fetchmail bug, but rather a symptom of
1598 some problem in the networking stack that qpopper's transmission
1599 pattern is tickling, as fetchpop (another Linux POP client) also
1600 displays the hang but Netscape running under Win95 does not. The
1601 problem can also be banished by <a
1602 href="http://www.eudora.com/freeware/qpop.html">upgrading to
1603 qpopper 3.0b1</a>.</p>
1604
1605 <h3>Bad interaction with fetchmail 4.4.2 to 4.4.7</h3>
1606
1607 <p>Versions of fetchmail from 4.4.2 through 4.4.7 had a bad
1608 interaction with Eudora qpopper versions 2.3 and later. See <a
1609 href="#X5">X5</a> for details. The solution is to upgrade your
1610 fetchmail.</p>
1611
1612 <hr/>
1613 <h2><a id="S2" name="S2">S2. How can I use fetchmail with Microsoft
1614 Exchange?</a></h2>
1615
1616 <p>It's been reliably reported that Exchange 2000's POP3 support is
1617 so broken that it's unusable. One symptom is that messages without
1618 a terminating newline get the POP3 message termination dot emitted
1619 -- you guessed it -- right after the last character of the message,
1620 with no terminating newline added. This will hang fetchmail or any
1621 other RFC-compliant server. IMAP is alleged to work OK, though.</p>
1622
1623 <p>Older versions of Exchange are semi-usable.  They randomly drop
1624 attachments on the floor, though.  Microsoft acknowledges this
1625 as a known bug and apparently has no plans to fix it.</p>
1626
1627 <p>Fetchmail using IMAP supports the proprietary NTLM mode used
1628 with M$ Exchange servers. To enable this, configure fetchmail with
1629 the --enable-NTLM option and recompile it. Specify a user option
1630 value that looks like 'user@domain': the part to the left of the @
1631 will be passed as the username and the part to the right as the
1632 NTLM domain.</p>
1633
1634 <p>M$ Exchange violates the POP3 and IMAP RFCs. Its LIST command
1635 does not reveal the real sizes of mail in the pop mailbox, but the
1636 sizes of the compressed versions in the exchange mail database
1637 (thanks to Arjan De Vet and Guido Van Rooij for alerting us to this
1638 problem).</p>
1639
1640 <p>Fetchmail works with M$ Exchange, despite this brain damage. Two
1641 features are compromised. One is that the --limit option will not
1642 work right (it will check against compressed and not actual sizes).
1643 The other is that a too-small SIZE argument may be passed to your
1644 ESMTP listener, assuming you're using one (this should not be a
1645 problem unless the actual size of the message is above the
1646 listener's configured length limit).</p>
1647
1648 <p>Somewhat belatedly, I've learned that there's supposed to be a
1649 registry bit that can fix this breakage:</p>
1650
1651 <pre>
1652 HKEY_LOCAL_MACHINE\System\CurrentControlSet\Services\MsExchangeIs\Parameters
1653 System\Pop3 Compatibility
1654 </pre>
1655
1656 <p>This is a bitmask that controls the variations from the standard
1657 protocol. The bits defined are:</p>
1658
1659 <dl>
1660 <dt>0x00000001:</dt>
1661
1662 <dd>Report exact message sizes for the LIST command</dd>
1663
1664 <dt>0x00000002:</dt>
1665
1666 <dd>Allow arbitrary linear whitespace between commands and
1667 arguments</dd>
1668
1669 <dt>0x00000004:</dt>
1670
1671 <dd>Enable the LAST command</dd>
1672
1673 <dt>0x00000008:</dt>
1674
1675 <dd>Allow an empty PASS command (needed for users with blank
1676 passwords, but illegal in the protocol)</dd>
1677
1678 <dt>0x00000010:</dt>
1679
1680 <dd>Relax the length restrictions for arguments to commands
1681 (protocol requires 40, but some user names may be longer than
1682 that).</dd>
1683
1684 <dt>0x00000020:</dt>
1685
1686 <dd>Allow spaces in the argument to the USER command.</dd>
1687 </dl>
1688
1689 <p>There's another one that may be useful to know about:</p>
1690
1691 <pre>
1692 KEY_LOCAL_MACHINE\System\CurrentControlSet\Services\MsExchangeIs\Parameters
1693 System\Pop3 Performance
1694 </pre>
1695
1696 <dl>
1697 <dt>0x00000001:</dt>
1698
1699 <dd>Render messages to a temporary stream instead of sending
1700 directly from the database (should always be on)</dd>
1701
1702 <dt>0x00000002: Flag unrenderable messages (instead of just failing
1703 commands) (should only be on if you are seeing the problems
1704 reported in KB Q168109)</dt>
1705
1706 <dt>0x00000004:</dt>
1707
1708 <dd>Return from the QUIT command before all messages have been
1709 deleted.</dd>
1710 </dl>
1711
1712 <p>The Microsoft pod-person who revealed this information to me
1713 admitted that he couldn't find it anywhere in their public
1714 knowledge base.</p>
1715
1716 <p>Another specific problem we have seen with Exchange servers has
1717 as its symptom a response to LOGIN that says "NO Ambiguous Alias".
1718 Grant Edwards writes:</p>
1719
1720 <p>This means that Exchange Server is too f*&amp;#ing stupid to
1721 figure out which mailbox belongs to you. Instead of actually
1722 keeping track of which inbox belongs to which user, it uses some
1723 half-witted, guess-o-matic heuristic to try to guess your mailbox
1724 name from your username.</p>
1725
1726 <p>In your case it doesn't work because your username maps to more
1727 than one mailbox. For some people it doesn't work because their
1728 username maps to zero mailboxes. This is yet another inept, lame,
1729 almost criminally negligent design decision from our friends in
1730 Redmond.</p>
1731
1732 <p>You've got several options:</p>
1733
1734 <ul>
1735 <li>Get your administrator to configure the server so that
1736 usernames and mailbox names are the same.</li>
1737
1738 <li>Get your administrator to add an alias that maps your username
1739 explicitly to your mailbox name.</li>
1740 </ul>
1741
1742 <p>But, the best option involves a tactical nuclear weapon (an old
1743 ASROC will do), pissing off a lot people who live downwind from
1744 Redmond, and your choice of any Linux, NetBSD, FreeBSD, or Solaris
1745 CD-ROM.</p>
1746
1747 <hr/>
1748 <h2><a id="S3" name="S3">S3. How can I use fetchmail with HP
1749 OpenMail?</a></h2>
1750
1751 <p>No special configuration is required, but OpenMail versions
1752 prior to 6.0 have an annoying bug similar to the big one in <a
1753 href="#S2">Microsoft Exchange</a>. The message sizes it gives in
1754 the LIST are rounded to the nearest 1024 bytes. It also has a nasty
1755 habit of discarding headers it doesn't recognize, such as X- and
1756 Resent- headers.</p>
1757
1758 <p>As with M$ Exchange, the only real fix for these problems is to
1759 get a POP (or preferably IMAP) server that isn't brain-dead.
1760 OpenMail's project manager claims these bugs have been fixed in
1761 6.0.</p>
1762
1763 <p>We've had a more recent report (December 2001) that the TOP
1764 command fails, returning only one line regrardless of its argument,
1765 on something identifying itself as "OpenMail POP3 interface".</p>
1766
1767 <hr/>
1768 <h2><a id="S4" name="S4">S4. How can I use fetchmail with Novell GroupWise?</a></h2>
1769
1770 <p>The Novell GroupWise IMAP server would be better named
1771 GroupFoolish; it is (according to the designer of IMAP) unusably
1772 broken. Among other things, it doesn't include a required content
1773 length in its BODY[TEXT] response.</p>
1774
1775 <p>Fetchmail works around this problem, but we strongly recommend
1776 voting with your dollars for a server that isn't brain-dead. If you
1777 stick with code as shoddy as GroupWise seems to be, you will
1778 probably pay for it with other problems.</p>
1779
1780 <hr/>
1781 <h2><a id="S5" name="S5">S5. How can I use fetchmail with
1782 InterChange?</a></h2>
1783
1784 <p>You can't. At least not if you want to be able to see
1785 attachments. InterChange has a bug similar to the MailMax server;
1786 it reports the message length with attachments but doesn't download
1787 them on TOP or RETR.</p>
1788
1789 <p>On Jan 9 2001, the people at InfiniteMail sent me mail informing
1790 me that their new 3.61.08 release of InterChange fixes this
1791 problem. I don't have any reports one way or the other yet.</p>
1792
1793 <hr/>
1794 <h2><a id="S6" name="S6">S6. How can I use fetchmail with MailMax?</a></h2>
1795
1796 <p>You can't. At least not if you want to be able to see
1797 attachments. MailMax has a bug; it reports the message length with
1798 attachments but doesn't download them on TOP or RETR.</p>
1799
1800 <p>Also, we're told that TOP sometimes fails to retrieve the entire
1801 message even when enough lines have been specified. The MailMax
1802 developers have acknowledged this bug as of 4 May 2000, but there
1803 is no fix yet. If you must use this server, force RETR with the
1804 <tt>fetchall</tt> option.</p>
1805
1806 <hr/>
1807 <h2><a id="S7" name="S7">S7. How can I use fetchmail with FTGate?</a></h2>
1808
1809 <p>The FTGate V2 server (and possibly older versions as well) has a
1810 weird bug. It answers OK twice to a TOP request! Use the
1811 <code>fetchall</code> option to force use of RETR and work around
1812 this bug.</p>
1813
1814 <hr/>
1815 <h2><a id="I1" name="I1">I1. How can I use fetchmail with CompuServe RPA?</a></h2>
1816
1817 <p>First, make sure your fetchmail has the RPA support compiled in.
1818 Stock fetchmail binaries (such as you might get from an RPM) don't.
1819 You can check this by looking at the output of <code>fetchmail
1820 -V</code>; if you see the string "+RPA" after the version ID you're
1821 good to go, otherwise you'll have to build your own from sources
1822 (see the INSTALL file in the source distribution for
1823 directions).</p>
1824
1825 <p>Give your CompuServe pass-phrase in lower case as your password.
1826 Add '@compuserve.com' to your user ID so that it looks like 'user
1827 &lt;UserID&gt;@compuserve.com', where &lt;UserID&gt; can be either
1828 your numerical userID or your E-mail nickname. An RPA-enabled
1829 fetchmail will automatically check for csi.com in the POP server's
1830 greeting line. If that's found, and your user ID ends with
1831 '@compuserve.com', it will query the server to see if it is
1832 RPA-capable, and if so do an RPA transaction rather than a
1833 plain-text password handshake.</p>
1834
1835 <p><strong>Warning:</strong> the debug (-v -v) output of fetchmail
1836 will show your pass-phrase in Unicode!</p>
1837
1838 <p>These two .fetchmailrc entries show the difference between an
1839 RPA and non-RPA configuration:</p>
1840
1841 <pre>
1842 # This version will use RPA
1843 poll csi.com via "pop.site1.csi.com" with proto POP3 and options no dns
1844     user "CSERVE_USER@compuserve.com" there with password "CSERVE_PASSWORD"
1845         is LOCAL_USER here options fetchall stripcr
1846
1847 # This version will not use RPA
1848 poll non-rpa.csi.com via "pop.site1.csi.com" with proto POP3 and options no dns
1849     user "CSERVE_USER" there with password "CSERVE_POP3_PASSWORD"
1850        is LOCAL_USER here options fetchall stripcr
1851 </pre>
1852
1853 <hr/>
1854 <h2><a id="I2" name="I2">I2. How can I use fetchmail with Demon
1855 Internet's SDPS?</a></h2>
1856
1857 <h3>Single-drop mode</h3>
1858
1859 <p>You can get fetchmail to download the email for just one user
1860 from Demon Internet's POP3 server by giving it a username
1861 consisting of your Demon user name followed by your account name,
1862 with an at-sign between them.</p>
1863
1864 <p>For example, to download email for the user
1865 &lt;philh@vision25.demon.co.uk&gt;, you could use the following
1866 .fetchmailrc file:</p>
1867
1868 <pre>
1869 set postmaster "philh"
1870 poll pop3.demon.co.uk with protocol POP3:
1871     user "philh@vision25" is philh
1872 </pre>
1873
1874 <h3>Multi-drop mode</h3>
1875
1876 <p>Demon Internet's SDPS service is an implementation of POP3. All
1877 messages have a Received: header added when they enter the
1878 maildrop, like this:</p>
1879
1880 <pre>
1881    Received: from punt-1.mail.demon.net by mailstore for fred@xyz.demon.co.uk
1882              id 899963657:10:27896:0; Thu, 09 Jul 98 05:54:17 GMT
1883 </pre>
1884
1885 <p>To enable multi-drop mode you need to tell fetchmail that
1886 'mailstore' is the name of the host which accepted the mail, and
1887 let it know the hostname part(s) of your E-mail address. The
1888 following example assumes that your hostname is xyz.demon.co.uk,
1889 and that you have also bought "mail forwarding" for the domain
1890 my-company.co.uk (in which case your MTA must also be configured to
1891 accept mail sent to user@my-company.co.uk)</p>
1892
1893 <pre>
1894      poll pop3.demon.co.uk proto pop3 aka mailstore no dns:
1895        localdomains xyz.demon.co.uk my-company.co.uk
1896        user xyz is *
1897 </pre>
1898
1899 <p>Note that Demon may delete mail on the server which is more than
1900 30 days old; see their <a
1901 href="http://www.demon.net/helpdesk/products/mail/sdps-tech.shtml">POP3
1902 page</a> for details.</p>
1903
1904 <h3>The SDPS extension</h3>
1905
1906 <p>There's a different way to do multidrop. It's not necessary on
1907 Demon Internet, since fetchmail can parse Received addresses, but
1908 the person who implemented this didn't know that. It may be useful
1909 if Demon Internet ever changes mail transports.</p>
1910
1911 <p>SDPS includes a non-standard extension for retrieving the
1912 envelope of a message (*ENV), which fetchmail optionally supports
1913 if compiled with the --enable-SDPS option. If you have it, the
1914 first line of the fetchmail -V response will include the string
1915 "+SDPS".</p>
1916
1917 <p>Once you have SDPS compiled in, fetchmail in POP3 mode will
1918 automatically detect when it's talking to a Demon Internet host in
1919 multidrop mode, and use the *ENV extension to get an envelope To
1920 address.</p>
1921
1922 <p>The autodetection works by looking at the hostname in the POP3
1923 greeting line; if you're accessing Demon Internet through a proxy
1924 it may fail. To force SDPS mode, pick "sdps" as your protocol.</p>
1925
1926 <hr/>
1927 <h2><a id="I3" name="I3">I3. How can I use fetchmail with usa.net's
1928 servers?</a></h2>
1929
1930 <p>Enable '<code>fetchall</code>'. A user reports that the 2.2
1931 version of USA.NET's POP server reports that you must use the
1932 '<code>fetchall</code>' option to make sure that all of the mail is
1933 retrieved, otherwise some may be left on the server. This is almost
1934 certainly a server bug.</p>
1935
1936 <p>The usa.net servers (at least in their 2.2 version, June 1998)
1937 don't handle the TOP command properly, either. Regardless of the
1938 argument you give it, they retrieve only about 10 lines of the
1939 message. Fetchmail normally uses TOP for message retrieval in order
1940 to avoid marking messages seen, but '<code>fetchall</code>' forces
1941 it to use RETR instead.</p>
1942
1943 <p>Also, we're told USA.NET adds a ton of hops to your messages.
1944 You may need to raise the MaxHopCount parameter in your sendmail.cf
1945 to avoid having fetched mail rejected.</p>
1946
1947 <p>(Note: Other failure modes have been reported on usa.net's
1948 servers. They seem to be chronically flaky. We recommend finding
1949 another provider.)</p>
1950
1951 <hr/>
1952 <h2><a id="I4" name="I4">I4. How can I use fetchmail with geocities
1953 POP3 servers?</a></h2>
1954
1955 <p>Nathan Cutler reports that the the mail.geocities.com POP3
1956 servers fail to include the first Received line of the message in
1957 the send to fetchmail. This can solve problems if your MUA
1958 interprets Received continuations as body lines and doesn't parse
1959 any of the following headers.</p>
1960
1961 <p>Workaround is to use "mda" keyword or "-mda" switch:</p>
1962
1963 <pre>
1964 mda "sed -e '1s/^\t/Received: /' | formail | /usr/bin/procmail -d &lt;user&gt;"
1965 </pre>
1966
1967 <p>Replace \t with exactly one tabulation character.</p>
1968
1969 <p>You should also consider using "fetchall" option because
1970 Geocities' servers sometimes think that the first 45 messages have
1971 already been read.</p>
1972
1973 <p>Fix: Get an email provider that doesn't suck. The pop-up ads on
1974 Geocities are lame, you should boycott them anyway.</p>
1975
1976 <hr/>
1977 <h2><a id="I5" name="I5">I5. How can I use fetchmail with Hotmail or Lycos Webmail?</a></h2>
1978
1979 <p>You can't directly. But you can use fetchmail with hotmail or lycos
1980 webmail with the help of the <a
1981 href='http://people.freenet.de/courierdave/'>HotWayDaemon</a>
1982 daemon. You don't even need to install hotwayd as a daemon in
1983 <samp>inetd.conf</samp> but can use it as a plugin. Your
1984 configuration should look like this:</p>
1985
1986 <pre>
1987 poll localhost protocol pop3 tracepolls
1988    plugin "/usr/local/sbin/hotwayd -l 0 -p yourproxy:yourproxyport"
1989    username "youremail@hotmail.com" password "yourpassword"
1990    fetchall
1991 </pre>
1992
1993 <p>As a second option you may consider using <a
1994 href="http://linux.cudeso.be/linuxdoc/gotmail.php">gotmail</a>.</p>
1995
1996 <hr/>
1997 <h2><a id="I6" name="I6">I6. How can I use fetchmail with MSN?</a></h2>
1998
1999 <p>You can't. MSN uses something that looks like POP3, except the
2000 authentication part is nonstandard. And of course they don't
2001 document it, so nobody but their Windows clients can speak it.</p>
2002
2003 <p>This is a customer lock-in tactic; we recommend boycotting MSN
2004 as the only appropriate response.</p>
2005
2006 <p>As of 5.0.8, we have support for the client side of NTLM
2007 authentication. It's possible this may enable fetchmail to talk to
2008 MSN; if so, somebody should report it so this FAQ can be
2009 corrected.</p>
2010
2011 <hr/>
2012 <h2><a id="I7" name="I7">I7. How can I use fetchmail with SpryNet?</a></h2>
2013
2014 <p>The SpryNet POP3 servers mark a message queried with TOP as
2015 seen. This means that if your connection drops in mid-message, it
2016 may end up invisibly stuck on your mail spool. Use the
2017 <code>fetchall</code> flag to ensure that it's recovered on the
2018 next cycle.</p>
2019
2020 <hr/>
2021 <h2><a id="I8" name="I8">I8. How can I use fetchmail with comcast.net?</a></h2>
2022
2023 <p>Stock fetchmail will work with a comcast.net server...<em>but</em>
2024 the Maillennium POP3 server comcat uses seems to have an 80K limit on
2025 the length of downloaded messages if you use POP3 TOP to retrieve.
2026 Anything larger is silently truncated.  Don't mistake this for a
2027 fetchmail bug. (Reported July 2003.)</p>
2028
2029 <p>Workaround: use the <tt>fetchall</tt> option.</p>
2030
2031 <hr/>
2032 <h2><a id="K1" name="K1">K1. How can I use fetchmail with SOCKS?</a></h2>
2033
2034 <p>Giuseppe Guerini added a --with-socks option that supports
2035 linking with socks library. If you specify the value of this option
2036 as "yes", the configure script will try to find the Rconnect
2037 library and set the makefile up to link it. You can also specify a
2038 directory containing the Rconnect library.</p>
2039
2040 <p>Alan Schmitt has added a similar --with-socks5 option that may
2041 work better if you have a recent version of the SOCKS library.</p>
2042
2043 <hr/>
2044 <h2><a id="K2" name="K2">K2. How can I use fetchmail with IPv6 and
2045 IPsec?</a></h2>
2046
2047 <p>To use fetchmail with IPv6, you need a system that supports
2048 IPv6, the "Basic Socket Interface Extensions for IPv6" (RFC 2133).
2049 </p>
2050
2051 <p>The NRL IPv6+IPsec software distribution can be obtained from:
2052 <a
2053 href="http://web.mit.edu/network/isakmp">http://web.mit.edu/network/isakmp</a></p>
2054
2055 <p>More information on using IPv6 with Linux can be obtained
2056 from:</p>
2057
2058 <ul>
2059 <li><a
2060 href="http://www.bieringer.de/linux/IPv6/IPv6-HOWTO/IPv6-HOWTO.html">
2061 http://www.bieringer.de/linux/IPv6/IPv6-HOWTO/IPv6-HOWTO.html</a></li>
2062 </ul>
2063
2064 <hr/>
2065 <h2><a id="K3" name="K3">K3. How can I get fetchmail to work with
2066 ssh?</a></h2>
2067
2068 <p>Use the <tt>plugin</tt> option. This is dead simple with
2069 IMAP:</p>
2070
2071 <pre>
2072     plugin "ssh %h /usr/sbin/imapd"
2073 </pre>
2074
2075 <p>You may have to use a different absolute pathname, whatever the
2076 location of imapd on your mailserver is. This option tells
2077 fetchmail that instead of opening a connection on the server's port
2078 143 and doing standard IMAP authentication, fetchmail should ssh to
2079 the server and run imapd, using the more secure ssh authentication
2080 (as well as getting ssh's end-to-end encryption). Most IMAP daemons
2081 will detect that they've been called from the command line and
2082 assume the connection is preauthenticated.</p>
2083
2084 <p>POP3 daemons aren't quite as smart. They won't know they are
2085 preauthenticated in this mode, so you'll actually have to ship your
2086 password. It will be under ssh encryption, though, so that
2087 shouldn't be a problem.</p>
2088
2089 <hr/>
2090 <h2><a id="K4" name="K4">K4. What do I have to do to use the
2091 IMAP-GSS protocol?</a></h2>
2092
2093 <p>Fetchmail can use RFC1731 GSSAPI authorization to safely
2094 identify you to your IMAP server, as long as you can share Kerberos
2095 V credentials with your mail host and you have a GSSAPI-capable
2096 IMAP server. UW-IMAP (available via FTP at <a
2097 href="ftp://ftp.cac.washington.edu/mail/">ftp.cac.washington.edu</a>)
2098 is the only one I'm aware of and the one I recommend anyway for
2099 other reasons. You'll need version 4.1-FINAL or greater though, and
2100 it has to have GSS support compiled in.</p>
2101
2102 <p>Neither UW-IMAP nor fetchmail compile in support for GSS by
2103 default, since it requires libraries from the Kerberos V
2104 distribution (available via FTP at <a
2105 href="ftp://athena-dist.mit.edu/pub/ATHENA/kerberos">athena-dist.mit.edu</a>).
2106 If you have these, compiling in GSS support is simple: add a
2107 <code>--with-gssapi=[/path/to/krb5/root]</code> option to
2108 configure. For instance, I have all of my Kerberos V libraries
2109 installed under /usr/krb5 so I run <code>configure
2110 --with-gssapi=/usr/krb5</code></p>
2111
2112 <p>Setting up Kerberos V authentication is beyond the scope of this
2113 FAQ (you may find Jim Rome's paper <a
2114 href="http://www.ornl.gov/~jar/HowToKerb.html">How to Kerberize
2115 your site</a> helpful), but you'll at least need to add a
2116 credential for imap/[mailhost] to the keytab of the mail server
2117 (IMAP doesn't just use the host key). Then you'll need to have your
2118 credentials ready on your machine (cf. kinit).</p>
2119
2120 <p>After that things are very simple. Set your protocol to imap-gss
2121 in your .fetchmailrc, and omit the password, since imap-gss doesn't
2122 need one. You can specify a username if you want, but this is only
2123 useful if your mailbox belongs to a username different from your
2124 Kerberos principal.</p>
2125
2126 <p>Now you don't have to worry about your password appearing in
2127 cleartext in your .fetchmailrc, or across the network.</p>
2128
2129 <hr/>
2130 <h2><a id="K5" name="K5">K5. How can I use fetchmail with
2131 SSL?</a></h2>
2132
2133 <p>You'll need to have the <a
2134 href="http://www.openssl.org/">OpenSSL</a> libraries installed.
2135 Configure with --with-ssl. If you have the OpenSSL libraries
2136 installed in the default location (/usr/local/ssl) ths will
2137 suffice. If you have them installed in a non-default location,
2138 you'll need to specify it as an argument to --with-ssl after an
2139 equal sign.</p>
2140
2141 <p>Note that there is a known bug in the implementation of SSL_peek
2142 under OpenSSL versions 0.9.5 and older that fetchmail occasionally
2143 tripped over, causing hangs. It is recommended that you install
2144 0.9.6 or later.</p>
2145
2146 <p>Fetchmail binaries built this way support <code>ssl</code>,
2147 <code>sslkey</code>, and <code>sslcert</code> options that control
2148 SSL encryption. You will need to have an SSL-enabled mailserver to
2149 use these options. See the manual page for details and some words
2150 of care on the limited security provided.</p>
2151
2152 <p>If your open OpenSSL session dies with a message that complains
2153 "PRNG not seeded", update or improve your operating system. This
2154 means that the OpenSSL library on your machine has been unable to
2155 locate a source of random bits from which to seed its random-number
2156 generator; normally these come from the <tt>/dev/urandom</tt>, and
2157 this message probably means your OS doesn't have that device.</p>
2158
2159 <p>An interactive program could seed the random number generator
2160 from keystroke timings or some other form of user input. Because
2161 fetchmail is primarily designed to run forever as a background
2162 daemon, that option is not available in this case.</p>
2163
2164 <p>If you don't have the libraries installed, but do have the
2165 OpenSSL utility toolkit, something like this may work:</p>
2166
2167 <pre>
2168 poll MYSERVER port 993 plugin "openssl s_client -connect %h:%p" 
2169         protocol imap username MYUSERNAME password MYPASSWORD
2170 </pre>
2171
2172 <p>You should note that SSL is only secure against a "man-in-the-middle"
2173 attack if the client is able to verify that the peer's public key is the
2174 correct one, and has not been substituted by an attacker. fetchmail can do
2175 this in one of two ways: by verifying the SSL certificate, or by checking
2176 the fingerprint of the peer's public key.</p>
2177
2178 <p>There are three parts to SSL certificate verification: checking that the
2179 domain name in the certificate matches the hostname you asked to connect to;
2180 checking that the certificate expiry date has not passed; and checking that
2181 the certificate has been signed by a known Certificate Authority (CA). This
2182 last step takes some preparation, as you need to install the root
2183 certificates of all the CA's which you might come across.</p>
2184
2185 <p>The easiest way to do this is using the root CA keys supplied in the
2186 OpenSSL distribution, which means you need to download and unpack the
2187 source tarball from www.openssl.org. Once you have done that:</p>
2188
2189 <ol>
2190 <li><code>mkdir /etc/ssl/certs</code></li>
2191 <li>in the openssl-x.x.x/certs directory: <code>cp *.pem /etc/ssl/certs/</code></li>
2192 <li>in the openssl-x.x.x/tools directory: edit c_rehash and set
2193 <code>$dir="/etc/ssl"</code></li>
2194 <li>run "perl c_rehash". This generates a number of symlinks within the
2195 /etc/ssl/certs/ directory</li>
2196 </ol>
2197
2198 <p>Now in .fetchmailrc, set option sslcertpath to point to this
2199 directory:</p>
2200
2201 <pre>
2202 poll pop3.example.com proto pop3 uidl no dns
2203   user foobar@example.com password xyzzy is foobar ssl sslcertpath /etc/ssl/certs
2204 </pre>
2205
2206 <p>If the server certificate has not been signed by a known CA (e.g. it is a
2207 self-signed certificate), then this certificate validation will always
2208 fail.</p>
2209
2210 <p>Certificate verification is always attempted. If it fails, by default a
2211 warning is printed but the connection carries on (which means you are not
2212 protected against attack). If your server's certificate has been properly
2213 set up and verifies correctly, then add the "sslcertck" option to enforce
2214 validation. If your server doesn't have a valid certificate though (e.g. it
2215 has a self-signed certificate) then it will never verify, and the only way
2216 you can protect yourself is by checking the fingerprint.</p>
2217
2218 <p>To check the peer fingerprint: first use fetchmail -v once to connect to
2219 the host, at a time when you are pretty sure that there is no attack in
2220 progress (e.g. you are not traversing any untrusted network to reach the
2221 server). Make a note of the fingerprint shown. Now embed this in your
2222 .fetchmailrc using the sslfingerprint option: e.g.</p>
2223
2224 <pre>
2225 poll pop3.example.com proto pop3 uidl no dns
2226   user foobar@example.com password xyzzy is foobar ssl sslfingerprint "67:3E:02:94:D3:5B:C3:16:86:71:37:01:B1:3B:BC:E2"
2227 </pre>
2228
2229 <p>When you next connect, the public key presented by the server will be
2230 verified against the fingerprint given. If it's different, it may mean that
2231 a man-in-the-middle attack is in progress - or it might just mean that the
2232 server changed its key. It's up to you to determine which has happened.</p>
2233
2234 <hr/>
2235 <h2><a id="K6" name="K6">K6. How can I tell fetchmail not to use TLS
2236         if the server advertises it?</a></h2>
2237
2238 <p>Some servers advertise STLS (POP3) or STARTTLS (IMAP), and fetchmail
2239 will automatically attempt TLS negotiation if SSL was enabled at compile
2240 time.  This can however cause problems if the upstream didn't configure
2241 his certificates properly.</p>
2242
2243 <p>In order to prevent fetchmail from trying TLS (STLS, STARTTLS)
2244 negotiation, add this option:</p>
2245
2246 <pre>sslproto ssl23</pre>
2247
2248 <p>This restricts fetchmail's SSL/TLS protocol choice from the default
2249 "SSLv2, SSLv3, TLSv1" to the two SSL variants, disabling TLSv1. Note
2250 however that this causes the connection to be unencrypted unless an
2251 encrypting &quot;plugin&quot; is used or SSL is requested explicitly.</p>
2252
2253 <hr/>
2254 <h2><a id="R1" name="R1">R1. Fetchmail isn't working, and -v shows
2255 'SMTP connect failed' messages.</a></h2>
2256
2257 <p>Fetchmail itself is probably working, but your SMTP port 25
2258 listener is down or inaccessible.</p>
2259
2260 <p>The first thing to check is if you can telnet to port 25 on your
2261 smtp host (which is normally 'localhost' unless you've specified an
2262 smtp option in your .fetchmailrc or on the command line) and get a
2263 greeting line from the listener. If the SMTP host is inaccessible
2264 or the listener is down, fix that first.</p>
2265
2266 <p>In Red Hat Linux 6.x, SMTP is disabled by default. To fix this,
2267 set "DAEMON=yes" in your /etc/sysconfig/sendmail file, then restart
2268 sendmail by running "/sbin/service sendmail restart".</p>
2269
2270 <p>If the listener seems to be up when you test with telnet, the
2271 most benign and typical problem is that the listener had a
2272 momentary seizure due to resource exhaustion while fetchmail was
2273 polling it -- process table full or some other problem that stopped
2274 the listener process from forking. If your SMTP host is not
2275 'localhost' or something else in /etc/hosts, the fetchmail glitch
2276 could also have been caused by transient nameserver failure.</p>
2277
2278 <p>Try running fetchmail -v again; if it succeeds, you had one of
2279 these kinds of transient glitch. You can ignore these hiccups,
2280 because a future fetchmail run will get the mail through.</p>
2281
2282 <p>If the listener tests up, but you have chronic failures trying
2283 to connect to it anyway, your problem is more serious. One way to
2284 work around chronic SMTP connect problems is to use --mda. But this
2285 only attacks the symptom; you may have a DNS or TCP routing
2286 problem. You should really try to figure out what's going on
2287 underneath before it bites you some other way.</p>
2288
2289 <p>We have one report (from toby@eskimo.com) that you can sometimes
2290 solve such problems by doing an <code>smtp</code> declaration with
2291 an IP address that your routing table maps to something other than
2292 the loopback device (he used ppp0).</p>
2293
2294 <p>We also have a report that this error can be caused by having an
2295 /etc/hosts file that associates your client host name with more
2296 than one IP address.</p>
2297
2298 <p>It's also possible that your DNS configuration isn't looking at
2299 <code>/etc/hosts</code> at all. If you're using libc5, look at
2300 <code>/etc/resolv.conf</code>; it should say something like:</p>
2301
2302 <pre>
2303         order hosts,bind
2304 </pre>
2305
2306 <p>so your <code>/etc/hosts</code> file is checked first. If you're
2307 running GNU libc6, check your <code>/etc/nsswitch.conf</code> file.
2308 Make sure it says something like</p>
2309
2310 <pre>
2311         hosts:  files dns
2312 </pre>
2313
2314 <p>again, in order to make sure <code>/etc/hosts</code> is seen
2315 first.</p>
2316
2317 <p>If you have a hostname set for your machine, and this hostname
2318 does not appear in /etc/hosts, you will be able to telnet to port
2319 25 and even send a mail with rcpt to: user@host-not-in-/etc/hosts,
2320 but fetchmail can't seem to get in touch with sendmail, no matter
2321 what you set smtpaddress to.</p>
2322
2323 <p>We had another report from a Linux user of fetchmail 2.1 who
2324 solved his SMTP connection problem by removing the reference to
2325 -lresolv from his link line and relinking. Apparently in some older
2326 Linux distributions the libc bind library version works better.</p>
2327
2328 <p>As of 2.2, the configure script has been hacked so the bind
2329 library is linked only if it is actually needed. So under Linux it
2330 won't be, and this particular cause should go away.</p>
2331
2332 <hr/>
2333 <h2><a id="R2" name="R2">R2. When I try to configure an MDA,
2334 fetchmail doesn't work.</a></h2>
2335
2336 <p>(I hear this one from people who have run into the blank-line
2337 problem in <a href="#X1">X1</a>.)</p>
2338
2339 <p>Try sending yourself test mail and retrieving it using the
2340 command-line options '<code>-k -m cat</code>'. This will dump
2341 exactly what fetchmail retrieves to standard output (plus the
2342 Received line fetchmail itself adds to the headers).</p>
2343
2344 <p>If the dump doesn't match what shows up in your mailbox when you
2345 configure an MDA, your MDA is mangling the message. If it doesn't
2346 match what you sent, then fetchmail or something on the server is
2347 broken.</p>
2348
2349 <hr/>
2350 <h2><a id="R3" name="R3">R3. Fetchmail dumps core when given an
2351 invalid rc file.</a></h2>
2352
2353 <p>This is usually reported from AIX or Ultrix, but has even been
2354 known to happen on Linuxes without a recent version of
2355 <code>flex</code> installed. The problem appears to be a result of
2356 building with an archaic version of lex.</p>
2357
2358 <p>Workaround: fix the syntax of your .fetchmailrc file.</p>
2359
2360 <p>Fix: build and install the latest version of <a
2361 href="ftp://prep.ai.mit.edu/~ftp/pub/gnu">flex</a> from the Free
2362 Software Foundation. An FSF <a
2363 href="http://www.gnu.ai.mit.edu/order/ftp.html">mirror site</a>
2364 will help you get it faster.</p>
2365
2366 <hr/>
2367 <h2><a id="R4" name="R4">R4. Fetchmail dumps core in -V mode, but
2368 operates normally otherwise.</a></h2>
2369
2370 <p>We've had this reported to us under Linux using libc-5.4.17 and
2371 gcc-2.7.2. It does not occur with libc-5.3.12 or earlier
2372 versions.</p>
2373
2374 <p>Workaround: link with GNU malloc rather than the stock C library
2375 malloc.</p>
2376
2377 <p>We're told there is some problem with the malloc() code in that
2378 version which makes it fragile in the presence of multiple free()
2379 calls on the same pointer (the malloc arena gets corrupted).
2380 Unfortunately it appears from doing gdb traces that whatever free()
2381 calls producing the problem are being made by the C library itself,
2382 not the fetchmail code (they're all from within fclose, and not an
2383 fclose called directly by fetchmail, either).</p>
2384
2385 <hr/>
2386 <h2><a id="R5" name="R5">R5. Running fetchmail in daemon mode
2387 doesn't work.</a><br/>
2388 </h2>
2389
2390 <p>We have one report from a SunOS 4.1.4 user that trying to run
2391 fetchmail in detached daemon mode doesn't work, but that using the
2392 same options with -N (nodetach) is OK. We have another report of
2393 similar behavior from one Linux user, but many other Linux users
2394 reportt no problem.</p>
2395
2396 <p>If this happens, you have a specific portability problem with
2397 the code in daemon.c that detaches and backgrounds the daemon
2398 fetchmail. The isolated Linux case has been chased down to a
2399 failure in dup(2) that may reflect a glibc bug.</p>
2400
2401 <p>As a workaround, you can start fetchmail with -N and an
2402 ampersand to background it. A Sun user recommends this:</p>
2403
2404 <pre>
2405 (fetchmail --nodetach &lt;other params&gt; &amp;)
2406 </pre>
2407
2408 <p>The extra pair of parens is significant --- it makes sure that
2409 the process detaches from the initial shell (one more shell is
2410 started and dies immediately, detaching fetchmail and making it
2411 child of PID 1). This is important when you start fetchmail
2412 interactively and than quit interactive shell. The line above makes
2413 sure fetchmail lives after that!</p>
2414
2415 <hr/>
2416 <h2><a id="R6" name="R6">R6. Fetchmail randomly dies with socket
2417 errors.</a></h2>
2418
2419 <p>Check the MTU value in your PPP interface reported by
2420 <code>/sbin/ifconfig</code>. If it's over 600, change it in your
2421 PPP options file. (<code>/etc/ppp/options</code> on my box). Here
2422 are option values that work:</p>
2423
2424 <pre>
2425   mtu 552
2426   mru 552
2427 </pre>
2428
2429 <p>Another circumstance that can trigger this is if you are polling
2430 a virtual-mail-server name that is round-robin connected to
2431 different actual servers, so you get different IP addresses on
2432 different poll cycles. To work around this, change the poll name
2433 either to the real name of one of the servers in the ring or to a
2434 corresponding IP address.</p>
2435
2436 <hr/>
2437 <h2><a id="R7" name="R7">R7. Fetchmail running as root stopped
2438 working after an OS upgrade</a></h2>
2439
2440 <p>In RH 6.0, the HOME value in the boot-time root environment
2441 changed from /root to / as the result of a change in init. Move
2442 your .fetchmailrc or use a -f option to explicitly point at the
2443 file. (Oddly, a similar problem has been reported from Debian
2444 systems.)</p>
2445
2446 <hr/>
2447 <h2><a id="R8" name="R8">R8. Fetchmail is timing out after fetching
2448 certain messages but before deleting them</a></h2>
2449
2450 <p>There's a TCP/IP stalling problem under Redhat 6.0 (and possibly
2451 other recent Linuxes) that can cause this symptom. Brian Boutel
2452 writes:</p>
2453
2454 <blockquote>
2455 <p>TCP timestamps are turned on on my Linux boxes (I assume it's
2456 now the default). This uses 12 extra bytes per segment. When the
2457 tcp connection starts, the other end agrees a MSS of 1460, and then
2458 fragments 1460 byte chunks into 1448 and 12, because is is not
2459 allowing for the timestamp.</p>
2460
2461 <p>Then, for reasons I can't explain, it waits a long time
2462 (typically 2 minutes) after the ack is sent before sending the next
2463 (fragmented) packet. Turning off tcp timestamps avoids the
2464 fragmentation and restores normal behaviour. To do this,
2465 [execute]</p>
2466
2467 <p>echo 0 &gt; /proc/sys/net/ipv4/tcp_timestamps</p>
2468
2469 <p>I'm still unclear about the details of why this is happening. At
2470 least [now] I am now getting good performance and no queue
2471 blocking.</p>
2472 </blockquote>
2473
2474 <hr/>
2475 <h2><a id="R9" name="R9">R9. Fetchmail is timing out during message
2476 fetches</a></h2>
2477
2478 <p>This is probably a general networking issue. Sending a "RETR"
2479 command will cause the server to start sending large amounts of
2480 data, which means large packets. If your networking layer has a
2481 packet-fragmentation problem, that's where you'll see it.</p>
2482
2483 <hr/>
2484 <h2><a id="R10" name="R10">R10. Fetchmail is dying with
2485 SIGPIPE.</a></h2>
2486
2487 <p>This probably means you have an <code>mda</code> option. Your
2488 MDA is croaking while being passed a message. Best fix is to remove
2489 the <code>mda</code> option and pass mail to your port 25 SMTP
2490 listener.</p>
2491
2492 <p>If for some reason you are invoking sendmail via the
2493 <tt>mda</tt> option (rather than delivering to port 25 via smtp),
2494 don't forget to include the -i switch. Otherwise you will
2495 occasionally get mysterious delivery failures with a SIGPIPE as the
2496 sendmail instance dies. The problem is messages with a single dot
2497 at start of a text line.</p>
2498
2499 <hr/>
2500 <h2><a id="R11" name="R11">R11. My server is hanging or emitting
2501 errors on CAPA.</a></h2>
2502
2503 <p>Your POP3 server is broken. You can work around this with the
2504 declaration <tt>auth password</tt> in your .fetchmailrc.</p>
2505
2506 <hr/>
2507 <h2><a id="R12" name="R12">R12. Fetchmail isn't working and reports
2508         getaddrinfo errors.</a></h2>
2509 <ol><li>Make sure you haven't mistyped the host name or address, and that
2510     your DNS is working. If you cannot fix DNS, give the numeric host
2511     literal, for instance, 192.168.0.1</li>
2512     <li>Make sure your <code>/etc/services</code> file (or other
2513     services database) contains the necessary service entries. If you
2514     cannot fix the services database, use the --port option and give the
2515     numeric port address. Common port addresses
2516     are:<table>
2517         <tr><th>service</th><th>port</th></tr>
2518         <tr><td>IMAP</td><td>143</td></tr>
2519         <tr><td>IMAP+SSL</td><td>993</td></tr>
2520         <tr><td>POP3</td><td>110</td></tr>
2521         <tr><td>POP3+SSL</td><td>995</td></tr>
2522 </table></li></ol>
2523 <hr/>
2524 <h2><a id="H1" name="H1">H1. Fetchmail hangs when used with
2525 pppd.</a></h2>
2526
2527 <p>Your problem may be with pppd's 'demand' option. We have a
2528 report that fetchmail doesn't play well with it, but works with
2529 pppd if 'demand' is turned off. We have no idea why this is.</p>
2530
2531 <hr/>
2532 <h2><a id="H2" name="H2">H2. Fetchmail hangs during the MAIL FROM
2533 exchange.</a></h2>
2534
2535 <p>The symptom: 'fetchmail -v' retrieves mail fine, but appears to
2536 hang after sending the MAIL FROM command</p>
2537
2538 <pre>
2539 SMTP&gt; MAIL FROM: &lt;someone@somewhere&gt;
2540 </pre>
2541
2542 <p>The hang is actually occuring when sendmail looks up a sender's
2543 address in DNS. The problem isn't in fetchmail but in the
2544 configuration of sendmail. You must enable the 'nodns' and
2545 'nocanonify' features of sendmail.</p>
2546
2547 <p>Here was my fix for RedHat 7.2:</p>
2548
2549 <ol>
2550 <li># cd /etc/mail</li>
2551
2552 <li># cp sendmail.mc sendmail-mine.mc</li>
2553
2554 <li>Edit sendmail-mine.mc and add lines: 
2555
2556 <pre>
2557    FEATURE(nodns)
2558    FEATURE(nocanonify)
2559 </pre>
2560 </li>
2561
2562 <li>Build a new sendmail.cf 
2563
2564 <pre>
2565    # m4 sendmail-mine.cf &gt; /etc/sendmail.cf
2566 </pre>
2567 </li>
2568
2569 <li>Restart sendmail.</li>
2570 </ol>
2571
2572 <p>For more details consult the file
2573 /usr/share/sendmail-cf/README.</p>
2574
2575 <hr/>
2576 <h2><a id="H3" name="H3">H3. Fetchmail hangs while fetching
2577 mail.</a></h2>
2578
2579 <p>The symption: 'fetchmail -v' retrieves the first few messages,
2580 but hangs returning:</p>
2581
2582 <pre>
2583  fetchmail: SMTP&lt; 550 5.0.0 Access denied
2584  fetchmail: SMTP&gt; RSET
2585  fetchmail: SMTP&lt; 250 2.0.0 Reset state
2586  .......fetchmail:  flushed
2587  fetchmail: POP3&gt; DELE 1
2588  fetchmail: POP3&lt; +OK marked deleted
2589 </pre>
2590
2591 <p>Check and see if you're allowing sendmail connections through
2592 TCP wrappers.</p>
2593
2594 <p>Adding 'sendmail : 127.0.0.1' to /etc/hosts.allow could solve
2595 this problem.</p>
2596
2597 <hr/>
2598 <h2><a id="D1" name="D1">D1. I think I've set up fetchmail
2599 correctly, but I'm not getting any mail.</a></h2>
2600
2601 <p>Maybe you have a .forward or alias set up that you've forgotten
2602 about. You should probably remove it.</p>
2603
2604 <p>Or maybe you're trying to run fetchmail in multidrop mode as
2605 root without a .fetchmailrc file. This doesn't do what you think it
2606 should; see question <a href="#C1">C1</a>.</p>
2607
2608 <p>Or you may not be connecting to the SMTP listener. Run fetchmail
2609 -v and see <a href="#R1">R1</a>.</p>
2610
2611 <p>Or you may have your local user set incorrectly. In the
2612 following line</p>
2613
2614 <pre>
2615         user 'remoteuser' there with password '*' is 'localuser' here
2616 </pre>
2617
2618 <p>make sure that 'localuser' does exist and can receive mail.</p>
2619
2620 <hr/>
2621 <h2><a id="D2" name="D2">D2. All my mail seems to disappear after a
2622 dropped connection.</a></h2>
2623
2624 <p>One POP3 daemon used in the Berkeley Unix world that reports
2625 itself as POP3 version 1.004 actually throws the queue away. 1.005
2626 fixed that. If you're running this one, upgrade immediately. (It
2627 also truncates long lines at column 1024)</p>
2628
2629 <p>Many POP servers, if an interruption occurs, will restore the
2630 whole mail queue after about 10 minutes. Others will restore it
2631 right away. If you have an interruption and don't see it right
2632 away, cross your fingers and wait ten minutes before retrying.</p>
2633
2634 <p>Some servers (such as Microsoft's NTMail) are mis-designed to
2635 restore the entire queue, including messages you have deleted. If
2636 you have one of these and it flakes out on you a lot, try setting a
2637 small <code>--fetchlimit</code> value. This will result in more IP
2638 connects to the server, but will mean it actually executes changes
2639 to the queue more often.</p>
2640
2641 <p>Qualcomm's qpopper, used at many BSD Unix sites, is better
2642 behaved. If its connection is dropped, it will first execute all
2643 DELE commands as though you had issued a QUIT (this is a technical
2644 violation of the POP3 RFCs, but a good idea in a world of flaky
2645 phone lines). Then it will re-queue any message that was being
2646 downloaded at hangup time. Still, qpopper may require a noticeable
2647 amount of time to do deletions and clean up its queue. (Fetchmail
2648 waits a bit before retrying in order to avoid a 'lock busy'
2649 error.)</p>
2650
2651 <hr/>
2652 <h2><a id="D3" name="D3">D3. Mail that was being fetched when I
2653 interrupted my fetchmail seems to have been vanished.</a></h2>
2654
2655 <p>Fetchmail only sends a delete mail request to the server when
2656 either (a) it gets a positive delivery acknowledgment from the SMTP
2657 listener, or (b) it gets one of the spam-filter errors (see the
2658 description of the <code>antispam&gt;</code> option) from the
2659 listener. No interrupt can cause it to lose mail.</p>
2660
2661 <p>However, IMAP2bis has a design problem in that its normal fetch
2662 command marks a message 'seen' as soon as the fetch command to get
2663 it is sent down. If for some reason the message isn't actually
2664 delivered (you take a line hit during the download, or your port 25
2665 listener can't find enough free disk space, or you interrupt the
2666 delivery in mid-message) that 'seen' message can lurk invisibly in
2667 your server mailbox forever.</p>
2668
2669 <p>Workaround: add the '<code>fetchall</code>' keyword to your
2670 fetch options.</p>
2671
2672 <p>Solution: switch to an <a href="http://www.imap.org">IMAP4</a>
2673 server.</p>
2674
2675 <hr/>
2676 <h2><a id="M1" name="M1">M1. I've declared local names, but all my
2677 multidrop mail is going to root anyway.</a></h2>
2678
2679 <p>Somehow your fetchmail is never recognizing the hostname part of
2680 recipient names it parses out of To/Cc/envelope-header lines as
2681 matching the name of the mailserver machine. To check this, run
2682 fetchmail in foreground with -v -v on. You will probably see a lot
2683 of messages with the format "line rejected, %s is not an alias of
2684 the mailserver" or "no address matches; forwarding to %s."</p>
2685
2686 <p>These errors usually indicate some kind of DNS configuration
2687 problem either on the server or your client machine.</p>
2688
2689 <p>The easiest workaround is to add a '<code>via</code>' option (if
2690 necessary) and add enough aka declarations to cover all of your
2691 mailserver's aliases, then say '<code>no dns</code>'. This will
2692 take DNS out of the picture (though it means mail may be
2693 uncollected if it's sent to an alias of the mailserver that you
2694 don't have listed).</p>
2695
2696 <p>It would be better to fix your DNS, however. DNS problems can
2697 hurt you in lots of ways, for example by making your machines
2698 intermittently or permanently unreachable to the rest of the
2699 net.</p>
2700
2701 <p>Occasionally these errors indicate the sort of header-parsing
2702 problem described in <a href="#M7">M7</a>.</p>
2703
2704 <hr/>
2705 <h2><a id="M2" name="M2">M2. I can't seem to get fetchmail to route
2706 to a local domain properly.</a></h2>
2707
2708 <p>A lot of people want to use fetchmail as a poor man's
2709 internetwork mail gateway, picking up mail accumulated for a whole
2710 domain in a single server mailbox and then routing based on what's
2711 in the To/Cc/Bcc lines.</p>
2712
2713 <p>In general, this is not really a good idea. It would be smarter
2714 to just let the mail sit in the mailserver's queue and use
2715 fetchmail's ETRN or ODMR modes to trigger SMTP sends periodically
2716 (of course, this means you have to poll more frequently than the
2717 mailserver's expiration period). If you can't arrange this, try
2718 setting up a UUCP feed.</p>
2719
2720 <p>If neither of these alternatives is available, multidrop mode
2721 may do (though you <em>are</em> going to get hurt by some mailing
2722 list software; see the caveats under THE USE AND ABUSE OF MULTIDROP
2723 MAILBOXES on the man page). If you want to try it, the way to do it
2724 is with the '<code>localdomains</code>' option.</p>
2725
2726 <p>In general, if you use localdomains you need to make sure of two
2727 other things:</p>
2728
2729 <p><strong>1. You've actually set up your .fetchmailrc entry to
2730 invoke multidrop mode.</strong></p>
2731
2732 <p>Many people set a '<code>localdomains</code>' list and then
2733 forget that fetchmail wants to see more than one name (or the
2734 wildcard '*') in a '<code>here</code>' list before it will do
2735 multidrop routing.</p>
2736
2737 <p><strong>2. You may have to set 'no envelope'.</strong></p>
2738
2739 <p>Normally, multidrop mode tries to deduce an envelope address
2740 from a message before parsing the To/Cc/Bcc lines (this enables it
2741 to avoid losing to mailing list software that doesn't put a
2742 recipient address in the To lines).</p>
2743
2744 <p>Some ways of accumulating a whole domain's messages in a single
2745 server mailbox mean it all ends up with a single envelope address
2746 that is useless for rerouting purposes. You may have to set
2747 '<code>no envelope</code>' to prevent fetchmail from being
2748 bamboozled by this.</p>
2749
2750 <p>Check also answer <a href="#T1">T1</a> on a reliable way to do
2751 multidrop delivery if your ISP (or your mail redirection provider)
2752 is using qmail.</p>
2753
2754 <hr/>
2755 <h2><a id="M3" name="M3">M3. I tried to run a mailing list using
2756 multidrop, and I have a mail loop!</a></h2>
2757
2758 <p>This isn't fetchmail's fault. Check your mailing list. If the
2759 list expansion includes yourself or anybody else at your mailserver
2760 (that is, not on the client side) you've created a mail loop. Just
2761 chop the host part off any local addresses in the list.</p>
2762
2763 <p>If you use sendmail, you can check the list expansion with
2764 <code>sendmail -bv</code>.</p>
2765
2766 <hr/>
2767 <h2><a id="M4" name="M4">M4. My multidrop fetchmail seems to be
2768 having DNS problems.</a></h2>
2769
2770 <p>We have one report from a Linux user (not the same one as in <a
2771 href="#R1">R1</a>!) who solved this problem by removing the
2772 reference to -lresolv from his link line and relinking. Apparently
2773 in some older Linux distributions the libc5 bind library version
2774 works better.</p>
2775
2776 <p>As of 2.2, the configure script has been hacked so the bind
2777 library is linked only if it is actually needed. So under Linux it
2778 won't be, and this problem should go away.</p>
2779
2780 <hr/>
2781 <h2><a id="M5" name="M5">M5. I'm seeing long DNS delays before each
2782 message is processed.</a></h2>
2783
2784 <p>Use the '<code>aka</code>' option to pre-declare as many of your
2785 mailserver's DNS names as you can. When an address's host part
2786 matches an aka name, no DNS lookup needs to be done to check
2787 it.</p>
2788
2789 <p>If you're sure you've pre-declared all of your mailserver's DNS
2790 names, you can use the '<code>no dns</code>' option to prevent
2791 other hostname parts from being looked up at all.</p>
2792
2793 <p>Sometimes delays are unavoidable. Some SMTP listeners try to
2794 call DNS on the From-address hostname as a way of checking that the
2795 address is valid.</p>
2796
2797 <hr/>
2798 <h2><a id="M6" name="M6">M6. How do I get multidrop mode to work
2799 with majordomo?</a></h2>
2800
2801 <p>In order for sendmail to execute the command strings in the
2802 majordomo alias file, it is necessary for sendmail to think that
2803 the mail it receives via SMTP really is destined for a local user
2804 name. A normal virtual-domain setup results in delivery to the
2805 default mailbox, rather than expansion through majordomo.</p>
2806
2807 <p>Michael &lt;michael@bizsystems.com&gt; gave us a recipe for
2808 dealing with this case that pairs a run control file like this:</p>
2809
2810 <pre>
2811 poll your.pop3.server proto pop3:
2812     no envelope no dns
2813     localdomains virtual.localdomain1.com virtual.localdomain2.com ...
2814     user yourISPusername is root * here,
2815     password yourISPpassword fetchall
2816 </pre>
2817
2818 <p>with a hack on your local sendmail.cf like this:</p>
2819
2820 <pre>
2821 #############################################
2822 #  virtual info, local hack for ruleset 98  #
2823 #############################################
2824
2825 # domains to treat as direct mapped local domain
2826
2827 CVvirtual.localdomain1.com virtual.localdomain2.com ...
2828 ---------------------------
2829 in ruleset 98 add
2830 -------------------------
2831 # handle virtual users
2832
2833 R$+ &lt;@ $=V . &gt;          $: $1 &lt; @ $j . &gt;
2834 R&lt; @ &gt; $+ &lt; @ $=V . &gt;   $: $1 &lt; @ $j . &gt;
2835 R&lt; @ &gt; $+               $: $1
2836 R&lt; error : $- $+ &gt; $*   $#error $@ $1 $: $2
2837 R&lt; $+ &gt; $+ &lt; @ $+ &gt;     $: $&gt;97 $1
2838 </pre>
2839
2840 <p>This ruleset just strips virtual domain names off the addresses
2841 of incoming mail. Your sendmail must be 8.8 or newer for this to
2842 work. Michael says:</p>
2843
2844 <blockquote>I use this scheme with 2 virtual domains and the
2845 default ISP user+domain and service about 30 mail accounts +
2846 majordomo on my inside pop3 server with fetchmail and sendmail
2847 8.83</blockquote>
2848
2849 <hr/>
2850 <h2><a id="M7" name="M7">M7. Multidrop mode isn't parsing envelope
2851 addresses from my Received headers as it should.</a></h2>
2852
2853 <p>It may happen that you're getting what appear to be well-formed
2854 sendmail Received headers, but fetchmail can't seem to extract an
2855 envelope address from them. There can be a couple of reasons for
2856 this.</p>
2857
2858 <h3>Spurious Received lines need to be skipped:</h3>
2859
2860 <p>First, fetchmail might be looking at the wrong Received header.
2861 Normally it looks only on the first one it sees, on the theory that
2862 that one was last added and is going to be the one containing your
2863 mailserver's theory of who the message was addressed to.</p>
2864
2865 <p>Some (unusual) mailserver configurations will generate extra
2866 Received lines which you need to skip. To arrange this, use the
2867 optional skip prefix argument of the 'envelope' option; you may
2868 need to say something like '<code>envelope 1 Received</code>' or
2869 '<code>envelope 2 Received</code>'.</p>
2870
2871 <h3>The 'by' clause doesn't contain a mailserver alias:</h3>
2872
2873 <p>When fetchmail parses a Received line that looks like</p>
2874
2875 <pre>
2876 Received: from send103.yahoomail.com (send103.yahoomail.com [205.180.60.92])
2877     by iserv.ttns.net (8.8.5/8.8.5) with SMTP id RAA10088
2878     for &lt;ksturgeon@fbceg.org&gt;; Wed, 9 Sep 1998 17:01:59 -0700
2879 </pre>
2880
2881 <p>it checks to see if 'iserv.ttns.net' is a DNS alias of your
2882 mailserver before accepting 'ksturgeon@fbceg.org' as an envelope
2883 address. This check might fail if your DNS were misconfigured, or
2884 if you were using 'no dns' and had failed to declare iserv.ttns.net
2885 as an alias of your server.</p>
2886
2887 <hr/>
2888 <h2><a id="M8" name="M8">M8. Users are getting multiple copies of
2889 messages.</a></h2>
2890
2891 <p>It's a consequence of multidrop. What's happening is that you
2892 have N users subscribed to the same list. The list software sends N
2893 copies, not knowing they will end up in the same multidrop box.
2894 Since they are both locally addressed to all N users, fetchmail
2895 delivers N copies to each user.</p>
2896
2897 <p>Fetchmail tries to eliminate adjacent duplicate messages in a
2898 multidrop mailbox. However, this logic depends on the message-ID
2899 being identical in both copies. It also depends on the two copies
2900 being adjacent in the server mailbox. The former is usually the
2901 case, but the latter condition sometimes fails in a
2902 timing-dependent way if the server was processing multiple incoming
2903 mail streams.</p>
2904
2905 <p>I could eliminate this problem by keeping a list of all
2906 message-IDs received during a poll so far and dropping any message
2907 that matches a seen mail ID. The trouble is that this is an O(N**2)
2908 operation that might significantly slow down the retrieval of large
2909 mail batches.</p>
2910
2911 <hr/>
2912 <h2><a id="X1" name="X1">X1. Spurious blank lines are appearing in
2913 the headers of fetched mail.</a></h2>
2914
2915 <p>What's probably happening is that the POP/IMAP daemon on your
2916 mailserver is inserting a non-RFC822 header (like X-POP3-Rcpt:) and
2917 something in your delivery path (most likely an old version of the
2918 <em>deliver</em> program, which sendmail often calls to do local
2919 delivery) is failing to recognize it as a header.</p>
2920
2921 <p>This is not fetchmail's problem. The first thing to try is
2922 installing a current version of <em>deliver</em>. If this doesn't
2923 work, try to figure out which other program in your mail path is
2924 inserting the blank line and replace that. If you can't do either
2925 of these things, pick a different MDA (such as procmail) and
2926 declare it with the '<code>mda</code>' option.</p>
2927
2928 <hr/>
2929 <h2><a id="X2" name="X2">X2. My mail client can't see a Subject
2930 line.</a></h2>
2931
2932 <p>First, see <a href="#X1">X1</a>. This is quite probably the same
2933 problem (X-POP3-Rcpt header or something similar being inserted by
2934 the server and choked on by an old version of
2935 <em>deliver</em>).</p>
2936
2937 <p>The O'Reilly sendmail book does warn that IDA sendmail doesn't
2938 process X- headers correctly. If this is your problem, all I can
2939 suggest is replacing IDA sendmail, because it's broken and not
2940 RFC822 conformant.</p>
2941
2942 <hr/>
2943 <h2><a id="X3" name="X3">X3. Messages containing "From" at start of
2944 line are being split.</a></h2>
2945
2946 <p>If you know the messages aren't split in your server mailbox,
2947 then this is a problem with your POP/IMAP server, your client-side
2948 SMTP listener or your local delivery agent. Fetchmail cannot split
2949 messages.</p>
2950
2951 <p>Some POP server daemons ignore Content-Length headers and split
2952 messages on From lines. We have one report that the 2.1 version of
2953 the BSD popper program (as distributed on Solaris 2.5 and
2954 elsewhere) is broken this way.</p>
2955
2956 <p>You can test this. Declare an mda of 'cat' and send yourself one
2957 piece of mail containing "From" at start of a line. If you see a
2958 split message, your POP/IMAP server is at fault. Upgrade to a more
2959 recent version.</p>
2960
2961 <p>Sendmail and other SMTP listeners don't split RFC822 messages
2962 either. What's probably happening is either sendmail's local
2963 delivery agent or your mail reader are not quite RFC822-conformant
2964 and are breaking messages on what it thinks are Unix-style From
2965 headers. You can figure out which by looking at your client-side
2966 mailbox with vi or more. If the message is already split in your
2967 mailbox, your local delivery agent is the problem. If it's not,
2968 your mailreader is the problem.</p>
2969
2970 <p>If you can't replace the offending program, take a look at your
2971 sendmail.cf file. There will likely be a line something like</p>
2972
2973 <pre>
2974 Mlocal, P=/usr/bin/procmail, F=lsDFMShP, S=10, R=20/40, A=procmail -Y -d $u
2975 </pre>
2976
2977 <p>describing your local delivery agent. Try inserting the 'E'
2978 option in the flags part (the F= string). This will make sendmail
2979 turn each dangerous start-of-line From into a &gt;From, preventing
2980 programs further downstream from acting up.</p>
2981
2982 <hr/>
2983 <h2><a id="X4" name="X4">X4.</a><a id="generic_mangling"
2984 name="generic_mangling">My mail is being mangled in a new and
2985 different way</a></h2>
2986
2987 <p>The first thing you need to do is pin down what program is doing
2988 the mangling. We don't like getting bug reports about fetchmail
2989 that are actually due to some other program's malfeasance, so
2990 please go through this diagnostic sequence before sending us a
2991 complaint.</p>
2992
2993 <p>There are five possible culprits to consider, listed here in the
2994 order they pass your mail:</p>
2995
2996 <ol>
2997 <li>Programs upstream of your server mailbox.</li>
2998
2999 <li>The POP or IMAP server on your mailserver host.</li>
3000
3001 <li>The fetchmail program itself.</li>
3002
3003 <li>Your local sendmail.</li>
3004
3005 <li>Your LDA (local delivery agent), as called by sendmail or
3006 specified by <code>mda</code>.</li>
3007 </ol>
3008
3009 <p>Often it happens that fetchmail itself is OK, but using it
3010 exposes pre-existing bugs in your downstream software, or your
3011 downstream software has a bad interaction with POP/IMAP. You need
3012 to pin down exactly where the message is being garbled in order to
3013 deduce what is actually going on.</p>
3014
3015 <p>The first thing to do is send yourself a test message, and
3016 retrieve it with a .fetchmailrc entry containing the following (or
3017 by running with the equivalent command-line options):</p>
3018
3019 <pre>
3020     mda "cat &gt;MBOX" keep fetchall
3021 </pre>
3022
3023 <p>This will capture what fetchmail gets from the server, except
3024 for (a) the extra Received header line fetchmail prepends, (b)
3025 header address changes due to <code>rewrite</code>, and (c) any
3026 end-of-line changes due to the <code>forcecr</code> and
3027 <code>stripcr</code> options. MBOX will in fact contain what
3028 programs downstream of fetchmail see.</p>
3029
3030 <p>The most common causes of mangling are bugs and
3031 misconfigurations in those downstream programs. If MBOX looks
3032 unmangled, you will know that is what is going on and that it is
3033 not fetchmail's problem. Take a look at the other FAQ items in this
3034 section for possible clues about how to fix your problem.</p>
3035
3036 <p>If MBOX looks mangled, the next thing to do is compare it with
3037 your actual server mailbox (if possible). That's why you specified
3038 <code>keep</code>, so the server copy would not be deleted. If your
3039 server mailbox looks mangled, programs upstream of your server
3040 mailbox are at fault. Unfortunately there is probably little you
3041 can do about this aside from complaining to your site postmaster,
3042 and nothing at all fetchmail can do about it!</p>
3043
3044 <p>More likely you'll find that the server copy looks OK. In that
3045 case either the POP/IMAP server or fetchmail is doing the mangling.
3046 To determine which, you'll need to telnet to the server port and
3047 simulate a fetchmail session yourself. This is not actually hard
3048 (both POP3 and IMAP are simple, text-only, line-oriented protocols)
3049 but requires some attention to detail. You should be able to use a
3050 fetchmail -v log as a model for a session, but remember that the
3051 "*" in your LOGIN or PASS command dump has to be replaced with your
3052 actual password.</p>
3053
3054 <p>The objective of manually simulating fetchmail is so you can see
3055 exactly what fetchmail sees. If you see a mangled message, then
3056 your server is at fault, and you probably need to complain to your
3057 mailserver administrators. However, we like to know what the broken
3058 servers are so we can warn people away from them. So please send us
3059 a transcript of the session including the mangling <em>and the
3060 server's initial greeting line</em>. Please tell us anything else
3061 you think might be useful about the server, like the server host's
3062 operating system.</p>
3063
3064 <p>If your manual fetchmail simulation shows an unmangled message,
3065 congratulations. You've found an actual fetchmail bug, which is a
3066 pretty rare thing these days. Complain to us and we'll fix it.
3067 Please include the session transcript of your manual fetchmail
3068 simulation along with the other things described in the FAQ entry
3069 on <a href="#G3">reporting bugs</a>.</p>
3070
3071 <hr/>
3072 <h2><a id="X5" name="X5">X5. Using POP3, retrievals seems to be
3073 fetching too much!</a></h2>
3074
3075 <p>This may happen in versions of fetchmail after 4.4.1 and before
3076 4.4.8. Versions after 4.4.1 use POP3's TOP command rather than
3077 RETR, in order to avoid marking the message seen (leaving it unseen
3078 is helpful for later recovery if you lose your connection in the
3079 middle of a retrieval).</p>
3080
3081 <p>Versions of fetchmail from 4.4.2 through 4.4.7 had a bad
3082 interaction with Eudora qpopper versions 2.3 and later. The TOP
3083 bounds check was fooled by an overflow condition in the TOP
3084 argument. Decrementing the TOP argument in 4.4.7 fixed this.</p>
3085
3086 <p>Fix: Upgrade to a later version of fetchmail.</p>
3087
3088 <p>Workaround: set the <code>fetchall</code> option. Under POP3
3089 this has the side effect of forcing RETR use.</p>
3090
3091 <hr/>
3092 <h2><a id="X6" name="X6">X6. My mail attachments are being dropped
3093 or mangled.</a></h2>
3094
3095 <p>Fetchmail doesn't discard attachments; fetchmail doesn't have any idea
3096 that attachments are there.  Fetchmail treats the body of each message as
3097 an uninterpreted byte stream and passes it through without alteration.
3098 If you are not receiving attachments through fetchmail, it is because 
3099 your mailserver is not sending them to you.</p>
3100
3101 <p>The fix for this is to replace your mailserver with one that works.
3102 If its operating system makes this difficult, you should replace its
3103 operating system with one that works. Windows- and NT-based POP servers
3104 seem especially prone to mangle attachments. If you are running one
3105 of these, replacing your server with a Unix machine is probably the
3106 only effective solution.</p>
3107
3108 <p>We've had sporadic reports of problems with Microsoft Exchange and 
3109 Outlook servers.  These sometimes randomly fail to ship 
3110 attachments to your client.  This is a known bug, acknowledged by
3111 Microsft.</p>
3112
3113 <p>They may also mangle the attachments they do pass through.  If you
3114 see unreadable attachments with a ContentType of "application/x-tnef",
3115 you're having this problem.  The <a
3116 href="http://world.std.com/~damned/software.html">TNEF</a> utility may
3117 help.</p>
3118
3119 <p>The Mail Max POP3 server and the InterChange and Imail IMAP
3120 servers are known to simply drop MIME attachments when uploading
3121 messages.</p>
3122
3123 <p>We've also had a report that Lotus Notes sometimes trashes the
3124 MIME type of messages. In particular, it seems to modify MIME
3125 headers of type application/pdf, mangling the type to
3126 application/octet-stream. It may corrupt other MIME types as
3127 well.</p>
3128
3129 <p>The IMAP service of Lotus Domino has a known bug in the way it
3130 generates MIME Content-type headers (observed on Lotus Domino
3131 5.0.2b). It's a subtle one that doesn't show up when Netscape
3132 Messenger and other clients use a FETCH BODY[] to grab the whole
3133 message. When fetchmail uses FETCH RFC822.HEADER and FETCH
3134 RFC822.TEXT to get first the header and then the body, Domino
3135 generates different Boundary tags for each part, .e.g. one tag is
3136 declared in the Content-type header and another is used to separate
3137 the MIME parts in the body. This doesn't work. (I have heard a
3138 rumor that this bug is scheduled to be fixed in Domino release 6;
3139 you can find a workaround at contrib/domino.)</p>
3140
3141 <p>Rob Funk explains: Unfortunately there also remain many mail
3142 user agents that don't write correct MIME messages. One big
3143 offender is Sun MailTool attachments, which are formatted enough
3144 like MIME that some programs could get confused; these are
3145 generated by the mailtool and dtmail programs (the mail programs in
3146 Sun's OpenWindows and CDE environments).</p>
3147
3148 <p>One solution to problems related to misformatted MIME
3149 attachments is the <a
3150 href="ftp://ftp.uu.se/pub/unix/networking/mail/emil/">emil</a>
3151 program; see its <a
3152 href="ftp://ftp.uu.se/pub/unix/networking/mail/emil/TUTORIAL.html">tutorial</a>
3153 file at that site for details on emil. It is useful for converting
3154 character sets, attachment encodings, and attachment formats. At
3155 this writing, emil does not appear to have been maintained since a
3156 patch to version 2.1.0beta9 in late 1997, but it is still
3157 useful.</p>
3158
3159 <p>One good way of using emil is from within procmail. You can have
3160 procmail look for signs of problematic message formatting, and pipe
3161 those messages through emil to be fixed. emil will not always be
3162 able to fix the problem, in which case the message is
3163 unchanged.</p>
3164
3165 <p>A possible rule to be inserted into a .procmailrc file for using
3166 emil would be:</p>
3167
3168 <pre>
3169 :0HB
3170 * 1^1 ^Content-Type: \/X-sun[^;]*
3171 * 1^1 ^Content-Type: \/application/mac-binhex[^;]*
3172 * 1^1 ^Content-Transfer-Encoding: \/x-binhex[^;]*
3173 * 1^1 ^Content-Transfer-Encoding: \/x-uuencode[^;]*
3174 {
3175   LOG="Converting $MATCH
3176 "
3177   :0fw
3178   | emil -A B -T Q -B BA -C iso-8859-1 -H Q -F MIME \
3179   | gawk '{gsub(/\r\n?/,"\n");print $0}'
3180 }
3181 </pre>
3182
3183 <p>The "1^1" in the conditions is a way of specifying to procmail
3184 that if any one of the four listed expressions is found in the
3185 message, the total condition is considered true, and the message
3186 gets passed into emil. These four subconditions check whether the
3187 message has a Sun attachment, a binhex attachment, or a uuencoded
3188 attachment; there are others that could be added to check these
3189 things better and to check other relevant conditions. The "LOG="
3190 line writes a line into the procmail log; the lone double-quote
3191 beginning the following line makes sure the log entry gets an
3192 end-of-line character. The call to gawk (GNU awk) is for fixing
3193 end-of-line conventions, since emil sometimes leaves those in the
3194 format of the originating machine; it could probably be replaced
3195 with a sed subsitution.</p>
3196
3197 <p>The emil call itself tries to ensure that the message uses:</p>
3198
3199 <ul>
3200 <li>BinHex encoding for any Apple Macintosh-only attachments</li>
3201
3202 <li>Quoted-Printable encoding for text (when necessary)</li>
3203
3204 <li>Base64 Encoding for binary attachments</li>
3205
3206 <li>iso-8859-1 character set for text (unfortunately emil can't yet
3207 convert from windows-1252 to iso-8859-1)</li>
3208
3209 <li>Quoted-Printable encoding for headers</li>
3210
3211 <li>MIME attachment format</li>
3212 </ul>
3213
3214 <p>Most of these (the primary exceptions being the character set
3215 and the Apple binary format) are as they should be for good
3216 internet interoperability.</p>
3217
3218 <p>Some mail servers (Lotus Domino is a suspect here) mangle
3219 Sun-formatted messages, so the conversion to MIME needs to happen
3220 before such programs see the message. The ideal is to rid the world
3221 of Sun-formatted messages: don't use mailtool for sending
3222 attachments (it doesn't understand MIME anyway, and most of the
3223 world doesn't understand its attachments, so it really shouldn't be
3224 used at all), and make sure dtmail is set to use MIME rather than
3225 mailtool's format.</p>
3226
3227 <hr/>
3228 <h2><a id="X7" name="X7">X7. Some mail attachments are hanging
3229 fetchmail.</a></h2>
3230
3231 <p>This isn't fetchmail's problem either; fetchmail doesn't know
3232 anything about mail attachments and doesn't treat them any
3233 differently from plain message data.</p>
3234
3235 <p>The most usual cause of this problem seems to be bugs in your
3236 network transport layer's capability to handle the very large
3237 TCP/IP packets that attachments tend to turn into. You can test
3238 this theory by trying to download the offending message through a
3239 webmail account; using HTTP for the message tends to simulate
3240 large-packet stress rather well, and you will probably find that
3241 the messages that seem to be choking fetchmail will make your HTTP
3242 download speed drop to zero.</p>
3243
3244 <p>This problem can be caused by subtle bugs in the
3245 packet-reassembly layer of your TCP/IP stack; these often don't
3246 manifest at normal packet sizes. It may also be caused by
3247 malfunctioning path-MTU discovery on the mailserver. Or, if there's
3248 a modem in the link, it may be because the attachment contains the
3249 Hayes mode escape "+++".</p>
3250
3251 <hr/>
3252 <h2><a id="X8" name="X8">X8. A spurious ) is being appended to my
3253 messages.</a></h2>
3254
3255 <p>Blame it on that rancid pile of dung and offal called Microsoft
3256 Exchange. Due to the problem described in <a href="#S2">S2</a>, the
3257 IMAP support in fetchmail cannot follow the IMAP protocol 100%.
3258 Most of the time it doesn't matter, but if you combine it with an
3259 SMTP server that behaves unusually, you'll get a spurious ) at
3260 message end.</p>
3261
3262 <p>One piece of software that can trigger this is the Interchange
3263 mail server, as used by, e.g., mailandnews.com. Here's what
3264 happens:</p>
3265
3266 <p>1. Someone sends mail to your account. The last line of the
3267 message contains text. So at the SMTP level, the message ends with,
3268 e.g. "blahblah\r\n.\r\n"</p>
3269
3270 <p>2. The SMTP handler sees the final "\r\n.\r\n" and recognizes
3271 the end of the message. However, instead of doing the normal thing,
3272 which is tossing out the ".\r\n" and leaving the first '\r\n' as
3273 part of the email body, Interchange throws out the whole
3274 "\r\n.\r\n", and leaves the email body without any line terminator
3275 at the end of it. RFC821 does not forbid this, though it probably
3276 should.</p>
3277
3278 <p>3. Fetchmail, or some other IMAP client, asks for the message.
3279 IMAP returns it, but it's enclosed inside parentheses, according to
3280 the protocol. The message size in bytes is also present. Because
3281 the message doesn't end with a line terminator, the IMAP client
3282 sees:</p>
3283
3284 <pre>
3285  
3286  ....blahblah)...
3287 </pre>
3288
3289 <p>where the ')' is from IMAP.</p>
3290
3291 <p>4. Fetchmail only deals with complete lines, and can't trust the
3292 stated message size because Microsoft Exchange fscks it up.</p>
3293
3294 <p>5. As a result, fetchmail takes the final 'blahblah)' and puts
3295 it at the end of the message it forwards on. If you have verbosity
3296 on, you'll get a message about actual != expected.</p>
3297
3298 <p>There is no fix for this. The nuke mentioned in <a
3299 href="#S2">S2</a> looks more tempting all the time.</p>
3300
3301 <hr/>
3302 <h2><a id="O1" name="O1">O1. The --logfile option doesn't work if
3303 the logfile doesn't exist.</a></h2>
3304
3305 <p>This is a feature, not a bug. It's in line with normal practice
3306 for system daemons and allows you to suppress logging by removing
3307 the log, without hacking potentially fragile startup scripts. To
3308 get around it, just touch(1) the logfile before you run fetchmail
3309 (this will have no effect on the contents of the logfile if it
3310 already exists).</p>
3311
3312 <hr/>
3313 <h2><a id="O2" name="O2">O2. Every time I get a POP or IMAP message
3314 the header is dumped to all my terminal sessions.</a></h2>
3315
3316 <p>Fetchmail uses the local sendmail to perform final delivery,
3317 which Netscape and other clients doesn't do; the announcement of
3318 new messages is done by a daemon that sendmail pokes. There should
3319 be a "biff" command to control this. Type</p>
3320
3321 <pre>
3322 biff n
3323 </pre>
3324
3325 <p>to turn it off. If this doesn't work, try the command</p>
3326
3327 <pre>
3328 chmod -x $(tty)
3329 </pre>
3330
3331 <p>which is essentially what <code>biff -n</code> will do. If this
3332 doesn't work, comment out any reference to "comsat" in your
3333 /etc/inetd.conf file and restart inetd.</p>
3334
3335 <p>In Slackware Linux distributions, the last line in /etc/profile
3336 is</p>
3337
3338 <pre>
3339 biff y
3340 </pre>
3341
3342 Change this to 
3343
3344 <pre>
3345 biff n
3346 </pre>
3347
3348 to solve the problem system-wide. 
3349
3350 <hr/>
3351 <h2><a id="O3" name="O3">O3. Does fetchmail reread its rc file
3352 every poll cycle?</a></h2>
3353
3354 <p>No, but versions 5.2.2 and later will notice when you modify
3355 your rc file and restart, reading it.</p>
3356
3357 <hr/>
3358 <h2><a id="O4" name="O4">O4. Why do deleted messages show up again
3359 when I take a line hit while downloading?</a></h2>
3360
3361 <p>Because you're using a POP3 other than Qualcomm qpopper, or an
3362 IMAP with a long expunge interval.</p>
3363
3364 <p>According to the POP3 RFCs, deletes aren't actually performed
3365 until you issue the end-of-session QUIT command. Fetchmail cannot
3366 fix this, because doing it right takes cooperation from the server.
3367 There are two possible remedies:</p>
3368
3369 <p>One is to switch to qpopper (the free POP3 server from Qualcomm,
3370 the Eudora people). The qpopper software violates the POP3 RFCs by
3371 doing an expunge (removing deleted messages) on a line hangup, as
3372 well as on processing a QUIT command.</p>
3373
3374 <p>The other (which we recommend) is to switch to <a
3375 href="http://www.imap.org">IMAP</a>. IMAP has an explicit expunge
3376 command and fetchmail normally uses it to delete messages
3377 immediately after they are downloaded.</p>
3378
3379 <p>If you get very unlucky, you might take a line hit in the window
3380 between the delete and the expunge. If you've set a longer expunge
3381 interval, the window gets wider. This problem should correct itself
3382 the next time you complete a successful query.</p>
3383
3384 <hr/>
3385 <h2><a id="O5" name="O5">O5. Why is fetched mail being logged with
3386 my name, not the real From address?</a></h2>
3387
3388 <p>Because logging is done based on the address indicated by the
3389 sending SMTP's MAIL FROM, and some listeners are picky about that
3390 address.</p>
3391
3392 <p>Some SMTP listeners get upset if you try to hand them a MAIL
3393 FROM address naming a different host than the originating site for
3394 your connection. This is a feature, not a bug -- it's supposed to
3395 help prevent people from forging mail with a bogus origin site.
3396 (RFC 1123 says you shouldn't do this exclusion...)</p>
3397
3398 <p>Since the originating site of a fetchmail delivery connection is
3399 localhost, this effectively means these picky listeners will barf
3400 on any MAIL FROM address fetchmail hands them with an @ in it!</p>
3401
3402 <p>Versions 2.1 and up try the header From address first and fall
3403 back to the calling-user ID. So if your SMTP listener isn't picky,
3404 the log will look right.</p>
3405
3406 <hr/>
3407 <h2><a id="O6" name="O6">O6. I'm seeing long sendmail delays or
3408 hangs near the start of each poll cycle.</a></h2>
3409
3410 <p>Sendmail does a hostname lookup when it first starts up, and
3411 also each time it gets a HELO in listener mode.</p>
3412
3413 <p>Your resolver configuration may be causing one of these lookups
3414 to fail and time out. Check <code>/etc/resolv.conf</code> and
3415 <code>/etc/hosts</code> file. Make sure your hostname and
3416 fully-qualified domain name are both in <code>/etc/hosts</code>,
3417 and that hosts is looked at before DNS is queried. You probably
3418 also want your remote mail server(s) to be in the hosts file.</p>
3419
3420 <p>You can suppress the startup-time lookup if need to by
3421 reconfiguring with <code>FEATURE(nodns)</code>.</p>
3422
3423 <p>Configuring your bind library to cache DNS lookups locally may
3424 help, and is a good idea for speeding up other services as well.
3425 Switching to a faster MTA like qmail or exim might help.</p>
3426
3427 <hr/>
3428 <h2><a id="O7" name="O7">O7. Why doesn't fetchmail deliver mail in
3429 date-sorted order?</a></h2>
3430
3431 <p>Because that's not the order the server hands it to fetchmail
3432 in.</p>
3433
3434 <p>Fetchmail getting mail from a POP server delivers mail in the
3435 order that your server delivers mail. Fetchmail can't do anything
3436 about this; it's a limitation of the underlying POP protocol.</p>
3437
3438 <p>In theory it might be possible for fetchmail in IMAP mode to
3439 sort messages by date, but this would be in violation of two basics
3440 of fetchmail's design philosophy: (a) to be as simple and
3441 transparent a pipe as possible, and (b) to <em>hide</em>, rather
3442 than emphasize, the differences between the remote-fetch protocols
3443 it uses.</p>
3444
3445 <p>Re-ordering messages is a user-agent function, anyway.</p>
3446
3447 <hr/>
3448 <h2><a id="O8" name="O8">O8. I'm using pppd. Why isn't my monitor
3449 option working?</a></h2>
3450
3451 <p>There is a combination of circumstances that can confuse
3452 fetchmail. If you have set up demand dialing with pppd, and pppd
3453 has an idle timeout, and you have lcp-echo-interval set, then the
3454 lcp-echo-interval time must be longer than the pppd idle timeout.
3455 Otherwise it is going keep increasing the packet counters that
3456 fetchmail relies upon, triggering fetchmail into polling after its
3457 own delay interval and thus preventing the pppd link from ever
3458 reaching its inactivity timeout.</p>
3459
3460 <hr/>
3461 <h2><a id="O9" name="O9">O9. Why does fetchmail keep retrieving the
3462 same messages over and over?</a></h2>
3463
3464 <p>First, check to see that you haven't enabled the
3465 <cite>keep</cite> and <cite>fetchall</cite> option. If you have,
3466 turn <cite>keep</cite> off.</p>
3467
3468 <p>There are various forms of lossage involving the POP3 UIDL
3469 feature that can lead to all your old messages being seen again
3470 after a line drop. I have given up trying to fix these, as the UIDL
3471 code breaks worse every time I touch it. The problem is
3472 fundamental; maintaining and garbage-collecting the right kind of
3473 client-side state is just hard. Whoever put UIDLs in RFC1725 and
3474 removed LAST should be hung up by his thumbs and whipped with
3475 scorpions. The right answers are either (a) live with the
3476 occasional breakage, (b) switch to IMAP4, or (c) fix the code
3477 yourself and send me a patch. Unless you choose (c), I don't want
3478 to hear about it.</p>
3479
3480 <p>This can also happen when some other mail client is logged in to
3481 your mail server, if it uses a simple exclusive-locking scheme (and
3482 many, especially most POP3 servers, do exactly that). Your
3483 fetchmail is able to retrieve the messages, but because the mailbox
3484 is write-locked by the other instance yours can neither mark
3485 messages seen or delete them. The solution is to either (a) wait
3486 for the other client to finish, or (b) terminate it.</p>
3487
3488 <p>James Stevens &lt;James.Stevens at kyzo.com&gt; writes:</p>
3489
3490 <p><em>We had a Linux box dialing the Net and collecting mail from
3491 an NT POP3 server. Fetchmail was correctly collecting and deleting
3492 each e-mail one by one. However,the dial-up connection was very
3493 unreliable and would often just drop out in the middle of a
3494 session.</em></p>
3495
3496 <p><em>Interestingly, unless the TCP POP3 connection was terminated
3497 normally (I guess with a POP3 "QUIT" command) NT would then roll
3498 back all the deletes !!!</em></p>
3499
3500 <p><em>This meant if the first e-mail was very large it might just
3501 end up continuously collecting it, basically jamming the queue. Or,
3502 if the queue became very full itmight never get a long enough phone
3503 connection to retrieve the entire mailbox, and NT would roll back
3504 any deletes, so it would end up collecting (and delivering) the
3505 first few e-mails again and again. As the POP3 mailbox became
3506 fuller and fuller the chances of getting a connection long enough
3507 to collect theentire mailbox became smaller and smaller.</em></p>
3508
3509 <p><em>Our solution was to make fetchmail only collect a few (say 5
3510 or 10) e-mails at atime, thus trying to ensure that the POP3
3511 connection is terminated correctly.</em></p>
3512
3513 <p>Unfortunately, this is exactly the way POP3 servers are supposed
3514 to behave on a line drop, according to the RFCs. I recommend
3515 switching to IMAP and using a short expunge interval.</p>
3516
3517 <hr/>
3518 <h2><a id="O10" name="O10">O10. Why is the received date on all my
3519 messages the same?</a></h2>
3520
3521 <p>This is a design choice in your MTA, not fetchmail. It's taking
3522 the received date from the last Received header.</p>
3523
3524 <hr />
3525 <h2><a name="O11">O11. I keep getting messages that say "Repoll
3526 immediately" in my logs.</a></h2>
3527
3528 <p>This is your server barfing on the CAPA probe that fetchmail sends.</p>
3529
3530 <p>If you run fetchmail in daemon mode (say "set daemon 600"), you will
3531 get the message only once per run.</p>
3532
3533 <p>If you set an authentication method explicitly (say, with
3534 <code>auth password</code>), you will never get the message.</p>
3535
3536 <hr />
3537 <h2><a name="O12">O12. Fetchmail no longer expunges mail on a 451 SMTP response.</a></h2>
3538
3539 <p>This is a feature, not a bug.</p>
3540
3541 <p>Any 4xx response (like 451) indicates a transient (temporary) error.
3542 This means that the mail could be accepted if retried later. Lookup
3543 failures are normally transient errors as a mail should not get
3544 rejected if a dns server is unreachable or down.</p>
3545
3546 <p>A permanent reject response is of the form 5xx (like 550).</p>
3547
3548 <p>You could tell your SMTP server to not lookup any addresses if you are
3549 not keen on checking the sender addresses. This problem typically
3550 occurs if your mail server is not checking the sender addresses, but
3551 your local server is.</p>
3552
3553 <p>Or you could declare <code>antispam 451</code>.</p>
3554
3555 <p>Or, you could check your nameserver configuration and query logs for
3556 dns errors.</p>
3557
3558 <p>All these issues are not related to fetchmail directly.</p>
3559
3560 <hr />
3561 <h2><a name="O13">O13. I want timestamp information in my fetchmail logs.</a></h2>
3562
3563 <p>Write a <code>preconnect</code> command in your configuration file that
3564 does something like "date &gt;&gt; $HOME/Procmail/fetchmail.log".</p>
3565
3566 <hr/>
3567 <table width="100%" cellpadding="0" summary="Canned page footer">
3568 <tr>
3569 <td width="30%">Back to <a href="index.html">Fetchmail Home
3570 Page</a></td>
3571 <td width="30%" align="right">$Date: 2004/01/13 08:46:00 $</td>
3572 </tr>
3573 </table>
3574
3575 <br clear="left"/>
3576 <address>Eric S. Raymond <a
3577 href="mailto:esr@thyrsus.com">&lt;esr@thyrsus.com&gt;</a></address>
3578
3579 <!--
3580 Local Variables:
3581 compile-command: "(cd ~/WWW; upload fetchmail/fetchmail-FAQ.html)"
3582 End:
3583 -->
3584 </body>
3585 </html>
3586