]> Pileus Git - ~andy/fetchmail/blob - fetchmail-FAQ.html
Update I8 to mention Maillennium (not just comcast).
[~andy/fetchmail] / fetchmail-FAQ.html
1 <?xml version="1.0" encoding="ISO-8859-1"?>
2 <!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN"
3     "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd">
4 <!--
5
6 ##########################################################################
7 WARNING!
8
9 Be sure that <h1> tags are in the leftmost column so that the awk
10 postprocessor can skip the Contents section that HTMLDOC will insert
11 in a much better way.
12 ##########################################################################
13
14 -->
15 <html xmlns="http://www.w3.org/1999/xhtml">
16 <head>
17 <title>The Fetchmail FAQ</title>
18 <meta name="description"
19 content="Frequently asked questions about fetchmail."/>
20 <meta name="keywords" content="fetchmail, POP, POP2, POP3, IMAP, remote mail"/>
21 </head>
22 <body>
23 <table width="100%" cellpadding="0" summary="Canned page footer">
24 <tr>
25 <td width="30%">Back to <a href="index.html">Fetchmail Home
26 Page</a></td>
27 <td width="30%" align="right">$Date$</td>
28 </tr>
29 </table>
30
31 <hr/>
32 <h1 id="FAQ">Frequently Asked Questions About Fetchmail</h1>
33
34 <p>Before reporting any bug, please read <a href="#G3">G3</a> for
35 advice on how to include diagnostic information that will get your
36 bug fixed as quickly as possible.</p>
37
38 <p>Note that this FAQ is occasionally updated from the SVN repository
39 and speaks in the past tense ("since") about a fetchmail release that is
40 not yet available. Please try a release candidate for that version in
41 case you need the new option.</p>
42
43 <p>If you have a question or answer you think ought to be added to
44 this FAQ list, file it to one of the trackers at <a
45     href="http://developer.berlios.de/projects/fetchmail/">our BerliOS
46     project site</a> or post to one of the fetchmail mailing lists (see
47 below).</p>
48
49 <h1 id="Contents">Contents</h1>
50
51 <a href="#Contentdetail">Detailed Contents</a><br/>
52 <a href="#C_G">G. General problems</a><br/>
53 <a href="#C_B">B. Build-time problems</a><br/>
54 <a href="#C_F">F. Fetchmail configuration file grammar questions</a><br/>
55 <a href="#C_C">C. Configuration questions</a><br/>
56 <a href="#C_T">T. How to make fetchmail play nice with various MTAs</a><br/>
57 <a href="#C_S">S. How to make fetchmail work with various servers</a><br/>
58 <a href="#C_I">I. How to fetchmail work with specific ISPs</a><br/>
59 <a href="#C_K">K. How to set up well-known security and authentication</a><br/>
60 <a href="#C_R">R. Runtime fatal errors</a><br/>
61 <a href="#C_H">H. Hangs and lockups</a><br/>
62 <a href="#C_D">D. Disappearing mail</a><br/>
63 <a href="#C_M">M. Multidrop-mode problems</a><br/>
64 <a href="#C_X">X. Mangled mail</a><br/>
65 <a href="#C_O">O. Other problems</a><br/>
66
67 <h1 id="Contentdetail">Detailed Contents</h1>
68
69 <h2 id="C_G">General problems</h2>
70
71 <a href="#G1">G1. What is fetchmail and why should I bother?</a><br/>
72 <a href="#G2">G2. Where do I find the latest FAQ and fetchmail sources?</a><br/>
73 <a href="#G3">G3. I think I've found a bug. Will you fix it?</a><br/>
74 <a href="#G4">G4. I have this idea for a neat feature. Will you add it?</a><br/>
75 <a href="#G5">G5. I want to make fetchmail behave like Outlook Express.</a><br/>
76 <a href="#G6">G6. Is there a mailing list for exchanging tips?</a><br/>
77 <a href="#G7">G7. So, what's this I hear about a fetchmail paper?</a><br/>
78 <a href="#G8">G8. What is the best server to use with fetchmail?</a><br/>
79 <a href="#G9">G9. What is the best mail program to use with fetchmail?</a><br/>
80 <a href="#G10">G10. How can I avoid sending my password en clair?</a><br/>
81 <a href="#G11">G11. Is any special configuration needed to use a dynamic IP address?</a><br/>
82 <a href="#G12">G12. Is any special configuration needed to use firewalls?</a><br/>
83 <a href="#G13">G13. Is any special configuration needed to <em>send</em> mail?</a><br/>
84 <a href="#G14">G14. Is fetchmail Y2K-compliant?</a><br/>
85 <a href="#G15">G15. Is there a way in fetchmail to support disconnected IMAP mode?</a><br/>
86 <a href="#G16">G16. How will fetchmail perform under heavy loads?</a><br/>
87
88
89 <h2 id="C_B">Build-time problems</h2>
90
91 <a href="#B1"><strike>B1. Make coughs and dies when building on FreeBSD.</strike></a><br/>
92 <a href="#B2">B2. Lex bombs out while building the fetchmail lexer.</a><br/>
93 <a href="#B3">B3. I get link failures when I try to build fetchmail.</a><br/>
94 <a href="#B4">B4. I get build failures in the intl directory.</a><br/>
95
96 <h2 id="C_F">Fetchmail configuration file grammar questions</h2>
97
98 <a href="#F1">F1. Why does my old .fetchmailrc no longer work?</a><br/>
99 <a href="#F2">F2. The .fetchmailrc parser won't accept my all-numeric user name.</a><br/>
100 <a href="#F3">F3. The .fetchmailrc parser won't accept my host or username beginning with 'no'.</a><br/>
101 <a href="#F4">F4. I'm getting a 'parse error' message I don't understand.</a><br/>
102
103 <h2 id="C_C">Configuration questions</h2>
104
105 <a href="#C1">C1. Why do I need a .fetchmailrc when running as root
106 on my own machine?</a><br/>
107 <a href="#C2">C2. How can I arrange for a fetchmail daemon to get
108 killed when I log out?</a><br/>
109 <a href="#C3">C3. How do I know what interface and address to use
110 with --interface?</a><br/>
111 <a href="#C4">C4. How can I set up support for sendmail's anti-spam
112 features?</a><br/>
113 <a href="#C5">C5. How can I poll some of my mailboxes more/less
114 often than others?</a><br/>
115 <a href="#C6">C6. Fetchmail works OK started up manually, but not
116 from an init script.</a><br/>
117 <a href="#C7">C7. How can I forward mail to another
118 host?.</a><br/>
119
120
121 <h2 id="C_T">How to make fetchmail play nice with various MTAs</h2>
122
123 <a href="#T1">T1. How can I use fetchmail with sendmail?</a><br/>
124 <a href="#T2">T2. How can I use fetchmail with qmail?</a><br/>
125 <a href="#T3">T3. How can I use fetchmail with exim?</a><br/>
126 <a href="#T4">T4. How can I use fetchmail with smail?</a><br/>
127 <a href="#T5">T5. How can I use fetchmail with SCO's MMDF?</a><br/>
128 <a href="#T6">T6. How can I use fetchmail with Lotus Notes?</a><br/>
129 <a href="#T7">T7. How can I use fetchmail with Courier IMAP?</a><br/>
130 <a href="#T8">T8. How can I use fetchmail with vbmailshield?</a><br/>
131
132 <h2 id="C_S">How to make fetchmail work with various servers</h2>
133
134 <a href="#S1">S1. How can I use fetchmail with qpopper?</a><br/>
135 <a href="#S2">S2. How can I use fetchmail with Microsoft Exchange?</a><br/>
136 <a href="#S3">S3. How can I use fetchmail with HP OpenMail?</a><br/>
137 <a href="#S4">S4. How can I use fetchmail with Novell GroupWise?</a><br/>
138 <a href="#S5">S5. How can I use fetchmail with InterChange?</a><br/>
139 <a href="#S6">S6. How can I use fetchmail with MailMax?</a><br/>
140 <a href="#S7">S7. How can I use fetchmail with FTGate?</a><br/>
141
142 <h2 id="C_I">How to fetchmail work with specific ISPs</h2>
143
144 <a href="#I1">I1. How can I use fetchmail with Compuserve RPA?</a><br/>
145 <a href="#I2">I2. How can I use fetchmail with Demon Internet's SDPS?</a><br/>
146 <a href="#I3">I3. How can I use fetchmail with usa.net's servers?</a><br/>
147 <a href="#I4">I4. How can I use fetchmail with geocities POP3 servers?</a><br/>
148 <a href="#I5">I5. How can I use fetchmail with Hotmail or Lycos Webmail?</a><br/>
149 <a href="#I6">I6. How can I use fetchmail with MSN?</a><br/>
150 <a href="#I7">I7. How can I use fetchmail with SpryNet?</a><br/>
151 <a href="#I8">I8. How can I use fetchmail with comcast.net or other
152     Maillennium servers?</a><br/>
153
154 <h2 id="C_K">How to set up well-known security and authentication
155 methods</h2>
156
157 <a href="#K1">K1. How can I use fetchmail with SOCKS?</a><br/>
158 <a href="#K2">K2. How can I use fetchmail with IPv6 and IPsec?</a><br/>
159 <a href="#K3">K3. How can I get fetchmail to work with ssh?</a><br/>
160 <a href="#K4">K4. What do I have to do to use the IMAP-GSS protocol?</a><br/>
161 <a href="#K5">K5. How can I use fetchmail with SSL?</a><br/>
162 <a href="#K6">K6. How can I tell fetchmail not to try TLS if the server
163     advertises it?</a><br/>
164
165 <h2 id="C_R">Runtime fatal errors</h2>
166
167 <a href="#R1">R1. Fetchmail isn't working, and -v shows 'SMTP
168 connect failed' messages.</a><br/>
169 <a href="#R2">R2. When I try to configure an MDA, fetchmail doesn't
170 work.</a><br/>
171 <a href="#R3">R3. Fetchmail dumps core when given an invalid rc
172 file.</a><br/>
173 <a href="#R4">R4. Fetchmail dumps core in -V mode, but operates
174 normally otherwise.</a><br/>
175 <a href="#R5">R5. Running fetchmail in daemon mode doesn't
176 work.</a><br/>
177 <a href="#R6">R6. Fetchmail randomly dies with socket errors.</a><br/>
178 <a href="#R7">R7. Fetchmail running as root stopped working after
179 an OS upgrade</a><br/>
180 <a href="#R8">R8. Fetchmail is timing out after fetching certain
181 messages but before deleting them</a><br/>
182 <a href="#R9">R9. Fetchmail is timing out during message fetches</a><br/>
183 <a href="#R10">R10. Fetchmail is dying with SIGPIPE.</a><br/>
184 <a href="#R11">R11. My server is hanging or emitting errors on CAPA.</a><br/>
185 <a href="#R12">R12. Fetchmail isn't working and reports getaddrinfo
186     errors.</a>
187
188 <h2 id="C_H">Hangs and lockups</h2>
189
190 <a href="#H1">H1. Fetchmail hangs when used with pppd.</a><br/>
191 <a href="#H2">H2. Fetchmail hangs during the MAIL FROM
192 exchange.</a><br/>
193 <a href="#H3">H3. Fetchmail hangs while fetching mail.</a><br/>
194
195
196 <h2 id="C_D">Disappearing mail</h2>
197
198 <a href="#D1">D1. I think I've set up fetchmail correctly, but I'm
199 not getting any mail.</a><br/>
200 <a href="#D2">D2. All my mail seems to disappear after a dropped
201 connection.</a><br/>
202 <a href="#D3">D3. Mail that was being fetched when I interrupted my
203 fetchmail seems to have been vanished.</a><br/>
204
205
206 <h2 id="C_M">Multidrop-mode problems</h2>
207
208 <a href="#M1">M1. I've declared local names, but all my multidrop
209 mail is going to root anyway.</a><br/>
210 <a href="#M2">M2. I can't seem to get fetchmail to route to a local
211 domain properly.</a><br/>
212 <a href="#M3">M3. I tried to run a mailing list using multidrop,
213 and I have a mail loop!</a><br/>
214 <a href="#M4">M4. My multidrop fetchmail seems to be having DNS
215 problems.</a><br/>
216 <a href="#M5">M5. I'm seeing long DNS delays before each message is
217 processed.</a><br/>
218 <a href="#M6">M6. How do I get multidrop mode to work with
219 majordomo?</a><br/>
220 <a href="#M7">M7. Multidrop mode isn't parsing envelope addresses
221 from my Received headers as it should.</a><br/>
222 <a href="#M8">M8. Users are getting multiple copies of
223 messages.</a><br/>
224
225
226 <h2 id="C_X">Mangled mail</h2>
227
228 <a href="#X1">X1. Spurious blank lines are appearing in the headers
229 of fetched mail.</a><br/>
230 <a href="#X2">X2. My mail client can't see a Subject
231 line.</a><br/>
232 <a href="#X3">X3. Messages containing "From" at start of line are
233 being split.</a><br/>
234 <a href="#X4">X4. My mail is being mangled in a new and different
235 way.</a><br/>
236 <a href="#X5">X5. Using POP3, retrievals seems to be fetching too
237 much!</a><br/>
238 <a href="#X6">X6. My mail attachments are being dropped or
239 mangled.</a><br/>
240 <a href="#X7">X7. Some mail attachments are hanging
241 fetchmail.</a><br/>
242 <a href="#X8">X8. A spurious ) is being appended to my
243 messages.</a><br/>
244
245 <h2 id="C_O">Other problems</h2>
246
247 <a href="#O1">O1. The --logfile option doesn't work if the logfile
248 doesn't exist.</a><br/>
249 <a href="#O2">O2. Every time I get a POP or IMAP message the header
250 is dumped to all my terminal sessions.</a><br/>
251 <a href="#O3">O3. Does fetchmail reread its rc file every poll
252 cycle?</a><br/>
253 <a href="#O4">O4. Why do deleted messages show up again when I take
254 a line hit while downloading?</a><br/>
255 <a href="#O5">O5. Why is fetched mail being logged with my name,
256 not the real From address?</a><br/>
257 <a href="#O6">O6. I'm seeing long sendmail delays or hangs near the
258 start of each poll cycle.</a><br/>
259 <a href="#O7">O7. Why doesn't fetchmail deliver mail in date-sorted
260 order?</a><br/>
261 <a href="#O8">O8. I'm using pppd. Why isn't my monitor option
262 working?</a><br/>
263 <a href="#O9">O9. Why does fetchmail keep retrieving the same
264 messages over and over?</a><br/>
265 <a href="#O10">O10. Why is the received date on all my messages the
266 same?</a><br/>
267 <a href="#O11">O11. I keep getting messages that say "Repoll
268 immediately" in my logs.</a><br/>
269 <a href="#O12">O12. Fetchmail no longer expunges mail on a 451 SMTP response.</a><br/>
270 <a href="#O13">O13. I want timestamp information in my fetchmail logs.</a><br/>
271 <a href="#O14">O14. Fetchmail no longer deletes oversized mails with
272     --flush.</a><br/>
273 <a href="#O15">O15. Fetchmail always retains the first message in the
274     mailbox.</a><br/>
275 <a href="#O16">O16. Why is the Fetchmail FAQ only available in
276         ISO-216 A4 format? How do I get the FAQ in Letter
277         format?</a><br/>
278
279 <hr/>
280 <h1 id="G">General problems</h1>
281 <h2><a id="G1" name="G1">G1. What is fetchmail and why should I
282 bother?</a></h2>
283
284 <p>Fetchmail is a one-stop solution to the remote mail retrieval
285 problem for Unix machines, quite useful to anyone with an
286 intermittent PPP or SLIP connection to a remote mailserver. It can
287 collect mail using any variant of POP or IMAP and forwards via port
288 25 to the local SMTP listener, enabling all the normal
289 forwarding/filtering/aliasing mechanisms that would apply to local
290 mail or mail arriving via a full-time TCP/IP connection.</p>
291
292 <p>Fetchmail is not a toy or a coder's learning exercise, but an
293 industrial-strength tool capable of transparently handling every
294 retrieval demand from those of a simple single-user ISP connection
295 up to mail retrieval and rerouting for an entire client domain.
296 Fetchmail is easy to configure, unobtrusive in operation, powerful,
297 feature-rich, and well documented.</p>
298
299 <p>Fetchmail is <a href="http://www.opensource.org">open-source</a>
300 software. The openness of the sources is the strongest assurance of
301 quality you can have. Extensive peer review by a large,
302 multi-platform user community has shown that fetchmail is as near
303 bulletproof as the underlying protocols permit.</p>
304
305 <p>Fetchmail is licensed under the <a
306 href="http://gnu.org//copyleft/gpl.html">GNU General Public
307 License</a>.</p>
308
309 <p>If you found this FAQ in the distribution, see the README for
310 fetchmail's full feature list.</p>
311
312 <h2><a id="G2" name="G2">G2. Where do I find the latest FAQ and
313 fetchmail sources?</a></h2>
314
315 <p>The latest HTML FAQ is available alongside the latest fetchmail
316 sources at the fetchmail home page: <a
317 href="http://fetchmail.berlios.de/">http://fetchmail.berlios.de/</a>.
318 You can also usually find both in the <a
319 href="http://sunsite.unc.edu/pub/Linux/system/mail/pop/!INDEX.html">
320 POP mail tools directory on Sunsite</a>.</p>
321
322 <p>A text dump of this FAQ is included in the fetchmail
323 distribution. Because it freezes at distribution release time, it
324 may not be completely current.</p>
325
326 <h2><a id="G3" name="G3">G3. I think I've found a bug. Will you fix
327 it?</a></h2>
328
329 <p>The first thing you should to is to upgrade to the newest version of
330 fetchmail, and then see if the problem reproduces. So you'll probably
331 save us both time if you upgrade and test with <a href="#G2">the latest
332     version</a> <em>before</em> sending in a bug report.</p>
333
334 <p>I will fix bugs, provided you include enough diagnostic information
335 for me to go on. Send bugs to <a
336 href="mailto:fetchmail-users@lists.berlios.de">fetchmail-users</a>.
337 When reporting bugs, please include the following:</p>
338
339 <ol>
340 <li>Your operating system.</li>
341
342 <li>Your compiler version, if you built from source; otherwise, the
343 name and origin of the RPM or other binary package you
344 installed.</li>
345
346 <li>A copy of your POP or IMAP server's greeting line.</li>
347
348 <li>The name and version of the SMTP listener or MDA you are
349 forwarding to.</li>
350
351 <li>Any command-line options you used.</li>
352
353 <li>The output of fetchmail -V called with whatever other
354 command-line options you used.</li>
355 </ol>
356
357 <p>If you have FTP access to your remote mail account, and you have
358 any suspicion that the bug was triggered by a particular message,
359 please include a copy of the message that triggered the bug.</p>
360
361 <p>If your bug is something that used to work but stopped working
362 when you upgraded, then you can help pin the bug down by trying <a
363 href="http://download.berlios.de/fetchmail/">intermediate versions
364 of fetchmail</a> until you identify the revision that broke your
365 feature. The smart way to do this is by binary search on the
366 version sequence. First, try the version halfway between your last
367 good one and the current one. If it works, the failure was
368 introduced in the upper half of the sequence; if it doesn't, the
369 failure was introduced in the lower half. Now bisect that half in
370 the same way. In a very few tries, you should be able to identify
371 the exact adjacent pair of versions between which your bug was
372 introduced -- and with information like that, I can usually come up
373 with a fix very quickly.</p>
374
375 <p>Another useful thing you can do, if you're using POP3, is to
376 test for IMAP4 support on your mailserver using the autoprobe
377 function of fetchmailconf. If you have IMAP4, and fetchmailconf
378 doesn't tell you it's broken, switch immediately. POP3 is a weak,
379 poorly-designed protocol with chronic problems, and the later
380 versions after RFC1725 actually get worse rather than better.
381 Changing over to IMAP4 may well make your problem go away -- and if
382 your ISP doesn't have IMAP4 support, bug them to supply it.</p>
383
384 <p>It is helpful if you include your .fetchmailrc file, but not
385 necessary unless your symptom seems to involve an error in
386 configuration parsing. If you do send in your .fetchmailrc, mask
387 the passwords first!</p>
388
389 <p>If fetchmail seems to run and fetch mail, but the headers look
390 mangled (that is, headers are missing or blank lines are inserted
391 in the headers) then read the FAQ items in section <a
392 href="#X1">X</a> before submitting a bug report. Pay special
393 attention to the item on <a href="#generic_mangling">diagnosing
394 mail mangling</a>. There are lots of ways for other programs in the
395 mail chain to screw up that look like fetchmail's fault, but you
396 may be able to fix these by tweaking your configuration.</p>
397
398 <p>A transcript of the failed session with -v -v (yes, that's
399 <em>two</em> -v options, enabling debug mode) will almost always be
400 useful. It is very important that the transcript include your
401 POP/IMAP server's greeting line, so I can identify it in case of
402 server problems. This transcript will not reveal your passwords,
403 which are specially masked out precisely so transcripts can be
404 passed around.</p>
405
406 <p>If you upgraded your fetchmail and something broke, you should
407 include session transcripts with -v -v of both the working and
408 failing versions. Very often, the source of the problem can
409 instantly identified by looking at the differences in protocol
410 transactions.</p>
411
412 <p>If the bug involves a core dump or hang, a gdb stack trace is
413 good to have. (Bear in mind that you can attach gdb to a running
414 but hung process by giving the process ID as a second argument.)
415 You will need to reconfigure with:</p>
416
417 <pre>
418 CFLAGS=-g LDFLAGS=" " ./configure
419 </pre>
420
421 <p>Then rebuild in order to generate a version that can be
422 gdb-traced.</p>
423
424 <p>Best of all is a mail file which, when fetched, will reproduce
425 the bug under the latest (current) version.</p>
426
427 <p>Any bug I can reproduce will usually get fixed very quickly,
428 often within 48 hours. Bugs I can't reproduce are a crapshoot. If
429 the solution isn't obvious when I first look, it may evade me for a
430 long time (or to put it another way, fetchmail is well enough
431 tested that the easy bugs have long since been found). So if you
432 want your bug fixed rapidly, it is not just sufficient but nearly
433 <em>necessary</em> that you give me a way to reproduce it.</p>
434
435 <h2><a id="G4" name="G4">G4. I have this idea for a neat feature.
436 Will you add it?</a></h2>
437
438 <p>If it's reasonable for fetchmail and cannot be solved with reasonable
439 effort outside of fetchmail, perhaps.</p>
440
441 <p>You can do spam filtering better with procmail or maildrop on
442 the server side and (if you're the server sysadmin) sendmail.cf
443 domain exclusions. If you really want fetchmail to do it from the
444 client side, use a <code>preconnect</code> command to call
445 <a href='http://mailfilter.sourceforge.net/'>mailfilter</a>.</p>
446
447 <p>You can do other policy things better with the
448 <code>mda</code> option and script wrappers around fetchmail. If
449 it's a prime-time-vs.-non-prime-time issue, ask yourself whether a
450 wrapper script called from crontab would do the job.</p>
451
452 <p>fetchmail's first job is transport though, and it should do this
453 well. If a feature would cause fetchmail to deteriorate in other
454 respects, the feature will probably not be added.</p>
455
456 <p>For reasons fetchmail doesn't have other commonly-requested
457 features (such as password encryption, or multiple concurrent polls
458 from the same instance of fetchmail) see <a
459 href="esrs-design-notes.html">ESR's design
460 notes</a>. Note that this document is partially obsoleted by the
461 <a href="design-notes.html">updated design notes.</a></p>
462
463 <h2><a id="G5" name="G5">G5. I want to make fetchmail behave like
464 Outlook Express.</a></h2>
465
466 <p>The second-most-requested feature for fetchmail, after
467 content-based filtering, is the ability to have it remove messages
468 from a maildrop after N days, typically to be used with the
469 <code>keep</code> option as a sort of poor man's newsgroup
470 facility. Microsoft's Outlook Express supports this.</p>
471
472 <p>This feature is not yet implemented. It may be at a future date,
473 spare time of developers permitting.</p>
474
475 <h2><a id="G6" name="G6">G6. Is there a mailing list for exchanging
476 tips?</a></h2>
477
478 <p>There is a fetchmail-users list (fetchmail-users@lists.berlios.de)
479 for bug reports and people who want to discuss configuration issues of
480 fetchmail. It's a Mailman list, see <a
481     href="http://lists.berlios.de/mailman/listinfo/fetchmail-users">http://lists.berlios.de/mailman/listinfo/fetchmail-users</a>.</p>
482 <p>There is a fetchmail-devel list
483 (fetchmail-devel@lists.berlios.de) for people who want to discuss
484 fixes and improvements in fetchmail and help co-develop it. It's a
485 Mailman list, which you can sign up for at <a
486 href="http://lists.berlios.de/mailman/listinfo/fetchmail-devel">http://lists.berlios.de/mailman/listinfo/fetchmail-devel</a>.
487 There is also an announcements-only list,
488 fetchmail-announce@lists.berlios.de, which you can sign up for at <a
489 href="http://lists.berlios.de/mailman/listinfo/fetchmail-announce">http://lists.berlios.de/mailman/listinfo/fetchmail-announce</a>.</p>
490
491 <h2><a id="G7" name="G7">G7. So, what's this I hear about a
492 fetchmail paper?</a></h2>
493
494 <p>The fetchmail development was also a sociological experiment, an
495 extended test to see if my theory about the critical features of
496 the Linux development model is correct.</p>
497
498 <p>The experiment was a success. I wrote a paper about it titled <a
499 href="http://www.catb.org/~esr/writings/cathedral.html">The
500 Cathedral and the Bazaar</a> which was first presented at Linux
501 Kongress '97 in Bavaria and very well received there. It was also
502 given at Atlanta Linux Expo, Linux Pro '97 in Warsaw, and the first
503 Perl Conference, at UniForum '98, and was the basis of an invited
504 presentation at Usenix '98. The folks at Netscape tell me it helped
505 them decide to <a
506 href="http://www.netscape.com/newsref/pr/newsrelease558.html">give
507 away the source for Netscape Communicator</a>.</p>
508
509 <p>If you're reading a non-HTML dump of this FAQ, you can find the
510 paper on the Web with a search for that title.</p>
511
512 <h2><a id="G8" name="G8">G8. What is the best server to use with
513 fetchmail?</a></h2>
514
515 <p>The short answer: IMAP 2000 running over Unix.</p>
516
517 <p>Here's a longer answer:</p>
518
519 <p>Fetchmail will work with any POP, IMAP, ETRN, or ODMR server
520 that conforms to the relevant RFCs (and even some outright broken
521 ones like <a href="#S2">Microsoft Exchange</a> and <a
522 href="#S6">Novell GroupWise</a>). This doesn't mean it works
523 equally well with all, however. POP2 servers, and POP3 servers
524 without LAST, limit fetchmail's capabilities in various ways
525 described on the manual page.</p>
526
527 <p>Most modern Unixes (and effectively all Linux/*BSD systems) come
528 with POP3 support preconfigured (but beware of the horribly broken
529 POP3 server mentioned in <a href="#D2">D2</a>). An increasing
530 minority also feature IMAP (you can detect IMAP support by running
531 fetchmail in AUTO mode, or by using the 'Probe for supported
532 protocols' function in the fetchmailconf utility).</p>
533
534 <p>If you have the option, we recommend using or installing an
535 IMAP4rev1 server; it has the best facilities for tracking message
536 'seen' states. It also recovers from interrupted connections more
537 gracefully than POP3, and enables some significant performance
538 optimizations. The new <a
539 href="ftp://ftp.cac.washington.edu/imap/imap.tar.Z">IMAP 2000</a>
540 is particularly nice, as it supports CRAM-MD5 so you don't have to
541 ship your mail password over the net en clair (fetchmail
542 autodetects this capability). Older versions had support for GSSAPI
543 giving a similar effect.</p>
544
545 <p>Don't be fooled by NT/Exchange propaganda. M$ Exchange is just
546 plain broken (see item <a href="#S2">S2</a>) and NT cannot handle
547 the sustained load of a high-volume remote mail server. Even
548 Microsoft itself knows better than to try this; their own Hotmail
549 service runs over Solaris! For extended discussion, see John
550 Kirch's excellent <a href="http://unix-vs-nt.org/kirch/">white
551 paper</a> on Unix vs. NT performance.</p>
552
553 <p>Source for a high-quality supported implementation of POP is
554 available from the <a
555 href="ftp://ftp.qualcomm.com/eudora/servers/unix/popper/">Eudora
556 FTP site</a>. Don't use 2.5, which has a rather restrictive
557 license. The 2.5.2 version appears to restore the open-source
558 license of previous versions.</p>
559
560 <h2><a id="G9" name="G9">G9. What is the best mail program to use
561 with fetchmail?</a></h2>
562
563 <p>Fetchmail will work with all popular <a href="#T1">mail
564 transport programs</a>. It also doesn't care which user agent you
565 use, and user agents are as a rule almost equally indifferent to
566 how mail is delivered into your system mailbox. So any of the
567 popular Unix mail agents -- <a
568 href="http://www.myxa.com/old/elm.html">elm</a>, <a
569 href="http://www.washington.edu/pine/">pine</a>, <a
570 href="http://www.cs.indiana.edu/docproject/mail/mh.html">mh</a>, or
571 <a href="http://www.mutt.org">mutt</a> -- will work fine with
572 fetchmail.</p>
573
574 <p>All this having been said, I can't resist putting in a discreet
575 plug for <a href="http://www.mutt.org">mutt</a>. My own personal
576 mail setup is sendmail plus fetchmail plus mutt. Mutt's interface
577 is only a little different from that of its now-moribund ancestor
578 elm, but its excellent handling of MIME and PGP put it in a class
579 by itself. You won't need its built-in POP3 support, though; most
580 of the mutt developers will cheerfully admit that fetchmail's is
581 better :-).</p>
582
583 <h2><a id="G10" name="G10">G10. How can I avoid sending my password
584 en clair?</a></h2>
585
586 <p>Depending on what your mail server you are talking to, this
587 ranges from trivial to impossible. It may even be next to
588 useless.</p>
589
590 <p>Most people use fetchmail over phone wires (whether plain old
591 copper or DSL), which are hard to tap. Anybody with the skill and
592 resources to do this could get into your server mailbox with much less
593 effort by subverting the server host. So if your provider setup is
594 phone-company wire going straight into a service box, you probably
595 don't need to worry.</p>
596
597 <p>In general there is little point in trying to secure your fetchmail
598 transaction unless you trust the security of the server host you are
599 retrieving mail from. Your vulnerability is more likely to be an
600 insecure local network on the server end (e.g. to somebody with a
601 TCP/IP packet sniffer intercepting Ethernet traffic between the modem
602 concentrator or DSL POP you dial in to and the mailserver host).</p>
603
604 <p>Having realized this, you need to ask whether password
605 encryption alone will really address your security exposure. If you
606 think you might be snooped between server and client, it's better
607 to use end-to-end encryption on your whole mail stream so none of
608 it can be read. One of the advantages of fetchmail over
609 conventional SMTP-push delivery is that you may be able to arrange
610 this by using ssh(1); see <a href="#K3">K3</a>.</p>
611
612 <p>Note that ssh is not a complete privacy solution either, as your
613 mail could have been snooped in transit to your POP server from
614 wherever it originated. For best security, agree with your
615 correspondents to use a tool such as <a
616 href="http://www.gnupg.org/">GPG</a> (Gnu Privacy Guard) or PGP
617 (Pretty Good Privacy).</p>
618
619 <p>If ssh/sshd isn't available, or you find it too complicated for
620 you to set up, password encryption will at least keep a malicious
621 cracker from deleting your mail, and require him to either tap your
622 connection continuously or crack root on the server in order to
623 read it.</p>
624
625 <p>You can deduce what encryptions your mail server has available
626 by looking at the server greeting line (and, for IMAP, the response
627 to a CAPABILITY query). Do a <code>fetchmail -v</code> to see
628 these, or telnet direct to the server port (110 for POP3, 143 for
629 IMAP).</p>
630
631 <p>If your mailserver is using IMAP 2000, you'll have CRAM-MD5
632 support built in. Fetchmail autodetects this; you can skip the rest
633 of this section.</p>
634
635 <p>The POP3 facility you are most likely to have available is APOP.
636 This is a POP3 feature supported by many servers (fetchmailconf's
637 autoprobe facility will detect it and tell you if you have it). If
638 you see something in the greeting line that looks like an
639 angle-bracket-enclosed Internet address with a numeric left-hand
640 part, that's an APOP challenge (it will vary each time you log in).
641 You can register a secret on the host (using
642 <code>popauth(8)</code> or some program like it). Specify the
643 secret as your password in your .fetchmailrc; it will be used to
644 encrypt the current challenge, and the encrypted form will be sent
645 back the the server for verification.</p>
646
647 <p>Alternatively, you may have Kerberos available. This may require
648 you to set up some magic files in your home directory on your
649 client machine, but means you can omit specifying any password at
650 all.</p>
651
652 <p>Fetchmail supports two different Kerberos schemes. One is a POP3
653 variant called KPOP; consult the documentation of your mail server
654 to see if you have it (one clue is the string "krb-IV" in the
655 greeting line on port 110). The other is an IMAP and POP3 facility
656 described by RFC1731 and RFC1734. You can tell if this one is
657 present by looking for AUTH=KERBEROS_V4 in the CAPABILITY
658 response.</p>
659
660 <p>If you are fetching mail from a CompuServe POP3 account, you can
661 use their RPA authentication (which works much like APOP). See <a
662 href="#I1">I1</a> for details. If you are fetching mail from
663 Microsoft Exchange using IMAP, you will be able to use NTLM.</p>
664
665 <p>Your POP3 server may have the RFC1938 OTP capability to use
666 one-time passwords (if it doesn't, you can get OTP patches for the
667 2.2 version of the Qualcomm popper from <a href="#cmetz">Craig
668 Metz</a>). To check this, look for the string "otp-" in the
669 greeting line. If you see it, and your fetchmail was built with
670 OPIE support compiled in (see the distribution INSTALL file),
671 fetchmail will detect it also. When using OTP, you will specify a
672 password but it will not be sent en clair.</p>
673
674 <p>You can get both POP3 and IMAP OTP patches from <a id="cmetz"
675 name="cmetz">Craig Metz</a> at <a
676 href="http://www.inner.net/opie">http://www.inner.net/opie</a>.</p>
677
678 <p>These patches use a SASL authentication method named "X-OTP"
679 because there is not currently a standard way to do this; fetchmail
680 also uses this method, so the two will interoperate happily. They
681 better, because this is how Craig gets his mail ;-)</p>
682
683 <p>Finally, you can use <a href="#K5">SSL</a> for complete
684 end-to-end encryption if you have an SSL-enabled mailserver.</p>
685
686 <h2><a id="G11" name="G11">G11. Is any special configuration needed
687 to use a dynamic IP address?</a></h2>
688
689 <p>Yes. In order to avoid giving indigestion to certain picky MTAs
690 (notably <a href="#T3">exim</a>), fetchmail always makes the RCPT
691 TO address it feeds the MTA a fully qualified one with a hostname
692 part. Normally it does this by appending @ and "localhost", but
693 when you are using Kerberos or ETRN mode it will append @ and your
694 machine's fully-qualified domain name (FQDN).</p>
695
696 <p>Appending the FQDN can create problems when fetchmail is running
697 in daemon mode and outlasts the dynamic IP address assignment your
698 client machine had when it started up.</p>
699
700 <p>Since the new IP address (looked up at RCPT TO interpretation
701 time) doesn't match the original, the most benign possible result
702 is that your MTA thinks it's seeing a relaying attempt and refuses.
703 More frequently, fetchmail will try to connect to a nonexistent
704 host address and time out. Worst case, you could up forwarding your
705 mail to the wrong machine!</p>
706
707 <p>Use the <code>smtpaddress</code> option to force the appended
708 hostname to one with a (fixed) IP address of 127.0.0.1 in your
709 <code>/etc/hosts</code>. (The name 'localhost' will usually work;
710 or you can use the IP address itself).</p>
711
712 <p>Only one fetchmail option interacts directly with your IP
713 address, '<code>interface</code>'. This option can be used to set
714 the gateway device and restrict the IP address range fetchmail will
715 use. Such a restriction is sometimes useful for security reasons,
716 especially on multihomed sites. See <a href="#C3">C3</a>.</p>
717
718 <p>I recommend against trying to set up the <code>interface</code>
719 option when initially developing your poll configuration -- it's
720 never necessary to do this just to get a link working. Get the link
721 working first, observe the actual address range you see on
722 connections, and add an <code>interface</code> option (if you need
723 one) later.</p>
724
725 <p>You can't use ETRN if you have a dynamic IP address (your ISP
726 changes your IP address occasionally, possibly with every connect).
727 You need to have your own registered domain and a definite IP
728 address registered for that domain. The server needs to be
729 configured to accept mail for your domain but then queue it to
730 forward to your machine. ETRN just tells to server to flush its
731 queue for your domain. Fetchmail doesn't actually get the mail in
732 that case.</p>
733
734 <p>You can use On-Demand Mail Relay (ODMR) with a dynamic IP
735 address; that's what it was designed for, and it provides
736 capabilities very similar to ETRN. Unfortunately ODMR servers are
737 not yet widely deployed, as of early 2001.</p>
738
739 <p>If you're using a dynamic-IP configuration, one other
740 (non-fetchmail) problem you may run into with outgoing mail is that
741 some sites will bounce your email because the hostname your giving
742 them isn't real (and doesn't match what they get doing a reverse
743 DNS on your dynamically-assigned IP address). If this happens, you
744 need to hack your sendmail so it masquerades as your host.
745 Setting</p>
746
747 <pre>
748 DMsmarthost.here
749 </pre>
750
751 <p>in your <code>sendmail.cf</code> will work, or you can set</p>
752
753 <pre>
754 MASQUERADE_AS(smarthost.here)
755 </pre>
756
757 <p>in the m4 configuration and do a reconfigure. (In both cases,
758 replace <code>smarthost.here</code> with the actual name of your
759 mailhost.) See the <a
760 href="http://www.lege.com/sendmail-FAQ.txt">sendmail FAQ</a> for
761 more details.</p>
762
763 <h2><a id="G12" name="G12">G12. Is any special configuration needed
764 to use firewalls?</a></h2>
765
766 <p>No. You can use fetchmail with SOCKS, the standard tool for
767 indirecting TCP/IP through a firewall. You can find out about
768 SOCKS, and download the SOCKS software including server and client
769 code, at the <a href="http://www.socks.nec.com/">SOCKS distribution
770 site</a>.</p>
771
772 <p>The specific recipe for using fetchmail with a firewall is at <a
773 href="#K1">K1</a></p>
774
775 <h2><a id="G13" name="G13">G13. Is any special configuration needed
776 to <em>send</em> mail?</a></h2>
777
778 <p>A user asks: but how do we send mail out to the POP3 server? Do
779 I need to implement another tool or will fetchmail do this too?</p>
780
781 <p>Fetchmail only handles the receiving side. The sendmail or other
782 preinstalled MTA on your client machine will handle sending mail
783 automatically; it will ship mail that is submitted while the
784 connection is active, and put mail that is submitted while the
785 connection is inactive into the outgoing queue.</p>
786
787 <p>Normally, sendmail is also run periodically (every 15 minutes on
788 most Linux systems) in a mode that tries to ship all the mail in
789 the outgoing queue. If you have set up something like pppd to
790 automatically dial out when your kernel is called to open a TCP/IP
791 connection, this will ensure that the mail gets out.</p>
792
793 <h2><a id="G14" name="G14">G14. Is fetchmail
794 Y2K-compliant?</a></h2>
795
796 <p>Fetchmail is fully Y2K-compliant.</p>
797
798 <p>Fetchmail could theoretically have problems when the 32-bit
799 time_t counters roll over in 2038, but I doubt it. Timestamps
800 aren't used for anything but log entry generation. Anyway, if you
801 aren't running on a 64-bit machine by then, you'll deserve to
802 lose.</p>
803
804 <h2><a id="G15" name="G15">G15. Is there a way in fetchmail to
805 support disconnected IMAP mode?</a></h2>
806
807 <p>No. Fetchmail is a mail transport agent, best understood as a
808 protocol gateway between POP3/IMAP servers and SMTP. Disconnected
809 operation requires an elaborate interactive client. It's a very
810 different problem.</p>
811
812 <h2><a id="G16" name="G16">G16. How will fetchmail perform under
813 heavy loads?</a></h2>
814
815 <p>Fetchmail streams message bodies line-by-line; the most core it
816 ever requires per message is enough memory to hold the RFC822
817 header, and that storage is freed when body processing begins. It
818 is, accordingly, quite economical in its use of memory.</p>
819
820 <p>After startup time, a fetchmail running in daemon mode stats its
821 configuration file once per poll cycle to see whether it has
822 changed and should be rescanned. Other than that, a fetchmail in
823 normal operation doesn't touch the disk at all; that job is left up
824 to the MTA or MDA the fetchmail talks to.</p>
825
826 <p>Fetchmail's performance is usually bottlenecked by latency on
827 the POP server or (less often) on the TCP/IP link to the server.
828 This is not a problem readily solved by tuning fetchmail, or even
829 by buying more TCP/IP capacity (which tends to improve bandwidth
830 but not necessarily latency).</p>
831
832 <hr/>
833 <h1>Build-time problems</h1>
834 <h2><a id="B1" name="B1"><strike>B1. Make coughs and dies when building on
835 FreeBSD.</strike></a></h2>
836
837 <p style="font-style:italic;">As of release 6.3.0, fetchmail's
838 Makefile[.in] should work flawlessly with BSD's portable make used on
839 FreeBSD. With older releases, use GNU make (usually installed as
840 <code>gmake</code>).</p>
841
842 <h2><a id="B2" name="B2">B2. Lex bombs out while building the
843 fetchmail lexer.</a></h2>
844
845 <p>fetchmail 6.3.0 and newer ship with the lexer and parser in .c
846 formats, so you do not need to use lex unless you hacked the .l or .y
847 files.</p>
848
849 <p>fetchmail's lexer has been developed with GNU flex, and the lex tools
850 shipped by some UNIX vendors (HP, SGI, Sun) are known to be incapable of
851 compiling fetchmail's lexer.</p>
852
853 <h2><a id="B3" name="B3">B3. I get link failures when I try to
854 build fetchmail.</a></h2>
855
856 <p>If you get errors resembling these:</p>
857
858 <pre>
859 mxget.o(.text+0x35): undefined referenceto '__res_search'
860 mxget.o(.text+0x99): undefined reference to '__dn_skipname'
861 mxget.o(.text+0x11c): undefined reference to '__dn_expand'
862 mxget.o(.text+0x187): undefined reference to '__dn_expand'
863 make: *** [fetchmail] Error 1
864 </pre>
865
866 <p>then you must add "-lresolv" to the LOADLIBS line in your
867 Makefile once you have installed the 'bind' package.</p>
868
869 <p>If you get link errors involving <tt>dcgettext</tt>, like
870 these:</p>
871
872 <pre>
873 rcfile_y.o: In function 'yyparse':
874 rcfile_y.o(.text+0x3aa): undefined reference to 'dcgettext__'
875 rcfile_y.o(.text+0x4f2): undefined reference to 'dcgettext__'
876 rcfile_y.o(.text+0x5ee): undefined reference to 'dcgettext__'
877 rcfile_y.o: In function 'yyerror':
878 rcfile_y.o(.text+0xc7c): undefined reference to 'dcgettext__'
879 rcfile_y.o(.text+0xcc8): undefined reference to 'dcgettext__'
880 rcfile_y.o(.text+0xdf9): more undefined references to 'dcgettext__' follow
881 </pre>
882
883 <p>install an up to date version of GNU gettext, reconfigure and rebuild
884 fetchmail. If that does not help, reconfigure with '--disable-nls' added
885 to the "./configure" command and rebuild.</p>
886
887 <h2><a id="B4" name="B4">B4. I get build failures in the intl
888 directory.</a></h2>
889
890 <p>Reconfigure with <tt>--disable-nls</tt> and recompile.</p>
891
892 <hr/>
893 <h1>Fetchmail configuration file grammar questions</h1>
894 <h2><a id="F1" name="F1">F1. Why does my old .fetchmailrc file no
895 longer work?</a></h2>
896
897 <h3>If your file predates 5.8.9</h3>
898
899 <p>If you were using ETRN mode, change your <tt>smtphost</tt>
900 option to a <tt>fetchdomains</tt> option.</p>
901
902 <h3>If your file predates 5.8.3</h3>
903
904 <p>The 'via localhost' special case for use with ssh tunnelling is
905 gone. Use the %h feature of <tt>plugin</tt> instead.</p>
906
907 <h3>If your file predates 5.6.8</h3>
908
909 <p>In 5.6.8, the <tt>preauth</tt> keyword and option were changed
910 back to <tt>auth</tt>. The <tt>preauth</tt> synonym will still be
911 supported through a few more point releases.</p>
912
913 <h3>If your file predates 5.6.5</h3>
914
915 <p>The <tt>imap-gss</tt>, <tt>imap-k4</tt>, and <tt>imap-login</tt>
916 protocol types are gone. This is a result of a major re-factoring
917 of the authentication machinery; fetchmail can now use Kerberos V4
918 and GSSAPI not just with IMAP but with POP3 servers that have
919 RFC1734 support for the AUTH command.</p>
920
921 <p>When trying to identify you to an IMAP or POP mailserver,
922 fetchmail now first tries methods that don't require a password
923 (GSSAPI, KERBEROS_IV); then it looks for methods that mask your
924 password (CRAM-MD5, X-OTP); and only if it the server doesn't
925 support any of those will it ship your password en clair.</p>
926
927 <p>Setting the <tt>preauth</tt> option to any value other than
928 'password' will prevent from looking for a password in your
929 <tt>.netrc</tt> file or querying for it at startup time.</p>
930
931 <h3>If your file predates 5.1.0</h3>
932
933 <p>In 5.1.0, the <tt>auth</tt> keyword and option were changed to
934 <tt>preauth</tt>.</p>
935
936 <h3>If your file predates 4.5.5</h3>
937
938 <p>If the <code>dns</code> option is on (the default), you may need
939 to make sure that any hostname you specify (for mail hosts or for
940 an SMTP target) is a canonical fully-qualified hostname). In order
941 to avoid DNS overhead and complications, fetchmail no longer tries
942 to derive the fetchmail client machine's canonical DNS name at
943 startup.</p>
944
945 <h3>If your file predates 4.0.6:</h3>
946
947 <p>Just after the '<code>via</code>' option was introduced, I
948 realized that the interactions between the '<code>via</code>',
949 '<code>aka</code>', and '<code>localdomains</code>' options were
950 out of control. Their behavior had become complex and confusing, so
951 much so that I was no longer sure I understood it myself. Users
952 were being unpleasantly surprised.</p>
953
954 <p>Rather than add more options or crock the code, I re-thought it.
955 The redesign simplified the code and made the options more
956 orthogonal, but may have broken some complex multidrop
957 configurations.</p>
958
959 <p>Any multidrop configurations that depended on the name just
960 after the '<code>poll</code>' or '<code>skip</code>' keyword being
961 still interpreted as a DNS name for address-matching purposes, even
962 in the presence of a '<code>via</code>' option, will break.</p>
963
964 <p>It is theoretically possible that other unusual configurations
965 (such as those using a non-FQDN poll name to generate Kerberos IV
966 tickets) might also break; the old behavior was sufficiently murky
967 that we can't be sure. If you think this has happened to you,
968 contact the maintainer.</p>
969
970 <h3>If your file predates 3.9.5:</h3>
971
972 <p>The '<code>remote</code>' keyword has been changed to
973 '<code>folder</code>'. If you try to use the old keyword, the
974 parser will utter a warning.</p>
975
976 <h3>If your file predates 3.9:</h3>
977
978 <p>It could be because you're using a .fetchmailrc that's written
979 in the old popclient syntax without an explicit
980 '<code>username</code>' keyword leading the first user entry
981 attached to a server entry.</p>
982
983 <p>This error can be triggered by having a user option such as
984 '<code>keep</code>' or '<code>fetchall</code>' before the first
985 explicit username. For example, if you write</p>
986
987 <pre>
988 poll openmail protocol pop3
989     keep user "Hal DeVore" there is hdevore here
990 </pre>
991
992 <p>the '<code>keep</code>' option will generate an entire user
993 entry with the default username (the name of fetchmail's invoking
994 user).</p>
995
996 <p>The popclient compatibility syntax was removed in 4.0. It
997 complicated the configuration file grammar and confused users.</p>
998
999 <h3>If your file predates 2.8:</h3>
1000
1001 <p>The '<code>interface</code>', '<code>monitor</code>' and
1002 '<code>batchlimit</code>' options changed after 2.8.</p>
1003
1004 <p>They used to be global options with '<code>set</code>' syntax
1005 like the batchlimit and logfile options. Now they're per-server
1006 options, like '<code>protocol</code>'.</p>
1007
1008 <p>If you had something like</p>
1009
1010 <pre>
1011     set interface = "sl0/10.0.2.15"
1012 </pre>
1013
1014 <p>in your .fetchmailrc file, simply delete that line and insert
1015 'interface sl0/10.0.2.15' in the server options part of your
1016 'defaults' declaration.</p>
1017
1018 <p>Do similarly for any '<code>monitor</code>' or
1019 '<code>batchlimit</code>' options.</p>
1020
1021 <h2><a id="F2" name="F2">F2. The .fetchmailrc parser won't accept
1022 my all-numeric user name.</a></h2>
1023
1024 <p>Either upgrade to a post-5.0.5 fetchmail or put string quotes
1025 around it. :-)</p>
1026
1027 <p>The configuration file parser in older fetchmail versions
1028 treated any all-numeric token as a number, which confused it when
1029 it was expecting a name. String quoting forces the token's
1030 class.</p>
1031
1032 <p>The lexical analyzer in 5.0.6 and beyond is smarter and assumes
1033 any token following "username" or "password" is a string.</p>
1034
1035 <h2><a id="F3" name="F3">F3. The .fetchmailrc parser won't accept
1036 my host or username beginning with 'no'.</a></h2>
1037
1038 <p>See <a href="#F2">F2</a>. You're caught in an unfortunate crack
1039 between the newer-style syntax for negated options ('no keep', 'no
1040 rewrite' etc.) and the older style run-on syntax ('nokeep',
1041 'norewrite' etc.).</p>
1042
1043 <p>Upgrade to a 5.0.6 or later fetchmail, or put string quotes
1044 around your token.</p>
1045
1046 <h2><a id="F4" name="F4">F4. I'm getting a 'parse error' message I
1047 don't understand.</a></h2>
1048
1049 <p>The most common cause of mysterious parse errors is putting a
1050 server option after a user option. Check the manual page; you'll
1051 probably find that by moving one or more options closer to the
1052 'poll' keyword you can eliminate the problem.</p>
1053
1054 <p>Yes, I know these ordering restrictions are hard to understand.
1055 Unfortunately, they're necessary in order to allow the 'defaults'
1056 feature to work.</p>
1057
1058 <hr/>
1059 <h1>Configuration questions</h1>
1060 <h2><a id="C1" name="C1">C1. Why do I need a .fetchmailrc when
1061 running as root on my own machine?</a></h2>
1062
1063 <p>Ian T. Zimmerman &lt;itz@rahul.net&gt; asked:</p>
1064
1065 <p>On the machine where I'm the only real user, I run fetchmail as
1066 root from a cron job, like this:</p>
1067
1068 <pre>
1069     fetchmail -u "itz" -p POP3 -s bolero.rahul.net
1070 </pre>
1071
1072 <p>This used to work as is (with no .fetchmailrc file in root's
1073 home directory) with the last version I had (1.7 or 1.8, I don't
1074 remember). But with 2.0, it RECPs all mail to the local root user,
1075 unless I create a .fetchmailrc in root's home directory
1076 containing:</p>
1077
1078 <pre>
1079      skip bolero.rahul.net proto POP3
1080           user itz is itz
1081 </pre>
1082
1083 <p>It won't work if the second line is just "<code>user
1084 itz</code>". This is silly.</p>
1085
1086 <p>It seems fetchmail decides to RECP the 'default local user'
1087 (i.e. the uid running fetchmail) unless there are local aliases,
1088 and the 'default' aliases (itz-&gt;itz) don't count. They
1089 should.</p>
1090
1091 <p>Answer:</p>
1092
1093 <p>No they shouldn't. I thought about this for a while, and I don't
1094 much like the conclusion I reached, but it's unavoidable. The
1095 problem is that fetchmail has no way to know, in general, that a
1096 local user 'itz' actually exists.</p>
1097
1098 <p>"Ah!" you say, "Why doesn't it check the password file to see if
1099 the remote name matches a local one?" Well, there are two
1100 reasons.</p>
1101
1102 <p>One: it's not always possible. Suppose you have an SMTP host
1103 declared that's not the machine fetchmail is running on? You
1104 lose.</p>
1105
1106 <p>Two: How do you know server itz and SMTP-host itz are the same
1107 person? They might not be, and fetchmail shouldn't assume they are
1108 unless local-itz can explicitly produce credentials to prove it
1109 (that is, the server-itz password in local-itz's .fetchmailrc
1110 file.).</p>
1111
1112 <p>Once you start running down possible failure modes and thinking
1113 about ways to tinker with the mapping rules, you'll quickly find
1114 that all the alternatives to the present default are worse or
1115 unacceptably more complicated or both.</p>
1116
1117 <h2><a id="C2" name="C2">C2. How can I arrange for a fetchmail
1118 daemon to get killed when I log out?</a></h2>
1119
1120 <p>The easiest way to dispatch fetchmail on logout (which will work
1121 reliably only if you have just one login going at any time) is to
1122 arrange for the command 'fetchmail -q' to be called on logout.
1123 Under bash, you can arrange this by putting 'fetchmail -q' in the
1124 file '~/.bash_logout'. Most csh variants execute '~/.logout' on
1125 logout. For other shells, consult your shell manual page.</p>
1126
1127 <p>Automatic startup/shutdown of fetchmail is a little harder to
1128 arrange if you may have multiple login sessions going. In the
1129 contrib subdirectory of the fetchmail distribution there is some
1130 shell code you can add to your .bash_login and .bash_logout
1131 profiles that will accomplish this. Thank James Laferriere
1132 &lt;babydr@nwrain.net&gt; for it.</p>
1133
1134 <p>Some people start up and shut down fetchmail using the ppp-up
1135 and ppp-down scripts of pppd.</p>
1136
1137 <h2><a id="C3" name="C3">C3. How do I know what interface and
1138 address to use with --interface?</a></h2>
1139
1140 <p>This depends a lot on your local networking configuration (and
1141 right now you can't use it at all except under Linux and the newer
1142 BSDs). However, here are some important rules of thumb that can
1143 help. If they don't work, ask your local sysop or your Internet
1144 provider.</p>
1145
1146 <p>First, you may not need to use --interface at all. If your
1147 machine only ever does SLIP or PPP to one provider, it's almost
1148 certainly by a point to point modem connection to your provider's
1149 local subnet that's pretty secure against snooping (unless someone
1150 can tap your phone or the provider's local subnet!). Under these
1151 circumstances, specifying an interface address is fairly
1152 pointless.</p>
1153
1154 <p>What the option is really for is sites that use more than one
1155 provider. Under these circumstances, typically one of your provider
1156 IP addresses is your mailserver (reachable fairly securely via the
1157 modem and provider's subnet) but the others might ship your packets
1158 (including your password) over unknown portions of the general
1159 Internet that could be vulnerable to snooping. What you'll use
1160 --interface for is to make sure your password only goes over the
1161 one secure link.</p>
1162
1163 <p>To determine the device:</p>
1164
1165 <ol>
1166 <li>If you're using a SLIP link, the correct device is probably
1167 sl0.</li>
1168
1169 <li>If you're using a PPP link, the correct device is probably
1170 ppp0.</li>
1171
1172 <li>If you're using a direct connection over a local network such
1173 as an ethernet, use the command 'netstat -r' to look at your
1174 routing table. Try to match your mailserver name to a destination
1175 entry; if you don't see it in the first column, use the 'default'
1176 entry. The device name will be in the rightmost column.</li>
1177 </ol>
1178
1179 <p>To determine the address and netmask:</p>
1180
1181 <ol>
1182 <li>If you're talking to slirp, the correct address is probably
1183 10.0.2.15, with no netmask specified. (It's possible to configure
1184 slirp to present other addresses, but that's the default.)</li>
1185
1186 <li>If you have a static IP address, run 'ifconfig &lt;device&gt;',
1187 where &lt;device&gt; is whichever one you've determined. Use the IP
1188 address given after "inet addr:". That is the IP address for your
1189 end of the link, and is what you need. You won't need to specify a
1190 netmask.</li>
1191
1192 <li>If you have a dynamic IP address, your connection IP will vary
1193 randomly over some given range (that is, some number of the least
1194 significant bits change from connection to connection). You need to
1195 declare an address with the variable bits zero and a complementary
1196 netmask that sets the range.</li>
1197 </ol>
1198
1199 <p>To illustrate the rule for dynamic IP addresses, let's suppose
1200 you're hooked up via SLIP and your IP provider tells you that the
1201 dynamic address pool is 255 addresses ranging from 205.164.136.1 to
1202 205.164.136.255. Then</p>
1203
1204 <pre>
1205     interface "sl0/205.164.136.0/255.255.255.0"
1206 </pre>
1207
1208 <p>would work. To range over any value of the last two octets
1209 (65536 addresses) you would use</p>
1210
1211 <pre>
1212     interface "sl0/205.164.0.0/255.255.0.0"
1213 </pre>
1214
1215 <h2><a id="C4" name="C4">C4. How can I set up support for
1216 sendmail's anti-spam features?</a></h2>
1217
1218 <p>This answer covers versions of sendmail from 8.9.3-20 (the
1219 version installed in Red Hat 6.2) upwards. If you have an older
1220 version, upgrade to sendmail 8.9.</p>
1221
1222 <p>Stock sendmails can now do anti-spam exclusions based on a
1223 database of filter rules. The human-readable form of the database
1224 is at <tt>/etc/mail/access</tt>. The database itself is at
1225 <tt>/etc/mail/access.db</tt>.</p>
1226
1227 <p>The table itself uses email addresses, domain names, and network
1228 numbers as keys. For example,</p>
1229
1230 <pre>
1231 spammer@aol.com         REJECT
1232 cyberspammer.com        REJECT
1233 192.168.212             REJECT
1234 </pre>
1235
1236 <p>would refuse mail from spammer@aol.com, any user from
1237 cyberspammer.com (or any host within the cyberspammer.com domain),
1238 and any host on the 192.168.212.* network. (This feature can be
1239 used to do other things as well; see the <a
1240 href="http://www.sendmail.org/m4/anti-spam.html">sendmail
1241 documentation</a> for details)</p>
1242
1243 <p>To actually set up the database, run</p>
1244
1245 <pre>
1246 makemap hash deny &lt;deny
1247 </pre>
1248
1249 <p>in /etc/mail.</p>
1250
1251 <p>To test, send a message to your mailing address from that host
1252 and then pop off the message with fetchmail, using the -v argument.
1253 You can monitor the SMTP transaction, and when the FROM address is
1254 parsed, if sendmail sees that it is an address in spamlist,
1255 fetchmail will flush and delete it.</p>
1256
1257 <p>Under no circumstances put your <strong>mailhost</strong> or
1258 <strong>any host you accept mail from</strong> using fetchmail into
1259 your reject file. You <strong>will</strong> lose mail if you do
1260 this!!!</p>
1261
1262 <h2><a id="C5" name="C5">C5. How can I poll some of my mailboxes
1263 more/less often than others?</a></h2>
1264
1265 <p>Use the <cite>interval</cite> keyword on the ones that should be
1266 checked less often. For example, if you do a poll every 5 minutes,
1267 and want to poll some mailboxes every 5 minutes and some every 30
1268 minutes, use something like this:</p>
1269
1270 <pre>
1271 poll mainsite.example.com  proto pop3 user ....
1272 poll secondary.example.com proto pop3 interval 6 user ...
1273 </pre>
1274
1275 <p>Then secondary.example.com will be polled every 6th time that
1276 mainsite.example.com is polled, which with a polling interval of
1277 every 5 minutes means that secondary.example.com will be polled
1278 every 30 minutes.</p>
1279
1280 <h2><a id="C6" name="C6">Fetchmail works OK started up manually,
1281 but not from an init script.</a></h2>
1282
1283 <p>Often, startup scripts have a different environment than an
1284 interactive login shell. For instance, $HOME might point to "/root"
1285 when you are logged in as root, but it might be either unset, or
1286 set to "/" when the startup scripts are running. That means
1287 fetchmail at startup can't find the .fetchmailrc.</p>
1288
1289 <p>Pick a location (such as /etc/fetchmailrc) and use fetchmail's
1290 -f option to point fetchmail at it. That should solve the
1291 problem.</p>
1292
1293 <h2><a id="C7" name="C7">C7. How can I forward mail to another
1294 host?</a></h2>
1295
1296 <p>To forward mail to a host other than the one you are running
1297 fetchmail on, use the <code>smtphost</code> or
1298 <code>smtpname</code> option. See the manual page for details.</p>
1299
1300 <hr/>
1301 <h1>How to make fetchmail play nice with various MTAs</h1>
1302 <h2><a id="T1" name="T1">T1. How can I use fetchmail with
1303 sendmail?</a></h2>
1304
1305 <p>For most sendmails, no special configuration is required. Eric
1306 Allman tells me that if <code>FEATURE(always_add_domain)</code> is
1307 included in sendmail's configuration, you can leave the
1308 <code>rewrite</code> option off.</p>
1309
1310 <p>If your sendmail complains "sendmail does not relay", make
1311 sure your sendmail.cf file says <code>Cwlocalhost</code> so that
1312 sendmail recognizes 'localhost' as a name of its host.</p>
1313
1314 <p>If you're mailing from another machine on your local network,
1315 also ensure that its IP address is listed in ip_allow or name in
1316 name_allow (usually in /etc/mail/)</p>
1317
1318 <p>If you find that your sendmail doesn't like the address
1319 'FETCHMAIL-DAEMON@localhost' (which is used in the bouncemail that
1320 fetchmail generates), you may have to set
1321 <code>FEATURE(accept_unqualified_senders)</code>.</p>
1322
1323 <p>G&uuml;nther Leber reports that Digital Unix sendmails won't
1324 work with fetchmail. The symptom is an error message "<code>553
1325 Local configuration error, hostname not recognized as
1326 local</code>". The problem is that fetchmail normally feeds
1327 sendmail with the client machine's host address in the MAIL FROM
1328 line. These sendmails think this means they're seeing the result of
1329 a mail loop and suppress the mail. You may be able to work around
1330 this by running in <code>--invisible</code> mode.</p>
1331
1332 <p>If you want to support multidrop mode, and you can get access to
1333 your mailserver's sendmail.cf file, it's a good idea to add this
1334 rule:</p>
1335
1336 <pre>
1337 H?l?Delivered-To: $h
1338 </pre>
1339
1340 <p>This will cause the mailserver's sendmail to reliably write the
1341 appropriate envelope address into each message before fetchmail
1342 sees it, and tell fetchmail which header it is.&#160; With this
1343 change, multidrop mode should work reliably even when the Received
1344 header omits the envelope address (which will typically be the case
1345 when the message has multiple recipients).&#160; However it will
1346 still not distinguish the recipients, your only advantage is that
1347 no bounce will be sent if a message is BCC addressed to multiple
1348 users at your site.&#160; To fix even that problem, you might want
1349 to try the following hack, which is however untested and quite
1350 experimental:</p>
1351
1352 <pre>
1353 H?J?Delivered-To: $u
1354
1355 Mmdrop, P=/usr/bin/procmail, F=lsDFMqSPfhnu9J,
1356     S=EnvFromSMTP/HdrFromSMTP, R=EnvToSMTP/HdrToSMTP,
1357     T=DNS/RFC822/X-Unix,
1358     A=procmail -Y -a $u -d $h
1359 </pre>
1360
1361 <p>For both hacks, you have to declare '<code>envelope
1362 "Delivered-To:"</code>' on the fetchmail side, to put the virtual
1363 domain (e.g. 'domain.com') with RELAY permission into your access
1364 file and to add a line reading '<code>domain.com
1365 local:local-pop-user</code>' for the first and '<code>domain.com
1366 mdrop:local-pop-user</code>' for the second hack to your
1367 mailertable.</p>
1368
1369 <p>You will notice that if the mail already has a Delivered-To
1370 header, sendmail will not add another.&#160; Further, editing
1371 sendmail.cf directly is not very comfortable.&#160; Solutions for
1372 both problems can be found in Peter 'Rattacresh' Backes' 'hybrid'
1373 patch against sendmail.&#160; Have a look at it, you can find it in
1374 the contrib subdirectory.</p>
1375
1376 <p>Feel free to try Martijn Lievaart's detailed recipe in the
1377 contrib subdirectory of the fetchmail source distribution, it
1378 attempts to realize multidrop mailboxes with an external
1379 script.</p>
1380
1381 <p>If for some reason you are invoking sendmail via the
1382 <tt>mda</tt> option (rather than delivering to port 25 via smtp),
1383 don't forget to include the -i switch. Otherwise you will
1384 occasionally get mysterious delivery failures with a SIGPIPE as the
1385 sendmail instance dies. The problem is messages with a single dot
1386 at start of a text line.</p>
1387
1388 <h2><a id="T2" name="T2">T2. How can I use fetchmail with
1389 qmail?</a></h2>
1390
1391 <p>Turn on the <code>forcecr</code> option; qmail's listener mode
1392 doesn't like header or message lines terminated with bare
1393 linefeeds.</p>
1394
1395 <p>(This information is thanks to Robert de Bath
1396 &lt;robert@mayday.cix.co.uk&gt;.)</p>
1397
1398 <p>If a mailhost is using the qmail package (see <a
1399 href="http://pobox.com/~djb/qmail.html">http://pobox.com/~djb/qmail.html</a>)
1400 then, providing the local hosts are also using qmail, it is
1401 possible to set up one fetchmail link to be reliably collect the
1402 mail for an entire domain.</p>
1403
1404 <p>One of the basic features of qmail is the 'Delivered-To:'
1405 message header. Whenever qmail delivers a message to a local
1406 mailbox it puts the username and hostname of the envelope recipient
1407 on this line. The major reason for this is to prevent mail
1408 loops.</p>
1409
1410 <p>To set up qmail to batch mail for a disconnected site the
1411 ISP-mailhost will have normally put that site in its 'virtualhosts'
1412 control file so it will add a prefix to all mail addresses for this
1413 site. This results in mail sent to
1414 'username@userhost.userdom.dom.com' having a 'Delivered-To:' line
1415 of the form:</p>
1416
1417 <pre>
1418        Delivered-To: mbox-userstr-username@userhost.userdom.dom.com
1419 </pre>
1420
1421 <p>A single host maildrop will be slightly simpler:</p>
1422
1423 <pre>
1424        Delivered-To: mbox-userstr-username@userhost.dom.com
1425 </pre>
1426
1427 <p>The ISP can make the 'mbox-userstr-' prefix anything they choose
1428 but a string matching the user host name is likely.</p>
1429
1430 <p>To use this line you must:</p>
1431
1432 <ol>
1433 <li>Ensure the option 'envelope Delivered-To:' is in the fetchmail
1434 config file.</li>
1435
1436 <li>Ensure you have a localdomains containing 'userdom.dom.com' or
1437 'userhost.dom.com' respectively.</li>
1438 </ol>
1439
1440 <p>So far this reliably delivers messages to the correct machine of
1441 the local network, to deliver to the correct user the
1442 'mbox-userstr-' prefix must be stripped off of the user name. This
1443 can be done by setting up an alias within the qmail MTA on each
1444 local machine. Simply create a dot-qmail file called
1445 '.qmail-mbox-userstr-default' in the alias directory (normally
1446 /var/qmail/alias) with the contents:</p>
1447
1448 <pre>
1449       | ../bin/qmail-inject -a -f"$SENDER" "${LOCAL#mbox-userstr-}@$HOST"
1450 </pre>
1451
1452 <p>Note this <em>does</em> require a modern /bin/sh.</p>
1453
1454 <p>Peter Wilson adds:</p>
1455
1456 <p>"My ISP uses "alias-unzzippedcom-" as the prefix, which means
1457 that I need to name my file ".qmail-unzzippedcom-default". This is
1458 due to qmail's assumption that a message sent to user-xyz is
1459 handled by the file ~user/.qmail-xyz (or
1460 ~user/.qmail-default)."</p>
1461
1462 <p>Luca Olivetti adds:</p>
1463
1464 <p>If you aren't using qmail locally, or you don't want to set up
1465 the alias mechanism described above, you can use the option
1466 '<code>qvirtual "mbox-userstr-"</code>' in your fetchmail config
1467 file to strip the prefix from the local user name.</p>
1468
1469 <h2><a id="T3" name="T3">T3. How can I use fetchmail with
1470 exim?</a></h2>
1471
1472 <p>If you have <code>rewrite</code> on:</p>
1473
1474 <p>There is an RFC1123 requirement that MAIL FROM and RCPT TO
1475 addresses you pass to it have to be canonical (e.g. with a fully
1476 qualified hostname part). Therefore fetchmail tries to pass fully
1477 qualified RCPT TO addresses. But exim does not by default accept
1478 'localhost' as a fully qualified domain. This can be fixed.</p>
1479
1480 <p>In exim.conf, add 'localhost' to your local_domains declaration
1481 if it's not already present. For example, the author's site at
1482 thyrsus.com would have a line reading:</p>
1483
1484 <pre>
1485        local_domains = thyrsus.com:localhost
1486 </pre>
1487
1488 <p>If you have <code>rewrite</code> off:</p>
1489
1490 <p>MAIL FROM is a potential problem if the MTAs upstream from your
1491 fetchmail don't necessarily pass canonicalized From and Return-Path
1492 addresses, and fetchmail's <code>rewrite</code> option is off. The
1493 specific case where this has come up involves bounce messages
1494 generated by sendmail on your mailer host, which have the
1495 (un-canonicalized) origin address MAILER-DAEMON.</p>
1496
1497 <p>The right way to fix this is to enable the <code>rewrite</code>
1498 option and have fetchmail canonicalize From and Return-Path
1499 addresses with the mailserver hostname before exim sees them. This
1500 option is enabled by default, so it won't be off unless you turned
1501 it off.</p>
1502
1503 <p>If you must run with <code>rewrite</code> off, there is a switch
1504 in exim's configuration files that allows it to accept domainless
1505 MAIL FROM addresses; you will have to flip it by putting the
1506 line</p>
1507
1508 <pre>
1509         sender_unqualified_hosts = localhost
1510 </pre>
1511
1512 <p>in the main section of the exim configuration file. Note that
1513 this will result in such messages having an incorrect domain name
1514 attached to their return address (your SMTP listener's hostname
1515 rather than that of the remote mail server).</p>
1516
1517 <h2><a id="T4" name="T4">T4. How can I use fetchmail with
1518 smail?</a></h2>
1519
1520 <p>Smail 3.2 is very nearly plug-compatible with sendmail, and may
1521 work fine out of the box.</p>
1522
1523 <p>We have one report that when processing multiple messages from a
1524 single fetchmail session, smail sometimes delivers them in an order
1525 other than received-date order. This can be annoying because it
1526 scrambles conversational threads. This is not fetchmail's problem,
1527 it is an smail 'feature' and has been reported to the maintainers
1528 as a bug.</p>
1529
1530 <p>Very recent smail versions require an
1531 <code>-smtp_hello_verify</code> option in the smail config file.
1532 This overrides smail's check to see that the HELO address is
1533 actually that of the client machine, which is never going to be the
1534 case when fetchmail is in the picture. According to RFC1123 an SMTP
1535 listener <em>must</em> allow this mismatch, so smail's new behavior
1536 (introduced sometime between 3.2.0.90 and 3.2.0.95) is a bug.</p>
1537
1538 <p>You may also need to say
1539 <code>-smtp_hello_broken_allow=127.0.0.1</code> in order for smail
1540 to accept the "localhost" that fetchmail normally appends to
1541 recipient addresses.</p>
1542
1543 <h2><a id="T5" name="T5">T5. How can I use fetchmail with SCO's
1544 MMDF?</a></h2>
1545
1546 <p>MMDF itself is difficult to configure, but it turns out that
1547 connecting fetchmail to MMDF's SMTP channel isn't that hard. You
1548 can read an <a
1549 href="http://www.aplawrence.com/Unixart/uucptofetch.html">MMDF
1550 recipe</a> that describes replacing a UUCP link with fetchmail
1551 feeding MMDF.</p>
1552
1553 <h2><a id="T6" name="T6">T6. How can I use fetchmail with Lotus
1554 Notes?</a></h2>
1555
1556 <p>The Lotus Notes SMTP gateway tries to deduce when it should
1557 convert \n to \r\n, but its rules are not the intuitive and
1558 correct-for-RFC822 ones. Use 'forcecr'.</p>
1559
1560 <h2><a id="T7" name="T7">T7. How can I use fetchmail with Courier
1561 IMAP?</a></h2>
1562
1563 <p>The courier mta doesn't like RCPT addresses that look like
1564 <code>someone@localhost</code>. Work around this with an
1565 <code>smtphost</code> or <code>smtpaddress</code>.</p>
1566
1567 <h2><a name="T8">T8. How can I use fetchmail with vbmailshield?</a></h2>
1568
1569 <p>vbmailshield's SMTP interpreter is broken.  It doesn't understand RSET.</p>
1570
1571 <p>As a workaround, you can set batchlimit to 1 so RSET is never used.</p>
1572
1573 <hr/>
1574 <h1>How to make fetchmail work with various servers</h1>
1575 <h2><a id="S1" name="S1">S1. How can I use fetchmail with
1576 qpopper?</a></h2>
1577
1578 <p>Qualcomm's qpopper is probably the best-of-breed among POP3
1579 servers, and is very widely deployed. Nevertheless, it has some
1580 problems which fetchmail exposes. We recommend using <a
1581 href="#G8">IMAP</a> instead if at all possible. If you must talk to
1582 qpopper, here are some problems to be aware of:</p>
1583
1584 <h3>Problems with retrieving large messages from qpopper 2.53</h3>
1585
1586 <p>Tony Tang <a
1587 href="mailto:tony@atn.com.hk">&lt;tony@atn.com.hk&gt;</a> reports
1588 that there is a bad intercation between fetchmail and qpopper 2.5.3
1589 under Red Hat Linux versions 5.0 to 5.2, kernels 2.0.34 to 2.0.35.
1590 When fetching very large messages (over 700K) from 2.5.3, fetchmail
1591 will hang with a socket error.</p>
1592
1593 <p>This is probably not a fetchmail bug, but rather a symptom of
1594 some problem in the networking stack that qpopper's transmission
1595 pattern is tickling, as fetchpop (another Linux POP client) also
1596 displays the hang but Netscape running under Win95 does not. The
1597 problem can also be banished by <a
1598 href="http://www.eudora.com/freeware/qpop.html">upgrading to
1599 qpopper 3.0b1</a>.</p>
1600
1601 <h3>Bad interaction with fetchmail 4.4.2 to 4.4.7</h3>
1602
1603 <p>Versions of fetchmail from 4.4.2 through 4.4.7 had a bad
1604 interaction with Eudora qpopper versions 2.3 and later. See <a
1605 href="#X5">X5</a> for details. The solution is to upgrade your
1606 fetchmail.</p>
1607
1608 <h2><a id="S2" name="S2">S2. How can I use fetchmail with Microsoft
1609 Exchange?</a></h2>
1610
1611 <p>It's been reliably reported that Exchange 2000's POP3 support is
1612 so broken that it's unusable. One symptom is that messages without
1613 a terminating newline get the POP3 message termination dot emitted
1614 -- you guessed it -- right after the last character of the message,
1615 with no terminating newline added. This will hang fetchmail or any
1616 other RFC-compliant server. IMAP is alleged to work OK, though.</p>
1617
1618 <p>Older versions of Exchange are semi-usable.  They randomly drop
1619 attachments on the floor, though.  Microsoft acknowledges this
1620 as a known bug and apparently has no plans to fix it.</p>
1621
1622 <p>Fetchmail using IMAP supports the proprietary NTLM mode used
1623 with M$ Exchange servers. To enable this, configure fetchmail with
1624 the --enable-NTLM option and recompile it. Specify a user option
1625 value that looks like 'user@domain': the part to the left of the @
1626 will be passed as the username and the part to the right as the
1627 NTLM domain.</p>
1628
1629 <p>M$ Exchange violates the POP3 and IMAP RFCs. Its LIST command
1630 does not reveal the real sizes of mail in the pop mailbox, but the
1631 sizes of the compressed versions in the exchange mail database
1632 (thanks to Arjan De Vet and Guido Van Rooij for alerting us to this
1633 problem).</p>
1634
1635 <p>Fetchmail works with M$ Exchange, despite this brain damage. Two
1636 features are compromised. One is that the --limit option will not
1637 work right (it will check against compressed and not actual sizes).
1638 The other is that a too-small SIZE argument may be passed to your
1639 ESMTP listener, assuming you're using one (this should not be a
1640 problem unless the actual size of the message is above the
1641 listener's configured length limit).</p>
1642
1643 <p>Somewhat belatedly, I've learned that there's supposed to be a
1644 registry bit that can fix this breakage:</p>
1645
1646 <pre>
1647 HKEY_LOCAL_MACHINE\System\CurrentControlSet\Services\MsExchangeIs\Parameters
1648 System\Pop3 Compatibility
1649 </pre>
1650
1651 <p>This is a bitmask that controls the variations from the standard
1652 protocol. The bits defined are:</p>
1653
1654 <dl>
1655 <dt>0x00000001:</dt>
1656
1657 <dd>Report exact message sizes for the LIST command</dd>
1658
1659 <dt>0x00000002:</dt>
1660
1661 <dd>Allow arbitrary linear whitespace between commands and
1662 arguments</dd>
1663
1664 <dt>0x00000004:</dt>
1665
1666 <dd>Enable the LAST command</dd>
1667
1668 <dt>0x00000008:</dt>
1669
1670 <dd>Allow an empty PASS command (needed for users with blank
1671 passwords, but illegal in the protocol)</dd>
1672
1673 <dt>0x00000010:</dt>
1674
1675 <dd>Relax the length restrictions for arguments to commands
1676 (protocol requires 40, but some user names may be longer than
1677 that).</dd>
1678
1679 <dt>0x00000020:</dt>
1680
1681 <dd>Allow spaces in the argument to the USER command.</dd>
1682 </dl>
1683
1684 <p>There's another one that may be useful to know about:</p>
1685
1686 <pre>
1687 KEY_LOCAL_MACHINE\System\CurrentControlSet\Services\MsExchangeIs\Parameters
1688 System\Pop3 Performance
1689 </pre>
1690
1691 <dl>
1692 <dt>0x00000001:</dt>
1693
1694 <dd>Render messages to a temporary stream instead of sending
1695 directly from the database (should always be on)</dd>
1696
1697 <dt>0x00000002: Flag unrenderable messages (instead of just failing
1698 commands) (should only be on if you are seeing the problems
1699 reported in KB Q168109)</dt>
1700
1701 <dt>0x00000004:</dt>
1702
1703 <dd>Return from the QUIT command before all messages have been
1704 deleted.</dd>
1705 </dl>
1706
1707 <p>The Microsoft pod-person who revealed this information to me
1708 admitted that he couldn't find it anywhere in their public
1709 knowledge base.</p>
1710
1711 <p>Another specific problem we have seen with Exchange servers has
1712 as its symptom a response to LOGIN that says "NO Ambiguous Alias".
1713 Grant Edwards writes:</p>
1714
1715 <p>This means that Exchange Server is too f*&amp;#ing stupid to
1716 figure out which mailbox belongs to you. Instead of actually
1717 keeping track of which inbox belongs to which user, it uses some
1718 half-witted, guess-o-matic heuristic to try to guess your mailbox
1719 name from your username.</p>
1720
1721 <p>In your case it doesn't work because your username maps to more
1722 than one mailbox. For some people it doesn't work because their
1723 username maps to zero mailboxes. This is yet another inept, lame,
1724 almost criminally negligent design decision from our friends in
1725 Redmond.</p>
1726
1727 <p>You've got several options:</p>
1728
1729 <ul>
1730 <li>Get your administrator to configure the server so that
1731 usernames and mailbox names are the same.</li>
1732
1733 <li>Get your administrator to add an alias that maps your username
1734 explicitly to your mailbox name.</li>
1735 </ul>
1736
1737 <p>But, the best option involves a tactical nuclear weapon (an old
1738 ASROC will do), pissing off a lot people who live downwind from
1739 Redmond, and your choice of any Linux, NetBSD, FreeBSD, or Solaris
1740 CD-ROM.</p>
1741
1742 <h2><a id="S3" name="S3">S3. How can I use fetchmail with HP
1743 OpenMail?</a></h2>
1744
1745 <p>No special configuration is required, but OpenMail versions
1746 prior to 6.0 have an annoying bug similar to the big one in <a
1747 href="#S2">Microsoft Exchange</a>. The message sizes it gives in
1748 the LIST are rounded to the nearest 1024 bytes. It also has a nasty
1749 habit of discarding headers it doesn't recognize, such as X- and
1750 Resent- headers.</p>
1751
1752 <p>As with M$ Exchange, the only real fix for these problems is to
1753 get a POP (or preferably IMAP) server that isn't brain-dead.
1754 OpenMail's project manager claims these bugs have been fixed in
1755 6.0.</p>
1756
1757 <p>We've had a more recent report (December 2001) that the TOP
1758 command fails, returning only one line regrardless of its argument,
1759 on something identifying itself as "OpenMail POP3 interface".</p>
1760
1761 <h2><a id="S4" name="S4">S4. How can I use fetchmail with Novell GroupWise?</a></h2>
1762
1763 <p>The Novell GroupWise IMAP server would be better named
1764 GroupFoolish; it is (according to the designer of IMAP) unusably
1765 broken. Among other things, it doesn't include a required content
1766 length in its BODY[TEXT] response.</p>
1767
1768 <p>Fetchmail works around this problem, but we strongly recommend
1769 voting with your dollars for a server that isn't brain-dead. If you
1770 stick with code as shoddy as GroupWise seems to be, you will
1771 probably pay for it with other problems.</p>
1772
1773 <h2><a id="S5" name="S5">S5. How can I use fetchmail with
1774 InterChange?</a></h2>
1775
1776 <p>You can't. At least not if you want to be able to see
1777 attachments. InterChange has a bug similar to the MailMax server;
1778 it reports the message length with attachments but doesn't download
1779 them on TOP or RETR.</p>
1780
1781 <p>On Jan 9 2001, the people at InfiniteMail sent me mail informing
1782 me that their new 3.61.08 release of InterChange fixes this
1783 problem. I don't have any reports one way or the other yet.</p>
1784
1785 <h2><a id="S6" name="S6">S6. How can I use fetchmail with MailMax?</a></h2>
1786
1787 <p>You can't. At least not if you want to be able to see
1788 attachments. MailMax has a bug; it reports the message length with
1789 attachments but doesn't download them on TOP or RETR.</p>
1790
1791 <p>Also, we're told that TOP sometimes fails to retrieve the entire
1792 message even when enough lines have been specified. The MailMax
1793 developers have acknowledged this bug as of 4 May 2000, but there
1794 is no fix yet. If you must use this server, force RETR with the
1795 <tt>fetchall</tt> option.</p>
1796
1797 <h2><a id="S7" name="S7">S7. How can I use fetchmail with FTGate?</a></h2>
1798
1799 <p>The FTGate V2 server (and possibly older versions as well) has a
1800 weird bug. It answers OK twice to a TOP request! Use the
1801 <code>fetchall</code> option to force use of RETR and work around
1802 this bug.</p>
1803
1804 <hr/>
1805 <h1>How to fetchmail work with specific ISPs</h1>
1806 <h2><a id="I1" name="I1">I1. How can I use fetchmail with CompuServe RPA?</a></h2>
1807
1808 <p>First, make sure your fetchmail has the RPA support compiled in.
1809 Stock fetchmail binaries (such as you might get from an RPM) don't.
1810 You can check this by looking at the output of <code>fetchmail
1811 -V</code>; if you see the string "+RPA" after the version ID you're
1812 good to go, otherwise you'll have to build your own from sources
1813 (see the INSTALL file in the source distribution for
1814 directions).</p>
1815
1816 <p>Give your CompuServe pass-phrase in lower case as your password.
1817 Add '@compuserve.com' to your user ID so that it looks like 'user
1818 &lt;UserID&gt;@compuserve.com', where &lt;UserID&gt; can be either
1819 your numerical userID or your E-mail nickname. An RPA-enabled
1820 fetchmail will automatically check for csi.com in the POP server's
1821 greeting line. If that's found, and your user ID ends with
1822 '@compuserve.com', it will query the server to see if it is
1823 RPA-capable, and if so do an RPA transaction rather than a
1824 plain-text password handshake.</p>
1825
1826 <p><strong>Warning:</strong> the debug (-v -v) output of fetchmail
1827 will show your pass-phrase in Unicode!</p>
1828
1829 <p>These two .fetchmailrc entries show the difference between an
1830 RPA and non-RPA configuration:</p>
1831
1832 <pre>
1833 # This version will use RPA
1834 poll csi.com via "pop.site1.csi.com" with proto POP3 and options no dns
1835     user "CSERVE_USER@compuserve.com" there with password "CSERVE_PASSWORD"
1836         is LOCAL_USER here options fetchall stripcr
1837
1838 # This version will not use RPA
1839 poll non-rpa.csi.com via "pop.site1.csi.com" with proto POP3 and options no dns
1840     user "CSERVE_USER" there with password "CSERVE_POP3_PASSWORD"
1841        is LOCAL_USER here options fetchall stripcr
1842 </pre>
1843
1844 <h2><a id="I2" name="I2">I2. How can I use fetchmail with Demon
1845 Internet's SDPS?</a></h2>
1846
1847 <h3>Single-drop mode</h3>
1848
1849 <p>You can get fetchmail to download the email for just one user
1850 from Demon Internet's POP3 server by giving it a username
1851 consisting of your Demon user name followed by your account name,
1852 with an at-sign between them.</p>
1853
1854 <p>For example, to download email for the user
1855 &lt;philh@vision25.demon.co.uk&gt;, you could use the following
1856 .fetchmailrc file:</p>
1857
1858 <pre>
1859 set postmaster "philh"
1860 poll pop3.demon.co.uk with protocol POP3:
1861     user "philh@vision25" is philh
1862 </pre>
1863
1864 <h3>Multi-drop mode</h3>
1865
1866 <p>Demon Internet's SDPS service is an implementation of POP3. All
1867 messages have a Received: header added when they enter the
1868 maildrop, like this:</p>
1869
1870 <pre>
1871    Received: from punt-1.mail.demon.net by mailstore for fred@xyz.demon.co.uk
1872              id 899963657:10:27896:0; Thu, 09 Jul 98 05:54:17 GMT
1873 </pre>
1874
1875 <p>To enable multi-drop mode you need to tell fetchmail that
1876 'mailstore' is the name of the host which accepted the mail, and
1877 let it know the hostname part(s) of your E-mail address. The
1878 following example assumes that your hostname is xyz.demon.co.uk,
1879 and that you have also bought "mail forwarding" for the domain
1880 my-company.co.uk (in which case your MTA must also be configured to
1881 accept mail sent to user@my-company.co.uk)</p>
1882
1883 <pre>
1884      poll pop3.demon.co.uk proto pop3 aka mailstore no dns:
1885        localdomains xyz.demon.co.uk my-company.co.uk
1886        user xyz is *
1887 </pre>
1888
1889 <p>Note that Demon may delete mail on the server which is more than
1890 30 days old; see their <a
1891 href="http://www.demon.net/helpdesk/products/mail/sdps-tech.shtml">POP3
1892 page</a> for details.</p>
1893
1894 <h3>The SDPS extension</h3>
1895
1896 <p>There's a different way to do multidrop. It's not necessary on
1897 Demon Internet, since fetchmail can parse Received addresses, but
1898 the person who implemented this didn't know that. It may be useful
1899 if Demon Internet ever changes mail transports.</p>
1900
1901 <p>SDPS includes a non-standard extension for retrieving the
1902 envelope of a message (*ENV), which fetchmail optionally supports
1903 if compiled with the --enable-SDPS option. If you have it, the
1904 first line of the fetchmail -V response will include the string
1905 "+SDPS".</p>
1906
1907 <p>Once you have SDPS compiled in, fetchmail in POP3 mode will
1908 automatically detect when it's talking to a Demon Internet host in
1909 multidrop mode, and use the *ENV extension to get an envelope To
1910 address.</p>
1911
1912 <p>The autodetection works by looking at the hostname in the POP3
1913 greeting line; if you're accessing Demon Internet through a proxy
1914 it may fail. To force SDPS mode, pick "sdps" as your protocol.</p>
1915
1916 <h2><a id="I3" name="I3">I3. How can I use fetchmail with usa.net's
1917 servers?</a></h2>
1918
1919 <p>Enable '<code>fetchall</code>'. A user reports that the 2.2
1920 version of USA.NET's POP server reports that you must use the
1921 '<code>fetchall</code>' option to make sure that all of the mail is
1922 retrieved, otherwise some may be left on the server. This is almost
1923 certainly a server bug.</p>
1924
1925 <p>The usa.net servers (at least in their 2.2 version, June 1998)
1926 don't handle the TOP command properly, either. Regardless of the
1927 argument you give it, they retrieve only about 10 lines of the
1928 message. Fetchmail normally uses TOP for message retrieval in order
1929 to avoid marking messages seen, but '<code>fetchall</code>' forces
1930 it to use RETR instead.</p>
1931
1932 <p>Also, we're told USA.NET adds a ton of hops to your messages.
1933 You may need to raise the MaxHopCount parameter in your sendmail.cf
1934 to avoid having fetched mail rejected.</p>
1935
1936 <p>(Note: Other failure modes have been reported on usa.net's
1937 servers. They seem to be chronically flaky. We recommend finding
1938 another provider.)</p>
1939
1940 <h2><a id="I4" name="I4">I4. How can I use fetchmail with geocities
1941 POP3 servers?</a></h2>
1942
1943 <p>Nathan Cutler reports that the the mail.geocities.com POP3
1944 servers fail to include the first Received line of the message in
1945 the send to fetchmail. This can solve problems if your MUA
1946 interprets Received continuations as body lines and doesn't parse
1947 any of the following headers.</p>
1948
1949 <p>Workaround is to use "mda" keyword or "--mda" switch:</p>
1950
1951 <pre>
1952 mda "sed -e '1s/^\t/Received: /' | formail | /usr/bin/procmail -d &lt;user&gt;"
1953 </pre>
1954
1955 <p>Replace \t with exactly one tabulation character.</p>
1956
1957 <p>You should also consider using "fetchall" option because
1958 Geocities' servers sometimes think that the first 45 messages have
1959 already been read.</p>
1960
1961 <p>Fix: Get an email provider that doesn't suck. The pop-up ads on
1962 Geocities are lame, you should boycott them anyway.</p>
1963
1964 <h2><a id="I5" name="I5">I5. How can I use fetchmail with Hotmail or Lycos Webmail?</a></h2>
1965
1966 <p>You can't directly. But you can use fetchmail with hotmail or lycos
1967 webmail with the help of the <a
1968 href='http://people.freenet.de/courierdave/'>HotWayDaemon</a>
1969 daemon. You don't even need to install hotwayd as a daemon in
1970 <samp>inetd.conf</samp> but can use it as a plugin. Your
1971 configuration should look like this:</p>
1972
1973 <pre>
1974 poll localhost protocol pop3 tracepolls
1975    plugin "/usr/local/sbin/hotwayd -l 0 -p yourproxy:yourproxyport"
1976    username "youremail@hotmail.com" password "yourpassword"
1977    fetchall
1978 </pre>
1979
1980 <p>As a second option you may consider using <a
1981 href="http://linux.cudeso.be/linuxdoc/gotmail.php">gotmail</a>.</p>
1982
1983 <h2><a id="I6" name="I6">I6. How can I use fetchmail with MSN?</a></h2>
1984
1985 <p>You can't. MSN uses something that looks like POP3, except the
1986 authentication part is nonstandard. And of course they don't
1987 document it, so nobody but their Windows clients can speak it.</p>
1988
1989 <p>This is a customer lock-in tactic; we recommend boycotting MSN
1990 as the only appropriate response.</p>
1991
1992 <p>As of 5.0.8, we have support for the client side of NTLM
1993 authentication. It's possible this may enable fetchmail to talk to
1994 MSN; if so, somebody should report it so this FAQ can be
1995 corrected.</p>
1996
1997 <h2><a id="I7" name="I7">I7. How can I use fetchmail with SpryNet?</a></h2>
1998
1999 <p>The SpryNet POP3 servers mark a message queried with TOP as
2000 seen. This means that if your connection drops in mid-message, it
2001 may end up invisibly stuck on your mail spool. Use the
2002 <code>fetchall</code> flag to ensure that it's recovered on the
2003 next cycle.</p>
2004
2005 <h2><a id="I8" name="I8">I8. How can I use fetchmail with comcast.net or
2006         other Maillennium servers?</a></h2>
2007
2008 <p>Stock fetchmail will work with a
2009 Maillennium&nbsp;POP3/PROXY&nbsp;server... <em>but</em> this server will
2010 truncate "TOP" responses after 64&dots;82 kB (we have varying reports),
2011 in violation of Internet Standard #53 aka. RFC-1939 (POP3). Don't
2012 mistake this for a fetchmail bug. (Reported July 2003.) Comcast
2013 documented they haven't understood what this is about in <a
2014     href="http://lists.ccil.org/pipermail/fetchmail-friends/2004-April/008523.html">two
2015 messages from April 2004.</a></p>
2016
2017 <p>Beginning with version 6.3.2, fetchmail will fall back to the RETR
2018 command if the greeting string contains "Maillennium POP3/PROXY server",
2019 and print a warning message. This means however that fetchmail has no
2020 means to prevent the "seen" flag from being set on the server (Note that
2021 officially, POP3 has no notion of seen tracking, but it works for some
2022 sites.)</p>
2023
2024 <p>Workaround for older versions: use the <tt>fetchall</tt> option.</p>
2025
2026 <hr/>
2027 <h1>How to set up well-known security and authentication
2028 methods</h1>
2029 <h2><a id="K1" name="K1">K1. How can I use fetchmail with SOCKS?</a></h2>
2030
2031 <p>Giuseppe Guerini added a --with-socks option that supports
2032 linking with socks library. If you specify the value of this option
2033 as "yes", the configure script will try to find the Rconnect
2034 library and set the makefile up to link it. You can also specify a
2035 directory containing the Rconnect library.</p>
2036
2037 <p>Alan Schmitt has added a similar --with-socks5 option that may
2038 work better if you have a recent version of the SOCKS library.</p>
2039
2040 <h2><a id="K2" name="K2">K2. How can I use fetchmail with IPv6 and
2041 IPsec?</a></h2>
2042
2043 <p>To use fetchmail with IPv6, you need a system that supports
2044 IPv6, the "Basic Socket Interface Extensions for IPv6" (RFC 2133).
2045 </p>
2046
2047 <p>The NRL IPv6+IPsec software distribution can be obtained from:
2048 <a
2049 href="http://web.mit.edu/network/isakmp">http://web.mit.edu/network/isakmp</a></p>
2050
2051 <p>More information on using IPv6 with Linux can be obtained
2052 from:</p>
2053
2054 <ul>
2055 <li><a
2056 href="http://www.bieringer.de/linux/IPv6/IPv6-HOWTO/IPv6-HOWTO.html">
2057 http://www.bieringer.de/linux/IPv6/IPv6-HOWTO/IPv6-HOWTO.html</a></li>
2058 </ul>
2059
2060 <h2><a id="K3" name="K3">K3. How can I get fetchmail to work with
2061 ssh?</a></h2>
2062
2063 <p>Use the <tt>plugin</tt> option. This is dead simple with
2064 IMAP:</p>
2065
2066 <pre>
2067     plugin "ssh %h /usr/sbin/imapd"
2068 </pre>
2069
2070 <p>You may have to use a different absolute pathname, whatever the
2071 location of imapd on your mailserver is. This option tells
2072 fetchmail that instead of opening a connection on the server's port
2073 143 and doing standard IMAP authentication, fetchmail should ssh to
2074 the server and run imapd, using the more secure ssh authentication
2075 (as well as getting ssh's end-to-end encryption). Most IMAP daemons
2076 will detect that they've been called from the command line and
2077 assume the connection is preauthenticated.</p>
2078
2079 <p>POP3 daemons aren't quite as smart. They won't know they are
2080 preauthenticated in this mode, so you'll actually have to ship your
2081 password. It will be under ssh encryption, though, so that
2082 shouldn't be a problem.</p>
2083
2084 <h2><a id="K4" name="K4">K4. What do I have to do to use the
2085 IMAP-GSS protocol?</a></h2>
2086
2087 <p>Fetchmail can use RFC1731 GSSAPI authorization to safely
2088 identify you to your IMAP server, as long as you can share Kerberos
2089 V credentials with your mail host and you have a GSSAPI-capable
2090 IMAP server. UW-IMAP (available via FTP at <a
2091 href="ftp://ftp.cac.washington.edu/mail/">ftp.cac.washington.edu</a>)
2092 is the only one I'm aware of and the one I recommend anyway for
2093 other reasons. You'll need version 4.1-FINAL or greater though, and
2094 it has to have GSS support compiled in.</p>
2095
2096 <p>Neither UW-IMAP nor fetchmail compile in support for GSS by
2097 default, since it requires libraries from the Kerberos V
2098 distribution (available via FTP at <a
2099 href="ftp://athena-dist.mit.edu/pub/ATHENA/kerberos">athena-dist.mit.edu</a>).
2100 If you have these, compiling in GSS support is simple: add a
2101 <code>--with-gssapi=[/path/to/krb5/root]</code> option to
2102 configure. For instance, I have all of my Kerberos V libraries
2103 installed under /usr/krb5 so I run <code>configure
2104 --with-gssapi=/usr/krb5</code></p>
2105
2106 <p>Setting up Kerberos V authentication is beyond the scope of this
2107 FAQ (you may find Jim Rome's paper <a
2108 href="http://www.ornl.gov/~jar/HowToKerb.html">How to Kerberize
2109 your site</a> helpful), but you'll at least need to add a
2110 credential for imap/[mailhost] to the keytab of the mail server
2111 (IMAP doesn't just use the host key). Then you'll need to have your
2112 credentials ready on your machine (cf. kinit).</p>
2113
2114 <p>After that things are very simple. Set your protocol to imap-gss
2115 in your .fetchmailrc, and omit the password, since imap-gss doesn't
2116 need one. You can specify a username if you want, but this is only
2117 useful if your mailbox belongs to a username different from your
2118 Kerberos principal.</p>
2119
2120 <p>Now you don't have to worry about your password appearing in
2121 cleartext in your .fetchmailrc, or across the network.</p>
2122
2123 <h2><a id="K5" name="K5">K5. How can I use fetchmail with
2124 SSL?</a></h2>
2125
2126 <p>You'll need to have the <a
2127 href="http://www.openssl.org/">OpenSSL</a> libraries installed.
2128 Configure with --with-ssl. If you have the OpenSSL libraries
2129 installed in the default location (/usr/local/ssl) ths will
2130 suffice. If you have them installed in a non-default location,
2131 you'll need to specify it as an argument to --with-ssl after an
2132 equal sign.</p>
2133
2134 <p>Note that there is a known bug in the implementation of SSL_peek
2135 under OpenSSL versions 0.9.5 and older that fetchmail occasionally
2136 tripped over, causing hangs. It is recommended that you install
2137 0.9.6 or later.</p>
2138
2139 <p>Fetchmail binaries built this way support <code>ssl</code>,
2140 <code>sslkey</code>, and <code>sslcert</code> options that control
2141 SSL encryption. You will need to have an SSL-enabled mailserver to
2142 use these options. See the manual page for details and some words
2143 of care on the limited security provided.</p>
2144
2145 <p>If your open OpenSSL session dies with a message that complains
2146 "PRNG not seeded", update or improve your operating system. This
2147 means that the OpenSSL library on your machine has been unable to
2148 locate a source of random bits from which to seed its random-number
2149 generator; normally these come from the <tt>/dev/urandom</tt>, and
2150 this message probably means your OS doesn't have that device.</p>
2151
2152 <p>An interactive program could seed the random number generator
2153 from keystroke timings or some other form of user input. Because
2154 fetchmail is primarily designed to run forever as a background
2155 daemon, that option is not available in this case.</p>
2156
2157 <p>If you don't have the libraries installed, but do have the
2158 OpenSSL utility toolkit, something like this may work:</p>
2159
2160 <pre>
2161 poll MYSERVER port 993 plugin "openssl s_client -connect %h:%p"
2162         protocol imap username MYUSERNAME password MYPASSWORD
2163 </pre>
2164
2165 <p>You should note that SSL is only secure against a "man-in-the-middle"
2166 attack if the client is able to verify that the peer's public key is the
2167 correct one, and has not been substituted by an attacker. fetchmail can do
2168 this in one of two ways: by verifying the SSL certificate, or by checking
2169 the fingerprint of the peer's public key.</p>
2170
2171 <p>There are three parts to SSL certificate verification: checking that the
2172 domain name in the certificate matches the hostname you asked to connect to;
2173 checking that the certificate expiry date has not passed; and checking that
2174 the certificate has been signed by a known Certificate Authority (CA). This
2175 last step takes some preparation, as you need to install the root
2176 certificates of all the CA's which you might come across.</p>
2177
2178 <p>The easiest way to do this is using the root CA keys supplied in the
2179 OpenSSL distribution, which means you need to download and unpack the
2180 source tarball from www.openssl.org. Once you have done that:</p>
2181
2182 <ol>
2183 <li><code>mkdir /etc/ssl/certs</code></li>
2184 <li>in the openssl-x.x.x/certs directory: <code>cp *.pem /etc/ssl/certs/</code></li>
2185 <li>in the openssl-x.x.x/tools directory: edit c_rehash and set
2186 <code>$dir="/etc/ssl"</code></li>
2187 <li>run "perl c_rehash". This generates a number of symlinks within the
2188 /etc/ssl/certs/ directory</li>
2189 </ol>
2190
2191 <p>Now in .fetchmailrc, set option sslcertpath to point to this
2192 directory:</p>
2193
2194 <pre>
2195 poll pop3.example.com proto pop3 uidl no dns
2196   user foobar@example.com password xyzzy is foobar ssl sslcertpath /etc/ssl/certs
2197 </pre>
2198
2199 <p>If the server certificate has not been signed by a known CA (e.g. it is a
2200 self-signed certificate), then this certificate validation will always
2201 fail.</p>
2202
2203 <p>Certificate verification is always attempted. If it fails, by default a
2204 warning is printed but the connection carries on (which means you are not
2205 protected against attack). If your server's certificate has been properly
2206 set up and verifies correctly, then add the "sslcertck" option to enforce
2207 validation. If your server doesn't have a valid certificate though (e.g. it
2208 has a self-signed certificate) then it will never verify, and the only way
2209 you can protect yourself is by checking the fingerprint.</p>
2210
2211 <p>To check the peer fingerprint: first use fetchmail -v once to connect to
2212 the host, at a time when you are pretty sure that there is no attack in
2213 progress (e.g. you are not traversing any untrusted network to reach the
2214 server). Make a note of the fingerprint shown. Now embed this in your
2215 .fetchmailrc using the sslfingerprint option: e.g.</p>
2216
2217 <pre>
2218 poll pop3.example.com proto pop3 uidl no dns
2219   user foobar@example.com password xyzzy is foobar
2220   ssl sslfingerprint "67:3E:02:94:D3:5B:C3:16:86:71:37:01:B1:3B:BC:E2"
2221 </pre>
2222
2223 <p>When you next connect, the public key presented by the server will be
2224 verified against the fingerprint given. If it's different, it may mean that
2225 a man-in-the-middle attack is in progress - or it might just mean that the
2226 server changed its key. It's up to you to determine which has happened.</p>
2227
2228 <h2><a id="K6" name="K6">K6. How can I tell fetchmail not to use TLS
2229         if the server advertises it?</a></h2>
2230
2231 <p>Some servers advertise STLS (POP3) or STARTTLS (IMAP), and fetchmail
2232 will automatically attempt TLS negotiation if SSL was enabled at compile
2233 time.  This can however cause problems if the upstream didn't configure
2234 his certificates properly.</p>
2235
2236 <p>In order to prevent fetchmail from trying TLS (STLS, STARTTLS)
2237 negotiation, add this option:</p>
2238
2239 <pre>sslproto ssl23</pre>
2240
2241 <p>This restricts fetchmail's SSL/TLS protocol choice from the default
2242 "SSLv2, SSLv3, TLSv1" to the two SSL variants, disabling TLSv1. Note
2243 however that this causes the connection to be unencrypted unless an
2244 encrypting &quot;plugin&quot; is used or SSL is requested explicitly.</p>
2245
2246 <hr/>
2247 <h1>Runtime fatal errors</h1>
2248 <h2><a id="R1" name="R1">R1. Fetchmail isn't working, and -v shows
2249 'SMTP connect failed' messages.</a></h2>
2250
2251 <p>Fetchmail itself is probably working, but your SMTP port 25
2252 listener is down or inaccessible.</p>
2253
2254 <p>The first thing to check is if you can telnet to port 25 on your
2255 smtp host (which is normally 'localhost' unless you've specified an
2256 smtp option in your .fetchmailrc or on the command line) and get a
2257 greeting line from the listener. If the SMTP host is inaccessible
2258 or the listener is down, fix that first.</p>
2259
2260 <p>In Red Hat Linux 6.x, SMTP is disabled by default. To fix this,
2261 set "DAEMON=yes" in your /etc/sysconfig/sendmail file, then restart
2262 sendmail by running "/sbin/service sendmail restart".</p>
2263
2264 <p>If the listener seems to be up when you test with telnet, the
2265 most benign and typical problem is that the listener had a
2266 momentary seizure due to resource exhaustion while fetchmail was
2267 polling it -- process table full or some other problem that stopped
2268 the listener process from forking. If your SMTP host is not
2269 'localhost' or something else in /etc/hosts, the fetchmail glitch
2270 could also have been caused by transient nameserver failure.</p>
2271
2272 <p>Try running fetchmail -v again; if it succeeds, you had one of
2273 these kinds of transient glitch. You can ignore these hiccups,
2274 because a future fetchmail run will get the mail through.</p>
2275
2276 <p>If the listener tests up, but you have chronic failures trying
2277 to connect to it anyway, your problem is more serious. One way to
2278 work around chronic SMTP connect problems is to use --mda. But this
2279 only attacks the symptom; you may have a DNS or TCP routing
2280 problem. You should really try to figure out what's going on
2281 underneath before it bites you some other way.</p>
2282
2283 <p>We have one report (from toby@eskimo.com) that you can sometimes
2284 solve such problems by doing an <code>smtp</code> declaration with
2285 an IP address that your routing table maps to something other than
2286 the loopback device (he used ppp0).</p>
2287
2288 <p>We also have a report that this error can be caused by having an
2289 /etc/hosts file that associates your client host name with more
2290 than one IP address.</p>
2291
2292 <p>It's also possible that your DNS configuration isn't looking at
2293 <code>/etc/hosts</code> at all. If you're using libc5, look at
2294 <code>/etc/resolv.conf</code>; it should say something like:</p>
2295
2296 <pre>
2297         order hosts,bind
2298 </pre>
2299
2300 <p>so your <code>/etc/hosts</code> file is checked first. If you're
2301 running GNU libc6, check your <code>/etc/nsswitch.conf</code> file.
2302 Make sure it says something like</p>
2303
2304 <pre>
2305         hosts:  files dns
2306 </pre>
2307
2308 <p>again, in order to make sure <code>/etc/hosts</code> is seen
2309 first.</p>
2310
2311 <p>If you have a hostname set for your machine, and this hostname
2312 does not appear in /etc/hosts, you will be able to telnet to port
2313 25 and even send a mail with rcpt to: user@host-not-in-/etc/hosts,
2314 but fetchmail can't seem to get in touch with sendmail, no matter
2315 what you set smtpaddress to.</p>
2316
2317 <p>We had another report from a Linux user of fetchmail 2.1 who
2318 solved his SMTP connection problem by removing the reference to
2319 -lresolv from his link line and relinking. Apparently in some older
2320 Linux distributions the libc bind library version works better.</p>
2321
2322 <p>As of 2.2, the configure script has been hacked so the bind
2323 library is linked only if it is actually needed. So under Linux it
2324 won't be, and this particular cause should go away.</p>
2325
2326 <h2><a id="R2" name="R2">R2. When I try to configure an MDA,
2327 fetchmail doesn't work.</a></h2>
2328
2329 <p>(I hear this one from people who have run into the blank-line
2330 problem in <a href="#X1">X1</a>.)</p>
2331
2332 <p>Try sending yourself test mail and retrieving it using the
2333 command-line options '<code>-k -m cat</code>'. This will dump
2334 exactly what fetchmail retrieves to standard output (plus the
2335 Received line fetchmail itself adds to the headers).</p>
2336
2337 <p>If the dump doesn't match what shows up in your mailbox when you
2338 configure an MDA, your MDA is mangling the message. If it doesn't
2339 match what you sent, then fetchmail or something on the server is
2340 broken.</p>
2341
2342 <h2><a id="R3" name="R3">R3. Fetchmail dumps core when given an
2343 invalid rc file.</a></h2>
2344
2345 <p>This is usually reported from AIX or Ultrix, but has even been
2346 known to happen on Linuxes without a recent version of
2347 <code>flex</code> installed. The problem appears to be a result of
2348 building with an archaic version of lex.</p>
2349
2350 <p>Workaround: fix the syntax of your .fetchmailrc file.</p>
2351
2352 <p>Fix: build and install the latest version of <a
2353 href="ftp://prep.ai.mit.edu/~ftp/pub/gnu">flex</a> from the Free
2354 Software Foundation. An FSF <a
2355 href="http://www.gnu.ai.mit.edu/order/ftp.html">mirror site</a>
2356 will help you get it faster.</p>
2357
2358 <h2><a id="R4" name="R4">R4. Fetchmail dumps core in -V mode, but
2359 operates normally otherwise.</a></h2>
2360
2361 <p>We've had this reported to us under Linux using libc-5.4.17 and
2362 gcc-2.7.2. It does not occur with libc-5.3.12 or earlier
2363 versions.</p>
2364
2365 <p>Workaround: link with GNU malloc rather than the stock C library
2366 malloc.</p>
2367
2368 <p>We're told there is some problem with the malloc() code in that
2369 version which makes it fragile in the presence of multiple free()
2370 calls on the same pointer (the malloc arena gets corrupted).
2371 Unfortunately it appears from doing gdb traces that whatever free()
2372 calls producing the problem are being made by the C library itself,
2373 not the fetchmail code (they're all from within fclose, and not an
2374 fclose called directly by fetchmail, either).</p>
2375
2376 <h2><a id="R5" name="R5">R5. Running fetchmail in daemon mode
2377 doesn't work.</a><br/>
2378 </h2>
2379
2380 <p>We have one report from a SunOS 4.1.4 user that trying to run
2381 fetchmail in detached daemon mode doesn't work, but that using the
2382 same options with -N (nodetach) is OK. We have another report of
2383 similar behavior from one Linux user, but many other Linux users
2384 reportt no problem.</p>
2385
2386 <p>If this happens, you have a specific portability problem with
2387 the code in daemon.c that detaches and backgrounds the daemon
2388 fetchmail. The isolated Linux case has been chased down to a
2389 failure in dup(2) that may reflect a glibc bug.</p>
2390
2391 <p>As a workaround, you can start fetchmail with -N and an
2392 ampersand to background it. A Sun user recommends this:</p>
2393
2394 <pre>
2395 (fetchmail --nodetach &lt;other params&gt; &amp;)
2396 </pre>
2397
2398 <p>The extra pair of parens is significant --- it makes sure that
2399 the process detaches from the initial shell (one more shell is
2400 started and dies immediately, detaching fetchmail and making it
2401 child of PID 1). This is important when you start fetchmail
2402 interactively and than quit interactive shell. The line above makes
2403 sure fetchmail lives after that!</p>
2404
2405 <h2><a id="R6" name="R6">R6. Fetchmail randomly dies with socket
2406 errors.</a></h2>
2407
2408 <p>Check the MTU value in your PPP interface reported by
2409 <code>/sbin/ifconfig</code>. If it's over 600, change it in your
2410 PPP options file. (<code>/etc/ppp/options</code> on my box). Here
2411 are option values that work:</p>
2412
2413 <pre>
2414   mtu 552
2415   mru 552
2416 </pre>
2417
2418 <p>Another circumstance that can trigger this is if you are polling
2419 a virtual-mail-server name that is round-robin connected to
2420 different actual servers, so you get different IP addresses on
2421 different poll cycles. To work around this, change the poll name
2422 either to the real name of one of the servers in the ring or to a
2423 corresponding IP address.</p>
2424
2425 <h2><a id="R7" name="R7">R7. Fetchmail running as root stopped
2426 working after an OS upgrade</a></h2>
2427
2428 <p>In RH 6.0, the HOME value in the boot-time root environment
2429 changed from /root to / as the result of a change in init. Move
2430 your .fetchmailrc or use a -f option to explicitly point at the
2431 file. (Oddly, a similar problem has been reported from Debian
2432 systems.)</p>
2433
2434 <h2><a id="R8" name="R8">R8. Fetchmail is timing out after fetching
2435 certain messages but before deleting them</a></h2>
2436
2437 <p>There's a TCP/IP stalling problem under Redhat 6.0 (and possibly
2438 other recent Linuxes) that can cause this symptom. Brian Boutel
2439 writes:</p>
2440
2441 <blockquote>
2442 <p>TCP timestamps are turned on on my Linux boxes (I assume it's
2443 now the default). This uses 12 extra bytes per segment. When the
2444 tcp connection starts, the other end agrees a MSS of 1460, and then
2445 fragments 1460 byte chunks into 1448 and 12, because is is not
2446 allowing for the timestamp.</p>
2447
2448 <p>Then, for reasons I can't explain, it waits a long time
2449 (typically 2 minutes) after the ack is sent before sending the next
2450 (fragmented) packet. Turning off tcp timestamps avoids the
2451 fragmentation and restores normal behaviour. To do this,
2452 [execute]</p>
2453
2454 <p>echo 0 &gt; /proc/sys/net/ipv4/tcp_timestamps</p>
2455
2456 <p>I'm still unclear about the details of why this is happening. At
2457 least [now] I am now getting good performance and no queue
2458 blocking.</p>
2459 </blockquote>
2460
2461 <h2><a id="R9" name="R9">R9. Fetchmail is timing out during message
2462 fetches</a></h2>
2463
2464 <p>This is probably a general networking issue. Sending a "RETR"
2465 command will cause the server to start sending large amounts of
2466 data, which means large packets. If your networking layer has a
2467 packet-fragmentation problem, that's where you'll see it.</p>
2468
2469 <h2><a id="R10" name="R10">R10. Fetchmail is dying with
2470 SIGPIPE.</a></h2>
2471
2472 <p>This probably means you have an <code>mda</code> option. Your
2473 MDA is croaking while being passed a message. Best fix is to remove
2474 the <code>mda</code> option and pass mail to your port 25 SMTP
2475 listener.</p>
2476
2477 <p>If for some reason you are invoking sendmail via the
2478 <tt>mda</tt> option (rather than delivering to port 25 via smtp),
2479 don't forget to include the -i switch. Otherwise you will
2480 occasionally get mysterious delivery failures with a SIGPIPE as the
2481 sendmail instance dies. The problem is messages with a single dot
2482 at start of a text line.</p>
2483
2484 <h2><a id="R11" name="R11">R11. My server is hanging or emitting
2485 errors on CAPA.</a></h2>
2486
2487 <p>Your POP3 server is broken. You can work around this with the
2488 declaration <tt>auth password</tt> in your .fetchmailrc.</p>
2489
2490 <h2><a id="R12" name="R12">R12. Fetchmail isn't working and reports
2491         getaddrinfo errors.</a></h2>
2492 <ol><li>Make sure you haven't mistyped the host name or address, and that
2493     your DNS is working. If you cannot fix DNS, give the numeric host
2494     literal, for instance, 192.168.0.1</li>
2495     <li>Make sure your <code>/etc/services</code> file (or other
2496     services database) contains the necessary service entries. If you
2497     cannot fix the services database, use the --service option and give the
2498     numeric port address. Common port addresses are:<table
2499         summary="Common port addresses for IMAP, POP3 and their SSL
2500         complements.">
2501         <tr><th>service</th><th>port</th></tr>
2502         <tr><td>IMAP</td><td>143</td></tr>
2503         <tr><td>IMAP+SSL</td><td>993</td></tr>
2504         <tr><td>POP3</td><td>110</td></tr>
2505         <tr><td>POP3+SSL</td><td>995</td></tr>
2506 </table></li></ol>
2507
2508 <hr/>
2509 <h1>Hangs and lockups</h1>
2510 <h2><a id="H1" name="H1">H1. Fetchmail hangs when used with
2511 pppd.</a></h2>
2512
2513 <p>Your problem may be with pppd's 'demand' option. We have a
2514 report that fetchmail doesn't play well with it, but works with
2515 pppd if 'demand' is turned off. We have no idea why this is.</p>
2516
2517 <h2><a id="H2" name="H2">H2. Fetchmail hangs during the MAIL FROM
2518 exchange.</a></h2>
2519
2520 <p>The symptom: 'fetchmail -v' retrieves mail fine, but appears to
2521 hang after sending the MAIL FROM command</p>
2522
2523 <pre>
2524 SMTP&gt; MAIL FROM: &lt;someone@somewhere&gt;
2525 </pre>
2526
2527 <p>The hang is actually occuring when sendmail looks up a sender's
2528 address in DNS. The problem isn't in fetchmail but in the
2529 configuration of sendmail. You must enable the 'nodns' and
2530 'nocanonify' features of sendmail.</p>
2531
2532 <p>Here was my fix for RedHat 7.2:</p>
2533
2534 <ol>
2535 <li># cd /etc/mail</li>
2536
2537 <li># cp sendmail.mc sendmail-mine.mc</li>
2538
2539 <li>Edit sendmail-mine.mc and add lines:
2540
2541 <pre>
2542    FEATURE(nodns)
2543    FEATURE(nocanonify)
2544 </pre>
2545 </li>
2546
2547 <li>Build a new sendmail.cf
2548
2549 <pre>
2550    # m4 sendmail-mine.cf &gt; /etc/sendmail.cf
2551 </pre>
2552 </li>
2553
2554 <li>Restart sendmail.</li>
2555 </ol>
2556
2557 <p>For more details consult the file
2558 /usr/share/sendmail-cf/README.</p>
2559
2560 <h2><a id="H3" name="H3">H3. Fetchmail hangs while fetching
2561 mail.</a></h2>
2562
2563 <p>The symption: 'fetchmail -v' retrieves the first few messages,
2564 but hangs returning:</p>
2565
2566 <pre>
2567  fetchmail: SMTP&lt; 550 5.0.0 Access denied
2568  fetchmail: SMTP&gt; RSET
2569  fetchmail: SMTP&lt; 250 2.0.0 Reset state
2570  .......fetchmail:  flushed
2571  fetchmail: POP3&gt; DELE 1
2572  fetchmail: POP3&lt; +OK marked deleted
2573 </pre>
2574
2575 <p>Check and see if you're allowing sendmail connections through
2576 TCP wrappers.</p>
2577
2578 <p>Adding 'sendmail : 127.0.0.1' to /etc/hosts.allow could solve
2579 this problem.</p>
2580
2581 <hr/>
2582 <h1>Disappearing mail</h1>
2583 <h2><a id="D1" name="D1">D1. I think I've set up fetchmail
2584 correctly, but I'm not getting any mail.</a></h2>
2585
2586 <p>Maybe you have a .forward or alias set up that you've forgotten
2587 about. You should probably remove it.</p>
2588
2589 <p>Or maybe you're trying to run fetchmail in multidrop mode as
2590 root without a .fetchmailrc file. This doesn't do what you think it
2591 should; see question <a href="#C1">C1</a>.</p>
2592
2593 <p>Or you may not be connecting to the SMTP listener. Run fetchmail
2594 -v and see <a href="#R1">R1</a>.</p>
2595
2596 <p>Or you may have your local user set incorrectly. In the
2597 following line</p>
2598
2599 <pre>
2600         user 'remoteuser' there with password '*' is 'localuser' here
2601 </pre>
2602
2603 <p>make sure that 'localuser' does exist and can receive mail.</p>
2604
2605 <h2><a id="D2" name="D2">D2. All my mail seems to disappear after a
2606 dropped connection.</a></h2>
2607
2608 <p>One POP3 daemon used in the Berkeley Unix world that reports
2609 itself as POP3 version 1.004 actually throws the queue away. 1.005
2610 fixed that. If you're running this one, upgrade immediately. (It
2611 also truncates long lines at column 1024)</p>
2612
2613 <p>Many POP servers, if an interruption occurs, will restore the
2614 whole mail queue after about 10 minutes. Others will restore it
2615 right away. If you have an interruption and don't see it right
2616 away, cross your fingers and wait ten minutes before retrying.</p>
2617
2618 <p>Some servers (such as Microsoft's NTMail) are mis-designed to
2619 restore the entire queue, including messages you have deleted. If
2620 you have one of these and it flakes out on you a lot, try setting a
2621 small <code>--fetchlimit</code> value. This will result in more IP
2622 connects to the server, but will mean it actually executes changes
2623 to the queue more often.</p>
2624
2625 <p>Qualcomm's qpopper, used at many BSD Unix sites, is better
2626 behaved. If its connection is dropped, it will first execute all
2627 DELE commands as though you had issued a QUIT (this is a technical
2628 violation of the POP3 RFCs, but a good idea in a world of flaky
2629 phone lines). Then it will re-queue any message that was being
2630 downloaded at hangup time. Still, qpopper may require a noticeable
2631 amount of time to do deletions and clean up its queue. (Fetchmail
2632 waits a bit before retrying in order to avoid a 'lock busy'
2633 error.)</p>
2634
2635 <h2><a id="D3" name="D3">D3. Mail that was being fetched when I
2636 interrupted my fetchmail seems to have been vanished.</a></h2>
2637
2638 <p>Fetchmail only sends a delete mail request to the server when
2639 either (a) it gets a positive delivery acknowledgment from the SMTP
2640 listener, or (b) it gets one of the spam-filter errors (see the
2641 description of the <code>antispam&gt;</code> option) from the
2642 listener. No interrupt can cause it to lose mail.</p>
2643
2644 <p>However, IMAP2bis has a design problem in that its normal fetch
2645 command marks a message 'seen' as soon as the fetch command to get
2646 it is sent down. If for some reason the message isn't actually
2647 delivered (you take a line hit during the download, or your port 25
2648 listener can't find enough free disk space, or you interrupt the
2649 delivery in mid-message) that 'seen' message can lurk invisibly in
2650 your server mailbox forever.</p>
2651
2652 <p>Workaround: add the '<code>fetchall</code>' keyword to your
2653 fetch options.</p>
2654
2655 <p>Solution: switch to an <a href="http://www.imap.org">IMAP4</a>
2656 server.</p>
2657
2658 <hr/>
2659 <h1>Multidrop-mode problems</h1>
2660 <h2><a id="M1" name="M1">M1. I've declared local names, but all my
2661 multidrop mail is going to root anyway.</a></h2>
2662
2663 <p>Somehow your fetchmail is never recognizing the hostname part of
2664 recipient names it parses out of To/Cc/envelope-header lines as
2665 matching the name of the mailserver machine. To check this, run
2666 fetchmail in foreground with -v -v on. You will probably see a lot
2667 of messages with the format "line rejected, %s is not an alias of
2668 the mailserver" or "no address matches; forwarding to %s."</p>
2669
2670 <p>These errors usually indicate some kind of DNS configuration
2671 problem either on the server or your client machine.</p>
2672
2673 <p>The easiest workaround is to add a '<code>via</code>' option (if
2674 necessary) and add enough aka declarations to cover all of your
2675 mailserver's aliases, then say '<code>no dns</code>'. This will
2676 take DNS out of the picture (though it means mail may be
2677 uncollected if it's sent to an alias of the mailserver that you
2678 don't have listed).</p>
2679
2680 <p>It would be better to fix your DNS, however. DNS problems can
2681 hurt you in lots of ways, for example by making your machines
2682 intermittently or permanently unreachable to the rest of the
2683 net.</p>
2684
2685 <p>Occasionally these errors indicate the sort of header-parsing
2686 problem described in <a href="#M7">M7</a>.</p>
2687
2688 <h2><a id="M2" name="M2">M2. I can't seem to get fetchmail to route
2689 to a local domain properly.</a></h2>
2690
2691 <p>A lot of people want to use fetchmail as a poor man's
2692 internetwork mail gateway, picking up mail accumulated for a whole
2693 domain in a single server mailbox and then routing based on what's
2694 in the To/Cc/Bcc lines.</p>
2695
2696 <p>In general, this is not really a good idea. It would be smarter
2697 to just let the mail sit in the mailserver's queue and use
2698 fetchmail's ETRN or ODMR modes to trigger SMTP sends periodically
2699 (of course, this means you have to poll more frequently than the
2700 mailserver's expiration period). If you can't arrange this, try
2701 setting up a UUCP feed.</p>
2702
2703 <p>If neither of these alternatives is available, multidrop mode
2704 may do (though you <em>are</em> going to get hurt by some mailing
2705 list software; see the caveats under THE USE AND ABUSE OF MULTIDROP
2706 MAILBOXES on the man page). If you want to try it, the way to do it
2707 is with the '<code>localdomains</code>' option.</p>
2708
2709 <p>In general, if you use localdomains you need to make sure of two
2710 other things:</p>
2711
2712 <p><strong>1. You've actually set up your .fetchmailrc entry to
2713 invoke multidrop mode.</strong></p>
2714
2715 <p>Many people set a '<code>localdomains</code>' list and then
2716 forget that fetchmail wants to see more than one name (or the
2717 wildcard '*') in a '<code>here</code>' list before it will do
2718 multidrop routing.</p>
2719
2720 <p><strong>2. You may have to set 'no envelope'.</strong></p>
2721
2722 <p>Normally, multidrop mode tries to deduce an envelope address
2723 from a message before parsing the To/Cc/Bcc lines (this enables it
2724 to avoid losing to mailing list software that doesn't put a
2725 recipient address in the To lines).</p>
2726
2727 <p>Some ways of accumulating a whole domain's messages in a single
2728 server mailbox mean it all ends up with a single envelope address
2729 that is useless for rerouting purposes. You may have to set
2730 '<code>no envelope</code>' to prevent fetchmail from being
2731 bamboozled by this.</p>
2732
2733 <p>Check also answer <a href="#T1">T1</a> on a reliable way to do
2734 multidrop delivery if your ISP (or your mail redirection provider)
2735 is using qmail.</p>
2736
2737 <h2><a id="M3" name="M3">M3. I tried to run a mailing list using
2738 multidrop, and I have a mail loop!</a></h2>
2739
2740 <p>This isn't fetchmail's fault. Check your mailing list. If the
2741 list expansion includes yourself or anybody else at your mailserver
2742 (that is, not on the client side) you've created a mail loop. Just
2743 chop the host part off any local addresses in the list.</p>
2744
2745 <p>If you use sendmail, you can check the list expansion with
2746 <code>sendmail -bv</code>.</p>
2747
2748 <h2><a id="M4" name="M4">M4. My multidrop fetchmail seems to be
2749 having DNS problems.</a></h2>
2750
2751 <p>We have one report from a Linux user (not the same one as in <a
2752 href="#R1">R1</a>!) who solved this problem by removing the
2753 reference to -lresolv from his link line and relinking. Apparently
2754 in some older Linux distributions the libc5 bind library version
2755 works better.</p>
2756
2757 <p>As of 2.2, the configure script has been hacked so the bind
2758 library is linked only if it is actually needed. So under Linux it
2759 won't be, and this problem should go away.</p>
2760
2761 <h2><a id="M5" name="M5">M5. I'm seeing long DNS delays before each
2762 message is processed.</a></h2>
2763
2764 <p>Use the '<code>aka</code>' option to pre-declare as many of your
2765 mailserver's DNS names as you can. When an address's host part
2766 matches an aka name, no DNS lookup needs to be done to check
2767 it.</p>
2768
2769 <p>If you're sure you've pre-declared all of your mailserver's DNS
2770 names, you can use the '<code>no dns</code>' option to prevent
2771 other hostname parts from being looked up at all.</p>
2772
2773 <p>Sometimes delays are unavoidable. Some SMTP listeners try to
2774 call DNS on the From-address hostname as a way of checking that the
2775 address is valid.</p>
2776
2777 <h2><a id="M6" name="M6">M6. How do I get multidrop mode to work
2778 with majordomo?</a></h2>
2779
2780 <p>In order for sendmail to execute the command strings in the
2781 majordomo alias file, it is necessary for sendmail to think that
2782 the mail it receives via SMTP really is destined for a local user
2783 name. A normal virtual-domain setup results in delivery to the
2784 default mailbox, rather than expansion through majordomo.</p>
2785
2786 <p>Michael &lt;michael@bizsystems.com&gt; gave us a recipe for
2787 dealing with this case that pairs a run control file like this:</p>
2788
2789 <pre>
2790 poll your.pop3.server proto pop3:
2791     no envelope no dns
2792     localdomains virtual.localdomain1.com virtual.localdomain2.com ...
2793     user yourISPusername is root * here,
2794     password yourISPpassword fetchall
2795 </pre>
2796
2797 <p>with a hack on your local sendmail.cf like this:</p>
2798
2799 <pre>
2800 #############################################
2801 #  virtual info, local hack for ruleset 98  #
2802 #############################################
2803
2804 # domains to treat as direct mapped local domain
2805
2806 CVvirtual.localdomain1.com virtual.localdomain2.com ...
2807 ---------------------------
2808 in ruleset 98 add
2809 -------------------------
2810 # handle virtual users
2811
2812 R$+ &lt;@ $=V . &gt;          $: $1 &lt; @ $j . &gt;
2813 R&lt; @ &gt; $+ &lt; @ $=V . &gt;   $: $1 &lt; @ $j . &gt;
2814 R&lt; @ &gt; $+               $: $1
2815 R&lt; error : $- $+ &gt; $*   $#error $@ $1 $: $2
2816 R&lt; $+ &gt; $+ &lt; @ $+ &gt;     $: $&gt;97 $1
2817 </pre>
2818
2819 <p>This ruleset just strips virtual domain names off the addresses
2820 of incoming mail. Your sendmail must be 8.8 or newer for this to
2821 work. Michael says:</p>
2822
2823 <blockquote>I use this scheme with 2 virtual domains and the
2824 default ISP user+domain and service about 30 mail accounts +
2825 majordomo on my inside pop3 server with fetchmail and sendmail
2826 8.83</blockquote>
2827
2828 <h2><a id="M7" name="M7">M7. Multidrop mode isn't parsing envelope
2829 addresses from my Received headers as it should.</a></h2>
2830
2831 <p>It may happen that you're getting what appear to be well-formed
2832 sendmail Received headers, but fetchmail can't seem to extract an
2833 envelope address from them. There can be a couple of reasons for
2834 this.</p>
2835
2836 <h3>Spurious Received lines need to be skipped:</h3>
2837
2838 <p>First, fetchmail might be looking at the wrong Received header.
2839 Normally it looks only on the first one it sees, on the theory that
2840 that one was last added and is going to be the one containing your
2841 mailserver's theory of who the message was addressed to.</p>
2842
2843 <p>Some (unusual) mailserver configurations will generate extra
2844 Received lines which you need to skip. To arrange this, use the
2845 optional skip prefix argument of the 'envelope' option; you may
2846 need to say something like '<code>envelope 1 Received</code>' or
2847 '<code>envelope 2 Received</code>'.</p>
2848
2849 <h3>The 'by' clause doesn't contain a mailserver alias:</h3>
2850
2851 <p>When fetchmail parses a Received line that looks like</p>
2852
2853 <pre>
2854 Received: from send103.yahoomail.com (send103.yahoomail.com [205.180.60.92])
2855     by iserv.ttns.net (8.8.5/8.8.5) with SMTP id RAA10088
2856     for &lt;ksturgeon@fbceg.org&gt;; Wed, 9 Sep 1998 17:01:59 -0700
2857 </pre>
2858
2859 <p>it checks to see if 'iserv.ttns.net' is a DNS alias of your
2860 mailserver before accepting 'ksturgeon@fbceg.org' as an envelope
2861 address. This check might fail if your DNS were misconfigured, or
2862 if you were using 'no dns' and had failed to declare iserv.ttns.net
2863 as an alias of your server.</p>
2864
2865 <h2><a id="M8" name="M8">M8. Users are getting multiple copies of
2866 messages.</a></h2>
2867
2868 <p>It's a consequence of multidrop. What's happening is that you
2869 have N users subscribed to the same list. The list software sends N
2870 copies, not knowing they will end up in the same multidrop box.
2871 Since they are both locally addressed to all N users, fetchmail
2872 delivers N copies to each user.</p>
2873
2874 <p>Fetchmail tries to eliminate adjacent duplicate messages in a
2875 multidrop mailbox. However, this logic depends on the message-ID
2876 being identical in both copies. It also depends on the two copies
2877 being adjacent in the server mailbox. The former is usually the
2878 case, but the latter condition sometimes fails in a
2879 timing-dependent way if the server was processing multiple incoming
2880 mail streams.</p>
2881
2882 <p>I could eliminate this problem by keeping a list of all
2883 message-IDs received during a poll so far and dropping any message
2884 that matches a seen mail ID. The trouble is that this is an O(N**2)
2885 operation that might significantly slow down the retrieval of large
2886 mail batches.</p>
2887
2888 <hr/>
2889 <h1>Mangled mail</h1>
2890 <h2><a id="X1" name="X1">X1. Spurious blank lines are appearing in
2891 the headers of fetched mail.</a></h2>
2892
2893 <p>What's probably happening is that the POP/IMAP daemon on your
2894 mailserver is inserting a non-RFC822 header (like X-POP3-Rcpt:) and
2895 something in your delivery path (most likely an old version of the
2896 <em>deliver</em> program, which sendmail often calls to do local
2897 delivery) is failing to recognize it as a header.</p>
2898
2899 <p>This is not fetchmail's problem. The first thing to try is
2900 installing a current version of <em>deliver</em>. If this doesn't
2901 work, try to figure out which other program in your mail path is
2902 inserting the blank line and replace that. If you can't do either
2903 of these things, pick a different MDA (such as maildrop) and
2904 declare it with the '<code>mda</code>' option.</p>
2905
2906 <h2><a id="X2" name="X2">X2. My mail client can't see a Subject
2907 line.</a></h2>
2908
2909 <p>First, see <a href="#X1">X1</a>. This is quite probably the same
2910 problem (X-POP3-Rcpt header or something similar being inserted by
2911 the server and choked on by an old version of
2912 <em>deliver</em>).</p>
2913
2914 <p>The O'Reilly sendmail book does warn that IDA sendmail doesn't
2915 process X- headers correctly. If this is your problem, all I can
2916 suggest is replacing IDA sendmail, because it's broken and not
2917 RFC822 conformant.</p>
2918
2919 <h2><a id="X3" name="X3">X3. Messages containing "From" at start of
2920 line are being split.</a></h2>
2921
2922 <p>If you know the messages aren't split in your server mailbox,
2923 then this is a problem with your POP/IMAP server, your client-side
2924 SMTP listener or your local delivery agent. Fetchmail cannot split
2925 messages.</p>
2926
2927 <p>Some POP server daemons ignore Content-Length headers and split
2928 messages on From lines. We have one report that the 2.1 version of
2929 the BSD popper program (as distributed on Solaris 2.5 and
2930 elsewhere) is broken this way.</p>
2931
2932 <p>You can test this. Declare an mda of 'cat' and send yourself one
2933 piece of mail containing "From" at start of a line. If you see a
2934 split message, your POP/IMAP server is at fault. Upgrade to a more
2935 recent version.</p>
2936
2937 <p>Sendmail and other SMTP listeners don't split RFC822 messages
2938 either. What's probably happening is either sendmail's local
2939 delivery agent or your mail reader are not quite RFC822-conformant
2940 and are breaking messages on what it thinks are Unix-style From
2941 headers. You can figure out which by looking at your client-side
2942 mailbox with vi or more. If the message is already split in your
2943 mailbox, your local delivery agent is the problem. If it's not,
2944 your mailreader is the problem.</p>
2945
2946 <p>If you can't replace the offending program, take a look at your
2947 sendmail.cf file. There will likely be a line something like</p>
2948
2949 <pre>
2950 Mlocal, P=/usr/bin/procmail, F=lsDFMShP, S=10, R=20/40, A=procmail -Y -d $u
2951 </pre>
2952
2953 <p>describing your local delivery agent. Try inserting the 'E'
2954 option in the flags part (the F= string). This will make sendmail
2955 turn each dangerous start-of-line From into a &gt;From, preventing
2956 programs further downstream from acting up.</p>
2957
2958 <h2><a id="X4" name="X4">X4.</a> <a id="generic_mangling"
2959 name="generic_mangling">My mail is being mangled in a new and
2960 different way</a></h2>
2961
2962 <p>The first thing you need to do is pin down what program is doing
2963 the mangling. We don't like getting bug reports about fetchmail
2964 that are actually due to some other program's malfeasance, so
2965 please go through this diagnostic sequence before sending us a
2966 complaint.</p>
2967
2968 <p>There are five possible culprits to consider, listed here in the
2969 order they pass your mail:</p>
2970
2971 <ol>
2972 <li>Programs upstream of your server mailbox.</li>
2973
2974 <li>The POP or IMAP server on your mailserver host.</li>
2975
2976 <li>The fetchmail program itself.</li>
2977
2978 <li>Your local sendmail.</li>
2979
2980 <li>Your LDA (local delivery agent), as called by sendmail or
2981 specified by <code>mda</code>.</li>
2982 </ol>
2983
2984 <p>Often it happens that fetchmail itself is OK, but using it
2985 exposes pre-existing bugs in your downstream software, or your
2986 downstream software has a bad interaction with POP/IMAP. You need
2987 to pin down exactly where the message is being garbled in order to
2988 deduce what is actually going on.</p>
2989
2990 <p>The first thing to do is send yourself a test message, and
2991 retrieve it with a .fetchmailrc entry containing the following (or
2992 by running with the equivalent command-line options):</p>
2993
2994 <pre>
2995     mda "cat &gt;MBOX" keep fetchall
2996 </pre>
2997
2998 <p>This will capture what fetchmail gets from the server, except
2999 for (a) the extra Received header line fetchmail prepends, (b)
3000 header address changes due to <code>rewrite</code>, and (c) any
3001 end-of-line changes due to the <code>forcecr</code> and
3002 <code>stripcr</code> options. MBOX will in fact contain what
3003 programs downstream of fetchmail see.</p>
3004
3005 <p>The most common causes of mangling are bugs and
3006 misconfigurations in those downstream programs. If MBOX looks
3007 unmangled, you will know that is what is going on and that it is
3008 not fetchmail's problem. Take a look at the other FAQ items in this
3009 section for possible clues about how to fix your problem.</p>
3010
3011 <p>If MBOX looks mangled, the next thing to do is compare it with
3012 your actual server mailbox (if possible). That's why you specified
3013 <code>keep</code>, so the server copy would not be deleted. If your
3014 server mailbox looks mangled, programs upstream of your server
3015 mailbox are at fault. Unfortunately there is probably little you
3016 can do about this aside from complaining to your site postmaster,
3017 and nothing at all fetchmail can do about it!</p>
3018
3019 <p>More likely you'll find that the server copy looks OK. In that
3020 case either the POP/IMAP server or fetchmail is doing the mangling.
3021 To determine which, you'll need to telnet to the server port and
3022 simulate a fetchmail session yourself. This is not actually hard
3023 (both POP3 and IMAP are simple, text-only, line-oriented protocols)
3024 but requires some attention to detail. You should be able to use a
3025 fetchmail -v log as a model for a session, but remember that the
3026 "*" in your LOGIN or PASS command dump has to be replaced with your
3027 actual password.</p>
3028
3029 <p>The objective of manually simulating fetchmail is so you can see
3030 exactly what fetchmail sees. If you see a mangled message, then
3031 your server is at fault, and you probably need to complain to your
3032 mailserver administrators. However, we like to know what the broken
3033 servers are so we can warn people away from them. So please send us
3034 a transcript of the session including the mangling <em>and the
3035 server's initial greeting line</em>. Please tell us anything else
3036 you think might be useful about the server, like the server host's
3037 operating system.</p>
3038
3039 <p>If your manual fetchmail simulation shows an unmangled message,
3040 congratulations. You've found an actual fetchmail bug, which is a
3041 pretty rare thing these days. Complain to us and we'll fix it.
3042 Please include the session transcript of your manual fetchmail
3043 simulation along with the other things described in the FAQ entry
3044 on <a href="#G3">reporting bugs</a>.</p>
3045
3046 <h2><a id="X5" name="X5">X5. Using POP3, retrievals seems to be
3047 fetching too much!</a></h2>
3048
3049 <p>This may happen in versions of fetchmail after 4.4.1 and before
3050 4.4.8. Versions after 4.4.1 use POP3's TOP command rather than
3051 RETR, in order to avoid marking the message seen (leaving it unseen
3052 is helpful for later recovery if you lose your connection in the
3053 middle of a retrieval).</p>
3054
3055 <p>Versions of fetchmail from 4.4.2 through 4.4.7 had a bad
3056 interaction with Eudora qpopper versions 2.3 and later. The TOP
3057 bounds check was fooled by an overflow condition in the TOP
3058 argument. Decrementing the TOP argument in 4.4.7 fixed this.</p>
3059
3060 <p>Fix: Upgrade to a later version of fetchmail.</p>
3061
3062 <p>Workaround: set the <code>fetchall</code> option. Under POP3
3063 this has the side effect of forcing RETR use.</p>
3064
3065 <h2><a id="X6" name="X6">X6. My mail attachments are being dropped
3066 or mangled.</a></h2>
3067
3068 <p>Fetchmail doesn't discard attachments; fetchmail doesn't have any idea
3069 that attachments are there.  Fetchmail treats the body of each message as
3070 an uninterpreted byte stream and passes it through without alteration.
3071 If you are not receiving attachments through fetchmail, it is because
3072 your mailserver is not sending them to you.</p>
3073
3074 <p>The fix for this is to replace your mailserver with one that works.
3075 If its operating system makes this difficult, you should replace its
3076 operating system with one that works. Windows- and NT-based POP servers
3077 seem especially prone to mangle attachments. If you are running one
3078 of these, replacing your server with a Unix machine is probably the
3079 only effective solution.</p>
3080
3081 <p>We've had sporadic reports of problems with Microsoft Exchange and
3082 Outlook servers.  These sometimes randomly fail to ship
3083 attachments to your client.  This is a known bug, acknowledged by
3084 Microsft.</p>
3085
3086 <p>They may also mangle the attachments they do pass through.  If you
3087 see unreadable attachments with a ContentType of "application/x-tnef",
3088 you're having this problem.  The <a
3089 href="http://world.std.com/~damned/software.html">TNEF</a> utility may
3090 help.</p>
3091
3092 <p>The Mail Max POP3 server and the InterChange and Imail IMAP
3093 servers are known to simply drop MIME attachments when uploading
3094 messages.</p>
3095
3096 <p>We've also had a report that Lotus Notes sometimes trashes the
3097 MIME type of messages. In particular, it seems to modify MIME
3098 headers of type application/pdf, mangling the type to
3099 application/octet-stream. It may corrupt other MIME types as
3100 well.</p>
3101
3102 <p>The IMAP service of Lotus Domino has a known bug in the way it
3103 generates MIME Content-type headers (observed on Lotus Domino
3104 5.0.2b). It's a subtle one that doesn't show up when Netscape
3105 Messenger and other clients use a FETCH BODY[] to grab the whole
3106 message. When fetchmail uses FETCH RFC822.HEADER and FETCH
3107 RFC822.TEXT to get first the header and then the body, Domino
3108 generates different Boundary tags for each part, .e.g. one tag is
3109 declared in the Content-type header and another is used to separate
3110 the MIME parts in the body. This doesn't work. (I have heard a
3111 rumor that this bug is scheduled to be fixed in Domino release 6;
3112 you can find a workaround at contrib/domino.)</p>
3113
3114 <p>Rob Funk explains: Unfortunately there also remain many mail
3115 user agents that don't write correct MIME messages. One big
3116 offender is Sun MailTool attachments, which are formatted enough
3117 like MIME that some programs could get confused; these are
3118 generated by the mailtool and dtmail programs (the mail programs in
3119 Sun's OpenWindows and CDE environments).</p>
3120
3121 <p>One solution to problems related to misformatted MIME
3122 attachments is the <a
3123 href="ftp://ftp.uu.se/pub/unix/networking/mail/emil/">emil</a>
3124 program; see its <a
3125 href="ftp://ftp.uu.se/pub/unix/networking/mail/emil/TUTORIAL.html">tutorial</a>
3126 file at that site for details on emil. It is useful for converting
3127 character sets, attachment encodings, and attachment formats. At
3128 this writing, emil does not appear to have been maintained since a
3129 patch to version 2.1.0beta9 in late 1997, but it is still
3130 useful.</p>
3131
3132 <p>One good way of using emil is from within procmail. You can have
3133 procmail look for signs of problematic message formatting, and pipe
3134 those messages through emil to be fixed. emil will not always be
3135 able to fix the problem, in which case the message is
3136 unchanged.</p>
3137
3138 <p>A possible rule to be inserted into a .procmailrc file for using
3139 emil would be:</p>
3140
3141 <pre>
3142 :0HB
3143 * 1^1 ^Content-Type: \/X-sun[^;]*
3144 * 1^1 ^Content-Type: \/application/mac-binhex[^;]*
3145 * 1^1 ^Content-Transfer-Encoding: \/x-binhex[^;]*
3146 * 1^1 ^Content-Transfer-Encoding: \/x-uuencode[^;]*
3147 {
3148   LOG="Converting $MATCH
3149 "
3150   :0fw
3151   | emil -A B -T Q -B BA -C iso-8859-1 -H Q -F MIME \
3152   | gawk '{gsub(/\r\n?/,"\n");print $0}'
3153 }
3154 </pre>
3155
3156 <p>The "1^1" in the conditions is a way of specifying to procmail
3157 that if any one of the four listed expressions is found in the
3158 message, the total condition is considered true, and the message
3159 gets passed into emil. These four subconditions check whether the
3160 message has a Sun attachment, a binhex attachment, or a uuencoded
3161 attachment; there are others that could be added to check these
3162 things better and to check other relevant conditions. The "LOG="
3163 line writes a line into the procmail log; the lone double-quote
3164 beginning the following line makes sure the log entry gets an
3165 end-of-line character. The call to gawk (GNU awk) is for fixing
3166 end-of-line conventions, since emil sometimes leaves those in the
3167 format of the originating machine; it could probably be replaced
3168 with a sed subsitution.</p>
3169
3170 <p>The emil call itself tries to ensure that the message uses:</p>
3171
3172 <ul>
3173 <li>BinHex encoding for any Apple Macintosh-only attachments</li>
3174
3175 <li>Quoted-Printable encoding for text (when necessary)</li>
3176
3177 <li>Base64 Encoding for binary attachments</li>
3178
3179 <li>iso-8859-1 character set for text (unfortunately emil can't yet
3180 convert from windows-1252 to iso-8859-1)</li>
3181
3182 <li>Quoted-Printable encoding for headers</li>
3183
3184 <li>MIME attachment format</li>
3185 </ul>
3186
3187 <p>Most of these (the primary exceptions being the character set
3188 and the Apple binary format) are as they should be for good
3189 internet interoperability.</p>
3190
3191 <p>Some mail servers (Lotus Domino is a suspect here) mangle
3192 Sun-formatted messages, so the conversion to MIME needs to happen
3193 before such programs see the message. The ideal is to rid the world
3194 of Sun-formatted messages: don't use mailtool for sending
3195 attachments (it doesn't understand MIME anyway, and most of the
3196 world doesn't understand its attachments, so it really shouldn't be
3197 used at all), and make sure dtmail is set to use MIME rather than
3198 mailtool's format.</p>
3199
3200 <h2><a id="X7" name="X7">X7. Some mail attachments are hanging
3201 fetchmail.</a></h2>
3202
3203 <p>This isn't fetchmail's problem either; fetchmail doesn't know
3204 anything about mail attachments and doesn't treat them any
3205 differently from plain message data.</p>
3206
3207 <p>The most usual cause of this problem seems to be bugs in your
3208 network transport layer's capability to handle the very large
3209 TCP/IP packets that attachments tend to turn into. You can test
3210 this theory by trying to download the offending message through a
3211 webmail account; using HTTP for the message tends to simulate
3212 large-packet stress rather well, and you will probably find that
3213 the messages that seem to be choking fetchmail will make your HTTP
3214 download speed drop to zero.</p>
3215
3216 <p>This problem can be caused by subtle bugs in the
3217 packet-reassembly layer of your TCP/IP stack; these often don't
3218 manifest at normal packet sizes. It may also be caused by
3219 malfunctioning path-MTU discovery on the mailserver. Or, if there's
3220 a modem in the link, it may be because the attachment contains the
3221 Hayes mode escape "+++".</p>
3222
3223 <h2><a id="X8" name="X8">X8. A spurious ) is being appended to my
3224 messages.</a></h2>
3225
3226 <p>Blame it on that rancid pile of dung and offal called Microsoft
3227 Exchange. Due to the problem described in <a href="#S2">S2</a>, the
3228 IMAP support in fetchmail cannot follow the IMAP protocol 100%.
3229 Most of the time it doesn't matter, but if you combine it with an
3230 SMTP server that behaves unusually, you'll get a spurious ) at
3231 message end.</p>
3232
3233 <p>One piece of software that can trigger this is the Interchange
3234 mail server, as used by, e.g., mailandnews.com. Here's what
3235 happens:</p>
3236
3237 <p>1. Someone sends mail to your account. The last line of the
3238 message contains text. So at the SMTP level, the message ends with,
3239 e.g. "blahblah\r\n.\r\n"</p>
3240
3241 <p>2. The SMTP handler sees the final "\r\n.\r\n" and recognizes
3242 the end of the message. However, instead of doing the normal thing,
3243 which is tossing out the ".\r\n" and leaving the first '\r\n' as
3244 part of the email body, Interchange throws out the whole
3245 "\r\n.\r\n", and leaves the email body without any line terminator
3246 at the end of it. RFC821 does not forbid this, though it probably
3247 should.</p>
3248
3249 <p>3. Fetchmail, or some other IMAP client, asks for the message.
3250 IMAP returns it, but it's enclosed inside parentheses, according to
3251 the protocol. The message size in bytes is also present. Because
3252 the message doesn't end with a line terminator, the IMAP client
3253 sees:</p>
3254
3255 <pre>
3256
3257  ....blahblah)...
3258 </pre>
3259
3260 <p>where the ')' is from IMAP.</p>
3261
3262 <p>4. Fetchmail only deals with complete lines, and can't trust the
3263 stated message size because Microsoft Exchange fscks it up.</p>
3264
3265 <p>5. As a result, fetchmail takes the final 'blahblah)' and puts
3266 it at the end of the message it forwards on. If you have verbosity
3267 on, you'll get a message about actual != expected.</p>
3268
3269 <p>There is no fix for this. The nuke mentioned in <a
3270 href="#S2">S2</a> looks more tempting all the time.</p>
3271
3272 <hr/>
3273 <h1>Other problems</h1>
3274 <h2><a id="O1" name="O1">O1. The --logfile option doesn't work if
3275 the logfile doesn't exist.</a></h2>
3276
3277 <p>This is a feature, not a bug. It's in line with normal practice
3278 for system daemons and allows you to suppress logging by removing
3279 the log, without hacking potentially fragile startup scripts. To
3280 get around it, just touch(1) the logfile before you run fetchmail
3281 (this will have no effect on the contents of the logfile if it
3282 already exists).</p>
3283
3284 <h2><a id="O2" name="O2">O2. Every time I get a POP or IMAP message
3285 the header is dumped to all my terminal sessions.</a></h2>
3286
3287 <p>Fetchmail uses the local sendmail to perform final delivery,
3288 which Netscape and other clients doesn't do; the announcement of
3289 new messages is done by a daemon that sendmail pokes. There should
3290 be a "biff" command to control this. Type</p>
3291
3292 <pre>
3293 biff n
3294 </pre>
3295
3296 <p>to turn it off. If this doesn't work, try the command</p>
3297
3298 <pre>
3299 chmod -x $(tty)
3300 </pre>
3301
3302 <p>which is essentially what <code>biff -n</code> will do. If this
3303 doesn't work, comment out any reference to "comsat" in your
3304 /etc/inetd.conf file and restart inetd.</p>
3305
3306 <p>In Slackware Linux distributions, the last line in /etc/profile
3307 is</p>
3308
3309 <pre>
3310 biff y
3311 </pre>
3312
3313 Change this to
3314
3315 <pre>
3316 biff n
3317 </pre>
3318
3319 to solve the problem system-wide.
3320
3321 <h2><a id="O3" name="O3">O3. Does fetchmail reread its rc file
3322 every poll cycle?</a></h2>
3323
3324 <p>No, but versions 5.2.2 and later will notice when you modify
3325 your rc file and restart, reading it.</p>
3326
3327 <h2><a id="O4" name="O4">O4. Why do deleted messages show up again
3328 when I take a line hit while downloading?</a></h2>
3329
3330 <p>Because you're using a POP3 other than Qualcomm qpopper, or an
3331 IMAP with a long expunge interval.</p>
3332
3333 <p>According to the POP3 RFCs, deletes aren't actually performed
3334 until you issue the end-of-session QUIT command. Fetchmail cannot
3335 fix this, because doing it right takes cooperation from the server.
3336 There are two possible remedies:</p>
3337
3338 <p>One is to switch to qpopper (the free POP3 server from Qualcomm,
3339 the Eudora people). The qpopper software violates the POP3 RFCs by
3340 doing an expunge (removing deleted messages) on a line hangup, as
3341 well as on processing a QUIT command.</p>
3342
3343 <p>The other (which we recommend) is to switch to <a
3344 href="http://www.imap.org">IMAP</a>. IMAP has an explicit expunge
3345 command and fetchmail normally uses it to delete messages
3346 immediately after they are downloaded.</p>
3347
3348 <p>If you get very unlucky, you might take a line hit in the window
3349 between the delete and the expunge. If you've set a longer expunge
3350 interval, the window gets wider. This problem should correct itself
3351 the next time you complete a successful query.</p>
3352
3353 <h2><a id="O5" name="O5">O5. Why is fetched mail being logged with
3354 my name, not the real From address?</a></h2>
3355
3356 <p>Because logging is done based on the address indicated by the
3357 sending SMTP's MAIL FROM, and some listeners are picky about that
3358 address.</p>
3359
3360 <p>Some SMTP listeners get upset if you try to hand them a MAIL
3361 FROM address naming a different host than the originating site for
3362 your connection. This is a feature, not a bug -- it's supposed to
3363 help prevent people from forging mail with a bogus origin site.
3364 (RFC 1123 says you shouldn't do this exclusion...)</p>
3365
3366 <p>Since the originating site of a fetchmail delivery connection is
3367 localhost, this effectively means these picky listeners will barf
3368 on any MAIL FROM address fetchmail hands them with an @ in it!</p>
3369
3370 <p>Versions 2.1 and up try the header From address first and fall
3371 back to the calling-user ID. So if your SMTP listener isn't picky,
3372 the log will look right.</p>
3373
3374 <h2><a id="O6" name="O6">O6. I'm seeing long sendmail delays or
3375 hangs near the start of each poll cycle.</a></h2>
3376
3377 <p>Sendmail does a hostname lookup when it first starts up, and
3378 also each time it gets a HELO in listener mode.</p>
3379
3380 <p>Your resolver configuration may be causing one of these lookups
3381 to fail and time out. Check <code>/etc/resolv.conf</code> and
3382 <code>/etc/hosts</code> file. Make sure your hostname and
3383 fully-qualified domain name are both in <code>/etc/hosts</code>,
3384 and that hosts is looked at before DNS is queried. You probably
3385 also want your remote mail server(s) to be in the hosts file.</p>
3386
3387 <p>You can suppress the startup-time lookup if need to by
3388 reconfiguring with <code>FEATURE(nodns)</code>.</p>
3389
3390 <p>Configuring your bind library to cache DNS lookups locally may
3391 help, and is a good idea for speeding up other services as well.
3392 Switching to a faster MTA like qmail or exim might help.</p>
3393
3394 <h2><a id="O7" name="O7">O7. Why doesn't fetchmail deliver mail in
3395 date-sorted order?</a></h2>
3396
3397 <p>Because that's not the order the server hands it to fetchmail
3398 in.</p>
3399
3400 <p>Fetchmail getting mail from a POP server delivers mail in the
3401 order that your server delivers mail. Fetchmail can't do anything
3402 about this; it's a limitation of the underlying POP protocol.</p>
3403
3404 <p>In theory it might be possible for fetchmail in IMAP mode to
3405 sort messages by date, but this would be in violation of two basics
3406 of fetchmail's design philosophy: (a) to be as simple and
3407 transparent a pipe as possible, and (b) to <em>hide</em>, rather
3408 than emphasize, the differences between the remote-fetch protocols
3409 it uses.</p>
3410
3411 <p>Re-ordering messages is a user-agent function, anyway.</p>
3412
3413 <h2><a id="O8" name="O8">O8. I'm using pppd. Why isn't my monitor
3414 option working?</a></h2>
3415
3416 <p>There is a combination of circumstances that can confuse
3417 fetchmail. If you have set up demand dialing with pppd, and pppd
3418 has an idle timeout, and you have lcp-echo-interval set, then the
3419 lcp-echo-interval time must be longer than the pppd idle timeout.
3420 Otherwise it is going keep increasing the packet counters that
3421 fetchmail relies upon, triggering fetchmail into polling after its
3422 own delay interval and thus preventing the pppd link from ever
3423 reaching its inactivity timeout.</p>
3424
3425 <h2><a id="O9" name="O9">O9. Why does fetchmail keep retrieving the
3426 same messages over and over?</a></h2>
3427
3428 <p>First, check to see that you haven't enabled the
3429 <cite>keep</cite> and <cite>fetchall</cite> option. If you have,
3430 turn <cite>keep</cite> off.</p>
3431
3432 <p>There are various forms of lossage involving the POP3 UIDL
3433 feature that can lead to all your old messages being seen again
3434 after a line drop. I have given up trying to fix these, as the UIDL
3435 code breaks worse every time I touch it. The problem is
3436 fundamental; maintaining and garbage-collecting the right kind of
3437 client-side state is just hard. Whoever put UIDLs in RFC1725 and
3438 removed LAST should be hung up by his thumbs and whipped with
3439 scorpions. The right answers are either (a) live with the
3440 occasional breakage, (b) switch to IMAP4, or (c) fix the code
3441 yourself and send me a patch. Unless you choose (c), I don't want
3442 to hear about it.</p>
3443
3444 <p>This can also happen when some other mail client is logged in to
3445 your mail server, if it uses a simple exclusive-locking scheme (and
3446 many, especially most POP3 servers, do exactly that). Your
3447 fetchmail is able to retrieve the messages, but because the mailbox
3448 is write-locked by the other instance yours can neither mark
3449 messages seen or delete them. The solution is to either (a) wait
3450 for the other client to finish, or (b) terminate it.</p>
3451
3452 <p>James Stevens &lt;James.Stevens at kyzo.com&gt; writes:</p>
3453
3454 <p><em>We had a Linux box dialing the Net and collecting mail from
3455 an NT POP3 server. Fetchmail was correctly collecting and deleting
3456 each e-mail one by one. However,the dial-up connection was very
3457 unreliable and would often just drop out in the middle of a
3458 session.</em></p>
3459
3460 <p><em>Interestingly, unless the TCP POP3 connection was terminated
3461 normally (I guess with a POP3 "QUIT" command) NT would then roll
3462 back all the deletes !!!</em></p>
3463
3464 <p><em>This meant if the first e-mail was very large it might just
3465 end up continuously collecting it, basically jamming the queue. Or,
3466 if the queue became very full itmight never get a long enough phone
3467 connection to retrieve the entire mailbox, and NT would roll back
3468 any deletes, so it would end up collecting (and delivering) the
3469 first few e-mails again and again. As the POP3 mailbox became
3470 fuller and fuller the chances of getting a connection long enough
3471 to collect theentire mailbox became smaller and smaller.</em></p>
3472
3473 <p><em>Our solution was to make fetchmail only collect a few (say 5
3474 or 10) e-mails at atime, thus trying to ensure that the POP3
3475 connection is terminated correctly.</em></p>
3476
3477 <p>Unfortunately, this is exactly the way POP3 servers are supposed
3478 to behave on a line drop, according to the RFCs. I recommend
3479 switching to IMAP and using a short expunge interval.</p>
3480
3481 <h2><a id="O10" name="O10">O10. Why is the received date on all my
3482 messages the same?</a></h2>
3483
3484 <p>This is a design choice in your MTA, not fetchmail. It's taking
3485 the received date from the last Received header.</p>
3486
3487 <h2><a name="O11">O11. I keep getting messages that say "Repoll
3488 immediately" in my logs.</a></h2>
3489
3490 <p>This is your server barfing on the CAPA probe that fetchmail sends.</p>
3491
3492 <p>If you run fetchmail in daemon mode (say "set daemon 600"), you will
3493 get the message only once per run.</p>
3494
3495 <p>If you set an authentication method explicitly (say, with
3496 <code>auth password</code>), you will never get the message.</p>
3497
3498 <h2><a name="O12">O12. Fetchmail no longer expunges mail on a 451 SMTP response.</a></h2>
3499
3500 <p>This is a feature, not a bug.</p>
3501
3502 <p>Any 4xx response (like 451) indicates a transient (temporary) error.
3503 This means that the mail could be accepted if retried later. Lookup
3504 failures are normally transient errors as a mail should not get
3505 rejected if a dns server is unreachable or down.</p>
3506
3507 <p>A permanent reject response is of the form 5xx (like 550).</p>
3508
3509 <p>You could tell your SMTP server to not lookup any addresses if you are
3510 not keen on checking the sender addresses. This problem typically
3511 occurs if your mail server is not checking the sender addresses, but
3512 your local server is.</p>
3513
3514 <p>Or you could declare <code>antispam 451</code>.</p>
3515
3516 <p>Or, you could check your nameserver configuration and query logs for
3517 dns errors.</p>
3518
3519 <p>All these issues are not related to fetchmail directly.</p>
3520
3521 <h2><a name="O13">O13. I want timestamp information in my fetchmail logs.</a></h2>
3522
3523 <p>Write a <code>preconnect</code> command in your configuration file that
3524 does something like "date &gt;&gt; $HOME/Procmail/fetchmail.log".</p>
3525
3526 <h2><a name="O14">O14. Fetchmail no longer deletes oversized mails with
3527 --flush.</a></h2>
3528
3529 <p>Use <code>--limitflush</code> (available since release 6.3.0) to
3530 delete oversized mails along with the <code>--limit</code> option. If
3531 you are already having <code>flush</code> in your rcfile to delete
3532 oversized mails, <em>replace</em> it with <code>limitflush</code> to
3533 avoid losing mails unintentionally.</p>
3534
3535 <p>The <code>--flush</code> option is primarily designed to delete
3536 mails which have been read/downloaded but not deleted yet. This option
3537 cannot be overloaded to delete oversized mails as it cannot be guessed
3538 whether the user wants to delete only read/downloaded mails or only
3539 oversized mails or both when a user specifies both
3540 <code>--limit</code> and <code>--flush</code>. Hence, a separate
3541 <code>--limitflush</code> has been added to resolve the ambiguity.</p>
3542
3543 <h2><a name="O15">O15. Fetchmail always retains the first message in the
3544     mailbox.</a></h2>
3545
3546 <p>This happens when fetchmail sees an "X-IMAP:" header in the very
3547 first message in your mailbox. This usually stems from a message like
3548 the one shown below, which is automatically created on your server. This
3549 message shows up if the University of Washington IMAP or PINE software
3550 is used on the server together with a POP2 or POP3 daemon that is not
3551 aware of these messages, such as some versions of Qualcomm Popper
3552 (QPOP):</p>
3553
3554 <blockquote>
3555 <pre>
3556 From MAILER-DAEMON Wed Nov 23 11:38:42 2005
3557 Date: 23 Nov 2005 11:38:42 +0100
3558 From: Mail System Internal Data &lt;MAILER-DAEMON@imap.example.org&gt;
3559 Subject: DON'T DELETE THIS MESSAGE -- FOLDER INTERNAL DATA
3560 Message-ID: &lt;1132742322@imap.example.org&gt;
3561 X-IMAP: 1132742306 0000000001
3562 Status: RO
3563
3564 This text is part of the internal format of your mail folder, and is not
3565 a real message.  It is created automatically by the mail system software.
3566 If deleted, important folder data will be lost, and it will be re-created
3567 with the data reset to initial values.
3568 </pre>
3569 </blockquote>
3570
3571 <p>As this message does not contain useful information, fetchmail is not
3572 retrieving it. And deleting it might slow down the server if you are
3573 keeping messages on the server, and the server would recreate it
3574 anyways, that's why fetchmail does not bother to delete it either.</p>
3575
3576 <h2><a name="O16">O16. Why is the Fetchmail FAQ only available in
3577         ISO-216 A4 format? How do I get the FAQ in Letter format?</a></h2>
3578
3579 <p>All the world uses ISO-216:1975 "A4" paper except for North America.
3580 Using A4 format reaches far more people than (formerly known as DIN A4,
3581 from DIN&nbsp;476) format. Besides that, A4 paper <em>is</em> available in North
3582 America.
3583 For further information on the Letter-vs-A4 story, see:</p>
3584 <ul><li><a href="http://www.cl.cam.ac.uk/~mgk25/iso-paper.html">Markus
3585         Kuhn: "International standard paper sizes"</a></li>
3586     <li><a
3587         href="http://betweenborders.com/wordsmithing/a4-vs-us-letter/">Brian
3588         Forte: "A4 vs US Letter"</a></li></ul>
3589
3590 <p>Offering the document formatted for two different paper sizes would
3591 bloat the package beyond reason, and formatting in a way that fits A4
3592 and Letter paper formats would be a waste of paper in most parts of the
3593 world. For that reason, fetchmail only ships with an A4 formatted PDF
3594 document.</p>
3595
3596 <p>To create a letter-sized PDF, install <a
3597     href="http://www.htmldoc.org/">HTMLDOC</a>, edit
3598 <code>fetchmail-FAQ.book</code> in the source directory with your
3599 favorite text editor, replace <samp>--size A4</samp> by <samp>--size
3600     letter</samp>, and type:
3601 </p>
3602 <pre>
3603 make fetchmail-FAQ.pdf
3604 </pre>
3605
3606 <hr/>
3607
3608 <table width="100%" cellpadding="0" summary="Canned page footer">
3609 <tr>
3610 <td width="30%">Back to <a href="index.html">Fetchmail Home
3611 Page</a></td>
3612 <td width="30%" align="right">$Date$</td>
3613 </tr>
3614 </table>
3615
3616 <br clear="left"/>
3617 <address>Eric S. Raymond <a
3618         href="mailto:esr@thyrsus.com">&lt;esr@thyrsus.com&gt;</a><br />
3619 Matthias Andree</address>
3620
3621 </body>
3622 </html>