]> Pileus Git - ~andy/fetchmail/blob - fetchmail-FAQ.html
Amplify stuff about Exchange braindamage.
[~andy/fetchmail] / fetchmail-FAQ.html
1 <!doctype HTML public "-//W3O//DTD W3 HTML 3.2//EN">
2 <HTML>
3 <HEAD>
4 <TITLE>The Fetchmail FAQ</TITLE>
5 <link rev=made href="mailto:esr@thyrsus.com">
6 <meta name="description" content="Frequently asked questions about fetchmail.">
7 <meta name="keywords" content="fetchmail, POP, POP2, POP3, IMAP, remote mail"> 
8 </HEAD>
9 <BODY>
10 <table width="100%" cellpadding=0><tr>
11 <td width="30%">Back to <a href="index.html">Fetchmail Home Page</a>
12 <td width="30%" align=center>To <a href="/~esr/sitemap.html">Site Map</a>
13 <td width="30%" align=right>$Date: 2001/09/26 14:11:25 $
14 </table>
15 <HR>
16 <H1>Frequently Asked Questions About Fetchmail</H1>
17
18 <p>Before reporting any bug, please read <a href="#G3">G3</a> for advice
19 on how to include diagnostic information that will get your bug fixed
20 as quickly as possible. 
21
22 <p>If you have a question or answer you think ought to be added to
23 this FAQ list, mail it to fetchmail's maintainer, Eric S. Raymond, at
24 <A HREF="mailto:esr@thyrsus.com">esr@thyrsus.com</A>.
25
26 <h1>General questions:</h1>
27
28 <a href="#G1">G1. What is fetchmail and why should I bother?</a><br>
29 <a href="#G2">G2. Where do I find the latest FAQ and fetchmail sources?</a><br>
30 <a href="#G3">G3. I think I've found a bug.  Will you fix it?</a><br>
31 <a href="#G4">G4. I have this idea for a neat feature. Will you add it?</a><br>
32 <a href="#G5">G5. Is there a mailing list for exchanging tips?</a><br>
33 <a href="#G6">G6. So, what's this I hear about a fetchmail paper?</a><br>
34 <a href="#G7">G7. What is the best server to use with fetchmail?</a><br>
35 <a href="#G8">G8. What is the best mail program to use with fetchmail?</a><br>
36 <a href="#G9">G9. How can I avoid sending my password en clair?</a><br>
37 <a href="#G10">G10. Is any special configuration needed to use a dynamic
38 IP address?</a><br>
39 <a href="#G11">G11. Is any special configuration needed to use firewalls?</a><br>
40 <a href="#G12">G12. Is any special configuration needed to <em>send</em> mail?</a><br>
41 <a href="#G13">G13. Is fetchmail Y2K-compliant?</a><br>
42 <a href="#G14">G14. Is there a way in fetchmail to support disconnected IMAP mode?</a><br>
43 <a href="#G15">G15. How will fetchmail perform under heavy loads?</a><br>
44
45 <h1>Build-time problems:</h1>
46
47 <a href="#B1">B1. Make coughs and dies when building on FreeBSD.</a><br>
48 <a href="#B2">B2. Lex bombs out while building the fetchmail lexer.</a><br>
49 <a href="#B3">B3. I get link failures when I try to build fetchmail.</a><br>
50
51 <h1>Fetchmail configuration file grammar questions:</h1>
52
53 <a href="#F1">F1. Why does my old .fetchmailrc no longer work?</a><br>
54 <a href="#F2">F2. The .fetchmailrc parser won't accept my all-numeric user name.</a><br>
55 <a href="#F3">F3. The .fetchmailrc parser won't accept my host or username beginning with `no'.</a><br>
56 <a href="#F4">F4. I'm getting a `parse error' message I don't understand.</a><br>
57
58 <h1>Configuration questions:</h1>
59
60 <a href="#C1">C1. Why do I need a .fetchmailrc when running as root on my own machine?</a><br>
61 <a href="#C2">C2. How can I arrange for a fetchmail daemon to get killed when I log out?</a><br>
62 <a href="#C3">C3. How do I know what interface and address to use with --interface?</a><br>
63 <a href="#C4">C4. How can I set up support for sendmail's anti-spam features?</a><br>
64 <a href="#C5">C5. How can I poll some of my mailboxes more/less often than others?</a><br>
65 <a href="#C6">C6. Fetchmail works OK started up manually, but not from an init script.</a><br>
66 <a href="#C7">C7. How can I forward mail to another host?.</a><br>
67
68 <h1>How to make fetchmail play nice with various MTAs:</h1>
69
70 <a href="#T1">T1. How can I use fetchmail with sendmail?</a><br>
71 <a href="#T2">T2. How can I use fetchmail with qmail?</a><br>
72 <a href="#T3">T3. How can I use fetchmail with exim?</a><br>
73 <a href="#T4">T4. How can I use fetchmail with smail?</a><br>
74 <a href="#T5">T5. How can I use fetchmail with SCO's MMDF?</a><br>
75 <a href="#T6">T6. How can I use fetchmail with Lotus Notes?</a><br>
76
77 <h1>How to make fetchmail work with various servers:</h1>
78
79 <a href="#S1">S1. How can I use fetchmail with qpopper?</a><br>
80 <a href="#S2">S2. How can I use fetchmail with Microsoft Exchange?</a><br>
81 <a href="#S3">S3. How can I use fetchmail with Compuserve RPA?</a><br>
82 <a href="#S4">S4. How can I use fetchmail with Demon Internet's SDPS?</a><br>
83 <a href="#S5">S5. How can I use fetchmail with usa.net's servers?</a><br>
84 <a href="#S6">S6. How can I use fetchmail with HP OpenMail?</a><br>
85 <a href="#S7">S7. How can I use fetchmail with geocities POP3 servers?</a><br>
86 <a href="#S8">S8. How can I use fetchmail with Hotmail?</a><br>
87 <a href="#S9">S9. How can I use fetchmail with MSN?</a><br>
88 <a href="#S10">S10. How can I use fetchmail with SpryNet?</a><br>
89 <a href="#S11">S11. How can I use fetchmail with FTGate?</a><br>
90 <a href="#S12">S12. How can I use fetchmail with MailMax?</a><br>
91 <a href="#S13">S13. How can I use fetchmail with Novell GroupWise?</a><br>
92 <a href="#S14">S14. How can I use fetchmail with InterChange?</a><br>
93
94 <h1>How to set up well-known security and authentication methods:</h1>
95
96 <a href="#K1">K1. How can I use fetchmail with SOCKS?</a><br>
97 <a href="#K2">K2. How can I use fetchmail with IPv6 and IPsec?</a><br>
98 <a href="#K3">K3. How can I get fetchmail to work with ssh?</a><br>
99 <a href="#K4">K4. What do I have to do to use the IMAP-GSS protocol?</a><br>
100 <a href="#K5">K5. How can I use fetchmail with SSL?</a><br>
101
102 <h1>Runtime fatal errors:</h1>
103
104 <a href="#R1">R1. Fetchmail isn't working, and -v shows `SMTP connect failed' messages.</a><br>
105 <a href="#R2">R2. When I try to configure an MDA, fetchmail doesn't work.</a><br>
106 <a href="#R3">R3. Fetchmail dumps core when given an invalid rc file.</a><br>
107 <a href="#R4">R4. Fetchmail dumps core in -V mode, but operates normally otherwise.</a><br>
108 <a href="#R5">R5. Running fetchmail in daemon mode doesn't work.</a><br>
109 <a href="#R6">R6. Fetchmail hangs when used with pppd.</a><br>
110 <a href="#R7">R7. Fetchmail randomly dies with socket errors.</a><br>
111 <a href="#R8">R8. Fetchmail running as root stopped working after an OS upgrade</a><br>
112 <a href="#R9">R9. Fetchmail is timing out after fetching certain
113 messages but before deleting them</a><br>
114 <a href="#R10">R10. Fetchmail is timing out during message fetches</a><br>
115 <a href="#R11">R11. Fetchmail is dying with SIGPIPE.</a><br>
116
117 <h1>Disappearing mail</h1>
118
119 <a href="#D1">D1. I think I've set up fetchmail correctly, but I'm not getting any mail.</a><br>
120 <a href="#D2">D2. All my mail seems to disappear after a dropped connection.</a><br>
121 <a href="#D3">D3. Mail that was being fetched when I interrupted my fetchmail seems to have been vanished.</a><br>
122
123 <h1>Multidrop-mode problems:</h1>
124
125 <a href="#M1">M1. I've declared local names, but all my multidrop mail is going to root anyway.</a><br>
126 <a href="#M2">M2. I can't seem to get fetchmail to route to a local domain properly.</a><br>
127 <a href="#M3">M3. I tried to run a mailing list using multidrop, and I have a mail loop!</a><br>
128 <a href="#M4">M4. My multidrop fetchmail seems to be having DNS problems.</a><br>
129 <a href="#M5">M5. I'm seeing long DNS delays before each message is processed.</a><br>
130 <a href="#M6">M6. How do I get multidrop mode to work with majordomo?</a><br>
131 <a href="#M7">M7. Multidrop mode isn't parsing envelope addresses from
132 my Received headers as it should.</a><br>
133 <a href="#M8">M8. Users are getting multiple copies of messages.</a><br>
134
135 <h1>Mangled mail:</h1>
136
137 <a href="#X1">X1. Spurious blank lines are appearing in the headers of fetched mail.</a><br>
138 <a href="#X2">X2. My mail client can't see a Subject line.</a><br>
139 <a href="#X3">X3. Messages containing "From" at start of line are being split.</a><br>
140 <a href="#X4">X4. My mail is being mangled in a new and different way.</a><br>
141 <a href="#X5">X5. Using POP3, retrievals seems to be fetching too much!</a><br>
142 <a href="#X6">X6. My mail attachments are being dropped or mangled.</a><br>
143 <a href="#X7">X7. Some mail attachments are hanging fetchmail.</a><br>
144
145 <h1>Other problems:</h1>
146
147 <a href="#O1">O1. The --logfile option doesn't work if the logfile doesn't exist.</a><br>
148 <a href="#O2">O2. Every time I get a POP or IMAP message the header is
149 dumped to all my terminal sessions.</a><br>
150 <a href="#O3">O3. Does fetchmail reread its rc file every poll cycle?</a><br>
151 <a href="#O4">O4. Why do deleted messages show up again when I take
152 a line hit while downloading?</a><br>
153 <a href="#O5">O5. Why is fetched mail being logged with my name, not the real From address?</a><br>
154 <a href="#O6">O6. I'm seeing long sendmail delays or hangs near the start of each poll cycle.</a><br>
155 <a href="#O7">O7. Why doesn't fetchmail deliver mail in date-sorted order?</a><br>
156 <a href="#O8">O8. I'm using pppd.  Why isn't my monitor option working?</a><br>
157 <a href="#O9">O9. Why does fetchmail keep retrieving the same messages
158 over and over?</a><br>
159 <a href="#O10">O10. Why is the received date on all my messages the same?</a><br>
160
161 <h1>Answers:</h1>
162 <hr>
163 <h2><a name="G1">G1. What is fetchmail and why should I bother?</a></h2>
164
165 <p>Fetchmail is a one-stop solution to the remote mail retrieval problem
166 for Unix machines, quite useful to anyone with an intermittent PPP or
167 SLIP connection to a remote mailserver.  It can collect mail using any
168 variant of POP or IMAP and forwards via port 25 to the local SMTP
169 listener, enabling all the normal forwarding/filtering/aliasing
170 mechanisms that would apply to local mail or mail arriving via a
171 full-time TCP/IP connection.
172
173 <p>Fetchmail is not a toy or a coder's learning exercise, but an
174 industrial-strength tool capable of transparently handling every
175 retrieval demand from those of a simple single-user ISP connection up
176 to mail retrieval and rerouting for an entire client domain.
177 Fetchmail is easy to configure, unobtrusive in operation, powerful,
178 feature-rich, and well documented. 
179
180 <p>Fetchmail is <a href="http://www.opensource.org">open-source</a>
181 software.  The openness of the sources is the strongest assurance of
182 quality you can have.  Extensive peer review by a large,
183 multi-platform user community has shown that fetchmail is as near
184 bulletproof as the underlying protocols permit.
185
186 <p>Fetchmail is licensed under the <a
187 href="http://gnu.org//copyleft/gpl.html">GNU General Public
188 License</a>.
189
190 <p>If you found this FAQ in the distribution, see the README for fetchmail's
191 full feature list.
192
193 <hr>
194 <h2><a name="G2">G2. Where do I find the latest FAQ and fetchmail
195 sources?</a></h2> 
196
197 <p>The latest HTML FAQ is available alongside the latest fetchmail
198 sources at the fetchmail home page:
199 <a href="http://www.tuxedo.org/~esr/fetchmail">
200 http://www.tuxedo.org/~esr/fetchmail</a>.  You can also usually find
201 both in the <a
202 href="http://sunsite.unc.edu/pub/Linux/system/mail/pop/!INDEX.html">POP
203 mail tools directory on Sunsite</a>.
204
205 <p>A text dump of this FAQ is included in the fetchmail
206 distribution. Because it freezes at distribution release time, it may
207 not be completely current.
208
209 <p><hr>
210 <h2><a name="G3">G3.  I think I've found a bug.  Will you fix it?</a></h2>
211
212 <p>Yes I will, provided you include enough diagnostic information for me
213 to go on.  Send bugs to <a
214 href="mailto:fetchmail-friends@ccil.org">fetchmail-friends</a>.  When reporting
215 bugs, please include the following:
216
217 <ol>
218 <li>Your operating system.
219 <li>Your compiler version, if you built from source; otherwise, the
220     name and origin ogf the RPM or other binary package you installed.
221 <li>A copy of your POP or IMAP server's greeting line.
222 <li>The name and version of the SMTP listener or MDA you are forwarding to.
223 <li>Any command-line options you used.
224 <li>The output of fetchmail -V called with whatever other
225     command-line options you used.
226 </ol>
227
228 <p>If you have FTP access to your remote mail account, and you have any
229 suspicion that the bug was triggered by a particular message, please
230 include a copy of the message that triggered the bug.
231
232 <p>Often, the first thing I will do when you report a bug is tell you to
233 upgrade to the newest version of fetchmail, and then see if the
234 problem reproduces.  So you'll probably save us both time if you
235 upgrade and test with the latest version <em>before</em> sending in a
236 bug report.
237
238 <p>If your bug is something that used to work but stopped working when
239 you upgraded, then you can help pin the bug down by trying <a
240 href="ftp://ftp.ccil.org/pub/esr/fetchmail">intermediate versions of
241 fetchmail</a> until you identify the revision that broke your
242 feature.  The smart way to do this is by binary search on the version
243 sequence.  First, try the version halfway between your last good one
244 and the current one.  If it works, the failure was introduced in the
245 upper half of the sequence; if it doesn't, the failure was introduced
246 in the lower half.  Now bisect that half in the same way.  In a very
247 few tries, you should be able to identify the exact adjacent pair
248 of versions between which your bug was introduced -- and with
249 information like that, I can usually come up with a fix very quickly.
250
251 <p>Another useful thing you can do, if you're using POP3, is to test for
252 IMAP4 support on your mailserver using the autoprobe function of
253 fetchmailconf.  If you have IMAP4, and fetchmailconf doesn't tell you
254 it's broken, switch immediately.  POP3 is a weak, poorly-designed
255 protocol with chronic problems, and the later versions after RFC1725
256 actually get worse rather than better.  Changing over to IMAP4 may well
257 make your problem go away -- and if your ISP doesn't have IMAP4
258 support, bug them to supply it.
259
260 <p>It is helpful if you include your .fetchmailrc file, but not necessary
261 unless your symptom seems to involve an error in configuration
262 parsing.  If you do send in your .fetchmailrc, mask the passwords
263 first! 
264
265 <p>If fetchmail seems to run and fetch mail, but the headers look mangled
266 (that is, headers are missing or blank lines are inserted in the
267 headers) then read the FAQ items in section <a href="#X1">X</a>
268 before submitting a bug report.  Pay special attention to the item on
269 <a href="#generic_mangling">diagnosing mail mangling</a>.  There are
270 lots of ways for other programs in the mail chain to screw up that
271 look like fetchmail's fault, but you may be able to fix these by
272 tweaking your configuration.
273
274 <p>A transcript of the failed session with -v -v (yes, that's
275 <em>two</em> -v options, enabling debug mode) will almost always be useful.
276 It is very important that the transcript include your POP/IMAP server's
277 greeting line, so I can identify it in case of server problems.  This
278 transcript will not reveal your passwords, which are specially masked
279 out precisely so the transcript can be passed around.
280
281 <p>If you upgraded your fetchmail and something broke, you should include
282 session transcripts with -v -v of both the working and failing
283 versions.  Very often, the source of the problem can instantly
284 identified by looking at the differences in protocol transactions.
285
286 <p>If the bug involves a core dump or hang, a gdb stack trace is good to have.
287 (Bear in mind that you can attach gdb to a running but hung process by
288 giving the process ID as a second argument.)  You will need to
289 reconfigure with:
290
291 <p><pre>
292 CFLAGS=-g LDFLAGS=" " ./configure
293 </pre>
294
295 and then rebuild in order to generate a version that can be gdb-traced.
296
297 <p>Best of all is a mail file which, when fetched, will reproduce the
298 bug under the latest (current) version.
299
300 <p>Any bug I can reproduce will usually get fixed very quickly, often
301 within 48 hours.  Bugs I can't reproduce are a crapshoot.  If the
302 solution isn't obvious when I first look, it may evade me for a long
303 time (or to put it another way, fetchmail is well enough tested that the
304 easy bugs have long since been found).  So if you want your bug fixed
305 rapidly, it is not just sufficient but nearly <em>necessary</em> that
306 you give me a way to reproduce it.
307
308 <hr>
309 <h2><a name="G4">G4.  I have this idea for a neat feature.  Will you add it?</a></h2>
310
311 Probably not.  Most of the feature suggestions I get are for ways to
312 set various kinds of administrative policy or add more spam filtering
313 (the most common one, which I used to get about four million times a week
314 and got <em>really</em> tired of, is for tin-like kill files).
315
316 <p>You can do spam filtering better with procmail or maildrop on the
317 server side and (if you're the server sysadmin) sendmail.cf domain
318 exclusions.  You can do other policy things better with the
319 <CODE>mda</CODE> option and script wrappers around fetchmail.  If
320 it's a prime-time-vs.-non-prime-time issue, ask yourself whether a
321 wrapper script called from crontab would do the job.
322
323 <p>I'm not going to do these; fetchmail's job is transport, not policy, and I
324 refuse to change it from doing one thing well to attempting many things badly.
325 One of my objectives is to keep fetchmail simple so it stays reliable.
326
327 <p>For reasons fetchmail doesn't have other commonly-requested features
328 (such as password encryption, or multiple concurrent polls from the
329 same instance of fetchmail) see the <a
330 href="http://www.tuxedo.org/~esr/fetchmail/design-notes.html">design notes</a>.
331
332 <p>Fetchmail is a mature project, no longer in constant active
333 development.  It is no longer my top project, and I am going to be
334 quite reluctant to add features that might either jeopardize its
335 stability or involve me in large amounts of coding.
336
337 <p>All that said, if you have a feature idea that really is about a transport
338 problem that can't be handled anywhere but fetchmail, lay it on me.  I'm
339 very accommodating about good ideas.
340
341 <hr>
342 <h2><a name="G5">G5. Is there a mailing list for exchanging tips?</a></h2>
343
344 <p>There is a fetchmail-friends list for people who want to discuss fixes
345 and improvements in fetchmail and help co-develop it.  It's a MailMan
346 list, which you can sign up for at <a
347 <a href="http://lists.ccil.org/mailman/listinfo/fetchmail-friends">fetchmail-friends@lists.ccil.org</a>.
348 There is also an announcements-only list, <a href="http://lists.ccil.org/mailman/listinfo/fetchmail-announce">fetchmail-announce@lists.ccil.org</em>.
349
350 <hr>
351 <h2><a name="G6">G6. So, what's this I hear about a fetchmail paper?</a></h2>
352
353 <p>The fetchmail development was also a sociological experiment, an
354 extended test to see if my theory about the critical features of the
355 Linux development model is correct.
356
357 <p>The experiment was a success.  I wrote a paper about it titled <a
358 href="http://www.tuxedo.org/~esr/writings/cathedral.html">The
359 Cathedral and the Bazaar</a> which was first presented at Linux
360 Kongress '97 in Bavaria and very well received there. It was also
361 given at Atlanta Linux Expo, Linux Pro '97 in Warsaw, and the first
362 Perl Conference, at UniForum '98, and was the basis of an invited
363 presentation at Usenix '98.  The folks at Netscape tell me it helped
364 them decide to <a
365 href="http://www.netscape.com/newsref/pr/newsrelease558.html"> give
366 away the source for Netscape Communicator</a>.
367
368 <p>If you're reading a non-HTML dump of this FAQ, you can find the paper 
369 on the Web with a search for that title.
370
371 <hr>
372 <h2><a name="G7">G7. What is the best server to use with fetchmail?</a></h2>
373
374 <p>The short answer: IMAP 2000 running over Unix.
375
376 <p>Here's a longer answer: 
377
378 <p>Fetchmail will work with any POP, IMAP, ETRN, or ODMR server that
379 conforms to the relevant RFCs (and even some outright broken ones like
380 <a href="#S2">Microsoft Exchange</a> and <a href="#S12">Novell
381 GroupWise</a>).  This doesn't mean it works equally well with all,
382 however.  POP2 servers, and POP3 servers without LAST, limit
383 fetchmail's capabilities in various ways described on the manual
384 page.
385
386 <p>Most modern Unixes (and effectively all Linux/*BSD systems) come with
387 POP3 support preconfigured (but beware of the horribly broken POP3
388 server mentioned in <a href="#D2">D2</a>).  An increasing minority
389 also feature IMAP (you can detect IMAP support by running fetchmail in
390 AUTO mode, or by using the `Probe for supported protocols' function in
391 the fetchmailconf utility).
392
393 <p>If you have the option, we recommend using or installing an IMAP4rev1
394 server; it has the best facilities for tracking message `seen' states.
395 It also recovers from interrupted connections more gracefully than
396 POP3, and enables some significant performance optimizations.  The new
397 <a href="ftp://ftp.cac.washington.edu/imap/imap.tar.Z">IMAP 2000</a>
398 is particularly nice, as it supports CRAM-MD5 so you don't have to
399 ship your mail password over the net en clair (fetchmail autodetects
400 this capability).  Older versions had support for GSSAPI giving a
401 similar effect, .
402
403 <p>Don't be fooled by NT/Exchange propaganda.  M$ Exchange is just plain
404 broken (see item <a href="#S2">S2</a>) and NT cannot handle the
405 sustained load of a high-volume remote mail server.  Even Microsoft
406 itself knows better than to try this; their own Hotmail service runs
407 over Solaris!  For extended discussion, see John Kirch's excellent <a
408 href="http://unix-vs-nt.org/kirch/">white paper</a> on Unix
409 vs. NT performance.
410
411 <p>Source for a high-quality supported implementation of POP is available
412 from the <a href="ftp://ftp.qualcomm.com/eudora/servers/unix/popper/">Eudora
413 FTP site</a>.  Don't use 2.5, which has a rather restrictive license.
414 The 2.5.2 version appears to restore the open-source license of
415 previous versions.
416
417 <hr>
418 <h2><a name="G8">G8. What is the best mail program to use with fetchmail?</a></h2>
419
420 <p>Fetchmail will work with all popular <a href="#T1">mail transport
421 programs</a>.  It also doesn't care which user agent you use, and user
422 agents are as a rule almost equally indifferent to how mail is
423 delivered into your system mailbox.  So any of the popular Unix mail
424 agents -- <a href="http://www.myxa.com/old/elm.html">elm</a>, <a
425 href="http://www.washington.edu/pine/">pine</a>, <a
426 href="http://www.cs.indiana.edu/docproject/mail/mh.html">mh</a>, or <a
427 href="http://www.mutt.org">mutt</a> -- will work fine with fetchmail.
428
429 <p>All this having been said, I can't resist putting in a discreet plug
430 for <a href="http://www.mutt.org">mutt</a>.  My own personal mail
431 setup is sendmail plus fetchmail plus mutt.  Mutt's interface is only
432 a little different from that of its now-moribund ancestor elm, but its
433 excellent handling of MIME and PGP put it in a class by itself.  You
434 won't need its built-in POP3 support, though; most of the mutt
435 developers will cheerfully admit that fetchmail's is better :-).
436
437 <hr>
438 <h2><a name="G9">G9. How can I avoid sending my password en clair?</a></h2>
439
440 <p>Depending on what your mail server you are talking to, this ranges
441 from trivial to impossible.  It may even be next to useless.
442
443 <p>Most people use fetchmail over phone wires, which are hard to tap.
444 Anybody with the skill and resources to do this could get into your
445 server mailbox with much less effort by subverting the server host.
446 So if your provider setup is modem wires going straight into a service
447 box, you probably don't need to worry.
448
449 <p>In general there is little point in trying to secure your fetchmail
450 transaction unless you trust the security of the server host you are
451 retrieving mail from.  Your vulnerability is more likely to be an
452 insecure local network on the server end (e.g. to somebody with a TCP/IP
453 packet sniffer intercepting Ethernet traffic between the modem
454 concentrator you dial in to and the mailserver host).
455
456 <p>Having realized this, you need to ask whether password encryption
457 alone will really address your security exposure.  If you think you
458 might be snooped between server and client, it's better to use
459 end-to-end encryption on your whole mail stream so none of it can be
460 read.  One of the advantages of fetchmail over conventional SMTP-push
461 delivery is that you may be able to arrange this by using ssh(1); see
462 <a href="#K3">K3</a>.
463
464 <p>Note that ssh is not a complete privacy solution either, as your mail
465 could have been snooped in transit to your POP server from wherever it
466 originated.  For best security, agree with your correspondents to use
467 a tool such as <a href="http://www.gnupg.org/">GPG</a> (Gnu Privacy
468 Guard) or PGP (Pretty Good Privacy).
469
470 <p>If ssh/sshd isn't available, or you find it too complicated for you to
471 set up, password encryption will at least keep a malicious cracker
472 from deleting your mail, and require him to either tap your connection
473 continuously or crack root on the server in order to read it.
474
475 <p>You can deduce what encryptions your mail server has available
476 by looking at the server greeting line (and, for IMAP, the
477 response to a CAPABILITY query).  Do a <code>fetchmail -v</code>
478 to see these, or telnet direct to the server port (110 for POP3, 143 for
479 IMAP).
480
481 <p>If your mailserver is using IMAP 2000, you'll have CRAM-MD5 support
482 built in.  Fetchmail autodetects this; you can skip the rest of this
483 section.
484
485 <p>The POP3 facility you are most likely to have available is APOP.  This is a
486 POP3 feature supported by many servers (fetchmailconf's autoprobe
487 facility will detect it and tell you if you have it).  If you see
488 something in the greeting line that looks like an
489 angle-bracket-enclosed Internet address with a numeric left-hand part,
490 that's an APOP challenge (it will vary each time you log in).  You can
491 register a secret on the host (using <code>popauth(8)</code> or some
492 program like it).  Specify the secret as your password in your
493 .fetchmailrc; it will be used to encrypt the current challenge, and
494 the encrypted form will be sent back the the server for
495 verification.
496
497 <p>Alternatively, you may have Kerberos available. This may require you
498 to set up some magic files in your home directory on your client
499 machine, but means you can omit specifying any password at all.
500
501 <p>Fetchmail supports two different Kerberos schemes.  One is a POP3
502 variant called KPOP; consult the documentation of your mail server to
503 see if you have it (one clue is the string "krb-IV" in the greeting
504 line on port 110).  The other is an IMAP and POP3 facility described
505 by RFC1731 and RFC1734. You can tell if this one is present by looking
506 for AUTH=KERBEROS_V4 in the CAPABILITY response.
507
508 <p>If you are fetching mail from a CompuServe POP3 account, you can use
509 their RPA authentication (which works much like APOP).  See <a
510 href="#S3">S3</a> for details.  If you are fetching mail from
511 Microsoft Exchange using IMAP, you will be able to use NTLM.
512
513 <p>Your POP3 server may have the RFC1938 OTP capability to use one-time
514 passwords (if it doesn't, you can get OTP patches for the 2.2 version
515 of the Qualcomm popper from <a href="#cmetz">Craig Metz</a>). To check
516 this, look for the string "otp-" in the greeting line.  If you see it,
517 and your fetchmail was built with OPIE support compiled in (see the
518 distribution INSTALL file), fetchmail will detect it also.  When using
519 OTP, you will specify a password but it will not be sent en clair.
520
521 <p>You can get both POP3 and IMAP OTP patches from <a name="cmetz">Craig
522 Metz</A> at <a
523 href="http://www.inner.net/pub/">http://www.inner.net/pub/</a>.<p>
524 These patches use a SASL authentication method named "X-OTP" because
525 there is not currently a standard way to do this; fetchmail also uses
526 this method, so the two will interoperate happily.  They better,
527 because this is how Craig gets his mail ;-)
528
529 <p>Finally, you can use <a href="#K5">SSL</a> for complete
530 end-to-end encryption if you have an SSL-enabled mailserver.
531
532 <hr>
533 <h2><a name="G10">G10. Is any special configuration needed to use a dynamic IP address?</a></h2>
534
535 <p>Yes. In order to avoid giving indigestion to certain picky MTAs
536 (notably <a href="#T3">exim</a>), fetchmail always makes the RCPT TO
537 address it feeds the MTA a fully qualified one with a hostname part.
538 Normally it does this by appending @ and "localhost", but when you are
539 using Kerberos or ETRN mode it will append @ and your machine's
540 fully-qualified domain name (FQDN).
541
542 <p>Appending the FQDN can create problems when fetchmail is running in daemon
543 mode and outlasts the dynamic IP address assignment your client
544 machine had when it started up.
545
546 <p>Since the new IP address (looked up at RCPT TO interpretation time)
547 doesn't match the original, the most benign possible result is that
548 your MTA thinks it's seeing a relaying attempt and refuses.  More
549 frequently, fetchmail will try to connect to a nonexistent host
550 address and time out.  Worst case, you could up forwarding your mail
551 to the wrong machine!
552
553 <p>Use the <code>smtpaddress</code> option to force the appended hostname
554 to one with a (fixed) IP address of 127.0.0.1 in your
555 <code>/etc/hosts</code>.  (The name `localhost' will usually work; or
556 you can use the IP address itself).
557
558 <p>Only one fetchmail option interacts directly with your IP address,
559 `<code>interface</code>'.  This option can be used to set the gateway
560 device and restrict the IP address range fetchmail will use. Such a
561 restriction is sometimes useful for security reasons, especially on
562 multihomed sites.  See <a href="#C3">C3</a>.
563
564 <p>I recommend against trying to set up the <code>interface</code> option
565 when initially developing your poll configuration -- it's never
566 necessary to do this just to get a link working.  Get the link working
567 first, observe the actual address range you see on connections, and
568 add an <code>interface</code> option (if you need one) later.
569
570 <p>You can't use ETRN if you have a dynamic IP address (your ISP changes
571 your IP address occasionally, possibly with every connect).  You need
572 to have your own registered domain and a definite IP address
573 registered for that domain.  The server needs to be configured to
574 accept mail for your domain but then queue it to forward to your
575 machine.  ETRN just tells to server to flush its queue for your
576 domain.  Fetchmail doesn't actually get the mail in that case.
577
578 <p>You can use On-Demand Mail Relay (ODMR) with a dynamic IP address;
579 that's what it was designed for, and it provides capabilities very
580 similar to ETRN.  Unfortunately ODMR servers are not yet widely 
581 deployed, as of early 2001.
582
583 <p>If you're using a dynamic-IP configuration, one other (non-fetchmail)
584 problem you may run into with outgoing mail is that some sites will
585 bounce your email because the hostname your giving them isn't real
586 (and doesn't match what they get doing a reverse DNS on your
587 dynamically-assigned IP address).  If this happens, you need to hack
588 your sendmail so it masquerades as your host.  Setting
589
590 <pre>
591 DMsmarthost.here
592 </pre>
593
594 in your <code>sendmail.cf</code> will work, or you can set<p> 
595
596 <pre>
597 MASQUERADE_AS(smarthost.here)
598 </pre>
599
600 in the m4 configuration and do a reconfigure.  (In both cases, replace
601 <code>smarthost.here</code> with the actual name of your mailhost.)
602 See the <a href="http://www.lege.com/sendmail-FAQ.txt">sendmail
603 FAQ</a> for more details.
604
605 <hr>
606 <h2><a name="G11">G11. Is any special configuration needed to use firewalls?</a></h2>
607
608 <p>No.  You can use fetchmail with SOCKS, the standard tool for
609 indirecting TCP/IP through a firewall.  You can find out about SOCKS,
610 and download the SOCKS software including server and client code, at
611 the <a href="http://www.socks.nec.com/">SOCKS distribution
612 site</a>.
613
614 <p>The specific recipe for using fetchmail with a firewall is at <a
615 href="#K1">K1</a>
616
617 <hr>
618 <h2><a name="G12">G12. Is any special configuration needed to <em>send</em> mail?</a></h2>
619
620 <p>A user asks: but how do we send mail out to the POP3 server? Do I need
621 to implement another tool or will fetchmail do this too?
622
623 <p>Fetchmail only handles the receiving side.  The sendmail or other
624 preinstalled MTA on your client machine will handle sending mail
625 automatically; it will ship mail that is submitted while the
626 connection is active, and put mail that is submitted while
627 the connection is inactive into the outgoing queue.
628
629 <p>Normally, sendmail is also run periodically (every 15 minutes on most
630 Linux systems) in a mode that tries to ship all the mail in the
631 outgoing queue.  If you have set up something like pppd to
632 automatically dial out when your kernel is called to open a TCP/IP
633 connection, this will ensure that the mail gets out.
634
635 <hr>
636 <h2><a name="G13">G13. Is fetchmail Y2K-compliant?</a></h2>
637
638 Fetchmail is fully Y2K-compliant.<p> 
639
640 Fetchmail could theoretically have problems when the 32-bit time_t
641 counters roll over in 2038, but I doubt it.  Timestamps aren't used
642 for anything but log entry generation.  Anyway, if you aren't running
643 on a 64-bit machine by then, you'll deserve to lose.
644
645 <hr>
646 <h2><a name="G14">G14. Is there a way in fetchmail to support disconnected IMAP mode?</a></H2>
647
648 No. Fetchmail is a mail transport agent, best understood as a protocol
649 gateway between POP3/IMAP servers and SMTP.  Disconnected operation
650 requires an elaborate interactive client.  It's a very different problem.
651
652 <hr>
653 <h2><a name="G15">G15. How will fetchmail perform under heavy loads?</a></h2>
654
655 Fetchmail streams message bodies line-by-line; the most core it
656 ever requires per message is enough memory to hold the RFC822 header, and
657 that storage is freed when body processing begins. It is, accordingly,
658 quite economical in its use of memory.
659
660 <p>After startup time, a fetchmail running in daemon mode stats its
661 configuration file once per poll cycle to see whether it has changed
662 and should be rescanned.  Other than that, a fetchmail in normal
663 operation doesn't touch the disk at all; that job is left up to the
664 MTA or MDA the fetchmail talks to.
665
666 <p>Fetchmail's performance is usually bottlenecked by latency on the POP
667 server or (less often) on the TCP/IP link to the server.  This is not
668 a problem readily solved by tuning fetchmail, or even by buying more
669 TCP/IP capacity (which tends to improve bandwidth but not necessarily
670 latency).
671
672 <hr>
673 <h2><a name="B1">B1. Make coughs and dies when building on FreeBSD.</a></h2>
674
675 The vendor-supplied make on FreeBSD systems can only be used within
676 FreeBSD's "scope", e.g. the ports collection.  Type "gmake" to run GNU
677 make and better things will happen.
678
679 <hr>
680 <h2><a name="B2">B2. Lex bombs out while building the fetchmail lexer.</a></h2>
681
682 In the immortal words of Alan Cox the last time this came up: ``Take
683 the Solaris lex and stick it up the backside of a passing Sun
684 salesman, then install <a
685 href="ftp://ftp.gnu.org/pub/non-gnu/flex/">flex</a> and use that.  All
686 will be happier.''
687
688 <p>I couldn't have put it better myself, and ain't going to try now.
689
690 <p>(The same problem has been reported under HP-UX v10.20 and IRIX)
691
692 <hr>
693 <h2><a name="B3">B3. I get link failures when I try to build fetchmail.</a></h2>
694
695 If you get errors resembling these
696
697 <p><pre>
698 mxget.o(.text+0x35): undefined referenceto `__res_search' 
699 mxget.o(.text+0x99): undefined reference to`__dn_skipname' 
700 mxget.o(.text+0x11c): undefined reference to`__dn_expand' 
701 mxget.o(.text+0x187): undefined reference to`__dn_expand' 
702 make: *** [fetchmail] Error 1
703 </pre>
704
705 then you must add "-lresolv" to the LOADLIBS line in your Makefile 
706 once you have installed the `bind' package.
707
708 <p>If you get link errors involving <tt>dcgettext</tt>, like this:
709
710 <pre>
711 rcfile_y.o: In function `yyparse':
712 rcfile_y.o(.text+0x3aa): undefined reference to `dcgettext__'
713 rcfile_y.o(.text+0x4f2): undefined reference to `dcgettext__'
714 rcfile_y.o(.text+0x5ee): undefined reference to `dcgettext__'
715 rcfile_y.o: In function `yyerror':
716 rcfile_y.o(.text+0xc7c): undefined reference to `dcgettext__'
717 rcfile_y.o(.text+0xcc8): undefined reference to `dcgettext__'
718 rcfile_y.o(.text+0xdf9): more undefined references to `dcgettext__' follow
719 </pre>
720
721 reconfigure with <tt>configure --with-included-gettext</tt>.  This is
722 due to some brain-damage in the GNU internationalization libraries.
723
724 <hr>
725 <h2><a name="F1">F1. Why does my old .fetchmailrc file no longer work?</a></h2>
726
727 <h3>If your file predates 5.8.9</h3>
728
729 <p>If you were using ETRN mode, change your <tt>smtphost</tt> option to 
730 a <tt>fetchdomains</tt> option.
731
732 <h3>If your file predates 5.8.3</h3>
733
734 <p>The `via localhost' special case for use with ssh tunnelling is gone.
735 Use the %h feature of <tt>plugin</tt> instead.
736
737 <h3>If your file predates 5.6.8</h3>
738
739 <p>In 5.6.8, the <tt>preauth</tt> keyword and option were changed back to
740 <tt>auth</tt>. The <tt>preauth</tt> synonym will still be supported
741 through a few more point releases.
742
743 <p><h3>If your file predates 5.6.5</h3>
744
745 The <tt>imap-gss</tt>, <tt>imap-k4</tt>, and <tt>imap-login</tt>
746 protocol types are gone. This is a result of a major re-factoring
747 of the authentication machinery; fetchmail can now use Kerberos V4
748 and GSSAPI not just with IMAP but with POP3 servers that have RFC1734
749 support for the AUTH command.
750
751 <p>When trying to identify you to an IMAP or POP mailserver, fetchmail
752 now first tries methods that don't require a password (GSSAPI,
753 KERBEROS_IV); then it looks for methods that mask your password
754 (CRAM-MD5, X-OTP); and only if it the server doesn't support any of
755 those will it ship your password en clair.
756
757 <p>Setting the <tt>preauth</tt> option to any value other than `password'
758 will prevent from looking for a password in your <tt>.netrc</tt> file
759 or querying for it at startup time.<p>  
760
761 <h3>If your file predates 5.1.0</h3>
762
763 In 5.1.0, the <tt>auth</tt> keyword and option were changed to
764 <tt>preauth</tt>.
765
766 <p><h3>If your file predates 4.5.5</h3>
767
768 If the <code>dns</code> option is on (the default), you may need to
769 make sure that any hostname you specify (for mail hosts or for an SMTP
770 target) is a canonical fully-qualified hostname).  In order to avoid
771 DNS overhead and complications, fetchmail no longer tries to derive
772 the fetchmail client machine's canonical DNS name at startup.
773
774 <p><h3>If your file predates 4.0.6:</h3>
775
776 Just after the `<CODE>via</CODE>' option was introduced, I realized
777 that the interactions between the `<CODE>via</CODE>',
778 `<CODE>aka</CODE>', and `<CODE>localdomains</CODE>' options were out
779 of control.  Their behavior had become complex and confusing, so much so
780 that I was no longer sure I understood it myself.  Users were being
781 unpleasantly surprised.
782
783 <p>Rather than add more options or crock the code, I re-thought it.  The
784 redesign simplified the code and made the options more orthogonal, but
785 may have broken some complex multidrop configurations.
786
787 Any multidrop configurations that depended on the name just after the
788 `<CODE>poll</CODE>' or `<CODE>skip</CODE>' keyword being still
789 interpreted as a DNS name for address-matching purposes, even in the
790 presence of a `<CODE>via</CODE>' option, will break.
791
792 <p>It is theoretically possible that other unusual configurations (such
793 as those using a non-FQDN poll name to generate Kerberos IV tickets) might
794 also break; the old behavior was sufficiently murky that we can't be
795 sure.  If you think this has happened to you, contact the maintainer.
796
797 <p><h3>If your file predates 3.9.5:</h3>
798
799 The `<code>remote</code>' keyword has been changed to `<code>folder</code>'.
800 If you try to use the old keyword, the parser will utter a warning.
801
802 <p><h3>If your file predates 3.9:</h3>
803
804 It could be because you're using a .fetchmailrc that's written in the
805 old popclient syntax without an explicit `<CODE>username</CODE>'
806 keyword leading the first user entry attached to a server entry.
807
808 This error can be triggered by having a user option such as `<CODE>keep</CODE>'
809 or `<CODE>fetchall</CODE>' before the first explicit username.  For
810 example, if you write
811
812 <p><pre>
813 poll openmail protocol pop3
814         keep user "Hal DeVore" there is hdevore here
815 </pre>
816
817 the `<CODE>keep</CODE>' option will generate an entire user entry with
818 the default username (the name of fetchmail's invoking user).
819
820 <p>The popclient compatibility syntax was removed in 4.0.  It complicated
821 the configuration file grammar and confused users.
822
823 <p><h3>If your file predates 2.8:</h3>
824
825 The `<CODE>interface</CODE>', `<CODE>monitor</CODE>' and
826 `<CODE>batchlimit</CODE>' options changed after 2.8.
827
828 <p>They used to be global options with `<CODE>set</CODE>' syntax like the
829 batchlimit and logfile options.  Now they're per-server options, like
830 `<CODE>protocol</CODE>'.
831
832 <p>If you had something like
833
834 <p><pre>
835         set interface = "sl0/10.0.2.15"
836 </pre>
837
838 in your .fetchmailrc file, simply delete that line and insert 
839 `interface sl0/10.0.2.15' in the server options part of your `defaults'
840 declaration.
841
842 <p>Do similarly for any `<CODE>monitor</CODE>' or `<CODE>batchlimit</CODE>' options.
843
844 <hr>
845 <h2><a name="F2">F2. The .fetchmailrc parser won't accept my all-numeric user name.</a></h2>
846
847 Either upgrade to a post-5.0.5 fetchmail or put string quotes around it. :-)
848
849 <p>The configuration file parser in older fetchmail versions treated any
850 all-numeric token as a number, which confused it when it was
851 expecting a name.  String quoting forces the token's class.
852
853 <p>The lexical analyzer in 5.0.6 and beyond is smarter and assumes
854 any token following "username" or "password" is a string.
855
856 <hr>
857 <h2><a name="F3">F3. The .fetchmailrc parser won't accept my host or username beginning with `no'.</a></h2>
858
859 See <a href="#F2">F2</a> You're caught in an unfortunate crack between
860 the newer-style syntax for negated options (`no keep', `no rewrite'
861 etc.) and the older style run-on syntax (`nokeep', `norewrite'
862 etc.).
863
864 <p>Upgrade to a 5.0.6 or later fetchmail, or put string quotes around your
865 token.
866
867 <hr>
868 <h2><a name="F4">F4. I'm getting a `parse error' message I don't understand.</a></h2>
869
870 The most common cause of mysterious parse errors is putting a server
871 option after a user option.  Check the manual page; you'll probably
872 find that by moving one or more options closer to the `poll' keyword
873 you can eliminate the problem.
874
875 <p>Yes, I know these ordering restrictions are hard to understand.
876 Unfortunately, they're necessary in order to allow the `defaults' 
877 feature to work.
878
879 <hr>
880 <h2><a name="C1">C1. Why do I need a .fetchmailrc when running as root on my own machine?</a></h2>
881
882 Ian T. Zimmerman &lt;itz@rahul.net&gt; asked:
883
884 <p>On the machine where I'm the only real user, I run fetchmail as root
885 from a cron job, like this:
886
887 <p><pre>
888     fetchmail -u "itz" -p POP3 -s bolero.rahul.net
889 </pre>
890
891 This used to work as is (with no .fetchmailrc file in root's home
892 directory) with the last version I had (1.7 or 1.8, I don't
893 remember).  But with 2.0, it RECPs all mail to the local root user,
894 unless I create a .fetchmailrc in root's home directory containing:
895
896 <p><pre>
897      skip bolero.rahul.net proto POP3
898           user itz is itz
899 </pre>
900
901 It won't work if the second line is just "<CODE>user itz</CODE>".  This is silly.
902
903 <p>It seems fetchmail decides to RECP the `default local user' (i.e. the
904 uid running fetchmail) unless there are local aliases, and the
905 `default' aliases (itz-&gt;itz) don't count.  They should.
906
907 <p>Answer:
908
909 <p>No they shouldn't.   I thought about this for a while, and I don't much
910 like the conclusion I reached, but it's unavoidable.  The problem is
911 that fetchmail has no way to know, in general, that a local user `itz'
912 actually exists.
913
914 <p>"Ah!" you say, "Why doesn't it check the password file to see if the remote
915 name matches a local one?"  Well, there are two reasons.
916
917 <p>One: it's not always possible.  Suppose you have an SMTP host declared
918 that's not the machine fetchmail is running on?  You lose.
919
920 <p>Two: How do you know server itz and SMTP-host itz are the same person?
921 They might not be, and fetchmail shouldn't assume they are unless
922 local-itz can explicitly produce credentials to prove it (that is, the
923 server-itz password in local-itz's .fetchmailrc file.).
924
925 <p>Once you start running down possible failure modes and thinking about
926 ways to tinker with the mapping rules, you'll quickly find that all the
927 alternatives to the present default are worse or unacceptably
928 more complicated or both.
929
930 <hr>
931 <h2><a name="C2">C2. How can I arrange for a fetchmail daemon to get killed when I log out?</a></h2>
932
933 The easiest way to dispatch fetchmail on logout (which will work
934 reliably only if you have just one login going at any time) is to
935 arrange for the command `fetchmail -q' to be called on logout.  Under
936 bash, you can arrange this by putting `fetchmail -q' in the file
937 `~/.bash_logout'.  Most csh variants execute `~/.logout' on logout.
938 For other shells, consult your shell manual page.
939
940 <p>Automatic startup/shutdown of fetchmail is a little harder to arrange
941 if you may have multiple login sessions going.  In the contrib
942 subdirectory of the fetchmail distribution there is some shell code
943 you can add to your .bash_login and .bash_logout profiles that will
944 accomplish this.  Thank James Laferriere &lt;babydr@nwrain.net&gt; for
945 it.
946
947 <p>Some people start up and shut down fetchmail using the ppp-up and
948 ppp-down scripts of pppd.
949
950 <hr>
951 <h2><a name="C3">C3. How do I know what interface and address to use with --interface?</a></h2>
952
953 This depends a lot on your local networking configuration (and right
954 now you can't use it at all except under Linux and the newer BSDs).  However,
955 here are some important rules of thumb that can help.  If they don't
956 work, ask your local sysop or your Internet provider.
957
958 <p>First, you may not need to use --interface at all.  If your machine
959 only ever does SLIP or PPP to one provider, it's almost certainly by a
960 point to point modem connection to your provider's local subnet that's
961 pretty secure against snooping (unless someone can tap your phone or
962 the provider's local subnet!).  Under these circumstances, specifying
963 an interface address is fairly pointless.
964
965 <p>What the option is really for is sites that use more than one
966 provider.  Under these circumstances, typically one of your provider
967 IP addresses is your mailserver (reachable fairly securely via the
968 modem and provider's subnet) but the others might ship your packets
969 (including your password) over unknown portions of the general
970 Internet that could be vulnerable to snooping.  What you'll use
971 --interface for is to make sure your password only goes over the 
972 one secure link.
973
974 <p>To determine the device:
975
976 <p><ol>
977 <li> If you're using a SLIP link, the correct device is probably sl0.
978 <li> If you're using a PPP link, the correct device is probably ppp0.  
979 <li> If you're using a direct connection over a local network such as
980      an ethernet, use the command `netstat -r' to look at your routing table. 
981      Try to match your mailserver name to a destination entry; if you don't
982      see it in the first column, use the `default' entry.  The device name
983      will be in the rightmost column.
984 </ol>
985
986 To determine the address and netmask:
987
988 <p><ol>
989 <li> If you're talking to slirp, the correct address is probably 10.0.2.15,
990      with no netmask specified.  (It's possible to configure slirp to present
991      other addresses, but that's the default.)
992
993 <li> If you have a static IP address, run `ifconfig &lt;device&gt;', where &lt;device&gt;
994      is whichever one you've determined.  Use the IP address given after
995      "inet addr:".  That is the IP address for your end of the link, and is
996      what you need.  You won't need to specify a netmask.
997
998 <li> If you have a dynamic IP address, your connection IP will vary randomly
999      over some given range (that is, some number of the least significant bits
1000      change from connection to connection).  You need to declare an address 
1001      with the variable bits zero and a complementary netmask that sets
1002      the range.
1003 </ol>
1004
1005 To illustrate the rule for dynamic IP addresses, let's suppose you're
1006 hooked up via SLIP and your IP provider tells you that the dynamic
1007 address pool is 255 addresses ranging from 205.164.136.1 to
1008 205.164.136.255.  Then
1009
1010 <p><pre>
1011         interface "sl0/205.164.136.0/255.255.255.0"
1012 </pre>
1013
1014 would work.  To range over any value of the last two octets
1015 (65536 addresses) you would use
1016
1017 <p><pre>
1018         interface "sl0/205.164.0.0/255.255.0.0"
1019 </pre>
1020
1021 <hr>
1022 <h2><a name="C4">C4. How can I set up support for sendmail's anti-spam features?</a></h2>
1023
1024 This answer covers versions of sendmail from 8.9.3-20 (the version
1025 installed in Red Hat 6.2) upwards.  If you have an older version,
1026 upgrade to sendmail 8.9.
1027
1028 <p>Stock sendmails can now do anti-spam exclusions based on a database of
1029 filter rules.  The human-readable form of the database is at
1030 <tt>/etc/mail/access</tt>. The database itself is at
1031 <tt>/etc/mail/access.db</tt>.
1032
1033 <p>The table itself uses email addresses, domain names, and network
1034 numbers as keys.  For example,</P>
1035 <pre>
1036 spammer@aol.com         REJECT
1037 cyberspammer.com        REJECT
1038 192.168.212             REJECT
1039 </pre>
1040 <p>would refuse mail from spammer@aol.com, any user from
1041 cyberspammer.com (or any host within the cyberspammer.com domain), and
1042 any host on the 192.168.212.* network.  (This feature can be used to
1043 do other things as well; see the <a
1044 href="http://www.sendmail.org/m4/anti-spam.html">sendmail
1045 documentation</a> for details)</P>
1046
1047 To actually set up the database, run 
1048
1049 <pre>
1050 makemap hash deny &lt;deny
1051 </pre>
1052 in /etc/mail.
1053
1054 <p>To test, send a message to your mailing address from that host and
1055 then pop off the message with fetchmail, using the -v argument.  You
1056 can monitor the SMTP transaction, and when the FROM address is parsed,
1057 if sendmail sees that it is an address in spamlist, fetchmail will
1058 flush and delete it.
1059
1060 <p>Under no circumstances put your <strong>mailhost</strong> or <strong>any host
1061 you accept mail from</strong> using fetchmail into your reject file.  You
1062 <strong>will</strong> lose mail if you do this!!!
1063
1064 <hr>
1065 <h2><a name="C5">C5. How can I poll some of my mailboxes more/less
1066 often than others?</a></h2>
1067
1068 Use the <cite>interval</cite> keyword on the ones that should be
1069 checked less often.  For example, if you do a poll every 5 minutes,
1070 and want to poll some mailboxes every 5 minutes and some every 30
1071 minutes, use something like this:
1072
1073 <p><pre>
1074 poll mainsite.example.com  proto pop3 user ....
1075 poll secondary.example.com proto pop3 interval 6 user ...
1076 </pre>
1077
1078 Then secondary.example.com will be polled every 6th time that
1079 mainsite.example.com is polled, which with a polling interval of every
1080 5 minutes means that secondary.example.com will be polled every 30
1081 minutes.
1082
1083 <hr>
1084 <h2><a name="C6">Fetchmail works OK started up manually, but not from an init script.</a></h2>
1085
1086 Often, startup scripts have a different environment than an interactive
1087 login shell.  For instance, $HOME might point to "/root" when you are
1088 logged in as root, but it might be either unset, or set to "/" when the
1089 startup scripts are running.  That means fetchmail at startup can't find
1090 the .fetchmailrc.
1091
1092 <p>Pick a location (such as /etc/fetchmailrc) and use fetchmail's -f
1093 option to point fetchmail at it.  That should solve the problem.
1094
1095 <hr>
1096 <h2><a name="C7">C7. How can I forward mail to another host?</a></h2>
1097
1098 To forward mail to a host other than the one you are running fetchmail
1099 on, use the <code>smtphost</code> or <code>smtpname</code> option.
1100 See the manual page for details.
1101
1102 <hr>
1103 <h2><a name="T1">T1. How can I use fetchmail with sendmail?</a></h2>
1104
1105 For most sendmails, no special configuration is required.  Eric Allman
1106 tells me that if <code>FEATURE(always_add_domain)</code> is included
1107 in sendmail's configuration, you can leave the <code>rewrite</code>
1108 option off.
1109
1110 <p>If your sendmail complains ``sendmail does not relay'',  make sure
1111 your sendmail.cf file says <code>Cwlocalhost</code>
1112 so that sendmail recognizes `localhost' as a name of its host.
1113
1114 <p>If you're mailing from another machine on your local network, also
1115 ensure that its IP address is listed in ip_allow or name in name_allow
1116 (usually in /etc/mail/)
1117
1118 <p>If you find that your sendmail doesn't like the address 
1119 `FETCHMAIL-DAEMON@localhost' (which is used in the bouncemail
1120 that fetchmail generates), you may have to set 
1121 <code>FEATURE(accept_unqualified_senders)</code>.
1122
1123 <p>G&uuml;nther Leber reports that Digital Unix sendmails won't work with
1124 fetchmail.  The symptom is an error message "<code>553 Local configuration
1125 error, hostname not recognized as local</code>". The problem is that
1126 fetchmail normally feeds sendmail with the client machine's host
1127 address in the MAIL FROM line.  These sendmails think this means
1128 they're seeing the result of a mail loop and suppress the mail.  You
1129 may be able to work around this by running in <code>--invisible</code> mode.
1130
1131 <p>If you want to support multidrop mode, and you can get access to your 
1132 mailserver's sendmail.cf file, it's a good idea to add this rule:
1133
1134 <p><pre>
1135 H?l?Delivered-To: $h
1136 </pre>
1137
1138 This will cause the mailserver's sendmail to reliably write the 
1139 appropriate envelope address into each message before fetchmail sees 
1140 it, and tell fetchmail which header it is.&nbsp; With this change, 
1141 multidrop mode should work reliably even when the Received header 
1142 omits the envelope address (which will typically be the case when 
1143 the message has multiple recipients).&nbsp; However it will still not
1144 distinguish the recipients, your only advantage is that no bounce
1145 will be sent if a message is BCC addressed to multiple users at 
1146 your site.&nbsp; To fix even that problem, you might want to try the 
1147 following hack, which is however untested and quite experimental:
1148
1149 <p><pre>
1150 H?J?Delivered-To: $u
1151
1152 Mmdrop, P=/usr/bin/procmail, F=lsDFMqSPfhnu9J, 
1153         S=EnvFromSMTP/HdrFromSMTP, R=EnvToSMTP/HdrToSMTP,
1154         T=DNS/RFC822/X-Unix,
1155         A=procmail -Y -a $u -d $h
1156 </pre>
1157
1158 For both hacks, you have to declare `<CODE>envelope "Delivered-To:"</CODE>' on
1159 the fetchmail side, to put the virtual domain (e.g. `domain.com') 
1160 with RELAY permission into your access file and to add a line 
1161 reading `<CODE>domain.com local:local-pop-user</CODE>' for the first and 
1162 `<CODE>domain.com mdrop:local-pop-user</CODE>' for the second hack to your 
1163 mailertable.
1164
1165 <p>You will notice that if the mail already has a Delivered-To header, 
1166 sendmail will not add another.&nbsp; Further, editing sendmail.cf 
1167 directly is not very comfortable.&nbsp; Solutions for both problems
1168 can be found in Peter `Rattacresh' Backes' `hybrid' patch against 
1169 sendmail.&nbsp; Have a look at it, you can find it in the contrib 
1170 subdirectory.
1171
1172 <p>Feel free to try Martijn Lievaart's detailed recipe in the contrib 
1173 subdirectory of the fetchmail source distribution, it attempts
1174 to realize multidrop mailboxes with an external script.
1175
1176 <hr>
1177 <h2><a name="T2">T2. How can I use fetchmail with qmail?</a></h2>
1178
1179 Turn on the <CODE>forcecr</CODE> option; qmail's listener mode doesn't like 
1180 header or message lines terminated with bare linefeeds.
1181
1182 <p>(This information is thanks to Robert de Bath 
1183 &lt;robert@mayday.cix.co.uk&gt;.)
1184
1185 <p>If a mailhost is using the qmail package (see <a
1186 href="http://pobox.com/~djb/qmail.html">http://pobox.com/~djb/qmail.html</a>)
1187 then, providing the local hosts are also using qmail, it is possible
1188 to set up one fetchmail link to be reliably collect the mail for an
1189 entire domain.
1190
1191 <p>One of the basic features of qmail is the `Delivered-To:' message
1192 header.  Whenever qmail delivers a message to a local mailbox it puts
1193 the username and hostname of the envelope recipient on this line.  The
1194 major reason for this is to prevent mail loops. 
1195
1196 <p>To set up qmail to batch mail for a disconnected site the ISP-mailhost
1197 will have normally put that site in its `virtualhosts' control file so
1198 it will add a prefix to all mail addresses for this site. This results
1199 in mail sent to 'username@userhost.userdom.dom.com' having a
1200 'Delivered-To:' line of the form:
1201
1202 <p><pre>
1203        Delivered-To: mbox-userstr-username@userhost.userdom.dom.com
1204 </pre>
1205
1206 A single host maildrop will be slightly simpler:
1207
1208 <pre>
1209        Delivered-To: mbox-userstr-username@userhost.dom.com
1210 </pre>
1211
1212 The ISP can make the 'mbox-userstr-' prefix anything they choose
1213 but a string matching the user host name is likely.
1214
1215 <p>To use this line you must:
1216
1217 <p><ol>
1218 <li>Ensure the option `envelope Delivered-To:' is in the fetchmail
1219     config file.
1220
1221 <li>Ensure you have a localdomains containing 'userdom.dom.com' or
1222     `userhost.dom.com' respectively.
1223 </ol>
1224
1225 So far this reliably delivers messages to the correct machine of the
1226 local network, to deliver to the correct user the 'mbox-userstr-'
1227 prefix must be stripped off of the user name. This can be done by
1228 setting up an alias within the qmail MTA on each local machine.
1229 Simply create a dot-qmail file called '.qmail-mbox-userstr-default'
1230 in the alias directory (normally /var/qmail/alias) with the contents:
1231
1232 <p><pre>
1233       | ../bin/qmail-inject -a -f"$SENDER" "${LOCAL#mbox-userstr-}@$HOST"
1234 </pre>
1235
1236 Note this <em>does</em> require a modern /bin/sh.
1237
1238 <p>Peter Wilson adds: 
1239
1240 <p>``My ISP uses "alias-unzzippedcom-" as the prefix, which means that I
1241 need to name my file ".qmail-unzzippedcom-default". This is due to
1242 qmail's assumption that a message sent to user-xyz is handled by the
1243 file ~user/.qmail-xyz (or ~user/.qmail-default).''
1244
1245 <p>Luca Olivetti adds:
1246
1247 <p>If you aren't using qmail locally, or you don't want to set up the
1248 alias mechanism described above, you can use the option `<code>qvirtual
1249 "mbox-userstr-"</code>' in your fetchmail config file to strip the prefix
1250 from the local user name.
1251
1252 <hr>
1253 <h2><a name="T3">T3. How can I use fetchmail with exim?</a></h2>
1254
1255 <p>If you have <CODE>rewrite</CODE> on: 
1256
1257 <p>There is an RFC1123 requirement that MAIL FROM and RCPT TO addresses
1258 you pass to it have to be canonical (e.g. with a fully qualified
1259 hostname part).  Therefore fetchmail tries to pass fully qualified
1260 RCPT TO addresses.  But exim does not by default accept `localhost' as
1261 a fully qualified domain.  This can be fixed.
1262
1263 <p>In exim.conf, add `localhost' to your local_domains declaration if it's not
1264 already present.  For example, the author's site at thyrsus.com would
1265 have a line reading:
1266
1267 <p><pre>
1268        local_domains = thyrsus.com:localhost
1269 </pre>
1270
1271 If you have <CODE>rewrite</CODE> off:
1272
1273 <p>MAIL FROM is a potential problem if the MTAs upstream from your fetchmail
1274 don't necessarily pass canonicalized From and Return-Path addresses,
1275 and fetchmail's <CODE>rewrite</CODE> option is off.  The specific case
1276 where this has come up involves bounce messages generated by sendmail
1277 on your mailer host, which have the (un-canonicalized) origin address
1278 MAILER-DAEMON.
1279
1280 <p>The right way to fix this is to enable the <CODE>rewrite</CODE> option and
1281 have fetchmail canonicalize From and Return-Path addresses with the
1282 mailserver hostname before exim sees them.  This option is enabled by
1283 default, so it won't be off unless you turned it off.
1284
1285 <p>If you must run with <CODE>rewrite</CODE> off, there is a switch in exim's
1286 configuration files that allows it to accept domainless MAIL FROM
1287 addresses; you will have to flip it by putting the line 
1288
1289 <p><pre>
1290         sender_unqualified_hosts = localhost
1291 </pre>
1292
1293 in the main section of the exim configuration file.  Note that this
1294 will result in such messages having an incorrect domain name attached
1295 to their return address (your SMTP listener's hostname rather than
1296 that of the remote mail server). 
1297
1298 <hr>
1299 <h2><a name="T4">T4. How can I use fetchmail with smail?</a></h2>
1300
1301 <p>Smail 3.2 is very nearly plug-compatible with sendmail, and may work
1302 fine out of the box.
1303
1304 <p>We have one report that when processing multiple messages from a
1305 single fetchmail session, smail sometimes delivers them in an
1306 order other than received-date order.  This can be annoying because it
1307 scrambles conversational threads.  This is not fetchmail's problem,
1308 it is an smail `feature' and has been reported to the maintainers
1309 as a bug.
1310
1311 <p>Very recent smail versions require an <code>-smtp_hello_verify</code>
1312 option in the smail config file.  This overrides smail's check to see
1313 that the HELO address is actually that of the client machine, which
1314 is never going to be the case when fetchmail is in the picture.
1315 According to RFC1123 an SMTP listener <em>must</em> allow this
1316 mismatch, so smail's new behavior (introduced sometime between
1317 3.2.0.90 and 3.2.0.95) is a bug.
1318
1319 <hr>
1320 <h2><a name="T5">T5. How can I use fetchmail with SCO's MMDF?</a></h2>
1321
1322 <p>MMDF itself is difficult to configure, but it turns out that
1323 connecting fetchmail to MMDF's SMTP channel isn't that hard.
1324 You can read an <a
1325 href="http://www.aplawrence.com/Unixart/uucptofetch.html">
1326 MMDF recipe</a> that describes replacing a UUCP link with
1327 fetchmail feeding MMDF.
1328
1329 <hr>
1330 <h2><a name="T6">T6. How can I use fetchmail with Lotus Notes?</a></h2>
1331
1332 <p>The Lotus Notes SMTP gateway tries to deduce when it should convert \n
1333 to \r\n, but its rules are not the intuitive and correct-for-RFC822
1334 ones.  Use `forcecr'.
1335
1336 <hr>
1337 <h2><a name="S1">S1. How can I use fetchmail with qpopper?</a></h2>
1338
1339 Qualcomm's qpopper is probably the best-of-breed among POP3 servers, and
1340 is very widely deployed.  Nevertheless, it has some problems which
1341 fetchmail exposes.  We recommend using <a href="#G7">IMAP</a> instead if at
1342 all possible.  If you must talk to qpopper, here are some problems to
1343 be aware of:
1344
1345 <p><h3>Problems with retrieving large messages from qpopper 2.53</h3>
1346
1347 Tony Tang <a href="mailto:tony@atn.com.hk">&lt;tony@atn.com.hk&gt;</a>
1348 reports that there is a bad intercation between fetchmail and qpopper
1349 2.5.3 under Red Hat Linux versions 5.0 to 5.2, kernels 2.0.34 to
1350 2.0.35.  When fetching very large messages (over 700K) from 2.5.3,
1351 fetchmail will hang with a socket error.
1352
1353 <p>This is probably not a fetchmail bug, but rather a symptom of some
1354 problem in the networking stack that qpopper's transmission pattern is
1355 tickling, as fetchpop (another Linux POP client) also displays the hang
1356 but Netscape running under Win95 does not.  The problem can also be
1357 banished by <a
1358 href="http://www.eudora.com/freeware/qpop.html">upgrading to qpopper
1359 3.0b1</a>.
1360
1361 <p><h3>Bad interaction with fetchmail 4.4.2 to 4.4.7</h3>
1362
1363 Versions of fetchmail from 4.4.2 through 4.4.7 had a bad interaction 
1364 with Eudora qpopper versions 2.3 and later.  See <a href="#X5">X5</a>
1365 for details.  The solution is to upgrade your fetchmail.
1366
1367 <hr>
1368 <h2><a name="S2">S2. How can I use fetchmail with Microsoft Exchange?</a></h2>
1369
1370 <p>It's been reliably reported that Exchange 2000's POP3 support is so
1371 broken that it's unusable.  One symptom is that messages without 
1372 a terminating newline get the POP3 message termination dot emitted -- 
1373 you guessed it -- right after the last character of the message, with
1374 no terminating newline added.  This will hang fetchmail or any other
1375 RFC-compliant server.  IMAP is alleged to work OK, though.
1376
1377 <p>Older versions of Exchange are semi-usable.
1378
1379 <p>Fetchmail using IMAP supports the proprietary NTLM mode used with
1380 M$ Exchange servers. To enable this, configure fetchmail with the
1381 --enable-NTLM option and recompile it.  Specify a user option value
1382 that looks like `user@domain': the part to the left of the @ will
1383 be passed as the username and the part to the right as the NTLM domain.
1384
1385 <p>M$ Exchange violates the POP3 and IMAP RFCs.  Its LIST command does
1386 not reveal the real sizes of mail in the pop mailbox, but the sizes of
1387 the compressed versions in the exchange mail database (thanks to Arjan
1388 De Vet and Guido Van Rooij for alerting us to this problem).
1389
1390 <p>Fetchmail works with M$ Exchange, despite this brain damage.  Two
1391 features are compromised.  One is that the --limit option will not
1392 work right (it will check against compressed and not actual sizes).
1393 The other is that a too-small SIZE argument may be passed to your
1394 ESMTP listener, assuming you're using one (this should not be a
1395 problem unless the actual size of the message is above the listener's
1396 configured length limit).
1397
1398 <p>Somewhat belatedly, I've learned that there's supposed to be a
1399 registry bit that can fix this breakage:
1400
1401 <p><pre>
1402 HKEY_LOCAL_MACHINE\System\CurrentControlSet\Services\MsExchangeIs\Parameters
1403 System\Pop3 Compatibility
1404 </pre>
1405
1406 This is a bitmask that controls the variations from the standard protocol.
1407 The bits defined are:
1408
1409 <p><DL>
1410 <DT>0x00000001:
1411 <DD>Report exact message sizes for the LIST command
1412 <DT>0x00000002:
1413 <DD>Allow arbitrary linear whitespace between commands and arguments
1414 <DT>0x00000004:
1415 <DD>Enable the LAST command
1416 <DT>0x00000008:
1417 <DD>Allow an empty PASS command (needed for users with blank
1418 passwords, but illegal in the protocol)
1419 <DT>0x00000010:
1420 <DD>Relax the length restrictions for arguments to commands (protocol
1421 requires 40, but some user names may be longer than that).
1422 <DT>0x00000020:
1423 <DD>Allow spaces in the argument to the USER command.
1424 </DL>
1425
1426 There's another one that may be useful to know about:
1427
1428 <p><pre>
1429 KEY_LOCAL_MACHINE\System\CurrentControlSet\Services\MsExchangeIs\Parameters
1430 System\Pop3 Performance
1431 </pre>
1432
1433 <DL>
1434 <DT>0x00000001:
1435 <DD>Render messages to a temporary stream instead of sending directly
1436 from the database (should always be on)
1437 <DT>0x00000002:
1438 Flag unrenderable messages (instead of just failing commands)
1439 (should only be on if you are seeing the problems reported
1440 in KB Q168109)
1441 <DT>0x00000004:
1442 <DD>Return from the QUIT command before all messages have been deleted.
1443 </DL>
1444
1445 The Microsoft pod-person who revealed this information to me admitted
1446 that he couldn't find it anywhere in their public knowledge base.
1447
1448 <p>Another specific problem we have seen with Exchange servers has as its
1449 symptom a response to LOGIN that says "NO Ambiguous Alias".  Grant
1450 Edwards writes:
1451
1452 This means that Exchange Server is too f*&#ing stupid to figure
1453 out which mailbox belongs to you.  Instead of actually keeping
1454 track of which inbox belongs to which user, it uses some
1455 half-witted, guess-o-matic heuristic to try to guess your
1456 mailbox name from your username.
1457
1458 <p>In your case it doesn't work because your username maps to more
1459 than one mailbox.  For some people it doesn't work because
1460 their username maps to zero mailboxes.  This is yet another
1461 inept, lame, almost criminally negligent design decision from
1462 our friends in Redmond.
1463
1464 <p>You've got several options:
1465
1466 <ul>
1467 <li>
1468 Get your administrator to configure the server so that
1469 usernames and mailbox names are the same.
1470 <li>
1471 Get your administrator to add an alias that maps your
1472 username explicitly to your mailbox name.
1473 </ul>
1474
1475 <p>But, the best option involves a tactical nuclear weapon (an old
1476 ASROC will do), pissing off a lot people who live downwind from
1477 Redmond, and your choice of any Linux, NetBSD, FreeBSD, or
1478 Solaris CD.
1479
1480 <p>I'll provide the CD.
1481
1482 <hr>
1483 <h2><a name="S3">S3. How can I use fetchmail with CompuServe RPA?</a></h2>
1484
1485 First, make sure your fetchmail has the RPA support compiled in.
1486 Stock fetchmail binaries (such as you might get from an RPM) don't.
1487 You can check this by looking at the output of <code>fetchmail -V</code>;
1488 if you see the string "+RPA" after the version ID you're good to go,
1489 otherwise you'll have to build your own from sources (see the INSTALL
1490 file in the source distribution for directions).<p>  
1491
1492 Give your CompuServe pass-phrase in lower case as your password.  Add
1493 `@compuserve.com' to your user ID so that it looks like `user
1494 &lt;UserID&gt;@compuserve.com', where &lt;UserID&gt; can be either
1495 your numerical userID or your E-mail nickname. An RPA-enabled
1496 fetchmail will automatically check for csi.com in the POP server's
1497 greeting line.  If that's found, and your user ID ends with
1498 `@compuserve.com', it will query the server to see if it
1499 is RPA-capable, and if so do an RPA transaction rather than a
1500 plain-text password handshake.
1501
1502 <p><strong>Warning:</strong> the debug (-v -v) output of fetchmail will show
1503 your pass-phrase in Unicode!
1504
1505 <p>These two .fetchmailrc entries show the difference between an RPA and
1506 non-RPA configuration:
1507
1508 <pre>
1509 # This version will use RPA
1510 poll csi.com via "pop.site1.csi.com" with proto POP3 and options no dns
1511     user "CSERVE_USER@compuserve.com" there with password "CSERVE_PASSWORD"
1512         is LOCAL_USER here options fetchall stripcr
1513
1514 # This version will not use RPA
1515 poll non-rpa.csi.com via "pop.site1.csi.com" with proto POP3 and options no dns
1516     user "CSERVE_USER" there with password "CSERVE_POP3_PASSWORD"
1517        is LOCAL_USER here options fetchall stripcr
1518 </pre>
1519
1520 <hr>
1521 <h2><a name="S4">S4. How can I use fetchmail with Demon Internet's SDPS?</a></h2>
1522
1523 <h3>Single-drop mode</h3>
1524
1525 You can get fetchmail to download the email for just one user from
1526 Demon Internet's POP3 server by giving it a username consisting of your
1527 Demon user name followed by your account name, with an at-sign between
1528 them.
1529
1530 <p>For example, to download email for the user &lt;philh@vision25.demon.co.uk&gt;,
1531 you could use the following .fetchmailrc file:
1532
1533 <p><pre>
1534 set postmaster "philh"
1535 poll pop3.demon.co.uk with protocol POP3:
1536     user "philh@vision25" is philh
1537 </pre>
1538
1539 <h3>Multi-drop mode</h3>
1540
1541 Demon Internet's SDPS service is an implementation of POP3. All messages
1542 have a Received: header added when they enter the maildrop, like this:
1543
1544 <pre>
1545    Received: from punt-1.mail.demon.net by mailstore for fred@xyz.demon.co.uk
1546              id 899963657:10:27896:0; Thu, 09 Jul 98 05:54:17 GMT
1547 </pre>
1548
1549 To enable multi-drop mode you need to tell fetchmail that 'mailstore' is
1550 the name of the host which accepted the mail, and let it know the
1551 hostname part(s) of your E-mail address. The following example assumes
1552 that your hostname is xyz.demon.co.uk, and that you have also bought
1553 "mail forwarding" for the domain my-company.co.uk (in which case your
1554 MTA must also be configured to accept mail sent to user@my-company.co.uk)
1555
1556 <pre>
1557      poll pop3.demon.co.uk proto pop3 aka mailstore no dns:
1558        localdomains xyz.demon.co.uk my-company.co.uk
1559        user xyz is * fetchall
1560 </pre>
1561
1562 The `fetchall' command ensures that all mail is downloaded. If you
1563 want to leave mail on the server use `uidl' and `keep'; Demon does not
1564 implement the obsolete `top' command, because SDPS combines messages
1565 residing on two separate punt clusters into a single POP3 maildrop.
1566 If you do use UIDL, be aware that the "user@host" form for fetching
1567 mail from a particular Demon host will confuse fetchmail's UIDL code;
1568 use user+host.
1569
1570 <p>Note that Demon may delete mail on the server which is more than 30
1571 days old; see their <a
1572 href="http://www.demon.net/info/helpdesk/demon_products/mail/sdps-tech.shtml">
1573 POP3 page</a> for details.
1574
1575 <p><h3>The SDPS extension</h3>
1576
1577 There's a different way to do multidrop.  It's not necessary on Demon
1578 Internet, since fetchmail can parse Received addresses, but the person
1579 who implemented this didn't know that. It may be useful if Demon
1580 Internet ever changes mail transports.
1581
1582 <p>SDPS includes a non-standard extension for retrieving the envelope of a
1583 message (*ENV), which fetchmail optionally supports if compiled with the
1584 --enable-SDPS option. If you have it, the first line of the fetchmail -V
1585 response will include the string "+SDPS".
1586
1587 <p>Once you have SDPS compiled in, fetchmail in POP3 mode will
1588 automatically detect when it's talking to a Demon Internet host in
1589 multidrop mode, and use the *ENV extension to get an envelope To address.
1590
1591 <p>The autodetection works by looking at the hostname in the POP3
1592 greeting line; if you're accessing Demon Internet through a proxy it
1593 may fail. To force SDPS mode, pick "sdps" as your protocol.
1594
1595 <hr>
1596 <h2><a name="S5">S5. How can I use fetchmail with usa.net's servers?</a></h2>
1597
1598 Enable `<CODE>fetchall</CODE>'.  A user reports that the 2.2 version
1599 of USA.NET's POP server reports that you must use the
1600 `<CODE>fetchall</CODE>' option to make sure that all of the mail is
1601 retrieved, otherwise some may be left on the server.  This is almost
1602 certainly a server bug.
1603
1604 <p>The usa.net servers (at least in their 2.2 version, June 1998) don't
1605 handle the TOP command properly, either.  Regardless of the argument
1606 you give it, they retrieve only about 10 lines of the message.
1607 Fetchmail normally uses TOP for message retrieval in order to avoid
1608 marking messages seen, but `<CODE>fetchall</CODE>' forces it to use
1609 RETR instead.
1610
1611 <p>(Note: Other failure modes have been reported on usa.net's servers.
1612 They seem to be chronically flaky.  We recommend finding another
1613 provider.)
1614
1615 <hr>
1616 <h2><a name="S6">S6. How can I use fetchmail with HP OpenMail?</a></h2>
1617
1618 No special configuration is required, but OpenMail versions prior to
1619 6.0 have an annoying bug similar to the big one in <a
1620 href="#S2">Microsoft Exchange</a>.  The message sizes it gives in the
1621 LIST are rounded to the nearest 1024 bytes.  It also has a nasty habit
1622 of discarding headers it doesn't recognize, such as X- and Resent-
1623 headers.
1624
1625 <p>As with M$ Exchange, the only real fix for these problems is to get a
1626 POP (or preferably IMAP) server that isn't brain-dead. OpenMail's
1627 project manager claims these bugs have been fixed in 6.0.
1628
1629 <hr>
1630 <h2><a name="S7">S7. How can I use fetchmail with geocities POP3 servers?</a></h2>
1631
1632 Nathan Cutler reports that the the mail.geocities.com POP3 servers
1633 fail to include the first Received line of the message in the send to 
1634 fetchmail.  This can solve problems if your MUA interprets Received 
1635 continuations as body lines and doesn't parse any of the following
1636 headers.
1637
1638 <p>Workaround is to use "mda" keyword or "-mda" switch:
1639 <pre>
1640 mda "sed -e '1s/^\t/Received: /' | formail | /usr/bin/procmail -d &lt;user&gt;"
1641 </pre>
1642 Replace \t with exactly one tabulation character.
1643
1644 You should also consider using "fetchall" option because Geocities' servers
1645 sometimes think that the first 45 messages have already been read.
1646
1647 <p>Fix: Get an email provider that doesn't suck. The pop-up ads on
1648 Geocities are lame, you should boycott them anyway.
1649
1650 <hr>
1651 <h2><a name="S8">S8. How can I use fetchmail with Hotmail?</a></h2>
1652
1653 You can't, yet.  But <a
1654 href="http://hawkins.emu.id.au/gotmail/">gotmail</a>
1655 might be what you need.
1656
1657 <hr>
1658 <h2><a name="S9">S9. How can I use fetchmail with MSN?</a></h2>
1659
1660 You can't.  MSN uses something that looks like POP3, except the
1661 authentication part is nonstandard.  And of course they don't 
1662 document it, so nobody but their Windows clients can speak it.
1663
1664 <p>This is a customer lock-in tactic; we recommend boycotting MSN as the
1665 only appropriate response.
1666
1667 <p>As of 5.0.8, we have support for the client side of NTLM
1668 authentication.  It's possible this may enable fetchmail to talk to
1669 MSN; if so, somebody should report it so this FAQ can be corrected.
1670
1671 <hr>
1672 <h2><a name="S10">S10. How can I use fetchmail with SpryNet?</a></h2>
1673
1674 The SpryNet POP3 servers mark a message queried with TOP as seen.
1675 This means that if your connection drops in mid-message, it may end
1676 up invisibly stuck on your mail spool.  Use the <code>fetchall</code> 
1677 flag to ensure that it's recovered on the next cycle.
1678
1679 <hr>
1680 <h2><a name="S11">S11. How can I use fetchmail with FTGate?</a></h2>
1681
1682 The FTGate V2 server (and possibly older versions as well) has a weird
1683 bug.  It answers OK twice to a TOP request!  Use the
1684 <code>fetchall</code> option to force use of RETR and work around this
1685 bug.
1686
1687 <hr>
1688 <h2><a name="S12">S12. How can I use fetchmail with MailMax?</a></h2>
1689
1690 You can't.  At least not if you want to be able to see attachments.
1691 MailMax has a bug; it reports the message length with attachments 
1692 but doesn't download them on TOP or RETR.
1693
1694 <p>Also, we're told that TOP sometimes fails to retrieve the entire
1695 message even when enough lines have been specified. The MailMax
1696 developers have acknowledged this bug as of 4 May 2000, but there is
1697 no fix yet.  If you must use this server, force RETR with the
1698 <tt>fetchall</tt> option.
1699
1700 <hr>
1701 <h2><a name="S13">S13. How can I use fetchmail with Novell GroupWise?</a></h2>
1702
1703 The Novell GroupWise IMAP server would be better named GroupFoolish;
1704 it is (according to the designer of IMAP) unusably broken.  Among
1705 other things, it doesn't include a required content length in its
1706 BODY[TEXT] response.
1707
1708 <p>Fetchmail works around this problem, but we strongly recommend voting
1709 with your dollars for a server that isn't brain-dead.  If you stick
1710 with code as shoddy as GroupWise seems to be, you will probably pay
1711 for it with other problems.
1712
1713 <hr>
1714 <h2><a name="S14">S14. How can I use fetchmail with InterChange?</a></h2>
1715
1716 You can't.  At least not if you want to be able to see attachments.
1717 InterChange has a bug similar to the MailMax server; it reports the
1718 message length with attachments but doesn't download them on TOP or
1719 RETR. 
1720
1721 <p>On Jan 9 2001, the people at InfiniteMail sent me mail informing me that
1722 their new 3.61.08 release of InterChange fixes this problem.  I don't
1723 have any reports one way or the other yet.
1724
1725 <hr>
1726 <h2><a name="K1">K1. How can I use fetchmail with SOCKS?</a></h2>
1727
1728 Giuseppe Guerini added a --with-socks option that supports linking
1729 with socks library.  If you specify the value of this option as
1730 ``yes'', the configure script will try to find the Rconnect library
1731 and set the makefile up to link it.  You can also specify a directory
1732 containing the Rconnect library.
1733
1734 <p>Alan Schmitt has added a similar --with-socks5 option that may work
1735 better if you have a recent version of the SOCKS library.
1736
1737 <hr>
1738 <h2><a name="K2">K2. How can I use fetchmail with IPv6 and IPsec?</a></h2>
1739
1740 To use fetchmail with IPv6, you need a system that supports IPv6, the "Basic
1741 Socket Interface Extensions for IPv6" (RFC 2133).
1742 This currently means that you need to have a BSD/OS or NetBSD system with
1743 the NRL IPv6+IPsec software distribution or a Linux system with a 2.2 or
1744 later kernel and net-tools. It should not be hard to build fetchmail on
1745 other IPv6 implementations if you can port the inet6-apps kit.
1746
1747 <p>To use fetchmail with networking security (read: IPsec), you need a system that
1748 supports IPsec, the API described in the "Network Security API for Sockets"
1749 (draft-metz-net-security-api-01.txt), and the inet6-apps kit. This currently
1750 means that you need to have a BSD/OS or NetBSD system with the NRL IPv6+IPsec
1751 software distribution. A Linux IPsec implementation supporting this API will
1752 probably appear in the coming months.
1753
1754 <p>The NRL IPv6+IPsec software distribution can be obtained from: <a
1755 href="http://web.mit.edu/network/isakmp">http://web.mit.edu/network/isakmp</a>
1756
1757
1758 <p>The inet6-apps kit can be obtained from <a href="http://ftp.ps.pl/pub/linux/IPv6/inet6-apps/">http://ftp.ps.pl/pub/linux/IPv6/inet6-apps/</a>.
1759
1760 <p>More information on using IPv6 with Linux can be obtained from:
1761 <UL>
1762 <LI>
1763 <a href="http://www.bieringer.de/linux/IPv6/IPv6-HOWTO/IPv6-HOWTO.html">
1764 http://www.bieringer.de/linux/IPv6/IPv6-HOWTO/IPv6-HOWTO.html</a>
1765 <LI>
1766 <a href="http://www.ipv6.inner.net/ipv6">http://www.ipv6.inner.net/ipv6</a>
1767 (via IPv6)
1768 <LI>
1769 <a href="http://www.inner.net/ipv6">http://www.inner.net/ipv6</a> (via IPv4)
1770 </UL>
1771
1772 <hr>
1773 <h2><a name="K3">K3. How can I get fetchmail to work with ssh?</a></h2>
1774
1775 <p>Use the <tt>plugin</tt> option.  This is dead simple with IMAP:
1776
1777 <TT>
1778         plugin "ssh %h /usr/sbin/imapd"
1779 </TT>
1780
1781 <p>You may have to use a different absolute pathname, whatever the
1782 location of imapd on your mailserver is.  This option tells fetchmail
1783 that instead of opening a connection on the server's port 143 and
1784 doing standard IMAP authentication, fetchmail should ssh to the server
1785 and run imapd, using the more secure ssh authentication (as well as
1786 getting ssh's end-to-end encryption). Most IMAP daemons will detect
1787 that they've been called from the command line and assume the
1788 connection is peauthenticated.
1789
1790 <p>POP3 daemons aren't quite as smart.  They won't know they are 
1791 preauthenticated in this mode, so you'll actually have to ship your 
1792 password.  It will be under ssh encryption, though, so that shouldn't
1793 be a problem.
1794
1795 <hr>
1796 <h2><a name="K4">K4. What do I have to do to use the IMAP-GSS protocol?</a></h2>
1797
1798 Fetchmail can use RFC1731 GSSAPI authorization to safely identify you
1799 to your IMAP server, as long as you can share Kerberos V credentials
1800 with your mail host and you have a GSSAPI-capable IMAP server.
1801 UW-IMAP (available via FTP at <a
1802 href="ftp://ftp.cac.washington.edu/mail/">ftp.cac.washington.edu</a>)
1803 is the only one I'm aware of and the one I recommend anyway for other
1804 reasons. You'll need version 4.1-FINAL or greater though, and it has
1805 to have GSS support compiled in.
1806
1807 <p>Neither UW-IMAP nor fetchmail compile in support for GSS by default,
1808 since it requires libraries from the Kerberos V distribution
1809 (available via FTP at <a
1810 href="ftp://athena-dist.mit.edu/pub/ATHENA/kerberos">athena-dist.mit.edu</a>).
1811 If you have these, compiling in GSS support is simple: add a
1812 <pre>--with-gssapi=[/path/to/krb5/root]</pre> option to configure. For
1813 instance, I have all of my Kerberos V libraries installed under
1814 /usr/krb5 so I run <pre>configure --with-gssapi=/usr/krb5</pre>
1815
1816 <p>Setting up Kerberos V authentication is beyond the scope of this FAQ
1817 (you may find Jim Rome's paper <a
1818 href="http://www.ornl.gov/~jar/HowToKerb.html"> How to Kerberize your
1819 site</a> helpful), but you'll at least need to add a credential for
1820 imap/[mailhost] to the keytab of the mail server (IMAP doesn't just
1821 use the host key). Then you'll need to have your credentials ready on
1822 your machine (cf. kinit).
1823
1824 <p>After that things are very simple. Set your protocol to imap-gss in your
1825 .fetchmailrc, and omit the password, since imap-gss doesn't need one. You
1826 can specify a username if you want, but this is only useful if your mailbox
1827 belongs to a username different from your Kerberos principal. 
1828
1829 <p>Now you don't have to worry about your password appearing in cleartext in
1830 your .fetchmailrc, or across the network.
1831
1832 <hr>
1833 <h2><a name="K5">K5. How can I use fetchmail with SSL?</a></h2>
1834
1835 You'll need to have the <a href="http://www.openssl.org/">OpenSSL</a>
1836 libraries installed.  Configure with --with-ssl.  If you have the
1837 OpenSSL libraries installed in the default location (/usr/local/ssl)
1838 this will suffice.  If you have them installed in a non-default
1839 location, you'll need to specify it as an argument to --with-ssl after
1840 an equal sign.
1841
1842 <p>Fetchmail binaries built this way support <code>ssl</code>,
1843 <code>sslkey</code>, and <code>sslcert</code> options that control
1844 SSL encryption.  You will need to have an SSL-enabled mailserver
1845 to use these options.  See the manual page for details and some words
1846 of care on the limited security provided.
1847
1848 <p>If your open OpenSSL session dies with a message that complains "PRNG
1849 not seeded", update or improve your operating system.  This means that
1850 the OpenSSL library on your machine has been unable to locate a source
1851 of random bits from which to seed its random-number generator;
1852 normally these come from the <tt>/dev/urandom</tt>, and this message 
1853 probably means your OS doesn't have that device.<p>.  
1854
1855 An interactive program could seed the random number generator from 
1856 keystroke timings or some other form of user input.  Because fetchmail 
1857 is primarily designed to run forever as a background daemon, that option
1858 option is not available in this case.
1859
1860 <hr>
1861 <h2><a name="R1">R1. Fetchmail isn't working, and -v shows `SMTP connect failed' messages.</a></h2>
1862
1863 Fetchmail itself is probably working, but your SMTP port 25 listener
1864 is down or inaccessible.
1865
1866 <p>The first thing to check is if you can telnet to port 25 on your smtp
1867 host (which is normally `localhost' unless you've specified an smtp
1868 option in your .fetchmailrc or on the command line) and get a greeting
1869 line from the listener.  If the SMTP host is inaccessible or the listener
1870 is down, fix that first.
1871
1872 <p>In Red Hat Linux 6.9, SMTP is disabled by default.  To fix this,
1873 set "DAEMON=yes" in your /etc/sysconfig/sendmail file, then restart
1874 sendmail by running "/sbin/service sendmail restart".
1875
1876 <p>If the listener seems to be up when you test with telnet, the most
1877 benign and typical problem is that the listener had a momentary seizure
1878 due to resource exhaustion while fetchmail was polling it -- process
1879 table full or some other problem that stopped the listener process
1880 from forking.  If your SMTP host is not `localhost' or something else
1881 in /etc/hosts, the fetchmail glitch could also have been caused by
1882 transient nameserver failure. 
1883
1884 <p>Try running fetchmail -v again; if it succeeds, you had one of these
1885 kinds of transient glitch.  You can ignore these hiccups, because a
1886 future fetchmail run will get the mail through. 
1887
1888 <p>If the listener tests up, but you have chronic failures trying to
1889 connect to it anyway, your problem is more serious.  One way to work
1890 around chronic SMTP connect problems is to use --mda.  But this only
1891 attacks the symptom; you may have a DNS or TCP routing problem.  You
1892 should really try to figure out what's going on underneath before it
1893 bites you some other way. 
1894
1895 <p>We have one report (from toby@eskimo.com) that you can sometimes solve
1896 such problems by doing an <CODE>smtp</CODE> declaration with an IP
1897 address that your routing table maps to something other than the
1898 loopback device (he used ppp0).
1899
1900 <p>We also have a report that this error can be caused by having an
1901 /etc/hosts file that associates your client host name with more than
1902 one IP address.
1903
1904 <p>It's also possible that your DNS configuration isn't
1905 looking at <code>/etc/hosts</code> at all.  If you're using libc5,
1906 look at <code>/etc/resolv.conf</code>; it should say something like
1907
1908 <pre>
1909         order hosts,bind
1910 </pre>
1911
1912 so your <code>/etc/hosts</code> file is checked first.  If you're
1913 running GNU libc6, check your <code>/etc/nsswitch.conf</code> file.  Make
1914 sure it says something like
1915
1916 <pre>
1917         hosts:  files dns
1918 </pre>
1919
1920 again, in order to make sure <code>/etc/hosts</code> is seen first.
1921
1922 <p>If you have a hostname set for your machine, and this hostname does
1923 not appear in /etc/hosts, you will be able to telnet to port 25 and
1924 even send a mail with rcpt to: user@host-not-in-/etc/hosts, but
1925 fetchmail can't seem to get in touch with sendmail, no matter what you
1926 set smtpaddress to.
1927
1928 <p>We had another report from a Linux user of fetchmail 2.1 who solved his SMTP
1929 connection problem by removing the reference to -lresolv from his link
1930 line and relinking.  Apparently in some older Linux distributions the
1931 libc bind library version works better.
1932
1933 <p>As of 2.2, the configure script has been hacked so the bind library is
1934 linked only if it is actually needed.  So under Linux it won't be, and
1935 this particular cause should go away.
1936
1937 <hr>
1938 <h2><a name="R2">R2. When I try to configure an MDA, fetchmail doesn't work.</a></h2>
1939
1940 (I hear this one from people who have run into the blank-line problem in <a href="#X1">X1</a>.)
1941
1942 <p>Try sending yourself test mail and retrieving it using the
1943 command-line options `<CODE>-k -m cat</CODE>'.  This will dump exactly what
1944 fetchmail retrieves to standard output (plus the Received line
1945 fetchmail itself adds to the headers). 
1946
1947 <p>If the dump doesn't match what shows up in your mailbox when you
1948 configure an MDA, your MDA is mangling the message.  If it doesn't
1949 match what you sent, then fetchmail or something on the server is
1950 broken.
1951
1952 <hr>
1953 <h2><a name="R3">R3. Fetchmail dumps core when given an invalid rc file.</a></h2>
1954
1955 This is usually reported from AIX or Ultrix, but has even been known
1956 to happen on Linuxes without a recent version of <code>flex</code>
1957 installed.  The problem appears to be a result of building with an
1958 archaic version of lex.
1959
1960 <p>Workaround: fix the syntax of your .fetchmailrc file.
1961
1962 <p>Fix: build and install the latest version of <a
1963 href="ftp://prep.ai.mit.edu/~ftp/pub/gnu">flex</a> from the Free
1964 Software Foundation.  An FSF <a
1965 href="http://www.gnu.ai.mit.edu/order/ftp.html">mirror site</a>
1966 will help you get it faster.
1967
1968 <hr>
1969 <h2><a name="R4">R4. Fetchmail dumps core in -V mode, but operates normally otherwise.</a></h2>
1970
1971 We've had this reported to us under Linux using libc-5.4.17 and gcc-2.7.2.
1972 It does not occur with libc-5.3.12 or earlier versions.
1973
1974 <p>Workaround: link with GNU malloc rather than the stock C library malloc.
1975
1976 <p>We're told there is some problem with the malloc() code in that
1977 version which makes it fragile in the presence of multiple free()
1978 calls on the same pointer (the malloc arena gets corrupted).
1979 Unfortunately it appears from doing gdb traces that whatever free()
1980 calls producing the problem are being made by the C library itself, not the
1981 fetchmail code (they're all from within fclose, and not an fclose called
1982 directly by fetchmail, either).
1983
1984 <hr>
1985 <h2><a name="R5">R5. Running fetchmail in daemon mode doesn't work.</a><br></h2>
1986
1987 We have one report from a SunOS 4.1.4 user that trying to run
1988 fetchmail in detached daemon mode doesn't work, but that using the
1989 same options with -N (nodetach) is OK.  We have another report of
1990 similar behavior from one Linux user, but many other Linux users
1991 reportt no problem.
1992
1993 <p>If this happens, you have a specific portability problem with the code
1994 in daemon.c that detaches and backgrounds the daemon fetchmail.  The isolated
1995 Linux case has been chased down to a failure in dup(2) that may reflect a
1996 glibc bug.
1997
1998 <p>As a workaround, you can start fetchmail with -N and an ampersand
1999 to background it.  A Sun user recommends this:
2000
2001 <p><pre>
2002 (fetchmail --nodetach &lt;other params&gt; &amp;)
2003 </pre>
2004
2005 The extra pair of parens is significant --- it makes sure that the process
2006 detaches from the initial shell (one more shell is started and dies
2007 immediately, detaching fetchmail and making it child of PID 1).  This is
2008 important when you start fetchmail interactively and than quit
2009 interactive shell.  The line above makes sure fetchmail lives after
2010 that!
2011
2012 <hr>
2013 <h2><a name="R6">R6. Fetchmail hangs when used with pppd.</a></h2>
2014
2015 Your problem may be with pppd's `demand' option.  We have a report that
2016 fetchmail doesn't play well with it, but works with pppd if `demand'
2017 is turned off.  We have no idea why this is.
2018
2019 <hr>
2020 <h2><a name="R7">R7. Fetchmail randomly dies with socket errors.</a></h2>
2021
2022 Check the MTU value in your PPP interface reported by
2023 <code>/sbin/ifconfig</code>.  If it's over 600, change it in your PPP
2024 options file.  (<code>/etc/ppp/options</code> on my box).  Here are
2025 option values that work:
2026
2027 <p><pre>
2028   mtu 552
2029   mru 552
2030 </pre>
2031
2032 <p>Another circumstance that can trigger this is if you are polling a
2033 virtual-mail-server name that is round-robin connected to different
2034 actual servers, so you get different IP addresses on different poll
2035 cycles.  To work around this, change the poll name either to the real
2036 name of one of the servers in the ring or to a corresponding IP
2037 address.
2038
2039 <hr>
2040 <h2><a name="R8">R8. Fetchmail running as root stopped working after an OS upgrade</a></h2>
2041
2042 In RH 6.0, the HOME value in the boot-time root environment changed
2043 from /root to / as the result of a change in init.  Move your
2044 .fetchmailrc or use a -f option to explicitly point at the file.
2045 (Oddly, a similar problem has been reported from Debian systems.)
2046
2047 <hr>
2048 <h2><a name="R9">R9. Fetchmail is timing out after fetching certain
2049 messages but before deleting them</a></h2>
2050
2051 There's a TCP/IP stalling problem under Redhat 6.0 (and possibly other
2052 recent Linuxes) that can cause this symptom.  Brian Boutel writes:
2053
2054 <p><blockquote>
2055 TCP timestamps are turned on on my Linux boxes (I assume it's now the
2056 default). This uses 12 extra bytes per segment.
2057 When the tcp  connection starts, the other end agrees a MSS of 1460,
2058 and then fragments 1460 byte chunks into 1448 and 12, because
2059 is is not allowing for the timestamp.
2060
2061 <p>Then, for reasons I can't explain, it waits a long time (typically 2
2062 minutes) after the ack is sent before sending the next (fragmented)
2063 packet.  Turning off tcp timestamps avoids the fragmentation and
2064 restores normal behaviour.  To do this, [execute]
2065
2066 <p>echo 0 &gt; /proc/sys/net/ipv4/tcp_timestamps
2067
2068 <p>I'm still unclear about the details of why this is happening. At least
2069 [now] I am now getting good performance and no queue blocking.
2070 </blockquote>
2071
2072 <hr>
2073 <h2><a name="R10">R10. Fetchmail is timing out during message fetches</a></h2>
2074
2075 This is probably a general networking issue.  Sending a "RETR" command will
2076 cause the server to start sending large amounts of data, which means
2077 large packets.  If your networking layer has a packet-fragmentation
2078 problem, that's where you'll see it.
2079
2080 <hr>
2081 <h2><a name="D1">D1. I think I've set up fetchmail correctly, but I'm not getting any mail.</a></h2>
2082
2083 Maybe you have a .forward or alias set up that you've forgotten about.  You
2084 should probably remove it.
2085
2086 <p>Or maybe you're trying to run fetchmail in multidrop mode as root
2087 without a .fetchmailrc file.  This doesn't do what you think it
2088 should; see question <a href="#C1">C1</a>.
2089
2090 <p>Or you may not be connecting to the SMTP listener.   Run fetchmail -v
2091 and see <a href="#R1">R1</a>.
2092
2093 <hr>
2094 <h2><a name="R11">R11. Fetchmail is dying with SIGPIPE.</a></h2>
2095
2096 This probably means you have an <code>mda</code> option.  Your MDA is
2097 croaking while being passed a message.  Best fix is to remove the
2098 <code>mda</code> option and pass mail to your port 25 SMTP listener.
2099
2100 <hr>
2101 <h2><a name="D2">D2. All my mail seems to disappear after a dropped connection.</a></h2>
2102
2103 One POP3 daemon used in the Berkeley Unix world that reports itself as
2104 POP3 version 1.004 actually throws the queue away. 1.005 fixed that.
2105 If you're running this one, upgrade immediately.  (It also truncates
2106 long lines at column 1024)
2107
2108 <p>Many POP servers, if an interruption occurs, will restore the whole
2109 mail queue after about 10 minutes.  Others will restore it right
2110 away. If you have an interruption and don't see it right away, cross
2111 your fingers and wait ten minutes before retrying.
2112
2113 <p>Some servers (such as Microsoft's NTMail) are mis-designed to restore
2114 the entire queue, including messages you have deleted.  If you have
2115 one of these and it flakes out on you a lot, try setting a small
2116 <code>--fetchlimit</code> value.  This will result in more IP connects
2117 to the server, but will mean it actually executes changes to the queue
2118 more often.
2119
2120 <p>Qualcomm's qpopper, used at many BSD Unix sites, is better behaved.
2121 If its connection is dropped, it will first execute all DELE commands as
2122 though you had issued a QUIT (this is a technical violation of
2123 the POP3 RFCs, but a good idea in a world of flaky phone lines). Then it
2124 will re-queue any message that was being downloaded at hangup time.
2125 Still, qpopper may require a noticeable amount of time to do deletions
2126 and clean up its queue.  (Fetchmail waits a bit before retrying in
2127 order to avoid a `lock busy' error.)
2128
2129 <hr>
2130 <h2><a name="D3">D3. Mail that was being fetched when I interrupted my fetchmail seems to have been vanished.</a></h2>
2131
2132 Fetchmail only sends a delete mail request to the server when either
2133 (a) it gets a positive delivery acknowledgment from the SMTP
2134 listener, or (b) it gets an error 571 (the spam-filter error) from the
2135 listener.  No interrupt can cause it to lose mail.
2136
2137 <p>However, IMAP2bis has a design problem in that its normal fetch
2138 command marks a message `seen' as soon as the fetch command to get it
2139 is sent down.  If for some reason the message isn't actually delivered
2140 (you take a line hit during the download, or your port 25 listener
2141 can't find enough free disk space, or you interrupt the delivery in
2142 mid-message) that `seen' message can lurk invisibly in your server
2143 mailbox forever.
2144
2145 <p>Workaround: add the `<CODE>fetchall</CODE>' keyword to your fetch options.
2146
2147 <p>Solution: switch to an <a href="http://www.imap.org">IMAP4</a> server.
2148
2149 <hr>
2150 <h2><a name="M1">M1. I've declared local names, but all my multidrop
2151 mail is going to root anyway.</a></h2>
2152
2153 Somehow your fetchmail is never recognizing the hostname part of
2154 recipient names it parses out of To/Cc/envelope-header lines as
2155 matching the name of the mailserver machine. To check this, run
2156 fetchmail in foreground with -v -v on.  You will probably see a lot of
2157 messages with the format ``line rejected, %s is not an alias of the
2158 mailserver'' or ``no address matches; forwarding to %s.'' 
2159
2160 <p>These errors usually indicate some kind of DNS configuration problem
2161 either on the server or your client machine. 
2162
2163 <p>The easiest workaround is to add a `<CODE>via</CODE>' option (if
2164 necessary) and add enough aka declarations to cover all of your
2165 mailserver's aliases, then say `<CODE>no dns</CODE>'.  This will take
2166 DNS out of the picture (though it means mail may be uncollected if
2167 it's sent to an alias of the mailserver that you don't have
2168 listed). 
2169
2170 <p>It would be better to fix your DNS, however.  DNS problems can hurt
2171 you in lots of ways, for example by making your machines
2172 intermittently or permanently unreachable to the rest of the net.
2173
2174 <p>Occasionally these errors indicate the sort of header-parsing problem
2175 described in <a href="#M7">M7</a>.
2176
2177 <hr>
2178 <h2><a name="M2">M2. I can't seem to get fetchmail to route to a local domain properly.</a></h2>
2179
2180 A lot of people want to use fetchmail as a poor man's internetwork
2181 mail gateway, picking up mail accumulated for a whole domain in a single
2182 server mailbox and then routing based on what's in the To/Cc/Bcc lines.
2183
2184 <p>In general, this is not really a good idea.  It would be smarter to
2185 just let the mail sit in the mailserver's queue and use fetchmail's
2186 ETRN or ODMR modes to trigger SMTP sends periodically (of course, this means
2187 you have to poll more frequently than the mailserver's expiration period).
2188 If you can't arrange this, try setting up a UUCP feed.
2189
2190 <p>If neither of these alternatives is available, multidrop mode may do
2191 (though you <em>are</em> going to get hurt by some mailing list
2192 software; see the caveats under THE USE AND ABUSE OF MULTIDROP
2193 MAILBOXES on the man page).  If you want to try it, the way to do it
2194 is with the `<CODE>localdomains</CODE>' option.
2195
2196 <p>In general, if you use localdomains you need to make sure of two other
2197 things: 
2198
2199 <p><strong>1. You've actually set up your .fetchmailrc entry to invoke multidrop mode.</strong>
2200
2201 <p>Many people set a `<CODE>localdomains</CODE>' list and then forget
2202 that fetchmail wants to see more than one name (or the wildcard `*')
2203 in a `<CODE>here</CODE>' list before it will do multidrop routing.
2204
2205 <p><strong>2. You may have to set `no envelope'.</strong>
2206
2207 <p>Normally, multidrop mode tries to deduce an envelope address from a message
2208 before parsing the To/Cc/Bcc lines (this enables it to avoid losing to mailing
2209 list software that doesn't put a recipient address in the To lines).
2210
2211 <p>Some ways of accumulating a whole domain's messages in a single server
2212 mailbox mean it all ends up with a single envelope address that is
2213 useless for rerouting purposes.  You may have to set `<CODE>no
2214 envelope</CODE>' to prevent fetchmail from being bamboozled by this.
2215
2216 <p>Check also answer <a href="#T1">T1</a> on a reliable way to do multidrop
2217 delivery if your ISP (or your mail redirection provider) is using qmail.
2218
2219 <hr>
2220 <h2><a name="M3">M3. I tried to run a mailing list using multidrop, and I have a mail loop!</a></h2>
2221
2222 This isn't fetchmail's fault.  Check your mailing list.  If the list
2223 expansion includes yourself or anybody else at your mailserver (that is, not on
2224 the client side) you've created a mail loop.  Just chop the host part off any
2225 local addresses in the list.
2226
2227 <p>If you use sendmail, you can check the list expansion with
2228 <CODE>sendmail -bv</CODE>.
2229
2230 <hr>
2231 <h2><a name="M4">M4. My multidrop fetchmail seems to be having DNS problems.</a></h2>
2232
2233 <p>We have one report from a Linux user (not the same one as in <a
2234 href="#R1">R1</a>!) who solved this problem by removing the reference
2235 to -lresolv from his link line and relinking.  Apparently in some
2236 older Linux distributions the libc5 bind library version works
2237 better.
2238
2239 <p>As of 2.2, the configure script has been hacked so the bind library
2240 is linked only if it is actually needed.  So under Linux it won't be,
2241 and this problem should go away.
2242
2243 <hr>
2244 <h2><a name="M5">M5. I'm seeing long DNS delays before each message is processed.</a></h2>
2245
2246 <p>Use the `<CODE>aka</CODE>' option to pre-declare as many of your
2247 mailserver's DNS names as you can.  When an address's host part
2248 matches an aka name, no DNS lookup needs to be done to check it.
2249
2250 <p>If you're sure you've pre-declared all of your mailserver's DNS names,
2251 you can use the `<CODE>no dns</CODE>' option to prevent other hostname
2252 parts from being looked up at all.
2253
2254 <p>Sometimes delays are unavoidable.  Some SMTP listeners try to call DNS
2255 on the From-address hostname as a way of checking that the address is valid.
2256
2257 <hr>
2258 <h2><a name="M6">M6. How do I get multidrop mode to work with majordomo?</a></h2>
2259
2260 <p>In order for sendmail to execute the command strings in the majordomo
2261 alias file, it is necessary for sendmail to think that the mail it
2262 receives via SMTP really is destined for a local user name.  A normal
2263 virtual-domain setup results in delivery to the default mailbox,
2264 rather than expansion through majordomo.
2265
2266 <p>Michael &lt;michael@bizsystems.com&gt; gave us a recipe for dealing
2267 with this case that pairs a run control file like this:
2268
2269 <pre>
2270 poll your.pop3.server proto pop3:
2271     no envelope no dns
2272     localdomains virtual.localdomain1.com virtual.localdomain2.com ...
2273     user yourISPusername is root * here,
2274     password yourISPpassword fetchall
2275 </pre>
2276
2277 with a hack on your local sendmail.cf like this:
2278
2279 <pre>
2280 #############################################
2281 #  virtual info, local hack for ruleset 98  #
2282 #############################################
2283
2284 # domains to treat as direct mapped local domain
2285
2286 CVvirtual.localdomain1.com virtual.localdomain2.com ...
2287 ---------------------------
2288 in ruleset 98 add
2289 -------------------------
2290 # handle virtual users
2291
2292 R$+ &lt;@ $=V . &gt;          $: $1 &lt; @ $j . &gt;
2293 R&lt; @ &gt; $+ &lt; @ $=V . &gt;   $: $1 &lt; @ $j . &gt;
2294 R&lt; @ &gt; $+               $: $1
2295 R&lt; error : $- $+ &gt; $*   $#error $@ $1 $: $2
2296 R&lt; $+ &gt; $+ &lt; @ $+ &gt;     $: $&gt;97 $1
2297 </pre>
2298
2299 <p>This ruleset just strips virtual domain names off the addresses of incoming
2300 mail.  Your sendmail must be 8.8 or newer for this to work.  Michael
2301 says:
2302
2303 <p><BLOCKQUOTE>
2304 I use this scheme with 2 virtual domains and the default ISP 
2305 user+domain and service about 30 mail accounts + majordomo on my 
2306 inside pop3 server with fetchmail and sendmail 8.83
2307 </BLOCKQUOTE>
2308
2309 <hr>
2310 <h2><a name="M7">M7. Multidrop mode isn't parsing envelope addresses from
2311 my Received headers as it should.</a></h2>
2312
2313 <p>It may happen that you're getting what appear to be well-formed
2314 sendmail Received headers, but fetchmail can't seem to extract an
2315 envelope address from them.  There can be a couple of reasons for
2316 this.
2317
2318 <h3>Spurious Received lines need to be skipped:</h3>
2319
2320 <p>First, fetchmail might be looking at the wrong Received header.
2321 Normally it looks only on the first one it sees, on the theory that
2322 that one was last added and is going to be the one containing your
2323 mailserver's theory of who the message was addressed to.
2324
2325 <p>Some (unusual) mailserver configurations will generate extra Received
2326 lines which you need to skip.  To arrange this, use the optional
2327 skip prefix argument of the `envelope' option; you may need to say
2328 something like `<code>envelope 1 Received</code>' or `<code>envelope 2 
2329 Received</code>'.
2330
2331 <h3>The `by' clause doesn't contain a mailserver alias:</h3>
2332
2333 <p>When fetchmail parses a Received line that looks like
2334
2335 <pre>
2336 Received: from send103.yahoomail.com (send103.yahoomail.com [205.180.60.92])
2337     by iserv.ttns.net (8.8.5/8.8.5) with SMTP id RAA10088
2338     for &lt;ksturgeon@fbceg.org&gt;; Wed, 9 Sep 1998 17:01:59 -0700
2339 </pre>
2340
2341 it checks to see if `iserv.ttns.net' is a DNS alias of your mailserver
2342 before accepting `ksturgeon@fbceg.org' as an envelope address.  This
2343 check might fail if your DNS were misconfigured, or if you were using `no dns'
2344 and had failed to declare iserv.ttns.net as an alias of your server.
2345
2346 <hr>
2347 <h2><a name="M8">M8. Users are getting multiple copies of messages.</a></h2>
2348
2349 <p>It's a consequence of multidrop.  What's happening is that you have
2350 N users subscribed to the same list.  The list software sends N
2351 copies, not knowing they will end up in the same multidrop box.  Since
2352 they are both locally addressed to all N users, fetchmail delivers N
2353 copies to each user.
2354
2355 <p>Fetchmail tries to eliminate adjacent duplicate messages in a
2356 multidrop mailbox.  However, this logic depends on the message-ID
2357 being identical in both copies.  It also depends on the two copies
2358 being adjacent in the server mailbox.  The former is usually the case,
2359 but the latter condition sometimes fails in a timing-dependent way if
2360 the server was processing multiple incoming mail streams.
2361
2362 <p>I could eliminate this problem by keeping a list of all message-IDs 
2363 received during a poll so far and dropping any message that matches a 
2364 seen mail ID.  The touble is that this is an O(N**2) operation that 
2365 might significantly slow down the retriweval of large mail batches.
2366
2367 <hr>
2368 <h2><a name="X1">X1. Spurious blank lines are appearing in the headers of fetched mail.</a></h2>
2369
2370 <p>What's probably happening is that the POP/IMAP daemon on your
2371 mailserver is inserting a non-RFC822 header (like X-POP3-Rcpt:) and
2372 something in your delivery path (most likely an old version of the
2373 <em>deliver</em> program, which sendmail often calls to do local delivery) is
2374 failing to recognize it as a header.
2375
2376 <p>This is not fetchmail's problem.  The first thing to try is installing
2377 a current version of <em>deliver</em>.  If this doesn't work, try to
2378 figure out which other program in your mail path is inserting the
2379 blank line and replace that.  If you can't do either of these things,
2380 pick a different MDA (such as procmail) and declare it with the
2381 `<CODE>mda</CODE>' option.
2382
2383 <hr>
2384 <h2><a name="X2">X2. My mail client can't see a Subject line.</a></h2>
2385
2386 <p>First, see <a href="#X1">X1</a>.  This is quite probably the same
2387 problem (X-POP3-Rcpt header or something similar being inserted by
2388 the server and choked on by an old version of <em>deliver</em>).
2389
2390 <p>The O'Reilly sendmail book does warn that IDA sendmail doesn't process
2391 X- headers correctly.  If this is your problem, all I can suggest is
2392 replacing IDA sendmail, because it's broken and not RFC822 conformant.
2393
2394 <hr>
2395 <h2><a name="X3">X3. Messages containing "From" at start of line are being split.</a></h2>
2396
2397 <p>If you know the messages aren't split in your server mailbox, then this
2398 is a problem with your POP/IMAP server, your client-side SMTP listener or
2399 your local delivery agent.  Fetchmail cannot split messages.
2400  
2401 <p>Some POP server daemons ignore Content-Length headers and split messages on
2402 From lines.  We have one report that the 2.1 version of the BSD popper
2403 program (as distributed on Solaris 2.5 and elsewhere) is broken this way.
2404
2405 <p>You can test this.  Declare an mda of `cat' and send yourself one
2406 piece of mail containing "From" at start of a line.  If you see a
2407 split message, your POP/IMAP server is at fault.  Upgrade to a more
2408 recent version.
2409
2410 <p>Sendmail and other SMTP listeners don't split RFC822 messages either.
2411 What's probably happening is either sendmail's local delivery agent or
2412 your mail reader are not quite RFC822-conformant and are breaking
2413 messages on what it thinks are Unix-style From headers.  You can
2414 figure out which by looking at your client-side mailbox with vi or
2415 more.  If the message is already split in your mailbox, your local
2416 delivery agent is the problem.  If it's not, your mailreader is the
2417 problem.
2418
2419 <p>If you can't replace the offending program, take a look at your
2420 sendmail.cf file.  There will likely be a line something like
2421
2422 <pre>
2423 Mlocal, P=/usr/bin/procmail, F=lsDFMShP, S=10, R=20/40, A=procmail -Y -d $u
2424 </pre>
2425
2426 describing your local delivery agent.  Try inserting the `E' option in the
2427 flags part (the F= string).  This will make sendmail turn each dangerous
2428 start-of-line From into a &gt;From, preventing programs further downstream
2429 from acting up.
2430
2431 <hr>
2432 <h2><a name="X4">X4.</a><a name="generic_mangling">My mail is being mangled in a new and different way</a></h2>
2433
2434 <p>The first thing you need to do is pin down what program is doing the
2435 mangling.  We don't like getting bug reports about fetchmail that are
2436 actually due to some other program's malfeasance, so please go through
2437 this diagnostic sequence before sending us a complaint.
2438
2439 <p>There are five possible culprits to consider, listed here in the order
2440 they pass your mail:
2441
2442 <ol>
2443 <li> Programs upstream of your server mailbox.
2444 <li> The POP or IMAP server on your mailserver host.
2445 <li> The fetchmail program itself.
2446 <li> Your local sendmail.
2447 <li> Your LDA (local delivery agent), as called by sendmail or
2448 specified by <code>mda</CODE>. 
2449 </ol>
2450
2451 <p>Often it happens that fetchmail itself is OK, but using it exposes
2452 pre-existing bugs in your downstream software, or your downstream
2453 software has a bad interaction with POP/IMAP.  You need to pin down
2454 exactly where the message is being garbled in order to deduce what is
2455 actually going on.
2456
2457 <p>The first thing to do is send yourself a test message, and retrieve it
2458 with a .fetchmailrc entry containing the following (or by running with
2459 the equivalent command-line options):
2460
2461 <pre>
2462     mda "cat &gt;MBOX" keep fetchall
2463 </pre>
2464
2465 <p>This will capture what fetchmail gets from the server, except for (a)
2466 the extra Received header line fetchmail prepends, (b) header address
2467 changes due to <code>rewrite</code>, and (c) any end-of-line changes
2468 due to the <code>forcecr</code> and <code>stripcr</code> options.
2469 MBOX will in fact contain what programs downstream of fetchmail
2470 see.
2471
2472 <p>The most common causes of mangling are bugs and misconfigurations in
2473 those downstream programs.  If MBOX looks unmangled, you will know
2474 that is what is going on and that it is not fetchmail's problem.  Take
2475 a look at the other FAQ items in this section for possible clues about
2476 how to fix your problem.
2477
2478 <p>If MBOX looks mangled, the next thing to do is compare it with your
2479 actual server mailbox (if possible).  That's why you specified 
2480 <code>keep</code>, so the server copy would not be deleted.  If your
2481 server mailbox looks mangled, programs upstream of your server mailbox
2482 are at fault.  Unfortunately there is probably little you can do about
2483 this aside from complaining to your site postmaster, and nothing at
2484 all fetchmail can do about it!
2485
2486 <p>More likely you'll find that the server copy looks OK.  In that case
2487 either the POP/IMAP server or fetchmail is doing the mangling.  To
2488 determine which, you'll need to telnet to the server port and simulate
2489 a fetchmail session yourself.  This is not actually hard (both POP3
2490 and IMAP are simple, text-only, line-oriented protocols) but requires
2491 some attention to detail.  You should be able to use a fetchmail -v
2492 log as a model for a session, but remember that the "*" in your LOGIN
2493 or PASS command dump has to be replaced with your actual password.
2494
2495 <p>The objective of manually simulating fetchmail is so you can see
2496 exactly what fetchmail sees.  If you see a mangled message, then your
2497 server is at fault, and you probably need to complain to your
2498 mailserver administrators.  However, we like to know what the broken
2499 servers are so we can warn people away from them.  So please send
2500 us a transcript of the session including the mangling <em>and the
2501 server's initial greeting line</em>.  Please tell us anything else
2502 you think might be useful about the server, like the server host's
2503 operating system.
2504
2505 <p>If your manual fetchmail simulation shows an unmangled message,
2506 congratulations.  You've found an actual fetchmail bug, which is a
2507 pretty rare thing these days.  Complain to us and we'll fix it.
2508 Please include the session transcript of your manual fetchmail
2509 simulation along with the other things described in the FAQ entry on
2510 <a href="#G3">reporting bugs</a>.
2511
2512 <hr>
2513 <h2><a name="X5">X5. Using POP3, retrievals seems to be fetching too much!</a></h2>
2514
2515 <p>This may happen in versions of fetchmail after 4.4.1 and before 4.4.8.
2516 Versions after 4.4.1 use POP3's TOP command rather than RETR, in order
2517 to avoid marking the message seen (leaving it unseen is helpful for
2518 later recovery if you lose your connection in the middle of a
2519 retrieval).
2520
2521 <p>Versions of fetchmail from 4.4.2 through 4.4.7 had a bad interaction 
2522 with Eudora qpopper versions 2.3 and later.  The TOP bounds check was
2523 fooled by an overflow condition in the TOP argument.  Decrementing the
2524 TOP argument in 4.4.7 fixed this.
2525
2526 <p>Fix: Upgrade to a later version of fetchmail.
2527
2528 <p>Workaround: set the <code>fetchall</code> option.  Under POP3
2529 this has the side effect of forcing RETR use.
2530
2531 <hr>
2532 <h2><a name="X6">X6. My mail attachments are being dropped or mangled.</a></h2>
2533
2534 <p>This isn't fetchmail's doing -- fetchmail never drops lines in message
2535 bodies or attachments. It may be your POP server, or it may be the
2536 sender's mail user agent (or a bad combination of both).
2537
2538 <p>The Mail Max POP3 server and the InterChange and Imail IMAP servers
2539 are known to simply drop MIME attachments when uploading messages.
2540 We've had sporadic reports of problems with Microsoft Exchange and
2541 Outlook servers.  Windows- and NT-based POP servers seem especially
2542 prone to mangle attachments.  If you are running one of these,
2543 replacing your server with a Unix machine is probably the only
2544 effective solution.
2545
2546 <p>We've also had a report that Lotus Notes sometimes trashes the
2547 MIME type of messages.  In particular, it seems to modify MIME
2548 headers introducing type application/pdf, mangling the type
2549 to application/octet-stream. It may corrupt other MIME types
2550 as well.
2551
2552 <p>The IMAP service of Lotus Domino has a known bug in the way it
2553 generates MIME Content-type headers (observed on Lotus Domino 5.0.2b).
2554 It's a subtle one that doesn't show up when Netscape Messenger and
2555 other clients use a FETCH BODY[] to grab the whole message.  When
2556 fetchmail uses FETCH RFC822.HEADER and FETCH RFC822.TEXT to get first
2557 the header and then the body, Domino generates different Boundary tags
2558 for each part, .e.g. one tag is declared in the Content-type header and
2559 another is used to separate the MIME parts in the body.  This doesn't
2560 work. (I have heard a rumor that this bug is scheduled to be fixed 
2561 in Domino release 6; you can find a workaround at contrib/domino.)
2562
2563 <p>Another rich source of attachment problems is Microsoft Exchange and
2564 Microsoft Outlook.  If you see unreadable attachments with a
2565 ContentType of "application/x-tnef", you're having this problem.  The
2566 <a href="http://world.std.com/~damned/software.html">TNEF</a> utility
2567 may help.
2568
2569 <p>Rob Funk explains: Unfortunately there also remain many mail user
2570 agents that don't write correct MIME messages. One big offender is Sun
2571 MailTool attachments, which are formatted enough like MIME that some
2572 programs could get confused; these are generated by the mailtool and
2573 dtmail programs (the mail programs in Sun's OpenWindows and CDE
2574 environments).
2575
2576 <p>One solution to problems related to misformatted MIME attachments is
2577 the <a href="ftp://ftp.uu.se/pub/unix/networking/mail/emil/">emil</a>
2578 program; see its <a
2579 href="ftp://ftp.uu.se/pub/unix/networking/mail/emil/TUTORIAL.html">tutorial</a>
2580 file at that site for details on emil.  It is useful for
2581 converting character sets, attachment encodings, and attachment
2582 formats.  At this writing, emil does not appear to have been
2583 maintained since a patch to version 2.1.0beta9 in late 1997, but it is
2584 still useful.
2585
2586 <p>One good way of using emil is from within procmail.  You can have
2587 procmail look for signs of problematic message formatting, and pipe
2588 those messages through emil to be fixed.  emil will not always be able
2589 to fix the problem, in which case the message is unchanged.
2590
2591 <p>A possible rule to be inserted into a .procmailrc file for using emil
2592 would be:
2593
2594 <pre>
2595 :0HB
2596 * 1^1 ^Content-Type: \/X-sun[^;]*
2597 * 1^1 ^Content-Type: \/application/mac-binhex[^;]*
2598 * 1^1 ^Content-Transfer-Encoding: \/x-binhex[^;]*
2599 * 1^1 ^Content-Transfer-Encoding: \/x-uuencode[^;]*
2600 {
2601   LOG="Converting $MATCH
2602 "
2603   :0fw
2604   | emil -A B -T Q -B BA -C iso-8859-1 -H Q -F MIME \
2605   | gawk '{gsub(/\r\n?/,"\n");print $0}'
2606 }
2607 </pre>
2608
2609 <p>The "1^1" in the conditions is a way of specifying to procmail that if
2610 any one of the four listed expressions is found in the message, the
2611 total condition is considered true, and the message gets passed into
2612 emil.  These four subconditions check whether the message has a Sun
2613 attachment, a binhex attachment, or a uuencoded attachment; there are
2614 others that could be added to check these things better and to check
2615 other relevant conditions.  The "LOG=" line writes a line into the
2616 procmail log; the lone double-quote beginning the following line makes
2617 sure the log entry gets an end-of-line character.  The call to gawk
2618 (GNU awk) is for fixing end-of-line conventions, since emil sometimes
2619 leaves those in the format of the originating machine; it could
2620 probably be replaced with a sed subsitution.
2621
2622 <p>The emil call itself tries to ensure that the message uses:
2623
2624 <ul>
2625 <li> BinHex encoding for any Apple Macintosh-only attachments
2626 <li> Quoted-Printable encoding for text (when necessary)
2627 <li> Base64 Encoding for binary attachments
2628 <li> iso-8859-1 character set for text (unfortunately emil can't yet
2629   convert from windows-1252 to iso-8859-1)
2630 <li> Quoted-Printable encoding for headers
2631 <li> MIME attachment format
2632 </ul>
2633
2634 <p>Most of these (the primary exceptions being the character set and the
2635 Apple binary format) are as they should be for good internet
2636 interoperability.<p>
2637   
2638 <p>Some mail servers (Lotus Domino is a suspect here) mangle
2639 Sun-formatted messages, so the conversion to MIME needs to happen
2640 before such programs see the message.  The ideal is to rid the world
2641 of Sun-formatted messages: don't use mailtool for sending attachments
2642 (it doesn't understand MIME anyway, and most of the world doesn't
2643 understand its attachments, so it really shouldn't be used at all),
2644 and make sure dtmail is set to use MIME rather than mailtool's format.
2645
2646 <hr>
2647 <h2><a name="X7">X7. Some mail attachments are hanging fetchmail.</a></h2>
2648
2649 <p>This isn't fetchmail's problem either; fetchmail doesn't know anything 
2650 about mail attachments and doesn't treat them any differently from
2651 plain message data.
2652
2653 <p>The most usual cause of this problem seems to be bugs in your network
2654 transport layer's capability to handle the very large TCP/IP packets
2655 that attachments tend to turn into.  You can test this theory by trying to
2656 download the offending message through a webmail account; using HTTP
2657 for the message tends to simulate large-packet stress rather well, and
2658 you will probably find that the messages that seem to be choking
2659 fetchmail will make your HTTP download speed drop to zero.
2660
2661 <p>This problem can be caused by subtle bugs in the packet-reassembly
2662 layer of your TCP/IP stack; these often don't manifest at normal
2663 packet sizes.  It may also be caused by malfunctioning path-MTU 
2664 discovery on the mailserver.  Or, if there's a modem in the link, 
2665 it may be because the attachment contains the Hayes mode escape "+++".
2666
2667 <hr>
2668 <h2><a name="O1">O1. The --logfile option doesn't work if the logfile doesn't exist.</a></h2>
2669
2670 <p>This is a feature, not a bug.  It's in line with normal practice for
2671 system daemons and allows you to suppress logging by removing the log,
2672 without hacking potentially fragile startup scripts.  To get around
2673 it, just touch(1) the logfile before you run fetchmail (this will have
2674 no effect on the contents of the logfile if it already exists).
2675
2676 <hr>
2677 <h2><a name="O2">O2. Every time I get a POP or IMAP message the header
2678 is dumped to all my terminal sessions.</a></h2>
2679
2680 <p>Fetchmail uses the local sendmail to perform final delivery, which
2681 Netscape and other clients doesn't do; the announcement of new messages
2682 is done by a daemon that sendmail pokes. There should be a ``biff''
2683 command to control this.  Type
2684
2685 <pre>
2686 biff n
2687 </pre>
2688
2689 to turn it off. If this doesn't work, try the command 
2690
2691 <pre>
2692 chmod -x `tty`
2693 </pre>
2694
2695 which is essentially what <code>biff -n</code> will do. If this
2696 doesn't work, comment out any reference to ``comsat'' in your
2697 /etc/inetd.conf file and restart inetd.
2698
2699 <p>In Slackware Linux distributions, the last line in /etc/profile is
2700
2701 <pre>
2702 biff y
2703 </pre>
2704
2705 Change this to
2706
2707 <pre>
2708 biff n
2709 </pre>
2710
2711 to solve the problem system-wide.
2712
2713 <hr>
2714 <h2><a name="O3">O3. Does fetchmail reread its rc file every poll cycle?</a></h2>
2715
2716 <p>No, but versions 5.2.2 and later will notice when you modify your rc
2717 file and restart, reading it.
2718
2719 <hr>
2720 <h2><a name="O4">O4. Why do deleted messages show up again when I take
2721 a line hit while downloading?</a></h2>
2722
2723 <p>Because you're using a POP3 other than Qualcomm qpopper, or an IMAP
2724 with a long expunge interval.
2725
2726 <p>According to the POP3 RFCs, deletes aren't actually performed until
2727 you issue the end-of-session QUIT command.  Fetchmail cannot fix this,
2728 because doing it right takes cooperation from the server. There are
2729 two possible remedies:
2730
2731 <p>One is to switch to qpopper (the free POP3 server from Qualcomm,
2732 the Eudora people).  The qpopper software violates the POP3 RFCs by
2733 doing an expunge (removing deleted messages) on a line hangup, as well
2734 as on processing a QUIT command.
2735
2736 <p>The other (which we recommend) is to switch to <a
2737 href="http://www.imap.org">IMAP</a>.  IMAP has an explicit expunge
2738 command and fetchmail normally uses it to delete messages immediately
2739 after they are downloaded.
2740
2741 <p>If you get very unlucky, you might take a line hit in the window
2742 between the delete and the expunge.  If you've set a longer expunge
2743 interval, the window gets wider.  This problem should correct itself
2744 the next time you complete a successful query.
2745
2746 <hr>
2747 <h2><a name="O5">O5. Why is fetched mail being logged with my name, not the real From address?</a></h2>
2748
2749 <p>Because logging is done based on the address indicated by the sending
2750 SMTP's MAIL FROM, and some listeners are picky about that address.
2751
2752 <p>Some SMTP listeners get upset if you try to hand them a MAIL FROM
2753 address naming a different host than the originating site for your
2754 connection.  This is a feature, not a bug -- it's supposed to help
2755 prevent people from forging mail with a bogus origin site.  (RFC 1123
2756 says you shouldn't do this exclusion...)
2757
2758 <p>Since the originating site of a fetchmail delivery connection is
2759 localhost, this effectively means these picky listeners will barf on
2760 any MAIL FROM address fetchmail hands them with an @ in it!
2761
2762 <p>Versions 2.1 and up try the header From address first and fall back to
2763 the calling-user ID.  So if your SMTP listener isn't picky, the log
2764 will look right.
2765
2766 <hr>
2767 <h2><a name="O6">O6. I'm seeing long sendmail delays or hangs near the start of each poll cycle.</a></h2>
2768
2769 <p>Sendmail does a hostname lookup when it first starts up, and also each
2770 time it gets a HELO in listener mode.
2771
2772 <p>Your resolver configuration may be causing one of these lookups to
2773 fail and time out.  Check <code>/etc/resolv.conf</code> and
2774 <code>/etc/hosts</code> file. Make sure your hostname and
2775 fully-qualified domain name are both in <code>/etc/hosts</code>, and
2776 that hosts is looked at before DNS is queried.  You probably also want
2777 your remote mail server(s) to be in the hosts file.
2778
2779 <p>You can suppress the startup-time lookup if need to by reconfiguring
2780 with <code>FEATURE(nodns)</code>.
2781
2782 <p>Configuring your bind library to cache DNS lookups locally may help,
2783 and is a good idea for speeding up other services as well.  Switching to
2784 a faster MTA like qmail or exim might help. 
2785
2786 <hr>
2787 <h2><a name="O7">O7. Why doesn't fetchmail deliver mail in date-sorted order?</a></h2>
2788
2789 <p>Because that's not the order the server hands it to fetchmail in.
2790
2791 <p>Fetchmail getting mail from a POP server delivers mail in the order
2792 that your server delivers mail.  Fetchmail can't do anything about
2793 this; it's a limitation of the underlying POP protocol.
2794
2795 <p>In theory it might be possible for fetchmail in IMAP mode to sort
2796 messages by date, but this would be in violation of two basics of
2797 fetchmail's design philosophy: (a) to be as simple and transparent a
2798 pipe as possible, and (b) to <em>hide</em>, rather than emphasize, the
2799 differences between the remote-fetch protocols it uses.
2800
2801 <p>Re-ordering messages is a user-agent function, anyway.
2802
2803 <hr>
2804 <h2><a name="O8">O8. I'm using pppd.  Why isn't my monitor option working?</a></h2>
2805
2806 <p>There is a combination of circumstances that can confuse fetchmail.
2807 If you have set up demand dialing with pppd, and pppd has an idle
2808 timeout, and you have lcp-echo-interval set, then the
2809 lcp-echo-interval time must be longer than the pppd idle timeout.
2810 Otherwise it is going keep increasing the packet counters that fetchmail
2811 relies upon, triggering fetchmail into polling after its own delay
2812 interval and thus preventing the pppd link from ever reaching its
2813 inactivity timeout.
2814
2815 <hr>
2816 <h2><a name="O9">O9. Why does fetchmail keep retrieving the same messages
2817 over and over?</a></h2>
2818
2819 <p>First, check to see that you haven't enabled the <cite>keep</cite>
2820 and <cite>fetchall</cite> option.  If you have, turn <cite>keep</cite> off.
2821
2822 <p>There are various forms of lossage involving the POP3 UIDL feature
2823 that can lead to all your old messages being seen again after a line
2824 drop.  I have given up trying to fix these, as the UIDL code breaks
2825 worse every time I touch it.  The problem is fundamental; maintaining
2826 and garbage-collecting the right kind of client-side state is just
2827 hard.  Whoever put UIDLs in RFC1725 and removed LAST should be hung
2828 up by his thumbs and whipped with scorpions.  The right answers are
2829 either (a) live with the occasional breakage, (b) switch to IMAP4,
2830 or (c) fix the code yourself and send me a patch.  Unless you choose
2831 (c), I don't want to hear about it.
2832
2833 <p>This can also happen when some other mail client is logged in to your
2834 mail server, if it uses a simple exclusive-locking scheme (and many,
2835 especially most POP3 servers, do exactly that).  Your fetchmail is
2836 able to retrieve the messages, but because the mailbox is write-locked
2837 by the other instance yours can neither mark messages seen or delete them.
2838 The solution is to either (a) wait for the other client to finish, or (b)
2839 terminate it.
2840
2841 <p>James Stevens &lt;James.Stevens@kyzo.com&gt; writes:<p> 
2842
2843 <em>
2844 <p>We had a Linux box dialing the Net and collecting mail from an NT POP3
2845 server.  Fetchmail was correctly collecting and deleting each e-mail
2846 one by one. However,the dial-up connection was very unreliable and
2847 would often just drop out in the middle of a session.
2848
2849 <p>Interestingly, unless the TCP POP3 connection was terminated normally
2850 (I guess with a POP3 "QUIT" command) NT would then roll back all the
2851 deletes !!!
2852
2853 <p>This meant if the first e-mail was very large it might just end up
2854 continuously collecting it, basically jamming the queue. Or, if the
2855 queue became very full itmight never get a long enough phone
2856 connection to retrieve the entire mailbox, and NT would roll back any
2857 deletes, so it would end up collecting (and delivering) the first few
2858 e-mails again and again. As the POP3 mailbox became fuller and fuller
2859 the chances of getting a connection long enough to collect theentire
2860 mailbox became smaller and smaller.
2861
2862 <p>Our solution was to make fetchmail only collect a few (say 5 or 10)
2863 e-mails at atime, thus trying to ensure that the POP3 connection is
2864 terminated correctly.
2865 </em>
2866
2867 <p>Unfortunately, this is exactly the way POP3 servers are supposed 
2868 to behave on a line drop, according to the RFCs.  I recommend 
2869 switching to IMAP and using a short expunge interval.
2870
2871 <hr>
2872 <h2><a name="O10">O10. Why is the received date on all my messages the same?</a></h2>
2873
2874 This is a design choice in your MTA, not fetchmail.  It's taking the received
2875 date from the last Received header.<p>
2876
2877 <HR>
2878 <table width="100%" cellpadding=0><tr>
2879 <td width="30%">Back to <a href="index.html">Fetchmail Home Page</a>
2880 <td width="30%" align=center>To <a href="/~esr/sitemap.html">Site Map</a>
2881 <td width="30%" align=right>$Date: 2001/09/26 14:11:25 $
2882 </table>
2883
2884 <ADDRESS>Eric S. Raymond <A HREF="mailto:esr@thyrsus.com">&lt;esr@thyrsus.com&gt;</A></ADDRESS>
2885 </BODY>
2886 </HTML>
2887 <!--
2888 Local Variables:
2889 compile-command: "(cd ~/WWW; upload fetchmail/fetchmail-FAQ.html)"
2890 End:
2891 -->