]> Pileus Git - ~andy/fetchmail/blob - fetchmail-FAQ.html
Fix for SMB endianness problem.
[~andy/fetchmail] / fetchmail-FAQ.html
1 <!doctype HTML public "-//W3O//DTD W3 HTML 3.2//EN">
2 <HTML>
3 <HEAD>
4 <TITLE>The Fetchmail FAQ</TITLE>
5 <link rev=made href="mailto:esr@snark.thyrsus.com">
6 <meta name="description" content="Frequently asked questions about fetchmail.">
7 <meta name="keywords" content="fetchmail, POP, POP2, POP3, IMAP, remote mail"> 
8 </HEAD>
9 <BODY>
10 <table width="100%" cellpadding=0><tr>
11 <td width="30%">Back to <a href="index.html">Fetchmail Home Page</a>
12 <td width="30%" align=center>To <a href="/~esr/sitemap.html">Site Map</a>
13 <td width="30%" align=right>$Date: 1999/09/23 20:54:37 $
14 </table>
15 <HR>
16 <H1>Frequently Asked Questions About Fetchmail</H1>
17
18 Before reporting any bug, please read <a href="#G3">G3</a> for advice
19 on how to include diagnostic information that will get your bug fixed
20 as quickly as possible. <p>
21
22 If you have a question or answer you think ought to be added to this FAQ list,
23 mail it to fetchmail's maintainer, Eric S. Raymond, at
24 <A HREF="mailto:esr@thyrsus.com">esr@snark.thyrsus.com</A>.<p>
25
26 <h1>General questions:</h1>
27
28 <a href="#G1">G1. What is fetchmail and why should I bother?</a><br>
29 <a href="#G2">G2. Where do I find the latest FAQ and fetchmail sources?</a><br>
30 <a href="#G3">G3. I think I've found a bug.  Will you fix it?</a><br>
31 <a href="#G4">G4. I have this idea for a neat feature. Will you add it?</a><br>
32 <a href="#G5">G5. Is there a mailing list for exchanging tips?</a><br>
33 <a href="#G6">G6. So, what's this I hear about a fetchmail paper?</a><br>
34 <a href="#G7">G7. What is the best server to use with fetchmail?</a><br>
35 <a href="#G8">G8. How can I avoid sending my password en clair?</a><br>
36 <a href="#G9">G9. Is any special configuration needed to use a dynamic
37 IP address?</a><br>
38 <a href="#G10">G10. Is any special configuration needed to use firewalls?</a><br>
39 <a href="#G11">G11. Is any special configuration needed to <em>send</em> mail?</a><br>
40 <a href="#G12">G12. Is fetchmail Y2K-compliant?</a><br>
41 <a href="#G13">G13. Is there a way in fetchmail to support disconnected IMAP mode?<br>
42
43 <h1>Build-time problems:</h1>
44
45 <a href="#B1">B1. Lex bombs out while building the fetchmail lexer.</a><br>
46 <a href="#B2">B2. I get link failures when I try to build fetchmail.</a><br>
47
48 <h1>Fetchmail configuration file grammar questions:</h1>
49
50 <a href="#F1">F1. Why does my old .fetchmailrc no longer work?</a><br>
51 <a href="#F2">F2. The .fetchmailrc parser won't accept my all-numeric user name.</a><br>
52 <a href="#F3">F3. The .fetchmailrc parser won't accept my host or username beginning with `no'.</a><br>
53 <a href="#F4">F4. I'm migrating from popclient.  How do I need to modify my .poprc?</a><br>
54 <a href="#F5">F5. I'm getting a `parse error' message I don't understand.</a><br>
55
56 <h1>Configuration questions:</h1>
57
58 <a href="#C1">C1. Why do I need a .fetchmailrc when running as root on my own machine?</a><br>
59 <a href="#C2">C2. How can I arrange for a fetchmail daemon to get killed when I log out?</a><br>
60 <a href="#C3">C3. How do I know what interface and address to use with --interface?</a><br>
61 <a href="#C4">C4. How can I set up support for sendmail's anti-spam features?</a><br>
62
63 <h1>How to make fetchmail play nice with various MTAs:</h1>
64
65 <a href="#T1">T1. How can I use fetchmail with sendmail?</a><br>
66 <a href="#T2">T2. How can I use fetchmail with qmail?</a><br>
67 <a href="#T3">T3. How can I use fetchmail with exim?</a><br>
68 <a href="#T4">T4. How can I use fetchmail with smail?</a><br>
69 <a href="#T5">T5. How can I use fetchmail with SCO's MMDF?</a><br>
70 <a href="#T6">T6. How can I use fetchmail with Lotus Notes?</a><br>
71
72 <h1>How to make fetchmail work with various servers:</h1>
73
74 <a href="#S1">S1. How can I use fetchmail with qpopper?</a><br>
75 <a href="#S2">S2. How can I use fetchmail with Microsoft Exchange?</a><br>
76 <a href="#S3">S3. How can I use fetchmail with Compuserve RPA?</a><br>
77 <a href="#S4">S4. How can I use fetchmail with Demon Internet's SDPS?</a><br>
78 <a href="#S5">S5. How can I use fetchmail with usa.net's servers?</a><br>
79 <a href="#S6">S6. How can I use fetchmail with HP OpenMail?</a><br>
80 <a href="#S7">S7. How can I use fetchmail with geocities POP3 servers?</a><br>
81 <a href="#S8">S8. How can I use fetchmail with Hotmail?</a><br>
82 <a href="#S9">S9. How can I use fetchmail with MSN?</a><br>
83 <a href="#S10">S10. How can I use fetchmail with SpryNet?</a><br>
84
85 <h1>How to set up well-known security and authentication methods:</h1>
86
87 <a href="#K1">K1. How can I use fetchmail with SOCKS?</a><br>
88 <a href="#K2">K2. How can I use fetchmail with IPv6 and IPsec?</a><br>
89 <a href="#K3">K3. How can I get fetchmail to work with ssh?</a><br>
90 <a href="#K4">K4. What do I have to do to use the IMAP-GSS protocol?</a><br>
91 <a href="#K5">K5. How can I use fetchmail with SSL?</a><br>
92
93 <h1>Runtime fatal errors:</h1>
94
95 <a href="#R1">R1. Fetchmail isn't working, and -v shows `SMTP connect failed' messages.</a><br>
96 <a href="#R2">R2. When I try to configure an MDA, fetchmail doesn't work.</a><br>
97 <a href="#R3">R3. Fetchmail dumps core when given an invalid rc file.</a><br>
98 <a href="#R4">R4. Fetchmail dumps core in -V mode, but operates normally otherwise.</a><br>
99 <a href="#R5">R5. Running fetchmail in daemon mode doesn't work.</a><br>
100 <a href="#R6">R6. Fetchmail hangs when used with pppd.</a><br>
101 <a href="#R7">R7. Fetchmail randomly dies with socket errors.</a><br>
102 <a href="#R8">R8. Fetchmail running as root stopped working after an OS upgrade</a><br>
103 <a href="#R9">R9. Fetchmail is timing out after fetching certain
104 messages but before deleting them</a><br>
105
106 <h1>Disappearing mail</h1>
107
108 <a href="#D1">D1. I think I've set up fetchmail correctly, but I'm not getting any mail.</a><br>
109 <a href="#D2">D2. All my mail seems to disappear after a dropped connection.</a><br>
110 <a href="#D3">D3. Mail that was being fetched when I interrupted my fetchmail seems to have been vanished.</a><br>
111
112 <h1>Multidrop-mode problems:</h1>
113
114 <a href="#M1">M1. I've declared local names, but all my multidrop mail is going to root anyway.</a><br>
115 <a href="#M2">M2. I can't seem to get fetchmail to route to a local domain properly.</a><br>
116 <a href="#M3">M3. I tried to run a mailing list using multidrop, and I have a mail loop!</a><br>
117 <a href="#M4">M4. My multidrop fetchmail seems to be having DNS problems.</a><br>
118 <a href="#M5">M5. I'm seeing long DNS delays before each message is processed.</a><br>
119 <a href="#M6">M6. How do I get multidrop mode to work with majordomo?</a><br>
120 <a href="#M7">M7. Multidrop mode isn't parsing envelope addresses from
121 my Received headers as it should.</a><br>
122
123 <h1>Mangled mail:</h1>
124
125 <a href="#X1">X1. Spurious blank lines are appearing in the headers of fetched mail.</a><br>
126 <a href="#X2">X2. My mail client can't see a Subject line.</a><br>
127 <a href="#X3">X3. Messages containing "From" at start of line are being split.</a><br>
128 <a href="#X4">X4. My mail is being mangled in a new and different way.</a><br>
129 <a href="#X5">X5. Using POP3, retrievals seems to be fetching too much!</a><br>
130
131 <h1>Other problems:</h1>
132
133 <a href="#O1">O1. The --logfile option doesn't work if the logfile doesn't exist.</a><br>
134 <a href="#O2">O2. Every time I get a POP or IMAP message the header is
135 dumped to all my terminal sessions.</a><br>
136 <a href="#O3">O3. Does fetchmail reread its rc file every poll cycle?</a><br>
137 <a href="#O4">O4. Why do deleted messages show up again when I take
138 a line hit while downloading?</a><br>
139 <a href="#O5">O5. Why is fetched mail being logged with my name, not the real From address?</a><br>
140 <a href="#O6">O6. I'm seeing long sendmail delays or hangs near the start of each poll cycle.</a><br>
141 <a href="#O7">O7. Why doesn't fetchmail deliver mail in date-sorted order?</a><br>
142 <a href="#O8">O8. I'm using pppd.  Why isn't my monitor option working?</a><br>
143
144 <h1>Answers:</h1>
145 <hr>
146 <h2><a name="G1">G1. What is fetchmail and why should I bother?</a></h2>
147
148 Fetchmail is a one-stop solution to the remote mail retrieval problem
149 for Unix machines, quite useful to anyone with an intermittent PPP or
150 SLIP connection to a remote mailserver.  It can collect mail using any
151 variant of POP or IMAP and forwards via port 25 to the local SMTP
152 listener, enabling all the normal forwarding/filtering/aliasing
153 mechanisms that would apply to local mail or mail arriving via a
154 full-time TCP/IP connection.<p>
155
156 Fetchmail is not a toy or a coder's learning exercise, but an
157 industrial-strength tool capable of transparently handling every
158 retrieval demand from those of a simple single-user ISP connection up
159 to mail retrieval and rerouting for an entire client domain.
160 Fetchmail is easy to configure, unobtrusive in operation, powerful,
161 feature-rich, and well documented. <P>
162
163 Fetchmail is <a href="http://www.opensource.org">Open Source</a>
164 software.  The openness of the sources is the strongest assurance of
165 quality you can have.  Extensive peer review by a large,
166 multi-platform user community has shown that fetchmail is as near
167 bulletproof as the underlying protocols permit.<p>
168
169 Fetchmail is licensed under the <a
170 href="http://gnu.org//copyleft/gpl.html">GNU General Public
171 License</a>.<p>
172
173 If you found this FAQ in the distribution, see the README for fetchmail's
174 full feature list.<p>
175
176 <hr>
177 <h2><a name="G2">G2. Where do I find the latest FAQ and fetchmail
178 sources?</a></h2> 
179
180 The latest HTML FAQ is available alongside the latest fetchmail
181 sources at the fetchmail home page:
182 <a href="http://www.tuxedo.org/~esr/fetchmail">
183 http://www.tuxedo.org/~esr/fetchmail</a>.  You can also usually find
184 both in the <a
185 href="http://sunsite.unc.edu/pub/Linux/system/mail/pop/!INDEX.html">POP
186 mail tools directory on Sunsite</a>.<p>
187
188 A text dump of this FAQ is included in the fetchmail
189 distribution. Because it freezes at distribution release time, it may
190 not be completely current.<p>
191
192 <hr>
193 <h2><a name="G3">G3.  I think I've found a bug.  Will you fix it?</a></h2>
194
195 Yes I will, provided you include enough diagnostic information for me
196 to go on.  Send bugs to <a
197 href="mailto:fetchmail-friends@ccil.org">fetchmail-friends</a>.  When reporting
198 bugs, please include the following:
199
200 <ol>
201 <li>Your operating system and compiler version.
202 <li>A copy of your POP or IMAP server's greeting line.
203 <li>The name and version of the SMTP listener or MDA you are forwarding to.
204 <li>Any command-line options you used.
205 <li>The output of fetchmail -V called with whatever other
206     command-line options you used.
207 </ol>
208
209 Often, the first thing I will do when you report a bug is tell you to
210 upgrade to the newest version, and then see if the problem reproduces.
211 So you'll probably save us both time if you upgrade and test with
212 the latest version <em>before</em> sending in a bug report.<P>
213
214 It is helpful if you include your .fetchmailrc file, but not necessary
215 unless your symptom seems to involve an error in configuration
216 parsing.  If you do send in your .fetchmailrc, mask the passwords
217 first! <p>
218
219 If fetchmail seems to run and fetch mail, but the headers look mangled
220 (that is, headers are missing or blank lines are inserted in the
221 headers) then read the FAQ items in section <a href="#X1">X</a>
222 before submitting a bug report.  Pay special attention to the item on
223 <a href="#generic_mangling">diagnosing mail mangling</a>.  There are
224 lots of ways for other programs in the mail chain to screw up that
225 look like fetchmail's fault, but you may be able to fix these by
226 tweaking your configuration.<P>
227
228 A transcript of the failed session with -v -v (yes, that's
229 <em>two</em> -v options, enabling debug mode) will almost always be useful.
230 It is very important that the transcript include your POP/IMAP server's
231 greeting line, so I can identify it in case of server problems.  This
232 transcript will not reveal your passwords, which are specially masked
233 out precisely so the transcript can be passed around.<P>
234
235 If the bug involves a core dump or hang, a gdb stack trace is good to have.
236 (Bear in mind that you can attach gdb to a running but hung process by
237 giving the process ID as a second argument.)  You will need to
238 reconfigure with <p>
239
240 <LISTING>
241 CFLAGS=-g LDFLAGS=" " ./configure
242 </LISTING>
243
244 and then rebuild in order to generate a version that can be gdb-traced.<p>
245
246 Best of all is a mail file which, when fetched, will reproduce the
247 bug under the latest (current) version.<p>
248
249 Any bug I can reproduce will usually get fixed very quickly, often
250 within 48 hours.  Bugs I can't reproduce are a crapshoot.  If the
251 solution isn't obvious when I first look, it may evade me for a long
252 time (or to put it another way, fetchmail is well enough tested that the
253 easy bugs have long since been found).  So if you want your bug fixed
254 rapidly, it is not just sufficient but nearly <em>necessary</em> that
255 you give me a way to reproduce it.<p>
256
257 <hr>
258 <h2><a name="G4">G4.  I have this idea for a neat feature.  Will you add it?</a></h2>
259
260 Probably not.  Most of the feature suggestions I get are for ways to
261 set various kinds of administrative policy or add more spam filtering
262 (the most common one, which I used to get about four million times a week
263 and got <em>really</em> tired of, is for tin-like kill files).<p>
264
265 You can do spam filtering better with procmail or maildrop on the
266 server side and (if you're the server sysadmin) sendmail.cf domain
267 exclusions.  You can do other policy things better with the
268 <CODE>mda</CODE> option and script wrappers around fetchmail.  If
269 it's a prime-time-vs.-non-prime-time issue, ask yourself whether a
270 wrapper script called from crontab would do the job.<p>
271
272 I'm not going to do these; fetchmail's job is transport, not policy, and I
273 refuse to change it from doing one thing well to attempting many things badly.
274 One of my objectives is to keep fetchmail simple so it stays reliable.<p>
275
276 Furthermore, since about version 4.3.0 fetchmail has passed out of active
277 development and been essentially stable.  It is no longer my top
278 project, and I am going to be quite reluctant to add features that
279 might either jeopardize its stability or involve me in large
280 amounts of coding.<p>
281
282 All that said, if you have a feature idea that really is about a transport
283 problem that can't be handled anywhere but fetchmail, lay it on me.  I'm
284 very accommodating about good ideas.<p>
285
286 <hr>
287 <h2><a name="G5">G5. Is there a mailing list for exchanging tips?</a></h2>
288
289 There is a fetchmail-friends list for people who want to discuss fixes
290 and improvements in fetchmail and help co-develop it.  It's at <a
291 href="mailto:fetchmail-friends@thyrsus.com">fetchmail-friends@thyrsus.com</a>.
292 There is also an announcements-only list, <em>fetchmail-announce@thyrsus.com</em>.<P>
293
294 Both lists are SmartList reflectors; sign up in the usual way with a
295 message containing the word "subscribe" in the subject line sent to
296 <a href="mailto:fetchmail-friends-request@thyrsus.com?subject=subscribe">
297 fetchmail-friends-request@thyrsus.com</a> or
298 <a href="mailto:fetchmail-announce-request@thyrsus.com?subject=subscribe">
299 fetchmail-announce-request@thyrsus.com</a>. (Similarly, "unsubscribe"
300 in the Subject line unsubscribes you, and "help" returns general list help) <p>
301
302 <hr>
303 <h2><a name="G6">G6. So, what's this I hear about a fetchmail paper?</a></h2>
304
305 The fetchmail development was also a sociological experiment, an
306 extended test to see if my theory about the critical features of the
307 Linux development model is correct.<p>
308
309 The experiment was a success.  I wrote a paper about it titled <a
310 href="http://www.tuxedo.org/~esr/writings/cathedral.html">The
311 Cathedral and the Bazaar</a> which was first presented at Linux
312 Kongress '97 in Bavaria and very well received there. It was also
313 given at Atlanta Linux Expo, Linux Pro '97 in Warsaw, and the first
314 Perl Conference, at UniForum '98, and was the basis of an invited
315 presentation at Usenix '98.  The folks at Netscape tell me it helped
316 them decide to <a
317 href="http://www.netscape.com/newsref/pr/newsrelease558.html"> give
318 away the source for Netscape Communicator</a>.<p>
319
320 If you're reading a non-HTML dump of this FAQ, you can find the paper 
321 on the Web with a search for that title.<p>
322
323 <hr>
324 <h2><a name="G7">G7. What is the best server to use with fetchmail?</a></h2>
325
326 The short answer: IMAP4rev1 running over Unix.<P>
327
328 Here's a longer answer: <P>
329
330 Fetchmail will work with any POP, IMAP, or ESMTP/ETRN server that
331 conforms to the relevant RFCs (and even some outright broken ones like
332 <a href="#S2">Microsoft Exchange</a> and <a href="#S12">Novell
333 GroupWise</a>).  This doesn't mean it works equally well with all,
334 however.  POP2 servers, and POP3 servers without LAST, limit
335 fetchmail's capabilities in various ways described on the manual
336 page.<P>
337
338 Most modern Unixes (and effectively all Linux/*BSD systems) come with
339 POP3 support preconfigured (but beware of the horribly broken POP3
340 server mentioned in <a href="#D2">D2</a>).  An increasing minority
341 also feature IMAP (you can detect IMAP support by running fetchmail in
342 AUTO mode, or by using the `Probe for supported protocols' function in
343 the fetchmailconf utility).<P>
344
345 If you have the option, we recommend using or installing an IMAP4rev1
346 server; it has the best facilities for tracking message `seen' states.
347 It also recovers from interrupted connections more gracefully than
348 POP3, and enables some significant performance optimizations.<P>
349
350 Don't be fooled by NT/Exchange propaganda.  M$ Exchange is just plain
351 broken (see item <a href="#S2">S2</a>) and NT cannot handle the
352 sustained load of a high-volume remote mail server.  Even Microsoft
353 itself knows better than to try this; their own Hotmail service runs
354 over Solaris!  For extended discussion, see John Kirch's excellent <a
355 href="http://unix-vs-nt.org/kirch/">white paper</a> on Unix
356 vs. NT performance.<P>
357
358 You can find sources for IMAP software at <a
359 href="http://www.imap.org">The IMAP Connection</a>; we like the
360 open-source <a href="ftp://ftp.cac.washington.edu/imap/">UW IMAP</a>
361 server, which is the reference implementation of IMAP.  UW IMAP's
362 support for GSSAPI gives you a good way to authenticate without
363 sending a password en clair.<P>
364
365 Source for a high-quality supported implementation of POP is available
366 from the <a href="ftp://ftp.qualcomm.com/eudora/servers/unix/popper/">Eudora
367 FTP site</a>.  Don't use 2.5, which has a rather restrictive license.
368 The 2.5.2 version appears to restore the open-source license of
369 previous versions.<P>
370
371 <hr>
372 <h2><a name="G8">G8. How can I avoid sending my password en clair?</a></h2>
373
374 Depending on what your mail server you are talking to, this ranges
375 from trivial to impossible.  It may even be next to useless.<P>
376
377 Most people use fetchmail over phone wires, which are hard to tap.
378 Anybody with the skill and resources to do this could get into your
379 server mailbox with much less effort by subverting the server host.
380 So if your provider setup is modem wires going straight into a service
381 box, you probably don't need to worry.<P>
382
383 In general there is little point in trying to secure your fetchmail
384 transaction unless you trust the security of the server host you are
385 retrieving mail from.  Your vulnerability is more likely to be an
386 insecure local network on the server end (e.g. to somebody with a TCP/IP
387 packet sniffer intercepting Ethernet traffic between the modem
388 concentrator you dial in to and the mailserver host).<P>
389
390 Having realized this, you need to ask whether password encryption
391 alone will really address your security exposure.  If you think you
392 might be snooped, it's better to use end-to-end encryption on your
393 whole mail stream so none of it can be read.  One of the advantages of
394 fetchmail over conventional SMTP-push delivery is that you may be able
395 to arrange this by using ssh(1); see <a href="#K3">K3</a>.<P>
396
397 If ssh/sshd isn't available, or you find it too complicated for you to
398 set up, password encryption will at least keep a malicious cracker
399 from deleting your mail, and require him to either tap your connection
400 continuously or crack root on the server in order to read it.<P>
401
402 You can deduce what encryptions your mail server has available
403 by looking at the server greeting line (and, for IMAP, the
404 response to a CAPABILITY query).  Do a <code>fetchmail -v</code>
405 to see these, or telnet direct to the server port (110 for POP3, 143 for
406 IMAP).<P>
407
408 The facility you are most likely to have available is APOP.  This is a
409 POP3 feature supported by many servers (fetchmailconf's autoprobe
410 facility will detect it and tell you if you have it).  If you see
411 something in the greeting line that looks like an
412 angle-bracket-enclosed Internet address with a numeric left-hand part,
413 that's an APOP challenge (it will vary each time you log in).  You can
414 register a secret on the host (using <code>popauth(8)</code> or some
415 program like it).  Specify the secret as your password in your
416 .fetchmailrc; it will be used to encrypt the current challenge, and
417 the encrypted form will be sent back the the server for
418 verification.<P>
419
420 Alternatively, you may have Kerberos available. This may require you
421 to set up some magic files in your home directory on your client
422 machine, but means you can omit specifying any password at all.<P>
423
424 Fetchmail supports two different Kerberos schemes.  One is a
425 POP3 variant called KPOP; consult the documentation of your mail
426 server to see if you have it (one clue is the string "krb-IV" in the
427 greeting line on port 110).  The other is an IMAP facility described
428 by RFC1731. You can tell if this one is present by looking for
429 AUTH=KERBEROS_V4 in the CAPABILITY response.<P>
430
431 If you are fetching mail from a CompuServe POP3 account, you can use
432 their RPA authentication (which works much like APOP).  See <a
433 href="#S3">S3</a> for details.  If you are fetching mail from
434 Microsoft Exchange, you will be able to use NTLM.<P>
435
436 Your POP3 server may have the RFC1938 OTP capability to use one-time
437 passwords (if it doesn't, you can get OTP patches for the 2.2 version
438 of the Qualcomm popper from <a href="#cmetz">Craig Metz</a>). To check
439 this, look for the string "otp-" in the greeting line.  If you see it,
440 and your fetchmail was built with OPIE support compiled in (see the
441 distribution INSTALL file), fetchmail will detect it also.  When using
442 OTP, you will specify a password but it will not be sent en clair.<P>
443
444 Sadly, there is at present (September 1999) no OTP or APOP-like
445 facility generally available on IMAP servers.  However, there do exist
446 patches which will OTP-enable the University of Washington IMAP
447 daemon, version 4.2-FINAL.  And we have a report that the GSSAPI
448 support in fetchmail works with the GSSAPI support in the most recent
449 version of UW IMAP.<P>
450
451 You can get both POP3 and IMAP OTP patches from <a name="cmetz">Craig
452 Metz</A>, over FTP via either
453 <a href="ftp://ftp.inner.net/pub/opie/patches">
454 ftp://ftp.inner.net/pub/opie/patches</a> (IPv4) or
455 <a href="ftp://ftp.ipv6.inner.net/pub/opie/patches">
456 ftp://ftp.ipv6.inner.net/pub/opie/patches</a> (IPv6).<P>
457
458 These patches use a SASL authentication method named "X-OTP" because there is
459 not currently a standard way to do this; fetchmail also uses this method, so
460 the two will interoperate happily.  They better, because this is how Craig gets
461 his mail ;-)<P>
462
463 (One important win of OTP is that it's not subject to U.S. export
464 restrictions.)<P>
465
466 <hr>
467 <h2><a name="G9">G9. Is any special configuration needed to use a dynamic IP address?</a></h2>
468
469 Yes. In order to avoid giving indigestion to certain picky MTAs
470 (notably <a href="#T3">exim</a>), fetchmail always makes the RCPT TO
471 address it feeds the MTA a fully qualified one with a hostname part.
472 Normally it does this by appending @ and "localhost", but when you are
473 using Kerberos or ETRN mode it will append @ and your machine's
474 fully-qualified domain name (FQDN).<P>
475
476 Appending the FQDN can create problems when fetchmail is running in daemon
477 mode and outlasts the dynamic IP address assignment your client
478 machine had when it started up.<P>
479
480 Since the new IP address (looked up at RCPT TO interpretation time)
481 doesn't match the original, the most benign possible result is that
482 your MTA thinks it's seeing a relaying attempt and refuses.  More
483 frequently, fetchmail will try to connect to a nonexistent host
484 address and time out.  Worst case, you could up forwarding your mail
485 to the wrong machine!<P>
486
487 Use the <code>smtpaddress</code> option to force the appended hostname
488 to one with a (fixed) IP address of 127.0.0.1 in your
489 <code>/etc/hosts</code>.  (The name `localhost' will usually work; or
490 you can use the IP address itself).<P>
491
492 Only one fetchmail option interacts directly with your IP address,
493 `<code>interface</code>'.  This option can be used to set the gateway
494 device and restrict the IP address range fetchmail will use. Such a
495 restriction is sometimes useful for security reasons, especially on
496 multihomed sites.  See <a href="#C3">C3</a>.<P>
497
498 I recommend against trying to set up the <code>interface</code> option
499 when initially developing your poll configuration -- it's never
500 necessary to do this just to get a link working.  Get the link working
501 first, observe the actual address range you see on connections, and
502 add an <code>interface</code> option (if you need one) later.<P>
503
504 If you're using a dynamic-IP configuration, one other (non-fetchmail)
505 problem you may run into with outgoing mail is that some sites will
506 bounce your email because the hostname your giving them isn't real
507 (and doesn't match what they get doing a reverse DNS on your
508 dynamically-assigned IP address).  If this happens, you need to hack
509 your sendmail so it masquerades as your host.  Setting<P>
510
511 <pre>
512 DMsmarthost.here
513 </pre>
514
515 in your <code>sendmail.cf</code> will work, or you can set<P> 
516
517 <pre>
518 MASQUERADE_AS(smarthost.here)
519 </pre>
520
521 in the m4 configuration and do a reconfigure.  (In both cases, replace
522 <code>smarthost.here</code> with the actual name of your mailhost.)
523 See the <a href="http://www.lege.com/sendmail-FAQ.txt">sendmail
524 FAQ</a> for more details.<P>
525
526 <hr>
527 <h2><a name="G10">G10. Is any special configuration needed to use firewalls?</a></h2>
528
529 No.  You can use fetchmail with SOCKS, the standard tool for
530 indirecting TCP/IP through a firewall.  You can find out about SOCKS,
531 and download the SOCKS software including server and client code, at
532 the <a href="http://www.socks.nec.com/">SOCKS distribution
533 site</a>.<P>
534
535 The specific recipe for using fetchmail with a firewall is at <a
536 href="#K1">K1</a><P>
537
538 <hr>
539 <h2><a name="B1">B1. Lex bombs out while building the fetchmail lexer.</a></h2>
540
541 In the immortal words of Alan Cox the last time this came up: ``Take
542 the Solaris lex and stick it up the backside of a passing Sun
543 salesman, then install <a
544 href="ftp://prep.ai.mit.edu/ftp/pub/gnu">flex</a> and use that.  All
545 will be happier.''<P>
546
547 I couldn't have put it better myself, and ain't going to try now.<P>
548
549 <hr>
550 <h2><a name="G11">G11. Is any special configuration needed to <em>send</em> mail?</a></h2>
551
552 A user asks: but how do we send mail out to the POP3 server? Do I need
553 to implement another tool or will fetchmail do this too?<p>
554
555 Fetchmail only handles the receiving side.  The sendmail or other
556 preinstalled MTA on your client machine will handle sending mail
557 automatically; it will ship mail that is submitted while the
558 connection is active, and put mail that is submitted while
559 the connection is inactive into the outgoing queue.<P>
560
561 Normally, sendmail is also run periodically (every 15 minutes on most
562 Linux systems) in a mode that tries to ship all the mail in the
563 outgoing queue.  If you have set up something like pppd to
564 automatically dial out when your kernel is called to open a TCP/IP
565 connection, this will ensure that the mail gets out.<P>
566
567 <hr>
568 <h2><a name="G12">G12. Is fetchmail Y2K-compliant?</a></h2>
569
570 Fetchmail is fully Y2K-compliant.<P> 
571
572 Fetchmail could theoretically have problems when the 32-bit time_t
573 counters roll over in 2038, but I doubt it.  Timestamps aren't used
574 for anything but log entry generation.  Anyway, if you aren't running
575 on a 64-bit machine by then, you deserve to lose.<P>
576
577 <hr>
578 <h2><a name="G13">G13. Is there a way in fetchmail to support disconnected IMAP mode?</a></H2>
579
580 No. Fetchmail is a mail transport agent, best understood as a protocol
581 gateway between POP3/IMAP servers and SMTP.  Disconnected operation
582 requires an elaborate interactive client.  It's a very different problem.<p>
583
584 <hr>
585 <h2><a name="B2">B2. I get link failures when I try to build fetchmail.</a></h2>
586
587 If you get errors resembling these<P>
588
589 <pre>
590 mxget.o(.text+0x35): undefined referenceto `__res_search' 
591 mxget.o(.text+0x99): undefined reference to`__dn_skipname' 
592 mxget.o(.text+0x11c): undefined reference to`__dn_expand' 
593 mxget.o(.text+0x187): undefined reference to`__dn_expand' 
594 make: *** [fetchmail] Error 1
595 </pre>
596
597 then you must add "-lresolv" to the LOADLIBS line in your Makefile 
598 once you have installed the `bind' package.<P>
599
600 <hr>
601 <h2><a name="F1">F1. Why does my old .fetchmailrc file no longer work?</a></h2>
602
603 <h3>If your file predates 5.1.0</h3>
604
605 In 5.1.0, the <tt>auth</tt> keyword and option were changed to
606 <tt>preauth</tt>.<p>
607
608 <h3>If your file predates 4.5.5</h3>
609
610 If the <code>dns</code> option is on (the default), you may need to
611 make sure that any hostname you specify (for mail hosts or for an SMTP
612 target) is a canonical fully-qualified hostname).  In order to avoid
613 DNS overhead and complications, fetchmail no longer tries to derive
614 the fetchmail client machine's canonical DNS name at startup.<P>
615
616 <h3>If your file predates 4.0.6:</h3>
617
618 Just after the `<CODE>via</CODE>' option was introduced, I realized
619 that the interactions between the `<CODE>via</CODE>',
620 `<CODE>aka</CODE>', and `<CODE>localdomains</CODE>' options were out
621 of control.  Their behavior had become complex and confusing, so much so
622 that I was no longer sure I understood it myself.  Users were being
623 unpleasantly surprised.<P>
624
625 Rather than add more options or crock the code, I re-thought it.  The
626 redesign simplified the code and made the options more orthogonal, but
627 may have broken some complex multidrop configurations.
628
629 Any multidrop configurations that depended on the name just after the
630 `<CODE>poll</CODE>' or `<CODE>skip</CODE>' keyword being still
631 interpreted as a DNS name for address-matching purposes, even in the
632 presence of a `<CODE>via</CODE>' option, will break.<P>
633
634 It is theoretically possible that other unusual configurations (such
635 as those using a non-FQDN poll name to generate Kerberos IV tickets) might
636 also break; the old behavior was sufficiently murky that we can't be
637 sure.  If you think this has happened to you, contact the maintainer.<P>
638
639 <h3>If your file predates 3.9.5:</h3>
640
641 The `<code>remote</code>' keyword has been changed to `<code>folder</code>'.
642 If you try to use the old keyword, the parser will utter a warning.<P>
643
644 <h3>If your file predates 3.9:</h3>
645
646 It could be because you're using a .fetchmailrc that's written in the
647 old popclient syntax without an explicit `<CODE>username</CODE>'
648 keyword leading the first user entry attached to a server entry.
649
650 This error can be triggered by having a user option such as `<CODE>keep</CODE>'
651 or `<CODE>fetchall</CODE>' before the first explicit username.  For
652 example, if you write<p>
653
654 <pre>
655 poll openmail protocol pop3
656         keep user "Hal DeVore" there is hdevore here
657 </pre>
658
659 the `<CODE>keep</CODE>' option will generate an entire user entry with
660 the default username (the name of fetchmail's invoking user).<p>
661
662 The popclient compatibility syntax was removed in 4.0.  It complicated
663 the configuration file grammar and confused users.<p>
664
665 <h3>If your file predates 2.8:</h3>
666
667 The `<CODE>interface</CODE>', `<CODE>monitor</CODE>' and
668 `<CODE>batchlimit</CODE>' options changed after 2.8.<p>
669
670 They used to be global options with `<CODE>set</CODE>' syntax like the
671 batchlimit and logfile options.  Now they're per-server options, like
672 `<CODE>protocol</CODE>'.<p>
673
674 If you had something like<p>
675
676 <pre>
677         set interface = "sl0/10.0.2.15"
678 </pre>
679
680 in your .fetchmailrc file, simply delete that line and insert 
681 `interface sl0/10.0.2.15' in the server options part of your `defaults'
682 declaration.<p>
683
684 Do similarly for any `<CODE>monitor</CODE>' or `<CODE>batchlimit</CODE>' options.<p>
685
686 <hr>
687 <h2><a name="F2">F2. The .fetchmailrc parser won't accept my all-numeric user name.</a></h2>
688
689 Either upgrade to a post-5.0.5 fetchmail or put string quotes around it. :-)<p>
690
691 The configuration file parser in older fetchmail versions treated any
692 all-numeric token as a number, which confused it when it was
693 expecting a name.  String quoting forces the token's class.<p>
694
695 The lexical analyzer in 5.0.6 and beyond is smarter and assumes
696 any token following "username" or "password" is a string.
697
698 <hr>
699 <h2><a name="F3">F3. The .fetchmailrc parser won't accept my host or username beginning with `no'.</a></h2>
700
701 See <a href="#F2">F2</a> You're caught in an unfortunate crack between
702 the newer-style syntax for negated options (`no keep', `no rewrite'
703 etc.) and the older style run-on syntax (`nokeep', `norewrite'
704 etc.).<p>
705
706 Upgrade to a 5.0.6 or later fetchmail, or put string quotes around your
707 token.<p>
708
709 <hr>
710 <h2><a name="F4">F4. I'm migrating from popclient.  How do I need to modify my .poprc?</a></h2>
711
712 If you have been using popclient (the ancestor of this program)
713 at version 3.0b6 or later, start with this<p>
714
715 <pre>
716 (cd; mv .poprc .fetchmailrc)
717 </pre>
718
719 and do <code>fetchmail -V</code> to see if fetchmail's parser understands
720 your configuration.<p>
721
722 Be aware that some of popclient's unnecessary options have been
723 removed (see the NOTES file in the distribution for explanation).  You
724 can't deliver to a local mail file or to standard output any more, and
725 using an MDA for delivery is discouraged.  If you throw those options
726 away, fetchmail will now forward your mail into your system's normal
727 Internet-mail delivery path.<p>
728
729 Actually, using an MDA is now almost always the wrong thing; the MDA
730 facility has been retained only for people who can't or won't run a
731 sendmail-like SMTP listener on port 25. The default, SMTP forwarding
732 to port 25, is better for at least three major reasons.  One: it feeds
733 retrieved POP and IMAP mail into your system's normal delivery path
734 along with local mail and normal Internet mail, so all your normal
735 filtering/aliasing/forwarding setup for local mail works.  Two:
736 because the port 25 listener returns a positive acknowledge, fetchmail
737 can be sure you're not going to lose mail to a disk-full or some other
738 resource-exhaustion problem.  Three: it means fetchmail doesn't have 
739 to know where the system mailboxes are, or futz with file locking
740 (which makes two fewer places for it to potentially mess up).<p>
741
742 If you used to use <CODE>-mda "procmail -d</CODE>
743 <em>&lt;you&gt;</em><CODE>"</CODE> or something similar, forward to port
744 25 and do "<CODE>| procmail -d</CODE> <em>&lt;you&gt;</em><CODE>"</CODE> in
745 your ~/.forward file.<p>
746
747 As long as your new .fetchmailrc file does not use the removed
748 `localfolder' option or `<CODE>limit</CODE>' (which now takes a
749 maximum byte size rather than a line count), a straight move or copy
750 of your .poprc will often work.  (The new run control file syntax also
751 has to be a little stricter about the order of options than the old,
752 in order to support multiple user descriptions per server; thus you
753 may have to rearrange things a bit.)<p>
754
755 Run control files in the minimal .poprc format (without the `username'
756 token) will trigger a warning.  To eliminate this warning, add the
757 `<CODE>username</CODE>' keyword before your first user entry per server (it is
758 already required before second and subsequent user entries per server.<p>
759
760 In some future version the `<CODE>username</CODE>' keyword will be required.<p>
761
762 <hr>
763 <h2><a name="F5">F5. I'm getting a `parse error' message I don't understand.</a></h2>
764
765 The most common cause of mysterious parse errors is putting a server
766 option after a user option.  Check the manual page; you'll probably
767 find that by moving one or more options closer to the `poll' keyword
768 you can eliminate the problem.<p>
769
770 Yes, I know these ordering restrictions are hard to understand.
771 Unfortunately, they're necessary in order to allow the `defaults' 
772 feature to work.<P>
773
774 <hr>
775 <h2><a name="C1">C1. Why do I need a .fetchmailrc when running as root on my own machine?</a></h2>
776
777 Ian T. Zimmerman &lt;itz@rahul.net&gt; asked:<p>
778
779 On the machine where I'm the only real user, I run fetchmail as root
780 from a cron job, like this:<p>
781
782 <pre>
783     fetchmail -u "itz" -p POP3 -s bolero.rahul.net
784 </pre>
785
786 This used to work as is (with no .fetchmailrc file in root's home
787 directory) with the last version I had (1.7 or 1.8, I don't
788 remember).  But with 2.0, it RECPs all mail to the local root user,
789 unless I create a .fetchmailrc in root's home directory containing:<p>
790
791 <pre>
792      skip bolero.rahul.net proto POP3
793           user itz is itz
794 </pre>
795
796 It won't work if the second line is just "<CODE>user itz</CODE>".  This is silly.<p>
797
798 It seems fetchmail decides to RECP the `default local user' (i.e. the
799 uid running fetchmail) unless there are local aliases, and the
800 `default' aliases (itz-&gt;itz) don't count.  They should.<p>
801
802 Answer:<p>
803
804 No they shouldn't.   I thought about this for a while, and I don't much
805 like the conclusion I reached, but it's unavoidable.  The problem is
806 that fetchmail has no way to know, in general, that a local user `itz'
807 actually exists.<p>
808
809 "Ah!" you say, "Why doesn't it check the password file to see if the remote
810 name matches a local one?"  Well, there are two reasons.<p>
811
812 One: it's not always possible.  Suppose you have an SMTP host declared
813 that's not the machine fetchmail is running on?  You lose.<p>
814
815 Two: How do you know server itz and SMTP-host itz are the same person?
816 They might not be, and fetchmail shouldn't assume they are unless
817 local-itz can explicitly produce credentials to prove it (that is, the
818 server-itz password in local-itz's .fetchmailrc file.).<p>
819
820 Once you start running down possible failure modes and thinking about
821 ways to tinker with the mapping rules, you'll quickly find that all the
822 alternatives to the present default are worse or unacceptably
823 more complicated or both.<p>
824
825 <hr>
826 <h2><a name="C2">C2. How can I arrange for a fetchmail daemon to get killed when I log out?</a></h2>
827
828 The easiest way to dispatch fetchmail on logout (which will work
829 reliably only if you have just one login going at any time) is to
830 arrange for the command `fetchmail -q' to be called on logout.  Under
831 bash, you can arrange this by putting `fetchmail -q' in the file
832 `~/.bash_logout'.  Most csh variants execute `~/.logout' on logout.
833 For other shells, consult your shell manual page.<p>
834
835 Automatic startup/shutdown of fetchmail is a little harder to arrange
836 if you may have multiple login sessions going.  In the contrib
837 subdirectory of the fetchmail distribution there is some shell code
838 you can add to your .bash_login and .bash_logout profiles that will
839 accomplish this.  Thank James Laferriere &lt;babydr@nwrain.net&gt; for
840 it.<p>
841
842 Some people start up and shut down fetchmail using the ppp-up and
843 ppp-down scripts of pppd.<p>
844
845 <hr>
846 <h2><a name="C3">C3. How do I know what interface and address to use with --interface?</a></h2>
847
848 This depends a lot on your local networking configuration (and right
849 now you can't use it at all except under Linux).  However, here are
850 some important rules of thumb that can help.  If they don't work, ask
851 your local sysop or your Internet provider.<p>
852
853 First, you may not need to use --interface at all.  If your machine
854 only ever does SLIP or PPP to one provider, it's almost certainly by a
855 point to point modem connection to your provider's local subnet that's
856 pretty secure against snooping (unless someone can tap your phone or
857 the provider's local subnet!).  Under these circumstances, specifying
858 an interface address is fairly pointless.<p>
859
860 What the option is really for is sites that use more than one
861 provider.  Under these circumstances, typically one of your provider
862 IP addresses is your mailserver (reachable fairly securely via the
863 modem and provider's subnet) but the others might ship your packets
864 (including your password) over unknown portions of the general
865 Internet that could be vulnerable to snooping.  What you'll use
866 --interface for is to make sure your password only goes over the 
867 one secure link.<p>
868
869 To determine the device:<p>
870
871 <ol>
872 <li> If you're using a SLIP link, the correct device is probably sl0.
873 <li> If you're using a PPP link, the correct device is probably ppp0.  
874 <li> If you're using a direct connection over a local network such as
875      an ethernet, use the command `netstat -r' to look at your routing table. 
876      Try to match your mailserver name to a destination entry; if you don't
877      see it in the first column, use the `default' entry.  The device name
878      will be in the rightmost column.
879 </ol>
880
881 To determine the address and netmask:<p>
882
883 <ol>
884 <li> If you're talking to slirp, the correct address is probably 10.0.2.15,
885      with no netmask specified.  (It's possible to configure slirp to present
886      other addresses, but that's the default.)
887
888 <li> If you have a static IP address, run `ifconfig &lt;device&gt;', where &lt;device&gt;
889      is whichever one you've determined.  Use the IP address given after
890      "inet addr:".  That is the IP address for your end of the link, and is
891      what you need.  You won't need to specify a netmask.
892
893 <li> If you have a dynamic IP address, your connection IP will vary randomly
894      over some given range (that is, some number of the least significant bits
895      change from connection to connection).  You need to declare an address 
896      with the variable bits zero and a complementary netmask that sets
897      the range.
898 </ol>
899
900 To illustrate the rule for dynamic IP addresses, let's suppose you're
901 hooked up via SLIP and your IP provider tells you that the dynamic
902 address pool is 255 addresses ranging from 205.164.136.1 to
903 205.164.136.255.  Then<p>
904
905 <pre>
906         interface "sl0/205.164.136.0/255.255.255.0"
907 </pre>
908
909 would work.  To range over any value of the last two octets
910 (65536 addresses) you would use<p>
911
912 <pre>
913         interface "sl0/205.164.0.0/255.255.0.0"
914 </pre>
915
916 <hr>
917 <h2><a name="C4">C4. How can I set up support for sendmail's anti-spam features?</a></h2>
918
919 This answer covers versions of sendmail from 8.8.7 (the version
920 installed in Red Hat 5.1) upwards.  If you have an older version,
921 upgrade to sendmail 8.9.<P>
922
923 Stock sendmails can now do anti-spam exclusions based on a database of
924 filter rules.  The human-readable form of the database is at
925 <tt>/etc/mail/deny</tt>. The database itself is at
926 <tt>/etc/mail/deny.db</tt>.<P>
927
928 The table itself uses email addresses, domain names, and network
929 numbers as keys.  For example,</P>
930 <PRE>
931 spammer@aol.com         REJECT
932 cyberspammer.com        REJECT
933 192.168.212             REJECT
934 </PRE>
935 <P>would refuse mail from spammer@aol.com, any user from
936 cyberspammer.com (or any host within the cyberspammer.com domain), and
937 any host on the 192.168.212.* network.  (This feature can be used to
938 do other things as well; see the <a
939 href="http://www.sendmail.org/m4/anti-spam.html">sendmail
940 documentation</a> for details)</P>
941
942 To actually set up the database, run 
943
944 <pre>
945 makemap hash deny &lt;deny
946 </pre>
947 in /etc/mail.<P>
948
949 To test, send a message to your mailing address from that host and
950 then pop off the message with fetchmail, using the -v argument.  You
951 can monitor the SMTP transaction, and when the FROM address is parsed,
952 if sendmail sees that it is an address in spamlist, fetchmail will
953 flush and delete it.<p>
954
955 Under no circumstances put your <strong>mailhost</strong> or <strong>any host
956 you accept mail from</strong> using fetchmail into your reject file.  You
957 <strong>will</strong> lose mail if you do this!!!<p>
958
959 <hr>
960 <h2><a name="T1">T1. How can I use fetchmail with sendmail?</a></h2>
961
962 For most sendmails, no special configuration is required.  Eric Allman
963 tells me that if <code>FEATURE(always_add_domain)</code> is included
964 in sendmail's configuration, you can leave the <code>rewrite</code>
965 option off.<P>
966
967 If your sendmail complains ``sendmail does not relay'',  make sure
968 your sendmail,cf file says 
969
970 <code>
971 Cwlocalhost
972 </code>
973
974 so that sendmail recognizes `localhost' as a name of its host.<p>
975
976 If you're mailing from another machine on your local network, also
977 ensure that its IP address is listed in ip_allow or name in name_allow
978 (usually in /etc/mail/)<p>
979
980 If you find that your sendmail doesn't like the address 
981 `FETCHMAIL-DAEMON@localhost' (which is used in the bouncemail
982 that fetchmail generates), you may have to set 
983 <code>FEATURE(accept_unqualified_senders)</code>.<P>
984
985 G&uuml;nther Leber reports that Digital Unix sendmails won't work with
986 fetchmail.  The symptom is an error message "<code>553 Local configuration
987 error, hostname not recognized as local</code>". The problem is that
988 fetchmail normally feeds sendmail with the client machine's host
989 address in the MAIL FROM line.  These sendmails think this means
990 they're seeing the result of a mail loop and suppress the mail.  You
991 may be able to work around this by running in <code>--invisible</code> mode.<P>
992
993 If you want to support multidrop mode, and you can get access to your 
994 mailserver's sendmail.cf file, it's a good idea to add this rule:<P>
995
996 <pre>
997 H?l?Delivered-To: $u
998 </pre>
999
1000 and declare `<CODE>envelope "Delivered-To:"</CODE>'. This will cause the
1001 mailserver's sendmail to reliably write the appropriate envelope
1002 address into each message before fetchmail sees it, and tell fetchmail
1003 which header it is.  With this change, multidrop mode should work
1004 reliably even when the Received header omits the envelope address
1005 (which will typically be the case when the message has multiple
1006 recipients). <P>  
1007
1008 <hr>
1009 <h2><a name="T2">T2. How can I use fetchmail with qmail?</a></h2>
1010
1011 Turn on the <CODE>forcecr</CODE> option; qmail's listener mode doesn't like 
1012 header or message lines terminated with bare linefeeds.<p>
1013
1014 (This information is thanks to Robert de Bath 
1015 &lt;robert@mayday.cix.co.uk&gt;.)<p>
1016
1017 If a mailhost is using the qmail package (see <a
1018 href="http://pobox.com/~djb/qmail.html">http://pobox.com/~djb/qmail.html</a>)
1019 then, providing the local hosts are also using qmail, it is possible
1020 to set up one fetchmail link to be reliably collect the mail for an
1021 entire domain.<p>
1022
1023 One of the basic features of qmail is the `Delivered-To:' message
1024 header.  Whenever qmail delivers a message to a local mailbox it puts
1025 the username and hostname of the envelope recipient on this line.  The
1026 major reason for this is to prevent mail loops. <p>
1027
1028 To set up qmail to batch mail for a disconnected site the ISP-mailhost
1029 will have normally put that site in its `virtualhosts' control file so
1030 it will add a prefix to all mail addresses for this site. This results
1031 in mail sent to 'username@userhost.userdom.dom.com' having a
1032 'Delivered-To:' line of the form:<p>
1033
1034 <pre>
1035        Delivered-To: mbox-userstr-username@userhost.userdom.dom.com
1036 </pre>
1037
1038 A single host maildrop will be slightly simpler:
1039
1040 <pre>
1041        Delivered-To: mbox-userstr-username@userhost.dom.com
1042 </pre>
1043
1044 The ISP can make the 'mbox-userstr-' prefix anything they choose
1045 but a string matching the user host name is likely.<p>
1046
1047 To use this line you must:<p>
1048
1049 <ol>
1050 <li>Ensure the option `envelope Delivered-To:' is in the fetchmail
1051     config file.
1052
1053 <li>Ensure you have a localdomains containing 'userdom.dom.com' or
1054     `userhost.dom.com' respectively.
1055 </ol>
1056
1057 So far this reliably delivers messages to the correct machine of the
1058 local network, to deliver to the correct user the 'mbox-userstr-'
1059 prefix must be stripped off of the user name. This can be done by
1060 setting up an alias within the qmail MTA on each local machine.
1061 Simply create a dot-qmail file called '.qmail-mbox-userstr-default'
1062 in the alias directory (normally /var/qmail/alias) with the contents:<p>
1063
1064 <pre>
1065       | ../bin/qmail-inject -a -f"$SENDER" "${LOCAL#mbox-userstr-}@$HOST"
1066 </pre>
1067
1068 Note this <em>does</em> require a modern /bin/sh.<p>
1069
1070 Peter Wilson adds: <P>
1071
1072 ``My ISP uses "alias-unzzippedcom-" as the prefix, which means that I
1073 need to name my file ".qmail-unzzippedcom-default". This is due to
1074 qmail's assumption that a message sent to user-xyz is handled by the
1075 file ~user/.qmail-xyz (or ~user/.qmail-default).''<p>
1076
1077 Luca Olivetti adds:<P>
1078
1079 If you aren't using qmail locally, or you don't want to set up the
1080 alias mechanism described above, you can use the option `<code>qvirtual
1081 "mbox-userstr-"</code>' in your fetchmail config file to strip the prefix
1082 from the local user name.<p>
1083
1084 <hr>
1085 <h2><a name="T3">T3. How can I use fetchmail with exim?</a></h2><p>
1086
1087 If you have <CODE>rewrite</CODE> on: <P>
1088
1089 There is an RFC1123 requirement that MAIL FROM and RCPT TO addresses
1090 you pass to it have to be canonical (e.g. with a fully qualified
1091 hostname part).  Therefore fetchmail tries to pass fully qualified
1092 RCPT TO addresses.  But exim does not by default accept `localhost' as
1093 a fully qualified domain.  This can be fixed.<P>
1094
1095 In exim.conf, add `localhost' to your local_domains declaration if it's not
1096 already present.  For example, the author's site at thyrsus.com would
1097 have a line reading:<P>
1098
1099 <pre>
1100        local_domains = thyrsus.com:localhost
1101 </pre>
1102
1103 If you have <CODE>rewrite</CODE> off:<P>
1104
1105 MAIL FROM is a potential problem if the MTAs upstream from your fetchmail
1106 don't necessarily pass canonicalized From and Return-Path addresses,
1107 and fetchmail's <CODE>rewrite</CODE> option is off.  The specific case
1108 where this has come up involves bounce messages generated by sendmail
1109 on your mailer host, which have the (un-canonicalized) origin address
1110 MAILER-DAEMON.<p>
1111
1112 The right way to fix this is to enable the <CODE>rewrite</CODE> option and
1113 have fetchmail canonicalize From and Return-Path addresses with the
1114 mailserver hostname before exim sees them.  This option is enabled by
1115 default, so it won't be off unless you turned it off.<p>
1116
1117 If you must run with <CODE>rewrite</CODE> off, there is a switch in exim's
1118 configuration files that allows it to accept domainless MAIL FROM
1119 addresses; you will have to flip it by putting the line <p>
1120
1121 <pre>
1122         sender_unqualified_hosts = localhost
1123 </pre>
1124
1125 in the main section of the exim configuration file.  Note that this
1126 will result in such messages having an incorrect domain name attached
1127 to their return address (your SMTP listener's hostname rather than
1128 that of the remote mail server). <p>
1129
1130 <hr>
1131 <h2><a name="T4">T4. How can I use fetchmail with smail?</a></h2><p>
1132
1133 Smail 3.2 is very nearly plug-compatible with sendmail, and may work
1134 fine out of the box.<P>
1135
1136 We have one report that when processing multiple messages from a
1137 single fetchmail session, smail sometimes delivers them in an
1138 order other than received-date order.  This can be annoying because it
1139 scrambles conversational threads.  This is not fetchmail's problem,
1140 it is an smail `feature' and has been reported to the maintainers
1141 as a bug.<P>
1142
1143 Very recent smail versions require an <code>-smtp_hello_verify</code>
1144 option in the smail config file.  This overrides smail's check to see
1145 that the HELO address is actually that of the client machine, which
1146 is never going to be the case when fetchmail is in the picture.
1147 According to RFC1123 an SMTP listener <em>must</em> allow this
1148 mismatch, so smail's new behavior (introduced sometime between
1149 3.2.0.90 and 3.2.0.95) is a bug.<P>
1150
1151 <hr>
1152 <h2><a name="T5">T5. How can I use fetchmail with SCO's MMDF?</a></h2><p>
1153
1154 MMDF itself is difficult to configure, but it turns out that
1155 connecting fetchmail to MMDF's SMTP channel isn't that hard.
1156 You can read an <a
1157 href="http://www.aplawrence.com/Unixart/uucptofetch.html">
1158 MMDF recipe</a> that describes replacing a UUCP link with
1159 fetchmail feeding MMDF.<P>
1160
1161 <hr>
1162 <h2><a name="T6">T6. How can I use fetchmail with Lotus Notes?</a></h2><p>
1163
1164 The Lotus Notes SMTP gateway tries to deduce when it should convert \n
1165 to \r\n, but its rules are not the intuitive and correct-for-RFC822
1166 ones.  Use `forcecr'.<P>
1167
1168 <hr>
1169 <h2><a name="S1">S1. How can I use fetchmail with qpopper?</a></h2>
1170
1171 Qualcomm's qpopper is probably the best-of-breed among POP3 servers, and
1172 is very widely deployed.  Nevertheless, it has some problems which
1173 fetchmail exposes.  We recommend using <a href="#G7">IMAP</a> instead if at
1174 all possible.  If you must talk to qpopper, here are some problems to
1175 be aware of:<p>
1176
1177 <h3>Problems with retrieving large messages from qpopper 2.53</h3>
1178
1179 Tony Tang <a href="mailto:tony@atn.com.hk">&lt;tony@atn.com.hk&gt;</a>
1180 reports that there is a bad intercation between fetchmail and qpopper
1181 2.5.3 under Red Hat Linux versions 5.0 to 5.2, kernels 2.0.34 to
1182 2.0.35.  When fetching very large messages (over 700K) from 2.5.3,
1183 fetchmail will hang with a socket error.<p>
1184
1185 This is probably not a fetchmail bug, but rather a symptom of some
1186 problem in the networking stack that qpopper's transmission pattern is
1187 tickling, as fetchpop (another Linux POP client) also displays the hang
1188 but Netscape running under Win95 does not.  The problem can also be
1189 banished by <a
1190 href="http://www.eudora.com/freeware/qpop.html">upgrading to qpopper
1191 3.0b1</a>.<p>
1192
1193 <h3>Bad interaction with fetchmail 4.4.2 to 4,4.7</h3>
1194
1195 Versions of fetchmail from 4.4.2 through 4.4.7 had a bad interaction 
1196 with Eudora qpopper versions 2.3 and later.  See <a href="#X5">X5</a>
1197 for details.  The solution is to upgrade your fetchmail.<p>
1198
1199 <hr>
1200 <h2><a name="S2">S2. How can I use fetchmail with Microsoft Exchange?</a></h2>
1201
1202 Fetchmail now supports the proprietary NTLM mode used with M$ Exchange
1203 servers. To enable this, configure fetchmail with the --enable-NTLM
1204 option and recompile it.<P>
1205
1206 M$ Exchange violates the POP3 RFCs.  Its LIST command does not reveal
1207 the real sizes of mail in the pop mailbox, but the sizes of the
1208 compressed versions in the exchange mail database (thanks to Arjan De
1209 Vet and Guido Van Rooij for alerting us to this problem).<P>
1210
1211 Fetchmail works with M$ Exchange, despite this brain damage.  Two
1212 features are compromised.  One is that the --limit option will not
1213 work right (it will check against compressed and not actual sizes).
1214 The other is that a too-small SIZE argument may be passed to your
1215 ESMTP listener, assuming you're using one (this should not be a
1216 problem unless the actual size of the message is above the listener's
1217 configured length limit).<P>
1218
1219 Somewhat belatedly, I've learned that there's supposed to be a
1220 registry bit that can fix this breakage:<P>
1221
1222 <pre>
1223 HKEY_LOCAL_MACHINE\System\CurrentControlSet\Services\MsExchangeIs\Parameters
1224 System\Pop3 Compatibility
1225 </pre>
1226
1227 This is a bitmask that controls the variations from the standard protocol.
1228 The bits defined are:<P>
1229
1230 <DL>
1231 <DT>0x00000001:
1232 <DD>Report exact message sizes for the LIST command
1233 <DT>0x00000002:
1234 <DD>Allow arbitrary linear whitespace between commands and arguments
1235 <DT>0x00000004:
1236 <DD>Enable the LAST command
1237 <DT>0x00000008:
1238 <DD>Allow an empty PASS command (needed for users with blank
1239 passwords, but illegal in the protocol)
1240 <DT>0x00000010:
1241 <DD>Relax the length restrictions for arguments to commands (protocol
1242 requires 40, but some user names may be longer than that).
1243 <DT>0x00000020:
1244 <DD>Allow spaces in the argument to the USER command.
1245 </DL>
1246
1247 There's another one that may be useful to know about:<P>
1248
1249 <pre>
1250 KEY_LOCAL_MACHINE\System\CurrentControlSet\Services\MsExchangeIs\Parameters
1251 System\Pop3 Performance
1252 </pre>
1253
1254 <DL>
1255 <DT>0x00000001:
1256 <DD>Render messages to a temporary stream instead of sending directly
1257 from the database (should always be on)
1258 <DT>0x00000002:
1259 Flag unrenderable messages (instead of just failing commands)
1260 (should only be on if you are seeing the problems reported
1261 in KB Q168109)
1262 <DT>0x00000004:
1263 <DD>Return from the QUIT command before all messages have been deleted.
1264 </DL>
1265
1266 The Microsoft pod-person who revealed this information to me admitted
1267 that he couldn't find it anywhere in their public knowledge base.<P>
1268
1269 You can mess with these bits.  Or, better yet, you can lose that
1270 brain-dead Microsoft crap and install a real operating system on your
1271 mailserver.<P>
1272
1273 <hr>
1274 <h2><a name="S3">S3. How can I use fetchmail with CompuServe RPA?</a></h2>
1275
1276 First, make sure your fetchmail has the RPA support compiled in.
1277 Stock fetchmail binaries (such as you might get from an RPM) don't.
1278 You can check this by looking at the output of <code>fetchmail -V</code>;
1279 if you see the string "+RPA" after the version ID you're good to go,
1280 otherwise you'll have to build your own from sources (see the INSTALL
1281 file in the source distribution for directions).<P>  
1282
1283 Give your CompuServe pass-phrase in lower case as your password.  Add
1284 `@compuserve.com' to your user ID so that it looks like `user
1285 &lt;UserID&gt;@compuserve.com', where &lt;UserID&gt; can be either
1286 your numerical userID or your E-mail nickname. An RPA-enabled
1287 fetchmail will automatically check for csi.com in the POP server's
1288 greeting line.  If that's found, and your user ID ends with
1289 `@compuserve.com', it will query the server to see if it
1290 is RPA-capable, and if so do an RPA transaction rather than a
1291 plain-text password handshake.<P>
1292
1293 <strong>Warning:</strong> the debug (-v -v) output of fetchmail will show
1294 your pass-phrase in Unicode!<P>
1295
1296 These two .fetchmailrc entries show the difference between an RPA and
1297 non-RPA configuration:
1298
1299 <pre>
1300 # This version will use RPA
1301 poll csi.com via "pop.site1.csi.com" with proto POP3 and options no dns
1302     user "CSERVE_USER@compuserve.com" there with password "CSERVE_PASSWORD"
1303         is LOCAL_USER here options fetchall stripcr
1304
1305 # This version will not use RPA
1306 poll non-rpa.csi.com via "pop.site1.csi.com" with proto POP3 and options no dns
1307     user "CSERVE_USER" there with password "CSERVE_POP3_PASSWORD"
1308        is LOCAL_USER here options fetchall stripcr
1309 </pre>
1310
1311 <hr>
1312 <h2><a name="S4">S4. How can I use fetchmail with Demon Internet's SDPS?</a></h2>
1313
1314 <h3>Single-drop mode</h3>
1315
1316 You can get fetchmail to download the email for just one user from
1317 Demon Internet's POP3 server by giving it a username consisting of your
1318 Demon user name followed by your account name, with an at-sign between
1319 them.<P>
1320
1321 For example, to download email for the user &lt;philh@vision25.demon.co.uk&gt;,
1322 you could use the following .fetchmailrc file:<P>
1323
1324 <pre>
1325 set postmaster "philh"
1326 poll pop3.demon.co.uk with protocol POP3:
1327     user "philh@vision25" is philh
1328 </pre>
1329
1330 <h3>Multi-drop mode</h3>
1331
1332 Demon Internet's SDPS service is an implementation of POP3. All messages
1333 have a Received: header added when they enter the maildrop, like this:
1334
1335 <pre>
1336    Received: from punt-1.mail.demon.net by mailstore for fred@xyz.demon.co.uk
1337              id 899963657:10:27896:0; Thu, 09 Jul 98 05:54:17 GMT
1338 </pre>
1339
1340 To enable multi-drop mode you need to tell fetchmail that 'mailstore' is
1341 the name of the host which accepted the mail, and let it know the
1342 hostname part(s) of your E-mail address. The following example assumes
1343 that your hostname is xyz.demon.co.uk, and that you have also bought
1344 "mail forwarding" for the domain my-company.co.uk (in which case your
1345 MTA must also be configured to accept mail sent to user@my-company.co.uk)
1346
1347 <pre>
1348      poll pop3.demon.co.uk proto pop3 aka mailstore no dns:
1349        localdomains xyz.demon.co.uk my-company.co.uk
1350        user xyz is * fetchall
1351 </pre>
1352
1353 The `fetchall' command ensures that all mail is downloaded. If you
1354 want to leave mail on the server use `uidl' and `keep'; Demon does not
1355 implement the obsolete `top' command, because SDPS combines messages
1356 residing on two separate punt clusters into a single POP3 maildrop.
1357 If you do use UIDL, be aware that the "user@host" form for fetching
1358 mail from a particular Demon host will confuse fetchmail's UIDL code;
1359 use user+host.<P>
1360
1361 Note that Demon may delete mail on the server which is more than 30
1362 days old; see their <a
1363 href="http://www.demon.net/services/mail/pop3.html">POP3 page</a> for
1364 details.<P>
1365
1366 <h3>The SDPS extension</h3>
1367
1368 There's a different way to do multidrop.  It's not necessary on Demon
1369 Internet, since fetchmail can parse Received addresses, but the person
1370 who implemented this didn't know that. It may be useful if Demon
1371 Internet ever changes mail transports.<P>
1372
1373 SDPS includes a non-standard extension for retrieving the envelope of a
1374 message (*ENV), which fetchmail optionally supports if compiled with the
1375 --enable-SDPS option. If you have it, the first line of the fetchmail -V
1376 response will include the string "+SDPS".<P>
1377
1378 Once you have SDPS compiled in, fetchmail in POP3 mode will
1379 automatically detect when it's talking to a Demon Internet host in
1380 multidrop mode, and use the *ENV extension to get an envelope To address.<P>
1381
1382 The autodetection works by looking at the hostname in the POP3
1383 greeting line; if you're accessing Demon Internet through a proxy it
1384 may fail. To force SDPS mode, pick "sdps" as your protocol.<P>
1385
1386 <hr>
1387 <h2><a name="S5">S5. How can I use fetchmail with usa.net's servers?</a></h2>
1388
1389 Enable `<CODE>fetchall</CODE>'.  A user reports that the 2.2 version
1390 of USA.NET's POP server reports that you must use the
1391 `<CODE>fetchall</CODE>' option to make sure that all of the mail is
1392 retrieved, otherwise some may be left on the server.  This is almost
1393 certainly a server bug.<P>
1394
1395 The usa.net servers (at least in their 2.2 version, June 1998) don't
1396 handle the TOP command properly, either.  Regardless of the argument
1397 you give it, they retrieve only about 10 lines of the message.
1398 Fetchmail normally uses TOP for message retrieval in order to avoid
1399 marking messages seen, but `<CODE>fetchall</CODE>' forces it to use
1400 RETR instead.<P>
1401
1402 (Note: Other failure modes have been reported on usa.net's servers.
1403 They seem to be chronically flaky.  We recommend finding another
1404 provider.)<P>
1405
1406 <hr>
1407 <h2><a name="S6">S6. How can I use fetchmail with HP OpenMail?</a></h2>
1408
1409 No special configuration is required, but OpenMail versions prior to
1410 6.0 have an annoying bug similar to the big one in <a
1411 href="#S2">Microsoft Exchange</a>.  The message sizes it gives in the
1412 LIST are rounded to the nearest 1024 bytes.  It also has a nasty habit
1413 of discarding headers it doesn't recognize, such as X- and Resent-
1414 headers.<P>
1415
1416 As with M$ Exchange, the only real fix for these problems is to get a
1417 POP (or preferably IMAP) server that isn't brain-dead. OpenMail's
1418 project manager claims these bugs have been fixed in 6.0.<P>
1419
1420 <hr>
1421 <h2><a name="S8">S8. How can I use fetchmail with Hotmail?</a></h2>
1422
1423 You can't, yet.  But Hugo Rabson has written a script called `hotmole'
1424 that can retrieve Hotmail mail via the web using Lynx.  The script
1425 is available on <a
1426 href="http://www.jin-sei-kai.demon.co.uk/hugo/linux.html">
1427 Hugo Rabson's Linux page</a>.<P>
1428
1429 <hr>
1430 <h2><a name="S9">S9. How can I use fetchmail with MSN?</a></h2>
1431
1432 You can't.  MSN uses something that looks like POP3, except the
1433 authentication part is nonstandard.  And of course they don't 
1434 document it, so nobody but their Windows clients can speak it.<p>
1435
1436 This is a customer lock-in tactic; we recommend boycotting MSN as the
1437 only appropriate response.<p>
1438
1439 As of 5.0.8, we have support for the client side of NTLM
1440 authentication.  It's possible this may enable fetchmail to talk to
1441 MSN; if so, somebody should report it so this FAQ can be corrected.<p>
1442
1443 <hr>
1444 <h2><a name="S10">S10. How can I use fetchmail with SpryNet?</a></h2>
1445
1446 The SpryNet POP3 servers mark a message queried with TOP as seen.
1447 This means that if your connection drops in mid-message, it may end
1448 up invisibly stuck on your mail spool.  Use the <code>fetchall</code> 
1449 flag to ensure that it's recovered on the next cycle.<p>
1450
1451 <hr>
1452 <h2><a name="S10">S10. How can I use fetchmail with Novell GroupWise?</a></h2>
1453
1454 The Novell GroupWise IMAP server would be better named GroupFoolish;
1455 it is (according to the designer of IMAP) unusably broken.  Among
1456 other things, it doesn't include a required content length in its
1457 BODY[TEXT] response.<p>
1458
1459 Fetchmail works around this problem, but we strongly recommend voting
1460 with your dollars for a server that isn't brain-dead.  If you stick
1461 with code as shoddy as GroupWise seems to be, you will probably pay
1462 for it with other problems.<p>
1463
1464 <hr>
1465 <h2><a name="K1">K1. How can I use fetchmail with SOCKS?</a></h2>
1466
1467 Daniel Sobral &lt<a href="mailto:dcs@gns.com.br">dcs@gns.com.br</a>
1468 gave us the following recipe:<P>
1469
1470 <OL>
1471 <LI> Install socks5. You don't need to have a socks server, you just
1472      want the "runsocks" program.
1473 <LI> Set the environment variable SOCKS_SERVER to the server you'll be
1474      using. Alternatively, you may set SOCKS4_SERVER and/or
1475      SOCKS5_SERVER. E.g.: 
1476 <pre>
1477         export SOCKS5_SERVER=socks.my.domain.com
1478 </pre>
1479 <LI> Set SOCKS5_USER and SOCKS5_PASSWD if needed.
1480 <LI> Run fetchmail through runsocks. Just like this:
1481 <pre>
1482         runsocks fetchmail [parameters to fetchmail]
1483 </pre>
1484 </OL>
1485
1486 It wasn't that hard, was it? :-)<P>
1487
1488 Giuseppe Guerini added a --with-socks option that supports linking
1489 with socks library.  If you specify the value of this option as
1490 ``yes'', the configure script will try to find the Rconnect library
1491 and set the makefile up to link it.  You can also specify a directory
1492 containing the Rconnect library.<p>
1493
1494 <hr>
1495 <h2><a name="S7">S7. How can I use fetchmail with geocities POP3 servers?</a></h2>
1496
1497 Nathan Cutler reports that the the mail.geocities.com POP3 servers
1498 fail to include the first Received line of the message in the send to 
1499 fetchmail.  This can solve problems if your MUA interprets Received 
1500 continuations as body lines and doesn't parse any of the following
1501 headers.<P>
1502
1503 Workaround is to use "mda" keyword or "-mda" switch:
1504 <pre>
1505 mda "sed -e '1s/^\t/Received: /' | formail | /usr/bin/procmail -d &lt;user&gt;"
1506 </pre>
1507 Replace \t with exactly one tabulation character.
1508
1509 You should also consider using "fetchall" option because Geocities' servers
1510 sometimes think that the first 45 messages have already been read.<P>
1511
1512 Fix: Get an email provider that doesn't suck. The pop-up ads on
1513 Geocities are lame, you should boycott them anyway.<P>
1514
1515 <hr>
1516 <h2><a name="K2">K2. How can I use fetchmail with IPv6 and IPsec?</a></h2>
1517
1518 To use fetchmail with IPv6, you need a system that supports IPv6, the "Basic
1519 Socket Interface Extensions for IPv6" (RFC 2133), and the inet6-apps kit.
1520 This currently means that you need to have a BSD/OS or NetBSD system with
1521 the NRL IPv6+IPsec software distribution or a Linux system with the latest
1522 experimental kernel and net-tools. It should not be hard to build fetchmail on
1523 other IPv6 implementations if you can port the inet6-apps kit.<P>
1524
1525 To use fetchmail with networking security (read: IPsec), you need a system that
1526 supports IPsec, the API described in the "Network Security API for Sockets"
1527 (draft-metz-net-security-api-01.txt), and the inet6-apps kit. This currently
1528 means that you need to have a BSD/OS or NetBSD system with the NRL IPv6+IPsec
1529 software distribution. A Linux IPsec implementation supporting this API will
1530 probably appear in the coming months.<P>
1531
1532 The NRL IPv6+IPsec software distribution can be obtained from: <a
1533 href="http://web.mit.edu/network/isakmp">http://web.mit.edu/network/isakmp</a>
1534 <P>
1535
1536 The inet6-apps kit can be obtained from <a 
1537 href="ftp://ftp.ipv6.inner.net/pub/ipv6">ftp://ftp.ipv6.inner.net/pub/ipv6</a>
1538 (via IPv6) or <a href="ftp://ftp.inner.net/pub/ipv6">
1539 ftp://ftp.inner.net/pub/ipv6</a> (via IPv4).<P>
1540
1541 More information on using IPv6 with Linux can be obtained from:
1542 <UL>
1543 <LI>
1544 <a href="http://www.bieringer.de/linux/IPv6/IPv6-HOWTO/IPv6-HOWTO.html">
1545 http://www.bieringer.de/linux/IPv6/IPv6-HOWTO/IPv6-HOWTO.html</a>
1546 <LI>
1547 <a href="http://www.ipv6.inner.net/ipv6">http://www.ipv6.inner.net/ipv6</a>
1548 (via IPv6)
1549 <LI>
1550 <a href="http://www.inner.net/ipv6">http://www.inner.net/ipv6</a> (via IPv4)
1551 </UL>
1552
1553 <hr>
1554 <h2><a name="K3">K3. How can I get fetchmail to work with ssh?</a></h2>
1555
1556 We have three recipes for this.  The first is easy to set up,
1557 but only supports one user at a time.<P>
1558
1559 First, a lightly edited version of a recipe from Masafumi NAKANE:<p>
1560
1561 1. You must have ssh (the ssh client) on the local host and sshd (ssh
1562 server) on the remote mail server.  And you have to configure ssh so
1563 you can login to the sshd server host without a password.  (Refer to ssh
1564 man page for several authentication methods.)<p>
1565
1566 2. Add something like following to your .fetchmailrc file: <p>
1567
1568 <pre>
1569 poll mailhost port 1234 via localhost with proto pop3:
1570         preconnect "ssh -f -L 1234:mailhost:110 mailhost sleep 20 &lt;/dev/null &gt;/dev/null";
1571 </pre>
1572
1573 (Note that 1234 can be an arbitrary port number.  Privileged ports can
1574 be specified only by root.)  The effect of this ssh command is to
1575 forward connections made to localhost port 1234 (in above example) to
1576 mailhost's 110.<p>
1577
1578 This configuration will enable secure mail transfer.  All the
1579 conversation between fetchmail and remote pop server will be
1580 encrypted.<p>
1581
1582 If sshd is not running on the remote mail server, you can specify
1583 intermediate host running it.  If you do this, however, communication
1584 between the machine running sshd and the POP server will not be encrypted.
1585 And the preconnect line would be like this:<p>
1586
1587 <pre>
1588 preconnect "ssh -f -L 1234:mailhost:110 sshdhost sleep 20 &lt;/dev/null &gt;/dev/null"
1589 </pre>
1590
1591 You can work this trick with IMAP too, but the port number 110 in the
1592 above would need to become 143.<p>
1593
1594 Second, a recipe from Charlie Brady &lt;cbrady@ind.tansu.com.au&gt;:<p>
1595
1596 Charlie says: "The [previous] recipe certainly works, but
1597 the solution I post here is better in a few respects":
1598
1599 <UL>
1600 <LI>this method will not fail if two or more users attempt to use fetchmail
1601     simultaneously.
1602 <LI>you are able to use the full facilities of tcpd to control access
1603 <LI>this method does not depend on the preconnect feature of fetchmail, so
1604     can be used for tunneling of other services as well.
1605 </UL>
1606
1607 Here are the steps:
1608
1609 <OL>
1610 <LI>
1611 Make sure that the "socket" program is installed on the server
1612 machine. Presently it lives at <a
1613 href="ftp://sunsite.unc.edu/pub/linux/system/network/misc/socket-1.1.tar.gz">
1614 ftp://sunsite.unc.edu/pub/linux/system/network/misc/socket-1.1.tar.gz</a>,
1615 but watch out for a change in version number.<P>
1616 <LI>
1617 Set up an unprivileged account on your system with a .ssh directory
1618 containing an SSH identity file "identity" with no pass phrase,
1619 "identity.pub" and "known_hosts" containing the host key of your
1620 mailhost. Let's call this account "noddy".
1621 <LI>
1622 On mailhost, set up no-password access for noddy@yourhost. Add to your
1623 SSH authorized_keys file:
1624
1625 <PRE>
1626 command="socket localhost 110",no-port-forwarding 1024 ......
1627 </PRE>
1628
1629 where "<code>1024</code> ......" is the content of noddy's identity.pub file.
1630 <LI>
1631 Create a script /usr/local/bin/ssh.fm and make it executable:
1632
1633 <PRE>
1634 #! /bin/sh
1635 exec ssh -q -C -l your.login.id -e none mailhost socket localhost 110
1636 </PRE>
1637 <LI>
1638 Add an entry in inetd.conf for whatever port you choose to use - say:
1639
1640 <PRE>
1641 1234 stream tcp nowait noddy /usr/sbin/tcpd /usr/local/bin/ssh.fm
1642 </PRE>
1643 <LI>
1644 Send a HUP signal to your inetd.
1645 </OL>
1646
1647 Now just use localhost:1234 to access your POP server.<P>
1648
1649 For yet a third recipe, see <a href="http://sunsite.unc.edu/LDP/HOWTO/mini/Secure-POP+SSH.html">Secure POP via SSH mini-HOWTO</a>.<P>
1650
1651 <hr>
1652 <h2><a name="K4">K4. What do I have to do to use the IMAP-GSS protocol?</a></h2>
1653
1654 Fetchmail can use RFC1731 GSSAPI authorization to safely identify you
1655 to your IMAP server, as long as you can share Kerberos V credentials
1656 with your mail host and you have a GSSAPI-capable IMAP server.
1657 UW-IMAP (available via FTP at <a
1658 href="ftp://ftp.cac.washington.edu/mail/">ftp.cac.washington.edu</a>)
1659 is the only one I'm aware of and the one I recommend anyway for other
1660 reasons. You'll need version 4.1-FINAL or greater though, and it has
1661 to have GSS support compiled in.<p>
1662
1663 Neither UW-IMAP nor fetchmail compile in support for GSS by default, since
1664 it requires libraries from the Kerberos V distribution (available via FTP at
1665 <a href="ftp://athena-dist.mit.edu/pub/ATHENA/kerberos">athena-dist.mit.edu</a>
1666 but mind the export restrictions). If you have these, compiling in GSS support
1667 is simple: add a <pre>--with-gssapi=[/path/to/krb5/root]</pre> option to
1668 configure. For instance, I have all of my Kerberos V libraries installed under
1669 /usr/krb5 so I run <pre>configure --with-gssapi=/usr/krb5</pre><p>
1670
1671 Setting up Kerberos V authentication is beyond the scope of this FAQ
1672 (you may find Jim Rome's paper <a
1673 href="http://www.ornl.gov/~jar/HowToKerb.html"> How to Kerberize your
1674 site</a> helpful), but you'll at least need to add a credential for
1675 imap/[mailhost] to the keytab of the mail server (IMAP doesn't just
1676 use the host key). Then you'll need to have your credentials ready on
1677 your machine (cf. kinit).<p>
1678
1679 After that things are very simple. Set your protocol to imap-gss in your
1680 .fetchmailrc, and omit the password, since imap-gss doesn't need one. You
1681 can specify a username if you want, but this is only useful if your mailbox
1682 belongs to a username different from your Kerberos principal. <p>
1683
1684 Now you don't have to worry about your password appearing in cleartext in
1685 your .fetchmailrc, or across the network.<p>
1686
1687 <hr>
1688 <h2><a name="K5">K5. How can I use fetchmail with SSL?</a></h2>
1689
1690 The U.S. government's never-to-be-sufficiently-damned EAR regulations
1691 prevent me from including SSL library hooks in the distribution.
1692 However, the First Amendment of the U.S. Constitution hasn't been
1693 eviscerated (not yet, anyway -- our would-be totalitarians are
1694 working on trashing the Second Amendment first).<P>
1695
1696 <h3>Option 1:</h3>
1697
1698 I can therefore safely <em>tell</em> you, in documentation, that there
1699 appears to be a way to set up an SSL command chain using the `plugin'
1700 option (originally designed for handling proxy connections across
1701 firewalls).<P>
1702
1703 Get your hands on the <a
1704 href="http://www.psy.uq.edu.au:8080/~ftp/Crypto/">SSLeay</a> code.
1705 Now make yourself a script called `ssl_connect' that calls the SSLeay
1706 utility `s_client' as follows:<P>
1707
1708 <pre>
1709 /usr/local/ssl/bin/s_client -quiet -ssl2 -connect $1:$2
1710 </pre>
1711
1712 Now add `plugin ssl_connect' to the server options for your connection.<P>
1713
1714 <h3>Option 2:</h3>
1715
1716 For those in the U.S., there is a set of SSL patches for fetchmail
1717 available from the <a href="http://www.cryptography.org">North
1718 American Cryptographic Archives</a>, in the SSL directory.  You have
1719 to answer three questions about your qualification to access the
1720 archive, before you are allowed in.  You can enter through the main
1721 page for the server and browse the archive, or you can go <a
1722 href="http://www.cryptography.org/cgi-bin/crypto.cgi/SSL">straight to
1723 the SSL directory</a>.  There you will find patch files against the
1724 fetchmail release sources as well as patched source tarballs.<P>
1725
1726 While we cannot make the SSL sources available to anyone outside of the
1727 U.S. at this time, if the patches do leak out of the U.S. through no
1728 fault of our own, and someone informs us of their location, we can
1729 provide the URL pointing to archive sites outside of the U.S.<P>
1730
1731 Newer versions of the SSL patches make appear in the `new' directory
1732 and stay there a while until they can be processed and moved to the SSL
1733 directory.  Check for patches in `new' if you do not find patches
1734 for the latest fetchmail release.<P>
1735
1736 <hr>
1737 <h2><a name="R1">R1. Fetchmail isn't working, and -v shows `SMTP connect failed' messages.</a></h2>
1738
1739 Fetchmail itself is probably working, but your SMTP port 25 listener
1740 is down or inaccessible.<p>
1741
1742 The first thing to check is if you can telnet to port 25 on your smtp
1743 host (which is normally `localhost' unless you've specified an smtp
1744 option in your .fetchmailrc or on the command line) and get a greeting
1745 line from the listener.  If the SMTP host is inaccessible or the listener
1746 is down, fix that first.<p>
1747
1748 If the listener seems to be up when you test with telnet, the most
1749 benign and typical problem is that the listener had a momentary seizure
1750 due to resource exhaustion while fetchmail was polling it -- process
1751 table full or some other problem that stopped the listener process
1752 from forking.  If your SMTP host is not `localhost' or something else
1753 in /etc/hosts, the fetchmail glitch could also have been caused by
1754 transient nameserver failure. <p>
1755
1756 Try running fetchmail -v again; if it succeeds, you had one of these
1757 kinds of transient glitch.  You can ignore these hiccups, because a
1758 future fetchmail run will get the mail through. <p>
1759
1760 If the listener tests up, but you have chronic failures trying to
1761 connect to it anyway, your problem is more serious.  One way to work
1762 around chronic SMTP connect problems is to use --mda.  But this only
1763 attacks the symptom; you may have a DNS or TCP routing problem.  You
1764 should really try to figure out what's going on underneath before it
1765 bites you some other way. <p>
1766
1767 We have one report (from toby@eskimo.com) that you can sometimes solve
1768 such problems by doing an <CODE>smtp</CODE> declaration with an IP
1769 address that your routing table maps to something other than the
1770 loopback device (he used ppp0).<p>
1771
1772 We also have a report that this error can be caused by having an
1773 /etc/hosts file that associates your client host name with more than
1774 one IP address.<P>
1775
1776 It's also possible that your DNS configuration isn't
1777 looking at <code>/etc/hosts</code> at all.  If you're using libc5,
1778 look at <code>/etc/resolv.conf</code>; it should say something like
1779
1780 <pre>
1781         order hosts,bind
1782 </pre>
1783
1784 so your <code>/etc/hosts</code> file is checked first.  If you're
1785 running GNU libc6, check your <code>/etc/nsswitch.conf</code> file.  Make
1786 sure it says something like
1787
1788 <pre>
1789         hosts:  files dns
1790 </pre>
1791
1792 again, in order to make sure <code>/etc/hosts</code> is seen first.<P>
1793
1794 If you have a hostname set for your machine, and this hostname does
1795 not appear in /etc/hosts, you will be able to telnet to port 25 and
1796 even send a mail with rcpt to: user@host-not-in-/etc/hosts, but
1797 fetchmail can't seem to get in touch with sendmail, no matter what you
1798 set smtpaddress to.<p>
1799
1800 We had another report from a Linux user of fetchmail 2.1 who solved his SMTP
1801 connection problem by removing the reference to -lresolv from his link
1802 line and relinking.  Apparently in some older Linux distributions the
1803 libc bind library version works better.<p>
1804
1805 As of 2.2, the configure script has been hacked so the bind library is
1806 linked only if it is actually needed.  So under Linux it won't be, and
1807 this particular cause should go away.<p>
1808
1809 <hr>
1810 <h2><a name="R2">R2. When I try to configure an MDA, fetchmail doesn't work.</a></h2>
1811
1812 (I hear this one from people who have run into the blank-line problem in <a href="#X1">X1</a>.)<p>
1813
1814 Try sending yourself test mail and retrieving it using the
1815 command-line options `<CODE>-k -m cat</CODE>'.  This will dump exactly what
1816 fetchmail retrieves to standard output (plus the Received line
1817 fetchmail itself adds to the headers). <p>
1818
1819 If the dump doesn't match what shows up in your mailbox when you
1820 configure an MDA, your MDA is mangling the message.  If it doesn't
1821 match what you sent, then fetchmail or something on the server is
1822 broken.<p>
1823
1824 <hr>
1825 <h2><a name="R3">R3. Fetchmail dumps core when given an invalid rc file.</a></h2>
1826
1827 This is usually reported from AIX or Ultrix, but has even been known
1828 to happen on Linuxes without a recent version of <code>flex</code>
1829 installed.  The problem appears to be a result of building with an
1830 archaic version of lex.<P>
1831
1832 Workaround: fix the syntax of your .fetchmailrc file.<P>
1833
1834 Fix: build and install the latest version of <a
1835 href="ftp://prep.ai.mit.edu/~ftp/pub/gnu">flex</a> from the Free
1836 Software Foundation.  An FSF <a
1837 href="http://www.gnu.ai.mit.edu/order/ftp.html">mirror site</a>
1838 will help you get it faster.<P>
1839
1840 <hr>
1841 <h2><a name="R4">R4. Fetchmail dumps core in -V mode, but operates normally otherwise.</a></h2>
1842
1843 We've had this reported to us under Linux using libc-5.4.17 and gcc-2.7.2.
1844 It does not occur with libc-5.3.12 or earlier versions.<p>
1845
1846 Workaround: link with GNU malloc rather than the stock C library malloc.<p>
1847
1848 We're told there is some problem with the malloc() code in that
1849 version which makes it fragile in the presence of multiple free()
1850 calls on the same pointer (the malloc arena gets corrupted).
1851 Unfortunately it appears from doing gdb traces that whatever free()
1852 calls producing the problem are being made by the C library itself, not the
1853 fetchmail code (they're all from within fclose, and not an fclose called
1854 directly by fetchmail, either).<p>
1855
1856 <hr>
1857 <h2><a name="R5">R5. Running fetchmail in daemon mode doesn't work.</a><br></h2>
1858
1859 We have one report from a SunOS 4.1.4 user that trying to run
1860 fetchmail in detached daemon mode doesn't work, but that using the
1861 same options with -N (nodetach) is OK.<P>
1862
1863 If this happens, you have a specific portability problem with the code
1864 in daemon.c that detaches and backgrounds the daemon fetchmail. Tell
1865 me about it so I can try to fix it.  As a workaround, you can start
1866 fetchmail with -N and an ampersand to background it.<P>
1867
1868 This should not happen under Linux or any truly POSIX-conformant Unix.<P>
1869
1870 <hr>
1871 <h2><a name="R6">R6. Fetchmail hangs when used with pppd.</a></h2>
1872
1873 Your problem may be with pppd's `demand' option.  We have a report that
1874 fetchmail doesn't play well with it, but works with pppd if `demand'
1875 is turned off.  We have no idea why this is.<p>
1876
1877 <hr>
1878 <h2><a name="R7">R7. Fetchmail randomly dies with socket errors.</a></h2>
1879
1880 Check the MTU value in your PPP interface reported by
1881 <code>/sbin/ifconfig</code>.  If it's over 600, change it in your PPP
1882 options file.  (<code>/etc/ppp/options</code> on my box).  Here are
1883 option values that work:<P>
1884
1885 <pre>
1886   mtu 552
1887   mru 552
1888 </pre>
1889
1890 <hr>
1891 <a name="R8">R8. Fetchmail running as root stopped working after an OS upgrade</a></h2>
1892
1893 In RH 6.0, the HOME value in the boot-time root environment changed
1894 from /root to / as the result of a change in init.  Move your
1895 .fetchmailrc or use a -f option to explicitly point at the file.
1896 (Oddly, a similar problem has been reported from Debian systems.)<P>
1897
1898 <hr>
1899 <h2><a name="#R9">R9. Fetchmail is timing out after fetching certain
1900 messages but before deleting them</a></h2>
1901
1902 There's a TCP/IP stalling problem under Redhat 6.0 (and possibly other
1903 recent Linuxes) that can cause this symptom.  Brian Boutel writes:<p>
1904
1905 <blockquote>
1906 TCP timestamps are turned on on my Linux boxes (I assume it's now the
1907 default). This uses 12 extra bytes per segment.
1908 When the tcp  connection starts, the other end agrees a MSS of 1460,
1909 and then fragments 1460 byte chunks into 1448 and 12, because
1910 is is not allowing for the timestamp.<p>
1911
1912 Then, for reasons I can't explain, it waits a long time (typically 2
1913 minutes) after the ack is sent before sending the next (fragmented)
1914 packet.  Turning off tcp timestamps avoids the fragmentation and
1915 restores normal behaviour.  To do this, [execute]<p>
1916
1917 echo 0 &gt; /proc/sys/net/ipv4/tcp_timestamps<p>
1918
1919 I'm still unclear about the details of why this is happening. At least
1920 [now] I am now getting good performance and no queue blocking.
1921 </blockquote>
1922
1923 <hr>
1924 <h2><a name="D1">D1. I think I've set up fetchmail correctly, but I'm not getting any mail.</a></h2>
1925
1926 Maybe you have a .forward or alias set up that you've forgotten about.  You
1927 should probably remove it.<p>
1928
1929 Or maybe you're trying to run fetchmail in multidrop mode as root
1930 without a .fetchmailrc file.  This doesn't do what you think it
1931 should; see question <a href="#C1">C1</a>.<p>
1932
1933 Or you may not be connecting to the SMTP listener.   Run fetchmail -v
1934 and see <a href="#R1">R1</a>.<p>
1935
1936 <hr>
1937 <h2><a name="D2">D2. All my mail seems to disappear after a dropped connection.</a></h2>
1938
1939 One POP3 daemon used in the Berkeley Unix world that reports itself as
1940 POP3 version 1.004 actually throws the queue away. 1.005 fixed that.
1941 If you're running this one, upgrade immediately.  (It also truncates
1942 long lines at column 1024)<P>
1943
1944 Many POP servers, if an interruption occurs, will restore the whole
1945 mail queue after about 10 minutes.  Others will restore it right
1946 away. If you have an interruption and don't see it right away, cross
1947 your fingers and wait ten minutes before retrying.<P>
1948
1949 Some servers (such as Microsoft's NTMail) are mis-designed to restore
1950 the entire queue, including messages you have deleted.  If you have
1951 one of these and it flakes out on you a lot, try setting a small
1952 <code>--fetchlimit</code> value.  This will result in more IP connects
1953 to the server, but will mean it actually executes changes to the queue
1954 more often.<P>
1955
1956 Qualcomm's qpopper, used at many BSD Unix sites, is better behaved.
1957 If its connection is dropped, it will first execute all DELE commands as
1958 though you had issued a QUIT (this is a technical violation of
1959 the POP3 RFCs, but a good idea in a world of flaky phone lines). Then it
1960 will re-queue any message that was being downloaded at hangup time.
1961 Still, qpopper may require a noticeable amount of time to do deletions
1962 and clean up its queue.  (Fetchmail waits a bit before retrying in
1963 order to avoid a `lock busy' error.)<P>
1964
1965 <hr>
1966 <h2><a name="D3">D3. Mail that was being fetched when I interrupted my fetchmail seems to have been vanished.</a></h2>
1967
1968 Fetchmail only sends a delete mail request to the server when either
1969 (a) it gets a positive delivery acknowledgment from the SMTP
1970 listener, or (b) it gets an error 571 (the spam-filter error) from the
1971 listener.  No interrupt can cause it to lose mail.<p>
1972
1973 However, IMAP2bis has a design problem in that its normal fetch
1974 command marks a message `seen' as soon as the fetch command to get it
1975 is sent down.  If for some reason the message isn't actually delivered
1976 (you take a line hit during the download, or your port 25 listener
1977 can't find enough free disk space, or you interrupt the delivery in
1978 mid-message) that `seen' message can lurk invisibly in your server
1979 mailbox forever.<p>
1980
1981 Workaround: add the `<CODE>fetchall</CODE>' keyword to your fetch options.<p>
1982
1983 Solution: switch to an <a href="http://www.imap.org">IMAP4</a> server.<p>
1984
1985 <hr>
1986 <h2><a name="M1">M1. I've declared local names, but all my multidrop
1987 mail is going to root anyway.</a></h2>
1988
1989 Somehow your fetchmail is never recognizing the hostname part of
1990 recipient names it parses out of To/Cc/envelope-header lines as
1991 matching the name of the mailserver machine. To check this, run
1992 fetchmail in foreground with -v -v on.  You will probably see a lot of
1993 messages with the format ``line rejected, %s is not an alias of the
1994 mailserver'' or ``no address matches; forwarding to %s.'' <p>
1995
1996 These errors usually indicate some kind of DNS configuration problem
1997 either on the server or your client machine. <p>
1998
1999 The easiest workaround is to add a `<CODE>via</CODE>' option (if
2000 necessary) and add enough aka declarations to cover all of your
2001 mailserver's aliases, then say `<CODE>no dns</CODE>'.  This will take
2002 DNS out of the picture (though it means mail may be uncollected if
2003 it's sent to an alias of the mailserver that you don't have
2004 listed). <p>
2005
2006 It would be better to fix your DNS, however.  DNS problems can hurt
2007 you in lots of ways, for example by making your machines
2008 intermittently or permanently unreachable to the rest of the net.<P>
2009
2010 Occasionally these errors indicate the sort of header-parsing problem
2011 described in <a href="#M7">M7</a>.<P>
2012
2013 <hr>
2014 <h2><a name="M2">M2. I can't seem to get fetchmail to route to a local domain properly.</a></h2>
2015
2016 A lot of people want to use fetchmail as a poor man's internetwork
2017 mail gateway, picking up mail accumulated for a whole domain in a single
2018 server mailbox and then routing based on what's in the To/Cc/Bcc lines.<p>
2019
2020 In general, this is not really a good idea.  It would be smarter to
2021 just let the mail sit in the mailserver's queue and use fetchmail's
2022 ETRN mode to trigger SMTP sends periodically (of course, this means
2023 you have to poll more frequently than the mailserver's expiration period).
2024 If you can't arrange this, try setting up a UUCP feed.<P>
2025
2026 If neither of these alternatives is available, multidrop mode may do
2027 (though you <em>are</em> going to get hurt by some mailing list
2028 software; see the caveats under THE USE AND ABUSE OF MULTIDROP
2029 MAILBOXES on the man page).  If you want to try it, the way to do it
2030 is with the `<CODE>localdomains</CODE>' option.<p>
2031
2032 In general, if you use localdomains you need to make sure of two other
2033 things: <p>
2034
2035 <strong>1. You've actually set up your .fetchmailrc entry to invoke multidrop mode.</strong><p>
2036
2037 Many people set a `<CODE>localdomains</CODE>' list and then forget
2038 that fetchmail wants to see more than one name (or the wildcard `*')
2039 in a `<CODE>here</CODE>' list before it will do multidrop routing.<p>
2040
2041 <strong>2. You may have to set `no envelope'.</strong><p>
2042
2043 Normally, multidrop mode tries to deduce an envelope address from a message
2044 before parsing the To/Cc/Bcc lines (this enables it to avoid losing to mailing
2045 list software that doesn't put a recipient address in the To lines).<p>
2046
2047 Some ways of accumulating a whole domain's messages in a single server
2048 mailbox mean it all ends up with a single envelope address that is
2049 useless for rerouting purposes.  You may have to set `<CODE>no
2050 envelope</CODE>' to prevent fetchmail from being bamboozled by this.<p>
2051
2052 Check also answer <a href="#T1">T1</a> on a reliable way to do multidrop
2053 delivery if your ISP (or your mail redirection provider) is using qmail.<p>
2054
2055 <hr>
2056 <h2><a name="M3">M3. I tried to run a mailing list using multidrop, and I have a mail loop!</a></h2>
2057
2058 This isn't fetchmail's fault.  Check your mailing list.  If the list
2059 expansion includes yourself or anybody else at your mailserver (that is, not on
2060 the client side) you've created a mail loop.  Just chop the host part off any
2061 local addresses in the list.<p>
2062
2063 If you use sendmail, you can check the list expansion with
2064 <CODE>sendmail -bv</CODE>.<p>
2065
2066 <hr>
2067 <h2><a name="M4">M4. My multidrop fetchmail seems to be having DNS problems.</a></h2>
2068
2069 We have one report from a Linux user (not the same one as in <a
2070 href="#R1">R1</a>!) who solved this problem by removing the reference
2071 to -lresolv from his link line and relinking.  Apparently in some
2072 older Linux distributions the libc5 bind library version works
2073 better.<p>
2074
2075 As of 2.2, the configure script has been hacked so the bind library is linked
2076 only if it is actually needed.  So under Linux it won't be, and this problem
2077 should go away.<p>
2078
2079 <hr>
2080 <h2><a name="M5">M5. I'm seeing long DNS delays before each message is processed.</a></h2>
2081
2082 Use the `<CODE>aka</CODE>' option to pre-declare as many of your
2083 mailserver's DNS names as you can.  When an address's host part
2084 matches an aka name, no DNS lookup needs to be done to check it.<p>
2085
2086 If you're sure you've pre-declared all of your mailserver's DNS names,
2087 you can use the `<CODE>no dns</CODE>' option to prevent other hostname
2088 parts from being looked up at all.<p>
2089
2090 Sometimes delays are unavoidable.  Some SMTP listeners try to call DNS
2091 on the From-address hostname as a way of checking that the address is valid.<p>
2092
2093 <hr>
2094 <h2><a name="M6">M6. How do I get multidrop mode to work with majordomo?</a></h2>
2095
2096 In order for sendmail to execute the command strings in the majordomo
2097 alias file, it is necessary for sendmail to think that the mail it
2098 receives via SMTP really is destined for a local user name.  A normal
2099 virtual-domain setup results in delivery to the default mailbox,
2100 rather than expansion through majordomo.<P>
2101
2102 Michael &lt;michael@bizsystems.com&gt; gave us a recipe for dealing
2103 with this case that pairs a run control file like this:<P>
2104
2105 <pre>
2106 poll your.pop3.server proto pop3:
2107     no envelope no dns
2108     localdomains virtual.localdomain1.com virtual.localdomain2.com ...
2109     user yourISPusername is root * here,
2110     password yourISPpassword fetchall
2111 </pre>
2112
2113 with a hack on your local sendmail.cf like this:<P>
2114
2115 <pre>
2116 #############################################
2117 #  virtual info, local hack for ruleset 98  #
2118 #############################################
2119
2120 # domains to treat as direct mapped local domain
2121
2122 CVvirtual.localdomain1.com virtual.localdomain2.com ...
2123 ---------------------------
2124 in ruleset 98 add
2125 -------------------------
2126 # handle virtual users
2127
2128 R$+ &lt;@ $=V . &gt;          $: $1 &lt; @ $j . &gt;
2129 R&lt; @ &gt; $+ &lt; @ $=V . &gt;   $: $1 &lt; @ $j . &gt;
2130 R&lt; @ &gt; $+               $: $1
2131 R&lt; error : $- $+ &gt; $*   $#error $@ $1 $: $2
2132 R&lt; $+ &gt; $+ &lt; @ $+ &gt;     $: $&gt;97 $1
2133 </pre>
2134
2135 This ruleset just strips virtual domain names off the addresses of incoming
2136 mail.  Your sendmail must be 8.8 or newer for this to work.  Michael
2137 says:<P>
2138
2139 <BLOCKQUOTE>
2140 I use this scheme with 2 virtual domains and the default ISP 
2141 user+domain and service about 30 mail accounts + majordomo on my 
2142 inside pop3 server with fetchmail and sendmail 8.83
2143 </BLOCKQUOTE>
2144
2145 <hr>
2146 <h2><a name="M7">M7. Multidrop mode isn't parsing envelope addresses from
2147 my Received headers as it should.</a></h2>
2148
2149 It may happen that you're getting what appear to be well-formed
2150 sendmail Received headers, but fetchmail can't seem to extract an
2151 envelope address from them.  There can be a couple of reasons for
2152 this.<P>
2153
2154 <h3>Spurious Received lines need to be skipped:</h3>
2155
2156 First, fetchmail might be looking at the wrong Received header.
2157 Normally it looks only on the first one it sees, on the theory that
2158 that one was last added and is going to be the one containing your
2159 mailserver's theory of who the message was addressed to.<P>
2160
2161 Some (unusual) mailserver configurations will generate extra Received
2162 lines which you need to skip.  To arrange this, use the optional
2163 skip prefix argument of the `envelope' option; you may need to say
2164 something like `<code>envelope 1 Received</code>' or `<code>envelope 2 
2165 Received</code>'.
2166
2167 <h3>The `by' clause doesn't contain a mailserver alias:</h3>
2168
2169 When fetchmail parses a Received line that looks like
2170
2171 <pre>
2172 Received: from send103.yahoomail.com (send103.yahoomail.com [205.180.60.92])
2173     by iserv.ttns.net (8.8.5/8.8.5) with SMTP id RAA10088
2174     for &lt;ksturgeon@fbceg.org&gt;; Wed, 9 Sep 1998 17:01:59 -0700
2175 </pre>
2176
2177 it checks to see if `iserv.ttns.net' is a DNS alias of your mailserver
2178 before accepting `ksturgeon@fbceg.org' as an envelope address.  This
2179 check might fail if your DNS were misconfigured, or if you were using `no dns'
2180 and had failed to declare iserv.ttns.net as an alias of your server.<P>
2181
2182 <hr>
2183 <h2><a name="X1">X1. Spurious blank lines are appearing in the headers of fetched mail.</a></h2>
2184
2185 What's probably happening is that the POP/IMAP daemon on your
2186 mailserver is inserting a non-RFC822 header (like X-POP3-Rcpt:) and
2187 something in your delivery path (most likely an old version of the
2188 <em>deliver</em> program, which sendmail often calls to do local delivery) is
2189 failing to recognize it as a header.<p>
2190
2191 This is not fetchmail's problem.  The first thing to try is installing
2192 a current version of <em>deliver</em>.  If this doesn't work, try to
2193 figure out which other program in your mail path is inserting the
2194 blank line and replace that.  If you can't do either of these things,
2195 pick a different MDA (such as procmail) and declare it with the
2196 `<CODE>mda</CODE>' option.<p>
2197
2198 <hr>
2199 <h2><a name="X2">X2. My mail client can't see a Subject line.</a></h2>
2200
2201 First, see <a href="#X1">X1</a>.  This is quite probably the same
2202 problem (X-POP3-Rcpt header or something similar being inserted by
2203 the server and choked on by an old version of <em>deliver</em>).<p>
2204
2205 The O'Reilly sendmail book does warn that IDA sendmail doesn't process
2206 X- headers correctly.  If this is your problem, all I can suggest is
2207 replacing IDA sendmail, because it's broken and not RFC822 conformant.<p>
2208
2209 <hr>
2210 <h2><a name="X3">X3. Messages containing "From" at start of line are being split.</a></h2>
2211
2212 If you know the messages aren't split in your server mailbox, then this
2213 is a problem with your POP/IMAP server, your client-side SMTP listener or
2214 your local delivery agent.  Fetchmail cannot split messages.<p>
2215  
2216 Some POP server daemons ignore Content-Length headers and split messages on
2217 From lines.  We have one report that the 2.1 version of the BSD popper
2218 program (as distributed on Solaris 2.5 and elsewhere) is broken this way.<p>
2219
2220 You can test this.  Declare an mda of `cat' and send yourself one
2221 piece of mail containing "From" at start of a line.  If you see a
2222 split message, your POP/IMAP server is at fault.  Upgrade to a more
2223 recent version.<p>
2224
2225 Sendmail and other SMTP listeners don't split RFC822 messages either.
2226 What's probably happening is either sendmail's local delivery agent or
2227 your mail reader are not quite RFC822-conformant and are breaking
2228 messages on what it thinks are Unix-style From headers.  You can
2229 figure out which by looking at your client-side mailbox with vi or
2230 more.  If the message is already split in your mailbox, your local
2231 delivery agent is the problem.  If it's not, your mailreader is the
2232 problem.<p>
2233
2234 If you can't replace the offending program, take a look at your
2235 sendmail.cf file.  There will likely be a line something like<p>
2236
2237 <pre>
2238 Mlocal, P=/usr/bin/procmail, F=lsDFMShP, S=10, R=20/40, A=procmail -Y -d $u
2239 </pre>
2240
2241 describing your local delivery agent.  Try inserting the `E' option in the
2242 flags part (the F= string).  This will make sendmail turn each dangerous
2243 start-of-line From into a &gt;From, preventing programs further downstream
2244 from acting up.<p>
2245
2246 <hr>
2247 <h2><a name="generic_mangling"><a name="X4">X4. My mail is being mangled in a new and different way</a></a></h2>
2248
2249 The first thing you need to do is pin down what program is doing the
2250 mangling.  We don't like getting bug reports about fetchmail that are
2251 actually due to some other program's malfeasance, so please go through
2252 this diagnostic sequence before sending us a complaint.<P>
2253
2254 There are five possible culprits to consider, listed here in the order
2255 they pass your mail:<P>
2256
2257 <ol>
2258 <li> Programs upstream of your server mailbox.
2259 <li> The POP or IMAP server on your mailserver host.
2260 <li> The fetchmail program itself.
2261 <li> Your local sendmail.
2262 <li> Your LDA (local delivery agent), as called by sendmail or
2263 specified by <code>mda</CODE>. 
2264 </ol>
2265
2266 Often it happens that fetchmail itself is OK, but using it exposes
2267 pre-existing bugs in your downstream software, or your downstream
2268 software has a bad interaction with POP/IMAP.  You need to pin down
2269 exactly where the message is being garbled in order to deduce what is
2270 actually going on.<P>
2271
2272 The first thing to do is send yourself a test message, and retrieve it
2273 with a .fetchmailrc entry containing the following (or by running with
2274 the equivalent command-line options):<P>
2275
2276 <pre>
2277     mda "cat &gt;MBOX" keep fetchall
2278 </pre>
2279
2280 This will capture what fetchmail gets from the server, except for (a)
2281 the extra Received header line fetchmail prepends, (b) header address
2282 changes due to <code>rewrite</code>, and (c) any end-of-line changes
2283 due to the <code>forcecr</code> and <code>stripcr</code> options.
2284 MBOX will in fact contain what programs downstream of fetchmail
2285 see.<P>
2286
2287 The most common causes of mangling are bugs and misconfigurations in
2288 those downstream programs.  If MBOX looks unmangled, you will know
2289 that is what is going on and that it is not fetchmail's problem.  Take
2290 a look at the other FAQ items in this section for possible clues about
2291 how to fix your problem.<P>
2292
2293 If MBOX looks mangled, the next thing to do is compare it with your
2294 actual server mailbox (if possible).  That's why you specified 
2295 <code>keep</code>, so the server copy would not be deleted.  If your
2296 server mailbox looks mangled, programs upstream of your server mailbox
2297 are at fault.  Unfortunately there is probably little you can do about
2298 this aside from complaining to your site postmaster, and nothing at
2299 all fetchmail can do about it!<P>
2300
2301 More likely you'll find that the server copy looks OK.  In that case
2302 either the POP/IMAP server or fetchmail is doing the mangling.  To
2303 determine which, you'll need to telnet to the server port and simulate
2304 a fetchmail session yourself.  This is not actually hard (both POP3
2305 and IMAP are simple, text-only, line-oriented protocols) but requires
2306 some attention to detail.  You should be able to use a fetchmail -v
2307 log as a model for a session, but remember that the "*" in your LOGIN
2308 or PASS command dump has to be replaced with your actual password.<P>
2309
2310 The objective of manually simulating fetchmail is so you can see
2311 exactly what fetchmail sees.  If you see a mangled message, then your
2312 server is at fault, and you probably need to complain to your
2313 mailserver administrators.  However, we like to know what the broken
2314 servers are so we can warn people away from them.  So please send
2315 us a transcript of the session including the mangling <em>and the
2316 server's initial greeting line</em>.  Please tell us anything else
2317 you think might be useful about the server, like the server host's
2318 operating system.<P>
2319
2320 If your manual fetchmail simulation shows an unmangled message,
2321 congratulations.  You've found an actual fetchmail bug, which is a
2322 pretty rare thing these days.  Complain to us and we'll fix it.
2323 Please include the session transcript of your manual fetchmail
2324 simulation along with the other things described in the FAQ entry on
2325 <a href="#G3">reporting bugs</a>.
2326
2327 <hr>
2328 <h2><a name="X5">X5. Using POP3, retrievals seems to be fetching too much!</a></h2>
2329
2330 This may happen in versions of fetchmail after 4.4.1 and before 4.4.8.
2331 Versions after 4.4.1 use POP3's TOP command rather than RETR, in order
2332 to avoid marking the message seen (leaving it unseen is helpful for
2333 later recovery if you lose your connection in the middle of a
2334 retrieval).<P>
2335
2336 Versions of fetchmail from 4.4.2 through 4.4.7 had a bad interaction 
2337 with Eudora qpopper versions 2.3 and later.  The TOP bounds check was
2338 fooled by an overflow condition in the TOP argument.  Decrementing the
2339 TOP argument in 4.4.7 fixed this.<P>
2340
2341 Fix: Upgrade to a later version of fetchmail.<P>
2342
2343 Workaround: set the <code>fetchall</code> option.  Under POP3 in these
2344 fetchmail version only, this had the side effect of forcing RETR
2345 use.<P>
2346
2347 <hr>
2348 <h2><a name="O1">O1. The --logfile option doesn't work if the logfile doesn't exist.</a></h2>
2349
2350 This is a feature, not a bug.  It's in line with normal practice for
2351 system daemons and allows you to suppress logging by removing the log,
2352 without hacking potentially fragile startup scripts.  To get around
2353 it, just touch(1) the logfile before you run fetchmail (this will have
2354 no effect on the contents of the logfile if it already exists).<P>
2355
2356 <hr>
2357 <h2><a name="O2">O2. Every time I get a POP or IMAP message the header
2358 is dumped to all my terminal sessions.</a></h2>
2359
2360 Fetchmail uses the local sendmail to perform final delivery, which
2361 Netscape and other clients doesn't do; the announcement of new messages
2362 is done by a daemon that sendmail pokes. There should be a ``biff''
2363 command to control this.  Type
2364
2365 <PRE>
2366 biff n
2367 </PRE>
2368
2369 to turn it off. If this doesn't work, try the command 
2370
2371 <PRE>
2372 chmod -x `tty`
2373 </PRE>
2374
2375 which is essentially what <code>biff -n</code> will do. If this
2376 doesn't work, comment out any reference to ``comsat'' in your
2377 /etc/inetd.conf file and restart inetd.<P>
2378
2379 In Slackware Linux distributions, the last line in /etc/profile is
2380
2381 <PRE>
2382 biff y
2383 </PRE>
2384
2385 Change this to
2386
2387 <PRE>
2388 biff n
2389 </PRE>
2390
2391 to solve the problem system-wide.<P>
2392
2393 <hr>
2394 <h2><a name="O3">O3. Does fetchmail reread its rc file every poll cycle?</a></h2>
2395
2396 No.  Fetchmail only reads the rc file once, when it starts up.  To
2397 force an rc file reread, do <code>fetchmail -q; fetchmail</code>.<P>
2398
2399 <hr>
2400 <h2><a name="O4">O4. Why do deleted messages show up again when I take
2401 a line hit while downloading?</a></h2>
2402
2403 Because you're using a POP3 other than Qualcomm qpopper, or an IMAP
2404 with a long expunge interval.<P>
2405
2406 According to the POP3 RFCs, deletes aren't actually performed until
2407 you issue the end-of-session QUIT command.  Fetchmail cannot fix this,
2408 because doing it right takes cooperation from the server. There are
2409 two possible remedies:<P>
2410
2411 One is to switch to qpopper (the free POP3 server from Qualcomm,
2412 the Eudora people).  The qpopper software violates the POP3 RFCs by
2413 doing an expunge (removing deleted messages) on a line hangup, as well
2414 as on processing a QUIT command.<P>
2415
2416 The other (which we recommend) is to switch to <a
2417 href="http://www.imap.org">IMAP</a>.  IMAP has an explicit expunge
2418 command and fetchmail normally uses it to delete messages immediately
2419 after they are downloaded.<P>
2420
2421 If you get very unlucky, you might take a line hit in the window
2422 between the delete and the expunge.  If you've set a longer expunge
2423 interval, the window gets wider.  This problem should correct itself
2424 the next time you complete a successful query.<P>
2425
2426 <hr>
2427 <h2><a name="O5">O5. Why is fetched mail being logged with my name, not the real From address?</a></h2>
2428
2429 Because logging is done based on the address indicated by the sending
2430 SMTP's MAIL FROM, and some listeners are picky about that address.<p>
2431
2432 Some SMTP listeners get upset if you try to hand them a MAIL FROM
2433 address naming a different host than the originating site for your
2434 connection.  This is a feature, not a bug -- it's supposed to help
2435 prevent people from forging mail with a bogus origin site.  (RFC 1123
2436 says you shouldn't do this exclusion...)<p>
2437
2438 Since the originating site of a fetchmail delivery connection is
2439 localhost, this effectively means these picky listeners will barf on
2440 any MAIL FROM address fetchmail hands them with an @ in it!<p>
2441
2442 Versions 2.1 and up try the header From address first and fall back to
2443 the calling-user ID.  So if your SMTP listener isn't picky, the log
2444 will look right.<p>
2445
2446 <hr>
2447 <h2><a name="O6">O6. I'm seeing long sendmail delays or hangs near the start of each poll cycle.</a></h2>
2448
2449 Sendmail does a hostname lookup when it first starts up, and also each
2450 time it gets a HELO in listener mode.<p>
2451
2452 Your resolver configuration may be causing one of these lookups to
2453 fail and time out.  Check <code>/etc/resolv.conf</code> and
2454 <code>/etc/hosts</code> file. Make sure your hostname and
2455 fully-qualified domain name are both in <code>/etc/hosts</code>, and
2456 that hosts is looked at before DNS is queried.  You probably also want
2457 your remote mail server(s) to be in the hosts file.<p>
2458
2459 You can suppress the startup-time lookup if need to by reconfiguring
2460 with <code>FEATURE(nodns)</code>.<p>
2461
2462 Configuring your bind library to cache DNS lookups locally may help,
2463 and is a good idea for speeding up other services as well.  Switching to
2464 a faster MTA like qmail or exim might help. <p>
2465
2466 <hr>
2467 <h2><a name="O7">O7. Why doesn't fetchmail deliver mail in date-sorted order?</a></h2>
2468
2469 Because that's not the order the server hands it to fetchmail in.<P>
2470
2471 Fetchmail getting mail from a POP server delivers mail in the order
2472 that your server delivers mail.  Fetchmail can't do anything about
2473 this; it's a limitation of the underlying POP protocol.<P>
2474
2475 In theory it might be possible for fetchmail in IMAP mode to sort
2476 messages by date, but this would be in violation of two basics of
2477 fetchmail's design philosophy: (a) to be as simple and transparent a
2478 pipe as possible, and (b) to <em>hide</em>, rather than emphasize, the
2479 differences between the remote-fetch protocols it uses.<P>
2480
2481 Re-ordering messages is a user-agent function, anyway.<P>
2482
2483 <hr>
2484 <h2><a name="O8">O8. I'm using pppd.  Why isn't my monitor option working?</a></h2>
2485
2486 There is a combination of circumstances that can confuse fetchmail.
2487 If you have set up demand dialing with pppd, and pppd has an idle
2488 timeout, and you have lcp-echo-interval set, then the
2489 lcp-echo-interval time must be longer than the pppd idle timeout.
2490 Otherwise it is going keep increasing the packet counters that fetchmail
2491 relies upon, triggering fetchmail into polling after its own delay
2492 interval and thus preventing the pppd link from ever reaching its
2493 inactivity timeout.<p>
2494
2495 <HR>
2496 <table width="100%" cellpadding=0><tr>
2497 <td width="30%">Back to <a href="index.html">Fetchmail Home Page</a>
2498 <td width="30%" align=center>To <a href="/~esr/sitemap.html">Site Map</a>
2499 <td width="30%" align=right>$Date: 1999/09/23 20:54:37 $
2500 </table>
2501
2502 <P><ADDRESS>Eric S. Raymond <A HREF="mailto:esr@thyrsus.com">&lt;esr@snark.thyrsus.com&gt;</A></ADDRESS>
2503 </BODY>
2504 </HTML>