# riussischer durchgeknallter Bot User-agent: Yanga WorldSearch Bot Disallow: / # http://www.dotnetdotcom.org/ User-agent: dotbot Disallow: / User-agent: WebsiteWiki Disallow: / # Bildersuche von Google ausschalten User-agent: Googlebot-Image Disallow: / # MSN braucht kein Mensch User-agent: msnbot Disallow: / # Slurp von Inktomi ist ein durchgeknallter Robot User-agent: Slurp Disallow: / # http://web.archive.org / Alexa - a9.com User-agent: ia_archiver Disallow: / # exabot ist ein durchgeknallter Robot User-agent: Exabot Disallow: / # www.majestic12.co.uk User-Agent: MJ12bot Disallow: / # Der NAme ist Programm, GIGA User-Agent: Gigabot Disallow: / # suchen.de User-agent: gonzo* Disallow: / # neomo.de User-agent: Francis Disallow: / # alle restlichen Crawler User-agent: * Disallow: /css/ Disallow: /pics/ # fuer Altavista (die haben Probleme mit dynamischen Sites) # ok, ALLOW ist nicht Standard, aber Altavista frisst es Allow: /websites/1/