# robots.txt zu http://www.funkaholics.info/ #User-agent: UniservalRobot/1.0 #User-agent: mein-Robot #Disallow: /quellen/dtd/ #Allow: /quellen/dtd/index.html # erstmal alles verbieten User-agent: * Disallow: / # und jetzt Artikelverzeichnis erlauben Allow: /Articles/Index.html # muss noch in's html-Template # # verbietet Suchprogramm, Inhalte aus HTML-Datei an Suchdatenbank zu übermitteln # # #erlaubt Suchprogramm, Inhalte aus aktueller HTML-Datei an Suchdatenbank zu übermitteln. # # #erlaubt Suchprogramm, Inhalte aus aktueller HTML-Datei an Suchdatenbank zu übermitteln #verbietet dem Suchprogramm jedoch, untergeordnete Dateien Ihres Projekts zu besuchen. # # #erlaubt Suchprogramm, Inhalte aus aktueller HTML-Datei und untergeordneten Dateien zu indizieren.