nach mehr als 2 Stunden erfolglosen suchen, schreibe ich nun diesen Beitrag.
Mein Problem ist Folgendes:
Es ist ja möglich Suchmaschinen bestimmte Urls von der Indexierung auszuschließen. Ist dies evtl. auch schon für ein speziell gekennzeichneten Content innerhalb einer Seite möglich? Dies könnte bespielsweise über ein speziellen Html-Kommentar (<!-- noindexing--> bzw. <!-- /noindexing --> realisiert werden.
Gibt es da bereits irgendetwas in diese Richtung? Gibt es vielleicht sogar etwas einheitliches was alle Crwaler akzeptieren? Wie sieht das bei dem Webcrwaler Nutch aus? Gibt es evtl ein Plugin dafür? Oder muss ich mir selsbt eins schreiben.