Willkommen ~Gast!
Registrieren || Einloggen || Hilfe/FAQ || Staff
Probleme mit der Registrierung im Forum? Melde dich unter registerEin Bild.
Autor Beitrag
000
18.11.2008, 15:32
Linga
Administrator


Hey,

folgendes Szenario: Eine robots.txt bzw. deren Funktion Inhalte gezielte für Webcrawlern auszuschließen soll abgelegt werden auf einer Seite, die keine eigene Domain hat (auch keine Subdomain). Die Seite wird erreicht über eine übergeordnete Page, die eine eigene Domain hat. Zugriff via ftp besteht für mich nur auf den Ordner der untergeordneten Page.

Konkret: Ich kümmere mich um die Page des Fachbereichs in dem ich studiere. Die Fachbereichsseite erreicht man über die Seite der Hochschule. Ich habe keinen Zugriff auf den root-Ordner der Hochschuldomain und kann somit auf normalem Wege keine robots.txt dort ablegen.

Gibt es da workarounds oder muss ich zwingend für ne Subdomain sorgen, sodass Google usw. dann eine robots.txt im entsprechenden Ordner des Fachbereichs erkennen?
Im Falle einer Subdomain müsste die Hochschule dann ja auch auf die Subdomain verlinken und nicht wie bisher auf den Ordner des Fachbereichs auf dem selben Server - denn hierbei würden Bots, die über die lokalen Verlinkungen auf der Hauptseite der Hochschule auf die Fachbereichsseite kommen ja wieder keine Anweisungen von mir verarbeiten und weiter alles indexieren.

Kompliziertes und doch wahrscheinlich verbreites Problem, nehme ich an. Ich will halt unabhängig der Admins der Hochschulseite arbeiten und die Jungs, die ich zudem garnicht kenne, nicht ständig mit Eintragungen nerven - zudem die robots.txt der Hauptseite leer ist - offenbar haben die also auch nicht so den großen Plan davon.

Ist das jetzt das richtige Unterforum? Manchmal bin ich mir da unsicher ;)

Danke!

--

zum Seitenanfang zum Seitenende Profil || Suche
001
18.11.2008, 16:04
Bluthund



Afaik ist das nicht drin (unterstützt hierdurch).
Alternativ könntest du meta-Tags nutzen aber das bläht natürlich die Website unnötig auf.
Aber vielleicht hast du Glück und jemand anders hat nen passenden Workaround parat.

--

The C language combines all the power of assembly language with all the ease-of-use of assembly language.
"humorig is n blödwort :>" by -CarniGGeLjumpR-

zum Seitenanfang zum Seitenende Profil || Suche
002
18.11.2008, 18:12
rawe



.htaccess? $_Server['user_agent'] ? http://www.abakus-internet-marketing.de/foren/viewtopic/t-16795.html

--

O o
/¯¯/_o___o___o___o____o__
\__\¯¯o¯¯¯o¯¯¯¯¯¯o¯¯¯¯¯¯o
i'm doctoroctogonnafuckinggonnapus blaaaaaaaaaaargggggg-

zum Seitenanfang zum Seitenende Profil || Suche
003
18.11.2008, 19:11
Linga
Administrator


Ist leider kein Apache Server...

--

zum Seitenanfang zum Seitenende Profil || Suche
004
18.11.2008, 19:30
Adrian_Broher
Admin


Zitat:
Linga postete
Ist leider kein Apache Server...
Sondern?

--

There is nothing wrong with high standards. It's your problem that you don't meet them.
If you think it's simple, then you have misunderstood the problem.
When a customer says "nothing has changed", assume they're lying.

zum Seitenanfang zum Seitenende Profil || Suche
005
18.11.2008, 19:54
Linga
Administrator


Wenn ich das wüsste. Demnächst zieht der Fachbereich auf nen virtuellen Server um, dann steht das nicht mehr zur Debatte. Ich hätte aber eben schon vorher gerne die Sucheinträge "gefiltert" und sortiert. Alles was zu kompliziert ist oder die Admins der Hauptseite einspannt will ich daher vermeiden.

--

zum Seitenanfang zum Seitenende Profil || Suche
006
18.11.2008, 20:19
caedes



gib mal die url, dann kann ich dir (wahrscheinlich) sagen, was fürn server das ist

--

caedes

Deutschland rückt nach Einschätzung der Sicherheitsbehörden im Superwahljahr verstärkt ins Visier von Terroristen.

zum Seitenanfang zum Seitenende Profil || Suche
007
18.11.2008, 20:23
Bluthund



Zitat:
Linga postete
Wenn ich das wüsste.
Schickt das Ding den Server-HTTP-Header nicht oder wie?
edit: Stimmt URL wäre ganz hilfreich :)

--

The C language combines all the power of assembly language with all the ease-of-use of assembly language.
"humorig is n blödwort :>" by -CarniGGeLjumpR-


Dieser Beitrag wurde am 18.11.2008 um 20:24 von Bluthund bearbeitet.
zum Seitenanfang zum Seitenende Profil || Suche
008
19.11.2008, 16:48
Linga
Administrator


http://www.fh-friedberg.de/fachbereiche/suk/sukneu/logistik.html

--

zum Seitenanfang zum Seitenende Profil || Suche
009
19.11.2008, 17:18
Bluthund



Wow was is das denn :D
Auf nen malformed HTTP-Request (und dazu scheint für den Server auch OPTIONS zu zählen) antwortet der Server nur mit nem Verbindungsabbruch und den Server-Header setzt er auch nich O_o
Und die 404er Response ist deutsch (natürlich is der Klartext hinter dem Status egal, aber welcher Webserver gibt da ne lokalisierte Message zurück)?

Zitat:
HTTP/1.0 404 /fachbereiche/suk/sukneu/index.html: Dokument nicht gefunden

--

The C language combines all the power of assembly language with all the ease-of-use of assembly language.
"humorig is n blödwort :>" by -CarniGGeLjumpR-


Dieser Beitrag wurde am 19.11.2008 um 17:20 von Bluthund bearbeitet.
zum Seitenanfang zum Seitenende Profil || Suche
010
19.11.2008, 23:16
Gravok



Zitat:
Date: Wed, 19 Nov 2008 22:14:43 GMT
Connection: close
MIME-Version: 1.0
Content-Type: text/html

200 OK

Der ist schön eingestellt ;) Umso weniger man von außen weiß, umso besser ist das.

--

23 - Nichts ist so wie es scheint

zum Seitenanfang zum Seitenende Profil || Suche