BingBot und GoogleBot lesen die Webseite aus, um diese zu Indexieren und in der Websuche verfügbar zu machen, aber was, wenn Google und Microsoft nicht so funktionieren, wie sie sollten?
Google mit der «Google Search Console» und Microsoft BING mit dem «Bing Webmaster Tool» sind die bekanntesten und erfolgreichsten Internet-Suchmaschinen, die es gibt und versprechen die Klickrate massiv auf Webseiten erhöhen.
Ich schreibe diesen Beitrag um mehr Leser und Knowhow Träger zu erreichen und eine Antwort auf mein Problem zu bekommen. Die geballte Menge von Suchanfragen bei Google und BING soll mir dabei helfen. Ich werde, auch wenn es sinnlos ist, Werbung in Facebook, Instagram und Google schalten, um eine Antwort zu bekommen.
Vorweg: Ich bin mir sehr sicher, dass das früher funktioniert, hat den, die Webseite gibt es schon länger im Bing Webmaster Tool und es muss «irgendetwas» bei BING gemacht worden sein, was den Fehler auslöst.
Was ist passiert und was ist das Problem? Die Ausgangslage.
Ich habe mehrere Webseiten online in der Google Search Console (WordPress und phpBB Webseiten) wo alles problemlos mit Indexierung, dem Crawling und der gefundenen Anzahl Einträge bei Google richtig ist und funktioniert.
Alle Webseiten wurden dann in das Microsoft Bing Webmaster Tool von Google fehlerfrei importiert. Die Webseiten wurden einmal über den direkten Import und einmal auf die manuelle Weise mit «BingSiteAuth.xml» also ohne direkten Google importiert. Beide Wege zeigten keinerlei Unterschied.
In der Google Search Console ist die Anzahl gefundener Einträge richtig, im Bing Webmaster Tool werden extrem weniger bzw. nur sechs Einträge gefunden, die indexiert werden können. Interessant ist auch, dass die «robots.txt» mal gefunden wird und mal nicht!
Bilder sagen alles! Bei Bing werden nur extrem weniger Einträge für die Websuche (SEO) gefunden, wodurch es folglich viel weniger Klicks gibt und Google AdSense keine Werbung schalten und der Umsatz bei BING gänzlich gegen NULL geht.
Bei der Webseiten Prüfung auf die komplette URL des BING Webmaster Tools zeigt sich allerdings, dass der BingBot genügend Webseiten gefunden hat, aber der BingBot-IP blockiert wurde, welches an sich schon widersprüchliche Aussagen sind.
Die Internet-Suche ergab keine hilfreichen Antworten, da es das Problem so anscheinend nie gegeben hat und daher auch nichts zu finden war und auch diverse Foren gaben nicht ansatzweise eine Hilfestellung.
Was blieb war nur noch sich die Mühe zu machen den offiziellen Support von Microsoft und den Hoster (hoststar.ch) zu kontaktieren und dort eine Lösung des Problems zu erhoffen.
Die Kontakte in den verschiedenen Foren, dem 1st und dem 2nd-Level-Support von Microsoft und dem Webseiten Hoster, gingen ins Unermessliche und Erfolgslos waren.
Jeder schiebt die Schuld auf den anderen!
N.b. Ich habe selbst lange im 2nd-Level-Support gearbeitet und weiss wie die Abläufe dort sind. Erste Frage: Ist der Cursor da? Wenn die Antwort kam: Nein, ich glaube nicht, dass er in dieser Abteilung arbeitet, war der Fall klar! Nichts gegen den Support. Wenn die Supporter wissen, dass sie es nicht mit einem Dummy zu tun haben, wird es meisten konstruktiv und professionell.
- Forum Bing Webmaster Tool
Über das Forum, weil der Fall für die Supporter klar war, wurde der Fall dann an den technischen Support für das «BING Webmaster Tool» weitergeleitet. - BING 2nd-Level-Support (Technical Support)
Da wurde mir mitgeteilt, dass der BingBot blockiert ist und kein Crawling bzw. keine Indexierung durchführen können. Es gibt eine JSON Datei mit IP-Adressen, die der BingBot verwendet, obwohl die robots.txt nur relevant ist, die IP-Adressen unabhängig ist.
Nach einigen Tagen Wartezeit hiess es dann, dass der Hoster das Problem ist und er die IP-Adressen blockt. - Hoster 1st-Level-Support
Mit den Informationen vom Microsoft 2nd-Level-Support habe ich den Hoster kontaktiert, der natürlich alles möglich wissen wollte und ich einige Test durchführen musste.
Jetzt wurde das access.log und error.log erfolglos analysiert und keine Zugriffe oder Fehler von BING im in den Logs gefunden. Was für mich heisst, dass den BingBot gar nicht erst bis auf dem Server kommt und es hiess wieder das Microsoft bzw. das Bing Webmaster Tool für den Fehler verantwortlich ist. - BING 2nd-Level-Support (Technical Support)
Nachdem ich wieder den Microsoft Support kontaktiert habe, gab es nach Tagen wieder da gleiche Ergebnis, was wohl verständlich ist. Mittlerweile glaube ich das das Microsoft Bing Webmaster Tool hat einen Bug hat, aber es interessiert niemanden. Ich scheine der einzige zu sein, der das Problem hat und somit ist die Bug Möglichkeit nicht plausibel. - Hoster 2nd-Level-Support (Special Support)
Erneuter Versuch zurück an den Hoster, obwohl mir klar war, das es keine weiteren neuen Ergebnisse geben wird!
Der Hoster schreibt unter anderem auch das der Crawler NUR auf die sitemap.xml und die robots.txt zugreift und daher ein Blocking an dieser Stelle nicht möglich ist. Er verweist auf die «Web Application Firewall» (WAF) und diese die Seite blockiert, was mir nichts sagt, dass der Teil beim Hoster liegt.
Im access.log und error.log waren keine serverseitigen Zugriffe und Fehler zu finden, was den Hoster wieder ausschliesst.
Was komisch ist das die robots.txt im Bing Webmaster Tool mal gelesen wird und mal nicht. Auch die sitemap.xml wird mal erfolgreich eingelesen, zwar nur mit 6 Einträgen, und mal nicht, obwohl die sitemap.xml die gleiche ist.
Mittlerweile, und das ist eine Farce, zeigt mir das Bing Webmaster Tool eine Warnungsmeldung in Top-Insight an, dass ich nicht genügend qualitativ hochwertige Links und Backlinks auf meiner Webseite habe und dass das einen Einfluss auf die Indexierung und die Online Sichtbarkeit habe, würde.
… und seitdem geht nichts mehr!
FAZIT: Ich stelle dem Microsoft und Hoster Support ein erbärmliches Zeugnis aus.
Schön wäre es, wenn ich des öfteren den Bing Webmaster Tool Status überprüfe, dass es mit einmal wieder geht und die Webseite vollständig indexiert wurde, aber das ist wohl ein Traum.
Autor: Klaus Wilde
Mittlerweile sind auch andere im BING Webmaster Tool eingetragen Webseiten mit dem gleichen Effekt aufgetreten!
Ich glaube, Microsoft hat einen Bug, aber wenn der kleine Mann das meldet, wird das ignoriert und nichts unternommen. Wenn mal jemand von Microsoft das feststellt, wird der Bug endlich behoben.
Mittlerweile habe ich NULL SEO BING Klicks und demzufolge auch keine Google AdSense Klicks mehr!