Das längste Thema

  • ich habe auch einen server übernommen, bei dem bloß der vxxxxxxxxxx-teil gesetzt war.

    dieser teil kommt bei hot,good,mega,quick und ultra vor. aber: nicht in yourvserver.net.

    und bei keinem dns mit meiner ip, also der ip, die mir ccp und scp anzeigen. !?

  • Habe ich versucht, geändert hat sich sonst in den Einstellungen leider nichts.

    Ist auch nicht weiter schlimm, da ich meinen eigenen FQDN einfach darauf zeigen lasse.

    Das ist eh die zu empfehlende Vorgehensweise. Zumindest wenn der Server Mails verschicken soll, hat er bei manchen Mailhostern mit so einem generischen Servernamen schon gleich Pech gehabt.

  • Danke KI

    https://www.kraxel.org/blog/2026/01/thank-you-ai/

    Tschüss WordPress Hallo Jekyll 🙂

    Bist Du der Poster? Ich verstehe das Problem nicht unbedingt. Ein normaler Netcup Server sollte damit doch zurecht kommen. Und wenn da mal was war, was da nicht mehr ist, wäre die Auslieferung des korrekten Fehlers (htaccess) evtl hilfreich, dass die Bots es nicht immer wieder probieren.

    RS 2000 G12 Pro BW25 (8C EPYC 9645, 16GB, 1TB) | RS 500 G12 BW25 (2C EPYC 9645, 4GB, 128GB) | RS Cyber Quack (1C,2GB,40GB)

  • Das mit dem Blocken der AI Scraper ist nicht so ganz ohne. Ich hab da auch betroffene Webseiten und angefangen mit nginx zonen zu blocken, dann später Netze, dann ganze ASNs aus China oder Brasilien. Alles nutzlos, täglich neue Bots, die die Last der Systeme einfach hoch treiben.

    Ich hab mir jetzt übers Wochenende eine Proof-Of-Work-Middelware implementiert. Den Keks musst du dir verdienen, ohne Keks immer wieder Proof of Work und keine Inhalte. Mit Keks Inhalte. Funktioniert ziemlich gut, schaue jetzt noch nach sinnvollen Ausnahmen für anständige Bots, wie Google, DuckDuckGo oder Bing ...

    | VPS: 28 | vCPU: 75 | Memory: 104 GB | Disk: 4012 GB |

  • das blockt einen Teil von AI-Bots. Ist keine endgültige Lösung, hilft aber erst mal. Einfach mal anschauen

    https://github.com/ai-robots-txt/ai.robots.txt

    Ich selbst nutze seit Jahren den Ultimate-Bad-Bot-Blocker für den Apachen (es gibt auch ein Nginx-Pendant) und aus dem Stegreif wüsste ich keinen AI-Bot, welcher mir in den Logs als "nicht geblockt" aufgefallen wäre.

    VServer IOPS Comparison Sheet: https://docs.google.com/spreadsheets/d/1w38zM0Bwbd4VdDCQoi1buo2I-zpwg8e0wVzFGSPh3iE

    Einmal editiert, zuletzt von m_ueberall (11. Februar 2026 um 13:20)

  • Die meisten dubiosen Bots, die unter dem Radar bleiben wollen und sich nicht zu erkennen geben, schaffen (zum Glück) nicht einmal das. Einen Großteil dieser Requests filter ich bei einem System alleine schon dadurch raus, dass alle veralteten Useragents (= älter als z.B. Firefox ESR Versionen) beim Loginformular landen. Natürlich mit Ausnahme jener Unterseiten, die man aus rechtlichen Gründen haben sollte. Das funktioniert erstaunlich gut, weil die sich zu 90% als uralte Systeme ausgeben. Da sind interessante Schmankerl dabei, die zusammen mit z.B. TLSv1.3 teilweise überhaupt keinen Sinn ergeben. :D

    "Wer nur noch Enten sieht, hat die Kontrolle über seine Server verloren." (Netzentenfund)

  • Ja, das hat auch eine Zeit gut geholfen, zweistellige oder einstellige Chrome und Firefox-Version zu blocken, irgendwann kamen sie dann aber mit aktuelleren Versionen um die Ecke.

    Also ich bin mit der Proof-of-Work Variante jetzt ganz happy, die blockt halt sehr ressourcenarm alles raus und jetzt kann ich mir eher überlegen welche Bots ich haben will. Zusätzlich hab ich noch einen iocaine 2 laufen, der halt Markov-Ketten-Texte produziert, für alle die ohne Keks vorbeikommen.

    | VPS: 28 | vCPU: 75 | Memory: 104 GB | Disk: 4012 GB |

  • Ich verstehe das Problem nicht unbedingt.

    Ich versteh das Problem auch nur ein bisschen

    Zitat

    Ok, es ist vorbei. Das Ende einer Ära für mich. Kein selbstgehostetes Git mehr. Ich hatte seit 2011 einen öffentlichen Git-Server laufen, und davor einen öffentlichen CVS-Server. KI-Scraper haben den armen, kleinen Server zu Tode gehämmert, indem sie das cgit-Frontend mit Unmengen sinnloser² Requests geflutet haben. ...

    ... 2018 habe ich den Blog von WordPress auf Jekyll migriert, sodass jetzt alles statische Seiten sind. Dass KI-Scraper die Maschine durch Überlastung ausknocken, sollte damit eigentlich nahezu unmöglich sein, und bisher hat das auch gehalten.

    Trotzdem haben KI-Scraper bereits einen Ausfall verursacht. Offenbar waren Millionen von 404-Antworten nicht genug, um die Bots davon zu überzeugen, dass es keinen cgit-Service (mehr) gibt. Apache hatte kein Problem damit, diese auszuliefern, aber die Logs haben die Platte so schnell gefüllt, dass logrotate es mit der Standardkonfiguration nicht geschafft hat, das unter Kontrolle zu halten. Konfiguration angepasst. Auf Holz geklopft.

    ²Am ineffizientesten, um das komplette Repository zu bekommen. Klon es einfach, okay?

    The universe tends toward maximum irony. Don't push it.

  • Ich kann es nachvollziehen. Ich hab auch einen kleinen gitea mit public repo laufen, und die Scraper nutzen halt jeden Link, bauen dann jeden komischen diff im Web oder download als tar anstatt das repo zu clonen. Und all das braucht auch tmp-space zum Generieren (das war mein problem auf einem VPS 200 G10s mit 40G Disk).

    Das alles erzeugt unnötige Last und Aufwand im Betrieb und ich hab damals auch überlegt, den gitea private zu setzen, gab da aber noch ein paar andere Optionen, den besser zu schützen. Und ich habs auf nen nano G11 migriert, der hat immerhin 60GB Platte)

    Den Effekt mit den Logfiles kenne ich auch. Auf dem im obigen Beitrag beschrieben Server sehe ich 12,5 Mio requests auf den am stärksten belastenten Domains pro Tag, dass sind 150 Request die Sekunde auf dem Webserver. Bei 2 Server mit 4CPUs (G11) war das ohne Proof-Of-Work ein Problem, mit geht das jetzt gut.

    Letztes Jahr waren das mal locker 210GB gz komprimierte Logfiles, auch das muss verwaltet werden und gemanagt werden. 2024 waren das noch 21GB, also rund 10% des Volumen.

    Für sowas kann man jetzt Zeit haben wollen oder auch nicht. Ich kann die Entscheidung problemlos nachvollziehen.

    | VPS: 28 | vCPU: 75 | Memory: 104 GB | Disk: 4012 GB |

    3 Mal editiert, zuletzt von daq4th (11. Februar 2026 um 20:39) aus folgendem Grund: Logvolumen 2024 hinzugefügt,Typo raus, Link hinzugefügt

  • Ah, jetzt ist wohl das Ende der kostenlosen Plesk-Lizenzen bei Strota gekommen. Gerade habe ich die entsprechende Ankündigung erhalten. Egal, ich habe diese Lizenzen nie genutzt und dort bald sowieso nur noch meine zwei kleinen VC1-1. Die brauchen ganz sicher kein Plesk - falls das überhaupt irgendein Server haben will :rolleyes:.