Arbeitsspeicher läuft voll

  • Hallo Leute,


    seit einiger Zeit (seit April 2011) läuft der RAM regelmäßig auf meinem vServer voll, was Performanceeinbrüche und automatische Neustarts durch die Virtualisierungsssoftware zur Folge hat.


    free zeigt mir an, dass der meiste RAM durch den Cache verbraucht wird. Weiterhin habe ich herausgefunden, dass der RAM genau um Mitternacht weiter volläuft. Um Mitternacht wird meine tägliche Datensicherung, bestehend aus rsnapshot und mysqldump, gestartet.


    Wenn ich mysqldump und rsnapshot mehrfach hintereinander einzeln starte, wird der RAM wieder freigeben. Nur in Kombination (erst rsnapshot, danach mysqldump) wird der Speicher nicht wieder freigegeben.


    Ich habe dieses Backup schon seit knapp einem Jahr laufen, die Probleme traten aber wie gesagt erst im April auf. Hat jemand von euch eine Erklärung für dieses Verhalten? An dem System wurde in der gesamten Zeit nichts verändert.


    Gruß
    Patrick

  • Wie sieht denn die ganze Ausgabe von free -m aus, wenn der Ram angeblich voll läuft? Der Cache ist nicht relevant und kann immer voll ausgelastet sein, siehe dieser Beitrag von mir. Dort gibt es auch noch weitere Erklärungen.



    MfG Christian

    "Wer nur noch Enten sieht, hat die Kontrolle über seine Server verloren." (Netzentenfund)

  • Ändert nichts an meiner Aussage aus dem verlinkten Thread: MemTotal - MemFree (- Buffers) - Cached = belegter Ram
    Der Ram ist also nicht voll. Weiterführende Links und Erklärungen gibt es wie bereits geschrieben, hier ;)



    MfG Christian

    "Wer nur noch Enten sieht, hat die Kontrolle über seine Server verloren." (Netzentenfund)

  • Und wie kann ich erreichen, dass mein vServer bei vollem Cache nicht neugestartet wird?


    Das VCP gibt mir nämlich eine Warnmeldung aus und nach einiger Zeit wird mein vServer neugestartet...

  • Das neue VCP? Das ist dort aktuell noch ein Bug, soweit ich informiert bin.


    Warum dein vServer neu gestartet wird, weiß ich nicht, das kann dir nur der Support beantworten. Wegen dem geschilderten Verhalten sollte er aber nicht neu starten. Wahrscheinlich sind es andere Probleme die nur zufällig gemeinsam auftreten, vielleicht auch wegen dem neuen Kernel.



    MfG Christian

    "Wer nur noch Enten sieht, hat die Kontrolle über seine Server verloren." (Netzentenfund)

  • Ich habe erst vor kurzem eine E-Mail vom Support bekommen, dass der vServer aufgrund hohem RAM-Verbrauches neugestartet worden ist.


    Das Problem habe ich genau wie hier geschildert. Die vorgeschlagene Problemlösung war, Alternativen zu der Sicherung zu finden. Da ich diese Sicherung bereits seit einem Jahr problemlos betrieben habe und ich auch keine "außergewöhnlichen" Tools einsetze, bin ich nicht gewillt, eine andere Backup-Software einzusetzen.


    Zudem erzeugt vor allem mysqldump den hohen Cache-Anteil. Gibt es dazu überhaupt eine ernstzunehmende Alternative?

  • Zitat

    Das VCP gibt mir nämlich eine Warnmeldung aus


    In dem Fall ist der RAM tatsächlich voll. Es sollte dann auf Ihrem System vermehrt zu OOMs kommen.


    Melden Sie sich doch bitte einmal bei preuss at netcup de unter Verweis auf diesen Artikel und dem vServer-Namen. Ich weise Ihrem vServer dann kostenlos für einen Monat das doppelte an RAM zu. So können Sie die Fehlerquelle ggf. näher eingrenzen.

  • Zitat von P4G0;35195

    Ich habe erst vor kurzem eine E-Mail vom Support bekommen, dass der vServer aufgrund hohem RAM-Verbrauches neugestartet worden ist.


    Achso, das ist natürlich etwas anderes. Ich dachte du vermutest das nur. Sorry, war ein Missverständnis! :o


    Tja, dann weiß ich ehrlich gesagt auch nicht mehr weiter. Das im Screencast gezeigte Verhalten sollte eigentlich zu keinem Neustart führen. Wäre für mich zu mindestens neu, sonst würden meine vServer alle dauerhaft neu gestartet werden, da bei mir ebenfalls fast immer alles mit "Cache" im Ram voll ist. Ob etwas zwischengespeichert wird kannst du eigentlich auch kaum beeinflussen, das entscheidet der Kernel für dich und diesen kannst du nicht abändern.


    Vielleicht ist dein Ram wirklich komplett ausgelastet (ohne Cache), wenn dein vServer neu gestartet wird? Vielleicht sogar der Swap zu diesem Zeitpunkt? Mit Programmen wie z.B. atop könntest du die Auslastung einmal protokollieren.


    Zitat von [netcup] Felix;35196

    In dem Fall ist der RAM tatsächlich voll. Es sollte dann auf Ihrem System vermehrt zu OOMs kommen.


    Ich dachte die Anzeige ist noch nicht in Echtzeit und bedeutet nur, dass der Ram einmal seit dem Start voll war?



    MfG Christian

    "Wer nur noch Enten sieht, hat die Kontrolle über seine Server verloren." (Netzentenfund)

  • Das wird nicht nötig sein. Wenn ich die Sicherung abschalte, dann tritt der Fehler nicht auf (bereits getestet).


    Mit cacti habe ich den Server längere Zeit überwacht und konnte dementsprechend die Sicherung als Problemquelle feststellen. Pro Backup werden rund 300MB RAM mehr belastet und nicht wieder freigegeben. Dementsprechend is nach 2 bis 3 Tagen Ende (bei 1GB RAM).


    Die Sicherung lief wie gesagt bis April fast ein Jahr lang problemlos, ohne den RAM auszulasten (bzw. nicht mehr freizugeben). Soweit ich weiß, wurde April ein neuer Kernel eingespielt, der "Verbesserrungen am RAM-Management" beinhaltet. Könnte dieser nicht auslöser des Problems sein?


    Welche Backup-Software würden Sie mir empfehlen, um Verzeichnisse und MySQL-Datenbanken zu sichern?

  • KB19: Nach einem Neustart des vServers ist wieder alles paletti: es werden nur rund 150MB RAM von Web- und Mailserver beansprucht.


    Nach 2 bis 3 Tagen ist dann Sense, wenn die Backups täglich laufen. Wenn das Backup nicht läuft, bleibt die RAM-Auslastung dauerhaft auf etwa gleichem Niveau.


    Aber atop werde ich mir einmal anschauen...

  • Zitat von P4G0;35198

    Welche Backup-Software würden Sie mir empfehlen, um Verzeichnisse und MySQL-Datenbanken zu sichern?


    Auch, wenn dir das nicht viel hilft: Aber ich setze mysqldump seit mehreren Jahren hier ein, auch für teilweise sehr große DB's mit 100-1000 MB an Daten. Der Cache-Anteil erzeugte noch nie Probleme, obwohl es mindestens zwei mal täglich läuft.


    Da muss es irgendein anderes Problem geben, vielleicht wirklich beim Kernel/Node, keine Ahnung.



    MfG Christian

    "Wer nur noch Enten sieht, hat die Kontrolle über seine Server verloren." (Netzentenfund)

  • Das witzige ist ja, dass das Problem eigentlich nur so gravierend in Kombination von rsnapshot + mysqldump auftritt.


    Hast du zu rsnapshot eine einfache Alternative? Sollte mir x Backups der letzten Tage vorenthalten und relativ simpel sein. rsnapshot finde ich ansonsten halt schön bequem, da man Dateien einfach ohne spezielle Befehle wiederherstellen kann (einfach kopieren).

  • Seltsam.


    Und dein Monitoring zeigt dir, dass zu dem Zeitpunkt wirklich nur der Cache voll läuft, nicht der Ram allgemein? Das wäre für mich die einzige Erklärung, die mir zur Zeit einfällt. Soll heißen: Dass man zwar sonst immer nur viel Cache sieht, aber beim Sichern irgendeiner bestimmten Datei so viel Ram + Swap (Cache sollte dann beinahe 0 sein) beansprucht wird, dass der vServer neu startet.


    Tut mir Leid, dass ich nicht mehr helfen kann.



    MfG Christian

    "Wer nur noch Enten sieht, hat die Kontrolle über seine Server verloren." (Netzentenfund)

  • Also wie man im Screencast sieht, läuft der Cache voll.


    Der auslagerungsspeicher wird und wurde komischerweise vom vServer noch nie genutzt.. Dort steht immer total: 1GB, Used: 0, Available: 1GB

  • Zitat von P4G0;35203

    Also wie man im Screencast sieht, läuft der Cache voll.


    Das ist mir schon klar. Aber zu diesem Zeitpunkt wurde der vServer nicht automatisch neu gestartet, oder? :D



    MfG Christian

    "Wer nur noch Enten sieht, hat die Kontrolle über seine Server verloren." (Netzentenfund)

  • Nein das nicht, aber es liegt definitiv am Backup. Ich habe das Ganze ja längere Zeit protokolliert und nur das Backup knallt den RAM mit Cache voll (das sah man bei Munin anhand der Free RAM-Kurve, die um Mitternach nach unten ging und auch nach dem Backup auf dem Level blieb).


    Der vServer wird auch nicht sofort neugestartet, wenn der RAM einmal ausgelastet ist, sondern erst nach einiger Zeit.

  • Hallo,


    ich weiss zwar nicht, ob unser Problem die selbe Ursache hat.
    Aber auch bei mir geht im VCP immer das rote Lämpchen nach dem automatischem Backup an.
    Ich habe dort das ispCP Omega 1.0.7 am laufen. Wenn ich das Backup deaktiviere läuft auch bei mir alles ohne Probleme. Darum habe ich mal im Forum von ispCP Omega nachgefragt. Dort habe ich den Tipp bekommen, das Backup mal von .bzip2 auf .zip umzustellen. Aber leider blieb alles beim alten.
    Vom Support, wurde ich über die hohe RAM-Auslastung am 2.Mai informiert.
    Jetzt wäre es wirklich interresant, ab wann genau dieser neue Kernel eingesetzt wurde.

  • Zitat von GerhardSt;35229

    Jetzt wäre es wirklich interresant, ab wann genau dieser neue Kernel eingesetzt wurde.


    Du solltest ca. 1-2 Wochen vor dem Upgrade eine E-Mail mit einer Ankündigung von Wartungsarbeiten am Node erhalten haben -> E-Mail Postfach durchsuchen ;)



    MfG Christian

    "Wer nur noch Enten sieht, hat die Kontrolle über seine Server verloren." (Netzentenfund)

  • Hallo Christian,


    danke für den Hinweis.
    Das letzte Mail das ich wegen Wartungsarbeiten am Node gefunden habe, war am 30. März.
    Da muss ich wohl doch noch weitersuchen, oder kann es sein das da Fehler erst ca. einen Monat später auftretten?