Wiener Server Performance IOPS

hoedlmoser · 2. Februar 2022

hi!

bediene ich fio falsch, kann ich das VServer IOPS Comparison Sheet nicht richtig deuten oder ist die IO Performnace der Wiener Server (hier ein RS 1000 G9 a1, netcup Debian 11 image) einfach nicht so gut?

ausm Sheet hätte ich für solch einen server 33/11 kIOPS R/W gelesen, ich erhalte hier aber nur 23/7, das ist weniger als 70% vom im Sheet gemessenen wert. oder streut das so arg?

Code

fio --randrepeat=1 --ioengine=libaio --direct=1 --gtod_reduce=1 --name=test1 --filename=test1 --bs=4k --iodepth=64 --size=4G --readwrite=randrw --rwmixread=75
test1: (g=0): rw=randrw, bs=(R) 4096B-4096B, (W) 4096B-4096B, (T) 4096B-4096B, ioengine=libaio, iodepth=64
fio-3.25
Starting 1 process
Jobs: 1 (f=1): [m(1)][100.0%][r=124MiB/s,w=40.5MiB/s][r=31.7k,w=10.4k IOPS][eta 00m:00s]
test1: (groupid=0, jobs=1): err= 0: pid=547: Wed Feb  2 00:37:58 2022
  read: IOPS=23.0k, BW=90.0MiB/s (94.4MB/s)(3070MiB/34098msec)
   bw (  KiB/s): min=67688, max=134984, per=100.00%, avg=92292.78, stdev=9200.26, samples=68
   iops        : min=16922, max=33746, avg=23073.19, stdev=2300.07, samples=68
  write: IOPS=7702, BW=30.1MiB/s (31.6MB/s)(1026MiB/34098msec); 0 zone resets
   bw (  KiB/s): min=22712, max=44536, per=100.00%, avg=30842.93, stdev=2966.17, samples=68
   iops        : min= 5678, max=11134, avg=7710.72, stdev=741.55, samples=68
  cpu          : usr=3.51%, sys=18.37%, ctx=445152, majf=0, minf=6
  IO depths    : 1=0.1%, 2=0.1%, 4=0.1%, 8=0.1%, 16=0.1%, 32=0.1%, >=64=100.0%
     submit    : 0=0.0%, 4=100.0%, 8=0.0%, 16=0.0%, 32=0.0%, 64=0.0%, >=64=0.0%
     complete  : 0=0.0%, 4=100.0%, 8=0.0%, 16=0.0%, 32=0.0%, 64=0.1%, >=64=0.0%
     issued rwts: total=785920,262656,0,0 short=0,0,0,0 dropped=0,0,0,0
     latency   : target=0, window=0, percentile=100.00%, depth=64

Run status group 0 (all jobs):
   READ: bw=90.0MiB/s (94.4MB/s), 90.0MiB/s-90.0MiB/s (94.4MB/s-94.4MB/s), io=3070MiB (3219MB), run=34098-34098msec
  WRITE: bw=30.1MiB/s (31.6MB/s), 30.1MiB/s-30.1MiB/s (31.6MB/s-31.6MB/s), io=1026MiB (1076MB), run=34098-34098msec

Disk stats (read/write):
  sda: ios=780614/260882, merge=0/10, ticks=1341808/764094, in_queue=2105902, util=99.77%

Alles anzeigen

gre3tings, Klaus

ThomasChr · 2. Februar 2022

Ich würde vermuten die Performance schwankt je nach Server, egal ob Wien oder nicht.

Hast du mehrere wienerische Server oder können andere das nachvollziehen?

hoedlmoser · 2. Februar 2022

dass IO in einer virtuellen umgebung schwankt hätte ich auch angenommen, meine messwerte selbst waren aber recht stabil. mal eine serie loggen.

das ist leider mein einziger RS, also kann ich leider in keinster weise vergleichen.

aRaphael · 2. Februar 2022

In dem von dir verlinkten Excel-Sheet sind ja mehr als ein dutzend RS von netcup aufgeführt.

Zumindest die kannst du als Vergleich heranziehen.

hoedlmoser · 2. Februar 2022

dutzend? ich sollte vielleicht nur mit den G9 vergleichen, so gesehen gibts genau einen, der schlechter als meiner ist, aber fünf die besser sind.

hoedlmoser · 2. Februar 2022

nach meiner testreihe von 100 fios alle 5 min habe ich im median 19,7/6,6 kIOPS R/W, bester wert war 21,3/7,1, schlechtester 18,9/6,3. ähnlich bei der BW mit 77,2/25,7 MiB/s R/W im median, bester wert 83,0/27,7, schlechtester 73,9/24,7.

die werte aus dem Sheet sind für mich in Wien mal unerreichbar. mal sehen wie das in Nürnberg aussieht.

michaeleifel · 2. Februar 2022

So langsam verstehe ich warum manch ein Anbieter folgendes in die AGB schreibt:

Code

Ebenfalls verboten sind ..., das längerfristige Herbeiführen hoher Belastungen ohne direkten Ertrag (z.B. Benchmarks) sowie das Nutzen oder Bereitstellen von Massenservices

Der obige AGB Absatz wurde übrigens mir zum Verhängnis, da ich automatisierte CI Tests gemacht habe und hierbei für 1 Stunde am Tag die zugewiesenen Kerne zu 100% genutzt wurden.

Ich habe ja die Hoffnung, dass je nach Servergröße es Limits gibt wieviel IOPS gemacht werden dürfen. Ansonsten legt ja ein einzelner Kunde die anderen lahm. Hatte das Problem auf einem Server dass immer wieder ohne ersichtlichen Grund die Load von 4 -> 20 kurzzeitig explodiert ist, bei gleichbleibenden Prozessen etc. War erst nach Migration auf anderen Host erledigt.

Kommt deine Anwendung denn mit den 6000 IOPS pro Sekunde aus?

aRaphael · 2. Februar 2022

Zitat von hoedlmoser

...nach meiner testreihe von 100 fios alle 5 min...

Kein Wunder, dass die Performance auf diesem Host schlechter ist.

hoedlmoser · 3. Februar 2022

Zitat von hoedlmoser

mal sehen wie das in Nürnberg aussieht.

schlechter. also ich bleib in Wien.

R/W		Wien	Nürnberg
kIOPS	median	19,7/6,6	11,6/3,9
	best	21,3/7,1	16,1/5,4
	worst	18,9/6,3	6,6/2,2
BW MiB/s	median	77,2/25,7	45,6/15,2
	best	83,0/27,7	62,7/20,5
	worst	73,9/24,7	26,1/8,9

Zitat von michaeleifel

je nach Servergröße es Limits gibt wieviel IOPS gemacht werden dürfen

ich werde berichten, da ich im zuge meiner migration durch alle RS hoppeln werde. ich würds aber annehmen, daß ein RS 1000 nicht die selben IOPS wie ein RS 8000 bekommt.

betrachtet man im Sheet das beste ergebnis des RS 2000 G9 als fehlmessung sieht es danach aus.

Zitat von michaeleifel

Kommt deine Anwendung denn mit den 6000 IOPS pro Sekunde aus?

gegenüber dem drehenden rost beim großen H auf alle fälle.

Zitat von michaeleifel

manch ein Anbieter folgendes in die AGB schreibt

netcup doch nicht, dort finde ich eine solche entsprechende stelle nicht.

aber zusammenfassend dürfte der leitsatz meines mess-, steuerungs- und regeltechnik-lehrer gelten: "wer misst, misst mist".

aRaphael · 3. Februar 2022

Zitat von hoedlmoser

...netcup doch nicht, dort finde ich eine solche entsprechende stelle nicht.

Das würde ich mir aber wünschen.

Solche unverhältnismäßigen Benchmarks belasten den Host und die Hardware völlig unnötig.

So manche lags oder latencies auf meinen Servern sind möglicherweise gerade auf solche Nachbarn zurückzuführen.

hoedlmoser · 3. Februar 2022

wenn Du lags und latencies nicht abkannst wird wohl dezidiertes blech für Dich besser sein.

andererseits könnte Netcup angaben zu erwartenden IOPS und BW geben, natürlich ohne garantie. dann wüßten wir jetzt ob diese parameter zb mit den anderen kennzahlen eines RS mitwachsen.

genauso wie hier CPU, RAM und diskspace zugeordnet wird, gehe ich davon aus, daß auch IO einer limitierung unterliegt und ich nur einen bruchteil der gesamtressource eines blech-servers ausnutzen und in keinster weise den server alleine saturieren kann. das kommt dann eher von der überbuchung.

aber ja, vielleicht sollte ich bei meiner cloud ein warnschild aufhängen, man möge doch langsam runterladen und nicht über die 2,5 Gbit/s von der NIC die SSD saturieren.

michaeleifel · 3. Februar 2022

Zitat von hoedlmoser

wenn Du lags und latencies nicht abkannst wird wohl dezidiertes blech für Dich besser sein.

andererseits könnte Netcup angaben zu erwartenden IOPS und BW geben, natürlich ohne garantie. dann wüßten wir jetzt ob diese parameter zb mit den anderen kennzahlen eines RS mitwachsen.

genauso wie hier CPU, RAM und diskspace zugeordnet wird, gehe ich davon aus, daß auch IO einer limitierung unterliegt und ich nur einen bruchteil der gesamtressource eines blech-servers ausnutzen und in keinster weise den server alleine saturieren kann. das kommt dann eher von der überbuchung.

aber ja, vielleicht sollte ich bei meiner cloud ein warnschild aufhängen, man möge doch langsam runterladen und nicht über die 2,5 Gbit/s von der NIC die SSD saturieren.

Alles anzeigen

Ich kann die Lags und Latencies ab aufgrund der 3fachen Redundanz. Mein Monitoring alarmiert aber über Abnormalien und sowas mag es überhaupt nicht. Kein Anstieg der Prozesse, CPU etc, aber trotzdem steigt der Load:

pasted-from-clipboard.png
Mir würde die Aussage reichen, dass ein gewisser Teil der Ressourcen "dediziert" zur Verfügung stehen, ähnlich wie es bei der CPU gemacht wird. Ein System wie beim großen "A", wäre zuviel des guten. Der Graph ist von nem RS, nicht VPS.

Die 2,5 Gbit sind übrigens nicht garantiert, selbst beim anderen H aus Deutschland ließt du Sätze wie "im Schnitt 200Mbit/s". Und selbst beim dedizierten Blech ist das so. Also keine wirkliche Alternative.

Man könnte natürlich auch verschiedene Layer bauen. Die ersten Tage auf anderem Nodepool weil man von ausgeht ,dass die Leute yabs, fio etc. laufen lassen und danach dann in anderen Pool migrieren sofern Jahresvertrag.

tab · 3. Februar 2022

Zitat von michaeleifel

Man könnte natürlich auch verschiedene Layer bauen. Die ersten Tage auf anderem Nodepool weil man von ausgeht ,dass die Leute yabs, fio etc. laufen lassen und danach dann in anderen Pool migrieren sofern Jahresvertrag.

Dann sollte man praktischerweise gleich noch den Tipp geben, dass eventuelle Messungen in den ersten Tagen eh sinnlos sind, weil man später in einen anderen Nodepool transferiert wird, für den die Messergebnisse dann nicht mehr unbedingt passen .

179286 · 3. Februar 2022

Hallo,

hätte eine Frage.

Bin neu ihr, wo kann man sich hien wenden wenn man was fragen will. bzw wie kann man ihr im Forum schreiben

DerRené · 3. Februar 2022

WIllkommen 179286

Im Grunde ganz einfach: Such dir hier auf der Forenstartseite das passende Unterforum/Kategorie aus und eröffne einfach ein neues Thema. Oder, besser, du suchst* vorher ob die Frage bereits zuvor gestellt wurde - ggf. existiert dann auch schon eine passende Lösung. Anderenfalls eben ein eigenes Thema erstellen.

* oben im Kopfbereich:

pasted-from-clipboard.png

Im Optimalfall also nicht so, wie du es jetzt gemachst hast: in irgendeinem bestehenden Beitrag eine völlig themenfremde eigene Frage stellen.

Sobald man sich ein wenig mit der Forenstruktur beschäftigt hat, klappt das dann schon.

hoedlmoser · 3. Februar 2022

Zitat von michaeleifel

Kein Anstieg der Prozesse, CPU etc, aber trotzdem steigt der Load

die load ist ein sliding window über die letzte minute. könnte es sein, daß Dein monitoring eventuelle sehr kurze auslastungsspitzen nicht sieht. ich will sagen: die load ist ein kontinuierlicher wert vom kernel über die situation der letzten minute bzw letzten 5 und 15 minuten. Dein monitoring macht aber zb nur jede minute eine momentaufnahme, dazwischen kann viel passieren.

Zitat von michaeleifel

Die 2,5 Gbit sind übrigens nicht garantiert

bekannt, ich wollte nur darauf hinweisen, daß die R BW der SSD kleiner ist als was die NIC könnte bzw in folge daß man von extern eben seine R BW saturieren könnte ohne jetzt einen 'unverhältnismäßigen Benchmark' zu fahren.

ich finds halt müßig hier für einen reihen-benchmark angemacht zu werden, der einfach nur versucht hat festzustellen in welcher schwankungsbreite sich die werte bewegen, ob es unterschiede zwischen den standorten gibt und wie vorsichtig das Sheet zu interpretieren ist. nachdem aber die anzahl der testergebnisse im Sheet eh an einer hand abzählbar ist und hier im thread auch keine anderen weiteren testergbnisse gepostet wurden düngt mich eher, daß das thema nicht interessiert oder schon vorher ausgelutscht war.

aRaphael · 3. Februar 2022

Zitat von hoedlmoser

...hier für einen reihen-benchmark angemacht zu werden, der einfach nur versucht hat festzustellen in welcher schwankungsbreite sich die werte bewegen, ob es unterschiede zwischen den standorten gibt und wie vorsichtig das Sheet zu interpretieren ist...

Ich wollte hier niemandem grundlos auf die Füße treten.

Ich fahre ja bei jedem neuen Server selbst ein paar Benchmarks. Was ich halt nicht mag sind unnötige, immer wiederkehrende Benchmarkorgien auf den Hosts.

Falls du deine Test also in sinnvollen Maßen durchgeführt hast, dann ignoriere mein Genörgele, dann betrifft es dich nicht.

cltrmx · 5. Februar 2022

Zitat von michaeleifel
So langsam verstehe ich warum manch ein Anbieter folgendes in die AGB schreibt:
Code
Ebenfalls verboten sind ..., das längerfristige Herbeiführen hoher Belastungen ohne direkten Ertrag (z.B. Benchmarks) sowie das Nutzen oder Bereitstellen von Massenservices
Der obige AGB Absatz wurde übrigens mir zum Verhängnis, da ich automatisierte CI Tests gemacht habe und hierbei für 1 Stunde am Tag die zugewiesenen Kerne zu 100% genutzt wurden.

War das hier bei Netcup ein Problem? Was ist dann passiert? Frage für einen CI-Build-Server, den ich (übergangsweise) hier betreibe.

KB19 · 5. Februar 2022

netcup hat so etwas aber nicht in den AGB stehen. Die drosseln notfalls halt einfach.

(Von der Mining Sache in den AGB mal abgesehen.)

ASS · 5. Februar 2022

Zitat von KB19

Die drosseln notfalls halt einfach.

Die drosseln nicht "notfalls", sondern die drosseln immer.

Auch dann, wenn man die Last aus "legitimen" Gründen erzeugen will.

Da ist mir dann ein entsprechender Passus in den AGB lieber...