Die zweite Frage kann ich nicht direkt beantworten, aber ich gehe mal von dem schlimmeren Fall aus, dass sie noch reencoded werden müssten.
Ich habe da nur Erfahrungen mit Plex im lokalen Netzwerk - da findet kein Reencoding statt, sondern es wurde in Quellqualität gestreamt.
Das lief auf den Uralt Xeons genau wie auf dem AMD Epyc zu Hause.
Jellyfin bietet auch eine Hardwarebeschleunigung über die CPU an, haben die Rootserver von Netcups geeignete CPUs? Kann man das irgendwo nachlesen?
Die Rootserver haben dedizierte Kerne, die du dann für dich alleine hast - das ist für ein Reencoding gut - und du hast zusätzlich eine 2,5 GBit/s Netzwerkschnittstelle.
Bei 7 Leuten sollte es also ein RS2000 mindestens sein.
Da du jetzt bei den VPS einen Faktor 0,5 hast (CPU zu parallelen Streams) würde ich hier zu einem 14 Kerner tendieren - oder die ARM VPS benutzen (z.B. VPS 3000 ARM) Softwarekompatibilität vorausgesetzt. Preislich ist da aber der RS attraktiver.
Die Rootserver kannst du auch immer durch ein größeres Modell upgraden und zudem hast du eine Zufriedenheitsgarantie. Wenn es nicht so läuft, wie du willst, bekommst du dein Geld zurück.
Ist also eine Risikolose Angelegenheit.