VPS 10 G7 habe mir den vor gut 4 Jahren zur einer Sonderaktion geholt.
Ebenso, v.a. quasi im letzten Moment noch ein Fuß(zeh) in IPv4. 
Die images von netcup sind alle x64 (OS und kernel), versuch mal ...i386...
Und wenn es geht, noch eine swap Partition (128 oder 256MB) während der Installation anlegen (schadet nie).
...außer der Overhead ebenfalls virtualisierter Platte fällt störender aus, wenn das Maschinchen gar nicht swappen müsste:
top - 16:00:57 up 8 min, 1 user, load average: 0.00, 0.07, 0.06
Tasks: 68 total, 1 running, 67 sleeping, 0 stopped, 0 zombie
%Cpu(s): 0.0 us, 0.3 sy, 0.0 ni, 99.0 id, 0.0 wa, 0.0 hi, 0.3 si, 0.3 st
MiB Mem : 113.4 total, 13.6 free, 30.7 used, 69.1 buff/cache
MiB Swap: 244.0 total, 244.0 free, 0.0 used. 72.8 avail Mem
Da die dist-upgrades auch ein längerer (Um+)Weg gewesen wären, ebenfalls direkt mit debian-11.1.0-i386-netinst.iso
versucht: Evtl. hätte sich das sogar nervenschonender wie ein netcup-Image unattended (net)installieren lassen?
Ein System mit nur ~128 MB hat schon was 
Du könntest mal probieren ob es mit der ISO + SWAP klappt, aber ich bezweifele es.
Nur nicht davon abschrecken lassen, dass nach Debian 9 die "minimalen RAM-Anforderungen" verdoppelt wurden:
Hieß es in https://www.debian.org/releases/jessie/i386/ch03s04.html.en zu 128 MB noch "The actual minimum memory requirements are a lot less than the numbers listed in this table. Depending on the architecture, it is possible to install Debian with as little as 20MB (for s390) to 60MB (for amd64). The same goes for the disk space requirements, especially if you pick and choose which applications to install"
...sagt https://www.debian.org/releases/bulls…ch03s04.en.html nun 256 MB verlangend zwar etwas unklar "The minimum values assumes [sic] that swap will be enabled and a non-liveCD image is used.
The “No desktop” value assumes that the non-graphical installer is used. The actual minimum memory requirements are a lot less than the numbers listed in this table. With swap enabled, it is possible to
install Debian with as little as 285MB [sic]."
Über das Textmenü des CD-Images geht es aber jedenfalls mit ein paar Stolpersteinchen:
Natürlich warnt der Installer, unter 237 MB RAM nicht zu erwarten, dass alles funktionieren werde,
und mindestens dieses Modulpaket muss man manuell auswählen, damit er die (virtuelle) Netzwerkkarte erkennt:
pasted-from-clipboard.png
Bei der Partitionierung 10.481 GB als primäre ext2-Partition auswählen, damit am Ende der "Platte" noch 256.9 MB für Swap bleiben (falls wirklich ratsam - ggf. nach Installation swapoff zum Vergleichstest).
Neben root verlangt der Installer noch einen User anzulegen, der auch gebraucht wird, s.u.
Vorselektiertes GNOME (als GUI) wählt man wohl besser ab und den "SSH server" hinzu (da die Darstellung im Fortgang der Installation etwas unschön gerät: es gilt die Spalte ganz links außerhalb der eckigen Klammern), um nicht nur per VNC aufs System zu kommen (oder gäbe es auch sonst einen Default statt OpenSSH?):
pasted-from-clipboard.png
Vor Reboot ins neue System nur die "HDD" in der Bootreihenfolge nach vorne schieben, entgegen der Aufforderung nicht das CD-Image aushängen, da es beim ersten Start nochmal verlangt wird.
Will man sich nicht nur als User einloggen und über su arbeiten, muss in /etc/ssh/sshd_config halt noch PermitRootLogin yes und sshd neu gestartet werden.
Überraschend (da https://bugs.debian.org/cgi-bin/bugreport.cgi?bug=862013 ja seit 3 Jahren gefixed sein sollte) wird /run laut /etc/mtab zu klein angelegt:
tmpfs /run/user/1000 tmpfs rw,nosuid,nodev,relatime,size=11616k,nr_inodes=2904,mode=700,uid=1000,gid=1000 0 0
Dadurch wird dann der (Re-)Start selbst schlanker Dienste wie lighttpd oder certbot verweigert mit Meldungen wie:
"Failed to reload daemon: Refusing to reload, not enough space available on /run/systemd. Currently, 10.0M are free, but a safety buffer of 16.0M is enforced."
Bis jemand eine dauerhafte Lösung vorschlägt, lässt sich dieses Problem z.B. umgehen mit:
mount -t tmpfs /run -o remount,size=32M,nr_inodes=2904,mode=700,uid=1000,gid=1000
Freilich wäre wünschenswert, sich durch geeignete i386-Images schlanker, noch im Support befindlicher Releases direkt in der netcup-Vorauswahl alle o.g. Klimmzüge ersparen zu können.