Ich hatte bereits die Auflösung in den UEFI Firmware Settings geändert. Das hat leider nichts gebracht.
Und wie gesagt, wenn ich nur Windows installiere funktioniert die VNC Konsole einwandfrei.
Ich werde es jetzt auch dabei belassen und nur Windows installieren und das Linux in einen 2ten Server.