Mittels IP wird dir so oder so in den meisten Fällen ein Zertifikatsfehler geschmissen, da Zertifikate i.d.R. auf Domainnamen ausgestellt sind.
Dann siehe doch mal im Zertifikat nach, welcher Hostname dort hinterlegt wurde (Stichwort: DNS-Name oder Subject Alternative Name (SAN)).
Ich habe das mal bei mir nachgestellt und mich am falschen Server (xyz.a2xxx.netcup.net) angemeldet und bekomme in WinSCP eine Zertifikatsfehlermeldung. Nachvollziehbar, da das Zertifikat auf *.netcup.net läuft. Heißt: a2xxx.netcup.net ist korrekt und auch das funktioniert bei mir.
Also, mögliche Ursachen:
1) du verwendest den falschen Zielserver oder dieser wird im DNS falsch aufgelöst
2) Datum/Uhrzeit stimmen an deinem Client nicht oder es fehlen wichtige Systemupdates (aber dann würdest du häufiger über Zertifikatsfehler stolpern) Blödsinn, das würde kein unbekanntes Zertifikat anprangern, sondern andere Fehler erzeugen.
3) Fehler direkt am Hostingserver -> Netcup Support kontaktieren
Mein Bauchgefühl sagt mir, dass wir uns 1) nochmal näher anschauen sollten. 