Willkommen!
Webseiten über einen VPS zu hosten, ist meiner Meinung nach besser und auch schneller als ein Webhosting, wenn man es vernünftig konfiguriert (z.B.: nginx+php-fpm+memcached+percona statt Apache+mysql), ist allerdings in der Konfiguration um einiges aufwendiger. Aber sofern man Cloudflare verwendet, muss man sich noch nicht einmal um gültige SSL-Zertifikate bemühen.
Was das Konfigurieren eines Mailservers angeht: Lass die Finger davon.
Gerade als Linux-Einsteiger konfiguriert man sich da dumm und dusselig, wenn man alle Mailserver-Komponenten zum laufen bringen will (postfix, dovecot, spam-filter, SRS, SPF, DKIM, Authentication, Sender-Restrictions usw.) und selbst wenn dann alles läuft, muss man in regelmäßigen Abständen die Zertifikate und DKIM-Keys erneuern, damit die Mails, die man verschickt, nicht beim Empfänger im Spam-Ordner landen.
Selbst als fortgeschrittener Linux-User habe ich da letztes Jahr etwa eine Woche drangesessen, bis das alles vernünftig lief.
Im Webhostig hingegen fügst du nur die Domain hinzu, erstellst direkt im WCP die Mailkonten und kannst munter Mails verschicken.
Natürlich ist es dir letzten Endes überlassen, ob du diesen Aufwand auf dich nehmen möchtest oder nicht.
Denn wenn alles einmal richtig eingerichtet ist, ist der VPS natürlich weitaus flexibler als das Webhosting und wenn man die Config einmal hat, kann man sie auch beim Umzug einfach auf den neuen Server kopieren und muss nicht alles komplett neu konfigurieren.