Hey,
das ist schon mal gut, dass du weißt wie man die IP Tables 'bisschen' verwendet. Ich würde dir aber dazu raten auf eine erprobte Lösung zu setzen, welche dir SSL im Apache fixt, MySQL richtig configuriert sowie fail2ban und etliche andere Sachen einrichtet. Vor allem beim Thema Mailserver wirst du schnell merken, dass das zu viel Stoff für den Anfang ist.
Seit Jahren verwende ich ISPConfig . Die haben gute Patches in schneller Zeit, wobei die Community (bugtracker) so gut wie nicht existiert. Dafür gibts support für jessie und co. Habe beim Upgrade auf Jessie auch keine Probleme mit den neuen Apache Configs gehabt, die konnten einfach neu generiert werden. Klar schränkt dich sowas ein, aber vor allem beim Mail Server hab ich gemerkt, dass das viel zu viel ist. Eines sollte man dann beachten: eigene Sachen wie OpenVPN etc. sind dann natürlich nicht unterstütz, können aber trotzdem so konfiguriert werden, dass sie gut mit ISPConfig funktionieren. Zum Beispiel ist das Interface bei mir auch nur über VPN erreichbar, damit falls es irgendwelche Lücken gibt, diese nicht sofort exposed sind.
Kann ich nur empfehlen: The perfect Server - komplett Anleitung, wie man ispconfig richtig installiert.
Viele Grüße