Schwarz, âgé de 38 ans, succède au Suisse Martin Schmidt, limogé le 22 mai au terme d'une saison décevante, conclue à la 15e place. Il a signé un contrat de trois ans jusqu'en 2020.
"Je suis vraiment prêt pour ça", a déclaré Schwarz, qui a disputé quelque 101 matches comme milieu de terrain du club de sa ville natale entre 1997 et 2004.
"Personnellement, c'est un pas chargé en émotions que de pouvoir coacher l'équipe de ma ville", a-t-il poursuivi.
Mayence est réputé pour sa politique de promotion des entraîneurs jeunes et peu expérimentés. Thomas Tuchel, à la tête du Borussia Dortmund jusqu'à mardi, s'était fait remarquer à Mayence en les propulsant par deux fois en Europa League lors de son mandat de cinq ans entre 2009 et 2014.
L'actuel technicien de Liverpool Jürgen Klopp est également passé par les bords du Rhin, entre 2001 et 2008.