Am 16. September 1889 haben sich 49 Marinekameraden unter der Leitung des späteren Präsidenten Jean Mehlmer im Lokal " Zur Lokomotive " zur Gründungsversammlung zusammen gefunden.

Nach Ende des 1. Weltkrieges verfügte die französische Besatzungsbehörde die Auflösung des Vereins. Im Mai 1927 wurde das Vereinsleben wiederbelebt. Die erste Versammlung fand am 25. Mai 1927 im Hotel " Zum Schwarzen Bären "statt.

Dieses Lokal blieb bis zur Zerstörung gegen Ende des 2. Weltkrieges das Vereinslokal.

Eine lockere Stammtischrunde, bestehend aus Kameraden der Kriegs- und Handelsmarine, beschließt eine Wiedergründung des Vereins. Das erste Treffen fand am 19. Januar 1952 im " Weinhaus Redlich " statt.

Als Vereinsheim dienten erst das " Brauhaus zur Sonne " und später die Gaststätte " Goldenes Mainz ".

1970 trat der Marine Verein Mainz dem Deutschen Marinebund bei und reihte sich in die große Marinefamilie ein.

1984 wurde mit dem Ausbau von 2 Kasematten in der Reduit in Mainz - Kastel begonnen. Mit viel Eigeninitiative wurden die Räumlichkeiten renoviert und ausgebaut. Aus den zwei verwahrlosten Kasematten entstand innerhalb eines Jahres ein schmuckes Vereinsheim.