Die erste Erwähnung der Rheinmühle findet sich in einem Weißtum von 1601: die damals noch Herren- oder Bannmühle genannte Mühle lag außerhalb des Dorfes. 1627 wurde die Mühle von der Gemeinde Großkarlbach ersteigert und von Pächtern betrieben. Nach der Enteignung durch die französische Besatzung wurde sie 1807 von Christian und Louise Fitting ersteigert und danach über mehrere Generationen vererbt
. Die Namen der Mühle wandelten sich mit den Zeiten, u.a. von der „Unteren Schlossmühle“ über „Brunksche Mühle“ bis zum heutigen Namen „Rheinmühle“. Vermutlich ist dieser Name aber durch einen Schreibfehler entstanden, denn am „Rhein“ lag die Mühle ja nicht, eher schon am (Dorf)-Rain.
1913 wurde der Mühlenbetrieb eingestellt. Die damals noch vollständig erhaltene Mühlentechnik wurde 1926 durch einen Brand zerstört. Die Rheinmühle dient heute als Wohnhaus, im Mühlengebäude finden kulturelle und private Veranstaltungen statt.
