Pierwsze wzmianki o miejscowości pochodzą z roku 1258. Dotyczą one Jelšavskiej Teplicy. Pierwotnie należała ona do włości Jelšavy, następnie do feudalnego „państwa” z siedzibą na zamku Muráň. W 1556 została wypalona przez wojska tureckie, później odbudowana. Gemerský Milhosť w XIII w. stanowił część sąsiednich, położonych na drugim brzegu Muránia Šivetic. W XIV w. notowany już jako samodzielna wieś, należąca do feudalnego „państwa” Muráň. Po spustoszeniu przez Turków w XVI w. i panującej później zarazie morowej wieś założono na nowo w XVIII w.
Mieszkańcy obu wsi zajmowali się rolnictwem, hodowlą oraz garncarstwem. Obecnie mieszkańcy Gemerskich Teplic pracują w większości w Jelšavie lub w powiatowej Revúcy.
Demografia Według danych z dnia 31 grudnia 2012, wieś zamieszkiwały 364 osoby, w tym 179 kobiet i 185 mężczyzn.
W 2001 roku rozkład populacji względem narodowości i przynależności etnicznej wyglądał następująco: Słowacy – 89,13% Czesi – 0,27% Romowie – 5,98% Węgrzy – 4,08%
Ze względu na wyznawaną religię struktura mieszkańców kształtowała się w 2001 roku następująco: Katolicy rzymscy – 25% Grekokatolicy – 4,08% Ewangelicy – 50,27% Ateiści – 14,95% Nie podano – 4,89%