Dorobek naukowy Poza pracą w charakterze nauczyciela, wykładowcy i kompozytora utworów pedagogicznych, Riemann był uznanym całym świecie autorem prac z zakresu muzykologii. Jego najbardziej znane dzieła to Musiklexikon, kompletny słownik muzyki i muzyków, Handbuch der Harmonielehre, praca nad studium harmonii i Lehrbuch des ContrapunktsWiele teorii i rozwiązań w tej pracy zostało wziętych od ks. Jana Jarmusiewicza., podobne praca dotycząca kontrapunktu, z których wszystkie zostały przetłumaczone na język angielski i inne języki. Jeden z jego wynalazków, Tonnetz (siatka tonów) jest poprzednikiem nowoczesnej koncepcji przestrzeni dźwięków. Jest współautorem biografii Beethovena oraz edytorem szeregu wydań dzieł muzycznych.
Jego uczniem był m.in. Max Reger.
Dzieła Książki Musikalische Logik. Hauptzüge der physiologischen und psychologischen Begründung unseres Musik-systems (Leipzig, 1873); zugleich als Dissertation Über das musikalische Hören (1874) Die Hülfsmittel der Modulation (Kassel, 1875) Die objective Existenz der Untertöne in der Schallwelle (Kassel, 1875) Vademecum für den ersten Klavierunterricht (Leipzig, 1876) Musikalische Syntaxis.