Do jego najważniejszych prac należą: „Osteuropa. Eine Einführung in seine Geschichte” z 1977, jak i jego książka „Polen und Russland. Zwei Wege in der europäischen Geschichte” z 1994 r. (wyd. pol.: Polska i Rosja: dwie drogi w dziejach Europy. Warszawa 2000). Był wydawcą i współautorem „Handbuch der Geschichte Russlands. Bd. 6.” z 2004 r.
Za swój wkład w polsko-niemieckie pojednanie został uhonorowany tytułem doktora honoris causa Uniwersytetu im. Adama Mickiewicza w Poznaniu (1988)Doctor honoris causa UAM poz. 76 i Uniwersytetu Warszawskiego (1997). Oprócz tego otrzymał w 2004 Nagrodę im. Samuela Bogumiła Lindego Miast Partnerskich Getyngi i Torunia. Zernack jest członkiem Akademii Naukowych w Berlinie, Poznaniu, Krakowie i Sztokholmie.
Publikacje Studien zu den schwedisch-russischen Beziehungen in der zweiten Hälfte des 17. Jahrhunderts, Gießen 1958 Die burgstädtischen Volksversammlungen bei den Ost- und Westslaven, Wiesbaden 1967. Osteuropa. Eine Einführung in seine Geschichte, München 1977. Preußen – Deutschland – Polen. Aufsätze zur Geschichte der deutsch-polnischen Beziehungen, Berlin 1991. Nordosteuropa. Skizzen und Bausteine zu einer Geschichte der Ostseeländer, Lüneburg 1993. Polen und Russland.