Jego ostatni występ w narodowych barwach miał miejsce 14 maja 1961 w przegranym 0:4 pojedynku z Czechosłowacją.
Mimo iż Herd był najlepszym strzelcem zespołu, pragnął także osiągać sukcesy drużynowe, dlatego też w lipcu 1961 za sumę 35.500 funtów dołączył do Manchesteru United. W Arsenalu rozegrał w sumie 180 spotkań, zdobył 107 goli, co daje mu 15. miejsce na liście najlepszych strzelców klubu w historii.
19 sierpnia 1961 w meczu z West Ham United zadebiutował w zespole United. Herd pomógł klubowi zdobyć w 1963 Puchar Anglii, mistrzostwo w latach 1965 i 1967 oraz Puchar Europy w 1968. W marcu 1967 złamał nogę, przez co stracił później miejsce w zespole. Nie wziął udziału w zwycięskim finale Pucharu Mistrzów w 1968. Dla Manchesteru rozegrał 202 spotkania, w których 114 razy zdobywał bramki, będąc tym samym dziesiątym najlepszym strzelcem w historii zespołu. 26 listopada 1966 w spotkaniu z Sunderlandem, pokonał trzech różnych bramkarzy, zaś Manchester zwyciężył 5:0.
Opuścił klub w lipcu 1968, podpisując kontrakt ze Stoke City.