Po przyjściu Ruuda van Nistelrooya Cole stracił miejsce w pierwszym składzie drużyny. 29 grudnia 2001 został sprzedany do Blackburn Rovers za 7,5 mln funtów.
Podczas pobytu w Manchester United F.C. Cole pięć razy zdobył Mistrzostwo Premiership, dwa razy Puchar Anglii. Triumfował także w Lidze Mistrzów i Pucharze Interkontynentalnym.
Dalsza część kariery W drużynie Blackburn Rovers w ciągu trzech lat wystąpił 83 razy, zdobywając 27 bramek. 17 lipca 2004 przeniósł się do Fulham. W 31 meczach strzelił 12 bramek i po jednym sezonie gry przeniósł się do Manchester City. Był najlepszym strzelcem i najlepszym asystującym w drużynie. W 2006 Cole podpisał dwuletni kontrakt z drużyną Portsmouth. W sezonie 2006/2007 był wypożyczony do Birmingham City. 22 sierpnia 2007 podpisał kontrakt z Sunderland A.F.C. Jako zawodnik tej drużyny rozegrał 7 spotkań, nie zdobywając żadnej bramki. W 2008 został wypożyczony do Burnley FC. 4 lipca 2008 podpisał roczny kontrakt z Nottingham Forest.
11 listopada 2008 zakończył piłkarską karierę, ponieważ Nottingham Forest nie chciał przedłużyć z nim kontraktu.
22 kwietnia 2024 roku znalazł się w Premier League Hall of Fame.