W sezonie 2003 Serb po raz pierwszy przystąpił do rozgrywek wielkoszlemowych, podczas turnieju French Open, lecz odpadł w III rundzie kwalifikacji. W eliminacjach do Wimbledonu również nie awansował do turnieju głównego, przegrywając w I fazie kwalifikacji. W lipcu wygrał rozgrywki challengerowe w Zell, a w sierpniu wystąpił w turnieju głównym US Open, lecz swoje spotkanie przegrał w I rundzie. Na koniec roku Tipsarević zwyciężył w turnieju challengerowym w Torrance.
Sezon 2004 Nowy sezon rozpoczął od eliminacji do Australian Open, w których ostatecznie odpadł. W maju wygrał challengera w Ostrawie, pokonując w finale Petera Luczaka 6:3, 7:6(5). W tym samym miesiącu Tipsarević zatriumfował w grze podwójnej w Fürth, a w lipcu w Weiden. Podczas turniejów Ronald Garrosa oraz Wimbledonie wystąpił w drabince głównej, jednak za każdym razem przegrywał swoje pojedynki w I rundzie.
W challengerze w Belo Horizonte doszedł do finału, w którym pokonał 6:4, 5:7, 6:4 Brazylijczyka Ricardo Mello. W sierpniu zakwalifikował się do wielkoszlemowego US Open, lecz ponownie zakończył swój udział w turnieju na I etapie.