Swoją karierę w Niemczech rozpoczął od gry w zespołach młodzieżowych U-17 i U-19. W sezonie 2009/10 został włączony do zespołu rezerw. W III lidze zadebiutował w sierpniu 2009 w spotkaniu przeciwko Dynamie Drezno, natomiast pierwszego gola dla rezerw Bayernu strzelił 31 sierpnia 2009. W sezonie 2009/2010 znalazł się w kadrze pierwszego zespołu na rozgrywki Ligi Mistrzów.
W pierwszym zespole Alaba występuje z numerem 27.
1 stycznia 2011 został wypożyczony do TSG 1899 Hoffenheim, a w połowie roku wrócił do Bayernu.
28 maja 2021 został ogłoszony nowym zawodnikiem Realu Madryt. 17 grudnia 2023, grając dla tego klubu w meczu z klubem Villarreal, zerwał więzadło krzyżowe przednie w lewym kolanie, co wymusiło jego operację i długą przerwę od treningów.
22 maja 2026 roku Królewscy ogłosili, że nie przedłużą wygasającej umowy z obrońcą
24 września 2026 roku został nowym zawodnikiem Udinese Calcio, podpisując umowę ważną do 30 czerwca 2027 roku.
Pozycja Na początku swojej kariery grał na pozycji defensywnego pomocnika, później częściej grał jako typowy lewy obrońca, zaś obecnie najczęściej zobaczymy go, jak gra na pozycji środkowego obrońcy.