W sezonie 1921 Yankees po raz pierwszy w historii uzyskali awans do World Series, w których ulegli New York Giants 3–5 (grano wówczas w systemie best-of-nine). W 1923 zespół przeniósł się na wybudowany kosztem 2,5 miliona dolarów stadion Yankee Stadium, mieszczący się na Bronksie. W tym samym roku zespół po raz pierwszy zdobył mistrzowski tytuł po pokonaniu w World Series New York Giants 4–2. W latach 1927–1953 Yankees zagrali w finałach szesnastokrotnie, zwyciężając 15 razy. W tym okresie w zespole grali między innymi członkowie Galerii Sław Babe Ruth, Earle Combs, Lou Gehrig, Joe DiMaggio, Mickey Mantle, Lefty Gomez, Waite Hoyt, Herb Pennock, Red Ruffing, Joe Gordon i Phil Rizzuto. 30 maja 1938 w dwóch meczach przeciwko Boston Red Sox zanotowano rekordową frekwencję; doubleheader obejrzało 81 841 widzów. 28 maja 1946 na Polo Grounds rozegrano po raz pierwszy mecz przy sztucznym oświetleniu.
Od 1955 do 1964 Yankees po dziewięciokrotnym wygraniu American League cztery razy wywalczyli mistrzowski tytuł. Kolejne mistrzostwa klub zdobył w 1977 i 1978 roku. Od 1995 Yankees trzy razy nie uzyskali awansu do playoff, zwyciężając pięć razy w World Series (w tym trzy razy z rzędu w latach 1998–2000).