Jako kongresmen wspierał pomysł likwidacji Banku Stanów Zjednoczonych, za czasów prezydentury Jacksona. Od 7 grudnia 1835 do 3 marca 1839 pełnił rolę spikera Izby Reprezentantów. Następnie przyjął propozycję zostania gubernatorem Tennessee, dlatego też zrezygnował z roli kongresmena. Stanowisko gubernatora zajmował od 1839 do 1841 roku.
W wyborach prezydenckich w 1844 roku Partia Demokratyczna planowała nominować Martina Van Burena, jednakże jego sprzeciw wobec aneksji Teksasu wzbudził wątpliwości wśród delegatów. Za radą Andrew Jacksona, nominację prezydencką uzyskał Polk, natomiast kandydatem na wiceprezydenta został George Dallas. Po zwycięstwie w wyborach powszechnych, Polk uzyskał 170 głosów w Kolegium Elektorskim, wobec 105 głosów dla kandydata Wigów – Henry’ego Claya.
Prezydentura Kiedy Polk objął fotel prezydenta, w Stanach Zjednoczonych rozwinął się ruch ekspansjonistyczny zwany „Boskim Przeznaczeniem”. Termin ten został po raz pierwszy użyty 27 grudnia 1845, przez Johna Sullivana, redaktora nowojorskiej gazety codziennej „Morning News”. Miał on walny wpływ na charakter prezydentury Polka.