Karierę polityczną rozpoczął w 1946, kiedy został wybrany posłem do izby niższej legislatury stanu Alabama. W tym okresie podzielał poglądy Jima Folsoma i jako poseł zgłaszał projekty licznych programów socjalnych oraz podniesienia podatków dla najbogatszych. W 1948 był delegatem na konwencję wyborczą partii demokratycznej. Stanął wtedy w opozycji do kandydata właściwej organizacji partyjnej, ówczesnego prezydenta Harry’ego Trumana, i wraz z grupą południowych demokratów poparł gubernatora Karoliny Południowej Stroma Thurmonda (późniejszego wieloletniego przewodniczącego pro tempore Senatu Stanów Zjednoczonych). Warto odnotować, że Truman mimo odmówienia mu poparcia tak ze strony konserwatywnego, jak i liberalnego skrzydła partii, wygrał wybory.

W 1952 r. został sędzią stanowym i jako pierwszy w Alabamie zwracał się do czarnych adwokatów, świadków i oskarżonych z użyciem form „pan”, „pani”. W 1958 daremnie starał się o nominację alabamskiej organizacji demokratów na gubernatora, pokonany w prawyborach przez przyszłego gubernatora Johna Pattersona. W kampanii ostro potępiał Ku Klux Klan, ale nie proponował zniesienia segregacji. Po porażce zdecydował się zmienić głoszone poglądy dotyczące segregacji rasowej, czego powodem były rosnące napięcia rasowe w stanie i radykalizacja elektoratu.