Davis oraz Charles Mitchell uznawani są za twórców „You Are My Sunshine”. Davis nabył prawa do piosenki od Paula Rice’a i przypisał je sobie, co było popularnym zjawiskiem w przedwojennym przemyśle muzycznym. Niektóre wczesne wersje utworu jako jego współautorów wymieniają jednak The Rice Brothers. Według części źródeł jednym z twórców piosenki był Pud Brown, który miał być odpowiedzialny za pierwsze aranżacje „You Are My Sunshine”.
Jimmie Davis przyznał, iż był bardzo entuzjastycznie nastawiony do piosenki, ale bezskutecznie próbował namówić do jej nagrania wytwórnie płytowe. Dopiero po kilku miesiącach udało mu się nagrać własną wersję utworu. Wykonanie Davisa cieszyło się dużą popularnością, a jego covery stworzyło wielu artystów, w tym m.in. Bing Crosby i Gene Autry.
Davis swe silne powiązania z piosenką przedstawił podczas kampanii wyborczej, gdy ubiegał się o fotel gubernatora stanu Luizjana. Wykonywał on „You Are My Sunshine”, siedząc na koniu o imieniu Sunshine, w trakcie każdego przedwyborczego wystąpienia.