Wczesne życie Joe był trzecim z siedmiorga dzieci Williama i Elizabeth Beyrle’ów, których rodzice przybyli do Ameryki z Niemiec w XIX wieku. Miał sześć lat, kiedy nastąpił wielki kryzys. Jego ojciec, pracownik fabryki, stracił pracę; rodzina została eksmitowana z domu i zmuszona do zamieszkania u babci Joego. Beyrle powiedział później swoim dzieciom, że niektóre z jego najwcześniejszych wspomnień dotyczyły stania z ojcem w rządowych kolejkach po żywność. Jego dwaj starsi bracia porzucili szkołę średnią i przystąpili do rządowego programu konserwatorskiego, wysyłając do domu dość pieniędzy, by reszta rodziny mogła pozostać razem. Starsza siostra zmarła na szkarlatynę w wieku 16 lat.
United States Army Po zaciągnięciu się do służby Beyrle zgłosił się na ochotnika, by zostać spadochroniarzem, a po ukończeniu podstawowego szkolenia piechoty powietrznej w Camp Toccoa został przydzielony do 506 Pułku Piechoty Spadochronowej 101 Dywizji Powietrznodesantowej, „Wrzeszczących Orłów”. Beyrle specjalizował się w łączności radiowej i rozbiórkach. Najpierw stacjonował w Ramsbury w Anglii, aby przygotować się na nadchodzącą inwazję aliantów z zachodu.