W ciągu następnych ośmiu lat pływania na wielu statkach, zdołał wyuczyć się telegrafii, nawigacji, prawa morza, obsługi urządzeń okrętowych oraz nabył umiejętności przywódcze. Awansując na kolejne stopnie marynarskie, w 1931 roku jako mat i uzyskał kwalifikację do szkoły kapitańskiej. Gdy jednak ukończył ją rok później, w wyniku Wielkiego Kryzysu nie był w stanie znaleźć pracy zgodnej ze swoimi kwalifikacjami. W efekcie ponownie podejmował najprostsze prace, tym razem na lądzie, aż do momentu, gdy rozrastająca się Reichsmarine rozpoczęła nabór wśród marynarzy marynarki handlowej. Prien skorzystał z tej możliwości i w styczniu 1933 roku dwudziestopięcioletni oficer wstąpił do niemieckiej marynarki wojennej.

Korzystając ze specjalnego programu przeznaczonego dla doświadczonych oficerów marynarki handlowej, zdołał w przyśpieszonym tempie awansować. W tym czasie ożenił się i urodziła mu się córka. Dobrowolnie zgłosił się do służby na okrętach podwodnych. Po ukończeniu w 1935 roku szkoły dla marynarzy floty podwodnej, odbył szkolenie torpedowe na U-3 (10/1935-4/1936), po czym po czym między majem a wrześniem 1936 roku służył w FdU. Od października 1936 roku do października 1937 roku służył jako oficer wachtowy na eksperymentalnym okręcie typu I U-26, na którym odbył rejs pokazowy do Hiszpanii.