Istniała również znaczna mniejszość niemiecka. W latach 1918–1939 powiat olkuski znajdował się w ówczesnym województwie kieleckim. 10 lutego 1929 roku w Olkuszu zanotowano jedną z rekordowych niskich temperatur w Polsce: –40,4 °C.
Na początku września 1939 roku miasto zostało w wyniku działań wojennych zajęte przez Wehrmacht (nad pobliską Żuradą ppor. Władysław Gnyś strącił pierwsze niemieckie samoloty podczas tej wojny) i wkrótce wcielone do III Rzeszy. Rządy objęła mniejszość niemiecka, miasto przemianowano najpierw na Olkusch, a w 1941 na Ilkenau, utworzono także getto żydowskie. W okolicznych lasach działały wówczas partyzanckie oddziały Armii Krajowej, co spotykało się z gwałtownymi odpowiedziami okupanta. 16 lipca 1940 roku rozstrzelano 20 osób, a 31 lipca 1940 setki innych Polaków i Żydów maltretowano na miejskich placach, w wyniku czego zginęło kilka osób. Do połowy 1942 roku zlikwidowano olkuskie getto, a jego mieszkańców w liczbie około 3 tys. osób wywieziono do obozu zagłady Auschwitz II – Birkenau. Miasto zostało zdobyte przez oddziały 5 Armii Pancernej Gwardii i 59 Armii 1 Frontu Ukraińskiego 20 stycznia 1945 roku. W walkach o miasto zginęło ok.