Józef Chełkowski był członkiem sejmiku powiatowego w Krotoszynie (w latach 1900-1918), patronem kółek rolniczych. Na wniosek Powiatowej Rady Ludowej, objął w dniu 9 stycznia 1919 r. urząd pierwszego starosty powiatu koźmińskiego. Do jego zadań należało m.in. powoływanie polskich władz powiatowych i gminnych. Działał także na polu zaopatrzenia powstańców wielkopolskich w broń, konie i żywność; dbał o zapewnienie powstańcom pomocy medycznej.
W Koźminie odsłonił współufundowany przez siebie pomnik ku czci Powstańców Wielkopolskich. W 1926 roku sfinansował remont generalny kościoła w swojej rodzinnej miejscowości – Starymgrodzie. Wraz z matką Felicją opiekował się weteranem powstania styczniowego – Sewerynem Goszczyńskim. Zasiadał w Radzie Nadzorczej Cukrowni Witaszyce. W Śmiełowie rozwijał hodowlę tzw. koni remontowych, dostarczanych głównie wojsku i do stadnin państwowych.