Rozwój miasta w drugim kierunku nie był tak dynamiczny. Powstałe tutaj osadnictwo podmiejskie określano jako Małe Przedmieście. W mieście powstał szpital oraz drewniany kościół pod wezwaniem Świętego Ducha. Według XVIII – wiecznej relacji mieścił się on przy ulicy Leszczyńskiej (obecnie deptak), 200 kroków od dzisiejszej fary. Wiadomo też, że istniała szkoła. Pierwszy wymieniony nauczyciel gostyński (eruditor scholarum) Jan występuje już w 1337 roku. Dwa wieki później pojawiła się nazwa „gymnasium seu schola Gostinensis”.
Budowa kościoła Powstanie najstarszego dziś istniejącego kościoła – gotyckiej fary – owiane jest tajemnicą. Pierwsze wiadomości o proboszczach gostyńskich pojawiają się na początku XIV wieku. Proboszcz Przeław występuje w źródłach w 1310 i 1315 roku, a w 1324 pojawia się proboszcz Andrzej. Wynika z tego, że być może istniał już wówczas w Gostyniu kościółek pod wezwaniem św. Małgorzaty. Właśnie w dniu tej świętej przebywali pod Gostyniem starosta wielkopolski Przybysław, sędzia poznański Wojsław w towarzystwie proboszczów Gostynia i Ostrowieczna. W tym okresie Gostyniem władali Łodziowie. Wiele faktów wskazuje, że pierwszy kościół mieścił się w miejscu dzisiejszego prezbiterium. To właśnie w prezbiterium znajduje się najstarsza cegła z datą 1320.