W latach 1792–1795 przebywał w Lubiniu, gdzie sprawował funkcję profesora teologii przy studium generalnym. Po powrocie do Pułtuska został wybrany w 1799 przez kapitułę elekcyjną pułtuskich benedyktynów sekretarzem konwentu i kustoszem kościoła w Pułtusku. W 1802 benedyktyni pułtuscy wybrali go swoim przeorem. W późniejszych latach był ponownie wybierany przez nich na tę funkcję jeszcze czterokrotnie, sprawując przeorat przez dwanaście lat, do roku 1815. Był przeorem i administratorem opactwa klaustralnego płockiego w latach 1807-1817A. J. Nowowiejski, Płock. Monografia historyczna. Płock, 1930, s. 554
Przykładał dużą wagę do działalności edukacyjnej, dążąc do tego, by prowadzona przez benedyktynów szkoła w Pułtusku stała na najwyższym poziomie. Była ona największą pod względem liczby uczniów szkołą na Mazowszu. Pruski wizytator tej zakonnej placówki edukacyjnej donosił władzom w swoim raporcie, że Beda Ostaszewski to człowiek “bardzo wykształcony, skromny, w kilku gałęziach nauki doskonale obeznany.”; oraz: