Budowę rozpoczęto przed 1770 rokiem przy drodze wiodącej z miejskiego rynku do hetmańskiej rezydencji, w pobliżu dwóch stawów bezpośrednio sąsiadujących z Pałacem Branickich. Pałacyk Gościnny był ostatnim wzniesionym przez Branickiego obiektem w rezydencji białostockiej. Być może potem korzystał z budowli koniuszy Branickich, pułkownik Andrzej Węgierski, bowiem do Pałacyku przylgnęła nazwa „Dom Koniuszego”. Są to jednak tylko przypuszczenia. W roku śmierci Branickiego (1771 r.) zakończone zostały prace przy elewacjach budynku. Nigdy nie zrealizowano projektów wnętrz. Po roku 1838 budynek, podobnie jak cały zespół pałacowy, był własnością Instytutu Panien Szlacheckich. Przed II wojną światową w „Domku Koniuszego” znajdowała się kawiarnia, sklep cukierniczy i restauracja Savoy. W roku 1941 usadowiły się w nim władze okupacyjne, a w 1944 roku został zburzony podczas bombardowania znajdującego się po sąsiedzku hotelu Ritz. W roku 1947 rozpoczęto trwającą 5 lat odbudowę. Obecnie mieści się w nim Pałac Ślubów.
Przy drugim końcu króciutkiej ulicy Kilińskiego, na rogu z ulicą Kościelną stoi klasycystyczny budynek loży masońskiej, zbudowany w latach 1803–1806 w miejscu danej wozowni Branickich z roku 1771.