Budowa domu trwała od 1928 do 1931 roku. Początkowo Iofan planował pokryć zewnętrzne ściany różowymi kruszywami granitowymi, aby kolor budynku współgrał z murami Kremla, jednak ze względu na bliskość kotłowni podstacji tramwajowej postanowiono utrzymać kompleks budynków w kolorze szarym. Z uwagi na to, że budowa miała miejsce na mokradłach, w trakcie wylewania fundamentów zainstalowano w ziemi pale, a materiały budowlane transportowano wozami i barkami wzdłuż rzeki. W trakcie prac kilkakrotnie zmieniano plan architektoniczny budynku: najpierw zwiększono liczbę mieszkań z 440 do 505, następnie porzucono plany rozbiórki pobliskiej cerkwi św. Mikołaja Cudotwórcy na Biersieniewce. Do budowy fundamentów budynku wykorzystano nagrobki z pobliskiego cmentarza. Podczas budowy w niejasnych okolicznościach w jednym z budynków wybuchł pożar. W rezultacie obiekt był przekazywany do użytku w częściach..
Od 1931 roku mieszkania w domu zaczęli otrzymywać przedstawiciele radzieckiej elity: przywódcy partyjni i państwowi, bohaterowie rosyjskiej wojny domowej, Pracy Socjalistycznej i Związku Radzieckiego, pisarze, pracownicy Kominternu, uczestnicy hiszpańskiej wojny domowej.