10 września 1885 roku ożenił się z Heleną Marią Klemming. Razem z Ernstem Josephsonem był komisarzem wystawy „Från Seines strand” otwartej 1 kwietnia 1885 roku. Jesienią 1886 roku został sekretarzem nowo powstałego związku artystów Konstnärsförbundet. Do lata 1887 roku przebywał we Francji, po czym powrócił do Szwecji osiedlając się w majątku Ösbyholm koło Norrtälje. Kolejne lata spędzał na przemian w Paryżu i Ösbyholm. W 1889 roku uczestniczył w prowadzonych przez Konstnärsförbundet przygotowaniach do prezentacji sztuki szwedzkiej w ramach wystawy światowej w Paryżu, gdzie za pokaz swoich prac otrzymał medal honorowy. Z powodu choroby żony oboje musieli powrócić do Szwecji. Żona artysty zmarła 25 czerwca 1889 roku mając 26 lat. 10 września 1890 roku Bergh ożenił się ponownie, z Gerdą Ingeborg Winkrans (zmarła 18 grudnia 1919 roku).