Traktat był następstwem układu w Rapallo o współpracy gospodarczej i wojskowej zawartego w 1922 roku między Rosją Sowiecką a Niemcami (Republiką Weimarską), potwierdzonego układem berlińskim (1926). Po dojściu NSDAP i Adolfa Hitlera do władzy współpraca polityczna i wojskowa pomiędzy Niemcami a ZSRR, wynikająca z tych paktów, została jednak w końcu roku 1933 zawieszona wobec postawy strony niemieckiej. Adolf Hitler wbrew konserwatywnym kręgom junkrów (ziemian) pruskich wyrażał jednak postawę antysowiecką i zarazem antyrosyjską. Józef Stalin konsekwentnie dążył do odbudowy stosunków sowiecko-niemieckich pomimo dojścia Hitlera i NSDAP do władzy w Niemczech. Rozmowy w tej sprawie prowadził m.in. w roku 1937 Dawid Kandełaki pomimo oficjalnej polityki antyfaszystowskich Frontów Ludowych ogłoszonej przez VII Kongres Kominternu w 1935 roku.