W pierwszych latach funkcjonowania SD działała jako organizacja ochrony NSDAP, a po dojściu Adolfa Hitlera do władzy umacniała system nazistowski w Niemczech. Od chwili utworzenia RSHA SD prowadziła trzy departamenty: Departament I – działalność wewnątrz kraju Departament II – działalność za granicą Departament III – badania światopoglądowe.
Sicherheitsdienst na drodze działań szpiegowskich miała bardzo skromne początki i działała jako jedna z pobocznych organizacji wymyślonych przez Heinricha Himmlera. Mimo to dzięki poparciu Hitlera szeregi i struktura SD w latach trzydziestych uległy znacznemu rozbudowaniu, zatrudniając 3000 funkcjonariuszy i być może nawet ok. 100 tys. informatorów. SD przyjmowała w swoje szeregi zarówno ludzi o ponadprzeciętnej inteligencji, jak i zwykłych brutali. Podobnie jak Gestapo, SD prowadziła infiltrację na szeroką skalę w oparciu o przepisy, które powierzały jej ochronę nazistowskiego państwa, a nawet łamiąc prawo (posuwała się np. do naruszenia tajemnicy głosowania, aby zidentyfikować osoby opozycyjne wobec narodowego socjalizmu).