Die Geheime Staatspolizei (Gestapo), der Sicherheitsdienst der SS (SD) und die traditionellen Polizeigliederungen waren unter dem Reichsführer SS und Chef der Deutschen Polizei im Reichsministerium des Innern Heinrich Himmler zu einem gigantischen Terrorapparat verschmolzen worden.
Die mit Himmler-Erlass vom 18. März 1938 in Österreich eingerichtete Gestapo, die über etwa 2.000 Mitarbeiter verfügte, wurde zum wichtigsten Instrument der Repression aller politischen und "rassischen" Gegner des NS-Regimes. Ihre brutalen Methoden - Folter, Morde, KZ-Einweisungen - ließen sie zum Inbegriff nationalsozialistischen Terrors werden.
Der Kriminalpolizei (Kripo) fiel die Bekämpfung der nichtpolitischen Kriminalität zu, die trotz terroristischer Polizeimethoden keineswegs zurückging. Darüber hinaus war die Kripo für die Verfolgung der als "asozial" diffamierten "Zigeuner" (Roma und Sinti) zuständig. Gestapo und Kripo bildeten die Sicherheitspolizei (Sipo).
Der (uniformierten) Ordnungspolizei - gegliedert in Schutzpolizei und Gendarmerie - kam im NS-Terrorapparat nur eine Hilfsfunktion für Gestapo und Kripo zu.
Der SD - gegliedert in SD-Außenstellen, SD-Leitabschnitt Wien, SD-Oberabschnitt Donau - war gleichzeitig innen- und außenpolitischer Geheimdienst und ein Apparat sowohl zur Bespitzelung der Bevölkerung als auch der NSDAP, der Wehrmacht u. a. Bei der Okkupationspolitik in Europa spielte er eine entscheidende Rolle.