Himmler va doter l'organisation d'une police politique, la
Gestapo ( geheime Staatspolizei = police secrète de l'Etat ), d'un service d'espionnage et de renseignement, d'un corps armé, la Waffen SS, d'une administration concentrationnaire et de bureaux chargés de planifier la
colonisation de l' « espace vital » que l'Allemagne nazie entend conquérir à l'Est. Âme dévouée à Hitler il va exécuter avec zèle les massacres ordonnés par son chef et modèle. La SS éliminera ainsi les opposants politiques (socialistes, communistes, démocrates ) avec l'aide de la SA durant l'année 1933, puis en juin 1934, lors de la nuit des longs couteaux, elle éliminera la SA elle-même, qu'Hitler craignait de voir devenir une source de contrepouvoir. Himmler organisera ensuite le système concentrationnaire, dont les premiers camps ont été bâtis en 1933, puis les vexations et les pogroms contre les Juifs avant de devenir en 1938 le chef de toutes les polices. Lorsque la guerre éclate, Himmler est d'abord relégué au second rang, éclipsé par les militaires, mais il devient peu à peu sur le devant de la scène au fur et à mesure que la Waffen SS prend de l'importance au sein des forces armées.