Para começar, foram criadas as SA ("Sturmapteilungen"), ou Divisões de Assalto, uma espécie de milícia particular nazista. Composta por desempregados, ex-militares, desajustados de qualquer espécie e até criminosos comuns, espalhavam o terror junto aos inimigos de Hitler, por meio da surra, da tortura e do assassinato. O grupo quase saiu do controle dos líderes e precisou ser transformado numa nova instituição a SS (Schutzstafell), ou Tropas de Proteção, um grupo de elite que contava com homens selecionados e disciplinados.

A partir de 1929, sob o comando de Heinrich Himmler, a SS cresceu e chegou a contar com um exército próprio, a Waffen SS (SS Armada), independente do Exército alemão. Além disso, também absorveu a Gestapo, a polícia secreta nazista, em 1939, juntamente com a qual comandaria os campos de concentração e extermínio nos países ocupados.