1900. június 17-én született egy hivatalnokcsalád gyermekeként a németországi Wegeleben-ben. Egész fiatalságát nacionalista környezetben töltötte; személyiségének alakulására nagy hatással voltak azokkal a fiatal nacionalistákkal ápolt kapcsolatai, akik sosem vették tudomásul Németország bukását, a felelősséget a zsidókra és marxistákra hárították. Már tizenkilenc évesen tagja volt a nacionalista különítményeknek (Freikorps), 1923-ban Rudolf Höss-szel, Auschwitz későbbi parancsnokával részt vett egy gyilkosságban, amiért 1 év börtönre ítélték.
Politikai karrierje 1927-ben kezdődött, ekkor lépett be a náci pártba. Rövid ideig Fritz Sauckel (akkor Weimar Gauleitere) sofőre volt, 1928-ban pedig az SA egyik parancsnoka.