A náci titkosszolgálat „fenegyereke” 1910. január 16-án született Saarbrücken. Családja az 1918-as francia megszállás elől Luxemburgba menekült; 1929-ben felvették a bonni egyetemre, ahol jogi és orvosi tanulmányokat folytatott. Még egyetemistaként kapcsolatba került a náci mozgalommal, 1933-ban belépett a pártba és az SS-be; csakhamar Himmler egyik legfiatalabb munkatársa lett.
Ezután röviddel beszervezi a titkosszolgálat, az SD berlini szervezetében Reinhard Heydrich közvetlen munkatársaként tevékenykedett. Dolgozik a belföldi kémelhárításnál és a külföldi hírszerzésnél is, a venlói incidens (1939. nov. 9-én angol hírszerzők elrablása holland területről) megszervezése pedig gyors elő- menetelt hozott számára; 1940-től az RSHA IV. E belföldi kémelhárító csoportjának vezetője.