Az 1904. március 4-én Halleban egy jómódú család fiaként született Reinhard Tristan Eugen Heydrich, akiből a szülők muzsikust vagy kémikust kívántak faragni. 1922-ben azonban – szemben a szülői akarattal – a haditengerészetnél vállalt szolgálatot. Sokáig volt az állomány tagja, mígnem 1931-ben egy szerelmi botrány miatt elbocsátották. Ugyanebben az évben belépett a náci pártba, tagja lett az SA-nak is. Nem sokkal később bemutatták Himmlernek, kinek kérésére felvázolta az NSDAP létrehozandó hírszerző szolgálatának működési elvét. Innentől egyenes volt az útja a tábornoki rangig.
1932-től már az általa létrehozott biztonsági szolgálat az SD (Sicherheitsdienst) vezetője. A náci hatalom- átvételtől a bajor rendőrséget irányító Himmler helyetteseként a titkos államrendőrség (Gestapo) központi hivatalát vezeti.