1903. október 4-én született Ried im Innkreisben. Falusi iparoscsaládból származott; a családi hagyo- mányokat folytatva – rokonságában voltak jogászok is – a linzi iskolát elvégezve jogi tanulmányokba kez- dett a grazi egyetemen. 1926-ban szerzett dokto- rátust, és visszatért Linzbe, hogy ott ügyvédi irodát nyisson. Már az egyetemen kapcsolatba került az egyik első osztrák nemzetiszocialista diákszerve- zettel; részt vett a Szabad Ausztriáért tevékenykedő Független Mozgalomban is.
1932-ben belépett az NSDAP-be, s egy évvel később már a felső-ausztriai náci pártszervezet szóvivője lett. Jogi ismeretei lehetővé tették, hogy rendezze a párt tagjainak és szimpatizánsainak adminisztratív ügyeit. Az osztrák SS parancsnokává választották, de tevé- kenységét 1934-ben.félbeszakította letartóztatása.
Hathónapos börtönbüntetése után visszatért a politikához, és Seyss-Inquarttal együtt- működve előkészítette az Anschlusst. Ebben szerzett érdemeiért SS-Brigadeführerré, valamint Ausztria biztonságáért felelős államtitkár-helyettessé nevezték ki 1938. március 2-án. Ugyanakkor a Reichstag képviselője, valamint Bécs és a Dunamenti Régió SS főpa- rancsnoka lett. Bécs rendőrfőnökeként egész Ausztriára kiterjedő hírszerzőhálózatot építhetett ki; ambícióit azonban korlátozta a vele szemben ellenséges Heydrich, így néhány évig semmiféle jelentős szerepet nem játszott a III. Birodalom hierarchiájában.
1943. január 30-án következett be a fordulat; Reinhard Heydrich halálát követően átvette annak helyét – Berlinben a Reichssicherheitshauptamt (RSHA) főnöke lett. Ettől kezdve az ő ellenőrzése alá került a Gestapón kívül a koncentrációs táborokat is magába foglaló egész rendőri rendszer, valamint a „zsidó kérdés végső megoldását" megvalósító admi- nisztráció is. Személyesen érdeklődött a koncentrációs táborokban alkalmazott kivégzési módszerek, a gázkamrák iránt, s közvetve ellenőrizte az emberek millióinak haláltáborok- ba szállítását. Kedvenc területén, a hírszerzésben – kihasználva, hogy Himmler engedé- lyével betekinthetett a külföldi politikai hírszerzés anyagaiba – 1944-ben megkapta az Abwehr – addig Canaris tengernagy irányította – kémelhárításának ellenőrzését is.
Az Ardennekben lezajlott ellentámadás idején elfordult közvetlen főnökétől, Himmlertől, és kezdeményezte, hogy helyette ő vezethesse a Nemzetközi Vöröskereszttel folytatott tárgyalásokat, és az Európában székelő Amerikai Stratégiai Irodán keresztül kapcsolatba léphessen a szövetségesekkel. Három héttel a háború befejezése előtt Himmler Kalten- brunnert nevezte ki a maradék német erők parancsnoka Dél-Európában. A háború utolsó napjaiban többedmagával a tiroli Alt-Ausseeben bujkált. Egy amerikai őrjárat letartóztat- ta és a Nürnbergi Nemzetközi Bíróság háborús és az emberiség ellen elkövetett bűncse- lekmények miatt halálra ítélte. 1946. október 16-án Nürnbergben felakasztották.
A tárgyalás során Dr. Kelley börtönpszichiáter jelentésében az alábbiakat írta Kaltenbrunnerről: „A legkisebb súrlódásra sírva fakad. Brutális típus. Kemény és kegyetlen, amíg hatalom van a kezében, de nyöszörög és siránkozik, amikor nincs.” A 195 cm magas Kaltenbrunner nem csak viselkedésében, de kinézetre is brutálisnak volt mondható, sebhelyével az arcán, melynek okairól különböző történetek láttak napvilágot. Egyik szerint egy vívásórán szerezte egyik tanítványától. A másik (amit inkább tartanak valószínűbbnek), hogy egy kocsmai verekedés emléke.