V roce 1931, na druhý svátek vánoční, se oženil s Lindou von Osten, členkou NSDAP, narozenou 14. června 1911 v Avendorfu na ostrově Fehrman. Za jeho života mu porodila tři děti- dva syny a dcerku (čtrté dítě se narodilo již jako pohrobek po Heydrichove smrti)- a byla mu až za hrob oddanou a obdivující manželkou.
Od 20. dubna byl pověřen ministerským předsedou a říšským maršálem Hermannem Göringem funkcí zástupce velitele gestapa (po sesazení Rudolfa Dielse, jeho zakladatele) a v roce 1936 se stal v Hitlerem nově vytvořené říšské policii šéfem bezpečnostního oddělení. Vedle kriminální policie mu byla podřízena i tajná policie. V roce 1940 si vysloužil jako stíhací letec v Nizozemí a v Norsku železný kříž II. třídy a bronzovou sponu frontového letce, jako stíhací letec se zúčastnil v roce 1941 i začátku německého tažení na východ a byl vyznamenán železným křížem I. třídy a stříbrnou sponou frontového letce.