Karl Carstens s-a născut la 14 decembrie 1914 la Bremen.

După studii de drept la Frankfurt am Main, Greifswald, Dijon, München, Königsberg și Hamburg, pe care le-a absolvit cu succes în urma primului examen de stat în 1936, a doctoratului în 1938 și a celui de-al doilea examen de stat în 1939, a luat parte la cel de-al Doilea Război Mondial ca soldat în artileria antiaeriană.

După război, a lucrat ca avocat și consilier juridic pentru diferite autorități și organizații din Bremen și a studiat la Yale. În 1954, a intrat în serviciul de externe al Republicii Federale Germania, ajungând până la funcția de ministru federal adjunct de externe, după ce a deținut funcția de reprezentant permanent la Consiliul Europei de la Strasbourg. În anii 1960, a fost, de asemenea, secretar de stat în diferite ministere federale.

Între 1972 și 1979, a făcut parte din Bundestag din partea CDU. Între 1973 și 1976, a fost președinte al grupului său parlamentar și, ulterior, președinte al Bundestagului. La 23 mai 1979, Adunarea Federală l-a ales ca al cincilea președinte al Republicii Federale Germania. A deținut cea mai înaltă funcție în stat timp de un mandat.

La 2 septembrie 1979, cu ocazia vizitei sale inaugurale în landul Hessa în această calitate, a semnat Cartea de Aur a orașului Wiesbaden, în cadrul unei recepții festive în primărie.