Karl Carstens urodził się w Bremie 14 grudnia 1914 roku.

Po studiach prawniczych we Frankfurcie nad Menem, Greifswaldzie, Dijon, Monachium, Królewcu i Hamburgu, które pomyślnie ukończył po pierwszym egzaminie państwowym w 1936 r., doktoracie w 1938 r. i drugim egzaminie państwowym w 1939 r., wziął udział w II wojnie światowej jako żołnierz artylerii przeciwlotniczej.

Po wojnie pracował jako prawnik i doradca prawny dla różnych władz i organizacji w Bremie oraz studiował w Yale. W 1954 r. dołączył do służby zagranicznej Republiki Federalnej Niemiec, awansując na stanowisko zastępcy federalnego ministra spraw zagranicznych po pełnieniu funkcji stałego przedstawiciela przy Radzie Europy w Strasburgu. W latach 60. był także sekretarzem stanu w różnych ministerstwach federalnych.

W latach 1972-1979 zasiadał w Bundestagu z ramienia CDU. W latach 1973-1976 był przewodniczącym swojej grupy parlamentarnej, a następnie przewodniczącym Bundestagu. 23 maja 1979 r. Zgromadzenie Federalne wybrało go na piątego prezydenta Republiki Federalnej Niemiec. Najwyższy urząd w państwie sprawował przez jedną kadencję.

Podczas swojej inauguracyjnej wizyty w Hesji podpisał Złotą Księgę Miasta Wiesbaden na uroczystym przyjęciu w ratuszu w dniu 2 września 1979 roku.