Karl Carstens è nato a Brema il 14 dicembre 1914.

Dopo gli studi di giurisprudenza a Francoforte sul Meno, Greifswald, Digione, Monaco, Königsberg e Amburgo, completati con successo dopo il primo esame di Stato nel 1936, il dottorato nel 1938 e il secondo esame di Stato nel 1939, ha partecipato alla Seconda guerra mondiale come soldato nell'artiglieria antiaerea.

Dopo la guerra, lavora come avvocato e consulente legale per diverse autorità e organizzazioni a Brema e studia a Yale. Nel 1954 è entrato a far parte del Servizio Estero della Repubblica Federale Tedesca, arrivando a ricoprire la carica di Vice Ministro degli Esteri Federale dopo aver ricoperto l'incarico di Rappresentante Permanente presso il Consiglio d'Europa a Strasburgo. Negli anni '60 è stato anche Segretario di Stato in vari ministeri federali.

Tra il 1972 e il 1979 è stato deputato al Bundestag per la CDU. Dal 1973 al 1976 è stato presidente del suo gruppo parlamentare e successivamente presidente del Bundestag. Il 23 maggio 1979, l'Assemblea federale lo ha eletto quinto Presidente della Repubblica federale di Germania. Ha ricoperto la più alta carica dello Stato per un solo mandato.

In occasione della sua visita inaugurale in Assia in questa veste, il 2 settembre 1979 firmò il Libro d'Oro della città di Wiesbaden durante un ricevimento festoso nel municipio.