Karl Carstens est né le 14 décembre 1914 à Brême.

Après des études de droit à Francfort-sur-le-Main, Greifswald, Dijon, Munich, Königsberg et Hambourg, qu'il a terminées avec succès après avoir passé le premier examen d'État en 1936, le doctorat en 1938 et le deuxième examen d'État en 1939, il a participé à la Seconde Guerre mondiale en tant que soldat de l'artillerie antiaérienne.

Après la guerre, il a travaillé comme avocat et conseiller juridique pour différentes autorités et organisations à Brême et a étudié à Yale. En 1954, il est entré au service des affaires étrangères de la République fédérale d'Allemagne et, après avoir occupé des postes de représentant permanent au Conseil de l'Europe à Strasbourg, il a gravi les échelons jusqu'à devenir adjoint du ministre fédéral des affaires étrangères. Dans les années 1960, il a également été secrétaire d'État dans différents ministères fédéraux.

Entre 1972 et 1979, il a siégé au Bundestag pour la CDU. De 1973 à 1976, il a été président de son groupe parlementaire, puis président du Bundestag. Le 23 mai 1979, l'Assemblée fédérale l'a élu cinquième président de la République fédérale d'Allemagne. Il a occupé la plus haute fonction de l'État pendant une législature.

Lors de sa première visite dans cette fonction en Hesse, il a signé le livre d'or de la ville de Wiesbaden lors d'une réception festive à l'hôtel de ville le 2 septembre 1979.