Карл Карстенс родился в Бремене 14 декабря 1914 года.

После изучения права во Франкфурте-на-Майне, Грайфсвальде, Дижоне, Мюнхене, Кенигсберге и Гамбурге, которое он успешно закончил после первого государственного экзамена в 1936 году, получения докторской степени в 1938 году и второго государственного экзамена в 1939 году, он принял участие во Второй мировой войне в качестве солдата в зенитной артиллерии.

После войны работал адвокатом и юрисконсультом в различных органах власти и организациях Бремена и учился в Йельском университете. В 1954 году он поступил на дипломатическую службу Федеративной Республики Германия, дослужился до должности заместителя федерального министра иностранных дел, после чего занял пост постоянного представителя при Совете Европы в Страсбурге. В 1960-х годах он также был статс-секретарем в различных федеральных министерствах.

С 1972 по 1979 год он заседал в Бундестаге от ХДС. С 1973 по 1976 год был председателем своей парламентской группы, а затем президентом Бундестага. 23 мая 1979 года Федеральное собрание избрало его пятым президентом Федеративной Республики Германия. Он занимал высший пост в государстве в течение одного срока.

Во время своего первого визита в Гессен в этом качестве он подписал Золотую книгу города Висбадена на торжественном приеме в ратуше 2 сентября 1979 года.