Карл Карстенс народився у Бремені 14 грудня 1914 року.

Після вивчення права у Франкфурті-на-Майні, Грайфсвальді, Діжоні, Мюнхені, Кенігсберзі та Гамбурзі, яке він успішно завершив, склавши перший державний іспит у 1936 році, докторський у 1938 році та другий державний іспит у 1939 році, він брав участь у Другій світовій війні як солдат зенітної артилерії.

Після війни працював юристом та юрисконсультом у різних органах влади та організаціях Бремена, навчався в Єльському університеті. У 1954 році вступив на дипломатичну службу Федеративної Республіки Німеччина, дослужившись до посади заступника федерального міністра закордонних справ, після чого обіймав посаду постійного представника при Раді Європи в Страсбурзі. У 1960-х роках він також був державним секретарем у різних федеральних міністерствах.

У 1972-1979 роках був депутатом Бундестагу від ХДС. З 1973 по 1976 рік він був головою своєї парламентської групи, а згодом президентом Бундестагу. 23 травня 1979 року Федеральні збори обрали його п'ятим президентом Федеративної Республіки Німеччина. Він обіймав найвищу посаду в державі протягом одного терміну.

Під час свого інавгураційного візиту до Гессену в цій якості він підписав Золоту книгу міста Вісбаден на святковому прийомі в ратуші 2 вересня 1979 року.