Карл Карстенс е роден в Бремен на 14 декември 1914 г.

След като учи право във Франкфурт на Майн, Грайфсвалд, Дижон, Мюнхен, Кьонигсберг и Хамбург, което завършва успешно след първия си държавен изпит през 1936 г., докторантура през 1938 г. и втори държавен изпит през 1939 г., той участва във Втората световна война като войник в противовъздушната артилерия.

След войната работи като адвокат и правен съветник за различни органи и организации в Бремен и учи в Йейл. През 1954 г. постъпва на работа във външната служба на Федерална република Германия, като се издига до поста заместник-министър на външните работи, след като заема поста на постоянен представител към Съвета на Европа в Страсбург. През 60-те години на ХХ век е и държавен секретар в различни федерални министерства.

Между 1972 и 1979 г. е депутат в Бундестага от ХДС. От 1973 до 1976 г. е председател на парламентарната си група, а впоследствие и председател на Бундестага. На 23 май 1979 г. Федералното събрание го избира за пети президент на Федерална република Германия. Той заема най-високия държавен пост в продължение на един мандат.

При встъпителното си посещение в Хесен в това си качество той подписва Златната книга на град Висбаден на тържествен прием в кметството на 2 септември 1979 г.