Ο Karl Carstens γεννήθηκε στη Βρέμη στις 14 Δεκεμβρίου 1914.

Μετά τις νομικές σπουδές του στη Φρανκφούρτη του Μάιν, το Γκρέιφσβαλντ, τη Ντιζόν, το Μόναχο, το Κούνιγκσμπεργκ και το Αμβούργο, τις οποίες ολοκλήρωσε με επιτυχία μετά τις πρώτες κρατικές εξετάσεις του το 1936, το διδακτορικό του το 1938 και τις δεύτερες κρατικές εξετάσεις του το 1939, έλαβε μέρος στον Δεύτερο Παγκόσμιο Πόλεμο ως στρατιώτης στο αντιαεροπορικό πυροβολικό.

Μετά τον πόλεμο εργάστηκε ως δικηγόρος και νομικός σύμβουλος για διάφορες αρχές και οργανισμούς στη Βρέμη και σπούδασε στο Yale. Το 1954 εντάχθηκε στην εξωτερική υπηρεσία της Ομοσπονδιακής Δημοκρατίας της Γερμανίας, φτάνοντας μέχρι τη θέση του αναπληρωτή ομοσπονδιακού υπουργού Εξωτερικών, αφού είχε αναλάβει τη θέση του μόνιμου αντιπροσώπου στο Συμβούλιο της Ευρώπης στο Στρασβούργο. Στη δεκαετία του 1960, διετέλεσε επίσης υφυπουργός σε διάφορα ομοσπονδιακά υπουργεία.

Μεταξύ 1972 και 1979, ήταν μέλος της Μπούντεσταγκ για το CDU. Από το 1973 έως το 1976 ήταν πρόεδρος της κοινοβουλευτικής του ομάδας και στη συνέχεια πρόεδρος της Bundestag. Στις 23 Μαΐου 1979, η Ομοσπονδιακή Συνέλευση τον εξέλεξε ως τον πέμπτο Πρόεδρο της Ομοσπονδιακής Δημοκρατίας της Γερμανίας. Κατείχε το υψηλότερο αξίωμα στο κράτος για μία θητεία.

Κατά την εναρκτήρια επίσκεψή του στην Έσση με αυτή την ιδιότητα, υπέγραψε τη Χρυσή Βίβλο της πόλης του Βισμπάντεν σε μια εορταστική δεξίωση στο δημαρχείο στις 2 Σεπτεμβρίου 1979.