Gustav Heinemann 23 Temmuz 1899'da Schwelm'de doğdu. Hukuk, ekonomi ve tarih eğitimi aldıktan sonra Essen'de avukat olarak çalıştı ve 1929 yılında Rheinische Stahlwerke'de şirket içi danışman olarak işe başladı. Evliliğinden itibaren Protestan Kilisesi'nin içinde yer aldı ve İkinci Dünya Savaşı'ndan sonra 1955 yılına kadar Almanya Protestan Kilisesi Konseyi'nin ilk başkanlığını yaptı.

1946 ve 1949 yılları arasında Essen Belediye Başkanı olarak siyasi faaliyetlerde bulundu. Federal Almanya Cumhuriyeti'nin kuruluşundan sonra Konrad Adenauer'in ilk hükümetinde İçişleri Bakanı oldu. Yeniden silahlanmaya karşı çıkması nedeniyle 1950'de istifa etti ve büyük halk partilerine alternatif olarak Tüm Alman Halk Partisi'ni kurdu. Bu örgütün kendini kabul ettirememesi ve feshedilmesinin ardından 1957'de SPD'ye katıldı.

Dr. Heinemann 1958'den 1969'a kadar SPD Federal Yürütme Kurulu üyeliği yaptı. Şansölye Kiesinger yönetimindeki Büyük Koalisyon'da 1966'dan 1969'a kadar Federal Adalet Bakanı olarak görev yaptı. Daha sonra bir dönem için üçüncü Federal Başkan olarak seçildi.

Bu sıfatla Eylül 1969'da Hessen'e iki günlük bir devlet ziyareti gerçekleştirdi. Eyalet başkentine yaptığı ziyaret sırasında Belediye Başkanı Schmitt kendisini belediye binasının balo salonunda karşıladı. Seçilmesinden dolayı kendisini kutladı ve eyaletteki en yüksek makam için kendisine başarılar diledi. Dr. Heinemann kısa bir konuşma yaparak sıcak karşılama için teşekkür etti ve Wiesbaden'in güzelliğini anlattı. Daha sonra şehrin Altın Kitabını imzaladı. Daha sonra Rheingau'da Erbacher Fransecky Vakfı tarafından işletilen bir huzurevini ziyaret etti ve ardından Hessen'deki yolculuğuna devam etti.

Dr. Heinemann 1974 yılında sağlık ve yaş nedenleriyle yeniden seçilmemeye karar verdikten sonra Essen'deki evine çekildi. 7 Temmuz 1976 tarihinde vefat etti.