Durante il periodo nazista, Paulinenstraße 9 era sede di un ufficio della Polizia di Stato segreta (Gestapo) di Francoforte sul Meno. I metodi di interrogatorio della Gestapo erano spesso simili alla tortura. Ai prigionieri venivano talvolta inflitte gravi lesioni psicologiche e fisiche. Ad esempio, esistono testimonianze di prigionieri costretti a rilasciare dichiarazioni sotto la minaccia delle armi. Tra gli altri, la Gestapo ha perseguitato i membri dei gruppi giovanili dell'opposizione. Anche diversi ecclesiastici cattolici e protestanti, nonché lavoratori forzati stranieri, furono interrogati e maltrattati nell'edificio di Paulinenstraße 9.

Il regime nazista si basava non da ultimo su un ampio apparato di sorveglianza e persecuzione da parte della polizia. Gli oppositori del regime e gli ebrei furono presi di mira fin dall'inizio. Ben presto anche altre minoranze furono oggetto di persecuzione razzista, come i cosiddetti "estranei alla comunità". Durante l'era nazista, le persone potevano essere arrestate e mandate in un campo di concentramento senza una sentenza del tribunale o la possibilità di fare appello. Nel 1936, il Reichsführer delle SS, Heinrich Himmler, già capo della polizia politica e responsabile dei campi di concentramento, fu nominato da Hitler capo della polizia tedesca. Ciò significa che anche il dipartimento di investigazione criminale fu integrato nella sfera di attività della Gestapo, che esisteva dal 1933. La polizia era ora istituzionalmente strettamente legata alle SS. Nel 1939, la polizia di sicurezza, cioè la Gestapo e il dipartimento di investigazione criminale, furono fusi con il servizio di sicurezza delle SS nel cosiddetto Ufficio principale della sicurezza del Reich. Questo era subordinato alle SS ed era responsabile di tutti gli organi di polizia e di sicurezza. La Gestapo svolse un ruolo fondamentale nella preparazione e nell'esecuzione delle deportazioni di ebrei, sinti, sinti, rom e rom verso i campi di concentramento e di sterminio.

Il dottor Hans Buttersack lavorò come avvocato a Wiesbaden dal 1909. Conservatore nazionale, fu leader distrettuale dello "Stahlhelm" e si espresse a favore della NSDAP nel 1933. Tuttavia, rifiutò l'integrazione dello "Stahlhelm" nelle SA, per cui fu arrestato più volte e messo sotto pressione. Lo "Stahlhelm" fu infine sciolto alla fine del 1935. Il dottor Buttersack fu nuovamente preso di mira dalla Gestapo nel 1938. Fu imprigionato prima per comportamento ingiurioso e poi per sette settimane per aver rilasciato dichiarazioni critiche nei confronti del regime, anche nella prigione di polizia di Friedrichstraße. Durante questo periodo, fu portato più volte a Paulinenstraße per essere interrogato. Il dottor Hans Buttersack era stato un coraggioso attivista della Chiesa confessante. Assistette anche gli ebrei come consulente legale, anche se la legge sulla cittadinanza del Reich del 27 settembre 1938 riservava questa attività esclusivamente ai cosiddetti consulenti ebrei. Gli avvocati ebrei erano stati esclusi dalla professione legale nel 1938. Il regime nazista permise ad alcuni di loro di continuare a lavorare come consulenti. Il 28 maggio 1943, Buttersack fu inviato al campo di concentramento di Dachau. Morì di tifo il 13 febbraio 1945.

Anche i lavoratori forzati stranieri erano monitorati dalla Gestapo. Un dipartimento appositamente istituito era responsabile della punizione dei lavoratori forzati. Potevano essere mandati nei cosiddetti campi di addestramento al lavoro anche per le più piccole infrazioni. Potevano anche essere puniti con estrema durezza, in alcuni casi con la morte, senza processo. La Gestapo era anche responsabile di questi processi ed esecuzioni. A questo scopo, presso il quartier generale di Francoforte, si trovava persino un patibolo mobile.

All'inizio del 1945, l'edificio fu distrutto da un bombardamento e l'ufficio fu trasferito nella Mainzer Straße 14.