W czasach nazistowskich Paulinenstraße 9 była siedzibą oddziału terenowego Tajnej Policji Państwowej (Gestapo) we Frankfurcie nad Menem. Metody przesłuchań stosowane przez Gestapo często przypominały tortury. Więźniom zadawano niekiedy poważne obrażenia psychiczne i fizyczne. Istnieją na przykład zapisy dotyczące więźniów zmuszanych do składania zeznań na muszce. Gestapo nękało między innymi członków opozycyjnych grup młodzieżowych. Kilku katolickich i protestanckich duchownych, a także zagranicznych robotników przymusowych było również przesłuchiwanych i maltretowanych w budynku przy Paulinenstraße 9.

Reżim nazistowski opierał się nie tylko na kompleksowym policyjnym aparacie nadzoru i prześladowań. Przeciwnicy reżimu i Żydzi od samego początku byli celem ataków. Wkrótce również inne mniejszości zostały poddane rasistowskim prześladowaniom, takim jak tak zwani "outsiderzy społeczności". W czasach nazizmu ludzie mogli zostać aresztowani i wysłani do obozu koncentracyjnego bez wyroku sądowego lub możliwości odwołania. W 1936 r. Reichsführer SS Heinrich Himmler, który był już szefem policji politycznej i odpowiadał za obozy koncentracyjne, został mianowany przez Hitlera szefem niemieckiej policji. Oznaczało to, że wydział dochodzeń kryminalnych został również włączony do sfery działalności Gestapo, które istniało od 1933 roku. Policja była teraz instytucjonalnie ściśle powiązana z SS. W 1939 r. policja bezpieczeństwa, tj. gestapo i wydział dochodzeń kryminalnych, zostały połączone ze służbą bezpieczeństwa SS w tak zwanym Głównym Urzędzie Bezpieczeństwa Rzeszy. Urząd ten podlegał SS i był odpowiedzialny za wszystkie organy policyjne i bezpieczeństwa. Gestapo odegrało kluczową rolę w przygotowaniu i przeprowadzeniu deportacji Żydów, Sintizze, Sinti, Romnija i Romów do obozów koncentracyjnych i obozów zagłady.

Dr Hans Buttersack pracował jako prawnik w Wiesbaden od 1909 roku. Był narodowym konserwatystą, liderem okręgu "Stahlhelm", a w 1933 r. opowiedział się za NSDAP. Odrzucił jednak integrację "Stahlhelmu" z SA, przez co był kilkakrotnie aresztowany i poddawany presji. "Stahlhelm" został ostatecznie rozwiązany pod koniec 1935 roku. Dr Buttersack ponownie znalazł się na celowniku Gestapo w 1938 roku. Najpierw został uwięziony za obraźliwe zachowanie, a następnie na siedem tygodni za krytyczne wypowiedzi wobec reżimu, w tym w więzieniu policyjnym Friedrichstraße. W tym czasie był kilkakrotnie przewożony na przesłuchania na Paulinenstraße. Został ponownie aresztowany 6 maja 1943 r. Dr Hans Buttersack był odważnym działaczem Kościoła Wyznającego. Pomagał również Żydom jako doradca prawny, chociaż ustawa o obywatelstwie Rzeszy z 27 września 1938 r. zastrzegała to wyłącznie dla tak zwanych żydowskich doradców. Żydowscy prawnicy zostali wykluczeni z zawodu prawnika w 1938 roku. Reżim nazistowski zezwolił kilku z nich na kontynuowanie pracy w charakterze doradców. 28 maja 1943 r. Buttersack został wysłany do obozu koncentracyjnego w Dachau. Zmarł tam na tyfus 13 lutego 1945 roku.

Zagraniczni robotnicy przymusowi byli również monitorowani przez Gestapo. Specjalnie utworzony wydział był odpowiedzialny za karanie robotników przymusowych. Nawet za najmniejsze przewinienia mogli oni zostać wysłani do tzw. obozów wychowawczych. Mogli również zostać ukarani niezwykle surowo, w niektórych przypadkach śmiercią, bez procesu. Gestapo było również odpowiedzialne za te procesy i egzekucje. W tym celu w siedzibie głównej we Frankfurcie znajdowała się nawet mobilna szubienica.

Na początku 1945 roku budynek został zniszczony przez bombardowania, a biuro zostało przeniesione na Mainzer Straße 14.