Pendant la période nazie, la Paulinenstraße 9 abritait un service extérieur de la police secrète d'État (Gestapo) de Francfort-sur-le-Main. Les méthodes d'interrogatoire de la Gestapo s'apparentaient souvent à la torture. Les détenus subissaient parfois de graves blessures morales et physiques. Ainsi, des témoignages extorqués sous la menace d'une arme à feu ont été rapportés. La Gestapo y a notamment harcelé des membres de groupes de jeunes opposants. Plusieurs ecclésiastiques catholiques et protestants ainsi que des travailleurs forcés étrangers ont également été interrogés et maltraités dans le bâtiment de la Paulinenstraße 9.

Le régime nazi reposait notamment sur un vaste appareil de surveillance et de persécution policière. Dès le début, les opposants au régime et les juifs étaient dans le collimateur. Bientôt, d'autres minorités ont également été persécutées de manière raciste, comme les "étrangers à la communauté". Sous le régime nazi, des personnes pouvaient être arrêtées et envoyées dans un camp de concentration sans jugement ni possibilité d'appel. En 1936, le Reichsführer der SS, Heinrich Himmler, qui était déjà chef de la police politique et responsable des camps de concentration, a été nommé par Hitler chef de la police allemande. La police criminelle fut ainsi intégrée dans le champ d'action de la Gestapo, qui existait depuis 1933. La police était désormais étroitement liée à la SS sur le plan institutionnel. En 1939, la police de sécurité, c'est-à-dire la Gestapo et la police judiciaire, fut regroupée avec le service de sécurité de la SS dans ce que l'on appelle le Reichssicherheitshauptamt. Celui-ci dépendait de la SS et était responsable de tous les organes de police et de sécurité. La Gestapo a joué un rôle déterminant dans la préparation et l'exécution des déportations de Juifs et de Sinti, de Romnija et de Roms vers les camps de concentration et d'extermination.

Le Dr Hans Buttersack travaillait depuis 1909 comme avocat à Wiesbaden. De tendance nationale-conservatrice, il était le chef du "Casque d'acier" et s'est prononcé en 1933 pour le parti national-socialiste. Il s'opposa cependant à l'intégration du "Casque d'acier" dans la SA, ce qui lui valut d'être arrêté à plusieurs reprises et de subir des pressions. Le "Stahlhelm" fut finalement dissous fin 1935. En 1938, le Dr Buttersack fut à nouveau dans le collimateur de la Gestapo. Il fut d'abord emprisonné pour insultes, puis pendant sept semaines pour avoir tenu des propos critiques à l'égard du régime, notamment à la prison de la police de la Friedrichstrasse. Pendant cette période, il a été emmené à plusieurs reprises à la Paulinenstraße pour y être interrogé. Le 6 mai 1943, il fut à nouveau arrêté. Le Dr Hans Buttersack s'était engagé courageusement en faveur de l'Église confessante. En outre, il apportait son soutien aux Juifs en tant que conseiller juridique, bien que la loi sur la citoyenneté du Reich du 27 septembre 1938 réservât cette fonction exclusivement à ce que l'on appelait les "Jüdische Konsulenten" (conseillers juifs). Les avocats juifs avaient été exclus du barreau en 1938. Le régime nazi a permis à quelques-uns d'entre eux de poursuivre leur travail en tant que consultants. Le 28 mai 1943, Buttersack a été envoyé au camp de concentration de Dachau. Il y est décédé le 13 février 1945 des suites du typhus.

Les travailleurs forcés étrangers étaient également surveillés par la Gestapo. Un service spécialement créé à cet effet était chargé de punir les travailleurs forcés. Même pour des délits mineurs, ils pouvaient être envoyés dans des camps dits d'éducation au travail. Ils pouvaient en outre être punis extrêmement sévèrement, parfois jusqu'à la mort, sans procès. La Gestapo était également responsable de ces procédures ainsi que des exécutions. Une potence mobile était même conservée à cet effet au siège de Francfort.

Début 1945, le bâtiment a été détruit par les bombardements et le service a été transféré au 14 de la Mainzer Straße.