1875 wurde in der Albrechtstraße das Kreisgerichtsgefängnis für 100 männliche und weibliche Gefangene eröffnet. Im gleichen Jahr wurde für die männlichen Häftlinge im Hof eine Arbeitsbaracke errichtet. Das benachbarte Justizgebäude wurde 1897 als neues Amts- und Landgericht fertig gestellt. Im Keller des Gebäudes befanden sich ebenfalls sieben Gefängniszellen.

Nach der Machtübernahme im Jahr 1933 begannen die Nationalsozialisten umgehend mit der sogenannten Gleichschaltung. Am 31. März 1933 wurde durch das „Vorläufige Gesetz zur Gleichschaltung der Länder mit dem Reich“ die kommunale Selbstverwaltung aufgelöst. Die Nationalsozialisten entfernten andersdenkende Beschäftigte aus dem öffentlichen Dienst.

Die Verfolgung von Regimegegnern oblag den Strafsenaten der Oberlandesgerichte sowie eigens geschaffener Sondergerichte. Der 1934 eingerichtete "Volksgerichtshof" war als oberster politischer Strafgerichtshof für die Verfolgung von "Hochverrat" und "Landesverrat", ebenso wie "Wehrkraftzersetzung" zuständig. Die Urteile waren endgültig. Seit 1936 bestand außerdem das Reichskriegsgericht; dieser höchste Militärgerichtshof des NS-Staates verfolgte nicht nur Strafsachen von militärischer, sondern auch von staatspolitischer Relevanz. Alle diese Gerichte verhängten viele tausend Todesurteile. Daneben wurden zahllose Menschen zu oft langjährigen Freiheitsstrafen verurteilt, nach deren Verbüßung sie nicht selten in eines der vielen Konzentrationslager eingewiesen wurden.

Während der NS-Zeit waren im Gerichtsgefängnis zahlreiche politisch, religiös und rassistisch Verfolgte inhaftiert. Beispielsweise wurden nach den Novemberporgromen am 10. November 1938 jüdische Männer hier eingesperrt. Bald darauf wurden sie im Beisein zahlreicher Zuschauer auf Lastwagen verladen, um in Konzentrationslager nach Buchenwald und Dachau verschleppt zu werden.

Allein wegen politischer Strafsachen waren im Nationalsozialismus mindestens 90 Männer und Frauen hier in Untersuchungshaft genommen worden, so auch zwischen 1941 und 1942 Georg Buch, der spätere Wiesbadener Oberbürgermeister und Präsident des Hessischen Landtages. Er war ein Dreiviertel Jahr hier interniert. Seine seit 1933 bestehende sozialdemokratische Widerstandsgruppe war Anfang 1941 enttarnt worden. Die gegen ihn vom Strafsenat des Oberlandesgerichts in Kassel am 13. März 1942 verhängte Gefängnisstrafe von zweieinhalb Jahren verbüßte er in den Strafanstalten Frankfurt-Preungesheim und Hanau. Danach wurde er noch in die Konzentrationslagern Hinzert und Sachsenhausen verlegt. Erst im Frühjahr 1945 ist er befreit worden.

Im Gerichtsgefängnis waren auch einige der im Zuge der reichsweiten Aktion "Gewitter" im Anschluss an den gescheiterten Umsturzversuch vom 20. Juli 1944 festgenommene Wiesbadener Regimegegner vorübergehend in Haft. Hierzu zählte unter anderem der vormalige Arbeitersekretär und Stadtverordnete beziehungsweise Stadtrat des Zentrums Ferdinand Grün, der 1946 für die CDU erneut ins Stadtparlament, auch in die Verfassungberatende Landesversammlung Groß-Hessen sowie in den Hessischen Landtag gewählt wurde.

1971 wurde das damalige Untersuchungsgefängnis endgültig geschlossen. 1996 erfolgte sein Abbruch.