La Nassauische Sparkasse fue fundada por edicto de 22 de enero de 1840 con el nombre de "Herzoglich Nass. Landeskreditkasse" como banco estatal. El objetivo era crear posibilidades de crédito favorables para los habitantes del Estado federado, en particular para el reembolso de los diezmos. La refinanciación se realizaba a través de pagarés que devengaban intereses y depósitos de ahorro, a través de depósitos y a través de papeles que no devengaban intereses, los llamados Landeskreditkassenscheine, que se ponían en circulación como billetes de banco. A diferencia de los pagarés, los depósitos de ahorro, que podían cancelarse a corto plazo, estaban vinculados a límites máximos fijos y su objetivo principal era atraer a la población más pobre. El fisco se hacía cargo de todas las obligaciones de la institución financiera; todos los beneficios eran propiedad del Estado. Además, toda la organización estaba en manos del Estado. Se creó una dirección independiente para gestionar la organización. Las sucursales locales estaban situadas en cada uno de los 28 distritos administrativos, de modo que desde el principio se dispuso de una amplia red de sucursales. Durante la revolución de 1848/49, la Landeskreditkasse pasó a denominarse Landesbank por ley de 16 de febrero de 1849 y su ámbito de actividad se amplió. Entre otras cosas, se concedieron más créditos a los comerciantes, se descontaron letras de cambio y, para fomentar el ahorro, se aumentaron los tipos de interés de los depósitos de ahorro.

Tras la anexión de Nassau, el Landesbank se dividió en dos instituciones financieras: un Nassauische Landesbank y una Nassauische Sparkasse. El primero debía centrarse exclusivamente en el negocio de préstamos inmobiliarios. Las áreas de negocio importantes, como el mantenimiento de una cuenta corriente, la aceptación de órdenes de giro y comisiones, las operaciones en el mercado monetario y los tratos con otros bancos siguieron siendo competencia exclusiva del banco estatal prusiano. No fue hasta la Ley de bancos regionales de 16 de abril de 1902 cuando se levantaron muchas de estas restricciones. En 1911, el Nassauische Landesbank asumió también la función de centro de giros para las cajas de ahorros públicas del distrito administrativo de Wiesbaden. En 1913 se añadió una compañía de seguros de vida, en 1914 una compañía de seguros de guerra para atender a los supervivientes de los soldados caídos y en 1929 una sociedad de crédito hipotecario.

La institución hermana Nassauische Sparkasse se centró principalmente en el negocio de las cajas de ahorros. Entre las innovaciones introducidas a partir de mediados de los años 1880, cabe citar la autorización de cantidades de ahorro más elevadas, hasta un límite máximo de 30.000 marcos, así como la introducción de libretas de ahorro y la creación de cajas de ahorro escolares especiales. Los depósitos de ahorro se utilizaron provechosamente para préstamos remunerados, lo que inevitablemente provocó solapamientos con las actividades del Landesbank. Desde el punto de vista organizativo, ambas instituciones estaban estrechamente vinculadas. Tenían una dirección común, una sede común en el edificio de la Rheinstrasse, ocupado en 1863 y ampliado considerablemente en 1914-16, y en algunos casos también agencias comunes en el Estado. A partir de mediados de la década de 1880, se contrató a funcionarios del banco a tiempo completo y se amplió la red de sucursales en función de la demanda. Además, se crearon "centros de recaudación" voluntarios, que recibieron el nombre de "sucursales" en los años veinte, mientras que las "agencias" se denominaron "oficinas bancarias regionales" desde principios de siglo. Desde 1869, las dos instituciones sucesoras estaban dirigidas por la Kommunalständischer Verband des Regierungsbezirks Wiesbaden. Respondía de todas las obligaciones, pero también participaba en gran medida en los beneficios.

El Nassauische Landesbank y su asociado Nassauische Sparkasse sobrevivieron relativamente indemnes a la época nazi y a la Segunda Guerra Mundial, aunque no faltaron las reverencias verbales al régimen nazi. En 1945 se produjo una situación difícil con la división del distrito administrativo de Wiesbaden en las zonas americana y francesa, ya que esto también desgarró el territorio empresarial de las dos instituciones financieras. No obstante, la base empresarial común permaneció intacta. No obstante, hubo que establecer temporalmente una sede adicional en el banco regional de Oberlahnstein. Las dos instituciones financieras de Nassau pasaron más de 83 años bajo el paraguas de la asociación del distrito de Wiesbaden, que perdió temporalmente su fundamento democrático durante la época nazi y funcionó durante un tiempo como asociación provincial. Por ley de 7 de mayo de 1953, el Estado federado de Hesse disolvió la Kommunalständischer Verband a partir del 1 de junio de 1953 y creó una nueva estructura organizativa para su ámbito de responsabilidad. El Nassauische Landesbank fue transferido al Hessische Landesbank Frankfurt, la Nassauische Sparkasse siguió siendo una institución independiente, pero se le dio un nuevo garante en la forma del Estado de Hesse.

La Nassauische Sparkasse fue remunicipalizada en 1991. La propiedad se transfirió del Estado de Hesse a la Asociación de Cajas de Ahorros de Nassau, formada por las ciudades de Fráncfort y Wiesbaden, los distritos de Hochtaunus, Main-Taunus, Rheingau-Taunus y Limburg-Weilburg en Hesse y los distritos de Rhein-Lahn y Westerwald en Renania-Palatinado. Con excepción de la parte de Weilburg del distrito de Limburgo, sus distritos administrativos también forman la actual zona de actividad de la Nassauische Sparkasse. Abarca unos 4.200 km² y cuenta con dos millones de habitantes, lo que la convierte en la segunda mayor de las 438 cajas de ahorros alemanas.