El primer depósito conocido de documentos de la ciudad de Wiesbaden fue la torre del reloj de la Marktstraße a principios del siglo XVI. Sin embargo, el devastador incendio de la ciudad de 1547 destruyó gran parte de los archivos municipales de la Edad Media. Además, a principios del siglo XVIII se destruyeron archivos por falta de espacio. Los archivos restantes permanecieron en la torre del reloj y fueron organizados e indexados provisionalmente por Karl Rossel (1815-1872) en 1850/51.

El rápido crecimiento de Wiesbaden como ciudad balneario y residencial a lo largo del siglo XIX llevó a la demolición de la torre del reloj en 1873 como consecuencia de la renovación urbanística de la ciudad. Al principio, el archivo se alojó en las cámaras del ático del Ayuntamiento Viejo (actual Registro Civil de Wiesbaden), a partir de 1880 en una de las salas de la torre de la Iglesia del Mercado y desde 1892 finalmente en la torre noreste del Ayuntamiento Nuevo.

Tras el traslado al Nuevo Ayuntamiento, los documentos existentes fueron organizados por el primer archivero de la ciudad de Wiesbaden, Christian Spielmann (1861-1917), y completados con colecciones. Con la toma de posesión de Spielmann en 1892, el Archivo Municipal de Wiesbaden se constituyó así en una moderna institución municipal.

Tras la muerte de Spielmann, Lothar Lüstner (1882-1955) asumió la dirección del archivo municipal durante cuatro años en 1920. Debido a la falta de espacio, ya no era posible almacenar en el ayuntamiento todos los archivos, que aumentaban como consecuencia de la moderna organización de las oficinas. Además, la ciudad estaba sometida a presiones para economizar como consecuencia de la Primera Guerra Mundial y el declive del negocio de los balnearios. Por ello, en 1924 se tomó la decisión de integrar el archivo municipal y sus fondos históricos en la Biblioteca Estatal de Nassau, a la que se había dotado de un nuevo edificio funcional en la calle Rheinstraße en 1913. En 1933, los fondos del archivo se trasladaron a los Archivos Estatales de la Mainzer Straße.

Durante la Segunda Guerra Mundial, las partes más antiguas de los archivos municipales se trasladaron también a la fortaleza de Ehrenbreitstein, en Coblenza, junto con los archivos estatales. En abril de 1944, los restos de los archivos municipales se almacenaron en un sótano de la escuela de niños de la Hebbelstraße para protegerlos de los ataques aéreos.

El registro municipal, que contenía principalmente documentos de las décadas de 1920 y 1930, permaneció en el ayuntamiento. Como consecuencia del bombardeo aéreo del 2 de febrero de 1945 y de la destrucción deliberada de archivos en las últimas semanas de la guerra, el fondo de documentos de la República de Weimar y del "Tercer Reich" quedó gravemente diezmado.

Tras la Segunda Guerra Mundial, las dependencias de la calle Schützenhofstraße 4 sirvieron en un principio como cuartel de emergencia para el archivo de la ciudad. En 1948, Wilhelm Schauß (1896-1953), archivero de la ciudad, volvió a hacerse cargo de la gestión del archivo. En 1951, el archivo se trasladó al reconstruido Nuevo Ayuntamiento, con los antiguos refugios antiaéreos en el sótano como depósito principal, y el Dr. Herbert Müller-Werth (1900-1983) pasó a dirigir el archivo municipal hasta su jubilación en 1965.

A partir de 1974, Günter Mischewski (1942-2006) dirigió el archivo durante 25 años. Mischewski fue también el primer archivero especializado formado en los Archivos Federales que trabajó para la ciudad de Wiesbaden. Desde 1978 hasta finales de 1989, el archivo municipal estuvo ubicado en la villa de la calle Humboldtstraße 6, diseñada por Alfred Schellenberg (1850-1932), pero el edificio catalogado ofrecía unas instalaciones de almacenamiento inadecuadas para el material de archivo. En 1987, las condiciones de trabajo del archivo mejoraron notablemente con la creación de dos puestos adicionales de archivero. En 1991, el archivo municipal comenzó a editar su propia serie de publicaciones.

El último traslado del Archivo Municipal de Wiesbaden tuvo lugar en 1990. Tras una inversión de 2,5 millones de marcos, el archivo se trasladó a las antiguas instalaciones de producción de la imprenta Rotaprint, en la nueva dirección "Im Rad 42". Desde entonces, el archivo municipal dispone de oficinas y almacenes funcionales, así como de amplios puestos de trabajo para los usuarios. Las buenas conexiones de transporte público (paradas de ESWE "Kleinfeldchen-Stadtarchiv" y "Künstlerviertel-Stadtarchiv") y el aparcamiento gratuito facilitan la visita.

Desde principios de la década de 1990, el Archivo Municipal se encarga también de los monumentos y lugares conmemorativos de la historia del nacionalsocialismo en Wiesbaden. En la actualidad, esta tarea y la labor de educación histórica se agrupan en el departamento de Monumentos Conmemorativos.

De 1999 a 2019, la Dra. Brigitte Streich asumió la dirección del archivo municipal y, junto con su equipo, estableció el archivo municipal como lugar de encuentro y cultura mediante numerosas exposiciones históricas, la cooperación con Kunstarche e.V., que también tiene su sede en el edificio del archivo municipal, y un variado programa de actos. Desde 2005, la organización sin ánimo de lucro Verein zur Förderung des Stadtarchivs Wiesbaden e.V. apoya la labor del archivo.

La catalogación de los fondos se ha acelerado desde 2003, especialmente en el ámbito de las fotografías, las películas y las grabaciones de audio, gracias a la creación de un departamento independiente de "Archivo Multimedia". Al mismo tiempo, se ha seguido avanzando en la catalogación y conservación de los registros. Las publicaciones de la serie de publicaciones del Archivo de la Ciudad y la Enciclopedia de la Ciudad de Wiesbaden publicada en 2017 reforzaron a largo plazo la historiografía sobre la historia de la capital del Estado.

En la actualidad, los diez empleados fijos, así como el personal de proyectos y de apoyo del archivo municipal, responden a unas 3.000 solicitudes de uso al año y atienden a unos 350 usuarios en la sala de lectura, para los que se realizan más de 1.000 recuperaciones y reposiciones de los aproximadamente 6,2 kilómetros de estanterías. En 2020, alrededor de dos tercios de los documentos almacenados en el archivo de la ciudad estaban indexados y, por tanto, a disposición de los visitantes.

Además del material de archivo, el archivo municipal cuenta con una amplia colección de formatos especiales. Entre ellos se incluyen -a partir de 2021- una colección de mapas con unos 21.500 mapas y planos, unos 18.500 carteles, unas 6.000 tarjetas postales y desplegables, 1.700 grabados, 798 vídeos y cintas de audio, 406 otros soportes de datos como CD-ROM, y unas 104.000 fotografías en forma de impresiones, diapositivas, negativos y placas de vidrio.

Desde 2020, el material de archivo también puede consultarse a través de Internet y los pedidos para la sala de lectura pueden realizarse en línea. En 2021, la base jurídica del trabajo de archivo, que se remonta a principios de la década de 1990, los estatutos del archivo de la capital del estado federado de Wiesbaden y las normas de uso también fueron objeto de una modificación fundamental por parte del ayuntamiento.