Les débuts des archives municipales de Wiesbaden sont obscurs. Son histoire est d'abord marquée par de graves pertes de documents : l'incendie de la ville en 1547 a fait disparaître une grande partie des documents municipaux. Après des pillages par des soldats pendant la guerre de Trente Ans, de nombreux documents judiciaires et factures datant du 14e au 17e siècle ont finalement été détruits en 1716. Les rares documents ont toujours été mal rangés et exposés à des conditions météorologiques défavorables ainsi qu'à des destructions dues aux souris.

Depuis le 16e siècle, les archives de la ville se trouvaient dans la tour de l'horloge de la Marktstrasse, depuis 1873 dans les combles de l'ancien hôtel de ville, depuis 1880 dans une pièce de la tour de l'église du marché et depuis 1892 dans le nouvel hôtel de ville.

Les historiens Karl Rossel et Friedrich Otto ont rendu de grands services à sa conservation et à son exploitation. Rossel a classé les archives existantes en 1850-51 et a sauvé de la destruction les documents qui se trouvaient encore dans l'ancien hôtel de ville. Le déménagement dans le nouvel hôtel de ville fut lié à l'embauche du premier archiviste de la ville, Christian Spielmann. Le 15 mai 1892, il présenta au public les archives entièrement aménagées et répertoriées.

Après la mort de Spielmann en 1917, son poste ne fut pas repourvu et peu après commença pour les archives municipales une odyssée qui s'accompagna à nouveau de pertes de documents. Après que les fonds aient été déposés à la bibliothèque régionale de Nassau en 1924-33, la municipalité les transmit aux archives d'État de Wiesbaden(Hessisches Hauptstaatsarchiv Wiesbaden) par la décision de "suppression des archives municipales" du 05.07.1933.

Pendant la Seconde Guerre mondiale, ils furent transférés dans la forteresse d'Ehrenbreitstein près de Coblence ainsi que dans une cave de l'école de garçons de la Hebbelstraße. Alors que ces documents sortirent indemnes de la guerre, les collections de livres qui étaient restées jusqu'alors à la bibliothèque du Land furent ramenées en 1942 à l'hôtel de ville, où elles furent victimes du bombardement de février 1945, dont l'ensemble de la collection de journaux. Presque tous les documents de l'administration centrale créés sous le "Troisième Reich" ont été soit délibérément détruits sur ordre du maire nazi Felix Piékarski avant l'entrée des troupes américaines en mars 1945, soit perdus lors de la délocalisation de l'administration municipale dans la région d'Allemagne centrale. Piékarski a fait brûler à Bad Elster les dossiers personnels et secrets qu'il avait emportés lors de sa fuite. Seule une poignée de pièces a été conservée et rendue à Wiesbaden après la conclusion de l'accord culturel entre la République fédérale et la RDA en 1986.

Après la Seconde Guerre mondiale, les archives municipales nouvellement créées ont utilisé pendant quelques années des locaux dans la Schützenhofstraße 4 et ont été de nouveau accessibles au public en 1949. En 1951, elles s'installent dans l'hôtel de ville, reconstruit entre-temps. Mais ce n'est que grâce aux collections d'histoire locale de Ludwig Gärtner, léguées à la ville de Wiesbaden par son testament, qu'elles sont devenues une institution viable. Elles ont constitué la base de la bibliothèque et des collections actuelles. Le fonds photographique initial des archives municipales avait cependant été transféré au musée municipal et y était resté. Avec le transfert de ce dernier au Land de Hesse en 1972, cette vaste collection de grande qualité a également changé de propriétaire. En 1978, un nouveau déménagement eut lieu, dans la villa Humboldtstraße 6, où une grande partie du fonds dut être entreposée dans une cave humide. Depuis fin 1989, les archives municipales utilisent un ancien hall d'usine réaménagé de manière fonctionnelle, Im Rad 42.

Ce qui est également remarquable dans l'histoire des archives municipales, c'est leur lien avec des domaines d'activité étrangers. Spielmann ne travaillait pas seulement comme archiviste, mais aussi comme statisticien. De 1948 à 1991, la bibliothèque administrative, qui s'occupait de toutes les acquisitions de livres pour l'administration municipale de Wiesbaden, était liée aux archives en union personnelle. En 1987, le récolement des fonds a commencé. En 2001, des "archives numériques multimédias" ont été créées pour la mise en valeur et la poursuite des fonds audiovisuels. Avec la création de l'association pour la promotion des archives municipales de Wiesbaden en 2005, de nouveaux accents ont été posés.

Le service "Gedenkstättenarbeit" est lié aux archives municipales. Il coordonne notamment les nombreuses activités de la culture du souvenir de Wiesbaden, organise les séries de manifestations correspondantes et s'occupe du mémorial du camp de concentration Unter den Eichen.