Pierwszym znanym miejscem przechowywania dokumentów miasta Wiesbaden była wieża zegarowa przy Marktstraße na początku XVI wieku. Jednak niszczycielski pożar miasta w 1547 roku zniszczył dużą część archiwów miejskich z okresu średniowiecza. Ponadto akta zostały zniszczone na początku XVIII wieku z powodu braku miejsca. Pozostałe archiwum pozostało w wieży zegarowej i zostało tymczasowo uporządkowane i zindeksowane przez Karla Rossela (1815-1872) w latach 1850/51.

Ponieważ Wiesbaden szybko rozwijało się w XIX wieku jako rozwijające się miasto uzdrowiskowe i mieszkalne, urbanistyczna odnowa miasta doprowadziła do wyburzenia wieży zegarowej w 1873 r. Archiwum początkowo mieściło się w pomieszczeniach na poddaszu Starego Ratusza (obecnie Urząd Stanu Cywilnego w Wiesbaden), od 1880 r. w jednym z pomieszczeń wieży kościoła rynkowego, a od 1892 r. ostatecznie w północno-wschodniej wieży Nowego Ratusza.

Po przeprowadzce do Nowego Ratusza istniejące dokumenty zostały uporządkowane przez pierwszego archiwistę miejskiego Wiesbaden Christiana Spielmanna (1861-1917) i uzupełnione zbiorami. Kiedy Spielmann objął urząd w 1892 r., Archiwum Miejskie Wiesbaden stało się nowoczesną instytucją miejską.

Po śmierci Spielmanna, Lothar Lüstner (1882-1955) przejął zarządzanie archiwum miejskim na cztery lata w 1920 roku. Z powodu braku miejsca nie było już możliwe przechowywanie wszystkich akt w ratuszu, których przybywało w wyniku nowoczesnej organizacji biur. Ponadto miasto znalazło się pod presją oszczędności w wyniku I wojny światowej i upadku działalności uzdrowiskowej. W 1924 r. podjęto decyzję o włączeniu archiwum miejskiego i jego historycznych zbiorów do Biblioteki Państwowej Nassau, która w 1913 r. otrzymała nowy funkcjonalny budynek przy Rheinstraße. W 1933 r. zbiory archiwalne zostały przeniesione do Archiwum Państwowego przy Mainzer Straße.

Podczas II wojny światowej najstarsze części archiwów miejskich zostały przeniesione wraz z archiwami państwowymi do twierdzy Ehrenbreitstein w Koblencji. W kwietniu 1944 r. pozostałości archiwum miejskiego przechowywano w piwnicy szkoły dla chłopców przy Hebbelstraße, aby chronić je przed nalotami.

Rejestr miejski, który zawierał głównie dokumenty z lat dwudziestych i trzydziestych XX wieku, pozostał w ratuszu. W wyniku nalotu z 2 lutego 1945 r. i celowego niszczenia akt w ostatnich tygodniach wojny, zasób dokumentów z czasów Republiki Weimarskiej i "Trzeciej Rzeszy" został poważnie zdziesiątkowany.

Po II wojnie światowej pomieszczenia przy Schützenhofstraße 4 służyły początkowo jako awaryjna siedziba archiwum miejskiego. W 1948 r. archiwista miejski Wilhelm Schauß (1896-1953) ponownie przejął zarządzanie archiwum. W 1951 r. archiwum przeniosło się do przebudowanego Nowego Ratusza, z dawnymi schronami przeciwlotniczymi w piwnicy służącymi jako główne repozytorium, a dr Herbert Müller-Werth (1900-1983) został kierownikiem archiwum miejskiego aż do przejścia na emeryturę w 1965 roku.

Od 1974 r. przez 25 lat archiwum kierował Günter Mischewski (1942-2006). Mischewski był również pierwszym specjalistą archiwistą przeszkolonym w Archiwum Federalnym, który pracował dla miasta Wiesbaden. Od 1978 r. do końca 1989 r. archiwum miejskie mieściło się w willi przy Humboldtstraße 6, zaprojektowanej przez Alfreda Schellenberga (1850-1932), ale zabytkowy budynek oferował niewystarczające możliwości przechowywania materiałów archiwalnych. W 1987 r. warunki pracy archiwum uległy znacznej poprawie dzięki utworzeniu dwóch dodatkowych stanowisk archiwistów. W 1991 r. archiwum miejskie rozpoczęło wydawanie własnej serii publikacji.

Ostatnia przeprowadzka Archiwum Miejskiego w Wiesbaden miała miejsce w 1990 roku. Po zainwestowaniu 2,5 miliona DM archiwum przeniosło się do dawnego zakładu produkcyjnego firmy drukarskiej Rotaprint pod nowym adresem "Im Rad 42". Od tego czasu archiwum miejskie dysponuje funkcjonalnymi biurami i pomieszczeniami magazynowymi, a także przestronnymi stanowiskami pracy dla użytkowników. Dobre połączenia komunikacyjne (przystanki ESWE "Kleinfeldchen-Stadtarchiv" i "Künstlerviertel-Stadtarchiv") oraz bezpłatny parking ułatwiają zwiedzanie.

Od początku lat dziewięćdziesiątych XX wieku Archiwum Miejskie jest również odpowiedzialne za miejsca pamięci i miejsca pamięci związane z historią narodowego socjalizmu w Wiesbaden. Obecnie to zadanie i edukacja historyczna są połączone w dziale miejsc pamięci.

W latach 1999-2019 dr Brigitte Streich przejęła zarządzanie archiwum miejskim i wraz ze swoim zespołem stworzyła archiwum miejskie jako miejsce spotkań i kultury poprzez liczne wystawy historyczne, współpracę z Kunstarche e.V., które również mieści się w budynku archiwum miejskiego, oraz różnorodny program wydarzeń. Od 2005 roku organizacja non-profit Verein zur Förderung des Stadtarchivs Wiesbaden e.V. wspiera pracę archiwum.

Katalogowanie zbiorów zostało przyspieszone od 2003 r., szczególnie w zakresie zdjęć, filmów i nagrań audio, dzięki utworzeniu oddzielnego działu "Archiwum Multimedialne". Jednocześnie poczyniono dalsze postępy w katalogowaniu i konserwacji akt. Publikacje z serii wydawniczej Archiwum Miejskiego oraz wydana w 2017 r. Encyklopedia miasta Wiesbaden wzmocniły historiografię dotyczącą historii stolicy kraju związkowego w perspektywie długoterminowej.

Obecnie dziesięciu stałych pracowników, a także personel projektowy i pomocniczy archiwum miejskiego odpowiada na około 3000 wniosków o korzystanie rocznie i opiekuje się około 350 użytkownikami w czytelni, dla których przeprowadza się ponad 1000 pobrań i repozycjonowania z około 6,2 km stosów. W 2020 r. około dwie trzecie dokumentów przechowywanych w archiwum miejskim zostało zindeksowanych, a tym samym udostępnionych zwiedzającym.

Oprócz materiałów archiwalnych archiwum miejskie posiada dużą kolekcję specjalnych formatów. Obejmują one - od 2021 r. - kolekcję map z około 21 500 mapami i planami, około 18 500 plakatów, około 6 000 pocztówek i fanfar, 1 700 rycin, 798 filmów i taśm audio, 406 innych nośników danych, takich jak CD-ROM, oraz około 104 000 zdjęć w postaci odbitek, slajdów, negatywów i płyt szklanych.

Od 2020 r. materiały archiwalne można również przeszukiwać przez Internet, a zamówienia do czytelni można składać online. W 2021 r. rada miasta zasadniczo zmieniła podstawę prawną prac archiwalnych z początku lat 90. XX wieku, statut archiwum stolicy kraju związkowego Wiesbaden oraz regulamin użytkownika.