Początki archiwum miejskiego w Wiesbaden owiane są tajemnicą. Jego historia początkowo charakteryzowała się poważnymi stratami dokumentów: duża część dokumentów miejskich padła ofiarą pożaru miasta w 1547 roku. Po grabieży dokonanej przez żołnierzy podczas wojny trzydziestoletniej, liczne dokumenty sądowe i faktury z XIV-XVII wieku zostały ostatecznie zniszczone w 1716 roku. Raz po raz nieliczne zbiory były niewłaściwie przechowywane i narażone na niekorzystne warunki atmosferyczne oraz niszczenie przez myszy.

Od XVI w. archiwum miejskie mieściło się w wieży zegarowej przy Marktstrasse, od 1873 r. na poddaszu starego ratusza, od 1880 r. w pomieszczeniu wieży kościoła Marktkirche, a od 1892 r. w nowym ratuszu.

Historycy Karl Rossel i Friedrich Otto położyli wielkie zasługi w jego zachowaniu i analizie. Rossel uporządkował istniejące archiwa w latach 1850-51 i uchronił dokumenty znajdujące się jeszcze w starym ratuszu przed dalszym zniszczeniem. Przeprowadzce do nowego ratusza towarzyszyło powołanie pierwszego archiwisty miejskiego, Christiana Spielmanna. 15 maja 1892 r. zaprezentował on publicznie w pełni wyposażone i skatalogowane archiwum.

Po śmierci Spielmanna w 1917 r. jego stanowisko nie zostało obsadzone, a wkrótce potem rozpoczęła się odyseja archiwum miejskiego, której ostatecznie towarzyszyła utrata dokumentów. Po umieszczeniu zbiorów w Bibliotece Państwowej w Nassau w latach 1924-33, magistrat przekazał je Archiwum Państwowemu wWiesbaden (Główne Archiwum Państwowe Hesji Wiesbaden) w uchwale o "zniesieniu archiwum miejskiego" z dnia 5 lipca 1933 roku.

Podczas II wojny światowej zostały one przeniesione do twierdzy Ehrenbreitstein niedaleko Koblencji oraz do pomieszczenia piwnicznego w szkole dla chłopców przy Hebbelstraße. Podczas gdy dokumenty te przetrwały wojnę bez szwanku, księgozbiory, które do tego czasu pozostawały w Bibliotece Państwowej, zostały zwrócone do ratusza w 1942 roku, gdzie padły ofiarą nalotu bombowego w lutym 1945 roku, w tym cała kolekcja gazet. Niemal wszystkie materiały pisane głównej administracji powstałe w okresie "Trzeciej Rzeszy" zostały albo celowo zniszczone na rozkaz nazistowskiego burmistrza Feliksa Piékarskiego przed wkroczeniem wojsk amerykańskich w marcu 1945 r., albo zaginęły, gdy administracja miasta została przeniesiona do centralnych Niemiec. Personel i tajne akta, które Piékarski zabrał ze sobą podczas ucieczki, zostały spalone w Bad Elster. Tylko garstka przedmiotów została zachowana i zwrócona do Wiesbaden po podpisaniu umowy kulturalnej między Republiką Federalną a NRD w 1986 roku.

Po II wojnie światowej nowo utworzone archiwum miejskie przez kilka lat korzystało z pomieszczeń przy Schützenhofstraße 4, a w 1949 r. zostało ponownie otwarte dla publiczności. W 1951 r. przeniosło się do odbudowanego w międzyczasie ratusza. Jednak jako instytucja zaczęło funkcjonować dopiero dzięki lokalnym zbiorom historycznym Ludwiga Gärtnera, które zostały zapisane miastu Wiesbaden w testamencie. Stanowiły one podstawę dzisiejszej biblioteki i zbiorów. Oryginalna kolekcja zdjęć archiwum miejskiego została jednak przeniesiona do muzeum miejskiego i tam pozostała. Kiedy w 1972 r. archiwum zostało przekazane krajowi związkowemu Hesji, ta obszerna i wysokiej jakości kolekcja również zmieniła właściciela. W 1978 r. archiwum ponownie przeniosło się do willi Humboldtstraße 6, gdzie duża część zbiorów musiała być przechowywana w wilgotnej piwnicy. Od końca 1989 r. archiwum miejskie korzysta z funkcjonalnie przebudowanej dawnej hali fabrycznej przy Im Rad 42.

Innym niezwykłym aspektem historii archiwum miejskiego jest jego powiązanie z innymi obszarami odpowiedzialności. Spielmann pracował nie tylko jako archiwista, ale także jako statystyk. W latach 1948-91 tak zwana biblioteka administracyjna, która zajmowała się wszystkimi zakupami książek dla administracji miasta Wiesbaden, była połączona z archiwum unią personalną. W 1987 r. rozpoczęto nowe katalogowanie zbiorów. W 2001 r. utworzono "cyfrowe archiwum multimedialne" w celu skatalogowania i kontynuacji zbiorów audiowizualnych. Wraz z założeniem Stowarzyszenia na rzecz Promocji Archiwum Miejskiego w Wiesbaden w 2005 roku, postawiono kolejne nowe akcenty.

Z Archiwum Miejskim związany jest dział "Praca w Miejscu Pamięci", który w szczególności koordynuje liczne działania związane z kulturą pamięci Wiesbaden, organizuje odpowiednie serie wydarzeń i opiekuje się miejscem pamięci obozu koncentracyjnego Unter den Eichen.