Wiesbaden şehir arşivinin başlangıcı gizemle örtülüdür. Arşivin tarihi başlangıçta ciddi belge kayıplarıyla karakterize edilir: Kentin belgelerinin büyük bir kısmı 1547'deki şehir yangınına kurban gitmiştir. Otuz Yıl Savaşları sırasında askerler tarafından yağmalandıktan sonra, 14-17. yüzyıllara ait çok sayıda mahkeme belgesi ve fatura nihayet 1716 yılında yok edilmiştir. Elde kalan az sayıdaki belge ise defalarca uygunsuz bir şekilde depolanmış, olumsuz hava koşullarına ve farelerin tahribatına maruz kalmıştır.

16. yüzyıldan itibaren şehir arşivi Marktstrasse'deki saat kulesinde, 1873'ten itibaren eski belediye binasının çatı katında, 1880'den itibaren Marktkirche 'nin bir kule odasında ve 1892'den itibaren de yeni belediye binasında muhafaza edilmiştir.

Tarihçiler Karl Rossel ve Friedrich Otto bu arşivin korunması ve analiz edilmesine büyük hizmetlerde bulunmuşlardır. Rossel 1850-51 yıllarında mevcut arşivleri düzenlemiş ve halen eski belediye binasında bulunan belgeleri daha fazla tahrip olmaktan kurtarmıştır. Yeni belediye binasına taşınılmasıyla birlikte ilk belediye arşivcisi Christian Spielmann atanmıştır. Spielmann, 15 Mayıs 1892'de tamamen tefriş edilmiş ve kataloglanmış arşivi halka sundu.

Spielmann'ın 1917'de ölümünün ardından boşalan pozisyonu doldurulamadı ve kısa bir süre sonra şehir arşivi için belgelerin kaybolmasıyla sonuçlanan bir macera başladı. Arşiv 1924-33 yılları arasında Nassau Eyalet Kütüphanesi 'nde muhafaza edildikten sonra, 5 Temmuz 1933 tarihli "Şehir Arşivlerinin Kaldırılması" kararıyla Wiesbaden Eyalet Arşivi'ne(Hessen Ana Eyalet Arşivi Wiesbaden) devredilmiştir.

İkinci Dünya Savaşı sırasında Koblenz yakınlarındaki Ehrenbreitstein Kalesi'ne ve Hebbelstraße'deki erkek okulundaki bir mahzen odasına taşındılar. Bu belgeler savaştan zarar görmeden kurtulurken, o zamana kadar Devlet Kütüphanesi'nde kalan kitap koleksiyonları 1942'de belediye binasına iade edildi ve burada tüm gazete koleksiyonu da dahil olmak üzere Şubat 1945'teki bombardımanın kurbanı oldular. Ana yönetimin "Üçüncü Reich" döneminde oluşturduğu yazılı materyalin neredeyse tamamı, Mart 1945'te Amerikan birlikleri gelmeden önce Nazi belediye başkanı Felix Piékarski 'nin emriyle kasıtlı olarak yok edildi ya da şehir yönetimi Almanya'nın merkezine taşındığında kayboldu. Piékarski kaçarken yanında götürdüğü personel ve gizli dosyaları Bad Elster'de yaktırmıştır. Sadece bir avuç eşya korunabilmiş ve 1986 yılında Federal Cumhuriyet ile Doğu Almanya arasında imzalanan kültür anlaşmasının ardından Wiesbaden'e iade edilmiştir.

İkinci Dünya Savaşı'ndan sonra yeni kurulan şehir arşivi birkaç yıl boyunca Schützenhofstraße 4'teki odaları kullandı ve 1949'da tekrar halka açıldı. Arşiv 1951 yılında, o sırada yeniden inşa edilmiş olan belediye binasına taşındı. Ancak, Ludwig Gärtner'in vasiyetinde Wiesbaden şehrine miras bıraktığı yerel tarih koleksiyonları sayesinde bir kurum olarak yaşayabilir hale geldi. Bu koleksiyonlar bugünkü kütüphane ve koleksiyonların temelini oluşturmuştur. Ancak şehir arşivinin orijinal fotoğraf koleksiyonu şehir müzesine aktarıldı ve orada kaldı. Arşiv 1972 yılında Hessen eyaletine devredildiğinde, bu kapsamlı ve yüksek kaliteli koleksiyon da el değiştirdi. Arşiv 1978 yılında tekrar Villa Humboldtstraße 6'ya taşındı ve koleksiyonun büyük bir kısmı burada nemli bir mahzende saklanmak zorunda kaldı. Şehir arşivi 1989 yılının sonundan bu yana Im Rad 42 adresinde işlevsel olarak yeniden düzenlenen eski bir fabrika binasını kullanmaktadır.

Şehir arşivinin tarihinin bir diğer dikkat çekici yönü de diğer sorumluluk alanlarıyla olan bağlantısıdır. Spielmann sadece bir arşivci olarak değil, aynı zamanda bir istatistikçi olarak da aktifti. 1948-91 yılları arasında, Wiesbaden şehir yönetimi için tüm kitap alımlarını gerçekleştiren ve idari kütüphane olarak adlandırılan birim, arşivle kişisel bir birliktelik içindeydi. 1987'de arşivin yeni bir kataloglama çalışması başlatıldı. 2001 yılında, görsel-işitsel varlıkların kataloglanması ve devam ettirilmesi için bir "dijital multimedya arşivi" kuruldu. 2005'te Wiesbaden Kent Arşivi'ni Tanıtma Derneği'nin kurulmasıyla birlikte yeni hedefler belirlendi.

Şehir Arşivi'ne bağlı olan "Anma Alanı Çalışmaları" departmanı, özellikle Wiesbaden'in anma kültürünün sayısız faaliyetini koordine etmekte, ilgili etkinlik serilerini düzenlemekte ve Unter den Eichen toplama kampı anma alanıyla ilgilenmektedir.