Οι απαρχές του αρχείου της πόλης Wiesbaden καλύπτονται από μυστήριο. Η ιστορία του χαρακτηρίζεται αρχικά από σοβαρές απώλειες εγγράφων: ένα μεγάλο μέρος των εγγράφων της πόλης έπεσε θύμα της πυρκαγιάς της πόλης το 1547. Μετά από λεηλασίες από στρατιώτες κατά τη διάρκεια του Τριακονταετούς Πολέμου, πολλά δικαστικά έγγραφα και τιμολόγια του 14ου-17ου αιώνα καταστράφηκαν οριστικά το 1716. Ξανά και ξανά, τα λιγοστά αποθέματα αποθηκεύτηκαν ακατάλληλα και εκτέθηκαν σε δυσμενείς καιρικές συνθήκες και καταστροφές από ποντίκια.

Από τον 16ο αιώνα και μετά, το αρχείο της πόλης στεγαζόταν στον πύργο του ρολογιού στην Marktstrasse, από το 1873 στη σοφίτα του παλιού δημαρχείου, από το 1880 σε ένα δωμάτιο του πύργου της Marktkirche και από το 1892 στο νέο δημαρχείο.

Οι ιστορικοί Karl Rossel και Friedrich Otto προσέφεραν μεγάλες υπηρεσίες στη διατήρηση και την ανάλυσή του. Ο Rossel οργάνωσε τα υπάρχοντα αρχεία το 1850-51 και έσωσε τα έγγραφα που βρίσκονταν ακόμη στο παλιό δημαρχείο από την περαιτέρω καταστροφή. Η μετακόμιση στο νέο δημαρχείο συνοδεύτηκε από τον διορισμό του πρώτου δημοτικού αρχειοφύλακα, του Christian Spielmann. Στις 15 Μαΐου 1892, παρουσίασε το πλήρως επιπλωμένο και καταλογογραφημένο αρχείο στο κοινό.

Μετά τον θάνατο του Spielmann το 1917, η θέση του δεν καλύφθηκε και αμέσως μετά ξεκίνησε μια οδύσσεια για το αρχείο της πόλης, η οποία τελικά συνοδεύτηκε από την απώλεια εγγράφων. Αφού τα τεκμήρια στεγάστηκαν στην Κρατική Βιβλιοθήκη του Νασάου το 1924-33, ο δικαστής τα παρέδωσε στα Κρατικά Αρχεία του Βισμπάντεν(Hessian Main State Archives Wiesbaden) με το ψήφισμα για την "Κατάργηση του Αρχείου της πόλης" της 5ης Ιουλίου 1933.

Κατά τη διάρκεια του Δεύτερου Παγκοσμίου Πολέμου, μεταφέρθηκαν στο φρούριο Ehrenbreitstein κοντά στο Koblenz και σε ένα υπόγειο δωμάτιο του σχολείου αγοριών στην Hebbelstraße. Ενώ τα έγγραφα αυτά επέζησαν αλώβητα από τον πόλεμο, οι συλλογές βιβλίων που παρέμεναν μέχρι τότε στην Κρατική Βιβλιοθήκη επέστρεψαν στο δημαρχείο το 1942, όπου έπεσαν θύματα του βομβαρδισμού του Φεβρουαρίου 1945, συμπεριλαμβανομένης ολόκληρης της συλλογής εφημερίδων. Σχεδόν όλο το γραπτό υλικό της κεντρικής διοίκησης που δημιουργήθηκε κατά τη διάρκεια του "Τρίτου Ράιχ" είτε καταστράφηκε σκόπιμα με εντολή του ναζιστή δημάρχου Φέλιξ Πιεκάρσκι πριν από την επέλαση των αμερικανικών στρατευμάτων τον Μάρτιο του 1945 είτε χάθηκε όταν η διοίκηση της πόλης μεταφέρθηκε στην κεντρική Γερμανία. Ο Piékarski είχε κάψει στο Bad Elster το προσωπικό και τους μυστικούς φακέλους που πήρε μαζί του όταν διέφυγε. Μόνο μια χούφτα αντικείμενα διατηρήθηκαν και επιστράφηκαν στο Βισμπάντεν μετά την υπογραφή της πολιτιστικής συμφωνίας μεταξύ της Ομοσπονδιακής Δημοκρατίας και της ΛΔΓ το 1986.

Μετά τον Δεύτερο Παγκόσμιο Πόλεμο, το νεοσύστατο αρχείο της πόλης χρησιμοποίησε για λίγα χρόνια χώρους στην οδό Schützenhofstraße 4 και άνοιξε ξανά για το κοινό το 1949. Το 1951 μετακόμισε στο δημαρχείο της πόλης, το οποίο είχε εν τω μεταξύ ανοικοδομηθεί. Ωστόσο, έγινε βιώσιμο ως θεσμός μόνο χάρη στις συλλογές τοπικής ιστορίας του Ludwig Gärtner, οι οποίες κληροδοτήθηκαν στην πόλη του Βισμπάντεν με τη διαθήκη του. Αυτές αποτέλεσαν τη βάση της σημερινής βιβλιοθήκης και των συλλογών. Η αρχική φωτογραφική συλλογή του αρχείου της πόλης, ωστόσο, μεταφέρθηκε στο μουσείο της πόλης και παρέμεινε εκεί. Όταν παραδόθηκε στο κρατίδιο της Έσσης το 1972, αυτή η εκτεταμένη και υψηλής ποιότητας συλλογή άλλαξε επίσης χέρια. Το 1978, το αρχείο μεταφέρθηκε και πάλι στη Villa Humboldtstraße 6, όπου μεγάλο μέρος της συλλογής έπρεπε να αποθηκευτεί σε ένα υγρό υπόγειο. Από τα τέλη του 1989, το αρχείο της πόλης χρησιμοποιεί μια λειτουργικά ανακαινισμένη πρώην αίθουσα εργοστασίου στην Im Rad 42.

Μια άλλη αξιοσημείωτη πτυχή της ιστορίας του αρχείου της πόλης είναι η σύνδεσή του με άλλους τομείς ευθύνης. Ο Spielmann δεν δραστηριοποιήθηκε μόνο ως αρχειονόμος, αλλά και ως στατιστικολόγος. Από το 1948-91, η λεγόμενη διοικητική βιβλιοθήκη, η οποία χειριζόταν όλες τις αγορές βιβλίων για τη διοίκηση της πόλης του Βισμπάντεν, συνδέθηκε με το αρχείο με προσωπική ένωση. Το 1987 άρχισε μια νέα καταλογογράφηση των αποθεμάτων. Το 2001, δημιουργήθηκε ένα "ψηφιακό αρχείο πολυμέσων" για την καταλογογράφηση και τη συνέχιση των οπτικοακουστικών αποθεμάτων. Με την ίδρυση του Συλλόγου για την Προώθηση του Αρχείου της Πόλης του Βισμπάντεν το 2005, τέθηκαν περαιτέρω νέοι τόνοι.

Με το Αρχείο της πόλης συνδέεται το τμήμα "Εργασίες χώρων μνήμης", το οποίο συντονίζει ιδίως τις πολυάριθμες δραστηριότητες της κουλτούρας μνήμης του Βισμπάντεν, οργανώνει αντίστοιχες σειρές εκδηλώσεων και φροντίζει τον χώρο μνήμης του στρατοπέδου συγκέντρωσης Unter den Eichen.