Wiesbaden era chiamata dai Romani "Aquae Mattiacorum", dal nome dei Mattiaci, una tribù di Chatti germanici che viveva qui e i cui membri presumibilmente si mescolarono presto con la popolazione celtica originaria. Tracce di insediamento nell'area della città sono state documentate già nel Neolitico, intorno al 3000 a.C.. Una prima postazione militare (fortificazione in terra) sull'Heidenberg può essere datata al tardo periodo augusteo, intorno al 6-15 d.C.; lo sviluppo di un insediamento civile romano iniziò un po' più tardi con l'espansione delle terme. Questo fu fortificato con un muro intorno al 370 - i resti di questo cosiddetto Heidenmauer sono visibili ancora oggi.

Alla fine del IV secolo, gli Alemanni assunsero la protezione di Wiesbaden come testa di ponte per Magonza e circa un secolo dopo i Franchi iniziarono a colonizzare la zona. La città era già sede di una corte reale in epoca merovingia e fu menzionata per la prima volta con il nome di "Wisabada" nell'828/30. A partire dal tardo Medioevo, Wiesbaden appartenne ai conti di Nassau. Nel XIII secolo fu temporaneamente una città imperiale fino alla sua distruzione da parte dell'arcivescovo di Magonza nel 1242. Nel 1547 e nel 1561, alcuni incendi distrussero quasi tutti gli edifici medievali. Anche la Guerra dei Trent'anni ebbe effetti devastanti. Tuttavia, a partire dal 1690, la città, che all'epoca contava solo 730 abitanti, fu ampliata e fortificata. Nel 1744, il principe Karl von Nassau-Usingen trasferì la sua residenza nel palazzo di Biebrich; Wiesbaden divenne la sede del governo del principato, poi del Ducato di Nassau (dal 1806 al 1866).

Nel XIX secolo, la città si sviluppò come centro termale internazionale. L'annessione di Nassau da parte della Prussia nel 1866 non fermò l'ascesa di Wiesbaden. Wiesbaden divenne la capitale di un distretto governativo e la casa di riposo preferita da ufficiali, alti funzionari e pensionati che vivevano della loro pensione o degli interessi sui loro beni. Il paesaggio urbano era caratterizzato da edifici residenziali di prestigio, palazzi alberghieri e ville eleganti. La popolazione crebbe rapidamente e superò i 100.000 abitanti nel 1905.

La Prima Guerra Mondiale, la successiva occupazione francese e britannica fino al 1930 e la Grande Depressione indebolirono notevolmente la forza finanziaria della città; anche l'incorporazione dei sobborghi nel 1926 e nel 1928 non cambiò di molto la situazione. Wiesbaden aveva perso il suo antico significato di "città termale mondiale".

A Wiesbaden si trovavano numerosi uffici del regime nazista di ingiustizia a partire dal 1933. Da qui furono deportati anche ebrei e sinti. Molti abitanti di Wiesbaden di vari colori politici furono perseguitati per essersi opposti al regime.

Dopo aver subito pochi danni durante la Seconda Guerra Mondiale, nel 1945 Wiesbaden divenne la capitale dello Stato dell'Assia, dove si insediarono, oltre agli uffici governativi, numerose case editrici, compagnie assicurative e imprese dell'industria cinematografica. Wiesbaden svolge anche un ruolo importante come città termale e congressuale e come uno dei luoghi preferiti per vivere nella regione del Reno-Meno.