La bibliothèque a été fondée en 1813 par le gouvernement de Nassau sous le nom de "Herzoglich Nassauische Öffentliche Bibliothek". En 1814, la bibliothèque obtint le droit de dépôt légal pour Nassau. La base de la collection était constituée par la bibliothèque à main princière du château de Biebrich ainsi que par la bibliothèque gouvernementale de Nassau-Usingen (fondée en 1730). Jusqu'en 1822, des parties des bibliothèques des monastères de Nassau (Eberbach, Hadamar, Rommersdorf, Sayn, Schönau, Marienstatt), supprimées lors de la sécularisation, ont rejoint la bibliothèque, ainsi qu'une grande partie de la bibliothèque de la Haute Ecole (réformée) de Herborn. Au 19e siècle, la balnéologie constitua un certain point fort de la collection.

Avec l'annexion de Nassau par la Prusse, la bibliothèque devint en 1866 la "Bibliothèque royale de Wiesbaden". Le 1er avril 1900, elle passa sous l'administration de la ville de Wiesbaden et porta désormais le nom de "Nassauische Landesbibliothek". Le nom de "Städtische Bibliothek", proposé à plusieurs reprises à l'époque, n'a pas pu s'imposer et n'a été utilisé que temporairement pendant la Première Guerre mondiale. En 1938, le Bezirksverband für den Regierungsbezirk Wiesbaden (Bezirkskommunalverband Wiesbaden) devint le responsable de la bibliothèque ; avec l'intégration dans cette structure administrative fortement marquée par le national-socialisme, l'établissement perdit temporairement sa liberté scientifique et donc son rang de pôle d'attraction intellectuel dans la ville et la région. En 1953, le nouveau Land de Hesse en reprit la responsabilité.

En 1942 et 1943, les manuscrits les plus précieux, dont le codex "Scivias" de Rupertsberg de Hildegard von Bingen (XIIe siècle), furent transférés à Dresde ; ils y disparurent au tournant des années 1945/46. Hormis cette perte sensible, la bibliothèque survécut aux hostilités en grande partie intacte et connut une nouvelle période de prospérité pendant la longue période dirigée par Franz Götting.

Connue de 1963 à 2011 sous le nom de "Hessische Landesbibliothek", elle a été intégrée à l'université RheinMain en 2011 et forme aujourd'hui, avec l'ancienne bibliothèque de l'université de sciences appliquées, la "Hochschul- und Landesbibliothek RheinMain". Elle continue à fonctionner comme bibliothèque scientifique universelle avec un accent sur les ouvrages régionaux, mais fournit également aux étudiants des ouvrages de base.

La collection dite Nassovica (environ 55.000 titres, dont une partie considérable de littérature de Wiesbaden) constitue le cœur de la bibliothèque avec ses monographies, ses revues, ses journaux et ses cartes, souvent très rares, couvrant cinq siècles, et est constamment enrichie - entre-temps également par des médias électroniques. Actuellement, la bibliothèque conserve au total environ 815.000 volumes, dont 442 manuscrits et 445 incunables, parmi lesquels le "codex géant" de Hildegard von Bingen mérite une mention particulière. En 2004, la "Hessische Fachstelle für Öffentliche Bibliotheken" (jusqu'alors : "Staatliche Büchereistelle") a été intégrée en tant que département. La bibliothèque a d'abord été installée dans l'ancien château, avant de déménager en 1821 dans le palais du prince héritier de la Wilhelmstraße. Depuis 1913, elle est située dans la Rheinstraße.