Перед тем как 15 февраля 1936 г. Висбаденский фольксдойче был распущен, в 1934 г. городу Висбадену был передан весь фонд фольксдойче, включая небольшую коллекцию нот. Дата основания музыкальной библиотеки (ныне Висбаденская музыкальная библиотека) указана в отчете о 50-летнем юбилее: 28 апреля 1937 г. Коллекция на Рейнштрассе, насчитывавшая в то время около 1800 единиц нотного фонда, включала в основном ноты для фортепиано, голоса и фортепианные редукции."

Коллекция росла медленно. Только в 1953 году доктор Вольфганг Зихардт, музыковед и библиотекарь, был назначен специалистом по музыке на Шютценхофштрассе, где публичная и музыкальная библиотеки все еще располагались под одной крышей. Он руководил коллекцией до 1976 года и за это время каталогизировал около 9500 нот и 2600 нехудожественных книг. Уже в 1956 году он начал собирать коллекцию пластинок, которая сегодня является архивом музыкальной библиотеки. Под его руководством коллекция выросла до 15 250 единиц хранения.

Постоянное расширение требовало соответствующих помещений. В 1964 году музыкальная библиотека переехала в собственное помещение по адресу Bierstadter Str. 1, отдельно от публичной библиотеки.

После того как в 1976 году руководство библиотекой приняла Ута Штробель, в 1977 году состоялся очередной переезд на Гумбольдтштрассе, 6. Изысканная музыкальная коллекция была представлена на площади около 220 квадратных метров в классицистической вилле. Ноты, которые в то время можно было взять только через автоматы с книжными карточками, были реорганизованы в современную коллекцию открытого доступа; эта длительная работа была завершена только в 1991 году.

К 50-летию музыкальной библиотеки в 1987 году Ута Штробель начала собирать коллекцию компакт-дисков. Сегодня посетители могут выбрать из фонда, насчитывающего более 18 000 компакт-дисков. В 1992 году из-за нехватки места библиотеке пришлось снова переехать, на этот раз на улицу Зонненбергер, 14, рядом с Курхаусом и Гессенским государственным театром. На 600 квадратных метрах любители музыки могли найти то, что искали, в коллекции, которая к настоящему времени выросла до 47 000 единиц медиафайлов. Официально новое место рассматривалось как временное решение. Вскоре было объявлено о новом переезде. В ноябре 1999 года библиотека переехала на Шиллерплатц 1-2, в непосредственной близости от Висбаденской школы музыки и искусства, Висбаденской музыкальной академии, Управления культуры, Управления образования и Департамента культуры, на этот раз под руководством Клаудии Мониен (с 1995 года). С 2000 года здесь начался сбор данных для инвентаризации, который продолжался до лета 2005 года. С тех пор библиотечное программное обеспечение облегчило ежедневное заимствование и исследования, а также предлагает заинтересованным лицам услуги онлайн-каталога.

Сегодня музыкальная библиотека с ее богатой коллекцией нот, нехудожественной литературы и аудиовизуальных материалов, а также архивом записей является важным местом общения любителей и профессионалов из всех областей музыки. С 1998 года ключевую роль в этом успехе играет ассоциация поддержки музыкальной библиотеки "Prima La Musica".

В 2014 году музыкальная библиотека переехала в новое помещение в здании Мавританской медиатеки на Хохштеттенштрассе вместе с Центральной библиотекой городских библиотек Висбадена и Медиацентром.