Преди Volksbildungsverein Wiesbaden да бъде разпуснат на 15 февруари 1936 г., целият фонд на Volksbüchereien е прехвърлен на град Висбаден през 1934 г., включително малка колекция от ноти. Датата на основаване на музикалната библиотека (сега Музикална библиотека на Висбаден) може да бъде открита в доклад за 50-годишнината ѝ: 28 април 1937 г. Колекцията в Рейнщрасе, която по това време се състои от около 1800 музикални единици, включва главно ноти за пиано, глас и клавирни съкращения."

Колекцията се разраства бавно. Едва през 1953 г. д-р Волфганг Сихардт, музиколог и библиотекар, е назначен за специалист по музика на улица Шютценхофщрасе, където обществената и музикалната библиотека все още се помещават под един покрив. Той управлява колекцията до 1976 г. и през това време каталогизира около 9500 нотни листа и 2600 нехудожествени книги. Още през 1956 г. той започва да изгражда колекция от грамофонни плочи, която днес е архивът на музикалната библиотека. Под негово ръководство колекцията се разраства до общо 15 250 единици носители.

Непрекъснатото разширяване изисква подходящи помещения. През 1964 г. музикалната библиотека се премества в собствено помещение на улица "Биерщадтер" 1, отделно от обществената библиотека.

След като през 1976 г. Ута Щробъл поема управлението, следващото преместване на библиотеката на Humboldtstr. 6 се осъществява през 1977 г. На около 220 кв. м в класицистична вила е представена изящна музикална колекция. Нотите, които по онова време могат да се заемат само чрез машини за книжни карти, са реорганизирани в модерна колекция със свободен достъп - продължителна задача, която е завършена едва през 1991 г.

По случай 50-годишнината на музикалната библиотека през 1987 г. Ута Щробъл започва да трупа колекция от компактдискове. Днес посетителите могат да избират от над 18 000 компактдиска. Отново основно ограниченото пространство принуждава библиотеката да се премести отново през 1992 г., този път на улица Sonnenberger 14, в близост до Kurhaus и Хесенския държавен театър. На 600 квадратни метра музикалните ентусиасти могат да намерят това, което търсят, в колекцията, която вече е нараснала до 47 000 медийни единици. Официално новото място се разглеждаше и като временно решение. Още в началото е обявено следващо преместване. През ноември 1999 г. библиотеката се премества на Шилерплац 1-2, в непосредствена близост до Училището за музика и изкуство във Висбаден, Музикалната академия във Висбаден, Службата за култура, Управлението за образование и Министерството на културата, този път под ръководството на Клаудия Мониен (от 1995 г.). От 2000 г. нататък тук започва събирането на данни за инвентаризацията, което продължава до лятото на 2005 г. Оттогава библиотечният софтуер улеснява ежедневното заемане и проучване, а също така предлага на заинтересованите членове на обществеността услугата онлайн каталог.

Днес музикалната библиотека с добре заредената си колекция от ноти, нехудожествени книги и аудиовизуални носители, както и архивът със записи, е важна точка за контакт за любители и професионалисти от всички области на музиката. Ключова роля за този успех от 1998 г. насам играе и сдружението за подпомагане на музикалната библиотека "Prima La Musica".

През 2014 г. музикалната библиотека се премести в новите си помещения в Маврицийската медиатека на Хохщетенщрасе заедно с Централната библиотека на градските библиотеки във Висбаден и Медийния център.