"La concurrence fait monter les affaires", cette phrase d'expérience commerciale s'appliquait également aux pères de la ville thermale de Wiesbaden, qui était devenue au XIXe siècle le point de rencontre du monde (de la noblesse et de la bourgeoisie en plein essor) pendant la saison. Les curistes voulaient être divertis et attendaient avant tout une chose : du changement. Le Neroberg pouvait jouer un rôle important à cet égard.

En effet, lorsque l'invention de la crémaillère par l'Alsacien Niklas Riggenbach (1817-1899) permit d'exploiter le chemin de fer en toute sécurité, même sur des pentes considérables, la voie était libre pour la construction et l'exploitation de chemins de fer de montagne. En 1884, le chemin de fer du Niederwald à Rüdesheim fut achevé. Assmannshausen suivit en 1886 et Bad Ems en 1887. Trois de ces moyens de transport attractifs dans les environs immédiats forcèrent les réflexions sur la desserte du Neroberg par un chemin de fer.

Il y eut un certain nombre d'intéressés, et finalement l'entrepreneur Carl Rudolph de Baden-Baden obtint, suite à sa demande du 26 août 1886, la concession pour l'exploitation d'un "chemin de fer à crémaillère et à câble métallique" sur le Neroberg. Le problème était toutefois que les conditions du terrain obligeaient à franchir la vallée de la Nero par un viaduc, au grand dam des habitants de Wiesbaden. Les critiques pouvaient se référer à l'empereur Guillaume II qui, lors d'une sortie à cheval, avait expressément reproché au paysage d'être défiguré par l'ouvrage de Rudolph.

Les travaux de construction commencèrent en mars 1888. L'ingénieur municipal Richter devait superviser les travaux. Il présenta aux mandataires de Rudolph une liste de défauts de deux pages. Même si les défauts étaient rapidement réparés, la ville restait méfiante. Et lorsque le surveillant des travaux de la ville, Baatz, informa par écrit son supérieur que la superstructure des rails n'était pas réalisée dans les règles de l'art, Richter se sentit obligé de faire une remarque mordante en marge : "Donc du rafistolage dès le départ".

Finalement, l'inauguration solennelle du chemin de fer de montagne a pu avoir lieu le 25 septembre 1888. Un somptueux repas réunit ensuite tous les participants à la construction dans le hall de la station supérieure. Le Tagblatt se délectait à transmettre à ses lecteurs l'on-dit selon lequel on avait au moins pu économiser sur l'eau de ballast, car les passagers descendaient plus difficilement qu'ils ne montaient quelques heures auparavant. Le coût de la construction s'est élevé à 222 352 marks au lieu des 100 000 marks initialement prévus.

D'un point de vue technique, il est intéressant de noter que le type de construction à câble métallique et crémaillère est exclusivement propulsé par un lest d'eau. Le réservoir de la voiture stationnée en amont ne contient que la quantité d'eau nécessaire à la remontée de l'autre voiture et de ses passagers depuis la station aval. Le Nerobergbahn franchit un dénivelé de 83 m sur une longueur de 438 m et une pente moyenne de 19 %.

Au cours du premier exercice 1888/89, près de 115 000 passagers ont été transportés. En 1889, le Bachsteinsche Consortium (depuis 1895 : Süddeutsche Eisenbahn-Gesellschaft) ouvrit le tramway à vapeur Nerotal-Rheinufer. Carl Rudolph attendait beaucoup de la coopération avec cette société. Mais dès le début, la collaboration entre les deux entreprises laissait à désirer. Il était notamment impossible de coordonner les horaires. Rudolph se résigna et vendit son chemin de fer au consortium, qui mit en service le train de montagne en janvier 1890. Les années suivantes se déroulèrent sans incident. Ce n'est que lorsque l'inflation des prix après la Première Guerre mondiale entraîna la chute de la monnaie et qu'un aller simple en train coûta 600 marks que la Süddeutsche Eisenbahn-Gesellschaft jeta l'éponge.

Le 1er avril 1925, l'exploitation fut transférée à la ville de Wiesbaden, qui céda le chemin de fer en 1942 aux Stadtwerke Wiesbaden AG nouvellement créées. Le chemin de fer de montagne survécut à la Seconde Guerre mondiale sans grands dommages. Après la fin de la guerre, les troupes d'occupation américaines ont réquisitionné le chemin de fer de montagne. Ce n'est qu'en 1947 que les Allemands purent à nouveau monter à bord. Dans les années qui suivirent, le téléphérique de l'arrière vallée de la Nero mena plus ou moins une existence dans l'ombre. Ce n'est que peu à peu que l'opinion s'est imposée que le chemin de fer représentait un excellent monument de l'histoire de la ville et de la technique. Entre-temps, l'ensemble de l'installation a été classé monument historique par le Land de Hesse.

Afin de montrer clairement à l'extérieur cette richesse historique, le "beige" fade des deux wagons du train a été remplacé par une couleur bleu et or correspondant aux couleurs de la ville. Le tout a été complété par les bannières du viaduc aux couleurs bleu-orange de Nassau. Le centenaire de 1988 a été célébré avec une grande affluence de public et la "fille de l'anniversaire" a été mise à rude épreuve : 25.000 visiteurs, dont les invités d'une cérémonie de mariage sur le téléphérique, ont été enregistrés dans les statistiques. Depuis, le Nerobergbahn et la fête du Nerobergbahn font partie des manifestations les plus appréciées des habitants de Wiesbaden. En 1998, une association des amis et promoteurs du Nerobergbahn a été créée. En 1999, la ville a cédé à celle-ci l'ancienne cabane de toilettes située à côté de la station aval, qui a été transformée en un petit musée du chemin de fer de montagne, l'un des célèbres "meubles urbains" de l'architecte de la ville Felix Genzmer.

Le bilan annuel 2010 a fait sensation : En raison d'une constellation de calendrier favorable, le Vendredi saint étant le jour traditionnel d'ouverture de la saison, d'un intérêt toujours croissant du public et, surtout, de l'engagement des collaborateurs, le nombre de personnes transportées a dépassé la barre des 250 000.