Desde 1874, el consejo municipal de Wiesbaden venía debatiendo la construcción de un nuevo cementerio, conocido posteriormente como Cementerio del Norte. El emplazamiento, un estrecho y alargado risco entre Nerotal y Adamstal, en la zona del distrito forestal de Höllkund, era propiedad de la ciudad. De este modo se eliminaban los costes que habría supuesto la ampliación del antiguo cementerio mediante la compra de terrenos. Otra razón para la elección del nuevo cementerio fue el creciente desarrollo urbano: ya era previsible que la ciudad se expandiera rápidamente hacia el norte. Por razones higiénicas, desde la Ilustración la gente prefería los cementerios fuera de las zonas habitadas. Sin embargo, la población se quejaba del largo viaje y de los elevados costes de los coches fúnebres. Cuando se construyó el cementerio, la zona estaba en gran parte deforestada. El producto de la venta de la madera se utilizaba para sufragar otros gastos. Sin embargo, no había dinero suficiente para una sala de duelo: la sala de duelo del antiguo cementerio se utilizó hasta 1957, y sólo entonces se construyó un nuevo edificio.

Cuando se inauguró en 1877, el Cementerio Norte aún tenía un aspecto bastante desnudo, mientras que hoy la literatura reconoce "la pintoresca interacción de la naturaleza circundante, el paisajismo y un gran número de tumbas verdes e históricas". El carácter del Cementerio Norte viene determinado por plantaciones posteriores; de la época anterior a su trazado sólo quedan algunas hayas y robles. Gracias a su valiosa población arbórea, que incluye una proporción muy elevada de árboles de la vida y cipreses, el cementerio se convierte en una especie de jardín paisajístico, un "bello lugar de luto", que pretende reconciliar el pensamiento con la muerte.

En una superficie total de 14,5 hectáreas, 85.000 personas encontraron su última morada, entre ellas numerosas personalidades conocidas, como el compositor y director de orquesta Franz Abt, el escritor Friedrich von Bodenstedt, industriales y políticos de Wiesbaden.

En 1878, se estableció un cementerio israelita ortodoxo en el lado este y un cementerio israelita liberal en el extremo norte, con una sala de duelo de estilo morisco. En 1890, el cementerio se amplió aproximadamente la mitad de su longitud anterior. En 1895 se construyó un columbario para enterramientos en urnas, y en 1902 se construyó una nueva sala de urnas según los planos del arquitecto municipal Felix Genzmer.

El diseño arquitectónico y paisajístico, así como el gran número de lápidas artísticamente significativas, hicieron que el cementerio en su conjunto fuera objeto de una orden de conservación. Los ciudadanos o las organizaciones pueden apadrinar aquí lápidas catalogadas. El actual Cementerio del Norte es el segundo cementerio más grande de Wiesbaden y el antiguo cementerio principal de la ciudad.