Am 17. Juli 1986 stimmten alle Fraktionen des Düsseldorfer Stadtrates für die Einrichtung einer „Mahn- und Gedenkstätte für die Opfer der nationalsozialistischen Gewaltherrschaft in Düsseldorf“ in Trägerschaft der Landeshauptstadt.
Dem vorausgegangen waren Jahre, in denen sich insbesondere der Düsseldorfer Jugendring, die Gewerkschaften, die Jüdische Gemeinde Düsseldorf, die Kirchen, die Vereinigung der Verfolgten des Nazi-Regimes (VVN) und der neu gegründete Landesverband Deutscher Sinti und Roma NRW für die Schaffung einer Gedenkstätte mit lokalhistorischem Schwerpunkt eingesetzt hatten. Ihr Engagement war durch Ereignisse in Düsseldorf stark geprägt: den großen Prozess vor dem Düsseldorfer Landgericht gegen Wachpersonal des Vernichtungslagers Majdanek (1975–1981), wiedererstarkende rechtsextreme Tendenzen und schließlich durch den Brandanschlag zweier Jugendlicher auf die Ruine der Synagoge in Gerresheim.

Die verschiedenen Akteure forderten für Düsseldorf einen aktiven Gedenkort, der ein würdiges Erinnern, Forschung mit konkretem Bezug auf Düsseldorf, eine Sammlungstätigkeit und vor allem Bildungsarbeit zum Nationalsozialismus umfassen sollte.
Die Gedenkstätte sollte dazu eine Dauerausstellung erhalten und allen Opfern des Nationalsozialismus in der Stadt gewidmet werden.

Die Suche nach einem geeigneten Ort führte schließlich in das Herz der Altstadt, in das historische Stadthaus an der Mühlenstraße. Dort wurde die Mahn- und Gedenkstätte am 17. September 1987 mit der ersten Dauerausstellung „Verfolgung und Widerstand in Düsseldorf 1933 bis 1945“ eröffnet.

Von Anfang an verstand sich die Gedenkstätte als ein Ort des Forschens, des Lernens, des Gedenkens und des Bewahrens zur Geschichte des Nationalsozialismus in Düsseldorf. Dabei standen und stehen bis heute ganz besonders die Lebensgeschichten der Düsseldorferinnen und Düsseldorfer im Mittelpunkt, die von den Nationalsozialisten zwischen 1933 und 1945 verfolgt wurden. Dies schlug sich in mehr als 371 lebensgeschichtlichen Interviews mit Zeitzeuginnen und Zeitzeugen weltweit und einer umfassenden Sammlung an persönlichen Dokumenten, Briefen und Fotografien nieder.

Dieser Sammlungsschwerpunkt erlaubte es, im Mai 2015, nach mehrjährigen umfassenden Renovierungs- und Erweiterungsarbeiten, mit der neuen Dauerausstellung „Düsseldorfer Kinder und Jugendliche im Nationalsozialismus“ die Museumsräumlichkeiten neu zu eröffnen.

Die Dauerausstellung wird kontinuierlich durch temporäre Sonderausstellungen ergänzt, die sich mit Teilaspekten des Themas Nationalsozialismus aus künstlerischer oder informativer Perspektive auseinandersetzen (siehe Kalender).

Die Wurzeln des historischen Stadthauses an der Mühlenstraße reichen zurück in das 17. Jahrhundert als der damalige Herzog Wolfgang Wilhelm zu Jülich und Berg dem Jesuitenorden erste Teile des Grundstücks übergab, auf denen sich heute das Stadthaus befindet. Das Stadthaus wuchs durch die Jahrhunderte. 1901 wurden schließlich die Teile angebaut, in denen sich heute die Räumlichkeiten der Mahn- und Gedenkstätte befinden. Im 17. und 18. Jahrhundert beherbergte das Stadthaus neben dem Kloster des Ordens auch ein Jesuitenkolleg, eine Schule für Jungen und eine Sternwarte.

Nach der temporären Auflösung des Jesuitenordens 1773 wurde das Stadthaus zum Sitz der fürstlichen Regierung und Verwaltung. Dies war auch während der napoleonischen Zeit von 1806 bis 1813 weiterhin der Fall. Damals war Düsseldorf Teil des französischen Großherzogtums Berg. Als das Düsseldorfer Gebiet nach dem Wiener Kongress an Preußen fiel, erhielt das Regierungspräsidium des neu gebildeten Regierungsbezirks Düsseldorf hier seinen Standort.

1911 übernahm die Stadt Düsseldorf das Gebäude. Ab 1913 zogen nun zahlreiche städtische Ämter und verschiedene städtische Polizeidienststellen in das Stadthaus. Dies änderte sich nach dem Ersten Weltkrieg: Als das Reparationsproblem zwischen Deutschland und den alliierten Siegermächten ein beständiger Konfliktherd blieb und Düsseldorf im März 1921 besetzt wurde, ließ der französische Kommandant das Stadthaus im Oktober 1921 beschlagnahmen und bis Ende Juli 1925 durch die Militärbehörde nutzen.

Nach Ende der Besatzungszeit wurde im Juli 1926 die Düsseldorfer Polizei verstaatlicht. Sitz dieser neuen staatlichen Polizeiverwaltung wurde das Polizeipräsidium im Stadthaus an der Mühlenstraße 29/31. Unter der Leitung des Polizeipräsidenten Hans Langels, eines Anhängers der katholischen Zentrumspartei und der Weimarer Demokratie, modernisierte und restrukturierte sich die Düsseldorfer Polizei signifikant.
Doch als die Nationalsozialisten am 30. Januar 1933 an die Macht kamen, übernahmen sie auch das Polizeipräsidium innerhalb kürzester Zeit. Mit einem Funkspruch des kommissarischen preußischen Innenministers Hermann Göring wurde Polizeipräsident Langels Ende April 1933 abgesetzt und durch den vorbestraften SS-Führer Fritz Weitzel, einen 29-jährigen Schlossergesellen, ersetzt. Die Verhaftungen, Verhöre und Misshandlungen der ersten Monate gegen Kommunisten, Sozialdemokraten oder Gewerkschafter fanden im Präsidium an der Mühlenstraße statt. Hier wurde im April 1933 die Geheime Staatspolizei eingerichtet, die fortan gegen politische Gegner und die jüdische Bevölkerung Düsseldorfs vorging.

Doch schon während der Weimarer Republik hatten sich die Räumlichkeiten an der Mühlenstraße für den wachsenden Polizeiapparat als zu beengt erwiesen. So entstand der Neubau am heutigen Jürgensplatz, der Ende 1933/Anfang 1934 durch die Polizeiverwaltung bezogen wurde. Die freiwerdenden Räumlichkeiten des Stadthauses wurden erneut von städtischen Ämtern genutzt: dem Amt für Statistik und Wahlen, dem Zentralarbeiteramt, dem Liegenschaftsamt und dem Stadtpolizeiamt (heute Ordnungsamt). Sie alle waren während des Nationalsozialismus an den Verfolgungsmaßnahmen des Regimes in Düsseldorf beteiligt, so als Informationslieferanten, als Arbeitergeber oder Vermittler von Zwangsarbeitern und nicht zuletzt als Profiteure der sogenannten „Arisierungen“ jüdischen Besitzes.