1874 – 11 Jahre nach Baubeschluss – konnte der neue Zentralfriedhof endlich eröffnet werden. Mit rund 200.000 Quadratmetern war er zum damaligen Zeitpunkt der größte Friedhof Europas.

Bei der Wiener Bevölkerung blieb der neue, weit außerhalb der Stadt gelegene Friedhof lange Zeit unbeliebt. Seine Ausgestaltung kam erst unter Bürgermeister Karl Lueger (1895–1910) in Gang. Um dem Friedhof endlich ein "repräsentatives" Äußeres zu verleihen, wurde 1898 ein neuer Wettbewerb zur Gestaltung der Kirche und der Leichenhallen ausgeschrieben, aus dem zur allgemeinen Überraschung der erst 27jährige Max Hegele, ein Schüler des bekannten Architekten Carl Freiherr von Hasenauer, als Sieger hervorging.

Der Grundstein für die heutigen Ehrengräber am Zentralfriedhof wurde 1879 mit der "Verordnung zur Errichtung von Grabstätten zur Beerdigung hervorragender, historisch denkwürdiger Personen" gelegt.

Darunter befinden sich auch zahlreiche herausragende Persönlichkeiten der österreichischen Arbeiterbewegung:

In der unmittelbar vor der mächtigen Gedächtniskirche gelegenen Bundespräsidentengruft sind neben den sozialdemokratischen Politikern Karl Renner (1950), Theodor Körner (1957), Adolf Schärf (1965) und Franz Jonas (1974) auch die früheren Bundespräsidenten Rudolf Kirchschläger (2000), Thomas Klestil (2004) und Kurt Waldheim (2007) beigesetzt.

Links von der Kirche führt eine breite Allee zu einem großen Platz, an dem sich das 1948 enthüllte beeindruckende Mahnmal "Den Opfern für ein freies Österreich 1934–1945" des Bildhauers Fritz Cremer und des Architektenpaares Wilhelm Schütte und Margarete Schütte-Lihotzky befindet. Die drei Figuren sollen die Trauer (als verhüllte Frauengestalt), die Anklage (mit emporgestreckter Hand) sowie die Befreiung und die Hoffnung auf ein neues Leben symbolisieren. Die sieben Stufen stehen für die Jahre 1934 bis 1938, 1939, 1940, 1941, 1942, 1943, 1944/1945.

Ganz in der Nähe befindet das "Mahnmal für die Opfer des 15./16. Juli 1927", als nach den Fehlurteilen im "Schattendorfer Prozess" bei gewaltsamen Auseinandersetzungen zwischen demonstrierenden Arbeitern und der mit einem Schießbefehl ausgestatteten Polizei 86 Tote, darunter 81 Demonstranten, zu beklagen waren und der Justizpalast abbrannte. Am selben Platz erinnert außerdem ein Denkmal an die Opfer der tschechischen Widerstandsbewegung gegen die Nationalsozialisten.

Einen Besuch verdient auch die Aufbahrungshalle 3, die in den Jahren 1923/24 von Karl Ehn, dem Architekten des Karl-Marx-Hofes, errichtet wurde.

In Gruppe 40 findet sich die gemeinsame Grabstätte der mehr als 400 Bombenopfer der Jahre 1944/45 und – gegenüber – die Grabanlage der Widerstandskämpfer gegen das NS-Regime. Neben dem sehr schlichten Kreuz wurde Erde aus dem KZ-Buchenwald und Asche aus dem KZ-Auschwitz bestattet.

Am 21. April 2005 wurde von Bürgermeister Michael Häupl ein von Leopold Grausam gestaltetes neues Denkmal zu Ehren der Opfer der NS-Justiz enthüllt. Der Text der Gedenktafel lautet: Im Bereich der Gruppe 40 sind mehr als tausend Frauen und Männer beerdigt, die in der Zeit von 1938 bis 1945 von einer unmenschlichen NS-Justiz zum Tode verurteilt und im Wiener Landesgericht oder auf dem Schießplatz Kagran hingerichtet wurden. Sie bleiben unvergessen. 

In der Nähe des 3. Tores gelangt man zu einem großen Obelisken, der zu Ehren der Gefallenen des 13. März 1848 errichtet wurde, die zunächst am Schmelzer Friedhof (heutige Stadthalle und Märzpark) begraben waren, 1888 exhumiert und hierher umgebettet wurden.

Gegenüber liegt das von Hubert Gessner gestaltete und erst 1926 enthüllte Ehrengrab für Engelbert Pernerstorfer (1918), Victor Adler (1918), Otto Bauer (1938) und Helene Bauer (1942), Karl Seitz (1950) und Friedrich Adler (1960). Ganz in der Nähe (Gruppe 28) befindet sich das Mahnmal für die zivilen Opfer der Februarkämpfe von 1934 – etwa 200 Tote, Angehörige und Sympathisanten des sozialdemokratischen Schutzbundes. Daneben wurde ein Denkmal für jene Österreicher errichtet, die als Angehörige der internationalen Brigaden in den Jahren 1936–1939 im Spanischen Bürgerkrieg gefallen sind.