Nach dem Gemeinderatsbeschluss über den U-Bahn-Bau vom 17. November 1966 erfolgte der Baubeginn für die Wiener U-Bahn Anfang November 1969. Von der ersten U-Bahn-Idee bis zu dem Zeitpunkt, als am Karlsplatz die ersten Baumaschinen auffuhren, waren allerdings bereits mehr als 100 Jahre vergangen.
Schon 1858 hatte der Stadtplaner Ludwig Zettl vorgeschlagen, über dem Stadtgraben ein Gewölbe zu errichten und darin eine Pferdebahn auf Schienen anzulegen, die rings um die Stadt fahren sollte. Die Tunnel sollten eine Verbindung zwischen dem Zentralbahnhof und den Markthallen schaffen, mit Gaslicht beleuchtet werden und gleichzeitig als Lebensmittelmagazine dienen. 1883 sah ein Projekt der Firma Siemens und Halske eine Kleinprofilbahn vor. Der Bau scheiterte jedoch an der Sorge des Magistrats, das innerstädtische Geschäftsleben könnte dadurch beeinträchtigt werden.
Im Zuge der Regulierung des Donaukanals und des Wienflusses wurde der renommierte Architekt Otto Wagner mit der Planung eines neuen Eisenbahnsystems beauftragt, das nach den Vorstellungen des Militärs auch für Truppentransporte genutzt werden sollte.
Otto Wagners Stadtbahn wurde zwischen 1892 und 1901 errichtet und blieb ein Stückwerk, das noch dazu eher militärischen als stadtplanerischen Nutzen hatte und von der Bevölkerung, nicht zuletzt wegen des hohen Fahrpreises, nicht angenommen wurde. Die heutige U-Bahn basiert allerdings zu einem nicht unwesentlichen Teil (U4 und Teile der U6) auf diesem Eisenbahnsystem, das zum Zeitpunkt der Inbetriebnahme noch mit Dampflokomotiven betrieben wurde.
Die Dampfstadtbahn musste im Ersten Weltkrieg wegen Kohlenmangels eingestellt werden. Der Staat vermietete die Eisenbahnanlagen für dreißig Jahre an die Stadt Wien, unter der Bedingung, dass diese die Strecken elektrifizieren müsse.
1925 wurde die Stadtbahn als städtisches Verkehrssystem mit Straßenbahngarnituren auf der Wiental-, Donaukanal- und Gürtelstrecke in Betrieb genommen. Im Zweiten Weltkrieg wurden die Anlagen der Stadtbahn allerdings größtenteils zerstört, sodass der Vollbetrieb des gesamten Netzes erst 1954 wieder aufgenommen werden konnte.
Mit zunehmendem Wohlstand und der damit verbundenen Motorisierung wurde das Thema "U-Bahn" in den 1950er Jahren wieder aktuell. Die Stadtregierung lehnte die Errichtung einer U-Bahn vorerst jedoch als zu teuer ab und verlegte Teile des Straßenbahnnetzes in Tunnels. Der erste dieser Tunnels ging 1959 am Südtiroler Platz in Betrieb, weitere folgten 1966 an der Zweierlinie und 1969 am Südgürtel.
Die zunehmende Verkehrsproblematik veranlasste die Stadtregierung Mitte der 1960er Jahre jedoch dazu, die Planung für eine echte Wiener U-Bahn in Angriff zu nehmen.
In einer ersten Ausbauphase waren U1 (Reumannplatz bis Praterstern), U2 (Karlsplatz bis Schottenring, zum Teil auf der Trasse der Straßenbahn unter der "Zweierlinie") und U4 (als Umgestaltung der Stadtbahnstrecke zwischen Heiligenstadt und Hütteldorf) an der Reihe. Bedingt durch den Einsturz der Reichsbrücke im Sommer 1976 konnten die Arbeiten an der ursprünglich für später vorgesehenen U1-Verlängerung nach Kagran vorgezogen werden. 1976 wurde der Testbetrieb auf der Strecke zwischen Heiligenstadt und Friedensbrücke aufgenommen, und 1978 ging das erste Teilstück der komplett neu errichteten U1 in Betrieb.
Bereits im Februar 2010 wurde im Zuge einer Volksbefragung entschieden, dass die Wiener U-Bahn künftig in den Nächten vor Samstagen, Sonn- und Feiertagen auch nachts verkehren soll.
Im Jahr 2016 wurden der Bau der neuen Linie U5 und die Verlängerung der Linie U2 beschlossen. In einer ersten Baustufe wird die U2 vom Schottentor über Rathaus in Richtung 7., 6. und 5. Bezirk bis zum Matzleinsdorfer Platz verlängert. Die neue U5 wird zunächst vom Rathaus zur neuen Station Frankhplatz/Altes AKH gebaut und fährt ab der Station Rathaus auf der derzeitigen Trasse der U2 bis zum Karlsplatz. Die zweite Baustufe sieht für die U5 eine Verlängerung bis zum Elterleinplatz im 17. Bezirk und für die U2 bis zum Wienerberg im 10. Bezirk vor.