Der gelernte Hammerschmied Anton Weber brachte es durch "Rednergabe wie Organisationstalent" zum sozialdemokratischen Bezirkssekretär im südböhmischen Krumau, wohin ihn die Partei 1907 entsandte. Nach dem Ersten Weltkrieg wurde Weber Bezirksobmann in Floridsdorf und Sekretär der Wiener Organisation. Er gehörte ab 1918 dem Provisorischen Gemeinderat an, wurde 1919 Mitglied der konstituierenden Nationalversammlung und des Gemeinderates.

1922 wurde Anton Weber zum Amtsführenden Stadtrat für das Wohnungswesen gewählt, und das erste kommunale Wohnbauprogramm, das im Jahre 1923 mit 25.000 Wohnungen begonnen wurde, ist größtenteils auf seine Initiative zurückzuführen – inklusive der Errichtung von "Zubauten": Man braucht es wohl nicht zu sagen, wie wertvoll diese Zubauten für die Bewohner der Gemeindebauten sind. Oft genug entsteht das Wirtshausgehen ja gerade deswegen, weil in der Nähe der Wohnung keine gute Bibliothek, kein Vortragssaal und keine gediegene Unterhaltungsmöglichkeit besteht.

Nach dem Tod von Stadtrat Franz Siegel übernahm Anton Weber auch einen Teil des Stadtbauamtes. Während der gesamten Zeit seiner Amtstätigkeit galt sein besonderes Interesse der Siedlerbewegung, deren Mitbegründer er war. 1934 wurde Stadtrat Weber verhaftet und mit anderen sozialistischen Mandataren in das Lager Wöllersdorf gebracht.

Nach dem Zweiten Weltkrieg wurde Anton Weber 1945 mit der Führung der Geschäftsgruppe für Bauangelegenheiten im Wiener Gemeinderat betraut. Zunächst organisierte er mit Hilfe eines Fuhrparks aus notdürftig zusammengestellten Fahrzeugen die Schutträumung und den Transport von Nahrungsmitteln. Weber berief auch die große Enquete für den Wiederaufbau ein, deren wesentlichste Ergebnisse in den berühmten 14 Punkten für den Wiederaufbau veröffentlicht wurden.

In seinem Einleitungsreferat berichtete Baustadtrat Weber: Durch Luftangriffe und andere Kriegshandlungen wurden rund 21.000 Wiener Häuser zerstört oder beschädigt. Das sind 21 Prozent des gesamten Wiener Hausbestandes. Dazu kommen die Zerstörungen und Beschädigungen der meisten Industriebauten, der Wiener Bahnhöfe, Krankenhäuser, Schulen, Kirchen, Theater und anderer Kulturstätten sowie der Brücken, Wasserleitungs- und Kanalisationsanlagen usw. Es werden zuerst jene Schäden behoben werden, deren Beseitigung bei geringstem Material- und Arbeitsaufwand den größten Erfolg verspricht. 

Anton Weber gründete auch die Wiener Baubedarfsgesellschaft, die den Baufirmen Maschinen und Gerüste leihweise zur Verfügung stellte. Später organisierte er die Herstellung von Betondachziegeln und Fertigbeton-Deckenteilen aus Schleuderbeton. Nach seinem Ausscheiden aus der Tagespolitik widmete sich Anton Weber der Ausgestaltung der Baubedarfsgesellschaft, der er bis zu seinem Tode in leitender Position angehörte.