Der Eisenbahnersohn Rudolf Sigmund erlernte das Mechanikergewerbe, schloss sich schon als Jugendlicher den Sozialdemokraten und der Gewerkschaft an, wurde 1926 Sekretär der Metallarbeitergewerkschaft und 1928 Redakteur der "Metall- und Bergarbeiterzeitung". Sigmund war – neben Rosa Jochmann und Franz Rauscher – auch Teilnehmer des ersten Jahrganges der Arbeiterhochschule, der vom 17. Januar bis 17. Juli 1926 stattfand.

1934 wurde Sigmund wegen seiner Gesinnung entlassen und baute sich eine selbständige Existenz als Transportunternehmer auf. In der Zeit der Illegalität hielt er engen Kontakt zu Aktivisten des Widerstands, die er mit Transportleistungen, aber auch finanziell unterstützte.

Im Mai 1945 wurde Sigmund zum Bezirksvorsteherstellvertreter in Währing berufen, von Juli 1945 bis April 1946 war er kurzzeitig auch Bezirksvorsteher. Sigmund gehörte von 1945 bis 1969 dem Gemeinderat an, und war von 1946 bis 1948 als Amtsführender Stadtrat für Ernährungswesen, von 1952 bis 1954 als Stadtrat für Personalwesen, von 1954 bis 1959 als Dritter Landtagspräsident und von 1959 bis 1968 als Stadtrat für allgemeine Verwaltungsangelegenheiten tätig. Von 1946 bis 1968 war Rudolf Sigmund auch Bezirksobmann der SPÖ Währing.

Die in den Jahren 1930/31 nach Plänen der Brüder Karl und Wilhelm Schön errichtete Wohnhausanlage der Gemeinde Wien, 18., Gersthofer Straße 75-77, wurde im November 2007 Rudolf-Sigmund-Hof benannt.