Leopold Thaller trat bereits während seiner Lehrzeit als Schriftsetzer dem Verband Jugendlicher Arbeiter bei. 1913 kam er in das Sekretariat des Verbandes und wurde Redakteur des "Jugendlichen Arbeiters".
Nach der Teilnahme am Ersten Weltkrieg wurde Leopold Thaller 1919 Obmann des Verbandes und Vorsitzender der Internationalen Arbeitsgemeinschaft Sozialdemokratischer Jugendorganisationen und 1922 Leiter der Zentralstelle für das Bildungswesen. 1932 übernahm er die Funktion des Parteisekretärs. Im Februar 1934 wurde Thaller im Anhaltelager Wöllersdorf in "Schutzhaft" genommen, nach seiner Freilassung im August 1934 engagierte er sich bei den Revolutionären Sozialisten.
Im August 1944 wurde Leopold Thaller verhaftet und ins KZ-Dachau gebracht. Thaller überstand diese schwierige Zeit und stellte sich sofort nach der Befreiung im April 1945 der wiedergegründeten SPÖ-Bezirksorganisation Landstraße zur Verfügung.
Kein anderer Abgeordneter gehörte sowohl während der Ersten als auch während der Zweiten Republik so lange dem Wiener Gemeinderat an – von 1919 bis 1934 und von 1945 bis 1959.