Rudolf Pöder erlernte den Beruf des Flugmotorenmechanikers und trat 1947 in den Dienst der Stadt Wien ein. Pöder engagierte sich schon früh in der Arbeiterbewegung und der Gewerkschaft; ab 1963 war er leitender Referent in der Gewerkschaft der Gemeindebediensteten, zu deren Vorsitzenden er 1975 gewählt wurde. 1979 wurde er auch ÖGB-Vizepräsident.

Pöder war von 1969 bis 1983 Mitglied des Wiener Gemeinderates bzw. Abgeordneter zum Wiener Landtag und von 1978 bis 1983 Vorsitzender des Wiener Gemeinderates.

1983 wechselte er als Abgeordneter in den Nationalrat. Hier engagierte sich Pöder v.a. in Fragen der Sozial- und Familienpolitik. Nach dem Rücktritt von Leopold Gratz wurde Rudolf Pöder im Februar 1989 dessen Nachfolger als Präsident des Nationalrates.

1991 trat Pöder in den Ruhestand und wurde als Nachfolger von Otto Rösch – und als Vorgänger von Karl Blecha – Präsident des Pensionistenverbandes Österreichs (bis 1999).