Johann Pölzer wurde in einer Keuschlerfamilie geboren, musste schon mit sechs Jahren als Hüterbub arbeiten und wurde als Vierzehnjähriger in eine Schneidereilehre nach Wien geschickt, wo er in Kontakt zu den Ottakringer Sozialdemokraten kam.

Nach seiner Übersiedlung nach Favoriten engagierte er sich beim Aufbau der sozialdemokratischen Bezirksorganisation, die 1894 gegründet wurde.

Drei Jahre später wurde Pölzer zum Obmann der Bezirksorganisation Favoriten gewählt, die zu diesem Zeitpunkt nur 383 Mitglieder zählte und ziemlich verschuldet war. Ein Jahr später gab es bereits 1.500 Mitglieder und eine geordnete Parteikasse.

Johann Pölzer war als Politiker immer am Puls der Favoritner Bevölkerung, egal ob beim Greißler, im Wirtshaus, am Fußballplatz, in den Sektionen und Organisationen – Pölzer war überall. Nach dem plötzlichen Tod seiner Frau Amalie Pölzer, nach der das Amalienbad benannt wurde, im Jahre 1924 widmete er sich nahezu ausschließlich der Parteiarbeit. Führende Funktionäre der Partei wie Victor Adler, Otto Bauer und Karl Renner schätzten seine Meinung als "politisches Stimmungsbarometer" deshalb sehr.

Pölzer gehörte von 1908 bis 1919 dem niederösterreichischen Landtag, 1918 dem Wiener Gemeinderat und von 1919 bis 1934 dem Nationalrat an. Am 12. Februar 1934 befand er sich schwer krank im Spital. Nach dem Ausbruch der Kämpfe eilte er, trotz ärztlicher Warnung, nach Hause, brach dort zusammen und musste zurück ins Spital gebracht werden. Hier wurde er schließlich verhaftet und ins Inquisitenspital transferiert; wenige Wochen später war Johann Pölzer tot.

Die in den Jahren 1926/27 nach Plänen von Hugo Mayer errichtete Wohnhausanlage der Gemeinde Wien, 10., Dampfgasse 35-37, wurde 1949 Pölzerhof benannt.

Die Johann-Pölzer-Gasse in Favoriten und das zwischen 1964 bis 1967 errichtete Johann-Pölzer-Studentenheim, 20., Burghardtgasse 23, sind hingegen nach dem Vorsitzenden der Gewerkschaft der Gemeindebediensteten (1951–1963) und Nationalratsabgeordneten (1953–1963) Johann Pölzer junior (5.8.1903 Wien – 27.9.1964 Sittendorf), dem Sohn von Johann und Amalie Pölzer, benannt.