Johann Stroh wurde in eine sozialdemokratische Familie geboren. Seine Kindheits- und Jugendjahre waren deshalb von den Brigittenauer Kinderfreunden, später von der Sozialistischen Arbeiterjugend geprägt, in der er bis 1934 in einer Reihe von Funktionen tätig war. Daneben war Stroh auch in der Arbeitersportbewegung aktiv, nicht zuletzt bei der Gründung des ersten Arbeitersegelfliegervereins "Sturmvogel" (1932).

Nach dem Februar 1934 schloss sich Johann Stroh der "Revolutionären Schutzbund- und Wehrsportgruppe" an, die sich später mit den Revolutionären Sozialisten vereinigte. Trotz vorübergehender Verhaftung im Jahr 1935 konnte er seine illegale Tätigkeit bis zu seiner Einberufung im Jahr 1938 fortsetzen. 1943 wurde Stroh wegen seiner Kontakte zu illegalen Gruppen in Berlin verhaftet und wegen "Feindbegünstigung" zu neun Jahren Zuchthaus verurteilt.

Nach seiner Rückkehr im Mai 1945 beteiligte sich Johann Stroh am Aufbau der neugegründeten SPÖ Brigittenau, wurde 1946 zum Bezirkssekretär gewählt, war von 1948 bis 1954 als Fürsorgerat tätig, von 1957 bis 1960 sowie von 1969 bis 1978 als Bezirksrat. 1959 wurde Stroh in den Wiener Gemeinderat gewählt, dem er bis 1969 angehörte. 1969 kehrte er als Brigittenauer Bezirksvorsteher (bis 1978) und 1970 als Bezirksobmann (bis 1972) ganz in die Bezirkspolitik zurück.