Der Jurist Josef Gerö war zunächst als Staatsanwalt tätig, dann von 1934 bis 1938 als Abteilungsleiter im Justizministerium. Nach 1938 wurde er mehrmals verhaftet.
Von 1945 bis 1949 und von 1952 bis 1954 amtierte der parteilose und von der SPÖ nominierte Justizfachmann zunächst als Staatssekretär, dann als Bundesminister für Justiz, und dazwischen als Präsident des Oberlandesgerichts Wien.
Der sportbegeisterte Gerö, der bereits von 1927 bis 1938 Präsident des Wiener Fußballverbandes war, wurde nach dem Zweiten Weltkrieg Präsident des Österreichischen Fußballverbandes und erster Nachkriegspräsident des wiedererrichteten Österreichischen Olympischen Komitees (ÖOC).
Die Gerögasse in Liesing wurde 1973 nach ihm benannt. Gerö war der Großvater von Thomas Blimlinger, Bezirksvorsteher in Neubau, und Eva Blimlinger, Rektorin der Akademie der bildenden Künste in Wien.