Josef Srp erlernte den Beruf des Gürtlers, musste während des Zweiten Weltkrieges in der Deutschen Wehrmacht dienen und trat nach seiner Rückkehr aus der Kriegsgefangenschaft in den Dienst der Gemeinde Wien, wo er viele Jahre lang am Jugendamt in Ottakring tätig war. Bis zum Jahr 1950 war Srp auch Leiter der Wiener Roten Falken und Bundesvorstandsmitglied der Kinderfreunde.

1954 wurde Srp in die Bezirksvertretung gewählt, der er zunächst bis 1962 und dann wieder von 1973 bis 1979 angehörte. Von 1962 bis 1970 war Srp Mitglied des Gemeinderates, von 1970 bis 1979 Bezirksvorsteher von Ottakring, wo er sich um die dynamische Entwicklung des Bezirks in den 1970er Jahren große Verdienste erwarb.

Nach seiner Pensionierung war Srp weiterhin im Pensionistenverband aktiv. Die städtische Wohnhausanlage in Wien 16., Thaliastraße 113, erhielt 2010 den Namen Josef-Srp-Hof.