Der gelernte Automechaniker Josef Veleta war von 1948 bis 1955 als Angestellter der Wiener Gebietskrankenkasse tätig, wurde 1955 Landessekretär der Sozialistischen Jugend Wien und 1957 Bezirkssekretär der SPÖ Hernals. Von 1965 bis 1979 wirkte Veleta als Bezirksvorsteher von Hernals, von 1979 bis 1983 als Amtsführender Stadtrat für die Bereiche Vermögensverwaltung, städtische Dienstleistungen und Konsumentenschutz.

Der langjährige Bezirksparteivorsitzende der SPÖ Hernals (1980–1988) war von 1983 bis 1986 auch Abgeordneter zum Nationalrat und von 1986 bis 1990 Mitglied des Bundesrates.