Josef Scheu begann seine Berufslaufbahn als Chorsänger im Theater an der Wien, studierte am Konservatorium und wurde 1865 Hornist am Burgtheater. Bald stellten sich auch erste Erfolge mit eigenen Kompositionen ein.

"Unsterblich" wurde Josef Scheu jedoch mit dem Lied der Arbeit, das er nach einem Text von Josef Zapf komponierte und das am 29. August 1868 bei einer Arbeiterversammlung beim Zobel in Fünfhaus zum ersten Mal aufgeführt wurde. Ein Arbeiterchor hatte das Lied einstudiert, und die etwa 3.000 Besucher waren so ergriffen, dass sie während des Gesangs aufstanden und das Lied stehend zu Ende anhörten.

1868 gründete Josef Scheu auch eine Liedertafel im Arbeiterbildungsverein Gumpendorf, aus der 1878 der von ihm geleitete Arbeiter-Sängerbund Wien hervorging. 1890 wurde Josef Scheu Mitbegründer und Chorleiter der "Freien Typographia", des ersten Chores, bei dem auch Frauen mitwirken durften.

Josef Scheu war auch gewerkschaftlich tätig. 1872 gründete er die erste Interessensvertretung der Musiker, den "Wiener Musikerbund", und setzte lohn- und arbeitsrechtliche Verbesserungen durch. Wegen seiner gewerkschaftlichen und politischen Aktivitäten wurde er 1881 am Burgtheater zwangspensioniert und auch mehrmals verhaftet.

Josef Scheu, der seit 1895 auch als Musikkritiker der Arbeiter-Zeitung tätig war, schrieb zahlreiche Kompositionen, darunter seinerzeit sehr populäre Kampflieder der Arbeiterbewegung, einige davon auch nach Texten seines in England lebenden Bruders Andreas Scheu.

Die in den Jahren 1925/26 nach Plänen von Franz Wiesmann errichtete Wohnhausanlage der Gemeinde Wien, 11., Drischützgasse 5, wurde nach dem Begründer der Arbeitersängerbewegung Josef-Scheu-Hof benannt. Sein Grabmal am Wiener Zentralfriedhof stammt vom Bildhauer Richard Luksch (1872–1936). Seit 1919 trägt die frühere Goethegasse in Favoriten den Namen Scheugasse und im Jahr 2000 wurde eine Grünfläche in Wien 5., Bräuhausgasse in Scheupark benannt.

Josef Scheus älterer Sohn Robert Scheu (11.7.1873, Schönau / NÖ – 25.1.1964, Wien) war vielseitig als Journalist (Redakteur der Arbeiter-Zeitung, Mitarbeiter von "Fackel" und "Simplicissimus"), Schriftsteller und Essayist sowie als Kulturpolitiker tätig.

Sein jüngerer Sohn Gustav Scheu (7.10.1875, Wien – 9.3.1935, Wien) war Rechtsanwalt und von 1919 bis 1923 sozialdemokratischer Stadtrat in Wien. 

Gustav Scheu beschäftigte sich mit der Gartenstadtbewegung, nahm als juristischer Berater von Siedlungsgenossenschaften wesentlichen Anteil am Wohnbau in Wien und förderte zeitgenössische Künstler wie Adolf Loos, der für die Familie Scheu in der Larochegasse 3 in Hietzing sein berühmtes Terrassenhaus entwarf. Verheiratet war Gustav Scheu mit der Lyrikerin und Erzählerin Helene Scheu-Riesz (18.9.1880, Olmütz / Böhmen – 8.1.1970, Wien). 

Literatur: Susanne Blumesberger (Hrsg.), Helene Scheu-Riesz (1880-1970). Eine Frau zwischen den Welten, 2005; Richard Fränkel, 80 Jahre Lied der Arbeit, 1948.