Der russische Wissenschaftler Leonid Petrowitsch Radin schrieb das Lied im Jahr 1896 während seiner Haft in einem zaristischen Gefängnis nach einer bekannten russischen Volksmelodie. Angeblich soll das im Original Smelo, towarischtschi, w nogu  (Tapfer, Genossen, im Gleichschritt) benannte Lied erstmals 1897 von politischen Häftlingen auf ihrem Marsch in ein anderes Gefängnis gesungen worden sein.

Während der russischen Oktoberrevolution wurde das Lied zur Hymne der Arbeiterbewegung. Der deutsche Dirigent Hermann Scherchen (1891–1966), ein überzeugter Kommunist, lernte das Lied 1917 in russischer Kriegsgefangenschaft kennen, schrieb daraufhin den deutschen Text und machte es nach seiner Rückkehr 1918 in Deutschland bekannt.

Erstmals öffentlich gesungen wurde das Lied am 21. September 1920 in Berlin. Es wurde bald zu einem der meistgesungenen Lieder der Arbeiterbewegung und zu einer der Parteihymnen der deutschen Sozialdemokraten. Weit verbreitet ist das Lied auch in Gewerkschaftskreisen.

Scherchens Nachdichtung war dreistrophig (das russische Original zählt sieben Strophen); während der Weimarer Republik entstanden eine vierte sowie eine fünfte Strophe, die allerdings nur von den Kommunisten gesungen wurde.