Rudolf Fischer besuchte nach der Übersiedlung der Familie nach Wiener Neustadt das dortige Humanistische Gymnasium und studierte anschließend Rechtswissenschaften an der Universität Wien, wo er sich auch den Sozialistischen Studenten anschloss.

Nach Ende seines Studiums war Rudolf Fischer, der seit 1926 auch der Sozialdemokratischen Arbeiterpartei angehörte, zunächst arbeitslos und verdiente seinen Lebensunterhalt durch Nachhilfestunden und als Esperanto-Lehrer. Er wurde dann in den Gerichtsdienst in Wiener Neustadt aufgenommen und erhielt 1933 eine Anstellung beim Magistrat der Stadt Graz.

Nach dem "Anschluss" wurde Rudolf Fischer ohne Pension in den Ruhestand versetzt. In dieser Zeit kam auch sein Sohn Heinz Fischer zur Welt. Er fand schließlich eine Anstellung als Versicherungsvertreter und übersiedelte nach Wien.

Nach 1945 war Rudolf Fischer zunächst im Ernährungsministerium, dann im Innenministerium tätig. 1954 wurde er zum Staatssekretär im Ministerium für Handel und Wiederaufbau berufen und gehörte somit jener Regierung an, in deren Amtszeit die Unterzeichnung des Staatsvertrages fiel. Ab 1958 war Fischer Sektionschef und Präsidialchef im Ministerium für Verkehr und verstaatlichte Unternehmungen, wo er bis zu seiner Pensionierung im Jahr 1973 tätig war.

Rudolf Fischer war auch Obmann der Sozialistischen Juristen im BSA, Obmann der Verkehrswissenschaftlichen Gesellschaft, langjähriges Mitglied der Österreichischen Naturfreunde und viele Jahre lang Obmann der Arbeiter-Esperantisten Österreichs.