Die Anstalt hatte ihren Sitz zunächst in einem Haus der Bundesbahnen, 1., Gauermanngasse 2. Infolge Raummangels übersiedelte man bald in das Haus 6., Theobaldgasse 9. Da auch diese Lösung nicht optimal war, beschloss man, ein eigenes Gebäude zu errichten. Das Haus an der Linken Wienzeile wurde nach Plänen des Architekten Hubert Gessner in den Jahren 1910-12 errichtet – die fünf überlebensgrossen Drei-Figuren-Gruppen stammen von Anton Hanak – und konnte kurz vor Beginn des Ersten Weltkriegs, im Jahr 1913, bezogen werden.

Parallel dazu entwickelte sich durch das Bemühen der Gewerkschaften, für die die soziale Betreuung der Bediensteten ein Hauptanliegen darstellte, ein System von Unterstützungskassen, die nach Einführung des Arbeiterkrankenversicherungsgesetzes im Jahr 1888 in Betriebskassen umgewandelt wurden. Entsprechend der großen Anzahl von Unternehmen gab es im Jahr 1890 nicht weniger als 29 Eisenbahn-Betriebskrankenkassen; erst mit der zunehmenden Konzentration (und Verstaatlichung) kam es auch hier zu einer Konzentration der Krankenversicherungseinrichtungen.

So etwa konnte die "Krankenkasse der k. k. österreichischen Eisenbahnen", die selbst aus der "Kranken- und Unterstützungskasse für Bedienstete der k. k. Direktion für den Staatseisenbahnbetrieb in Wien" hervorgegangen war, ihre Versichertenzahl von 47.000 Personen im Jahr 1889 auf nahezu 220.000 Personen zu Beginn des Ersten Weltkriegs steigern.

Nach Kriegsende wurde die "Berufsgenossenschaftliche Unfallversicherungsanstalt der österreichischen Eisenbahnen", die mit dem Zerfall der Monarchie ihren Arbeitsbereich eingebüßt hatte, in ein einheitliches Unfallversicherungsinstitut für alle Eisenbahnbediensteten der jungen Republik umgewandelt. Maßgeblich daran beteiligt war Ferdinand Hanusch, Staatssekretär für soziale Verwaltung. Die neue Anstalt wurde "Unfallversicherungsanstalt der Eisenbahnen in der Republik Österreich" und schließlich "Unfallversicherungsanstalt der österreichischen Eisenbahnen" benannt.

Im selben Jahr, 1920, wurde auch die "Krankenversicherungsanstalt der Staatsbediensteten", die heutige "Versicherungsanstalt öffentlich Bediensteter", ins Leben gerufen. Für die Eisenbahner stellte sich die Frage, ob sie sich dieser zentralen Krankenversicherungsanstalt für die Staatsbediensteten anschließen oder die eigenen, berufsständisch ausgerichteten Krankenversicherungseinrichtungen beibehalten wollten. Schließlich entschloss man sich zum Ausbau der bestehenden Betriebskrankenkassen. Die neue "Krankenkasse der österreichischen Bundesbahnen" wurde geschaffen und ihre Satzung dem Leistungsniveau der Krankenversicherung der Bundesangestellten angepasst.

In der Ersten Republik zählte die Eisenbahnerkrankenversicherung zu den besten und leistungsfähigsten Krankenversicherungen ihrer Zeit – mit ein Grund, warum die Krankenversicherung der Eisenbahner von den Reformen in der allgemeinen Krankenversicherung nicht erfasst wurde, da diese keine Verbesserung dargestellt hätten.

Nach Ende des Zweiten Weltkriegs wurde durch das Bundesgesetz von 1947 bestimmt, dass die neu gegründete "Versicherungsanstalt der österreichischen Eisenbahnen" neben der Unfallversicherung ab 1. Januar 1948 auch die Kranken- und Invalidenversicherung durchzuführen habe.