Voordat het gebouw een kunstmuseum werd, stond er een elegant treinstation voor in de plaats, waar miljoenen bezoekers naar Parijs gingen. Dit station stond bekend als Gare d'Orsay en het was de eerste geëlektrificeerde stedelijke railterminal ter wereld.