Marcus Rubin blev født den 5. marts 1854 i København. Han bestod den statsvidenskabelige eksamen i 1874.
Fra 1883 var han leder af det nyoprettede Staden Københavns statistiske kontor. I 1896 tiltrådte han embedet som direktør for Statens statistiske bureau, som han beklædte i 6 år. Fra 1902 var han chef for skattedepartementet og Generaltolddirektør (fra 1905 med titlen Generaldirektør for Skattevæsenet).
Marcus Rubin udførte et betydeligt historisk forfatterskab. Han indførte moderne statistiske metoder i behandlingen af historisk materiale.