Rådmandsgades Skole blev indviet den 24. august 1889. Samme måned blev skolen taget i brug som friskole. Eleverne blev overflyttet fra Charlottegades Skole, som samtidig blev betalingsskole. I 1915 blev skolen kommuneskole, da Borgerrepræsentationen besluttede at ophæve betalt skolegang og skellet mellem betalings- og friskoler bortfaldt.
Den 1. april 1945 blev skolen beslaglagt af de tyske besættelsestropper, som benyttede den til at huse tyske flygtninge. Eleverne blev undervist i midlertidige lokaler indtil december 1945, hvor man flyttede til Stevnsgades Skole. Rådmandsgades Skole genåbnede den 2. april 1946.
I perioden 2001-07 tilbød Rådmandsgades Skole ikke overbygningsklasser (8.-10. klasse), hvorfor eleverne gik på Heimdalsgades Overbygningsskole.