Østrigsgades Skole blev oprettet som friskole i 1906. I 1915 blev skolen kommuneskole da Borgerrepræsentationen besluttede, at der ikke mere skulle betales for skolegang, og skellet mellem fri- og betalingsskoler forsvandt.
Den 31. marts 1945 blev skolen beslaglagt af den tyske besættelsesmagt, der benyttede den til at huse tyske flygtninge. Skolen blev atter rømmet den 14. januar 1946.
I år 2000 gennemgik skolen en ombygning til 30 mio. kr.
1. august 2008 blev Østrigsgades Skole og Sundpark Skole slået sammen til Lergravparkens Skole.