上海世界小学的历史可以追溯到 1936年，当时它以“世界学校”的名义由著名教育学者陶玄受和蔡元培先生创办，校址位于淮海中路1788号（原霞飞路1836号），是一所从幼儿园到高中的一贯制学校，隶属于世界社。1950年，学校改名为常熟区私立世界小学。抗战爆发后，陶玄离沪去重庆，学校由其妹陶觉负责，抗战胜利后，取消中学部，于1946年改名为上海世界小学，陶玄仍任校长。1956年，学校再次改名为徐汇区淮海中路第二小学，但在2008年10月18日，学校恢复了其原名——上海世界小学。
此外，世界上最早的学校据信是在公元前2100年左右的巴比伦苏美尔，称为泥板书舍，而中国最早的学校产生于夏朝，有考古发现证明的学校产生于商朝，最早的小学教育出现在殷周时代，西周时期，周天子建立了小学，这是我国最早的小学。